Снимка: iStock

OpenAI заяви, че новият ѝ собствен процесор за изкуствен интелект Jalapeno е постигнал по-добри резултати от актуални чипове на Nvidia в тестове за скорост и енергийна ефективност, което може да помогне на компанията значително да намали разходите за работа на своите AI модели.

Според OpenAI Jalapeno е водил в две основни категории - количеството AI изчисления, които може да извършва спрямо използваната електроенергия, и скоростта, с която генерира отговори. Компанията е сравнила процесора с Nvidia GB300 - най-добре представящия се чип в публичната система за сравнителни тестове, използвана при оценката.

OpenAI планира да започне да използва Jalapeno за част от своите модели още по-късно през тази година като част от стратегията си да изгражда все по-голяма част от AI инфраструктурата си самостоятелно.

Ръководителят на подразделението за чипове Ричард Хо заяви, че новият процесор би трябвало да намали значително разходите, ако компанията успее да увеличи производството му и резултатите от тестовете се запазят и при реална употреба.

Jalapeno е разработен съвместно с Broadcom, която произвежда персонализирани полупроводници за различни клиенти. Партньорството между двете компании беше обявено миналата година, а през юни те съобщиха, че първата версия на чипа е била разработена за рекордно кратък период.

Едно от основните предимства на Jalapeno според OpenAI е комбинацията между висока пропускателна способност и ниско време за отговор.

Обикновено част от AI процесорите са оптимизирани за обслужване на огромен брой заявки едновременно, докато други се фокусират върху възможно най-бързото генериране на отговор. OpenAI твърди, че Jalapeno може да се представя силно и в двете направления.

Това би позволило на компанията да предлага различни конфигурации според нуждите на клиентите - по-ниска цена при масово обслужване или по-висока скорост при приложения, при които времето за отговор е критично.

Енергийната ефективност е друг важен фактор.

Jalapeno е постигнал силните си резултати при консумация от около 700 вата, което според OpenAI може да намали разходите за електроенергия в центровете за данни. Това е особено важно в момент, когато електрическата мощност и охлаждането се превръщат в едни от основните ограничения пред разширяването на AI инфраструктурата.

Тестовете обаче имат важни ограничения.

Jalapeno не е сравняван с най-новото поколение Vera Rubin на Nvidia, което едва започва да се доставя. Освен това процесорът на OpenAI не е предназначен за обучение на големи AI модели - област, в която Nvidia продължава да има силно технологично предимство.

Jalapeno е предназначен основно за т.нар. inference - фазата след обучението, когато моделът вече приема заявки от потребители, генерира отговори и изпълнява задачи.

Това разграничение е важно, защото резултатите не означават, че OpenAI вече разполага с директен заместител на всички процесори на Nvidia.

По-скоро компанията се опитва да намали зависимостта си от външни доставчици при огромния и бързо растящ обем от изчисления, необходим за използването на ChatGPT и останалите ѝ модели.

OpenAI вече използва и специализирани системи на Cerebras за част от натоварванията си. Според Хо Jalapeno може да работи с по-големи модели, но компанията няма намерение скоро да замени останалите си доставчици.

Причината е мащабът на необходимите изчислителни ресурси.

„Имаме толкова голяма нужда от изчислителна мощност, че сме подписали договори с много различни доставчици“, посочва Хо, като добавя, че тази стратегия ще продължи.

Компанията е тествала Jalapeno публично с един от по-малките си модели с отворен код, както и с модели на DeepSeek и Moonshot AI. Най-голямо предимство е било отчетено при Kimi на Moonshot - най-големия модел в публичните тестове.

Във вътрешни изпитания чипът е показал добри резултати и при някои по-големи модели на OpenAI, които все още не са пуснати публично. Според компанията това предполага, че архитектурата на Jalapeno става по-ефективна с увеличаването на размера и сложността на натоварванията.

OpenAI вече работи и по следващите поколения.

Втората версия на Jalapeno е в напреднал етап на разработка и се очаква дизайнът ѝ да бъде финализиран през следващите месеци. Компанията вече разработва концепциите и за трето поколение.

Целта е постепенно да бъдат намалени както капиталовите разходи за центрове за данни, така и потреблението на електроенергия при изпълнение на AI задачи.

Разработката на собствени чипове поставя OpenAI в същата посока като редица други технологични гиганти, които се опитват да ограничат зависимостта си от Nvidia чрез специализирани процесори.

Това обаче не означава прекратяване на отношенията с лидера на пазара.

Хо подчертава, че Nvidia продължава да бъде ключов партньор и че OpenAI все още има нужда от големи количества нейни процесори.

Значението на Jalapeno е по-скоро в постепенното разширяване на избора.

Ако OpenAI успее да произведе чиповете в достатъчно голям мащаб и реалните разходи се окажат значително по-ниски, компанията ще може да прехвърля част от inference натоварванията към собствен хардуер и да намали цената на всяка обработена заявка.

При бизнес, който обслужва огромен и постоянно растящ брой AI заявки, дори малко подобрение в разхода на електроенергия или цената на изчисленията може да се превърне в значително финансово предимство.

Засега обаче резултатите са предоставени от самата OpenAI и не показват превъзходство спрямо най-новото поколение чипове на Nvidia или при обучението на модели. Поради това Jalapeno е по-скоро първа сериозна стъпка към собствена AI инфраструктура, отколкото непосредствена заплаха за цялостната позиция на Nvidia на пазара.

*Материалът е с аналитичен характер и не е съвет за търговия на финансовите пазари.