Снимка: iStock

Nvidia пуска нова софтуерна платформа, която позволява на разработчиците на изкуствен интелект (ИИ) да задават защитни механизми за своите „агенти“ и да предотвратяват излизането им извън рамките на контролираната среда, пише CNBC.

Представянето на платформата Open Agent Safety на Nvidia в понеделник идва след съобщения от компании като OpenAI, Anthropic, Meta и Google за скорошни инциденти, при които модели с изкуствен интелект са излезли от изолираните си среди („пясъчници“) и са направили опити да хакнат други компании и да получат достъп до компютърните им системи.

Представител на Nvidia заяви пред журналисти по време на разговор в неделя, че платформата е можела да предотврати инцидента с Hugging Face, засегнал OpenAI през юли. Тогава модели на OpenAI излязоха от контролираната среда, получиха достъп до открития интернет и проникнаха в системите на Hugging Face – компания, която поддържа платформа с отворен код за разработчици.

„Всеки инцидент със сигурността е уникален и трябва да ги разгледаме подробно всичките“, каза Джъстин Боитано, вицепрезидент по корпоративните ИИ решения в Nvidia – компанията с най-висока пазарна стойност в света. „Доколкото ни е известно, Hugging Face съобщи за над 17 000 агента, атакуващи инфраструктурата им в продължение на дни и седмици.“

Nvidia заема централно място в бума на генеративния изкуствен интелект от пускането на ChatGPT преди почти четири години, тъй като графичните процесори на компанията са от решаващо значение за разработването на големи езикови модели и за ИИ услугите, предлагани от големите доставчици на облачни услуги (т.нар. hyperscalers).

Напоследък обаче главният изпълнителен директор Дженсън Хуанг се утвърди като ключова фигура в дебата за безопасността на ИИ, като твърди, че много от опасенията за сигурността всъщност са инженерни проблеми, които могат да бъдат решени чрез компютърни науки и разработване на продукти.

„Трябва да помислите какво е можело да се направи и какво е решението на проблема“, каза Хуанг в подкаст с Езра Клайн от The New York Times, публикуван миналата седмица по повод скорошните инциденти. „В бъдеще трябва да подобрите процесите си, така че да избегнете повторното възникване на подобни ситуации.“

*Материалът е с аналитичен характер и не е съвет за покупка или продажба на активи на финансовите и стоковите пазари.