Снимка: iStock

OpenAI заяви във вторник, че някои от нейните модели за изкуствен интелект, заедно с модели от друга лаборатория за изкуствен интелект, са били замесени в три несъобщени досега инцидента в киберсигурността, пише "Блумбърг".

„По време на скорошни оценки двама външни партньори за тестване идентифицираха инциденти, при които конфигурациите и контролите за тестване, комбинирани с усъвършенстващите се възможности на последните модели, позволиха активността на моделите да се разшири отвъд предвидените граници за тестване“, написа OpenAI в блог.

При първия инцидент модели от OpenAI, които участваха в кибер оценка, включваща достъп до отворен интернет, надхвърлиха определени граници и се опитаха да нарушат целите. Те не бяха успешни.

При другия инцидент моделите на OpenAI бяха подложени на различна кибер оценка и се възползваха от „неправилна конфигурация“ в тестовата среда, за да получат достъп до интернет и да експлоатират уебсайт.

"Тези нови инциденти са отделни от предварително разкрит случай", включващ Hugging Face, съобщи OpenAI.

Наскоро стана ясно, че разработени от OpenAI модели с изкуствен интелект са успели самостоятелно да пробият инфраструктурата на Hugging Face по време на изпитване на техните способности за кибератаки.

Компанията определя случилото се като безпрецедентен инцидент, който показва, че най-новото поколение модели вече може да открива уязвимости, да изгражда сложни вериги за атака и да получава достъп до външни системи с ограничена човешка намеса.

Сред тестваните модели е GPT-5.6 Sol, както и още по-мощен модел, който все още не е достъпен за потребителите. По време на оценката защитните ограничения са били намалени, за да може OpenAI да провери докъде се простират възможностите им в областта на киберсигурността.

Моделите са били поставени в изолирана тестова среда, която по замисъл не би трябвало да им позволява да достигат до интернет или до реални външни системи. Те обаче са открили уязвимост в софтуер на неназован външен доставчик, използвали са я, за да напуснат ограничената среда, и впоследствие са получили достъп до инфраструктурата на Hugging Face.

*Материалът е с аналитичен характер и не е съвет за търговия на финансовите пазари.