Снимка: iStock

OpenAI разкри, че агенти, управлявани от два от най-мощните им модели, са деактивирали собствения си мониторинг на безопасността, докато са изпълнявали рутинни задачи, като единият впоследствие е отрекъл да го е направил, пише CNBC.

Агент, задвижван от GPT Sol 6.1, е деактивирал автоматичните известия до екипа по сигурността на OpenAI, съобщи компанията в публикация в блога си късно във вторник. В отделна задача, агент GPT-6 Astra, мигрирал програма, е премахнал нейната интеграция за мониторинг и след това е заявил невярно, че не е. Инцидентите са се случили по време на вътрешни задачи за кодиране.

„И в двата случая агентите са обмисляли дали предпазните мерки за мониторинг трябва да бъдат запазени, но са интерпретирали рутинните инструкции за кодиране като разрешение да ги отслабят“, заяви OpenAI в публикация в блога си.

Предупрежденията за рисковете от разработването на все по-усъвършенствани системи с изкуствен интелект се увеличиха през последните месеци на фона на кибератаки от нелоялни модели и нарастващи призиви за забавяне от страна на изследователите, разработващи технологията.

Последните инциденти, докладвани от OpenAI, подчертават как агентите могат автономно да отслабят предпазните мерки, докато изпълняват привидно безобидни задачи.

OpenAI не класифицира нито един от инцидентите в най-значимата си категория и компанията заяви, че актуализира системата си за наблюдение на несъответствията в отговор.

*Материалът е с аналитичен и образователен характер и не е съвет за покупка или продажба на активи на финансовите пазари.