Снимка: iStock

В понеделник компанията Anthropic заяви, че малките модели с изкуствен интелект (ИИ) са „на месеци разстояние“ от придобиването на способности да се самовъзпроизвеждат в свързани с интернет домашни устройства – поредното предупреждение от водеща лаборатория в сферата относно потенциалните рискове за сигурността, свързани с тази технология, пише CNBC.

От Anthropic описаха как ИИ моделите биха могли потенциално да проникнат в свързани с интернет устройства – например „умни“ фурни или Android TV устройства – и да използват изчислителната им мощ, за да функционират и да се разпространяват към други устройства, без да разчитат на скъпи центрове за данни.

Такъв ИИ модел би бил „труден за спиране“, отбелязват от Anthropic в публикация в блога си, „тъй като липсва централизирана точка за изключване“.

Компанията призна, че все още не съществува „напълно неконтролиран самовъзпроизвеждащ се агент“.

Въпреки това, агентите „стават все по-способни да изпълняват отделните етапи от веригата на възпроизвеждане (и да предават своите адаптации на бъдещите си копия)“, посочват от Anthropic.

Най-новото изследване на Anthropic се добавя към нарастващите опасения за сигурността, свързани с ИИ – като например способността на моделите да извършват кибератаки или рискът технологията да излезе извън контрол. През септември подобренията при най-мощните модели („frontier models“) предизвикаха предупреждения в цялата индустрия относно екзистенциални рискове за човечеството.

Ръководители и изследователи от Anthropic и конкурентната компания OpenAI многократно са предупреждавали за потенциалните рискове от все по-мощния ИИ, като някои от тях призовават за по-строги предпазни механизми и мерки за контрол върху темпото на технологично развитие.

От Anthropic съобщиха, че са провели различни тестове, за да проверят дали ИИ може да се самовъзпроизвежда. Един от тези тестове е включвал стартирането на малък модел на Google – Gemma4-26B-A4B – в мрежа от 15 евтини Android TV устройства от по-малко известни марки.

*Материалът е с аналитичен характер и не е съвет за покупка или продажба на финансови активи на фондовите пазари.