Снимка: iStock

Бившият изпълнителен директор на Google, Ерик Шмит, отправи сурово напомняне за опасностите от изкуствения интелект и колко е податлив на хакване, пише CNBC.

Шмит, който беше главен изпълнителен директор на Google от 2001 до 2011 г., предупреди за „лошите неща, които изкуственият интелект може да направи“, когато беше попитан дали е по-разрушителен от ядрените оръжия по време на разговор край камината на срещата на върха Sifted.

„Има ли вероятност за проблем с разпространението на изкуствения интелект? Абсолютно“, каза Шмит в сряда. Рисковете от разпространение на изкуствения интелект включват попадане на технологията в ръцете на злонамерени лица и нейното пренасочване и злоупотреба.

„Има доказателства, че можете да вземете модели, затворени или отворени, и да ги хакнете, за да премахнете предпазните им огради. Така че в хода на обучението си те научават много неща. Лош пример би бил да се научат как да убият някого“, каза Шмит.

„Всички големи компании правят невъзможно тези модели да отговорят на този въпрос. Добро решение. Всички правят това. Правят го добре и го правят по правилните причини. Има доказателства, че те могат да бъдат обратно инженерствани, и има много други примери от този характер.“

Системите с изкуствен интелект са уязвими за атаки, като някои методи включват бързи инжекции и джейлбрейк. При атака с бърза инжекция хакерите крият злонамерени инструкции в потребителски входове или външни данни, като уеб страници или документи, за да подведат изкуствения интелект да прави неща, които не е предназначен да прави – като например споделяне на лични данни или изпълнение на вредни команди.

Джейлбрейкът, от друга страна, включва манипулиране на отговорите на изкуствения интелект, така че той да игнорира правилата си за безопасност и да създава ограничено или опасно съдържание.

През 2023 г., няколко месеца след пускането на ChatGPT на OpenAI, потребителите използваха трик за „джейлбрейк“, за да заобиколят инструкциите за безопасност, вградени в чатбота.

*Материалът е с аналитичен характер и не е съвет за покупка или продажба на активи на финансовите пазари.