Снимка: iStock

Ключова комисия от депутати в Европейския парламент одобри първата по рода си наредба за изкуствения интелект, което я прави по-близо до превръщането й в закон.

Одобрението бележи забележително развитие в надпреварата между властите да се справят с ИИ, който се развива с главоломна скорост. Законът, известен като European AI Act, е първият закон за ИИ системи на Запад. Китай вече е разработил проект на правила, предназначени да управляват как компаниите разработват генеративни ИИ продукти като ChatGPT, съобщава CNBC.

Законът възприема основан на риска подход за регулиране на ИИ, при който задълженията за дадена система са пропорционални на нивото на риск, което тя представлява.

Правилата също така определят изисквания към доставчиците на така наречените „модели на основата“ като ChatGPT, които се превърнаха в основна грижа за регулаторите, като се има предвид колко напреднали стават и опасенията, че дори квалифицираните работници ще бъдат изместени.

Какво казват правилата?

Законът за ИИ категоризира приложенията на ИИ в четири нива на риск: неприемлив риск, висок риск, ограничен риск и минимален или никакъв риск.

Приложенията с неприемлив риск са забранени по подразбиране и не могат да бъдат внедрени в блока.

Те включват:

ИИ системи, използващи подсъзнателни техники или манипулативни или измамни техники за изкривяване на поведението

ИИ системи, експлоатиращи уязвимостите на отделни лица или конкретни групи

Системи за биометрична категоризация, базирани на чувствителни атрибути или характеристики

ИИ системи, използвани за социално оценяване или оценка на надеждността

ИИ системи, използвани за оценка на риска, предвиждащи наказателни или административни нарушения

Системи с изкуствен интелект, създаващи или разширяващи бази данни за разпознаване на лица чрез ненасочено изтриване

ИИ системи, извеждащи емоции в правоприлагането, управлението на границите, работното място и образованието

Няколко законодатели призоваха мерките да станат по-скъпи, за да се гарантира, че покриват ChatGPT.

За тази цел са наложени изисквания към „основните модели“, като големи езикови модели и генеративен ИИ.

От разработчиците на базови модели ще се изисква да прилагат проверки за безопасност, мерки за управление на данните и смекчаване на риска, преди да направят своите модели публични.

От тях също ще се изисква да гарантират, че данните за обучение, използвани за информиране на техните системи, не нарушават закона за авторското право.

„Доставчиците на такива ИИ модели ще бъдат задължени да предприемат мерки за оценка и смекчаване на рисковете за основните права, здравето и безопасността и околната среда, демокрацията и върховенството на закона“, Джейхун Пехливан, съветник в Linklaters и съръководител на групата за телекомуникации, медии и технологии и IP практика на адвокатската кантора в Мадрид, каза пред CNBC.

„Те също ще бъдат обект на изисквания за управление на данните, като например проверка на пригодността на източниците на данни и възможните пристрастия“.

Важно е да се подчертае, че въпреки че законът беше приет от депутатите в Европейския парламент, той е много далеч от това да стане закон.

Защо сега?

Частните компании бяха оставени да развиват ИИ технология с главоломна скорост, давайки началото на системи като с поддръжката на Microsoft ChatGPT на OpenAI и Bard на Google.

Google обяви в сряда множество нови актуализации на ИИ, включително усъвършенстван езиков модел, наречен PaLM 2, който според компанията превъзхожда други водещи системи при някои задачи.

Новите ИИ чатботове като ChatGPT очароваха много технолози и академици със способността си да произвеждат човешки отговори на потребителски подкани, задвижвани от големи езикови модели, обучени върху огромни количества данни.

Но ИИ технологията съществува от години и е интегрирана в повече приложения и системи, отколкото си мислите. Тя определя какви вирусни видеоклипове или снимки на храна виждате във вашата емисия на TikTok или Instagram, например.

Целта на предложенията на ЕС е да се осигурят някои правила за движение за компаниите и организациите, работещи с ИИ, които използват ИИ.

Реакция на технологичната индустрия

Правилата предизвикаха безпокойство в технологичната индустрия.

Асоциацията на компютърната и комуникационната индустрия заяви, че е загрижена, че обхватът на Закона за изкуствен интелект е разширен твърде много и че той може да улови форми на изкуствен интелект, които са безвредни.

„Притеснително е да се види, че широки категории полезни ИИ приложения – които представляват много ограничени рискове или никакви рискове – сега ще бъдат изправени пред строги изисквания или дори могат да бъдат забранени в Европа“, Бонифас де Шампри, мениджър политики в CCIA Europe, каза CNBC по имейл.

„Първоначалното предложение на Европейската комисия за Закона за изкуствения интелект възприема подход, основан на риска, като регулира конкретни системи с изкуствен интелект, които представляват ясен риск“, добави де Шампри.

„ЕП вече въведоха всякакви изменения, които променят самото естество на Закона за ИИ, който сега приема, че много широки категории ИИ са опасни по своята същност“.

Какво казват експертите?

Деси Савова, ръководител на отдела за континентална Европа за технологичната група в адвокатската кантора Clifford Chance, каза, че правилата на ЕС ще определят „глобален стандарт“ за регулиране на ИИ. Въпреки това тя добави, че други юрисдикции, включително Китай, САЩ и Обединеното кралство, бързо разработват своите отговорни мерки.

„Дългият обхват на предложените правила за ИИ по същество означава, че играчите с ИИ във всички краища на света трябва да се грижат“, каза Савова пред CNBC по имейл.

„Правилният въпрос е дали Законът за ИИ ще определи единствения стандарт за ИИ. Китай, САЩ и Обединеното кралство, за да назовем само няколко, определят свои собствени политики за ИИ и регулаторни подходи. Безспорно всички те ще наблюдават отблизо преговорите по Закона за изкуствения интелект, за да изработят собствените си подходи.

Савова добави, че последният законопроект за ИИ от парламента ще въведе в закон много от етичните принципи на ИИ, за които организациите настояват.

Сара Чандър, старши съветник по политиката в European Digital Rights, базирана в Брюксел група за кампании за цифрови права, каза, че законите ще изискват моделите на фондация като ChatGPT да „претърпят тестове, документация и изисквания за прозрачност“.

„Въпреки че тези изисквания за прозрачност няма да премахнат инфраструктурните и икономически проблеми с разработването на тези огромни AI системи, те изискват от технологичните компании да разкрият количествата изчислителна мощност, необходима за разработването им“, каза Чандър пред CNBC.

„В момента има няколко инициативи за регулиране на генеративния ИИ по целия свят, като Китай и САЩ“, каза Пехливан.

„Въпреки това, Законът за ИИ на ЕС вероятно ще изиграе централна роля в развитието на такива законодателни инициативи по света и ще накара ЕС отново да се превърне в установител на стандарти на международната сцена, подобно на това, което се случи във връзка с Общите данни Регламент за защита.

Още по темата:

Тепър и Дръкенмилър залагат на добро бъдеще за изкуствения интелект

Amazon се фокусира върху използването на изкуствен интелект