Снимка: iStock

Изкуственият интелект навлиза с безпрецедентна скорост във всички сфери на икономиката – от здравеопазването и финансите до образованието и правните услуги. Именно затова Европейският съюз се превърна в първата голяма икономика, която създаде цялостна законодателна рамка за неговото използване. Новият AI Act не е просто поредната директива. Той поставя основите на изцяло нов модел на регулиране, при който акцентът не пада върху самата технология, а върху риска, който тя създава за обществото.

На практика Европейският съюз избира различен подход от този на Съединените щати и Китай. Докато в САЩ развитието на AI до голяма степен остава движено от пазара, а в Китай – от държавната стратегия, Европа поставя правата на гражданите в центъра на регулацията. Това има своите безспорни предимства, но поставя и важния въпрос дали прекалено сложните правила няма да забавят развитието на европейските компании в една от най-важните технологични надпревари на нашето време.

Основният принцип на новия регламент е така нареченият risk-based approach – подход, основан на риска. Вместо всички AI системи да бъдат третирани еднакво, законът ги разделя в няколко категории според потенциалното им въздействие върху хората. Някои приложения са напълно забранени, други попадат в категорията „висок риск“, а трети подлежат основно на изисквания за прозрачност. Именно тази структура прави европейския модел значително по-гъвкав от много други регулаторни режими.

Едно от най-важните нововъведения е задължението потребителят винаги да знае кога общува с изкуствен интелект. Компаниите вече трябва ясно да обозначават чатботовете, виртуалните асистенти и другите AI системи. Същото важи и за синтетичното съдържание – текстове, изображения, аудио и видео, създадени от алгоритми. При deepfake материалите и другите форми на изкуствено генерирано съдържание се въвеждат специални изисквания за обозначаване, така че потребителите да могат лесно да различават реалното съдържание от създаденото чрез AI.

Тази прозрачност вероятно ще се превърне в нов стандарт за целия дигитален сектор. След години, в които границата между човешкото и машинното съдържание постепенно започна да се размива, Европа се опитва да възстанови доверието чрез ясни правила. Това може да изглежда като административна тежест, но в дългосрочен план именно доверието вероятно ще се превърне в едно от най-ценните конкурентни предимства на AI компаниите.

Особено строги са правилата за високорисковите приложения. Алгоритмите, използвани при наемане на служители, оценяване на кандидати, кариерно развитие и други решения, които могат съществено да повлияят върху живота на хората, попадат под засилен контрол. Напълно забранено е използването на системи за разпознаване на емоции на работното място. Това е ясен сигнал, че Европейският съюз не желае технологиите да се превърнат в средство за непрекъснато наблюдение и психологически контрол над служителите.

В основата на целия регламент стои още един ключов принцип – „human in the loop“, или човекът да остане във веригата на вземането на решения. Изкуственият интелект може да подпомага анализа, да предлага решения и да автоматизира процеси, но крайната отговорност трябва да остане при човека. Това означава, че гражданите запазват правото да поискат човешка намеса, да оспорят автоматизирано решение и да получат обяснение за логиката, по която алгоритъмът е стигнал до определен извод.

Една от най-дискутираните теми обаче остава обработката на личните данни при обучението на AI модели. Именно тук европейското законодателство все още се намира в процес на развитие. Настоящият GDPR не съдържа специални правила, които да уреждат използването на лични данни за машинно обучение. Това създава известна правна несигурност както за разработчиците на AI системи, така и за компаниите, които ги използват.

В момента Европейският съюз обсъжда възможността чрез така наречения GDPR Digital Omnibus да признае легитимния интерес като правно основание за обучение на AI модели. Ако подобна промяна бъде приета, тя може значително да улесни разработването на нови системи с изкуствен интелект в Европа. Още по-интересна е идеята чувствителни категории данни, включително здравна и биометрична информация, да могат да бъдат използвани при строго определени условия за намаляване на алгоритмичните отклонения и дискриминацията. Това би било сериозна промяна в досегашната философия на европейската защита на личните данни.

Тук обаче се появява и голямата дилема. За да бъдат AI моделите справедливи, те трябва да бъдат обучени върху достатъчно разнообразни данни. Ако достъпът до подобни данни бъде прекалено ограничен, съществува риск европейските модели да изостанат технологично спрямо американските и китайските конкуренти. Ако ограниченията бъдат прекалено либерални, възниква опасност от отслабване на защитата на личната информация. Именно намирането на този баланс вероятно ще бъде най-трудната задача пред европейските законодатели през следващите години.

Не по-малко интересен е въпросът за авторското право. Засега европейската практика остава последователна – автор може да бъде единствено човек. Това означава, че произведения, създадени изцяло от изкуствен интелект без съществен творчески принос на човек, не получават класическата авторскоправна защита. С развитието на генеративния AI обаче тази тема неизбежно ще става все по-актуална. Все по-често ще възникват спорове къде свършва човешкото творчество и къде започва автономната работа на алгоритъма.

Подобни промени вече се усещат и в професии като правото. Изкуственият интелект все по-успешно подготвя договори, анализира съдебна практика и обработва огромни масиви от документи. Това обаче не означава, че адвокатите ще станат излишни. По-скоро ролята им постепенно се измества от изпълнение на рутинни задачи към стратегическо консултиране, управление на риска и контрол върху качеството на крайния резултат. Именно това вероятно ще бъде моделът и в много други професии.

Най-голямото предизвикателство обаче може да се окаже не технологично, а образователно. Ако все повече рутинни задачи бъдат автоматизирани, младите специалисти ще загубят естествения път, чрез който досега натрупваха практически опит. Това е проблем, който далеч надхвърля юридическата професия. Подобна трансформация вероятно предстои във финансите, счетоводството, журналистиката, програмирането и редица други сфери.

Нашият прочит е, че Европа отново избира пътя на регулираната иновация. Това може да изглежда по-бавно в сравнение с американския модел, но същевременно създава по-високо ниво на доверие и правна сигурност. Истинското изпитание няма да бъде написването на правилата, а способността те да останат достатъчно гъвкави в среда, в която технологиите се развиват много по-бързо от законодателството.

Следващите няколко години вероятно ще покажат дали европейският модел може да постигне най-трудната цел – едновременно да защити основните права на гражданите и да позволи на европейските компании да останат конкурентоспособни в глобалната AI надпревара. Именно този баланс ще определи дали Европа ще бъде лидер не само в регулирането на изкуствения интелект, но и в неговото развитие.

Дисклеймър: Настоящият материал има аналитичен и информационен характер и не представлява правен съвет.