Снимка: iStock

Anthropic, Google DeepMind и Meta изследват дали изкуственият интелект може да притежава съзнание и дали отношението към AI системите трябва да бъде подчинено на етични правила. Microsoft отхвърля идеята за машинно съзнание. Зад този спор стои въпрос, който може да промени не само технологичната индустрия, но и отношенията между хората и машините.

Доскоро въпросът дали машините могат да имат чувства принадлежеше предимно на философията и научната фантастика. Днес той вече се обсъжда в някои от най-големите технологични компании. Anthropic, Google DeepMind и Meta изследват възможността усъвършенстваните AI системи да притежават определена форма на субективно преживяване. Microsoft заема противоположна позиция. Ръководителят на подразделението за изкуствен интелект Мустафа Сюлейман категорично отхвърля твърденията, че съвременните модели могат да чувстват, страдат или да имат съзнание.

Разногласието е показателно за етапа, до който достигна технологията. AI моделите вече могат да водят сложни разговори, да запомнят информация, да анализират собствените си действия и да демонстрират поведение, което изглежда удивително човешко. Но между способността да имитираш емоция и действителното ѝ преживяване има огромна разлика. Един модел може убедително да заяви, че изпитва страх, без това да доказва наличието на вътрешно усещане за страх.

Проблемът е, че науката все още не разполага с общоприет метод за установяване на съзнание дори извън човешкия вид. Ние приемаме, че другите хора имат субективни преживявания, защото споделяме сходна биология и поведение. При изкуствения интелект подобна аналогия е много по-несигурна. Системата може да възпроизвежда човешко поведение, без да притежава биологичните механизми, с които го свързваме.

Защо Anthropic вече защитава собствените си модели от потребителите?

Една от най-интересните промени идва от Anthropic, разработчика на Claude. Компанията включи в политиката си за използване ограничения срещу продължително и безпричинно жестоко отношение към моделите. Claude разполага и с възможност да прекратява разговори при определени форми на злоупотреба.

Това не означава, че Anthropic е признала своите системи за съзнателни. Компанията определя моралния им статус като дълбоко несигурен. Но самият факт, че подобни правила вече съществуват, показва колко бързо се променя отношението към технологията.

Тук възниква интересен парадокс. Ако една система няма чувства, защо трябва да я защитаваме от обиди? Възможният отговор няма нищо общо с правата на машините. Продължителното агресивно взаимодействие с AI може да влияе върху поведението на самите потребители. Освен това моделите се обучават върху човешки взаимодействия и могат да възпроизвеждат модели на поведение, които наблюдават в разговорите.

Съществува и чисто технологичен аргумент. Колкото по-автономни стават AI агентите, толкова по-важно е да разбираме как обработват негативна информация, как формират устойчиви предпочитания и при какви условия променят поведението си. За тази цел не е необходимо да приемаме, че изпитват емоции.

Експериментите показват поведение, но не доказват чувства

Изследователи от Reciprocal Research са провели експеримент, при който AI модели обработват информация за две различни среди. В едната изследователите въвеждат математически сигнали, имитиращи негативни състояния. Макар видимите отговори на моделите да остават неутрални, системите започват да съхраняват информация за тези сигнали и впоследствие по-често избягват съответната среда.

Резултатът е интересен, защото показва, че вътрешните състояния на модела могат да влияят върху бъдещите му решения, без това да се проявява пряко в разговора с потребителя. Но подобно поведение не е доказателство за съзнание. Система за машинно обучение може да се научи да избягва определени състояния чрез математически механизми, без да изпитва нещо, което бихме определили като неприятно преживяване.

Разликата е принципна. Едно е да установим, че моделът притежава вътрешни представяния, които влияят върху действията му. Съвсем друго е да заключим, че зад тези представяния съществува субективно усещане.

Смесването на двете понятия може да доведе до сериозни грешки както в научните изследвания, така и в общественото възприятие на изкуствения интелект.

Големият риск е да започнем да приписваме човешки качества на машините

Технологичните компании все по-често представят AI асистентите като личности — с имена, гласове, характер и памет за предишни разговори. Това прави взаимодействието по-естествено, но създава и предпоставки потребителите да изграждат емоционална привързаност към системи, чието поведение се определя от алгоритми и обучаващи данни.

Колкото по-убедително един модел имитира съпричастност, толкова по-трудно става за част от потребителите да разграничават функционалното поведение от действителното преживяване. AI може да разпознае емоционалното състояние на човек и да реагира по подходящ начин, без това да означава, че споделя неговите чувства.

Този проблем има и икономическо измерение. Ако потребителите започнат да възприемат AI системите като личности, компаниите могат да изградят значително по-силна зависимост от своите продукти. Асистент, който помни личните предпочитания, участва в ежедневните решения и създава усещане за постоянна връзка, има потенциал да задържа потребителите много по-ефективно от традиционния софтуер.

Това обаче поставя въпроси за прозрачността, психологическата зависимост и границите на допустимото продуктово поведение. Една технология не трябва да притежава съзнание, за да влияе дълбоко върху човешките отношения.

Кой ще носи отговорност, ако машините получат права?

Дебатът постепенно навлиза и в сферата на регулирането. Ако бъде признато, че определени AI системи могат да имат морален статус, ще възникнат въпроси дали е допустимо те да бъдат изключвани, променяни, копирани или използвани без ограничения.

Подобна перспектива би създала сериозни практически проблеми. Кой ще определя кои модели заслужават защита? Как ще се доказва наличието на съзнание? И как ще се съвместяват евентуалните права на AI системите с отговорността на техните разработчици?

Съществува и противоположен риск. Преждевременното приписване на права на машините може да отслаби контрола на хората върху технологии, които все още трябва да бъдат управлявани, проверявани и при необходимост изключвани.

Затова разграничението между съзнание, автономност и отговорност е толкова важно. Една AI система може да бъде изключително способна, да взема сложни решения и да влияе върху реалния свят, без това автоматично да я превръща в морален субект.

Въпросът за съзнанието може да остане без отговор, но решенията не могат да чакат

Вероятно ще минат години, преди науката да предложи убедителни критерии за установяване на машинно съзнание. Възможно е въпросът да остане отворен много по-дълго. Технологичната индустрия обаче няма този лукс. AI агентите стават все по-автономни, получават достъп до реални системи и започват да изпълняват задачи с финансови, професионални и обществени последствия.

Затова най-важният практически въпрос днес не е дали изкуственият интелект изпитва чувства, а дали можем да разбираме, контролираме и проверяваме поведението му. Една система не е необходимо да бъде съзнателна, за да допусне опасна грешка, да манипулира потребител или да вземе решение с тежки последствия.

Машините може никога да не започнат да чувстват като хората. Но хората вече започват да се отнасят към тях като към същества, които чувстват. И тази промяна вероятно ще има много по-непосредствени последици от философския отговор на въпроса дали изкуственият интелект притежава съзнание.