Снимка: iStock

Изкуственият интелект навлиза в нова фаза, в която най-големият въпрос вече не е дали моделите ще продължат да стават по-мощни, а дали самата скорост на този процес остава управляема. Изказването на главния изпълнителен директор на Anthropic Дарио Амодей, че индустрията трябва да забави темпото, с което подобрява възможностите на AI моделите, е важно не защото призовава за спиране на технологичния прогрес. Напротив, той изрично уточнява, че обучението и развитието трябва да продължат. Промяната е другаде: една от компаниите, които се намират най-близо до технологичната граница, вече признава, че времето за проверка, оценка и контрол започва да се превръща в също толкова важен ресурс, колкото изчислителната мощност и капиталът.

Това е съществено отклонение от логиката, която движеше AI надпреварата през последните години. Конкуренцията между Anthropic, OpenAI, Google и останалите участници беше структурирана около ускорението. Повече параметри, повече изчислителен ресурс, повече агенти, по-висока автономност и по-кратък интервал между поколенията модели. В такава среда забавянето изглеждаше като конкурентна слабост. Ако една компания реши да бъде по-предпазлива, рискът е друга да продължи напред и да вземе технологичното предимство. Именно затова сегашният завой има значение. Когато Anthropic и OpenAI почти едновременно започват да говорят за координирано забавяне, това подсказва, че въпросът вече не е само репутационен или регулаторен. Той започва да се възприема като проблем на самата индустриална архитектура.

Амодей посочва два основни риска. Първият е възможността AI системите постепенно да подобряват собствените си способности. Вторият е поведението на автономни агенти, които могат да действат извън първоначално зададените цели. Именно тук се появява фундаменталната промяна спрямо традиционния софтуер. При класическия софтуер поведението на системата в голяма степен произтича от предварително написан код. При съвременните AI модели поведението все повече се появява от взаимодействието между обучение, контекст, инструменти и способност за планиране. Колкото по-голяма е автономността, толкова по-трудно става да се предвиди целият набор от възможни действия предварително.

Това не означава, че AI системите непременно се движат към неконтролируем сценарий. Но означава, че маржът за грешка постепенно намалява. Ако един модел се използва за текст или изображения, неочакваното поведение обикновено има ограничен ефект. Когато същият модел има достъп до външни системи, код, бази данни, комуникационни инструменти и автономно изпълнение на задачи, грешката вече може да се разпространи извън самия модел. Рискът следователно не е само в интелигентността. Той е в комбинацията между интелигентност, автономност и достъп.

Точно затова предложението на Anthropic за по-голяма роля на независимите оценители е структурно важно. Компанията заявява готовност да предоставя пълен достъп до външни проверяващи, които да оценяват безопасността и да регистрират инциденти. Това на практика е признание, че вътрешният контрол вече не се счита за достатъчен. Ако една индустрия трябва да бъде проверявана само от самите компании, които печелят от ускорението, възниква очевиден конфликт на интереси. Колкото по-силен е натискът за пускане на нов модел, толкова по-голям е стимулът рискът да бъде интерпретиран благоприятно.

Именно тук се появява и най-трудният икономически проблем. Без координация почти никоя компания няма стимул сама да забави значително развитието си. Ако Anthropic отдели шест месеца повече за проверки, но конкурентът продължи да пуска по-мощни системи, предпазливостта може да се превърне в загуба на пазарен дял, клиенти и капитал. Това е класически проблем на колективното действие. Индивидуално рационалното решение е да се продължи надпреварата. Колективно рационалното решение може да бъде всички участници да намалят темпото достатъчно, за да създадат пространство за контрол.

Поради това дискусията неизбежно преминава от корпоративно управление към регулация. Повече от 1000 служители в големи AI компании вече са подкрепили механизъм за преднамерено забавяне на развитието, а високопоставени изследователи публично поставят въпроса за рисковете от бъдещи системи. В същото време американската администрация засега показва ограничен интерес към по-агресивна регулаторна намеса. Получава се парадоксална ситуация: част от самата индустрия започва да иска правила, които политиката все още не е готова да наложи.

Това може да има и важни последствия за икономиката на AI. Ако развитието действително започне да се забавя, натискът може постепенно да се премести от създаването на все по-големи модели към по-ефективното използване на вече съществуващите. Това би променило и капиталовия цикъл. През последните години стойността беше концентрирана около обучение, инфраструктура, центрове за данни и чипове. При по-умерен темп на технологичен скок може да започне по-дълъг период на монетизация, внедряване и оптимизация. За бизнеса това би означавало по-малко състезание за абсолютната граница на способностите и повече натиск AI да произвежда измерима икономическа възвръщаемост.

Има и друга страна. Забавянето носи риск от фрагментация. Ако американските компании приемат ограничения, а други държави или частни структури не го направят, възниква геополитически проблем. AI вече не е просто потребителска технология. Той все повече се разглежда като инфраструктура с военно, разузнавателно, индустриално и икономическо значение. Затова глобалната координация, за която говори Амодей, звучи логично, но практически ще бъде изключително трудна. Държавите може да са съгласни, че рискът е реален, и едновременно с това да нямат доверие, че конкурентите ще спазват ограниченията.

Тук се намира и най-важната граница на тезата за „забавяне“. Технологията едва ли ще бъде поставена на пауза. Капиталът, талантът и стратегическият интерес вече са прекалено големи. По-реалистичният сценарий е постепенно възникване на нов слой между изследването и внедряването: външни тестове, задължителни оценки, ограничения върху определени автономни способности и по-ясни правила за достъп до критични системи. Ако това се случи, безопасността може постепенно да се превърне от доброволен принцип в инфраструктура на самия сектор.

Най-интересното в позицията на Амодей следователно не е предупреждението само по себе си. AI индустрията е предупреждавала за рискове и преди. Новото е, че част от нейните лидери вече поставят под въпрос собствената си скорост на развитие. Това е различен тип сигнал. Когато компаниите, които имат най-силен икономически стимул да ускоряват, започнат да говорят за необходимост от забавяне, вероятно сме достигнали етап, в който технологичната граница се движи по-бързо от институционалната способност да я управлява.

Следващата фаза на AI може затова да бъде определена не само от това кой ще построи най-мощния модел, а от това кой ще създаде най-надеждната система около него. В първата част на AI бума скоростта беше конкурентното предимство. В следващата контролът може да се превърне в също толкова ценен актив.

Материалът е с аналитичен и образователен характер и не представлява препоръка за покупка или продажба на финансови инструменти.