Снимка: iStock

Предупреждението на Уорън Бъфет за изкуствения интелект не идва от позицията на технологичен песимист, нито от човек, който не разбира новите вълни. То идва от човек, чиято кариера е била белязана от едно постоянно присъстващо екзистенциално напрежение – ядреното оръжие. Именно затова аналогията, която той прави, е толкова силна. Не защото AI е „лош“, а защото логиката на неговото развитие напомня за момент в историята, в който човечеството е създало нещо, което не може да бъде върнато обратно в кутията.

Бъфет не казва, че AI трябва да бъде спрян. Той казва нещо по-тревожно: че дори най-умните хора, които го създават, не знаят накъде точно отива. Това е ключовият момент. В бизнеса несигурността е нормална. В иновациите – дори желана. Но когато говорим за технологии с потенциал да променят фундаментално обществото, геополитиката и дори природата на конфликта, „не знаем накъде отива“ вече не звучи като приключение, а като предупреждение.

Сравнението с ядреното оръжие не е случайно. Бъфет изрично се позовава на думите на Албърт Айнщайн, че атомната бомба е променила всичко, освен начина, по който хората мислят. Историята показа, че технологичният скок далеч изпреварва институционалния, моралния и политическия капацитет за управление на последиците. Ядреното оръжие първоначално се възприема като средство за защита, после като средство за баланс, а в крайна сметка – като постоянен риск, концентриран в ръцете на все повече държави и режими.

Бъфет ясно очертава паралела. Първоначалната илюзия, че подобна технология ще бъде контролирана от малцина „разумни играчи“, бързо се разпада. Както ядрените оръжия се разпространяват от една държава към много, така и AI моделите, алгоритмите и автономните системи постепенно се демократизират – не само за корпорации и държави, но и за актьори, които нямат нито прозрачност, нито отчетност. Именно тук рискът се измества от технологичен към системен.

Това, което прави позицията на Бъфет още по-интересна, е неговият дългогодишен фокус върху екзистенциалните рискове. В писма до акционерите на Berkshire Hathaway още преди десетилетие той открито посочва, че най-голямата заплаха за дългосрочната стойност на компанията не е икономическа криза, а „успешна“ кибер, биологична, химическа или ядрена атака. AI логично се вписва в този списък – не като отделна категория, а като усилвател на всички останали рискове.

Тук позицията му започва да се припокрива с предупрежденията на други фигури, идващи отвътре на самата технологична общност. Гофри Хинтън, често наричан „кръстникът на AI“, напусна водеща технологична компания именно, за да може свободно да говори за рисковете от неконтролираното развитие на изкуствения интелект. Неговите опасения не са свързани с краткосрочна автоматизация или загуба на работни места, а с дългосрочната загуба на контрол – момент, в който системите започват да оптимизират цели, които вече не съвпадат напълно с човешките.

Общото между Бъфет и хора като Хинтън е не в това, че отричат ползите от AI. Напротив. И двамата ясно признават „огромния потенциал за добро“. Но точно както при ядрената енергия, потенциалът за добро и потенциалът за катастрофа съществуват едновременно и не могат да бъдат разделени. Разликата е, че при ядреното оръжие цената за грешка е очевидна и видима. При AI тя може да бъде разпределена, отложена и трудно проследима, което я прави още по-опасна.

Интересен е и моралният аспект в думите на Бъфет. Той казва, че ако можеше да използва богатството си, за да извади няколко държави трайно от „ядрената игра“, би го направил незабавно. Това е силно изказване, защото идва от човек, който по принцип вярва, че почти всеки проблем може да бъде решен с капитал, дисциплина и време. Тук обаче той признава граница – граница, отвъд която парите не могат да купят сигурност, а само време.

В контекста на финансовите пазари това предупреждение има допълнително значение. AI в момента е не просто технология, а инвестиционен наратив, който оправдава високи оценки, концентрация на капитал и изместване на риска към бъдещето. Когато фигури като Бъфет правят подобни аналогии, това не означава, че балонът ще се спука утре. Означава, че асиметрията на риска се променя – и че дългосрочните последици може да бъдат далеч по-важни от следващия отчетен сезон.

Истинската сила на предупреждението не е в апокалиптичния тон, а в историческата памет. Хората, които са живели с постоянния страх от ядрена ескалация, мислят различно за необратимите технологии. Те не питат само „колко можем да спечелим“, а „какво губим, ако грешим“. И точно в този въпрос се крие най-ценният принос на Бъфет към дебата за изкуствения интелект.

AI може да се окаже най-големият източник на продуктивност и просперитет в историята. Но както ни напомня човек, прекарал кариерата си в сянката на ядрения риск, най-опасните технологии не са тези, които се провалят, а тези, които работят точно както са замислени – докато не стане ясно, че сме подценили последствията.

*Материалът е с аналитичен характер и не е съвет за покупка или продажба на активи на финансовите пазари.