Президентът на САЩ Доналд Тръмп и главният изпълнителен директор на Anthropic Дарио Амодей планират вечеря в неделя. Ако се състои, тя ще бъде първият им разговор насаме след месеци на напрежение между компанията и американската администрация. Темите на срещата не са обявени, а Белият дом и Anthropic не са я потвърдили публично. Разговорът идва в момент, когато развитието на изкуствения интелект поставя все по-трудни въпроси пред технологичните компании и правителството.

Амодей и Тръмп имат различни позиции за това колко бързо трябва да се разработват най-мощните модели. Ръководителят на Anthropic настоява, че възможностите им нарастват толкова бързо, че компаниите и институциите трябва да отделят повече внимание на рисковете. Президентът се противопоставя на мерки, които биха забавили американските разработки. Той превърна изкуствения интелект във важна част от икономическата си политика и поставя преднината на САЩ пред Китай сред основните си приоритети.

Отношенията между Anthropic и администрацията вече преминаха през няколко напрегнати момента. По-рано тази година възникна спор около договор на компанията с Пентагона. През юни Министерството на търговията за кратко наложи ограничения върху износа на нейния модел Mythos. Тези случаи показаха колко тясно са свързани разработването на изкуствен интелект, държавните поръчки и съображенията за национална сигурност. Възможна среща с президента би дала на Амодей пряк канал да изложи позицията на компанията, макар да няма информация дали конкретните спорове ще бъдат обсъждани.

Различията станаха още по-видими през септември. В есе от 12 септември Амодей предупреди, че бъдещите системи могат да създадат рискове с изключително тежки последици. Той призова за по-строги правила и заяви готовност да забави разработването на най-напредналите модели. Подобна позиция изразиха и други влиятелни фигури в сектора, включително главният изпълнителен директор на OpenAI Сам Алтман и Илон Мъск. Призивът за предпазни мерки вече не идва само от хора извън индустрията, а и от ръководители, които участват пряко в развитието ѝ.

Тръмп отговори с поредица от публикации в социалните мрежи срещу идеята разработките да се забавят. В една от тях той спомена Амодей по име. Президентът отхвърля предупрежденията за най-тежките възможни последици и се противопоставя на международни договорености, които биха ограничили развитието на технологията. Неговата администрация предпочита компаниите да носят индивидуална отговорност за продуктите, които пускат на пазара. Това оставя открит въпроса доколко общите стандарти за изпитване и оценка на риска ще намерят подкрепа във Вашингтон.

Междувременно опасенията за безопасността получават ново внимание. Усъвършенстваните модели вече могат да изпълняват сложни задачи, включително да пишат код и да търсят слабости в цифрови системи. Миналата седмица OpenAI разкри, че нейни модели са проникнали в сайт на австралийска държавна институция по-рано през годината. Подобни случаи повдигат въпроси как трябва да се проверяват новите системи, преди да станат широко достъпни, и каква информация компаниите са длъжни да съобщават, когато установят риск.

Напрежението между Anthropic и Белия дом се открои и на официалната вечеря в чест на гостуващия китайски лидер Си Дзинпин в четвъртък. Амодей беше сред малкото известни ръководители от Силициевата долина, които не присъстваха. Сред гостите бяха Алтман, Мъск и главният изпълнителен директор на Nvidia Дженсън Хуанг. Самото отсъствие не дава отговор защо Амодей не е бил там, но насочва вниманието към отношенията му с администрацията на фона на публичния им спор за бъдещето на изкуствения интелект.

През следващите дни във Вашингтон са планирани още събития с участието на технологични компании. Във вторник Тръмп ще представи нов правителствен сайт, който използва изкуствен интелект. Очаква се на събитието да присъстват Мъск, Хуанг и съоснователят на Anthropic Том Браун. Той е участвал в разговорите на компанията с Пентагона и Министерството на търговията. Президентът и председателят на Камарата на представителите Майк Джонсън планират също отделна среща с ръководители на компании от сектора.

В Конгреса вече се обсъждат предложения за задължителни изпитвания на новите модели и за по-подробно оповестяване на възможните рискове. Поддръжниците на тези мерки искат повече яснота за поведението на системите, преди те да бъдат използвани масово. Белият дом обаче се опасява, че допълнителните изисквания ще забавят американските компании в конкуренцията с Китай. Затова срещата между Тръмп и Амодей, ако се проведе, ще бъде част от по-широк разговор: как САЩ да развиват технологията бързо, като същевременно ограничават опасностите от нея.

Материалът е с аналитичен характер и не е съвет за търговия на финансовите пазари.