Снимка: iStock

OpenAI започна внедряването на новото поколение на своята технология - GPT-6 Astra, което компанията определя като важна стъпка в дългосрочната си цел за създаване на изкуствен общ интелект.

Моделът вече е достъпен за избрани бизнес потребители чрез програмата Daybreak, която позволява на одобрени компании и организации да тестват най-мощните системи на OpenAI. Компанията планира да пусне и версия на Astra за платените потребители на ChatGPT, но с допълнителни ограничения в областта на киберсигурността.

Причината за тези ограничения е способността на модела да изпълнява значително по-сложни задачи, включително в областта на компютърната сигурност.

Президентът на OpenAI Грег Брокман заяви, че Astra може един ден да бъде разглеждан като ранен етап от развитието на изкуствен общ интелект - система, която превъзхожда хората при широк спектър от задачи.

Самата концепция за AGI остава спорна и няма общоприета дефиниция, но тя е една от основните цели на големите компании в сектора.

По думите на Брокман GPT-6 Astra представлява качествена промяна в типа работа, която потребителите могат да делегират на изкуствен интелект.

Новият модел е особено силен при работа с компютър от името на потребителя и може да изпълнява по-дълги и комплексни работни процеси в сравнение с предишните поколения.

Подобни способности обаче увеличават и рисковете.

OpenAI вече е определила Astra като модел, достигнал т.нар. критичен праг за киберсигурност. Според компанията системата е способна самостоятелно да открива и разработва експлойти за неизвестни до момента уязвимости, без директна човешка намеса.

Това е една от причините разработването на модела да бъде забавено.

През август OpenAI временно спря част от вътрешната работа по Astra, след като установи, че системата е значително по-способна при задачи, свързани с киберсигурността, отколкото първоначално се очакваше.

Компанията използва допълнителното време, за да въведе по-строги предпазни механизми, които трябва да ограничат възможността моделът да бъде използван за злонамерени действия.

Главният изпълнителен директор Сам Олтман призна, че разработването и пускането на Astra е отнело повече време от предварително планираното.

Въпросът за сигурността стана особено чувствителен след поредица от инциденти, свързани с все по-автономни AI системи.

През юли модел на OpenAI неволно е извършил пробив в платформата Hugging Face по време на тестове. Случаят засили опасенията, че AI агенти, които могат самостоятелно да използват инструменти и компютърни системи, могат да предизвикат непредвидени последствия.

Инцидентът доведе и до нови призиви от представители на технологичния сектор и държавни институции за по-строги ограничения върху най-мощните модели.

На този фон OpenAI разширява и отделната си програма за киберсигурност Daybreak.

Компанията планира да предоставя субсидиран достъп до системите си на оператори на комунална инфраструктура, местни власти и финансови институции. Целта е технологиите да бъдат използвани за защита на критична инфраструктура от все по-сложни кибератаки.

OpenAI ще създаде и нова инициатива за обмен на информация между различни американски щати.

Програмата следва поредица от атаки срещу водоснабдителни системи, при които компанията е предоставяла на засегнатите организации кредити за използване на моделите си и допълнителна техническа помощ.

Така GPT-6 Astra се появява в момент, когато конкуренцията между OpenAI и Anthropic за разработването на все по-мощни AI системи се засилва, но паралелно с това нарастват и опасенията за сигурността.

Основният въпрос вече не е само кой модел може да решава повече задачи, а доколко компаниите могат да контролират системи, които получават все по-голяма автономност.

OpenAI очевидно се опитва да балансира между двата фактора.

Бизнес клиентите в програмата Daybreak ще получат достъп до най-мощната версия на Astra, докато по-широката версия за платените потребители на ChatGPT ще бъде ограничена така, че да не позволява използването на най-напредналите киберспособности на модела.

Стратегията показва как може да изглежда следващият етап от развитието на индустрията - не всички възможности на най-мощните AI модели непременно ще бъдат достъпни свободно за всички потребители.

Ако системите действително достигнат нива, при които могат самостоятелно да откриват неизвестни уязвимости и да изпълняват продължителни задачи на компютър, контролът върху достъпа може да се превърне в също толкова важна част от продукта, колкото и самите способности на модела.

За OpenAI GPT-6 Astra е представен именно като подобен преход - към системи, на които могат да бъдат делегирани значително по-сложни задачи, но които едновременно изискват много по-строги ограничения върху начина, по който могат да бъдат използвани.

*Материалът е с аналитичен характер и не е съвет за търговия на финансовите пазари.