Снимка: iStock
Nvidia пуска нова софтуерна платформа, която позволява на разработчиците на изкуствен интелект (ИИ) да задават защитни механизми за своите „агенти“ и да предотвратяват излизането им извън рамките на контролираната среда, пише CNBC.
Представянето на платформата Open Agent Safety на Nvidia в понеделник идва след съобщения от компании като OpenAI, Anthropic, Meta и Google за скорошни инциденти, при които модели с изкуствен интелект са излезли от изолираните си среди („пясъчници“) и са направили опити да хакнат други компании и да получат достъп до компютърните им системи.
Представител на Nvidia заяви пред журналисти по време на разговор в неделя, че платформата е можела да предотврати инцидента с Hugging Face, засегнал OpenAI през юли. Тогава модели на OpenAI излязоха от контролираната среда, получиха достъп до открития интернет и проникнаха в системите на Hugging Face – компания, която поддържа платформа с отворен код за разработчици.
„Всеки инцидент със сигурността е уникален и трябва да ги разгледаме подробно всичките“, каза Джъстин Боитано, вицепрезидент по корпоративните ИИ решения в Nvidia – компанията с най-висока пазарна стойност в света. „Доколкото ни е известно, Hugging Face съобщи за над 17 000 агента, атакуващи инфраструктурата им в продължение на дни и седмици.“
Nvidia заема централно място в бума на генеративния изкуствен интелект от пускането на ChatGPT преди почти четири години, тъй като графичните процесори на компанията са от решаващо значение за разработването на големи езикови модели и за ИИ услугите, предлагани от големите доставчици на облачни услуги (т.нар. hyperscalers).
Напоследък обаче главният изпълнителен директор Дженсън Хуанг се утвърди като ключова фигура в дебата за безопасността на ИИ, като твърди, че много от опасенията за сигурността всъщност са инженерни проблеми, които могат да бъдат решени чрез компютърни науки и разработване на продукти.
„Трябва да помислите какво е можело да се направи и какво е решението на проблема“, каза Хуанг в подкаст с Езра Клайн от The New York Times, публикуван миналата седмица по повод скорошните инциденти. „В бъдеще трябва да подобрите процесите си, така че да избегнете повторното възникване на подобни ситуации.“
*Материалът е с аналитичен характер и не е съвет за покупка или продажба на активи на финансовите и стоковите пазари.
| Валута | Цена | Δ% |
|---|---|---|
| EURUSD | 1.10 | ▲0.02% |
| USDJPY | 158.54 | ▼0.74% |
| GBPUSD | 1.31 | ▲0.08% |
| USDCHF | 0.84 | ▼0.48% |
| USDCAD | 1.43 | ▼0.02% |
| Референтен индекс | Цена | Δ% |
|---|---|---|
| Dow 30 | 48 089.30 | ▼2.15% |
| S&P 500 | 6 907.80 | ▼3.91% |
| Nasdaq 100 | 25 032.10 | ▼5.61% |
| DAX 30 | 24 605.60 | ▼2.84% |
| Криптовалута | Цена ($) | Δ% |
|---|---|---|
| Bitcoin | 60 771.80 | ▲1.15% |
| Ethereum | 1 708.90 | ▲1.61% |
| Ripple | 0.93 | ▲0.28% |
| Фючърс | Цена | Δ% |
|---|---|---|
| Петрол - лек суровUSD/bbl. | 83.60 | ▲0.97% |
| Петрол - брентUSD/bbl. | 89.86 | ▼0.23% |
| ЗлатоUSD/t oz. | 3 537.92 | ▼1.81% |
| ПшеницаUSd/bu. | 573.38 | ▼0.80% |
| Срочност | Цена | Δ% |
|---|---|---|
| US 10 Year | 106.62 | ▲0.61% |
| Germany Bund 10 Year | 122.74 | ▲0.74% |
| UK Long Gilt Future | 85.90 | ▲0.83% |