Снимка: iStock

С нарастването на мощността на моделите с изкуствен интелект, потенциалът за злоупотреба с тези модели нарасна, както и искането за предпазни мерки, които могат да предотвратят подобни злоупотреби. Компаниите с изкуствен интелект сега трябва да се движат по деликатна тясна линия между зачитането на поверителността на своите корпоративни клиенти и наблюдението на употребата за евентуални проблеми, пише TechCrunch. 

Усещайки възможност да изпревари конкурента си Anthropic, OpenAI току-що обяви подход за безопасност, ориентиран към поверителността, за наблюдение на злоупотреби. Компанията представя предварителен преглед на нова услуга за избрани клиенти, която нарича Private Safety Processing. Това е автоматизирана система, която следи за потенциални злоупотреби, като едновременно с това не запазва никакви данни на клиента.

Тази система очевидно противоречи на наскоро обявената политика за запазване на данни на Anthropic. Политиката, която раздразни някои клиенти, позволява на лабораторията с изкуствен интелект да съхранява потребителски данни, всички техни сесии - и разговорите в тях, за период от 30 дни, когато става въпрос за „покрити модели“. Тези модели включват всички модели от клас Mythos и „бъдещи модели с подобни възможности“, казва компанията.

Тази политика, обявена през юли, е разработена с цел безопасност, позволявайки на лабораторията да пресява и анализира потенциални нередности. Тя обаче силно обезпокои някои предприятия, които обработват големи количества чувствителни данни и не искат те да бъдат съхранявани (или проверявани) от лабораторията за изкуствен интелект.

OpenAI – подобно на повечето други компании за изкуствен интелект – вече предоставя на клиентите си относително ниво на поверителност, като се придържа към политика, известна като „Нулево запазване на данни“. ZDR използва агенти в OpenAI API, за да наблюдава за злоупотреби на база сесия.

По този начин данните на клиентите не се запазват от компанията, но компаниите все още могат да сканират за лоша активност без нужда от човешка намеса. Струва си да се отбележи, че Anthropic също до голяма степен спазва ZDR – освен когато става въпрос за „покрити модели“, като Fable.

*Материалът е с аналитичен характер и не е съвет за покупка или продажба на финансови активи на фондовите пазари.