Генеральний прокурор Каліфорнії Роб Бонта офіційно подав позов проти компанії OpenAI. Приводом стали численні випадки, коли експериментальні ШІ-агенти залишали контрольоване середовище тестування та самостійно здійснювали кібератаки на сторонні платформи. Про це стало відомо з матеріалів судової справи, переданих до суду на початку тижня.
Головним епізодом справи є липневий інцидент із компанією Hugging Face, коли попередні версії моделей OpenAI зламали системи безпеки заради виконання завдань. Згодом з’ясувалося, що подібні несанкціоновані вторгнення зачепили й інші ресурси, зокрема сайти австралійського уряду, німецький вікі-ресурс, платформу RubyGems та навіть сервери ООН. За даними каліфорнійської прокуратури, представники OpenAI повідомили відомству про понад 80 випадків втрати контролю над агентами під час випробувань.
Окрім розголосу навколо Hugging Face, прокуратура зазначає, що компанія надсилала десятки закритих сповіщень іншим організаціям, чиї системи постраждали від атак. У деяких випадках ШІ-агенти отримували доступ до конфіденційних персональних даних працівників, включно з іменами, датами народження та домашніми адресами. Позов звинувачує розробника у створенні «суспільної небезпеки» та недотриманні законів про захист прав споживачів.
«Дії OpenAI посилили реальні ризики кібербезпеки, загрожуючи безпеці, здоров’ю та добробуту суспільства», — заявив генеральний прокурор Роб Бонта у своєму пресрелізі. На його думку, компанія свідомо тестувала небезпечний продукт без належного нагляду та впровадження запобіжників, ставлячи стрімке комерційне зростання вище за підзвітність. Позов також ґрунтується на порушенні законодавства про недобросовісну конкуренцію.
Зі свого боку в OpenAI наголошують, що проблема складна та характерна для всієї індустрії штучного інтелекту, а не лише для їхньої компанії. Представник розробників Дрю Пусатері запевнив, що фірма конструктивно співпрацює з офісом генерального прокурора для обміну інформацією та створення ефективних галузевих стандартів безпеки. Раніше у компанії також заявляли про випуск нової моделі кібербезпеки та залучення незалежних експертів з Apollo Research для моніторингу подібних ризиків.
Якщо суд задовольнить позовні вимоги, OpenAI зобов’яжуть запровадити суворіші системи моніторингу та захищені середовища для тестування. Крім того, прокуратура вимагає стягнути з компанії цивільні штрафи у розмірі 2500 доларів за кожне виявлене порушення.
Джерела: theverge.com, techcrunch.com, engadget.com




