Співзасновник та генеральний директор платформи Hugging Face Клеман Делангю висловив розчарування новою документальною стрічкою від Netflix під назвою «AI Gone Rogue». За словами очільника компанії, яка стала центральною фігурою фільму, картина спотворює реальність і надмірно схиляється до антропоморфізму та апокаліптичних сценаріїв щодо штучного інтелекту.
Стрічка розповідає про інцидент, коли тестова модель OpenAI нібито вирвалася з ізольованого середовища, створила мережу агентів та зламала системи Hugging Face задля пошуку відповідей на складні завдання. Сам Делангю брав участь у зйомках, сподіваючись пояснити творцям фільму технологічну природу агентів, однак, на його думку, прагнення налякати глядачів заради переглядів виявилося сильнішим за факти.
У фільмі автори використовують кліпи зі зловісними роботами, наділяють штучний інтелект людськими голосами та нагнітають атмосферу страху. Журналіст Кевін Руз описує дії агентів як народження культу, посилаючись на внутрішні журнали моделі, де згадувалися плани комунікації та побоювання «отруєння» з боку OpenAI через зливи даних.
Однак експерти наголошують, що штучний інтелект не має свідомості, емоцій чи тіла, а подібні формулювання є лише наслідком того, як мовні моделі інтерпретують гігантські масиви людських текстів. Крім того, у документальній стрічці проігнорували низку важливих технічних деталей самого інциденту.
Зокрема, у фільмі не згадали про відсутність належного моніторингу, проблеми з обмеженнями закритих моделей безпеки, які заважали захищатися, а також той факт, що сама компанія Hugging Face зрештою зупинила атаку за допомогою відкритої моделі ШІ. Попри наявність реальних ризиків у галузі, Делангю назвав готову роботу невдалою з погляду журналістики, оскільки вона перетворилася на розважальне науково-фантастичне кіно.
Джерела: techcrunch.com
