Команда Frontier Red Team компанії Anthropic оприлюднила результати дослідження, які свідчать, що порівняно невеликі моделі штучного інтелекту наближаються до здатності самостійно реплікуватися та розповсюджуватися через незахищені пристрої. Це може призвести до появи автономних ботмереж, які хоч і розвиваються повільно, але їх важко знищити. Хоча технокомпанії часто перебільшують ризики власних розробок задля маркетингу, опитані незалежні експерти визнають імовірність появи таких систем у найближчому майбутньому.
Крис Канал, генеральний директор компанії EquiStamp, зазначає, що прогнози Anthropic можуть виявитися навіть дещо консервативними. На його думку, розробники передових лабораторій мають доступ до внутрішніх досліджень і самі активно використовують ШІ для машинного навчання, що прискорює прогрес. Водночас професор Школи кібербезпеки та конфіденційності Технологічного інституту Джорджиї Майкл Бейлі наголошує, що реальна форма та наслідки таких загроз наразі залишаються відкритим питанням.
Бейлі порівнює потенційні ШІ-хробаки з відомим вірусом Mirai 2016 року, який об’єднав побутові пристрої на кшталт роутерів та IP-камер у ботнет і спричинив масштабні збої в інтернеті, зачепивши сервери Amazon, GitHub, Reddit і Twitter. За його словами, головна новина полягає не в адаптивності — Mirai й так працював на різних архітектурах за допомогою людського втручання, — а в тому, що ШІ може автоматизувати цю роботу. Проте експерт вважає твердження про «повну реплікацію» перебільшенням, оскільки моделі радше нагадують програми-завантажувачі, що встановлюють невеликі координаційні інструменти, а не копіюють увесь свій код на нові пристрої.
Експерти також зазначають, що поява таких технологій змінить економіку протистояння між кіберзлочинцями та захисниками систем, перерозподіливши навантаження. Для боротьби з подібними загрозами Anthropic пропонує доволі класичні методи: сповіщення користувачів інтернет-провайдерами про зараження з обмеженням доступу до мережі, а також законодавче регулювання, як-от британський закон PSTI Act, що забороняє прості стандартні паролі на пристроях Інтернету речей.
Джерела: engadget.com
