Команда Frontier Red Team компанії Anthropic опублікувала звіт про потенційну загрозу появи автономних шкідливих програм, які використовують невеликі мовні моделі для самовідтворення. За прогнозами фахівців, уже наступного року компактні моделі зі штучним інтелектом можуть навчитися поширюватися на різноманітних пристроях Інтернету речей (IoT), таких як розумні холодильники чи телевізійні приставки, без участі людини.
Під час експериментів дослідники з’ясували, що легкі моделі на кшталт Qwen3.5-9B та Gemma4-26B-A4B здатні налаштовувати сервери для виведення даних (inference) на недорогому чи різнорідному обладнанні завдяки квантуванню та розділенню робочого навантаження на частини. Наприклад, модель Gemma4-26B-A4B успішно запустилася на 15 бюджетних Android TV приставках із 4 ГБ оперативної пам’яті.
Попри це, поточні тести показали низку суттєвих обмежень. Жодна з протестованих невеликих моделей поки не здатна самостійно виконувати повний цикл зараження — від пошуку нових пристроїв і експлуатації вразливостей до встановлення корисного навантаження. Для оркестрації такого процесу в експериментах довелося залучати масивну модель GLM-5.2.
Крім того, процес розгортання подібного ШІ-хробака є надзвичайно повільним. За оцінками фахівців, налаштування середовища виведення для Gemma4-26B-A4B на дешевих приставках займає від 71 до 150 годин, що суттєво відрізняється від традиційних хробаків, які поширюються за лічені хвилини.
В Anthropic зазначають, що якщо темпи розвитку компактних моделей збережутися, подібні «вагові реплікатори» можуть стати реальністю вже найближчими роками. Водночас експерти наголошують, що дослідження демонструє гіпотетичні ризики, а не наявну кібератаку.
Джерела: arstechnica.com, tomshardware.com
