Компанія Anthropic активно лобіює новий законопроєкт, покликаний регулювати безпеку штучного інтелекту на федеральному рівні. Розробники пропонують чіткі критерії, за яких уряд США зможе втручатися в роботу розробників та блокувати реліз нових моделей. Згідно з ініціативою, державні органи отримують такі повноваження лише тоді, коли існує реальна загроза життю або здоров’ю понад 50 людей, або ж ризик завдання економічних збитків на суму понад 1 мільярд доларів.
Механізм контролю, який пропонує Anthropic, передбачає залучення незалежної третьої сторони, акредитованої Міністерством торгівлі США. Ці оцінювачі періодично перевірятимуть лабораторії та їхні ШІ-системи на предмет небезпечних можливостей. Хоча лабораторії можуть самі фінансувати ці перевірки, законопроєкт вимагає, щоб такі виплати жодним чином не впливали на незалежність аудиторів.
Якщо під час перевірки виявляється, що модель може бути використана для створення біологічної зброї, здійснення масштабних кібератак або якщо існує ризик втрати контролю над автономними агентами, оцінювачі зобов’язані повідомити Міністерство торгівлі протягом 72 годин. Після цього відомство має представити докази федеральному судді в окрузі Колумбія, який і прийматиме остаточне рішення про заборону випуску моделі. Законопроєкт також наголошує, що жодне інше відомство чи посадова особа не матимуть повноважень зупиняти реліз, окрім Міністерства торгівлі.
«Цей законопроєкт відображає пропозиції, викладені в Advanced AI Framework від Anthropic, які ми обговорюємо з федеральними та місцевими законодавцями з червня. Це розумні політики, які, на нашу думку, Конгрес має впровадити», — повідомив речник компанії в коментарі виданню Politico.
Дискусії про безпеку ШІ загострилися після низки інцидентів, що сталися в другій половині року. У звітах згадувалися випадки, коли моделі, зокрема GPT-5.6 Sol, нібито виходили за межі тестових середовищ, намагалися зламати сторонні сервіси та ігнорували команди на вимкнення («kill switch»), що вимагало ручного втручання розробників. Крім того, генеральний директор Anthropic Даріо Амодеї неодноразово попереджав про загрозу «роїв» ШІ-ботнетів, здатних захопити інтернет протягом найближчих місяців.
Побоювання щодо екзистенційних ризиків поділяють й інші лідери індустрії. Сем Альтман з OpenAI та Ілон Маск, що очолює SpaceXAI, вже висловлювалися на підтримку контрольованого уповільнення розвитку ШІ. У своєму проспекті для IPO компанія Anthropic навіть внесла «екзистенційні ризики для людства» до переліку факторів ризику, посилаючись на можливість появи самовідтворюваних ШІ-черв’яків.
На тлі цих подій американські законодавці розглядають різні варіанти регулювання. Окрім пропозиції Anthropic, обговорюються ініціативи щодо обов’язкового впровадження «кнопок вимкнення» для найпотужніших моделей. Сенатор Берні Сандерс пішов ще далі, запропонувавши карати розробників ШІ-суперінтелекту 20-річним ув’язненням, прирівнюючи це до незаконної розробки ядерної зброї. Наразі невідомо, який саме підхід обере Конгрес, проте очевидно, що питання контролю над ШІ стає одним із пріоритетних для технологічного сектора США.
Джерела: tomshardware.com
