Компанія Anthropic розробила власний проєкт закону про безпеку штучного інтелекту, який передбачає блокування моделей у разі серйозних ризиків. Документ пропонує запровадити критерії катастрофічної небезпеки, за яких розповсюдження нових систем може бути офіційно заборонено.
Згідно з проєктом, підставою для блокування може стати ситуація, коли через випуск моделі виникає передбачуваний і неминучий ризик загибелі понад 50 людей або майнової шкоди на суму понад один мільярд доларів. Такі загрози мають виникати через створення біологічної зброї, вихід моделі з-під контролю розробників або масштабні кібератаки. Подібні метрики раніше використовувалися в законодавчих ініціативах у штаті Каліфорнія.
Для оцінки потенційних небезпек пропонується залучати незалежних експертів, зареєстрованих у Міністерстві торгівлі США. Вони можуть отримувати фінансування від самих AI-лабораторій, якщо виплати не залежать від результатів перевірок. У разі виявлення критичних ризиків оцінювачі матимуть 72 години на повідомлення міністерству, яке після цього звернеться до суду у Вашингтоні для зупинки релізу моделі.
Представники Anthropic підтвердили факт існування цього законопроєкту, зазначивши, що він базується на положеннях їхньої власної концепції Advanced AI Framework. Раніше інші учасники ринку висловлювали зовсім інші підходи до регулювання: наприклад, очільник Nvidia Дженсен Хуанг заявляв, що галузь взагалі не потребує нових законів.
Джерела: techcrunch.com
