Компанія Anthropic зробила важливий крок у сфері безпеки штучного інтелекту, надали стороннім дослідникам безпрецедентний доступ до своєї інфраструктури. Некомерційна організація METR отримала статус, що передбачає «доступ на рівні співробітника», а її команда тепер працює безпосередньо в офісах розробника Claude.
Це рішення стало першим реальним втіленням домовленостей, про які керівники провідних технологічних компаній говорили раніше. У вересні генеральний директор Anthropic Даріо Амодеї виступив із пропозицією інтегрувати незалежних аудиторів у робочі процеси провідних лабораторій, що тоді здобуло підтримку від лідерів галузі.
В офісах Anthropic уже розпочали роботу шість співробітників METR. Вони отримали корпоративне обладнання, офісні місця та доступ до внутрішніх інструментів, аналогічний тому, яким користуються власні команди компанії з оцінки ризиків.
У компанії наголошують, що подібна модель співпраці нагадує банківський нагляд, коли регулятори призначають постійних інспекторів у найбільші фінансові установи. Угоди такого типу мають переконати громадськість і ринок у надійності систем захисту.
Організація METR не отримує фінансування від компаній, що створюють штучний інтелект, а існує за рахунок приватних пожертв, грантів та підтримки державних органів, зокрема британського Інституту безпеки ШІ.
Експерти публікуватимуть результати своїх досліджень без права вето з боку Anthropic. Водночас компанія зможе вимагати редагування інформації, яка стосується комерційної таємниці, архітектури моделей або даних користувачів.
Окрім співпраці з METR, компанія продовжує партнерство зі сторонніми тестувальниками SecureBio та планує подальші кроки для розширення заходів безпеки перед новими етапами розвитку.
Джерела: arstechnica.com
