Генеральний директор Microsoft Сатья Наделла виступив із гучною заявою щодо безпеки в галузі штучного інтелекту. У своїй публікації в соцмережі X він наголосив, що людство більше не може сприймати передові моделі як «набір чорних скриньок», чиї рішення та дії доводиться приймати на віру.
Наделла запропонував переглянути архітектуру довіри до технологій та відокремити самі моделі від керуючих систем, зосередившись на зовнішніх захисних механізмах. Очільник Microsoft переконаний, що розробники мають виходити з найгіршого сценарію: «Ми маємо припустити, що модель зкомпрометована, і тримати її під контролем від самого початку. Уявіть це як аварійне гальмо».
Серед ключових пропозицій Наделли — забезпечення незалежних аудитів, прозоре документування дій ШІ за допомогою захищених від підробки логів, а також гарантування того, що уповноважена людина завжди зможе зупинити або вимкнути систему просто під час виконання завдання. Подібні ініціативи перегукуються з нещодавніми закликами інших лідерів ринку, зокрема керівника Anthropic Даріо Амодеї, на тлі зростання занепокоєння через неконтрольовану поведінку сучасних алгоритмів.
Джерела: theverge.com, techcrunch.com
Фото: U.S. Embassy Jakarta, Indonesia (Flickr), суспільне надбання
