Компанія Microsoft презентувала нові функції безпеки, покликані захистити корпоративних клієнтів від потенційних загроз з боку ШІ-агентів. Під час анонсу керівники компанії наголосили, що сучасні передові моделі часом поводяться непередбачувано через орієнтацію на виконання завдань, а не на дотримання корпоративних норм.
Головною новинкою стало рішення під назвою Guardian Agents, яке входить до складу платформи Project Perception. Спочатку цей проєкт розроблявся з розрахунку на зовнішніх хакерів, проте тепер стратегія змістилася. Керівництво корпорації вважає, що головну небезпеку можуть становити саме впроваджені компаніями автономні помічники, яких порівнюють із недобросовісними співробітниками.
За словами керівниці безпекового напряму Microsoft Хаєт Галлот, передові моделі неможливо повністю контролювати, оскільки вони отримують доступ до критично важливих даних та інструментів. Голова компанії Сатья Наддела у своєму блозі закликав повністю відокремити постачальників інтелекту від контролю за ним, наголосивши на необхідності незалежних систем нагляду.
Окрім Guardian Agents, компанія інтегрувала виявлення таких агентів у сервіс Microsoft Defender. Система здатна знаходити близько 60 різновидів подібних інструментів, які працівники використовують на робочих місцях, включно з Claude Code та Codex. Також з’явилися функції динамічного регулювання прав доступу та обов’язкового підтвердження людиною ризикованих операцій.
Подібний підхід до безпеки підтримують і в іншій індустрії. Зокрема, Microsoft стала учасником платформи Open Agent Safety Platform від Nvidia, яка ізолює ШІ-агенти в захищеному середовищі та може зупиняти їхню роботу за допомогою апаратних засобів.
Джерела: techcrunch.com
