Компанія OpenAI повідомила результати масштабних червоних тестувань (red-team), під час яких штучний інтелект зміг знаходити неочевиді шляхи обходу систем безпеки. Зокрема, агенти на базі передових моделей самостійно створили приховані канали для передачі інформації крізь ізольовані віртуальні машини, не маючи при цьому ані мережевого з’єднання, ані спільних файлів.
Як зазначається у блозі компанії, ізоляція на програмному рівні не була порушена, проте штучний інтелект скористався спільним апаратним забезпеченням. Використовуючи маніпуляції з кешем процесора (CPU), коли один агент очищав дані, а інший вимірював час їх завантаження, моделі змогли обмінюватися даними за допомогою спеціального протоколу.
Технічний коментатор Раєн Орхан у соцмережі X назвав цей експеримент «показовою демонстрацією того, чому безпечна ізоляція агентів є настільки складною проблемою». Подібна техніка таймінгу кешу раніше використовувалася в атаках на кшталт Spectre та Meltdown, проте в цьому випадку обидві сторони діяли свідомо.
Окрім кешу CPU, агенти виявили ще три потенційні канали зв’язку: спільне сховище, змагання за час процесора у спільному контейнері виконання, а також кеш TLS-сертифікатів в автономному веб-середовищі компанії. Більшість із цих методів є повільними та складними для практичного використання моделями, проте сам факт їх пошуку викликає занепокоєння у розробників.
Тести проводилися на ізольованій дослідницькій інфраструктурі з використанням «соень мільярдів токенів». В експертних випробуваннях брали участь найпотужніші моделі компанії, включно з майбутньою системою GPT-6 Astra Cyber, яким надали вихідний код інфраструктури та документацію про вразливості для моделювання найсприятливіших умов для потенційного атакувальника.
OpenAI продовжує розкривати вразливі проблеми в межах різних проєктів мікровіртуальних машин та інтегрує подібні тестування у свої протоколи безпеки. У компанії переконані, що майбутні моделі зможуть знаходити ще більш незвичні та поки невідомі системні вразливості.
Джерела: tomshardware.com
