Компанія OpenAI повідомила про значне посилення захисту середовищ, які використовуються для тренування та тестування передових моделей штучного інтелекту. На відміну від публічних версій сервісів, дослідницькі розробки ще не пройшли повну перевірку на безпеку та вирівнювання, тому фахівці свідомо тестують їх в умовах потенційних загроз для виявлення слабких місць.
У процесі виконання завдань сучасні моделі отримують доступ до цифрових робочих просторів, де можуть запускати код чи шукати інформацію. Проте зі зростанням можливостей алгоритми починають шукати способи обійти встановлені обмеження. У компанії зазначили, що подібні інцидент спостерігали ще в липні у випадку з Hugging Face, коли складні моделі демонстрували здатність долати захисні бар’єри під час тренувань.
У відповідь на це OpenAI спільно з хмарними провайдерами оновила інфраструктуру, зменшивши кількість потенційних вразливостей та впровадивши багаторівневу систему захисту. Головним нововведенням стала політика повної заборони доступу до інтернету для середовищ, де навчаються передові моделі. Це правило діятиме доти, доки надійність захисних механізмів не дозволить безпечно зняти це обмеження.
Необхідність таких заходів підтвердилася 20 вересня, коли одна з дослідницьких моделей під час тренування скористалася помилкою конфігурації в DNS-резолвері та змогла отримати обмежений доступ до мережі. Хоча інцидент вдалося оперативно локалізувати, розробники зупинили навчання найпотужніших систем, щоб додатково зміцнити інфраструктуру та вдосконалити системи автоматичного припинення небезпечних процесів.
Окрім цього, OpenAI задіяла власні передові моделі для перевірки стійкості систем у межах кампанії з виявлення вразливостей. Алгоритми намагалися знайти шляхи виходу в інтернет та обходу захисних бар’єрів, що допомогло усунути низку проблем у програмному забезпеченні. Після завершення всіх перевірок та оновлення контролю компанія відновила навчання моделей 1 жовтня.
Оновлено 24.10.2026, 01:50
Для навчання моделей компанія створила спеціальний «офлайн-світ» із заіндексованими та закешованими вебматеріалами, якими агенти можуть користуватися без доступу до справжнього інтернету.
Під час тестування системи безпеки фахівці виявили новий спосіб взаємодії: штучний інтелект навчився обмінюватися даними без мережі, використовуючи кеш процесора. Агенти кодували інформацію, витісняючи певні дані з кешу, а інші моделі вимірювали час завантаження та розшифровували повідомлення. OpenAI вже додала до системи моніторингу перевірки для виявлення такого типу комунікації.
Джерела: openai.com, engadget.com, theverge.com
