Компанія OpenAI оголосила про масштабне оновлення заходів безпеки для ChatGPT, яке передбачає випуск регулярних звітів та запровадження нових обмежень для користувачів, зокрема для неповнолітніх. У третьому кварталі 2026 року компанія передала правоохоронним органам понад 200 звернень щодо потенційних загроз насильства, співпрацюючи з експертами з поведінкової та ментальної підтримки.
Перший офіційний звіт про безпеку спільноти (Community Safety Report) з’явиться на початку 2027 року та охоплюватиме другу половину 2026-го. У подальшому такі звіти публікуватимуть кожні шість місяців. Документ міститиме дані про ефективність захисних алгоритмів, приклади виявлення загроз та нові правила модерації.
Штучний інтелект відтепер видаватиме менш детальну інформацію на запити про минулі масові напади та їхніх організаторів. Нові правила обмежують деталізацію щодо використаної зброї та масштабів завданої шкоди, щоб запобігти популяризації нападників, незалежно від віку користувача.
Для користувачів віком до 18 років діють ще суворіші правила. Система передбачає додаткові обмеження на отримання практичної інформації про зброю та захисні системи. Крім того, алгоритми прогнозування віку автоматично переводять користувачів у захищений режим на основі поведінкових патернів.
Якщо чат-бот помічає ознаки фіксації на насильстві, система здатна автоматично завершувати діалог. У разі повторення подібних ситуацій обліковий запис може бути тимчасово заблоковано для запобігання можливим загрозам у реальному житті.
Джерела: openai.com
