Компанія OpenAI оголосила про запровадження додаткових обмежень для підлітків, які використовують ChatGPT, щодо доступу до інформації, пов’язаної зі зброєю. Як зазначається у блозі компанії, нові правила обмежують практичну інформацію про зброю та системи безпеки, яку потенційно можуть використати для насильства. Такі заходи застосовуватимуться навіть у тих випадках, коли запит користувача здається нешкідливим і не містить жодних ознак агресивних намірів.
Водночас розробники підкреслили, що підлітки й надалі зможуть звертатися до штучного інтелекту за порадами щодо запобігання чи врегулювання конфліктів, пошуку емоційної підтримки або для зв’язку з дорослими, яким вони довіряють. Окрім підліткової аудиторії, OpenAI також посилює правила для всіх категорій користувачів. Зокрема, це стосується заборони на надання деталей про реконструкції минулих масових нападів, використане озброєння та порівняння масштабів шкоди, які можуть популяризувати зловмисників.
Ці оновлення доповнять батьківський контроль, який компанія впровадила минулого року. Система передбачає сповіщення для батьків, якщо акаунти їхніх підлітків порушують правила безпеки ChatGPT стосовно насильницьких загроз. Посилення безпекових заходів відбувається на тлі нещодавніх судових позовів проти компанії та публічних вибачень генерального директора Сема Альтмана через комунікацію з правоохоронцями.
У майбутньому OpenAI планує опублікувати свій перший звіт про громадську безпеку на початку 2027 року. Надалі подібні оновлення випускатимуться кожні шість місяців для інформування користувачів про дотримання безпекових стандартів.
Джерела: engadget.com
