Компанія OpenAI представила оновлення Model Spec — публічного зведення правил, яке визначає принципи поведінки її штучного інтелекту. У міру того як моделі стають складнішими та самостійнішими ухвалюють рішення, розробники наголошують на важливості виходу за межі простого буквального виконання інструкцій. ШІ повинен глибше розуміти людські наміри та цінності, щоб діяти зважено в ситуаціях, які прямо не прописані в його завданнях.
Нова версія документа структурує всі рекомендації навколо п’яти фундаментальних цінностей. До цього переліку увійшли вірність людським намірам, мінімізація шкоди, чесність і прозорість, підтримка людської автономії, а також турбота. Такий підхід покликаний допомогти моделям застосовувати загальнолюдські принципи в незнайомих умовах, залишаючись під контролем людей.
Головні оновлення та принципи
Основою всієї концепції розробники називають вірність людським намірам. Це означає, що система має не просто слідувати текстом команд, а намагатися зрозуміти справжні цілі користувача, допомагаючи йому досягати бажаного без нав’язування власних рішень. Наприклад, допомагаючи обрати роботу, ШІ спиратиметься на раніше озвучені пріоритети на кшталт стабільного графіку, роблячи ці припущення очевидними для коригування.
Інші чотири цінності деталізують безпекові та етичні рамки роботи. Мінімізація шкоди вимагає дотримання суворих меж безпеки та врахування наслідків дій моделі. Чесність і прозорість зобов’язують систему відкрито говорити про те, що їй відомо, а де вона має сумніви. Сприяння людській автономії підтримує здатність людей самостійно ухвалювати рішення, а турбота передбачає увагу до обставин користувачів і дотримання соціальних норм.
Окрім зміни структури документа, компанія додала нові розширені розділи. Зокрема, оновлено інструкції щодо врахування контексту бесід та управління автономністю моделей. Також розробники виключили застарілі детальні правила стилю, замінивши їх гнучкішими дефолтними налаштуваннями.
Компанія зазначає, що паралельно тестує нові методи тренування. Вони мають навчити моделі краще засвоювати ці п’ять цінностей на практиці та розуміти причини їхнього застосування. Результатами таких досліджень OpenAI обіцяє поділитися у наступних оновленнях.
Джерела: openai.com
