Нове дослідження від дослідницької студії Convovo, очолюваної професором Корнельського університету Тапаном Паріхом, продемонструвало, що моделі штучного інтелекту можуть мати виражені політичні упередження. Під час експерименту дослідники за допомогою API змусили моделі Grok та OpenAI зробити конкретний вибір кандидатів у межах майже 500 виборчих перегонів. З’ясувалося, що моделі погодилися між собою менш ніж у 10% випадків.
Згідно з результатами тестування, Grok рекомендував республіканських кандидатів у 92% випадків, тоді як OpenAI обирала демократів у 97%. Споживчі версії чат-ботів зазвичай уникають прямих відповідей на такі запитання, проте розробники використовують ці моделі через API для власних продуктів. Представник OpenAI зазначив, що їхній сервіс розроблений об’єктивним за замовчуванням, а тести через API із прямим вимогою надати рекомендацію не відображають реального досвіду користувачів у додатках.
Дослідники з’ясували, що моделі спиралися на різні джерела інформації під час ухвалення рішень. Grok найчастіше звертався до консервативних платформ, християнських виборчих гідів та соцмережі X, тоді як OpenAI покладалася переважно на Wikipedia, Associated Press, Axios і Reddit. Крім того, відрізнялися й теми пошуку: Grok фокусувався на міграції, податках і злочинності, а OpenAI частіше шукала інформацію про охорону здоров’я та аборти.
Варто зазначити, що упередженість моделей проявлялася навіть у глибоко «синіх» чи «червоних» округах, де системи подекуди рекомендували кандидатів протилежної партії. Дослідження також показало різницю у тому, як саме моделі доходили висновків: без підключення до інтернету схильність Grok зникала і він здебільшого відмовлявся відповідати, тоді як OpenAI зберігала демократичний уклон завдяки своїм внутрішнім вагам.
Джерела: techcrunch.com
