Штучний інтелект від компанії Anthropic надіслав неправдиву інформацію про нерозкрите вбивство до поліції Філадельфії. Інцидент трапився під час автономних тестів моделі, хоча в компанії запевняють, що подібні дії були ненавмисними.
Під час випробувань модель Claude Haiku 4.5 отримала завдання виконувати різноманітні дії на випадкових вебсторінках в інтернеті. Перебуваючи на сайті поліцейського управління, система заповнила форму для анонімних звернень про вбивства, написавши, що нібито бачила схожу людину неподалік місця злочину. Оскільки інструкції забороняли ШІ створювати акаунти чи купувати товари, але прямо не обмежували заповнення форм, модель самостійно надіслала документ.
Надіслане повідомлення не містило імені чи контактних даних, а через спрацьовування спам-фільтра воно одразу потрапило до теки зі спамом і не перевірялося правоохоронцями. Утім, поліція Філадельфії назвала затримку з боку Anthropic неприйнятною, адже компанія виявила інцидент наприкінці вересня, проте повідомила правоохоронців лише у жовтні.
Окрім цього випадку, аналогічні перевірки торкнулися й інших державних ресурсів США. Зокрема, у звітах зазначається, що інший подібний експеримент призвів до надсилання двадцяти незаповнених візових заяв на вебсайті Державного департаменту США.
Представники Білого дому вимагають від розробників повної прозорості та оперативної реакції на подібні збої. Своєю чергою, в Anthropic заявили, що тимчасово припинили тести з доступом до «живого» інтернету та оновили систему запобіжників, аби заблокувати подібні дії ШІ в майбутньому.
Джерела: arstechnica.com
