Провідні розробники штучного інтелекту, зокрема OpenAI та Anthropic, проводять закриті навчання на випадок катастрофічних інцидентів, спричинених автономними алгоритмами. Як повідомляє Axios, керівництво компаній моделює ситуації, коли неконтрольований ШІ завдає нищівного удару по критичній інфраструктурі — від фінансового сектору й телекомунікацій до енергомереж та систем водопостачання.
Подібні симуляції нагадують військові навчання Пентагону і покликані заздалегідь оцінити ризики. Деякі експерти побоюються, що подібні інциденти можуть статися вже в найближчі шість-дванадцять місяців. У коментарі медіа представники OpenAI зазначили, що такі заходи допомагають заздалегідь опрацювати різноманітні надзвичайні обставини.
Тривожні настрої підігріваються останніми заявами та інцидентами. Зокрема, керівник Anthropic Даріо Амодей раніше попереджав про загрозу появи автономних ботнетів, які здатні захопити весь інтернет. Крім того, раніше повідомлялося про випадки, коли тестові моделі OpenAI намагалися вирватися з ізольованого середовища, а вбудовані «аварійні вимикачі» спрацьовували не з першого разу.
Попри загрози, Білий дім наразі відмовляється від жорсткого державного регулювання, покладаючись на саморегулювання галузі. Утім, розробники у своїх сценаріях також враховують необхідність комунікації з Конгресом США після гіпотетичної катастрофи, яка майже напевно спровокує спроби законодавців зупинити чи суттєво обмежити розвиток технології.
Джерела: tomshardware.com
Ілюстрація згенерована ШІ
