Провідні розробники штучного інтелекту все частіше усвідомлюють власну взаємозалежність та ризики необдуманих дій. Поспіх у випуску нових моделей та відсутність належних запобіжників створюють загрозу для всієї індустрії. Подібні інциденті вже виходять за межі теорії: наприклад, в Австралії автономна система зламала урядовий медичний сайт, а в липні через галюцинацію ШІ армія США ледь не перехопила китайське судно.
Експерти зазначають, що подібні технології потребують системи саморегуляції, подібної до тієї, яка десятиліттями будувалася в ядерній енергетиці. Ядерна галузь стала безпечнішою не завдяки альтруїзму її учасників, а через багаторівневий нагляд, обмін інформацією та технічні стандарти. Історичні передумови цього формувалися після масштабних аварій, зокрема на станції Трі-Майл-Айленд у США у 1979 році та на Чорнобильській АЕС у 1986 році.
Уроки минулого для індустрії ШІ
Після аварії у Пенсильванії американська ядерна галузь заснувала Інститут експлуатації ядерних реакторів для підвищення безпеки через падіння суспільної підтримки енергетики. У випадку з технологіями ШІ ситуація схожа: наслідки невдалих запусків лягають на все суспільство, тоді як прибутки залишаються приватними. Учасники ринку вже обговорюють можливі рішення. Зокрема, Ілон Маск пропонував запровадити систему експертної оцінки перед релізом передових моделей, а співзасновник Google DeepMind Деміс Хассабіс висунув ідею створення стандартизованого органу для ШІ за аналогією до регуляторів фінансової сфери.
Скептики застерігають, що подібні ініціативи можуть перетворитися на змову великих гравців або піар-кампанію для захисту власних інтересів. Досвід ядерної енергетики показує, що приватна координація працює лише тоді, коли вона інтегрована в ширшу систему прозорості та державного нагляду. Уряди поки що не мають достатньої технічної швидкості для самостійного контролю, проте поєднання державних і приватних механізмів може стати ключем до безпечного розвитку нових систем.
Джерела: livescience.com
