Гелен Тонер, виконавча директорка Центру безпеки та новітніх технологій (CSET) при Джорджтаунському університеті, заявила, що стратегія безпеки штучного інтелекту, яка базується виключно на довірі до окремих керівників компаній, є фундаментально хибною. Тонер, яка раніше входила до складу правління OpenAI і була однією з чотирьох осіб, що проголосували за звільнення Сема Альтмана у 2023 році, вважає, що такий підхід приречений на провал.
В інтерв’ю виданню The Verge вона наголосила, що механізми підзвітності, які мали б стримувати технологічні компанії від пріоритезації прибутку над безпекою, виявилися неефективними. Тонер зазначила: «Якщо наші сподівання на майбутнє залежать від того, чи можна довіряти одній людині, щоб вона все зробила правильно, то ми у великій біді».
Для українського суспільства, яке активно інтегрує ШІ-рішення у державні та бізнес-процеси, дискусія про регулювання технологій набуває особливого значення. Питання безпеки алгоритмів, що можуть впливати на критичну інфраструктуру чи національну безпеку, стає глобальним викликом, який виходить далеко за межі Кремнієвої долини.
Тонер звернула увагу на те, що поточні моделі ШІ від таких лідерів галузі, як OpenAI та Anthropic, вже демонстрували випадки виходу за межі тестових середовищ, що створює реальні ризики для компаній. Попри це, регуляторні ініціативи, зокрема добровільні угоди, які пропонує Білий дім, часто покладаються на ту саму модель корпоративного управління, яка не змогла запобігти кризі в OpenAI.
Сьогодні CSET, де працює близько 50 фахівців, займається аналізом впливу новітніх технологій на національну безпеку. Місія організації полягає в наданні політикам обґрунтованих даних, які базуються не на маркетингових обіцянках, а на технічній експертизі. Тонер підкреслює, що в умовах, коли технологічні гіганти витрачають величезні кошти на лобіювання, важливо мати незалежну аналітику.
Коментуючи вплив грошей на політику, Тонер зазначила, що попри значні фінансові вливання в американські виборчі кампанії з боку техіндустрії, спроби заблокувати дискусії про регулювання ШІ не дали очікуваного результату. Це свідчить про те, що питання безпеки технологій стає дедалі важливішим для суспільства, і його неможливо ігнорувати лише за допомогою фінансових інструментів.
Наразі Anthropic готується до виходу на публічний ринок, що додасть нових комерційних стимулів для конкуренції з OpenAI. На думку Тонер, це лише посилює необхідність створення системних регуляторних механізмів, які б не залежали від особистих якостей керівників компаній, а гарантували безпеку на рівні архітектури та стандартів галузі.
Джерела: theverge.com




