Компанія OpenAI оголосила про випуск ChatGPT Cyber — нової моделі, спеціально розробленої для завдань у сфері кібербезпеки. Інструмент став частиною розширеної програми Daybreak Red, яка надає фахівцям доступ до передових розробок для пошуку вразливостей та розробки методів захисту. Ініціатива спрямована на підтримку професіоналів, що працюють з критично важливою інфраструктурою, як-от енергомережі чи системи водопостачання, і супроводжується інвестиціями в розмірі 1 мільярда доларів.
Актуальність таких інструментів підтверджується реальними прикладами. Макс Юстіч, технічний директор та співзасновник стартапу Charge Robotics, за допомогою однієї з моделей OpenAI (GPT 5.6 Sol) виявив критичну вразливість в операційній системі Ubuntu. За словами Юстіча, він просто надав штучному інтелекту доступ до коду з проханням знайти помилки, і вже за дві години система виявила складну вразливість, яку людині було б вкрай важко помітити. Про проблему повідомили проєкт Debian, який оперативно випустив патч.
Боротьба за безпеку коду
OpenAI активно використовує власні потужності для аудиту відкритого програмного забезпечення. Компанія відзвітувала про сканування ядра Linux, де було виявлено 948 потенційних проблем, а також про знаходження 81 раніше невідомої вразливості у веббраузері Firefox. Ерік Воллес, дослідник з технічної команди OpenAI, підкреслив, що компанія спрямовує значні обчислювальні ресурси на пошук та виправлення вразливостей у відкритому коді на безоплатній основі.
Попри успіхи, експерти вказують на серйозні виклики. Існує побоювання, що «вікно можливостей» для захисників цифрової інфраструктури стрімко звужується, оскільки моделі ШІ стають дедалі ефективнішими інструментами для хакерів. Макс Юстіч зазначає, що OpenAI останнім часом обмежила можливості програми Daybreak Blue, зробивши її менш ефективною для пошуку вразливостей, ймовірно, з міркувань безпеки.
«Я можу лише уявити, що можна зробити, маючи більше часу та доступ до менш обмежених моделей. Нам варто очікувати, що протягом наступних кількох місяців будуть знайдені та використані надзвичайно божевільні помилки», — написав Юстіч у соцмережах.
Критику викликає і дисбаланс у доступі до технологій. У той час як фахівці з кібербезпеки змушені працювати з обмеженими інструментами, зловмисники можуть використовувати моделі з відкритими вагами, які не мають жодних запобіжників. Також виникають питання щодо пріоритетності ресурсів: хоча пошук вразливостей у Linux коштував 1,2 мільйона доларів, це значно менше, ніж 6 мільйонів, витрачених компанією на дослідження в інших галузях, наприклад, у гідродинаміці. Наразі в програмі Daybreak беруть участь лише кілька тисяч фахівців, що, на думку спостерігачів, недостатньо для протистояння загрозам, які масштабуються разом із розвитком ШІ.
Джерела: techcrunch.com
