Компанія OpenAI розкрила технічні особливості побудови власної рекламної платформи для ChatGPT, розробленої з урахуванням специфіки діалогових інтерфейсів. На відміну від класичних пошукових систем, де реклама базується на окремих запитах користувача, розмова в чат-боті розвивається поступово та змінює свій контекст протягом кількох кроків. Для розв’язання цієї задачі інженери створили спеціальну рекламну екосистему на базі окремо навченої великої мовної моделі.
Нова архітектура спирається на три ключові дизайнерські рішення. По-перше, система використовує сесії зі збереженням стану, пам’ятаючи інформацію як між різними етапами однієї бесіди, так і в межах кількох сеансів. По-друге, спеціальна мовна модель аналізує наміри користувача через виклики інструментів для пошуку, ранжування та аукціону. По-третє, процес вибору реклами повністю відділений від генерації основних відповідей ChatGPT.
Завдяки ізоляції рекламного сервісу від базового продукту, можливі затримки або збої в показі оголошень жодним чином не впливають на роботу чат-бота. Рекламний модуль самостійно оцінює доцільність демонстрації оголошення та може не показувати нічого, якщо відповідної пропозиції немає. У компанії зазначають, що менш ніж за 200 днів після запуску річний дохід рекламного напряму досяг мільярда доларів, а свої оголошення на платформі вже запустили понад 100 тисяч рекламодавців.
Джерела: openai.com
