Google продовжує розвивати власне залізо для штучного інтелекту, анонсувавши два нові варіанти тензорних процесорів (TPU) восьмого покоління. Нові розробки — TPU 8tx та TPU 8i Max — спрямовані на розширення можливостей хмарної інфраструктури компанії, зокрема у сферах конфіденційності та обробки великих обсягів даних. Цей крок є частиною стратегії Google щодо зменшення залежності від сторонніх постачальників чипів для своїх хмарних сервісів.
TPU 8tx розроблений для сценаріїв, де пріоритетом є безпека та конфіденційність, наприклад, для урядових організацій або регульованих підприємств. Чип побудований на базі архітектури TPU 8t, але використовує процесори AMD EPYC 5-го покоління замість рішень на базі Arm. Основна перевага 8tx полягає в апаратній ізоляції: дані та ваги моделей залишаються захищеними навіть під час активної обробки. Це дозволяє компаніям проводити донавчання моделей на власних приватних даних без ризику їхнього витоку чи переміщення між кластерами.
Натомість TPU 8i Max орієнтований на роботу з «агентними» системами та довгим контекстом. Фактично це два чипи TPU 8i, об’єднані в одному корпусі. Таке рішення дозволяє подвоїти обсяг пам’яті (SRAM та HBM), а також пропускну здатність, що критично важливо для сучасних ШІ-агентів, які працюють з великими кодовими базами. За оцінками Google, це забезпечує вищу продуктивність на ват та квадратний метр площі дата-центру порівняно з попередніми рішеннями.
Окрім заліза, Google представила програмні інструменти для оптимізації роботи нових чипів. Зокрема, TPU Sync дозволяє автоматично переміщувати кеші KV (Key-Value) з пам’яті чипа в оперативну пам’ять хоста, що, за твердженнями розробників, скорочує затримки на 90%. Також з’явився сервіс Agent Compute Engine, який керує робочою пам’яттю агентів, призупиняючи сесії, коли вони неактивні.
Запуск нових чипів відбувається на тлі загострення конкуренції серед технологічних гігантів. Такі компанії, як Microsoft, Amazon, а також розробники ШІ, зокрема OpenAI та Anthropic, активно інвестують у власні напівпровідникові рішення. Мета одна — знизити домінування Nvidia на ринку спеціалізованого заліза для ШІ. Google стверджує, що завдяки модульному підходу до розробки TPU компанія здатна випускати спеціалізовані системи «за лічені місяці, а не роки», що дає їй гнучкість у швидкозмінному середовищі ШІ-технологій.
Джерела: tomshardware.com, techcrunch.com




