Поки технологічні компанії витрачають мільярди доларів на закупівлю графічних процесорів для хмарних дата-центрів, стратегія Apple у сфері штучного інтелекту демонструє зовсім інший підхід. Завдяки архітектурі єдиної пам’яті в комп’ютерах Mac та спеціалізованому фреймворку MLX, локальний запуск масштабних мовних моделей стає реальністю на робочому столі. По суті, кілька пристроїв об’єднуються у потужну систему для локального опрацювання складних завдань.
Корпоративні користувачі та розробники отримують можливість працювати з відкритими моделями на власній апаратній базі. Наприклад, дослідження компанії показали, що зв’язка з кількох комп’ютерів Mac Studio здатна опрацьовувати великі текстові чи мультимедійні дані зі швидкістю, що перевищує людське читання, споживаючи при цьому мінімальну кількість енергії порівняно з традиційними серверними стійками.
Такий підхід нагадує еволюцію серверних рішень минулого, які тепер перемістилися з великих дата-центрів безпосередньо в офіси. Інструменти на зразок MLX розроблені спеціально для ефективного використання потенціалу універсальної пам’яті чипів Apple, забезпечуючи високу швидкість передавання даних між компонентами системи без вузьких місць, притаманних дискретним відеокартам.
Окрім потужних робочих станцій, локальний штучний інтелект стає доступним і на звичайних ноутбуках завдяки легким програмам для роботи з відкритими вагами моделей офлайн. Це дозволяє виконувати повсякденні завдання, писати код чи редагувати відео без постійного підключення до інтернету. У майбутньому подібні локальні рішення можуть повністю змінити ринок корпоративних обчислень та знизити залежність компаній від дорогих хмарних сервісів.
Джерела: 9to5mac.com




