Платформа Ollama, призначена для локального запуск відкритих моделей штучного інтелекту, оголосила про додавання підтримки генерації мовлення (text-to-speech) для користувачів комп’ютерів Mac. Версії для операційних систем Windows та Linux отримають цю функцію згодом.
Проєкт Ollama побудований на основі відкритих джерел та залучає фреймворк машинного навчання Apple MLX на комп’ютерах з архітектурою Apple Silicon. Завдяки використанню єдиної пам’яті чіпів компанії, моделі працюють ефективніше. Платформа дозволяє завантажувати сумісні відкриті моделі з репозиторіїв на кшталт Hugging Face та запускати їх локально без потреби підключення до інтернету чи надсилання даних на сторонні сервери.
Нововظведення стало можливим завдяки інтеграції сімейства моделей Phonon, розроблених компанією Gradium. Це компактні моделі перетворення тексту на мовлення, які генерують аудіо в реальному часі. Слухати відповіді штучного інтелекту можна одразу під час їх створення, не чекаючи на завершення генерації всього тексту.
Під час тестування на MacBook Pro з чипом M5 Max розробники зафіксували на 35% швидшу генерацію мовлення порівняно з оригінальною реалізацією Gradium. При цьому показник частоти помилок слів збігався з еталонними значеннями у бібліотеці Hugging Face Transformers. Моделі Phonon підтримують англійську, французьку, німецьку, іспанську та португальську мови, а також містять окремий багатомовний варіант.
Користувачі також можуть обирати серед різних голосів із регіональними акцентами. Оновлення вже доступне для комп’ютерів Mac із процесорами Apple Silicon, які використовують Ollama версії 0.40.11 або новішої.
Джерела: 9to5mac.com
