Яндекс создал сервис для запуска ИИ на смартфоне и ПК с экономией на мощностях

Яндекс создал сервис для запуска ИИ на смартфоне и ПК с экономией на мощностях
ФОТО: ferra.ru

Владимир Малиновский, исследователь из научного отдела Яндекса, разработал сервис для запуска большой языковой модели (LLM) с 8 млрд параметров на обычных компьютерах и смартфонах. Это решение позволяет значительно сократить расходы на вычислительные мощности, что делает использование нейросетей более доступным для корпораций, стартапов и исследователей.

Исходный код проекта был опубликован на GitHub и доступен в открытом доступе. .

яндекс создал сервис запуска смартфоне экономией мощностях

2024-12-9 11:05