/ habr.com
Новая методика оптимизации LLM сокращает затраты памяти до 75%
Исследователи токийского стартапа Sakana AI разработали новую технологию, которая позволяет языковым моделям более эффективно использовать память.
Это позволит предприятиям сократить расходы на создание приложений на основе больших языковых моделей (LLM) и других моделей на основе Transformer.Метод называется « универсальной памятью трансформеров».
Он использует специальные нейронные сети для оптимизации LLM с целью сохранения важных фрагментов информации и исключения избыточных деталей из контекста.
Читать на habr.comОб этом же в других СМИ
Чем грозит миру новая вспышка метапневмовируса, предупредили в ВОЗ cursorinfo.co.il / 1 неделю назад
Ожидаемый результат: в Rocksteady прошла новая волна увольнений из-за провала Suicide Squad: Kill the Justice League gagadget.com / 1 неделю назад
OnePlus Nord 4 получает обновление OxygenOS 15 в Индии: новые функции ИИ, улучшение производительности и оптимизации системы gagadget.com / 2 недели назад
Показать ещё
Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.