Сегодня в новостях
Об этом же в других СМИ
cursorinfo.co.il / 1 неделю назад
cursorinfo.co.il / 1 неделю назад
news.uaportal.com / 1 неделю назад
/ habr.com
Ученые выпустили xLSTM – достойного конкурента трансформерам
Архитектура LSTM была предложена в 1997 году немецкими исследователями Зеппом Хохрайтером и Юргеном Шмидхубером. С тех пор она выдержала испытание временем: с ней связано много прорывов в глубоком обучении, в частности именно LSTM стали первыми большими языковыми моделями.
Однако появление трансформеров в 2017 году ознаменовало новую эру, и популярность LSTM пошла на спад. Трансформеры оказались более масштабируемой архитектурой, к тому же способной хранить гораздо больше информации.
На днях, спустя 27 лет, создатели LSTM предложили улучшение своей технологии – xLSTM. Благодаря нововведениям xLSTM теперь может конкурировать с трансформерами и по перформансу, и по масштабируемости.
Читать на habr.comОб этом же в других СМИ
Жизнь на Марсе - ученые провели исследование и сделали поразительные выводы cursorinfo.co.il / 1 неделю назад
Самый богатый человек в истории – ученые впервые показали его лицо cursorinfo.co.il / 1 неделю назад
Ученые сделали из семян овса роботов. Они смогут сами проникать под землю tech.onliner.by / 1 неделю назад
Показать ещё
Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.