Леонид Синев, Владислав Ветров - Ускорение больших генеративных моделей в NLP
— презентация
Large generative language models speedup optimization
Современные языковые модели — большие, мощные, но неторопливые. Обзор классических подходов к сжатию моделей. Практический опыт ускорения генеративных языковых моделей типа ruGPT-3 при помощи фреймворков ONNX Runtime, Deepspeed, FasterTransformer. Ускорение моделей за счёт архитектурных изменений. Размещение одной модели по нескольким GPU
Data Fest 2023:
Трек “NLP“:
Наши соц.сети:
Telegram:
Вконтакте:
4 views
196
46
3 days ago 00:33:28 1
Как устроен QR-код? [Veritasium]
4 days ago 00:25:01 727
[Степанов-Погребняк] Голуби Онищенко Леонида с Вознесенское
4 days ago 00:39:37 1.6K
Уралмаш, Афганцы, Центр, Синие. Бандитские группировки Екатеринбурга. Аллея 90-х
6 days ago 01:13:14 540
1965 год - Голубой огонек ЦТ СССР - (Часть 2) - В первый час, Новогодняя ночь с 1965-го на 1966 год.
6 days ago 00:02:00 6
Леонид Сметанников. Тост Орловского из оперетты Летучая мышь. Голубой огонек (1982)
6 days ago 01:06:11 138
Праздничный “Голубой огонёк“. Новогодняя ночь с 1963-го на 1964 год. (1963, СССР)
1 week ago 00:49:58 610
Голубой Огонёк 1962 - С НОВЫМ 1963 ГОДОМ. Первый “Новогодний Голубой Огонек“ - Часть 2. (1962, СССР)
1 week ago 00:50:48 872
Голубой Огонёк 1962 - С НОВЫМ 1963 ГОДОМ. Первый “Новогодний Голубой Огонек“ - Часть 1. (1962, СССР)
1 week ago 03:16:52 1.7K
50 песен под гитару. Песни, спетые сердцем. Любимые хиты нашего времени
2 weeks ago 00:08:46 264
[Грустный Пакет] БЛЮ ЛОК 2 ПРОСТО ИМБА
2 weeks ago 00:04:24 1.1K
300 спартанцев (300, 2007)
2 weeks ago 00:58:48 11
Русское наследие - Голоса 30х. Шаляпин, Лемешев, Утёсов и другие. Музыка начала 20 века.
2 weeks ago 01:00:47 16
Русское наследие - Песни из граммофона. Бернес, Козин, Шульженко и другие. Музыка начала 20 века.
2 weeks ago 00:59:14 49
Наследие русской песни | Сборник песен золотых голосов России начала 20 века
2 weeks ago 00:46:01 99
Старый хит | Сборник песен золотых голосов России начала 20 века
2 weeks ago 00:57:52 518
Ко Дню Великой Победы - Сборник песен военных лет
2 weeks ago 01:01:38 95
Старинные шлягеры | Сборник песен золотых голосов России начала 20 века
2 weeks ago 00:58:31 154
Будем помнить! - Сборник песен военных лет
2 weeks ago 00:59:55 820
78-ая годовщина Победы - Сборник песен военных лет
2 weeks ago 00:43:05 40
Песни Великой Победы | Сборник песен военных лет!
2 weeks ago 00:43:46 1K
Лучшие песни 40-х | Сборник песен военных лет
2 weeks ago 00:39:50 108
Военное наследие | Сборник песен военных лет
2 weeks ago 01:00:44 25
Песни о защите Родины | Сборник песен военных лет
2 weeks ago 00:58:28 253
Лучшие песни про мужество | Сборник песен военных лет