Kotenkov Igor | Nearest Neighbors Language Models (part 1) | kNN-LM model

00:00 - 2:32 Вступление 2:32 - 9:29 Краткая история трансформеров 9:29 - 11:48 Тренд на доступные языковые модели 11:48 - 15:37 Что внутри модели? 15:37 - 17:49 Language Models 101 17:49 - 20:57 KNN and ANN 101 20:57 - 24:29 Datastore and hidden states 24:29 - 30:09 kNN-LM pipeline 30:09 - 34:05 Перплексия и датасет 34:05 - 44:35 Метрики и выводы из них Ссылка на презентацию: !AlnN0aqNwShslQucZAy9R5VeGRRt?e=Gc3dgp Наши соц.сети: Telegram: Вконтакте: