Topic: Modern word embeddings and language models
Abstract: Дайджест про эволюцию векторных представлений слов для нейронных сетей начиная от word2vec и заканчивая BERT’ом. Расскажу, какие техники появлялись в state-of-the-art языковых моделях, в том числе рассмотрим, как обстоят дела с русским языком.
Presentation: