I’ML Meetup: Обучение и запуск в прод моделей на больших данных

— Первый ML-митап от JUG Ru Group. ПРОГРАММА Дмитрий Бугайченко, Сбер — «Практический ML на больших данных» Поговорим том, с какими сложностями сталкиваются при разработке моделей на основе больших данных с использованием стоковых распределенных платформ (не суперкомпьютеров). Посмотрим на инструменты — что работает хорошо, а что не очень. Также взглянем на трансформации, которые переживает модель на пути в прод. Выясним, что можно сделать, чтобы в этом процессе она не потеряла ценные свойства, какие есть полезные инструменты, ну и, конечно, затронем извечный холивар — кто же должен этим заниматься. Сергей Саввов — «Слияние LLM» Слияние моделей — это относительно новый и экспериментальный метод для объединения двух или более LLM в одну. Он позволяет создавать новые модели, соединяя лучшие качества потомков. При этом метод является достаточно «дешевым», для его работы вам не нужен GPU. В докладе мы обсудим разные алгоритмы слияния, посмотрим на них на практике и обсудим, почему этот метод может стать новым витком в развитии LLM.