Думаешь, было бы здорово иметь собственный GPT у себя на компьютере? А как насчёт LLM прямо у себя на телефоне?
И как заставить такую модель работать эффективно с конкретными материалами и текстами? Обо всём вы узнаете в этой лекции.
Таймкоды:
00:00 - Вступление
01:13 - Что такое GPT, отличия обычной и большой языковой модели
08:27 - На что способна LLM?
11:40 - Что нужно для работы с LLM?
17:00 - Установка Ollama, локальный запуск
19:35 - Про веса моделей и квантование
24:28 - Настройка LLM в Ollama, что такое Modelfile
33:45 - Как улучшить работу локальной LLM? Finetuning, RAG
42:00 - Как улучшить RAG. Простые примеры.