Жизнь без A/B: как ещё сравнивать версии ML-систем? Евгений Никитин

📋 тема: **Жизнь без A/B: как ещё сравнивать версии ML-систем?** 🎤 спикер: Евгений Никитин, Head of AI, АО Калуга Астрал Как понять, что новая версия ML-системы будет работать лучше, чем предыдущая? Обычно достаточно провести офлайн-валидацию (померить метрики) и онлайн-тест (например, в формате A/B). А что делать, если проведение онлайн-теста невозможно по техническим, юридическим или экономическим причинам? В этом докладе на примере медицинских ML-систем мы попробуем разобраться как минимизировать риск деплоя плохих моделек, когда с онлайн-тестами всё сложно. Презентация: — — — ----- * Присоединяйтесь к сообществу LeanDS в телеграмм: * Бесплатная книга по управлению продуктами и проектами в Data Science: