What’s next for OpenAI? | SuperAlignment | Igor Kotenkov, Lecture in Russian

Ссылка на презентацию: !AlnN0aqNwShslxRizBwXClLYDHHe Мой телеграм канал: Список всех моих образовательных материалов, статей, лекций итд: В этом докладе мы разберемся, что такое SuperAlignment, почему он так интересен исследователям из OpenAI, и что они будут делать для того, чтобы решить проблему. Всего мы рассмотрим 8 направлений, в рамках которых, как мне видится из открытых источников, OpenAI сосредоточят усилия. Мы поговорим и про развитие hardware, и про смену парадигмы “ИИ ассистентов“, и даже про аналогии между языком и играми вроде Го и шахмат. Подпишитесь на наш канал, чтобы не пропустить новые видео о машинном обучении и искусственном интеллекте. Не забудьте поставить лайк и поделиться этим видео с друзьями, если оно вам понравилось. Если у вас возникнут вопросы или предложения, оставляйте их в комментариях! Timeline: 00:00:00 Intro 00:00:42 Lecture Plan 00:02:21 Discussions around AI in the world 00:04:35 Current progress in Alignment (GPT-4) 00:11:36 Why SUPER Alignment? 00:16:38 Sam Altman and Ilya Sutskever on “How big we should dream“ 00:19:19 The True Problem with Alignment Research 00:23:29 A Possible Solution for the problem 00:25:55 Direction 1: Scalable Feedback Collection 00:33:52 Direction 2: Multimodality and Web-Scale Datasets 00:39:12 Direction 3: Verification Tools 00:44:36 Direction 4: knowledge accuracy and hallucinations 00:50:49 Direction 5: AlphaGo-like tricks 00:58:51 Direction 6: Hardware 01:03:48 Direction 7: Explainability 01:07:30 Direction 8: predictable scaling 01:10:16 Predictions & Outro ---- #alignment #chatgpt #openai #ai #rlhf #Трансформеры #Машинноеобучение #Искусственныйинтеллект #NLP #DeepLearning #AI #NeuralNetworks #NaturalLanguageProcessing #MachineLearningAlgorithms #DataScience #LanguageModels #ML #GPT #OpenAI #MLengineers #chatgpt #attention #attentionisallyouneed #rlhf #rl #humanfeedback #ai #deeplearning #GPT3 #gpt4 #gpt3.5 #claude #anthropic #alignment #rlfaif #samaltman #superalignment #alignment #janleike