Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы: Павел Комаровский
и Игорь Котенков
Следующие видео из серии про ИИ: - Что нового привнесла GPT-4 — https://www.youtube.com/watch?v=Aaaf6CzG_3Y
- О противостоянии человечества и ИИ — https://www.youtube.com/watch?v=fnVy03_XyBc
Текстовая версия материала про эволюцию языковых моделей:
Лекция Игоря Котенкова про принципы работы трансформеров: https://www.youtube.com/watch?v=iOrNbK2T92M
Прослушать выпуск как аудиоподкаст: - SoundCloud — https://soundcloud.com/rationalanswer/94-how-chatgpt-works
- Яндекс Музыка —
- Другие агрегаторы подкастов —
Поддержи проект RationalAnswer: - Patreon (в валюте) –
- Boosty (в рублях) –
СОДЕРЖАНИЕ: 00:00 – Интро 00:31 – T9: языковая модель в телефоне 02:43 – Откуда нейросети берут вероятности слов? 05:41 – Почему языковые модели умеют в творчество 08:16 – 2018: GPT-1 и архитектура Трансформера 11:47 – 2019: GPT-2, или 7000 Шекспиров в нейросети 15:25 – Как измеряется сложность и размер моделей 22:07 – 2020: GPT-3, или Невероятный Халк 26:13 – Промпты, или как правильно уламывать модель 28:06 – Январь 2022: InstructGPT, или воспитание строптивой 33:51 – Ноябрь 2022: ChatGPT – хайпуют все! 38:05 – Подводим итоги