Похоже, речь идет о теме «ИИ и видео» (AI in video) для подготовки к экзамену. Хотите обзор, ответы на конкретные вопросы или набор примеров задач? Ниже даю структурированную выжимку и план подготовки как база. Если нужна адаптация под ваш курс, скажите номер раздела или предмет (компьютерное зрение, машинное обучение, мультимодальные модели и т. п.).
Краткий обзор ключевых тем
Что изучает ИИ в видео
- Анализ видео: распознавание действий (action recognition), локализация действий, трекинг объектов, сегментация кадра, видео-описание (captioning).
- Генерация видео: синтез новых видеороликов, видеодифузия, генеративные модели для последовательностей кадров.
- Рекомендательно-управляющие задачи: предсказание будущих кадров, компрессия и кодирование с помощью нейросетей, мультимодальные задачи (видео+описание, видео+звук и т. п.).
Архитектуры и подходы
- 2D-CNN против 3D-CNN: различия в обработке временной информации.
- Одно/двухпотоковые сети: двухпотоковая архитектура (RGB + оптический поток) для распознавания действий.
- Архитектуры типа C3D, I3D, SlowFast: ускорение и эффектная работа с временными зависимостями.
- Transformer и видеотрansформеры: обработка последовательностей кадров через self-attention, часто в сочетании с конвейерами CNN.
- Мультимодальные и video-language модели: как соединять визуальные признаки с текстом (описания, вопросы по видео).
Генерация и синтез видео
- GAN для видео: особенности по сравнению с изображениями (временная согласованность, артефакты).
- Диффузионные модели для видео: генерация последовательностей кадров, проблемы временной согласованности.
- Метрики качества: FID, IS (для изображений/видео), CLIP-based метрики, качество движения и плавности.
Оценка и датасеты
- Метрики для action recognition: Top-1, Top-5 accuracy, mAP.
- Метрики для видео-генерации: FVD (Fréchet Video Distance), FID, качество по человеческому восприятию.
- Популярные датасеты: Kinetics-600/700, UCF101, HMDB51, AVA, Charades, YouTube-8M, ActivityNet.
Этика и вызовы
- Этические вопросы: приватность, безопасность, дипфейки и ответственность за синтез видео.
- Трудности: вычислительные затраты, временная согласованность, ограничение датасетов, смещения и репрезентация.
План подготовки (кратко)
- Опорный конспект:
- базовые определения: что такое временная серия в виде, какие признаки учитываются.
- базовые архитектуры: чем отличается 2D/3D-CNN, идея двухпотоковой сети, основы видеотрансформеров.
- задачи и метрики: какие задачки бывают, какие метрики применяются.
- Практика:
- разбор типовых задач: распознавание действий на примере архитектур, объяснение преимуществ и ограничений каждого подхода.
- чтение и конспект ключевых статей по I3D, SlowFast, ViViT/Video Transformers, Diffusion для видео.
- Задачи на экзамен:
- ответьте на вопросы по архитектурам, сравніте подходы, обсудите проблемы временной согласованности и вычислительную сложность.
- Ресурсы:
- обзоры по видеоаналитике и видео-генерации, оригинальные работы по I3D, SlowFast, ViViT, Video Diffusion, видео-датасеты и метрики.
Примеры экзаменационных вопросов (для тренировки)
- Объясните различия между 2D-CNN и 3D-CNN в задачах распознавания действий. Какие плюсы и минусы у каждого подхода?
- Что такое двухпотоковая архитектура для видео, и как она работает с оптическим потоком?
- Что такое I3D и чем он отличается от базового 3D-CNN?
- Как работают видео-трансформеры? Какие вызовы возникают при обработке длинных видеопоследовательностей?
- Какие подходы используют для обеспечения временной согласованности в видеогенерации?
- Какие метрики применяются для оценки качества видео-генерации и почему они требуют особого внимания по сравнению с изображениями?
- Какие популярные датасеты и задачи соответствуют action recognition, video captioning и video QA?
- Какие этические риски существуют в генерации видео и как их можно минимизировать?
Если хотите, могу:
- собрать персонализированный конспект под ваш курс и конкретные разделы экзамена;
- подготовить набор вопросов с ответами и краткими пояснениями;
- сделать мини-конспект с ключевыми формулами и архитектурами (без лишних деталей).
Скажите, пожалуйста, какой именно формат вам нужен и какие темы из перечисленного важнее для вашего экзамена.