Первые работающие модели машинного обучения 20,21,19 век и ранее

Ниже собраны «первые работающие» модели машинного обучения, распределённые по эпохам, включая 19-й век и ранее, если смотреть в широком жанре становления идей об обучающихся машинах. Для каждой модели даю краткое описание, принцип работы (пошагово) и простые примеры, чтобы было понятно на школьном уровне. Важно заранее: - До начала 20 века настоящего машинного обучения в его современном смысле не было: тогда речь шла скорее о механических устройствах и первых алгоритмах, которые могли быть реализованы на устройствах, но не «обучались» на данных так, как сейчас. Поэтому ниже в разделе “до 20 века и ранее” — упоминания об идеях, которые предвосхищали концепции обучения на машинах (алгоритмы, программируемые устройства, основы логики). Самые ранние практические рабочие модели машинного обучения начинаются с середины 20 века. - Далее — по 20-й, 21-й векам — перечислены ключевые модели, которые реально обучаются на данных и применяются в задачах распознавания, прогнозирования и т. п. 1) До 20 века и ранее: предисловие к идеям машинного обучения - Ada Лавлейс и алгоритм для аналитической машины (примерно 1843 год) Что это: попытка описать, как аналитическая машина Бэббиджа могла выполнять последовательности шагов для вычисления, включая алгоритм для чисел Бернулли. Принцип (пошагово в упрощённом виде): - Задаём входные данные и последовательность операций. - Машина выполняет их по заданному алгоритму. - Это демонстрирует идею «программы для машины», но не самообучение. Пример: вычисление ряда Бернулли по заданной программе. Значение: исторически важна как первая идея программируемой машины, но это не учеба на данных. - Промышленная автоматизация и вычислительные идеи (например, Jacquard-ковёртаться, punched cards в ткацких станках; Boole’s Boolean algebra) Что это: ранние концепции программируемых процессов и логических правил. Принцип: заложены основы, на которых позже строились вычисления и алгоритмы принятия решений. Применение: не обучающие модели в современном смысле, но создают контекст для алгоритмов принятия решений и логики. - Вкратце: до середины 20 века прямых «моделей обучения на данных» не было; формировались основы вычислений и логики, на которых позднее будут строиться ML-модели. 2) 20-й век: первые рабочие модели машинного обучения (пошагово) A. Перцептрон (первая нейронная сеть) — середина 1950-х–1957 год Что это: простейшая «клавиша» нейронной сети, которая может классифицировать данные двумя классами. Принцип работы (пошагово): - Вход: вектор признаков x = [x1, x2, ..., xn]. - Весовая сумма: z = w1 x1 + w2 x2 + ... + wn xn + b. - Активизация: y = 1, если z ≥ 0, иначе y = 0 (пороговая функция). - Обучение (правило обновления весов): если образец mislabeled (t - y ≠ 0), обновляем: w <- w + η (t - y) x b <- b + η (t - y) Пример: задача бинарной классификации (кошки/собаки) по набору признаков; периферийно — может учиться на примерах, пока не корректно классифицирует. Что получилось полезного: простейшее обучаемое устройство, показывающее, что можно «учить» веса по ошибке. Ограничения: работает только если данные линейно разделимы; не может решить XOR. B. Метод ближайших соседей (Nearest Neighbor) — идеи 1951–1967 годы Что это: ленивый обучающий алгоритм; в основе лежит простое сравнение нового примера с примерами в обучающей выборке. Принцип работы (пошагово): - Хранение набора обучающих примеров (Xtrain, ytrain). - Для нового примера x посчитать расстояние до всех примеров в Xtrain (обычно евклидово): d(x, xi). - Выбрать k ближайших примеров по минимальным расстояниям. - Принять решение по большинству классов среди этих k соседей (голосование). - При необходимости применить взвешенное голосование по ближним соседям. Пример: классификация рукописного текста (цифры) по сходству с обучающими изображениями. Что получилось полезного: простота реализации, не требует обучения в традиционном смысле; работает хорошо на малых данных и с хорошо представленными признаками. Ограничения: требует хранения данных и вычислительно дорог при больших наборах; чувствителен к масштабу признаков и выбору k. C. Многослойная переработка и обратное распространение ошибки (Backpropagation) — начало 1980-х (популяризация в 1986 году) Что это: метод обучения многослойной нейронной сети (многослойные перцептроны) через градиентный спуск. Принцип работы (пошагово): - Прямой проход: для каждого примера рассчитать выход сети через слои и применить функцию активации. - Ошибка: вычислить разницу между желаемым выходом t и фактическим y (например, MSE). - Обратное распространение: вычислить градиенты по весам слоя за слоем от выходного к входному, используя цепное правило (δ-правило). - Обновление весов: w_ji <- w_ji + η δ_j a_i, где δ_j — ошибка на нейроне j, a_i — выход предыдущего слоя. Пример: обучение сети для распознавания простых образов; сеть учится извлекать полезные признаки через несколько слоёв. Что получилось: позволило обучать сложные нелинейные функции, сняло ограничение линеарной разделимости перцептрона. Ограничения: обучение может быть медленным без правильного выбора архитектуры и нормализации; риск переобучения без регуляризации. D. Машины Больцмана и ограниченные Boltzmann-машины (MB и RBM) — 1980–1990-е Что это: стохастические нейронные сети, которые учатся представлять распределение данных и могут служить «предобучением» для более глубоких сетей. Принцип работы (упрощенно): - Небольшие слои нейронов соединяются без прямого участия входов к выходам. - Обучение через минимизацию различий между распределениями состояний нейронов, используем метод контраста (Contrastive Divergence). Применение: принесли идеи для обучения глубоких сетей и подготовку весов перед точной настройкой. Что получилось: важный этап в эволюции глубокого обучения; сложность реализации привела к развитию других подходов. E. Машины опорных векторов и бустинг — 1990-е 1) Машина опорных векторов (SVM) — 1995 год (Cortes & Vapnik) Что это: метод классификации (и регрессии), который ищет гиперплоскость, максимально разделяющую классы с максимальным зазором. Принцип работы (пошагово): - Представление данных в признаковом пространстве. - Формулировка задачи оптимизации: максимизировать зазор между классами при ограничениях на ошибки (для мягкого зазора также вводят коэффициент штрафа C). - Применение ядра (kernel trick) для перехода в более высокое пространство без явного вычисления координат (φ(x)). - Решение задачи квадратичной цели (QP) для нахождения весов и порога. - Классификация: y = sign(w·φ(x) + b). Пример: распознавание лиц в изображениях с различными ракурсами. Что получилось: сильный метод для линейного и нелинейного разделения; хорошо работает на ограниченных датасетах, но может быть медленным на больших объемах данных. Ограничения: чувствителен к масштабам признаков; сложность обучения растет с размером данных. 2) Деревья решений и бустинг (Quinlan 1986–1993; AdaBoost 1995) Что это: деревья решений — простая модель, которая обучает последовательность правил по признакам; бустинг строит ансамбль слабых моделей для повышения точности. Принцип работы (пошагово): - Дерево решений: выбираем признак с максимальным приростом информативности (например, Information Gain), делим набор данных по этому признаку и повторяем рекурсивно до достижения условий остановки (слишком маленькие подмножества или минимальная информация). - AdaBoost: обучаем серию простых «слабых» моделей (например, маленьких деревьев). После каждой итерации увеличиваем веса тех примеров, которые неправильно классифицированы, и обучаем следующую модель на обновлённой выборке. Итоговая модель — взвешенное голосование слабых моделей. Пример: простая классификация с учётом нескольких признаков, таких как возраст, рост, цвет глаз в биометрии. Что получилось: очень устойчивый к переобучению при правильной настройке; значительно улучшил точность по сравнению с одиночными деревьями. Ограничения: может требовать настройку гиперпараметров и понимания метрик качества. F. Переход к «глубокому обучению» — 2000-е - LeNet-5 и ранние CNN (Yann LeCun, 1998) Что это: сверточные нейронные сети (CNN) для распознавания изображений; особенно хорошо работают с иерархией признаков. Принцип работы (упрощённо, пошагово): - Сверточные слои извлекают локальные признаки с помощью фильтров. - Пулинг (подвыборка) уменьшает размер карты признаков. - Полносвязные слои выполняют классификацию на выходе. - Обучение через backpropagation с градиентным спуском. Пример: распознавание цифр на изображениях; база для современных задач компьютерного зрения. Что получилось: доказали эффективность глубоких архитектур на больших наборах данных. Ограничения: обучение может требовать мощного оборудования и большого объема данных. 3) 21-й век: современные и развивающиеся модели (пошагово) A. Глубокие нейронные сети и «глубокие» обучения Принципиально новые элементы: - Многослойные архитектуры (CNN, RNN, LSTM, Transformer и т. п.). - Градиентный спуск по большому числу параметров, регуляризация (Dropout, BatchNorm и т. п.). Пример простого шага обучения (обобщённо): - Прямой проход: вычислить выход сети по данному входу. - Ошибка: сравнить с желаемым выходом. - Обратное распространение: вычислить градиенты по всем весам. - Обновление весов: w <- w - η ∂L/∂w. Применение: обработка изображений, речи, текста, игры и многое другое. Важные моменты: требуют больших данных и вычислительных мощностей, но дают выдающиеся результаты в задачах распознавания и генерации. B. Глубокое обучение в сочетании с подкрепляющим обучением (Deep Reinforcement Learning) Что это: обучение агентов через взаимодействие с окружением с использованием глубокой нейронной сети как аппроксиматора функции ценности или политики. Принцип работы (упрощённо, пошагово): - Агент выбирает действие на основе текущего состояния и нейронной сети (политика или Q-функция). - Окружение возвращает новое состояние и награду. - Хранение опыта в памяти (experience replay) и обучение сети на выборках из памяти. - Вводится целевая сеть и целевые обновления для стабильности. Примеры: DQN (2015) от DeepMind; AlphaGo (2016) и последующие дисциплины в играх. Что получилось: впечатляющий прогресс в играх и управлении, а также применение в робототехнике и автономных системах. C. Современные визуальные и естественные задачи - GANs (Generative Adversarial Networks, 2014): состязание генератора и дискриминатора для создания реалистичных изображений. - Transformer и модели на их основе (BERT, GPT и т. п., начиная с 2017–2020 и далее): обработка текста, переводы, создание контента. Что получается: качественные синтетические данные, впечатляющие результаты в задачах обработки естественного языка и компьютерного зрения. 4) Краткий обзор по времени (для ориентира) - До середины 19 века: идеи программирования и логики; ранние вычислительные машины и механизмы. - 1843–1936: развитие алгоритмов, вычислительных концепций (Ada Lovelace, логика Боуле и др.), но без практического ML на данных. - 1950–1980-е: первые обучаемые модели (перцептрон, k-NN, backpropagation, SVM, деревья и бустинг). - 1990–2000-е: мощный прогресс в методах обучения и моделях; CNN LeNet-5 (1998), SVM, AdaBoost и Random Forest (практически 2000-е). - 2010–2020-е: бурный рост глубокой обучающейся архитектуры, трансформеры, GANs, RL с глубоким обучением. - 2020–настоящее время: крупномасштабные языковые модели, мультимодальные системы, продвинутые RL-агенты, внедрение ML в разные сферы. Как подготовиться к экзамену по этой теме - Знай основные идеи и отличия моделей: - Что такое обучение в нейронных сетях и правило обновления весов (перцептрон, backprop). - Что такое k-NN и как работает выбор k и расстояние. - Принцип опорных векторов и идея максимального зазора. - Что такое дерево решений и бустинг; чем они отличаются от нейронных сетей. - Что дают глубокие сети и почему требуются большие данные. - Что такое RL и чем отличается от классического supervised learning. - Для каждого примера запомни: что за задача, как обучается модель, простая формула/правило обучения и одно простое применение. - Подготовь краткие конспекты по каждому методу с примером: "при каком виде данных применяется", "основная слабость" и "типичная задача". Если нужно, могу адаптировать этот обзор под конкретный класс и предмет (например, для школьников 9–11 класса или для курса по машинному обучению в вузе) и привести более детальные пошаговые решения примеров с конкретными числами или сделать конспект-«памятку» по каждому методу. Также могу заменить уровень сложности на более простой (для новичков) или более технический (для подготовки к экзаменам).