Математика on Блог

Мат Анализ — Производные

Fri, 13 Mar 2026 00:00:00 +0000

Без этого не понять, как нейросеть вообще учится.

Для примера часто приводят скорость автомобиля. Мы тоже так сделаем.

Что такое скорость?

Это отношение расстояния ко времени.

Вот машина едет со средней скоростью 60 км/ч — значит, если увеличить время \( t \) на единицу, расстояние \( s \) увеличится на 60 единиц. Если увеличить \( t \) в 10 раз, то и \( s \) увеличится в 10 раз. Здесь рост линейный, на графике это прямая линия.

s = 60t

Но в течение времени машина движется неравномерно — скорость то увеличивается, то уменьшается.

s(t) — расстояние v(t) — скорость

Невозможно

Пройденное расстояние не может уменьшаться. Такой график s(t) был бы ошибочным:

s(t) — неправильно

Вопросы для самопроверки

1. В какой момент скорость максимальна?

Подсказка

Посмотри на график v(t). Где он достигает наибольшего значения?

2. Что означает наклон графика s(t) в данной точке?

Подсказка

Скорость — это отношение изменения расстояния ко времени. Как это связано с наклоном?

3. Почему v(t) сначала растёт, а потом падает?

Подсказка

v — это производная s. Как меняется наклон s(t) от начала до конца? Вспомни S-образную форму.

Мат Анализ — пример анализа (нахождение πr²)

Thu, 12 Mar 2026 00:00:00 +0000

Зададимся вопросом: как аналитически найти площадь круга?

Нарезка на прямоугольники

Идея: разрежем круг на тонкие концентрические кольца и «развернём» каждое кольцо в прямоугольник.

Кольцо радиуса r и шириной Δr имеет длину окружности 2πr. Развернутое кольцо — это прямоугольник:

длина: 2πr
ширина: Δr
площадь: 2πr · Δr

Площадь всего круга — сумма площадей всех таких колец, от r = 0 до r = R. Чем меньше Δr, тем точнее приближение.

Если выложить эти нарезанные полоски (каждую длиной 2πr) на графике слева направо — от r = 0 до r = R — получится треугольник. В основании R, высота 2πR: площадь треугольника ½ · R · 2πR = πR².

Результат: площадь круга S = πR². Тот же подход — нарезка фигуры на «маленькие кусочки», подсчёт их площади и переход к пределу — лежит в основе интегрального исчисления и, как увидим дальше, ведёт к производным.

Мат Анализ — Производные

Thu, 12 Mar 2026 00:00:00 +0000

Вторая статья цикла «Необходимая математика» — про производные, градиент и правило цепочки.

Без этого не понять, как нейросеть вообще учится.

Необходимые знания: пределы функций — основа для определения производной и непрерывности.

Что такое производная

Формальное определение

Производная функции в точке показывает скорость изменения: насколько быстро растёт (или падает) значение функции при небольшом сдвиге аргумента.

Для функции одной переменной \( f(x) \) производная \( f'(x) \) — это предел отношения приращения \( f \) к приращению \( x \), когда приращение стремится к нулю:

\[ f'(x) = \lim_{\Delta x \to 0} \frac{f(x + \Delta x) - f(x)}{\Delta x} \]

Здесь \( \Delta x \) — приращение аргумента (маленький шаг). В примерах ниже ту же величину обозначаем буквой \( h \).

Геометрически — наклон касательной к графику в точке \( x \):

\( f'(x) > 0 \) — функция растёт
\( f'(x) < 0 \) — функция убывает
\( f'(x) = 0 \) — возможный минимум или максимум

Если понимание не пришло — открывай простое объяснение.

Простое объяснение

Скорость на спидометре — это по сути производная: как быстро меняется пройденное расстояние. Разгоняешься — скорость растёт. Тормозишь — падает. То есть производная отвечает на вопрос: «насколько сильно изменится одна величина, если чуть-чуть изменить другую?»

Горка. Крутизна спуска — «насколько сильно опускаешься вниз, когда делаешь шаг вперёд». Крутой спуск — большая производная. Пологий — маленькая. На ровной дороге — ноль.

График функции. Если есть график \( y = f(x) \), производная в точке — это наклон графика в этой точке. Для прямой вида \( y = kx + b \) наклон — это уже знакомый коэффициент \( k \). Для кривой в каждой точке свой наклон — его и называют производной.

График круто идёт вверх → производная положительная
Идёт вниз → производная отрицательная
Горизонтально (вершина, впадина) → производная равна нулю

Если всё ещё не до конца понятно — открывай самое простое объяснение.

Самое простое объяснение

Машина едет с постоянной скоростью. Расстояние \( s \) (км) зависит от времени \( t \) (ч): \( s(t) = 60t \). За час проезжаем 60 км.

Скорость — это «сколько км прибавляется за каждый час». То есть отношение изменения расстояния к изменению времени:

\[ \text{скорость} = \frac{s(1) - s(0)}{1 - 0} = \frac{60 - 0}{1} = 60 \text{ км/ч} \]

Это и есть производная: скорость изменения одной величины (расстояние) по другой (время).

Числовой пример:

\( t \) (ч)	\( s(t) \) (км)	\( s(t+0{,}5) - s(t) \)	\( \frac{\Delta s}{\Delta t} \)
0	0	30	60
1	60	30	60
2	120	30	60

Везде получается 60. Да: 60 (скорость в км/ч) и есть производная — \( s'(t) = 60 \). Она постоянна, потому что скорость не меняется.

График — прямая линия. Наклон этой прямой тоже равен 60 — то же самое число:

А если скорость менялась? Полчаса ехали 40 км/ч, полчаса — 80 км/ч. В итоге: 20 + 40 = 60 км за 1 ч. Средняя скорость 60 км/ч — но в каждый момент она была то 40, то 80.

На графике — плавный вариант: скорость растёт от 40 до 80 км/ч. Зелёная кривая — расстояние s(t), пунктир — производная s’(t) (мгновенная скорость).

Считаем мгновенную скорость (производную) в разных точках — по формуле \( \frac{s(t+h) - s(t)}{h} \) при маленьком \( h = 0{,}1 \) ч:

\( t \) (ч)	\( s(t) \) (км)	\( s(t+0{,}1) - s(t) \)	\( \frac{\Delta s}{\Delta t} \)
0,1	4	4	40
0,25	10	4	40
0,5	20	—	40 (слева) / 80 (справа)
0,75	40	8	80
1	60	8	80

В первой половине часа производная везде 40, во второй — 80. В точке \( t = 0{,}5 \) график «ломается»: слева наклон 40, справа 80. Средняя 60 — это лишь «усреднение» по всему пути; производная показывает скорость в данный момент.

Правила и базовая информация о производных

Основные правила и факты

Производная — это скорость изменения. Насколько быстро растёт (или падает) функция при малом сдвиге аргумента. Геометрически — наклон касательной к графику.

Связь со знаком:

\( f'(x) > 0 \) — функция растёт
\( f'(x) < 0 \) — функция убывает
\( f'(x) = 0 \) — возможный минимум или максимум (вершина, впадина)

Основные правила (кратко):

Функция	Производная	Описание
\( C \) (константа)	\( 0 \)	константа не меняется, скорость изменения нулевая
\( x \)	\( 1 \)	линейный рост со скоростью 1
\( x^n \)	\( n \cdot x^{n-1} \)	степень «спускается» множителем, показатель уменьшается на 1
\( kx + b \)	\( k \)	линейная функция: наклон равен коэффициенту \( k \)
\( f + g \)	\( f' + g' \)	производная суммы равна сумме производных
\( C \cdot f \)	\( C \cdot f' \)	константу можно вынести за знак производной

Примеры: \( (5)' = 0 \), \( (x^2)' = 2x \), \( (x^3)' = 3x^2 \), \( (7x - 2)' = 7 \).

Зачем в МО: обучение модели — это минимизация loss. Производная показывает направление роста; градиентный спуск двигается в противоположную сторону (\( -\nabla L \))¹, чтобы loss уменьшался.

Почему \( (x^n)' = n \cdot x^{n-1} \)?

Для натурального \( n \) можно вывести из определения. Пример для \( n = 2 \):

\[ \frac{(x+h)^2 - x^2}{h} = \frac{x^2 + 2xh + h^2 - x^2}{h} = 2x + h \to 2x \]

При \( h \to 0 \) получаем \( (x^2)' = 2x \). Для \( n = 3 \): раскрывая \( (x+h)^3 \), член с \( h^2 \) уходит в ноль, остаётся \( 3x^2 \).

Интуиция: степень \( n \) «спускается» вперёд как множитель, показатель уменьшается на 1. Чем выше степень, тем «круче» рост — поэтому производная содержит \( n \) и \( x^{n-1} \).

Пример: парабола \( y = x^2 \) — подробно

Для \( f(x) = x^2 \) формула даёт \( f'(x) = 2x \). В каждой точке свой наклон:

Точка \( x \)	\( f(x) = x^2 \)	\( f'(x) = 2x \) (наклон)
0	0	0
1	1	2
2	4	4
3	9	6
4	16	8

В \( x = 2 \): парабола касается прямой с наклоном 4 (касательная \( y = 4x - 4 \) проходит через (2, 4)).
В \( x = 4 \): наклон уже 8 — парабола круче, касательная \( y = 8x - 16 \).
В \( x = 0 \): вершина параболы, наклон 0 — касательная горизонтальна.

На графике: зелёная кривая — \( y = x^2 \); пунктирные линии — касательные в точках (2, 4) и (4, 16). Наклоны 4 и 8 соответствуют \( f'(2) = 4 \), \( f'(4) = 8 \).

Пример: квадрат — \( x \) как сторона, площадь \( A(x) = x^2 \)

ΔA — это приращение (изменение) площади A. Если площадь задана функцией \( A(x) \), то:

\[ \Delta A = A(x + \Delta x) - A(x) \]

То есть ΔA — сколько прибавляется к площади, когда сторона \( x \) увеличивается на Δx.

Увеличиваем сторону на \( \Delta x \). К исходному квадрату добавляются: две «полосы» площадью \( x \cdot \Delta x \) (справа и сверху) и малый квадрат \( (\Delta x)^2 \) в углу. Итого:

\[ \Delta A = 2x \cdot \Delta x + (\Delta x)^2,\quad \frac{\Delta A}{\Delta x} = 2x + \Delta x \to 2x \]

при \( \Delta x \to 0 \). Производная \( A'(x) = 2x \) — при том же \( \Delta x \) чем больше \( x \), тем больше прирост площади.

Меняй x и Δx — наблюдай, как меняются «полосы» и формула \( \Delta A / \Delta x \approx 2x \).

Здесь важно разделить два случая.

\( \Delta A/\Delta x \approx 2x \) — да, это приближение. Оно верно, когда \( \Delta x \) мало, но не равно нулю. Чем меньше \( \Delta x \), тем точнее:

\[ \frac{\Delta A}{\Delta x} = 2x + \Delta x \approx 2x \quad \text{при малом } \Delta x \]

Формула \( (x^n)' = nx^{n-1} \) — это уже не приближение, а точное выражение. Производная определяется как предел:

\[ f'(x) = \lim_{\Delta x \to 0} \frac{f(x + \Delta x) - f(x)}{\Delta x} \]

Мы сначала берём этот предел, а потом получаем точную формулу.

\( \Delta A/\Delta x \) — приближение, потому что \( \Delta x \) ещё конечное. \( A'(x) = 2x \) и \( (x^n)' = nx^{n-1} \) — точные формулы, потому что это результат предела \( \Delta x \to 0 \).

Коротко: приближение — у конечных разностей; сами производные и их формулы — точные.

Почему \( (C \cdot f)' = C \cdot f' \)?

Константу можно вынести за знак производной, потому что она не зависит от \( x \) и «масштабирует» скорость изменения функции.

Из определения:

\[ (C \cdot f)'(x) = \lim_{h \to 0} \frac{C \cdot f(x+h) - C \cdot f(x)}{h} = C \cdot \lim_{h \to 0} \frac{f(x+h) - f(x)}{h} = C \cdot f'(x) \]

Константа \( C \) не зависит от \( h \), поэтому её можно вынести из предела.

Примеры: \( (5x^2)' = 5 \cdot 2x = 10x \), \( (-3x^3)' = -3 \cdot 3x^2 = -9x^2 \).

Теперь несколько числовых примеров.

Числовой пример: линейная функция \( g(x) = 3x - 1 \)

Для прямой наклон везде один и тот же. Считаем в любой точке, например в \( x = 5 \):

\[ \frac{g(5 + h) - g(5)}{h} = \frac{(3(5+h) - 1) - g(5)}{h} = \frac{14 + 3h - 14}{h} = \frac{3h}{h} = 3 \]

где \( g(5) = 3 \cdot 5 - 1 = 14 \).

При любом \( h \neq 0 \) получается 3 — производная постоянна, как и коэффициент при \( x \) в уравнении прямой.

\( x \)	\( g(x) \)	\( g(x+0{,}1) - g(x) \)	\( \frac{g(x+0{,}1)-g(x)}{0{,}1} \)
5	14	0,3	3
10	29	0,3	3
-2	-7	0,3	3

Числовой пример: квадратичная функция \( f(x) = x^2 \)

Считаем приближённую производную в точке \( x = 2 \) по формуле «приращение \( f \) делим на приращение \( x \)». Берём маленький шаг \( h \) и смотрим отношение:

\[ \frac{f(2 + h) - f(2)}{h} = \frac{(2+h)^2 - 4}{h} \]

При \( x = 2 \) (\( f(2) = 4 \)):

\( h \)	\( f(2+h) \)	\( f(2+h) - f(2) \)	\( \frac{f(2+h)-f(2)}{h} \)
1	9	5	5
0,1	4,41	0,41	4,1
0,01	4,0401	0,0401	4,01
0,001	4,0004…	0,004…	4,001

Отношение стремится к 4 → \( f'(2) = 4 \).

При \( x = 4 \) (\( f(4) = 16 \)):

\[ \frac{f(4 + h) - f(4)}{h} = \frac{(4+h)^2 - 16}{h} = \frac{8h + h^2}{h} = 8 + h \to 8 \]

\( h \)	\( f(4+h) \)	\( f(4+h) - f(4) \)	\( \frac{f(4+h)-f(4)}{h} \)
1	25	9	9
0,1	16,81	0,81	8,1
0,01	16,0801	0,0801	8,01

Отношение стремится к 8 → \( f'(4) = 8 \). По формуле \( (x^2)' = 2x \): при \( x = 2 \) получаем 4, при \( x = 4 \) — 8. Для кривой производная в каждой точке своя.

Зачем в МО: обучение — это минимизация функции потерь (loss). Нам нужно знать, в какую сторону менять веса, чтобы loss уменьшался. Производная как раз указывает направление роста; в противоположную сторону идём, чтобы loss падал.

Интерактивное упражнение

Машинка и рисуй кривую Безье

1. Машинка. Меняй скорость — график расстояния \( s(t) \) и таблица производных пересчитываются. Производная \( s'(t) \) = скорость (постоянна при равномерном движении).

2. Рисуй кривую Безье. Перетащи 4 контрольные точки — строится кубическая кривая Безье. Поставь оранжевую точку на кривую — справа детальная калькуляция производной.

Задания для самопроверки

Задания с подсказками и проверкой

Реши задания. Открой подсказку, если нужно. Введи ответ и нажми «Проверить».

Резюме

Производная — скорость изменения, направление роста
Частная производная — по одной переменной при фиксированных остальных
Градиент — вектор частных производных, направление наискорейшего роста
Правило цепочки — как считать производные по цепочке слоёв
Градиентный спуск — обновление весов в направлении \( -\nabla L \) ¹

PyTorch, TensorFlow и др. делают вычисление градиентов автоматически (autograd) — но понимать, что под капотом, важно, чтобы не ловить «градиенты взорвались» или «модель не учится».

\( \nabla L \) — градиент loss (вектор частных производных). Он указывает в направлении наискорейшего роста \( L \). Значит \( -\nabla L \) — направление наискорейшего уменьшения; в него двигаемся при градиентном спуске. ↩︎ ↩︎

Необходимая математика — обзор

Thu, 12 Mar 2026 00:00:00 +0000

Это вводная статья цикла «Необходимая математика» — обзор того, какие разделы математики нужны для работы с ИИ и машинным обучением и для чего именно они используются.

Линейная алгебра

Что нужно: векторы, матрицы, умножение матриц, линейные преобразования, скалярное произведение, норма вектора, собственные числа и векторы (на продвинутом уровне).

Зачем:

Векторы — базовый способ представления данных: слово, изображение, «мысль» модели кодируются векторами чисел
Матрицы — все операции нейросети (свёртки, внимание, линейные слои) сводятся к умножению матриц
Линейные преобразования — понимание, как слой «перемешивает» и комбинирует признаки
Без линейной алгебры невозможно читать формулы в статьях и понимать, что делает код (например, W @ x — это умножение матрицы весов на вектор входа)¹

Пределы и производные

Что нужно: пределы функций, производные, частные производные, градиент, правило цепочки (chain rule), оптимизация функций.

Зачем:

Нейросеть обучается через градиентный спуск: мы двигаем веса в направлении, где ошибка уменьшается
Градиент — это вектор частных производных: указывает, куда «подкрутить» каждый параметр
Правило цепочки лежит в основе backpropagation — алгоритма, который автоматически считает градиенты для всех слоёв
Без анализа нельзя понять, откуда берутся обновления весов и почему обучение вообще работает

Теория вероятностей и статистика

Что нужно: распределения (нормальное, Бернулли и др.), математическое ожидание, дисперсия, условная вероятность, теорема Байеса, максимизация правдоподобия (MLE).

Зачем:

Модели часто формулируются вероятностно: «какова вероятность следующего слова», «насколько уверена модель в ответе»
Loss-функции часто выводятся из правдоподобия (cross-entropy, MSE и др.)
Статистика нужна для работы с данными: нормализация, оценка качества, понимание метрик ( precision, recall, AUC)
Байес — основа многих классических алгоритмов и способа «обновлять убеждения» на новых данных

Computer Vision (CV)

Дополнительно к общему минимуму: дискретная свёртка (2D), аффинные и проективные преобразования, базовые понятия геометрии изображений (калибровка камеры, эпиполярная геометрия).

Зачем:

Свёртка — ядро работы CNN: понять, как фильтр «скользит» по изображению и что такое kernel, padding, stride
Аффинные преобразования (поворот, масштаб, сдвиг) — для аугментаций и понимания инвариантности
Проективная геометрия и гомографии — для задач стереозрения, 3D-реконструкции, AR
Для классических методов (SIFT, optical flow) полезны производные изображения, градиенты по пикселям

Опционально, но полезно

Теория информации (энтропия, кросс-энтропия) — углубляет понимание loss-функций и сжатия данных
Выпуклая оптимизация — для понимания, когда задача «хорошая» и когда SGD сходится
Дифференциальная геометрия — для продвинутых тем (диффузионные модели, представления)

Практический минимум

Чтобы уверенно читать статьи и код:

Уметь умножать матрицы и понимать, что делает линейный слой
Понимать, что такое градиент и зачем он в обучении
Знать базовые распределения и метрики качества

Остальное можно добирать по мере необходимости — когда встретится в конкретной задаче или статье.

W @ x — в Python (NumPy, PyTorch) оператор матричного умножения: матрица весов W умножается на входной вектор x. Результат — выходной вектор. Линейный слой по сути считает W·x + b. ↩︎