Численные методы

НЕ ОБЯЗАТЕЛЬНОДЛЯ НОВИЧКОВ

Архитектору Инженеру

Численные методы — алгоритмы приближённого решения математических задач, когда аналитическая формула отсутствует, слишком сложна или данные зашумлены. Результат всегда сопровождается погрешностью; важны сходимость, устойчивость и стоимость вычисления.

В отличие от символьных пакетов (CAS), численные методы оперируют конкретными числами и итерациями — как процессор в игре, симуляторе или ML-тренировке.

Решение уравнений f(x) = 0

Метод Ньютона (касательных)

Линеаризация в текущей точке, быстрая квадратичная сходимость при хорошем старте. Требует производную (или секущую аппроксимацию). Риск: расходимость, попадание в другой корень.

Метод бисекции (деления отрезка)

Если f(a) и f(b) разных знаков и f непрерывна — корень на [a,b]. Делим пополам, сохраняем половину с сменой знака. Гарантированная линейная сходимость, медленнее Ньютона. Часто комбинируют: бисекция локализует, Ньютон уточняет.

Интерполяция и аппроксимация

Подход	Цель	Риск
Интерполяция	точно через узлы данных	феномен Рунге на равномерной сетке при высоком градусе
Аппроксимация	«лучшее» приближение при шуме	неверная модель → систематическая ошибка

Полином Лагранжа — классическая интерполяция; на многих узлах осциллирует у краёв. На практике чаще сплайны (кусочно-гладкие).

Метод наименьших квадратов (МНК)

Минимизируется сумма квадратов отклонений Σ (yᵢ − ŷᵢ)². Для линейной модели по параметрам — система линейных уравнений; при нормальных независимых ошибках совпадает с оценкой максимального правдоподобия.

Основа регрессии, калибровки датчиков, обучения линейных моделей. Обобщения: взвешенный МНК, L1/L2-регуляризация (гребень, лассо).

Ключевые понятия

• Погрешность округления — ограниченная точность float.
• Погрешность метода — накапливается за итерации.
• Устойчивость — малые изменения входа не разрушают результат.

Связь с IT

• физические и инженерные симуляции;
• компьютерная графика (сплайны, поверхности);
• обработка сигналов и изображений;
• оптимизация гиперпараметров (численный градиент);
• любые задачи, где «формула есть, но её нельзя применить напрямую к миллиону точек».

Дальше: Формальные языки и автоматы.

---