1-е задание по методам оптимизации


Для одномерной функции f(x)=(4/3)|x|3 – (3/2)x2 Найти точки минимума; При |x0|<1 выяснить, при каких г градиентный метод сходится; Для г=1 сделать 100 итераций метода и обдумать поведение точек xk. Для функции двух переменных (функции Розенброка) f(x)=100(x2 – x12)2 +(1 – x1)2 Найти точку минимума; Нарисовать линии уровня в квадрате -2 ≤ x1 ≤ 2, -2 ≤ x2 ≤ 2; Для начальной точки (– 1,2  1) применить простой градиентный метод метод скорейшего спуска метод сопряженных градиентов метод Ньютона

(подумайте, как организовать одномерную минимизацию в методах ii. и iii.).  Сравнить поведение методов.

Заданы пары xi, yi, i=1,…,20. Найти приближение точек yi=y(xi) c помощью полинома степени m, m=2, 4, 7 методом наименьших квадратов. Свести задачу к задаче минимизации квадратичной функции (1/2)(Ax, x) + (b, x) + c; Найти представление для A, b, c через xi, yi; Убедится, что A положительно определена.

Возникающую задачу минимизации квадратичной функции решать

простым градиентным методом; методом  скорейшего спуска; методом сопряженных градиентов.

Оценить скорость сходимости методов следующим образом. Пусть ek = || vk – v||. где vk - вектор приближений коэффициентов полинома на шаге k, а v – вектор оптимальных значений коэффициентов (наилучшее приближение). Тогда ek ~ Cqk. Построив зависимость ek от k в логарифмическом виде: ln ek = ln C + k ln q, оценить значение q. Сравнить получающиеся результаты с теоретическими.

Комментарии:

В качестве  yi, рассмотреть, например, значения в точках xi

известного полинома степени m, m=2, 4, 7 соответственно; функций sin x, ex, ln x и других; известного полинома степени m, m=2, 4, 7 соответственно, со случайным отклонением.

Можно взять и другие значения. Каждому студенту группы выбрать индивидуальную задачу.

Задание ориентировано на решение в пакете Matlab. Однако можно использовать и другие пакеты, либо языки программирования.

Задание рассчитано на выполнение в течение двух недель. Отчетность: распечатка, + где это необходимо, формулы, оценки, ответы.