One Method for Minimization a Convex Lipschitz-Continuous Function of 2 Variables on a Fixed Square

TL;DR

This paper analyzes a Nesterov-based method for minimizing convex Lipschitz functions of two variables on a fixed square, providing convergence estimates and demonstrating faster performance than traditional methods in experiments.

Contribution

It introduces convergence estimates for Nesterov's method applied to a specific 2D convex minimization problem and compares its efficiency to gradient descent and ellipsoid methods.

Findings

The method achieves desired accuracy faster than gradient descent.

It outperforms the ellipsoid method in experiments.

Convergence rate estimates are provided for the proposed approach.

Abstract

In the article we have obtained some estimates of the rate of convergence for the recently proposed by Yu.E. Nesterov method of minimization of a convex Lipschitz-continuous function of two variables on a square with a fixed side. The method consists in solving auxiliary problems of one-dimensional minimization along the separating segments and does not imply the calculation of the exact value of the gradient of the objective functional. Experiments have shown that the method under consideration can achieve the desired accuracy of solving the problem in less time than the other methods (gradient descent and ellipsoid method) considered, both in the case of a known exact solution and using estimates of the convergence rate of the methods.

Equations

$$n⩾Cd\log \left(\frac{1}{\epsilon }\right).$$

$$f(x)-f(x_0)⩾⟨\upsilon ,x-x_0⟩,$$

$$n={\log }_2\frac{2LR\sqrt{2}}{\epsilon }$$

$$\delta =\frac{\epsilon }{2MR\left(\sqrt{2}+\sqrt{5}\right)\left(1-\frac{\epsilon }{LR\sqrt{2}}\right)},$$

$$f(x)-\underset{x\in \Pi }{\min }f(x)⩽\epsilon \forall x\in K_n.$$

$$f(x)-\underset{x\in K_n}{\min }f(x)⩽L\Vert x-\arg \underset{x\in K_n}{\min }f(x)\Vert ,\forall x\in K_n.$$

$$f(x)-\underset{x\in K_n}{\min }f(x)⩽\frac{LR\sqrt{2}}{2^n},\forall x\in K_n.$$

$$\frac{LR\sqrt{2}}{2^n}⩽\frac{\epsilon }{2}\text{T2AcyriT2AcyrlT2Acyri}n⩾{\log }_2\frac{2LR\sqrt{2}}{\epsilon }.$$

$$\Vert x_{\delta }-x_0\Vert ⩽\delta .$$

$$f(x)\to \underset{x\in l}{\min }.$$

$$\Vert \nabla f(x_{\delta })-\nabla f(x_0)\Vert ⩽M\delta .$$

$$\underset{x\in Q}{\min }f(x)-\underset{x\in P}{\min }f(x)⩽\frac{MR\delta \sqrt{5}}{2}$$

$$x_0=\arg \underset{x\in l}{\min }f(x)\Rightarrow \frac{\partial f}{\partial x_i}=0.$$

$$[\begin{array}{c}\begin{array}{c}\nabla f(x_0)=\overline{0},\text{hfill}\\ \nabla f(x_0)\perp l.\text{hfill}\end{array}\end{array}$$

$$\underset{x\in Q}{\min }f(x)=\underset{x\in P}{\min }f(x).$$

$$\Vert \nabla f(x_{\delta })\Vert ⩽\Vert \nabla f(x_{\delta })-\nabla f(x_0)\Vert \stackrel{(4)}{⩽}M\delta .$$

$$\Vert \nabla f(x_{\delta })\Vert ⩽M\delta .$$

$$f(x_{\ast })-f(x_{\delta })⩾⟨\nabla f(x_{\delta }),x_{\ast }-x_{\delta }⟩\Rightarrow$$

$$\Rightarrow f(x_{\delta })-f(x_{\ast })⩽⟨-\nabla f(x_{\delta }),x_{\ast }-x_{\delta }⟩⩽\left|⟨-\nabla f(x_{\delta }),x_{\ast }-x_{\delta }⟩\right|.$$

$$f(x_{\delta })-f(x_{\ast })⩽\Vert \nabla f(x_{\delta })\Vert \cdot |x_{\ast }-x_{\delta }|.$$

$$\Vert x_{\delta }-x_{\ast }\Vert ⩽\frac{R\sqrt{5}}{2}.$$

$$\underset{x\in Q}{\min }f(x)-\underset{x\in P}{\min }f(x)⩽\frac{MR\delta \sqrt{5}}{2}.$$

$$\underset{x\in Q}{\min }f(x)=\underset{x\in P}{\min }f(x).$$

$$\underset{x\in Q}{\min }f(x)-\underset{x\in P}{\min }f(x)⩽M\delta \cdot \frac{R_0\sqrt{5}}{2}.$$

$$\underset{x\in W}{\min }f(x)-\underset{x\in Q}{\min }f(x)⩽M\delta \cdot \frac{R_0\sqrt{2}}{2}.$$

$$\underset{x\in K_n}{\min }f(x)-\underset{x\in \Pi }{\min }f(x)⩽M\delta \cdot \left(1+\frac{1}{2}+...+\frac{1}{2^{n-1}}\right)R\cdot \left(\frac{\sqrt{5}}{2}+\frac{\sqrt{2}}{2}\right).$$

$$\sum _{i=0}^{n-1}\frac{1}{2^i}=\frac{1-\frac{1}{2^{n-1}}}{1-\frac{1}{2}}=2\left(1-\frac{1}{2^{n-1}}\right)$$

$$\underset{x\in K_n}{\min }f(x)-\underset{x\in \Pi }{\min }f(x)⩽MR\delta \left(\sqrt{2}+\sqrt{5}\right)\left(1-\frac{1}{2^{n-1}}\right).$$

$$\underset{x\in K_n}{\min }f(x)-\underset{x\in \Pi }{\min }f(x)⩽\epsilon /2,$$

$$MR\delta \left(\sqrt{2}+\sqrt{5}\right)\left(1-\frac{\epsilon }{LR\sqrt{2}}\right)⩽\frac{\epsilon }{2},$$

Full text

**ОБ ОДНОМ МЕТОДЕ МИНИМИЗАЦИИ ВЫПУКЛОЙ ЛИПШИЦЕВОЙ ФУНКЦИИ ДВУХ ПЕРЕМЕННЫХ НА КВАДРАТЕ111Исследования Ф. С. Стонякина, посвящённые схеме доказательства теоремы 1, а также разработке раздела 5.2, а также замечаний 2, 5, 6 и примера 2 выполнены при поддержке гранта РНФ 18-71-00048.

Д. А. Пасечнюк, Ф. С. Стонякин

**

1 Введение

В последние десятилетия активно исследуются самые разные подходы к численным методам для условных и безусловных задач многомерной оптимизации [2, 4, 6, 7]. В частности, условные задачи оптимизации с небольшим количеством функциональных ограничений могут с помощью метода множителей Лагранжа могут сводиться к маломерным двойственным задачам. А для задач маломерной оптимизации обычно используют разные геометрические методы, среди которых весьма популярны метод центров тяжести Левина-Ньюмена, а также метод эллипсоидов (см., например, [4, 6, 7]). Отметим [5, 6], что метод центров тяжести имеет оптимальную оценку числа итераций $n$ на классе выпуклых функционалов для достижения необходимой точности решения $\varepsilon$ задачи ($d$ — размерность пространства):

[TABLE]

Однако стоимость самих итераций метода центра тяжести может быть довольно дорогой за счёт трудоёмкой операций отыскания центра тяжести выпуклого множества (см., например [4, 6]). Поэтому на практике часто применяют метод эллипсоидов, где операция нахождения центра тяжести заменяется на задачу нахождения центра описанного эллипсоида, что делает итерацию метода менее затратной. Указанные методы работают с линейной скоростью сходимости (сопоставимую с (1)) как для гладких, так и негладких функций и требуют для достижения достаточно приемлемого качества решения вычисления (суб)градиента на каждой итерации.

Известны самые разные подходы к проблеме ускорения работы методов оптимизации [4, 6, 7]. Например, для удешевления стоимости итераций метода часто применяют рандомизированные процедуры, предполагающие вместо вычисления точных значений важных параметров (например, градиента) на итерациях их вероятностных аналогов [1, 3]. Например, вычисление вместо (суб)градиентов на итерациях метода их стохастических аналогов позволяет уменьшить стоимость итерации. Однако для такого типа неполноградиентных методов при этом теряется детерминированные оценки гарантированного качества найденного решения заменяются на вероятностные (стохастические).

Мы же рассмотрим в настоящей статье предложенный Ю.Е. Нестеровым (см., упражнение 1.5 из [4]) неполноградиентный метод минимизации липшицевой выпуклой липшицевой функции двух переменных на квадрате, позволяющий получить детерминированные оценки. Особенность метода — сведение задачи минимизации к постепенному сужению области определения за счёт учёта направления (суб)градиентов целевой функции вблизи точек-решений вспомогательных одномерных задач. Иными словами, предлагается комбинировать быстро работающие методы одномерной минимизации и с учётом геометрической структуры области определения выяснять направление субградиентов в точках на каждой итерации. Важно при этом, что на каждой итерации метода два раза находится направление (суб)градиента (а не самого градиента!), что существенно удешевляет стоимость итерации по сравнению с любым полноградиентным методом. При этом сохраняется линейная скорость сходимости метода.

Основной результат работы — оценка скорости сходимости метода Ю.Е. Нестерова для гладких выпуклых липшицевых функций, имеющих липшицев градиент (теорема 1). Метод может быть использован и в случае вычисления (направления) градиента с некоторой погрешностью (замечание 2). Отмечено, что свойство липшицевости градиента достаточно потребовать не на всём квадрате, а лишь на некоторых отрезках внутри этого квадрата (замечание 5). Показано, что метод может эффективно работать и для некоторых негладких функций. Однако построен пример простой негладкой функции, для которой при неверном выборе субградиента свойство сходимости метода может не выполняться (пример 1). Проведено сравнение работы метода Ю.Е. Нестерова, метода эллипсоидов и градиентного спуска для гладких выпуклых функций различного вида. Проведённые эксперименты показали, что рассматриваемый метод может позволить достичь требуемой точности решения задачи за меньшее в сравнении с другими рассмотренными методами время как в случае известного точного решения, так и при использовании оценок на скорость сходимости методов. Замечено, что при увеличении точности искомого решения время работы метода Ю.Е. Нестерова может расти медленнее, чем время работы метода эллипсоидов. Описана также методика применения указанного подхода к многомерным задачам выпуклого программирования с двумя функциональными ограничениями.

Отметим, что норму и скалярное произведение на плоскости всюду мы считаем стандартными.

2 Описание метода

Дан квадрат $\Pi\subset\mathbb{R}^{2}$ со стороной $R$, задана функция $f:\Pi\rightarrow\mathbb{R}$.

Опишем итерацию предлагаемого метода (см. [4], упражнение 1.5). Сформулируем его как для гладких, так и негладких целевых функционалов, хотя метод может расходиться на негладкой функции (см. пример 1 далее). При этом отметим, что для негладких выпуклых функционалов вместо обычного градиента используется субградиент $\upsilon\in{\mathbb{R}}^{2}$ определяемый неравенством

[TABLE]

справедливым для всех $x$ из области определения. Отметим, что субградиентые методы широко используются в оптимизации (см., например [4, 7, 8, 10]).

1. Через центр имеющегося квадрата проводится горизонтальная прямая. На отрезке, высекаемом из квадрата этой прямой, с точностью $\delta$ по аргументу решается задача одномерной оптимизации. Далее при реализации для решения одномерной задачи мы используем метод золотого сечения.

2. В найденной точке $x_{\delta}$ вычисляется вектор (суб)градиента $\nabla f(x_{\delta})$ и определяется, в сторону какого из двух прямоугольников направлен вектор $\nabla f(x_{\delta})$ и этот прямоугольник исключается из рассмотрения. При этом важно, что достаточно знать именно направление, а не точное значение (суб)градиента.

3. Через центр оставшегося прямоугольника проводится вертикальная прямая, на отрезке, высекаемом этой прямой в прямоугольнике, также с точностью $\delta$ по аргументу решается задача одномерной оптимизации. В найденной точке вычисляется вектор (суб)градиента функции и определяется, в сторону какого из двух квадратов он направлен. Этот квадрат исключается из рассмотрения.

Если вектор (суб)градиента в точке-приближении решения вспомогательной одномерной задачи нулевой, то процесс можно остановить и выдать указанную точку (она и даст точное решение).

Также возможно, что (суб)градиент в данной точке будет направлен вдоль отрезка, на котором решается вспомогательная одномерная задача и неясно, какую часть оставшейся фигуры отсекать. В таком случае условимся отсекать любую из частей на выбор.

3 Обоснование оценки скорости сходимости

Легко понять, что на каждой итерации метода Ю.Е. Нестерова линейные размеры квадрата уменьшаются вдвое и в какой-то момент оставшийся квадрат будет настолько мал, что в силу условия Липшица значения целевого функционала в его точка будут достаточно близкими друг к другу и можно выбирать любую точку. Мы докажем, что при подходящем выборе точности решения вспомогательных одномерных задач можно гарантировать, что значения целевой функции в точках оставшегося квадрата будут достаточно близки к оптимальному.

Теорема 1**.**

Пусть на некотором квадрате $\Pi\subset{\mathbb{R}}^{2}$ со стороной $R$ задана выпуклая дифференцируемая функция $f:\Pi\rightarrow{\mathbb{R}}$, для которой при любых $x,y\in\Pi$

$\left|f(x)-f(y)\right|\leqslant L\|x-y\|$, 2. 2)

$\|\nabla f(x)-\nabla f(y)\|\leqslant M\|x-y\|$.

Тогда для всякого $\varepsilon>0$ после

[TABLE]

шагов метода Ю. Е. Нестерова ($L$ выбрана так, чтобы n было натуральным) при условии, что вспомогательные одномерные задачи решаются с точностью по аргументу

[TABLE]

получим квадрат $K_{n}\subset\Pi=K_{0}$ такой, что

[TABLE]

Доказательство.

На каждом шаге метода линейные размеры квадрата уменьшаются в 2 раза. Поэтому после $n$ шагов метода длина диагонали оставшегося квадрата $K_{n}$ будет равна $\displaystyle\frac{R\sqrt{2}}{2^{n}}$. Из условия Липшица для $f$ имеем

[TABLE]

Наибольшее возможное расстояние между точками в полученном квадрате равно длине его диагонали. Это позволяет оценить правую часть неравенства сверху.

[TABLE]

Тогда получаем критерий останова метода

[TABLE] 2. 2.

Пусть после некоторого количества итераций метода мы рассматриваем квадрат $P$. На текущей итерации он разделяется на два меньших прямоугольника $Q$ и $Z$, причём на разделяющем отрезке $l$ решается задача одномерной оптимизации $f$.

Как известно, для её решения $x_{0}$ можно найти приближение $x_{\delta}$ со любой сколь угодно малой точностью по аргументу $\delta$ (используя такие методы одномерной оптимизации, как, например, метод золотого сечения)

[TABLE] 3. 3.

Обозначим через $x_{0}$ решение вспомогательной задачи

[TABLE]

Из липшицевости градиента $f$: $\|\nabla f(x)-\nabla f(y)\|\leqslant M\|x-y\|$ имеем

[TABLE]

Допустим, что $\nabla f(x_{\delta})$ направлен в сторону $Z$, и $x_{\delta}$ не совпадает ни с одним из концов отрезка $l$. Докажем, что

[TABLE]

Согласно лемме Ферма (не уменьшая общности рассуждений, мы считаем, что решение вспомогательной задачи не совпадает с концом отрезка)

[TABLE]

Тогда $\nabla_{i}f(x_{0})=0$, откуда

[TABLE] 2. 2)

Пусть $\nabla f(x_{0})=\overline{0}$. Тогда $x_{0}\in l\subset Q$ – точка локального (а вследствие выпуклости $f$ и глобального) минимума функции $f$ на $P$. В таком случае

[TABLE] 3. 3)

Если вектор $\nabla f(x_{0})\neq\overline{0}$ и направлен в сторону $Z$, то также верно (6), так как производная по всякому направлению, лежащему в $Z$, в таком случае будет неотрицательной. 4. 4)

Если $\nabla f(x_{0})\neq\overline{0}$ и направлен в сторону $Q$, то вектора $\nabla f(x_{0})$ и $\nabla f(x_{\delta})$ направлены в разные части делимого прямоугольника. Также вектор $\nabla f(x_{0})$ перпендикулярен $l$ и поэтому вектора $\nabla f(x_{0})$ и $\nabla f(x_{\delta})$ образуют тупой угол.

В тупоугольном треугольнике, составляемом этими векторами, против большего угла лежит большая сторона, откуда

[TABLE]

Тогда

[TABLE]

Пусть $\displaystyle x_{*}=\arg\min_{x\in Z}f(x)$. Тогда

[TABLE]

[TABLE]

По неравенству Коши-Буняковского:

[TABLE]

Известно, что $x_{*}$ находится в одном из двух прямоугольников, на которые был поделен исходный квадрат. Диагональ этого прямоугольника (длина которой есть также и наибольшее возможное расстояние между точками в нём) равна $\displaystyle\frac{R\sqrt{5}}{2}$. То есть

[TABLE]

Так как в $x_{\delta}$ достигается минимум $f(x)$ на $Q$, а в $x_{*}$ – минимум $f(x)$ на $P$, то верно следующее неравенство

[TABLE] 5. 5)

Если точка $x_{\delta}$ находится на одном из концов $l$ и градиент в этой точке направлен в сторону $Z$, то все производные по направлениям, отклоняющимся от направления градиента не более, чем на $\displaystyle\frac{\pi}{2}$, будут неотрицательны. Таким образом имеем, что на полуплоскости, отделяемом прямой, проходящей через конец отрезка и содержащим $Z$, значения функции не меньше, чем в самом конце отрезка. Тогда

[TABLE] 4. 4.

Пусть на некоторой итерации имеем квадрат $P$ со стороной $R_{0}$. На первом шаге из рассмотрения исключается один из прямоугольников, на которые был разделён данный квадрат. Длина диагонали оставшегося прямоугольника равна $\displaystyle\frac{R_{0}\sqrt{5}}{2}$. При этом ввиду (5) имеем

[TABLE]

На втором шаге пополам делится уже оставшийся прямоугольник, в результате чего получаем квадрат, длина диагонали которого равна $\displaystyle\frac{R_{0}\sqrt{2}}{2}$. Соответственно,

[TABLE] 5. 5.

На каждой итерации метода линейные размеры квадрата уменьшаются вдвое и поэтому на $i$-ой итерации длина стороны квадрата будет равна $\displaystyle R\cdot\frac{1}{2^{i-1}}$. Каждая же итерация предполагает отсечение сначала прямоугольника, а затем — квадрата. Просуммировав оценки накапливающихся погрешностей (см. пункты 3 и 4 выше), получим:

[TABLE]

С учётом формулы суммы первых $n$ членов геометрической прогрессии

[TABLE]

получаем

[TABLE] 6. 6.

Если потребовать, чтобы выполнялось неравенство

[TABLE]

то ввиду (3) и (8) получим

[TABLE]

т.е. необходимая точность решения вспомогательных одномерных задач оптимизации:

[TABLE]

Тогда (3) и (9) означают, что

[TABLE]

∎

Замечание 1**.**

Из доказанного результата по стандартной схеме рассуждений можно доказать и сходимость метода по аргументу в классе сильно выпуклых целевых функционалов (см., например [8]).

Замечание 2**.**

Важно отметить, что схема доказательства основного результата (теорема 1) позволяет учитывать не только погрешность решения вспомогательных одномерных задач, но и погрешность вычисления градиента в точках $x_{\delta}$ (см. пп. 3 и 4 доказательства теоремы 1). Точнее говоря, в точках $x_{\delta}$ вектор градиента функции может вычисляться с точностью $\Delta$: если $\nabla f(x_{\delta})$ — точная величина градиента, то нам доступен некоторый вектор $v(x_{\delta})$, для которого

[TABLE]

В том случае, если вектор $v(x_{\delta})$ направлен в ту же часть делимого квадрата, что и вектор $\nabla f(x_{\delta})$, все рассуждения п. 3 доказательства теоремы 1 остаются неизменными, так как исключается та же часть квадрата, что и при $\Delta=0$. Если же это не так, то либо вектор $\nabla f(x_{\delta})$ направлен в ту часть, где лежит $x^{*}$ – точное решение задачи, а вектор $v(x_{\delta})$ – в иную (очевидно, что в результате будет исключена часть, которой не принадлежит $x^{*}$, так что рассуждения в п. 3 также остаются справедливыми), либо же вектор $v(x_{\delta})$ в ту часть, где лежит $x^{*}$, а $\nabla f(x_{\delta})$ –– в иную.

В таком случае имеем треугольник, образованный векторами $\nabla f(x_{\delta})-\nabla f(x_{0})$ и $v(x_{\delta})-\nabla f(x_{\delta})$. Из неравенства треугольника следует, что если $\|\nabla f(x_{\delta})-\nabla f(x_{0})\|\overset{(4)}{\leqslant}M\delta$ и $\|v(x_{\delta})-\nabla f(x_{\delta})\|\leqslant\Delta$, то

[TABLE]

Векторы $v(x_{\delta})$ и $\nabla f(x_{0})$ образуют тупоугольный треугольник, причём длина его наибольшей стороны $\|v(x_{\delta})-\nabla f(x_{0})\|\leqslant M\delta+\Delta$. Следовательно, $\|v(x_{\delta})\|\leqslant M\delta+\Delta$. Из треугольника, образуемого векторами $v(x_{\delta})$ и $\nabla f(x_{\delta})$ ввиду неравенства треугольника, получаем

[TABLE]

Далее, следуя схеме рассуждений доказательства теоремы 1, получим

[TABLE]

откуда

[TABLE]

Таким образом, метод можно применить при наличии двух типов погрешностей: при решении вспомогательных одномерных задач оптимизации и при вычислении (направлений) градиентов. Эти два типа погрешностей аккумулируют итоговую погрешность. При увеличении одной из погрешности можно уменьшать значение другой так, чтобы сохранялось последнее неравенство, гарантирующее достижение приемлемого качества решения.

Замечание 3**.**

Стоит отметить, что в случае, когда вектор-приближение градиента $v(x_{\delta})$ направлен противоположно градиенту в точке решения вспомогательной задачи $\nabla f(x_{0})$, в силу полученной выше оценки (12)

[TABLE]

т.е. при достаточно близких к нулю малых величинах $\delta$ и $\Delta$ вектор $\nabla f(x_{\delta})$ можно считать достаточно малым по модулю. C учетом условия (13) для суммарной погрешности решения вспомогательных задач приходим к следующей оценке значения градиента:

[TABLE]

В таком случае можно считать полученную точку $x_{\delta}$ достаточно хорошим приближением точного решения задачи: используя полученное ранее неравенство

[TABLE]

получаем оценку для неточности по функции при выборе такого решения:

[TABLE]

Откуда при дополнения условия теоремы 1 ограничением на $L$:

[TABLE]

получаем

[TABLE]

Отправляясь от следующего неравенства для неточного градиента

[TABLE]

выпишем достаточное условие на вектор $v(x_{\delta})$, при выполнении которого найденная точки будет приемлемой, т.е. гарантированно выполниться (12):

[TABLE]

Таким образом, при использовании данного наблюдения, критерий останова метода можно переписать так:

[TABLE]

Отметим, что при этом можно построить такой пример функции, что для неё даже при небольшой погрешности вычисления градиента может не наблюдаться свойство сходимости метода по аргументу.

Пример 1**.**

Рассмотрим на квадрате $[0;1]^{2}$ функцию

[TABLE]

минимум которой достигается в точке $(0;1)$. Градиент данной функции постоянен и равен $\nabla f(x)=(1;-0.001)$, причём вторая координата мала по модулю. Если при некотором $\Delta$ эта компонента будет найдена с погрешностью большей $0.001$, то может оказаться, что она станет положительной и полученный вектор будет направлен в прямоугольник, содержащий точку точного решения задачи, в результате чего он будет исключен из рассмотрения. Из-за этого после удаления прямоугольника, содержащего точное решение задачи на первой итерации, метод не будет сходиться по аргументу.

Тем не менее, по функции будет достигнуто необходимое качество решения, поскольку ввиду малого коэффициента при $x_{2}$ слагаемое $0.001x_{2}$ не будет значительно влиять на значение функции.

Замечание 4**.**

Функция, рассмотренная в примере 1, обладает также тем свойством, что константа Липшица её градиента равна 0, что позволяет выбирать в качестве значения $M$ любую сколь угодно малую величину. Поскольку $\delta\sim\frac{1}{M}$ (см. (10)), то в этом случае погрешность решения одномерной подзадачи по аргументу может быть сколь угодно большой. То есть для функций (в том числе и нелинейных), для которых значение $M$ на данном квадрате достаточно мало, может оказаться допустимым вообще не решать вспомогательные задачи на разделяющих отрезках.

4 О работе метода Ю.Е. Нестерова для негладких целевых функций

Итак, мы обосновали сходимость за линейное время метода Ю. Е. Нестерова в классе гладких функций двух переменных с липшицевым градиентом.

Замечание 5**.**

На самом деле условие Липшица для градиента в доказательстве теоремы 1 было использовано лишь для точек, лежащих на высекаемых отрезках, вдоль которых рассматривались задачи одномерной минимизации (теорема 1, п. 3 доказательства). Если известна точность $\varepsilon$ для желаемого решения, а также константа Липшица $L$ функционала $f$, то можно определить число итераций $n$ метода Ю. Е. Нестерова. По этому числу $n$ можно построить $2\cdot(2^{n}-1)$ прямых – $2^{n}-1$ вертикальных и то же количество горизонтальных, вдоль которых возможно будут решаться вспомогательные задачи.

Условие Липшица для градиента целевого функционала достаточно потребовать только в точках построенных отрезков. Это, в частности, означает, что вне точек этих отрезков функция даже может иметь точки негладкости.

Замечание 6**.**

Условие липшицевости градиента используется лишь для отрезков, вдоль которых решаются вспомогательные задачи оптимизации, и в силу того, что эти отрезки параллельны осям координат, допустимо использовать условие Липшица не для полного градиента, а лишь для одной из частных производных функции по соответствующей переменной. Если окажется, что по одной из переменных функция линейна, то при решении вспомогательных задач константа Липшица соответствующей частной производной будет равна нулю, что означает, что для некоторых вспомогательных задач $\delta$ может быть сколь угодно велико и эти задачи не требуют решения.

Естественный интерес представляет вопрос о возможности обобщения теоремы 1 на случай негладкого выпуклого липшицева функционала $f$. Оказывается, что можно привести пример, для которого такая схема будет эффективно работать. Напомним, что для гладких функций $f_{1}$ и $f_{2}$ функция

[TABLE]

будет уже негладкой и по теореме Демьянова-Данскина субградиентом $f$ может считаться градиент $\nabla f_{1}(x)$ при $f_{1}(x)\geqslant f_{2}(x)$ и наоборот $\nabla f_{2}(x)$ при $f_{2}(x)\geqslant f_{1}(x)$.

Приведем результаты работы методов для функции

[TABLE]

Критерий остановки для каждого из методов — достижение точности $\varepsilon=5\times 10^{-3}$ по функции в сравнении с известным точным решением). Для метода Ю.Е. Нестерова время работы составляет около 2 ms, для градиентного спуска — около 5 ms, для метода эллипсоидов — значительно дольше.

Тем не менее, возможен простой пример негладкой выпуклой функции, для которой рассматриваемый метод не будет сходиться.

Пример 2**.**

Рассмотрим на квадрате с вершинами в точках $(0;0),(0;1),(1;0)$ и $(1;1)$ функцию

[TABLE]

В качестве первой разделяющей прямой выберем $x_{2}=1/2$. Тогда при $x_{1}<1/2$ имеем $f\left(x_{1},x_{2}\right)=x_{2}-0.1x_{1}$, а при $x_{1}\geqslant 1/2$ получаем $f\left(x_{1},x_{2}\right)=1.1x_{1}-x_{2}$. Поэтому

[TABLE]

Иными словами, в зависимости от выбора точки приближения решения (и даже при точном решении) вспомогательной задачи (суб)градиент может быть направлен в любую из полуплоскостей относительно $x_{2}=1/2$ (отметим, что $\displaystyle\min_{0\leqslant x_{1}\leqslant 1}f\left(x_{1},1/2\right)=f\left(1/2,1/2\right)$). Вместе с тем при отбрасывании части квадрата, для которой $x_{2}<1/2$, наименьшее значение целевой функции $f$ в оставшейся части будет $f\left(1/2,1/2\right)=9/20>f(0,0)=0$.

5 О применении метода Ю.Е. Нестерова для решения задач выпуклого программирования с двумя ограничениями

5.1 Постановка задачи

Рассмотрим задачи следующего вида

[TABLE]

где $f,g_{1}$ и $g_{2}$ — выпуклые функционалы, $Q$ — выпуклый компакт в $\mathbb{R}^{n}$. Допустим также, что $f$ — $\mu$-сильно выпукла и $\forall i=\overline{1,2}$

[TABLE]

при всяких $x,y\in Q$ для фиксированных $\mu_{1,2}>0$.

Тогда двойственная задача к 14 будет имеет такой вид

[TABLE]

где $\Omega_{\lambda}$ определяется условием Слейтера.

Здесь функция $\varphi$ зависит от двух двойственных переменных $\lambda^{1}$ и $\lambda^{2}$, удовлетворяет условию Липшица и имеет липшицев градиент:

[TABLE]

[TABLE]

где $C=\max_{x\in Q}\left\{g_{1}(x),g_{2}(x)\right\}$, $M=\sqrt{M_{1}^{2}+M_{2}^{2}}$.

Если для прямой задачи выполняется условие Слейтера, можно получить ограничение следующего вида для точки-решения двойственной задачи:

[TABLE]

Таким образом, решение задачи сводится к оптимизации функции $\varphi$ двух переменных на прямоугольном треугольнике

[TABLE]

катеты которого равны $A$ и лежат на осях координат. Для решения данной задачи можно использовать и модифицированный метод Ю. Е. Нестерова для прямоугольного треугольника, который описан далее. Можно рассматривать 2-мерную двойственную задачу и на квадрате, содержащем указанный прямоугольный треугольник.

5.2 Приложения к задачам выпуклого программирования с двумя ограничениями: адаптивный критерий остановки метода

Если для некоторого $x_{\delta}(\lambda)$ и $\lambda=(\lambda_{1},\lambda_{2})$ верно

[TABLE]

где $x_{\delta}(\lambda)$ — приближённое решение задачи

[TABLE]

с точностью $\delta$ по функции, то

[TABLE]

Действительно, пусть $\lambda_{*}=(\lambda_{1}^{*},\lambda_{2}^{*})$ — решение задачи (16) и

$x_{*}=x(\lambda_{*})$. Тогда

[TABLE]

[TABLE]

[TABLE]

откуда

[TABLE]

что и требовалось.

Поэтому задачу (14) можно сводить к (16) и решать (16) методом Ю. Е. Нестерова на подходящем квадрате (или прямоугольном треугольнике) с критерием остановки (17) при $\delta\leqslant\varepsilon$. Если применить подходы, описанные в замечаниях 2 и 3, то всякий раз после удаления прямоугольников в текущем промежутке локализации двойственной переменной будет сохраняться оптимальное значение двойственных множителей. Этот промежуток локализации будет уменьшаться. В какой-то момент возмущенный градиент двойственной функции в точке-приближении вспомогательной одномерной задачи будет достаточно малым для выполнения критерия остановки (17). Если решать задачи (18) с точностью $\varepsilon$ по функции и аргументу, то можно по схеме рассуждений [9] доказать для гладких функционалов $f$, $g_{1}$ и $g_{2}$ оценку скорости сходимости $O\left(\log^{3}\frac{1}{\varepsilon}\right)$.

6 Модификация метода для оптимизации на прямоугольном треугольнике

Приведём одну из возможных модификаций метода Ю.Е. Нестерова для оптимизации функции на прямоугольном треугольнике.

1. На первом шаге итерации метода проводится разделющий отрезок, соединяющий середины одного из катетов и гипотенузы. С помощью одного из методов одномерной оптимизации (например, метода золотого сечения) решается вспомогательная задача минимизации на данном отрезке.

2. Далее, в точке-решении вычисляется градиент $\nabla\varphi(x)$, после чего отсекается та часть треугольника, в которую он направлен. В случае, если после отсечения остаётся в два раза меньший гомотетичный исходному треугольник, метод переходит к следущей итерации.

3. Иначе, на втором шаге итерации, аналогичным образом отсекается одна из частей оставшейся трапеции, на которые её делит отрезок, соединяющий середины гипотенузы и другого катета исходного треугольника. Если в результате этого остаётся треугольник, то метод переходит к следующей итерации.

4. Если же остаётся квадрат, то для дальнейшей оптимизации используется описанный ранее метод Ю.Е. Нестерова для оптимизации функции на квадрате.

Имеет место следующий результат (общая схема доказательства аналогична доказательству теоремы 1).

Теорема 2**.**

Пусть на прямоугольном треугольнике $\Lambda_{A}\in\mathbb{R}^{2}$ со стороной $A$ задана выпуклая дифференцируемая функция $f:\Lambda_{A}\rightarrow\mathbb{R}$, для которой при любых $x,y\in\Lambda_{A}$

$|f(x)-f(y)|\leq L\|x-y\|$,

• 2)

$\|\nabla f(x)-\nabla f(y)\|\leq M\|x-y\|$.

Тогда для всякого $\varepsilon>0$ после $i$ итераций предложенной модификации метода и

[TABLE]

итераций метода Ю.Е. Нестерова ($L$ подбирается так, чтобы $n-i$ было целым) для оптимизации на квадрате при условии, что вспомогательные задачи решаются с точностью по аргументу

[TABLE]

получим квадрат $K_{n}\subset\Lambda_{A}$ такой, что

[TABLE]

7 Эксперименты

Основное преимущество метода Ю.Е. Нестерова состоит в том, что данный метод является неполноградиентным, то есть не требует для своей работы вычисления полного значения градиента функции на каждой итерации. При этом некоторым неодостатком может быть необходимость знать константы $L$ и $M$ (или их верхние оценки) для целевой функции. В то же время работа, например, метода эллипсоидов не зависит от уровня гладкости целевой функции. Также может оказаться не вполне удобным, что необходимая точность решения вспомогательных одномерных задач зависит от $\varepsilon$, что требует полного перезапуска метода при изменении точности решения задачи.

Приведем результаты работы методов для функции $f(x_{1},x_{2})=(x_{1}-1)^{2}+x_{2}^{4}$ (критерий останова для каждого из методов –– достижение необходимой точности по функции в сравнении с известным точным решением). Для метода Ю.Е. Нестерова время работы составляет около 3 ms, для градиентного спуска — более 7 ms, для метода эллипсоидов — около 4 ms.

Рассмотрим гладкую выпуклую функцию $f(x_{1},x_{2})=(x_{1}-1)^{2}+x_{2}^{4}$ на квадрате с вершинами в точках $(-3;-3),(-3;1),(1;1),(1;-3)$. В данном эксперименте критерием остановки методов будет достижение необходимой точности по функции $\varepsilon=5\times 10^{-3}$ в сравнении c минимумом функции на квадрате, который достигается в точке $(1;0)$.

Эксперименты показали, что в сравнении с другими рассматриваемыми методами (градиентным спуском и методом эллипсоидов), метод Ю.Е. Нестерова работает быстрее, несмотря на большее количество выполненных итераций. Это достигается за счёт того, что другие рассмотренные полноградиентные методы тратят большее время на вычисление полного значения градиента функции. При этом рассматриваемый в работе метод Ю.Е. Нестерова предполагает для своей работы лишь вычисление направления (суб)градиента, что, вообще говоря, может удешевлять стоимость итерации.

Приведем результаты работы методов для функции $f(x_{1},x_{2})=(x_{1}+1)^{2}+x_{2}^{2}-x_{1}+e^{x_{1}}+e^{x_{2}+1}$ (остановка для каждого из методов определяется в соответствии с теоретическими оценками (см., например, [8])). Для метода Ю.Е. Нестерова время работы составляет около 8 ms, для метода эллипсоидов — более 15 ms.

8 Заключение

В работе получена оценка скорости сходимости одного неполноградиентного метода минимизации выпуклой липшицевой функции двух переменных на квадрате.Как показали результаты экспериментов, такой метод может работать существенно быстрее метода эллипсоидов.

Основной результат (теорема 1) преполагает помимо условия Липшица для целевой функции ещё и условие липшицевости градиента. Однако как показано далее, это требование можно существенно ослабить, потребовав его выполнение на отдельных отрезках (замечание 5). Очевидно, что если, например, точек негладкости целевого функционала конечно, то незначительным сдвигом разделяющих (на итерациях метода) квадрат отрезков можно исключить эти точки негладкости из рассмотрения. Однако нами предложен также и простой пример негладкой функции, для которой метод не сходится (пример 2).

Весьма интересной была бы задача исследовать эффективность предложенного подхода к условным задачам многомерной оптимизации с небольшим числом ограничений (которые за счёт операции максимизации можно свести к двум). Заметим, что выполнение условия Слейтера позволяет компактифицировать значения двойственных переменных (см., например раздел 4 из [4]) и по сути рассматривать в качестве двойственной задачи двумерную задачу оптимизации (на квадрате или, несколько модифицировав предложенную схему, на прямоугольном треугольнике). В пункте 5 описан общий подход к таким задачам на базе метода Ю.Е. Нестерова для 2-мерной двойственной задачи.

Все численные эксперименты были выполнены с помощью с помощью программного обеспечения Anaconda 5.3.1 Python 3.6 version [11] на компьютере с 2-ядерным процессором Intel Core i5-5250U с тактовой частотой 1,6 ГГц на каждое ядро. ОЗУ компьютера составляла 8 Гб.

Список литературы

• [1]

Баяндина А.С., Гасников А.В., Гулиев Ф.Ш., Лагуновская А.А. Безградиентные двухточечные методы решения задач стохастической негладкой выпуклой оптимизации при наличии малых шумов не случайной природы // Автоматика и Телемеханика. – 2018. – № 9. (в печати) – URL: https://arxiv.org/ftp/arxiv/papers/1701/1701.03821.pdf Bayandina A., Gasnikov A., Guliev F., Lagunovskaya A. Gradient-free two-points optimal method for non smooth stochastic convex optimization problem with additional small noise// Automation and Remote Control. – 2018. – № 9. (in print) – URL: https://arxiv.org/ftp/arxiv/papers/1701/1701.03821.pdf

• [2]

Васильев Ф.П. Методы оптимизации. Т.2. – М.: МЦНМО, 2011. – 433 с. Vasiliev F. Methods of Optimization. V.2. – MCCME, 2011. – 433 p.

• [3]

Воронцова Е.А., Гасников А.В., Горбунов Э.А. Ускоренные спуски по случайному направлению с неевклидовой прокс-структурой // Автоматика и Телемеханика. – 2019. – URL: https://arxiv.org/pdf/1710.00162.pdf Vorontsova E., Gasnikov A., Gorbunov E. Accelerated Directional Search with non-Euclidean prox-structure // Automation and Remote Control. – 2019. – URL: https://arxiv.org/pdf/1710.00162.pdf

• [4]

Гасников А.В. Современные численные методы оптимизации. Метод универсального градиентного спуска // М.:МФТИ, 2018, 240 с. Gasnikov A. Universal gradient descent // MIPT, 2018, 240 p.

• [5]

Немировский А.С., Юдин Д. Б. Сложность задач и эффективность методов оптимизации // М.:Наука, 1979. Nemirovski A., Yudin D. Problem Complexity and method Efficiency in Optimization // Moscow, 1979.

• [6]

Bubeck S. Convex optimization: algorithms and complexity // In Foundations and Trends in Machine Learning. – 2015. – V. 8. – no. 3-4. – P. 231–357.

• [7]

Nesterov Yu. Lectures on convex optimization. – Springer, 2018.

• [8]

Polyak B. Introduction to Optimization. // New York, Optimization Software. – 1987.

• [9]

Stonyakin F. S., Alkousa M. S., Titov A. A., Piskunova V. V. On Some Methods for Strongly Convex Optimization Problems with One Functional Constraint. // Mathematical Optimization Theory and Operations Research. MOTOR 2019. Lecture Notes in Computer Science. Vol 11548. 2019.

• [10]

Shor N. Minimization of Nondifferentiable Functions. // Naukova Dumka. – 1979.

• [11]

Anaconda [site]. At available: https://www.anaconda.com/.