Some adaptive analog of Yu. E. Nesterov's method for variational inequalities with a strongly monotone operator

TL;DR

This paper introduces an adaptive version of Nesterov's method tailored for variational inequalities with strongly monotone operators, providing parameter estimates that improve solution quality over iterations.

Contribution

It presents a novel adaptive algorithm for variational inequalities with strong monotonicity, extending Nesterov's method with new parameter estimation techniques.

Findings

Derived estimates for solution quality based on iteration count

Demonstrated effectiveness of the adaptive method for strongly monotone operators

Extended Nesterov's method to adaptive settings

Abstract

An adaptive analogue of the Yu. E. Nesterov method for variational inequalities with a strongly monotone operator is proposed. Some estimates are obtained for the parameters determining the quality of the solution of the variational inequality depending on the number of iterations.

Tables

Table 1. Таблица 1: "Сравнение результатов работы алгоритмов 1 и 2 ".

$N$	$exp\left(\frac{-k}{1+\frac{L}{\mu }}\right)$	Время, мс	$exp\left(\frac{-k}{1+\frac{\hat{\beta }}{\mu }}\right)$	Время, мс	${\beta }_N$	$\hat{\beta }$
3	8.9742e-01	1	3.3880e-01	2	2.1447e-01	3.8766e-01
6	8.0536e-01	1	2.0270e-02	3	2.6809e-02	2.6809e-02
9	7.2274e-01	1	4.9199e-04	4	3.3512e-03	3.9726e-02
12	6.4860e-01	2	1.2773e-05	5	4.1889e-04	1.4210e-02
15	5.8207e-01	2	4.3275e-07	5	5.2362e-05	5.1801e-03
18	5.2236e-01	2	1.7770e-08	7	6.5452e-06	1.8911e-03
21	4.6878e-01	3	8.0981e-10	8	8.1815e-07	6.8756e-04
24	4.2069e-01	3	3.8794e-11	8	1.0227e-07	2.4877e-04
27	3.7753e-01	4	1.9004e-12	9	1.2784e-08	8.9622e-05
30	3.3881e-01	4	9.3990e-14	9	1.5980e-09	3.2176e-05
33	3.0405e-01	5	4.6670e-15	10	1.9974e-10	1.1521e-05
36	2.7286e-01	5	2.3211e-16	10	2.4968e-11	4.1168e-06
39	2.4487e-01	6	1.1551e-17	12	3.1210e-12	1.4687e-06
42	2.1975e-01	7	5.7501e-19	13	3.9013e-13	5.2327e-07
45	1.9721e-01	8	2.8626e-20	14	4.8766e-14	1.8625e-07

Table 2. Таблица 2: "Сравнение результатов работы алгоритмов 1 и 3 ".

$N$	$exp\left(\frac{-k}{1+\frac{L}{\mu }}\right)$	Время, мс	$exp\left(\frac{-k}{1+\frac{\hat{\beta }}{\mu }}\right)$	Время, мс	${\beta }_N$	$\hat{\beta }$
3	8.9742e-01	1	7.1227e-01	2	1.7158e+00	1.7158e+00
6	8.0536e-01	1	5.0732e-01	3	1.7158e+00	1.7158e+00
9	7.2274e-01	1	3.6135e-01	4	1.7158e+00	1.7158e+00
12	6.4860e-01	2	2.5738e-01	5	1.7158e+00	1.7158e+00
15	5.8207e-01	2	1.8332e-01	5	1.7158e+00	1.7158e+00
18	5.2236e-01	2	1.3057e-01	7	1.7158e+00	1.7158e+00
21	4.6878e-01	3	9.3003e-02	8	1.7158e+00	1.7158e+00
24	4.2069e-01	3	6.6243e-02	8	1.7158e+00	1.7158e+00
27	3.7753e-01	4	4.7183e-02	9	1.7158e+00	1.7158e+00
30	3.3881e-01	4	3.3607e-02	9	1.7158e+00	1.7158e+00
33	3.0405e-01	5	2.3937e-02	10	1.7158e+00	1.7158e+00
36	2.7286e-01	5	1.7049e-02	10	1.7158e+00	1.7158e+00
39	2.4487e-01	6	1.2144e-02	12	1.7158e+00	1.7158e+00
42	2.1975e-01	7	8.6496e-03	13	1.7158e+00	1.7158e+00
45	1.9721e-01	8	6.1608e-03	14	1.7158e+00	1.7158e+00

Equations

$$⟨g(x^{\ast }),x^{\ast }-y⟩⩽0\forall y\in Q,$$

$$⟨g(x)-g(y),x-y⟩⩾\mu ||x-y|{|}^2\forall x,y\in Q,$$

$$\Vert x\Vert =⟨Bx,x{⟩}^{1/2}$$

$$||g(x)-g(y)|{|}_{\ast }⩽L||x-y||\forall x,y\in Q$$

$$⟨g(y),x^{\ast }-y⟩+\frac{\mu }{2}||y-x^{\ast }|{|}^2⩽⟨g(x^{\ast }),x^{\ast }-y⟩-\frac{\mu }{2}||y-x^{\ast }|{|}^2⩽0.$$

$$f(x)=\underset{y\in Q}{\sup }\left\{⟨g(y),x-y⟩+\frac{\mu }{2}||y-x|{|}^2\right\}.$$

$$S_N=\sum _{i=0}^N{\lambda }_i\text{ и }{\tilde{y}}_N:=\frac{1}{S_N}\sum _{i=0}^N{\lambda }_i{y}_i\text{ — усредненный выход работы алгоритма.}$$

$${\Delta }_N:=\underset{x\in Q}{\max }\left\{\sum _{i=0}^N{\lambda }_i\left[⟨g(y_i),y_i-x⟩-\frac{\mu }{2}||x-y_i|{|}^2\right]\right\}.$$

$${\phi }_y^{\beta }(x):=⟨g(y),y-x⟩-\frac{\beta }{2}||x-y|{|}^2,{\Phi }_k(x):=\sum _{i=0}^k{\lambda }_i{\phi }_{y_i}^{\mu }(x)$$

$${\Delta }_k=\underset{x\in Q}{\max }{\Phi }_k(x).$$

$$\frac{\mu }{2}||{\tilde{y}}_k-x^{\ast }|{|}^2⩽f({\tilde{y}}_k)⩽\left[f(y_0)+\frac{\mu ({\gamma }^2-1)}{2}||y_0-x^{\ast }|{|}^2\right]\exp \left(-\frac{k}{\gamma +1}\right)⩽$$

$$⩽f(y_0)\cdot {\gamma }^2\cdot \exp \left(-\frac{k}{\gamma +1}\right).$$

$$x_0=\overline{x}\in Q,$$

$$x_{k+1}={\pi }_Q(x_k-\lambda B^{-1}g(x_k)),k\ge 0,$$

$$\Vert x_{k+1}-x^{\ast }{\Vert }^2\le \Vert x_k-x^{\ast }{\Vert }^2\cdot \exp \left\{-\frac{k}{{\gamma }^2}\right\}.$$

$${\beta }_0:=\frac{\Vert g(x)-g(y){\Vert }_{\ast }}{\Vert x-y\Vert }$$

$$||g(y_{k+1})-g(x_k)|{|}_{\ast }⩽\sqrt{{\beta }_{k+1}({\beta }_{k+1}+\mu )}\cdot ||y_{k+1}-x_k||,$$

$${\beta }_{k+1}<2L.$$

$${\beta }_{k+1}=\frac{1}{2}{2}^{i_{k+1}-1}{\beta }_k=2^{i_{k+1}-2}{\beta }_k,$$

$$\sum _{k=0}^{N-1}{i}_{k+1}=2N+\sum _{k=0}^{N-1}{\log }_2\frac{{\beta }_{k+1}}{{\beta }_k}<2N+{\log }_2(2L)-{\log }_2({\beta }_0).$$

$${\Delta }_{k+1}=\underset{x\in Q}{\max }\left\{{\Phi }_k(x)+{\lambda }_{k+1}{\phi }_{y_{k+1}}^{\mu }(x)\right\}⩽$$

$$⩽{\Delta }_k+\underset{x\in Q}{\max }\left\{⟨\nabla {\Phi }_k(x_k),x-x_k⟩-\frac{1}{2}\mu S_k||x-x_k|{|}^2+{\lambda }_{k+1}{\phi }_{y_{k+1}}^{\mu }(x)\right\}⩽$$

$$⩽{\Delta }_k+\underset{x\in Q}{\max }\left\{-\frac{1}{2}\mu S_k||x-x_k|{|}^2+{\lambda }_{k+1}\left[⟨g(y_{k+1}),y_{k+1}-x⟩-\frac{1}{2}\mu ||x-y_{k+1}|{|}^2\right]\right\}.$$

$$⟨-g(x_k)-{\beta }_{k+1}B(y_{k+1}-x_k),x-y_{k+1}⟩⩽0.$$

$$2\cdot ⟨B(y_{k+1}-x_k),x-y_{k+1}⟩=||x-x_k|{|}^2-||y_{k+1}-x_k|{|}^2-||x-y_{k+1}|{|}^2$$

$$⟨g(y_{k+1}),y_{k+1}-x⟩-\frac{\mu }{2}||x-y_{k+1}|{|}^2=$$

$$=⟨g(y_{k+1})-g(x_k),y_{k+1}-x⟩-\frac{\mu }{2}||x-y_{k+1}|{|}^2+⟨g(x_k),y_{k+1}-x⟩⩽$$

$$⩽||g(y_{k+1})-g(x_k)|{|}_{\ast }\cdot ||y_{k+1}-x||-\frac{\mu }{2}||x-y_{k+1}|{|}^2+{\beta }_{k+1}⟨B(y_{k+1}-x_k),x-y_{k+1}⟩=$$

$$=||g(y_{k+1})-g(x_k)|{|}_{\ast }\cdot ||y_{k+1}-x||-\frac{\mu }{2}||x-y_{k+1}|{|}^2+\frac{{\beta }_{k+1}}{2}||x-x_k|{|}^2-\frac{{\beta }_{k+1}}{2}||y_{k+1}-x_k|{|}^2-$$

$$-\frac{{\beta }_{k+1}}{2}||x-y_{k+1}|{|}^2=||g(y_{k+1})-g(x_k)|{|}_{\ast }\cdot ||y_{k+1}-x||-\frac{{\beta }_{k+1}+\mu }{2}||x-y_{k+1}|{|}^2+$$

Full text

Пусть в ходе работы некоторого алгоритма образовалась последовательность $\{y_{i}\}_{i=0}^{N}\subset Q$ и $\{\lambda_{i}\}_{i=0}^{N}$ — некоторый набор положительных чисел. Тогда обозначим

[TABLE]

Неравенства (5) приводят к идее ввести следующую функцию зазора для оценки качества найденного решения:

[TABLE]

Вслед за [11] обозначим

[TABLE]

для произвольного параметра $\beta>0,\;k=0,1,2,\ldots$, а также $x,y\in Q$. Ясно, что функция $\varphi_{y}^{\beta}$ сильно вогнута с параметром $\beta$, а $\Phi_{k}(x)$ сильно вогнута с параметром $\mu S_{k}$. Заметим, что при этом $(k=0,1,2,\ldots,N)$

[TABLE]

Напомним метод Ю. Е. Нестерова для ВН с липшицевым сильно монотонным оператором [10, 11]. Опишем $(k+1)$-ю итерацию этого метода $(k=0,1,2,\ldots)$.

Для приведённого выше метода (алгоритм 1) согласно теореме 3.2.3 из [11] в случае липшицева оператора $g$ с константой $L$ для числа обусловленности $\gamma=\frac{L}{\mu}$ и произвольного натурального $k$ верны оценки:

[TABLE]

[TABLE]

[TABLE]

[TABLE]

где $\pi_{Q}(x)$ — евклидова проекция точки $x$ на множество $Q$. Как отмечено в ([11], конец п. 3.2.2), у этого метода может быть медленная сходимость. В частности, при выборе оптимального шага $\displaystyle\lambda=\frac{\mu}{L^{2}}$ верна оценка:

[TABLE]

При больших значениях числа обусловленности $\gamma=\frac{L}{\mu}$ эта оценка может быть значительно хуже, чем (11) – (12). Также известно, что скорость сходимости (11) – (12) не может быть улучшена никаким черноящичным методом, применяемым к задаче (1) – (2) (см. замечание в конце п. 3.2.2 [11]). В то же время с точки зрения сложности реализации метод Ю. Е. Нестерова не будет значительно сложнее метода (13) – (14): на каждой итерации требуется вычислить две проекции на множество и два значения оператора вместо одной проекции и одного значения в методе (13) – (14).

Теперь перейдём к основным результатам работы и предложим адаптивный аналог метода Ю. Е. Нестерова для ВН (1) – (2). Положим изначально $\lambda_{0}:=1$, $y_{0}$ — некоторое начальное приближение искомого решения и выберем некоторое $0<\beta_{0}\leqslant 2L$, где $L$ — константа Липшица для оператора $g$ из (4).

[TABLE]

для некоторых фиксированных различных $x$ и $y$ из $Q$.

Опишем $(k+1)$-ю итерацию предлагаемого метода $(k=0,1,2,\ldots)$.

[TABLE]

Таким образом, константа $\beta_{k+1}$ не может неограниченно увеличится и максимальное её значение будет сопоставимо с $L$.

[TABLE]

откуда

[TABLE]

Таким образом, что за счёт повторения вычислений в п. 2 сложность работы предлагаемого алгоритма 2 по сравнению с алгоритмом 1 может увеличится не более, чем в 2 раза с точностью до постоянного слагаемого, зависящего от $\beta_{0}$ и $L$. Это означает, что трудоёмкость предлагаемого метода вполне сопоставима с трудоёмкостью исходного алгоритма 1. Однако при этом не требуется знания никакой константы $\widehat{L}\geqslant L$. Преимуществом также является возможное существенное увеличение скорости сходимости метода в конкретных задачах (см., например, таблицу 1 ниже).

Справедлива следующая

[TABLE]

[TABLE]

[TABLE]

В силу выбора $y_{k+1}$ из п. 2 алгоритма 2 для всякого $x\in Q$ имеем:

[TABLE]

Далее, с учётом равенства

[TABLE]

мы получаем оценки

[TABLE]

[TABLE]

[TABLE]

[TABLE]

[TABLE]

[TABLE]

[TABLE]

[TABLE]

Поэтому ввиду (17)

[TABLE]

[TABLE]

откуда с учетом $\mu S_{k}=\lambda_{k+1}\beta_{k+1}$ получаем требуемое. ∎

[TABLE]

[TABLE]

Далее, по лемме 1

[TABLE]

[TABLE]

[TABLE]

что и требовалось. ∎

Из теорем 1 и 2, а также следствия 1 вытекает следующий результат, аналогичный теореме 3.2.3 из [11].

[TABLE]

[TABLE]

Отметим, что оценки (23) – (24) могут оказаться лучше (11) – (12) из [11], поскольку $\frac{\hat{\beta}}{\mu}$ может оказаться меньше $\gamma$. Далее это наглядно продемонстрировано на примере численного эксперимента для задачи (27).

Поскольку $\beta_{k+1}$ может лишь увеличиваться, то по сравнению с алгоритмом 1 количество вычислений согласно п. 2 возрастёт лишь не более, чем на

[TABLE]

Для демонстрации преимуществ алгоритмов 2 и 3 по сравнению с алгоритмом 1 были проведены вычислительные эксперименты для вариационного неравенства с оператором $\displaystyle g:\mathbb{R}^{20}\rightarrow\mathbb{R}^{20}$ вида

[TABLE]

[TABLE]

В качестве множества $Q$ выберем единичный шар с центром в нуле

[TABLE]

для стандартной евклидовой нормы в $\mathbb{R}^{20}$ (т.е. здесь оператор $B$ в (3) мы полагаем тождественным):

[TABLE]

Пусть $x=(x_{1},x_{2},\ldots,x_{20})$ и $y=(y_{1},y_{2},\ldots,y_{20})$ — два вектора из $Q$. Очевидно, что оператор $g$ не является потенциальным:

[TABLE]

[TABLE]

Покажем, что оператор $g$ удовлетворяет условию Липшица и сильно монотонен на $Q$. По теореме о среднем для произвольных $i,j=\overline{1,20}$ имеем:

[TABLE]

[TABLE]

[TABLE]

для некоторых $\alpha_{i}$ и $\gamma_{j}:\;|\alpha_{i}|\leqslant 1$ и $|\gamma_{j}|\leqslant 1$ ($\alpha_{i}$ и $\gamma_{j}$ лежат между $x_{i},y_{i}$ и $x_{j},y_{j}$ соответственно). Ясно, что

[TABLE]

а также $\displaystyle\left|y_{i}+\frac{\gamma_{j}}{10\exp(3)}\right|<\sqrt{2}$. Поэтому (28) означает, что

[TABLE]

[TABLE]

Далее, с учётом неравенства $(a+b)^{2}\leqslant 2(a^{2}+b^{2})$, имеем

[TABLE]

[TABLE]

т.е. оператор $g$ удовлетворяет свойству Липшица с константой $\displaystyle L=\frac{\sqrt{202}}{10}\exp(\sqrt{2})$.

Далее, (28) означает, что для произвольных $x,y\in Q$

[TABLE]

где

[TABLE]

для всякого $k=\overline{1,20}$. Учитывая неравенство $\displaystyle 2ab\leqslant a^{2}+b^{2}$, получаем

[TABLE]

т.е. оператор $g$ сильно монотонен с параметром $\displaystyle\mu=\frac{9}{10}\exp(-\sqrt{2})$.

Мы применили алгоритмы 1, 2 и 3 к вариационному неравенству для оператора $g$ из (27) с параметрами $L=\frac{\sqrt{202}}{10}\exp(\sqrt{2})$, $\mu=\frac{9}{10}\exp(-\sqrt{2})$, начального приближения $y_{0}=(0.2,0.2,...,0.2)\in Q$ и в соответствии с (16)

[TABLE]

для стандартной евклидовой нормы в $\mathbb{R}^{20}$.

Результаты сравнения работы алгоритмов 1 и 2 (а также алгоритмов 1 и 3) представлены в сравнительных таблицах 1 и 2, где $N$ — количество итераций работы этих алгоритмов, время работы алгоритмов указано в миллисекундах. Все вычисления были произведены с помощью CPython 3.6.4 на компьютере с 3-ядерным процессором AMD Athlon II X3 450 с тактовой частотой 803,5 МГц на каждое ядро. ОЗУ компьютера составляла 8 Гб.

Как видим из таблицы 1, скорость сходимости для предлагаемого нами алгоритма 2 существенно выше скорости сходимости алгоритма 1. Это получается за счёт значительного уменьшения констант $\beta_{N}$ на итерациях в ходе работы алгоритма, а также предлагаемого нами их усреднения в (22). Из таблицы 2 видим, что скорость сходимости для предлагаемого нами алгоритма 3 выше, чем для алгоритма 1, но уже не так существенно, как для алгоритма 2. При этом время работы алгоритма 3 меньше, чем время работы алгоритма 2. По сути, преимущество алгоритма 3 перед алгоритмом 1 для рассматриваемого примера определяется, прежде всего, возможностью выбора начальной константы $\beta_{0}$ (29) согласно предлагаемому нами способу в замечании 2 без использования какой-либо оценки $\hat{L}\geqslant L$ константы Липшица $L$ оператора $g$.

Благодарности. Автор выражает огромную благодарность Александру Владимировичу Гасникову и Юрию Евгеньевичу Нестерову, а также неизвестным рецензентам за полезные обсуждения и комментарии.

Список литературы

• [1]

F. Facchinei, J. S. Pang, Finite-Dimensional Variational Inequality and Complementarity Problems, vols. 1 and 2, // Springer-Verlag, New York, 2003.

• [2]

А. С. Антипин, В. Ячимович, М. Ячимович. Динамика и вариационные неравенства. // Журнал вычисл. матем. и матем. физ., 57:5 (2017), С. 783–800.

• [3] Г.М. Корпелевич. Экстраградиентный метод для отыскания седловых точек и других задач  // Экономика и матем. методы, 12: 4 (1976), С. 747 – 756.
• [4]

A. Nemirovski, Prox-method with rate of convergence O(1/T) for variational inequalities with Lipschitz continuous monotone operators and smooth convex-concave saddle point problems. // SIAM Journal on Optimization, 2004, 15, pp. 229–251.

• [5]

Yu. Nesterov, Universal gradient methods for convex optimization problems. // Math. Program., 2015, Ser. A, 152, pp. 381–404.

• [6]

А. В. Гасников. Современные численные методы оптимизации. Метод универсального градиентного спуска. // М. Изд-во МФТИ: 2018.

• [7] А. В. Гасников, П. Е. Двуреченский, Ф. С. Стонякин, А. А. Титов. Адаптивный проксимальный метод для вариационных неравенств  // Журнал вычисл. матем. и матем. физ., 2017 — Подано. Режим доступа: https://arxiv.org/pdf/1804.02579.pdf.
• [8] Yu. Nesterov, Dual extrapolation and its application for solving variational inequalities and related problems.  // Math. Program., 2007, Ser. B, pp.319 – 344.
• [9] Ю. Е. Нестеров. Введение в выпуклую оптимизацию.  // М. МЦНМО, 2010.
• [10]

Yu. Nesterov, L. Scrimali, Solving strongly monotone variational and quasi-variational inequalities. // Discrete and Continuous Dynamical Systems, 31.10.2139/ssrn.970903, 2007.

• [11]

Ю. Е. Нестеров. Алгоритмическая выпуклая оптимизация. // Дисс. …докт. физ.-мат. наук: 01.01.07 / Нестеров Юрий Евгеньевич; [Место защиты: Моск. физ.-техн. ин-т (гос. ун-т)]. — Москва, 2013. — 367 с.: ил. РГБ ОД, 71 15-1/114.