Outer billiards outside regular decagon: periodicity of almost all orbits and existence of an aperiodic point

TL;DR

This paper proves that almost all orbits in the outer billiard outside a regular octagon are periodic, and it establishes the existence of at least one aperiodic orbit, providing a comprehensive understanding of orbit behavior.

Contribution

It demonstrates that almost all orbits are periodic and explicitly lists all possible periods, while also proving the existence of an aperiodic orbit outside a regular octagon.

Findings

Almost all orbits are periodic.

Explicit list of all possible periods.

Existence of an aperiodic orbit proved.

Abstract

The existence of an aperiodic orbit for an outer billiard outside a regular octagon is proved. Additionally, almost all orbits of such an outer billiard are proved to be periodic. All possible periods are explicitly listed.

Figures

Full text

Работа поддержана грантом РНФ № 17-11-01337.

1 Введение

Пусть $\gamma$ - выпуклая фигура на плоскости $\mathbb{R}^{2}$, а $p$ — точка вне ее. Проведем правую относительно $p$ касательную к $\gamma$; определим $Tp\equiv T(p)$ как точку, симметричную $p$ относительно точки касания.

Определение 1

Отображение $T$ называется внешним биллиардом; фигура $\gamma$ называется столом внешнего биллиарда.

Обратным к такому преобразованию является <<левый>> внешний биллиард; будем обозначать его как $T^{-1}$.

Определение 2

Точку $p\in\mathbb{R}^{2}\backslash\gamma$ назовем периодической, если существует такое натуральное $n$, что $T^{n}p=p$; минимальное такое $n$ назовем периодом точки $p$ и обозначим как $per(p)$.

Определение 3

Точку $p\in\mathbb{R}^{2}\backslash\gamma$ назовем апериодической, если она — не периодическая, а ее траектория бесконечна в две стороны.

Определение 4

Точку $p\in\mathbb{R}^{2}\backslash\gamma$ назовем граничной, если $T^{n}p$ не определено для некоторого $n\in\mathbb{Z}$.

В данной статье будем полагать, что $\gamma$ — выпуклый многоугольник.

Внешние биллиарды были введены Бернардом Нойманном в 1950-х годах и стали популярны в 1970-х благодаря Ю.Мозеру [4]. Внешние биллиарды исследовались рядом авторов (см. например, [3], [5], [6], [14], [15], [16], а также монографию [8]). Так, Р.Шварц [5] показал, что траектория начальной точки может быть неограниченной, тем самым разрешив вопрос Мозера - Нойманна, поставленный в [4].

В центре нашего внимания находятся следующие открытые в общем случае проблемы периодичности:

Существует ли апериодическая точка для внешнего биллиарда вне правильного $n$-угольника? 2. 2.

Верно ли, что периодические точки образуют вне стола множество полной меры для внешнего биллиарда вне правильного $n$-угольника?

Cлучаи $n=3,4,6$ являются решеточными и тривиальными; в этих случаях, апериодической точки нет, а периодические точки, как следствие, образуют множество полной меры. По мнению Р.Шварца, следующими по сложности исследования являются случаи $n=5,10,8,12$, ибо, по-видимому, только в этих случаях имеют место самоподобные структуры. С.Л.Табачников в [3] в деталях исследовал случай $n=5$ - для них апериодические точки существуют, но их мера равна нулю. В дальнейшем правильный пятиугольник и связанная с ним символическая динамика подробно исследовались в работе N.Bedaride и J.Cassaigne [7] (см. также их монографию [10]).

В статье [1] в деталях рассматривается внешний биллиард для случая $n=8$, а в статье [2] — для случая $n=12$. В данной же статье исследуется случай $n=10$. Этот случай похож на случай $n=5$; связь между ними была доказана в [7]. Однако возникающие в случае $n=10$ периодические структуры, хоть и похожи на периодические структуры в случае $n=5$, все же имеют свои особенности. Вследствие этого, детальное описание случая $n=10$ видится необходимым.

Основным результатом данной работы являются следующие теоремы.

Теорема 1

Для внешнего биллиарда вне правильного десятиугольника существует апериодическая точка.

Теорема 2

В случае внешнего биллиарда вне правильного десятиугольника, периодические точки образуют вне стола множество полной меры.

Теорема 3

Пусть $B_{2}=\{\frac{5}{7}(6^{l+2}-(-1)^{l}),\frac{5}{7}(9*6^{l+1}+2*(-1)^{l}),20*6^{l},30,90*6^{l},10,5,\frac{20}{7}((78+120k)*6^{l}-(k+1)*(-1)^{l}),\frac{5}{7}((276+240k)*6^{l}-(2k+3)*(-1)^{l}),\frac{5}{7}((234+180k)*6^{l}+(2k+4)*(-1)^{l}),\frac{5}{7}((34+40k)*6^{l}+(2k+1)*(-1)^{l}),\frac{10}{7}((20+40k)*6^{l}+(2k+2)*(-1)^{l}),40k+70,\frac{5}{7}((306+180k)*6^{l}+(2k+2)*(-1)^{l}),40k+50,60k+40,30k+35,20k+30,20k+20,10k+15,\frac{10}{7}(6^{l+2}-(-1)^{l}),\frac{10}{7}((276+240k)*6^{l}-(2k+3)*(-1)^{l}),\frac{10}{7}((34+40k)*6^{l}+(2k+1)*(-1)^{l}),60k+70,20k+30|k,l\in\mathbb{Z}_{\geq 0}\}$.

Тогда $B_{2}$ есть множество всевозможных периодов периодических точек для внешнего биллиарда вне правильного десятиугольника.

2 Внешний биллиард вне многоугольников: базовые определения и замечания

Во всех числовых индексах данной статьи числа будем подразумевать целыми, если не сказано обратное.

Введем основные определения, связанные с внешними биллиардами вне выпуклых многоугольников (здесь мы ссылаемся на [7]). Пусть стол $\gamma\subset\mathbb{R}^{2}$ есть произвольный выпуклый $n$-угольник, $n\geq 3$. Занумеруем его вершины как $A_{0}A_{1}\ldots A_{n-1}$ против часовой стрелки. Проведем лучи $A_{1}A_{0}$, $A_{2}A_{1}$, …, $A_{0}A_{n-1}$; они делят $\mathbb{R}^{2}\backslash\gamma$ на $n$ углов, вершины которых суть вершины $\gamma$; пусть $V_{i}$, $0\leq i<n$, есть один из этих углов с вершиной $A_{i}$. На рис. 1 изображен пример этих обозначений в случае $n=5$.

Из определения внешнего биллиарда напрямую следует

Лемма 1

Пусть $p\in\mathbb{R}^{2}\backslash\gamma$, а $i\in[0,n)$. Тогда преобразование $T$ для точки $p$ определено и является центральной симметрией относительно вершины $A_{i}$, если и только если $p\in\operatorname{int}(V_{i})$.

Поймем, как выглядит множество граничных точек.

Лемма 2

Множество граничных точек есть объединение счетного числа открытых отрезков и лучей.

Доказательство. Если удалить из прямой, являющейся продолжением стороны $\gamma$, отрезок, являющийся стороной $\gamma$, то прямая распадется на два открытых луча. Проделаем такую операцию для каждой из $n$ сторон; пусть $L$ есть множество точек, лежащих на таким образом полученных $2n$ открытых лучах. Очевидно, что множество граничных точек есть $\{T^{k}(p)|p\in L,k\in\mathbb{Z}\}$, т.е. результат применения неограниченного числа преобразований $T$ и $T^{-1}$ к лучам, образующим $L$. Однако заметим, что если $T$ (или $T^{-1}$) определено для хотя бы одной точки некоторого отрытого луча или отрезка, то $T$ (или $T^{-1}$) разделит этот луч или отрезок лучами $A_{(i+1)\ mod\ n}A_{i}$, $0\leq i<n$, на конечное число открытых отрезков и/или лучей, для каждого из которых $T$ (или $T^{-1}$) есть центральная симметрия. Тогда для каждого $k\in\mathbb{Z}$, $T^{k}(L)$ есть объединение конечного числа отрезков и лучей, а множество граничных точек есть объединение счетного числа отрезков и лучей как объединение конечных множеств отрезков и лучей, QED. $\scriptstyle\blacksquare$

Так прямая, луч и отрезок являются в $\mathbb{R}^{2}$ множествами меры нуль, то из леммы 2 напрямую следует известный факт, важный ввиду второй проблемы периодичности.

Лемма 3

Множество граничных точек для внешнего биллиарда вне $\gamma$ является множеством меры нуль.

Введем <<классическое>> для внешнего биллиарда вне правильных многоугольников кодирование.

Определение 5

Пусть $p\in\mathbb{R}^{2}\backslash\gamma$ — периодическая или апериодическая точка. Тогда кодом $\rho(p)\equiv\rho_{\gamma}(p)$ является последовательность ($\ldots u_{-2}u_{-1}u_{0}u_{1}u_{2}\ldots$), т.ч. $\forall i\in\mathbb{Z}:T^{i}(p)\in\operatorname{int}(V_{u_{i}})$.

Определение 6

Пусть $p\in\mathbb{R}^{2}\backslash\gamma$ — граничная точка,последовательное применение внешнего биллиарда $T$ может быть выполнено ровно $m$ раз, а преобразования $T^{-1}$ - $l$ раз, $0\leq l,m\leq+\infty$. Тогда код $\rho(p)=\rho_{\gamma}(p)$ есть последовательность $(u_{i})_{i\in[-l,m)}$, где $u_{i}\in[0,n)$ и $u_{i}=k$, если и только если $T^{i}(p)\in\operatorname{int}(V_{k})$.

Также будем обозначать элемент $u_{i}$ кода как $\rho(p)[i]$, а подпоследовательность $u_{l}u_{l+1}\ldots u_{r}$, $-\infty<l\leq r<+\infty$ — как $\rho(p)[l,r]$.

Определение 7

Компонентой назовем максимальное по включению множество точек с одинаковым кодом $\rho$; компоненту, в которой содержится точка $p$, обозначим за $comp(p)$.

Непосредственно из определений следует

Лемма 4

Пусть точка $p$ обладает кодом $\rho(p)$ бесконечной длины, равным $\ldots u_{-2}u_{-1}u_{0}u_{1}u_{2}\ldots$. Тогда $comp(p)=\underset{i\in\mathbb{Z}}{\cap}U_{i}$, где $U_{i}$ есть:

• •

$\operatorname{int}(V_{u_{0}})$, при $i=0$;

• •

$T^{-i}(\operatorname{int}(V_{u_{i}})\cap T^{i}(U_{i-1}))$, при $i>0$;

• •

$T^{-i}(\operatorname{int}(V_{u_{i}})\cap T^{i}(U_{i+1})$, при $i<0$.

Отметим, что множество $U_{i},i\in\mathbb{Z}$ представляет собой пересечение конечного числа полуплоскостей, площадь которого отлична от нуля, но может быть бесконечной. Если пересечение ограничено, то это пересечение есть выпуклый многоугольник. Неограниченное пересечение полуплоскостей будем называть бесконечным многоугольником; если же пересечение ограничено, назовем его конечным многоугольником.

Поймем, как выглядит компонента периодической точки.

Лемма 5

Пусть $p$ - периодическая точка c периодом $m$. Пусть $q$ - некоторая точка, т.ч. определено $T^{2m}(q)$, причем $\rho(p)[0,2m-1]=\rho(q)[0,2m-1]$. Тогда:

$q$* - периодическая точка с периодом не более чем $2m$;* 2. 2.

$q\in comp(p)$, т.е. $\rho(p)=\rho(q)$.

Доказательство. Пусть $\vec{v}=\vec{pq}$. Тогда в силу одинаковости соответствующих частей кода и по свойствам центральной симметрии $T^{k}(q)=T^{k}(p)+(-1)^{k}\vec{v}$, $k=0,1,\ldots,2m$; в частности, $T^{2m}(q)=T^{2m}(p)+(-1)^{2m}\vec{v}=p+v=q$. Таким образом, $q$ периодична, а последовательность $T^{k}(q)$ имеет (возможно, не минимальный) период $2m$. Следовательно, $\rho(q)$ бесконечен в обе стороны, имеет период $2m$ и, как очевидное следствие, совпадает с $\rho(p)$. $\scriptstyle\blacksquare$

Прямым следствием предыдущей леммы является

Лемма 6

Пусть $p$ - периодическая точка c периодом $m$. Тогда:

• •

$comp(p)=U_{2m}$* (определение множества $U$ см. в условии леммы 4);*

• •

все точки $comp(p)$ периодические, причем каждая из них обладает (возможно, не минимальным) периодом $2m$;

• •

$comp(p)$* есть открытый, конечный или бесконечный, выпуклый многоугольник, стороны которого параллельны сторонам $\gamma$.*

Последнее утверждение леммы 6 очевидно следует из структуры множеств $U_{i}$. Понять же устройство периодической компоненты, т.е. компоненты, содержащей периодическую точку, в бОльших деталях нам поможет следующая лемма.

Лемма 7

Пусть $p$, $q$ - две точки вне стола $\gamma$, и пусть для некоторого $l\in\mathbb{Z}$ $\rho(p)_{l}$ и $\rho(q)_{l}$ определены, причем $\rho(p)_{l}\neq\rho(q)_{l}$. Тогда на отрезке $pq$ существует граничная точка.

Доказательство. Докажем лемму для случая $l\geq 0$ (случай $l<0$ может быть рассмотрен аналогично). Без ограничения общности будем считать, что $l$ минимально среди всех подходящих $l$. Тогда для любой точки $x$ отрезка $pq$ $T^{l}(x)$ определено и является последовательностью центральных симметрий относительно точек $A_{u_{0}}$, $A_{u_{1}}$, …, $A_{u_{l-1}}$, где $\ldots u_{0}u_{1}u_{2}\ldots=\rho(p)$. По свойствам центральных симметрий, $T^{l}(pq)$ есть отрезок $T^{l}(p)T^{l}(q)$. Так как $\rho(p)_{l}\neq\rho(q)_{l}$, то $T^{l}(p)$ и $T^{l}(q)$ лежат в разных углах $V_{i_{p}}$ и $V_{i_{q}}$; следовательно, отрезок $T^{l}(p)T^{l}(q)$ пересекает границу угла $V_{i_{p}}$ (равно как и $V_{i_{q}}$) в некоторой точке $y$, а точка $x=T^{-l}(y)$ лежит на отрезке $pq$ и является граничной точкой, QED. $\scriptstyle\blacksquare$

Такая лемма дает возможность понять, из чего состоит граница компоненты периодической точки.

Лемма 8

Пусть $p$ - периодическая точка. Тогда $\partial comp(p)$ состоит лишь из граничных точек (точки самого стола $\gamma$ будем также считать граничными).

Доказательство. Рассмотрим точку $q$, лежащую на границе $comp(p)$. Предположим, что $q$ не является граничной; тогда $q$ обладает бесконечным в обе стороны кодом $\rho(q)$. Так как $q\notin comp(p)$, то $\rho(p)\neq\rho(q)$; следовательно, по лемме 7 на отрезке $pq$ существует граничная точка с конечной траекторией. Полученное противоречие с леммой 6 завершает доказательство. $\scriptstyle\blacksquare$

Лемма 9

Пусть $p$ - периодическая точка. Тогда $comp(p)$ есть конечный многоугольник.

Доказательство. Пусть это не так. Тогда по лемме 6 $comp(p)$ есть бесконечный выпуклый многоугольник; следовательно, существует луч $r$ с началом в некоторой точке $c$ и направляющим вектором $\vec{v}$, целиком лежащий внутри $comp(p)$.

Из свойств центральной симметрии следует, что $T^{2l}(r)$, $l\in\mathbb{Z}_{\geq 0}$ есть луч, сонаправленный с лучом $r$. Каждый из лучей $T^{2l}(r)$ должен лежать целиком внутри одного из углов $V_{i}$. Заметим (см. рис. 2), что если рассмотреть всевозможные лучи с заданным направлением $\vec{v}$, каждый из которых лежит целиком строго внутри какого-то из углов $V_{i}$, то эти лучи либо лежат в одном из углов, либо в двух соседних углах, если луч сонаправлен с лучом - стороной одного из углов.

Докажем, что последовательность лучей $T^{2l}(r)$ лежит строго в одном из углов. Пусть это не так, и лучи $T^{2l}(r)$ лежат в двух соседних углах; пусть это, без ограничения общности, $V_{0}$ и $V_{1}$ (нумерация углов, напомним, идет против часовой стрелки). Так как $T^{2l}(r)$ есть периодическая последовательность (доказательство можно провести аналогично лемме 5), то $\exists l_{0}\in\mathbb{N}:T^{2l_{0}}(r)\subset\operatorname{int}(V_{0})\wedge T^{2l_{0}+2}(r)\subset\operatorname{int}(V_{1})$; следовательно, существует луч $r^{\prime}\subset\operatorname{int}(V_{0})$, сонаправленный с $r$, т.ч. $T^{2}(r^{\prime})\subset\operatorname{int}(V_{1})$. По свойствам центральных симметрий, для $r^{\prime}$ $T^{2}$ есть параллельный перенос на вектор $2\vec{u}$, где $\vec{u}$ - вектор, начинающийся в вершине $A_{0}$ угла $V_{0}$ и заканчивающийся в некоторой другой вершине стола $\gamma$. Т.к. $\gamma$ лежит в левой полуплоскости относительно ориентированной прямой $A_{0}A_{1}$, то и вектор $\vec{u}$ направлен <<невправо>> относительно прямой $A_{0}A_{1}$. Как следствие, лучи $r^{\prime}$ и $T^{2}(r^{\prime})$ лежат в левой относительно $A_{0}A_{1}$ полуплоскости, а угол $\operatorname{int}(V_{1})$ лежит в правой относительно $A_{0}A_{1}$ полуплоскости - противоречие.

Итак, все лучи последовательности $T^{2l}(r)$, $l\in\mathbb{Z}$, лежат в некотором угле $V_{i}$, а, аналогично, лучи последовательности $T^{2l+1}(r)$, $l\in\mathbb{Z}$ - в некотором угле $V_{j}$. Тогда код всех вершин луча есть $\ldots ijijijijijijijijij\ldots$; следовательно, по все тем же свойствам центральных симметрий, $T^{2l}(c)=c+2l\vec{u}$, $\vec{u}=\overrightarrow{A_{i}A_{j}}$. Следовательно, $\forall l\in\mathbb{Z}:T^{2l}(c)\neq c$ - противоречие с периодичностью точки $p$ относительно $T$ и, как следствие, $T^{2}$. Таким образом, $comp(p)$ есть ограниченное множество, QED. $\scriptstyle\blacksquare$

Итак, компонента периодической точки $p$ есть открытый выпуклый не-более-чем-$2n$-угольник, стороны которого параллельны сторонам стола $\gamma$. Более того, из лемм 6, 8 вытекает альтернативное определение понятия <<компонента периодической точки>>:

Лемма 10

Пусть $p\in\mathbb{R}^{2}\backslash\gamma$ - периодическая точка. Тогда компонента периодической точки $comp(p)$ есть максимальное по включению связное множество периодических точек, содержащее $p$.

Но как же устроены периоды точек $comp(p)$?

Лемма 11

Пусть $p$ - периодическая точка. Тогда $\forall n\in\mathbb{N}:T^{n}(comp(p))=comp(p)\vee T^{n}(comp(p))\cap comp(p)=\varnothing$.

Доказательство. $T^{n}(comp(p))$ есть открытый выпуклый многоугольник, равный $comp(p)$; следовательно, ни одно их множеств $T^{n}(comp(p))$ и $comp(p)$ не может быть строгим подмножеством другого множества. В этом случае, либо вышеописанные множества не пересекаются, либо совпадают, либо пересекаются таким образом, что существует точка $q$, которая лежит внутри $T^{n}(comp(p))$ и на границе $comp(p)$. Последний случай вызывает противоречие, ибо по леммам 6, 8 точка $q$ должна быть и периодической, и граничной. Следовательно, лемма доказана. $\scriptstyle\blacksquare$

Предыдущая лемма дает возможность ввести понятие периода компоненты.

Определение 8

Пусть $p$ - периодическая точка. Тогда периодом компоненты $comp(p)$, или $per(comp(p))$, назовем минимальное такое натуральное $k$ такое, что $T^{k}(p)=p$.

Как же $per(comp(p))$ связано с периодами точек $comp(p)$?

Следующая лемма есть прямое следствие леммы 11 и того факта, что $T^{n}$ для компоненты периодической точки $p$ есть параллельный перенос в случае четного $n$ и центральная симметрия в случае нечетного $n$.

Лемма 12

Пусть $p$ - периодическая точка, и пусть $k=per(comp(p))$. Тогда:

• •

если $k$ четно, то все точки $comp(p)$ имеют период $k$;

• •

если $k$ нечетно, то: а) $comp(p)$ есть центрально-симметричный многоугольник с центром в некоторой точке $c$; б) период точки $c$ есть $k$, а всех остальных точек - $2k$.

Пользуясь данной леммой, будем также называть компоненту некоторой периодической точки периодической компонентой.

Согласно лемме 12, мы можем найти множество всевозможных периодов точек для внешнего биллиарда вне $\gamma$, если нам известно множество всевозможных периодов периодических компонент. Точное соотношение между множествами задает следующая лемма, являющаяся прямым следствием леммы 12.

Лемма 13

Пусть $B_{c}$ и $B_{p}$ — множества всевозможных периодов компонент и точек соответственно для внешнего биллиард вне многоугольника $\gamma$. Тогда $B_{p}=B_{c}\cup\{2*l\ |\ l\in B_{c},\ l\text{ \T2A\cyrn\T2A\cyre\T2A\cyrch\T2A\cyre\T2A\cyrt\T2A\cyrn\T2A\cyro}\}$.

Завершит наше исследование на тему периодических компонент следующая лемма.

Лемма 14

Пусть $p$ - периодическая точка. Тогда $T(comp(p))=comp(T(p))$.

Доказательство. Очевидно, что $T(comp(p))\subset comp(T(p))$ и $T^{-1}(comp(T(p)))\subset comp(T^{-1}(T(p)))=comp(p)$, откуда следует, что $comp(T(p))\subset T(comp(p))$; следовательно, $T(comp(p))=comp(T(p))$, QED. $\scriptstyle\blacksquare$

3 Внешний биллиард вне правильного десятиугольника

Перейдем к исследованию правильного десятиугольника. С этого момента будем считать, что стол внешнего биллиарда есть правильный десятиугольник $\gamma=A_{0}A_{1}\ldots A_{9}$, вершины которого перенумерованы против часовой стрелки. Будем следовать плану, намеченному в [1, 2].

3.1 Ограничение преобразования

Введем ограничение преобразования $T$, похожее на ограничение, выполненное в работах [7, 3], но отличающееся в итоговой реализации.

Определение 9

Пусть $R$ есть поворот на угол $\frac{\pi}{5}$ по часовой стрелке вокруг центра $\gamma$.

Заметим, что $T$ инвариантно относительно $R$, т.е. $\forall p\in\mathbb{R}^{2}\backslash\gamma$, $T(p)\text{ \T2A\cyro\T2A\cyrp\T2A\cyrr\T2A\cyre\T2A\cyrd\T2A\cyre\T2A\cyrl\T2A\cyre\T2A\cyrn\T2A\cyro: }T(R(p))=R(T(p))$. Отождествим точки, переходящие друг в друга с помощью $R$.

Пусть $V^{\prime}$ есть угол с вершиной в $A_{1}$, центрально-симметричный углу $V_{1}$ относительно $A_{1}$.

Определение 10

Пусть $p\in\mathbb{R}^{2}\backslash\gamma$. Тогда $k_{p}$ есть такое минимальное число $k\in\mathbb{Z}_{\geq 0}$, что $R^{k}(p)\in V^{\prime}$, a $R^{\prime}(p)$ есть $R^{k_{p}}(p)$.

Другими словами, $R^{\prime}(p)$ есть представитель класса эквивалентности $p$ в $V^{\prime}$ (если только $p$ не лежит на продолжении одной из сторон).

Определение 11

Преобразование $T^{\prime}:V^{\prime}\rightarrow V^{\prime}$ есть преобразование, индуцированное отождествлением точек относительно $R$, устроенное следующие образом. Пусть $p\in\operatorname{int}(V^{\prime})$; тогда:

• •

$T^{\prime}(p)$* определено, если и только если $T(p)$ определено;*

• •

если $T^{\prime}(p)$ определено, то $T^{\prime}(p)=R^{\prime}(T(p))$.

Для удобства будем считать, что на $\partial V^{\prime}$ $T^{\prime}$ не определено.

Любую точку $p\in V^{\prime}$ будем рассматривать как граничную (периодическую, апериодическую) относительно $T^{\prime}$ ровно в том же смысле, в котором ранее мы рассматривали точки $p\in\mathbb{R}^{2}\backslash\gamma$. Из структуры отождествления очевидны следующая лемма.

Лемма 15

Точка $p\in V^{\prime}$ является граничной (периодической, апериодической) относительно $T^{\prime}$, если и только если $p\in V^{\prime}$ является граничной (периодической, апериодической) относительно $T$. Более того, в этом случае граничными (периодическими, апериодическими) относительно $T$ будут являться точки $R^{k}(p)$, $k=0,1,\ldots,9$.

Прямым следствием леммы 15 является следующая лемма, которая сводит решение проблем периодичности для всей плоскости относительно преобразования $T$ к решению тех же проблем, но в $\operatorname{int}(V^{\prime})$ и относительно преобразования $T^{\prime}$.

Лемма 16

Апериодическая относительно преобразования $T$ точка существует, если и только если существует апериодическая точка в $\operatorname{int}(V^{\prime})$ относительно преобразования $T^{\prime}$; 2. 2.

Периодические относительно $T$ точки образуют вне $\gamma$ множество полной меры, если и только если периодические относительно $T^{\prime}$ точки образуют в $\operatorname{int}(V^{\prime})$ множество полной меры.

Чтобы свести проблему нахождения периодов к преобразованию $T^{\prime}$, введем индуцированный ограничением код относительно $T^{\prime}$.

Определение 12

Пусть $p\in V^{\prime}$ — периодическая или апериодическая точка. Тогда индуцированным кодом $\rho^{\prime}(p)\equiv\rho^{\prime}_{\gamma}(p)$ является последовательность ($\ldots v_{-2}v_{-1}v_{0}v_{1}v_{2}\ldots$), т.ч. $\forall i\in\mathbb{Z}:T^{\prime i}(p)\in\operatorname{int}(V_{v_{i}+1})$.

Заметим, что коды $\rho$ и $\rho^{\prime}$ связаны между собой следующим образом.

Лемма 17

Пусть $p\in V^{\prime}$ — периодическая или апериодическая точка. Тогда $\forall i\in\mathbb{Z}$: $\rho^{\prime}(p)[i]=(\rho(p)[i]-\rho(p)[i-1])\mod 10$.

Доказательство. Преобразования $T$, $T^{\prime}$ и $R^{\prime}$ устроены таким образом, что если $T(q_{1})=q_{2}$, то $T^{\prime}(R^{\prime}(q_{1}))=R^{\prime}(q_{2})$, и $R^{\prime}(R(q_{1}))=R^{\prime}(q_{1})$. Отсюда заметим, что если $q$ - произвольная неграничная точка, то при замене $q$ на $R(q)$ все значения кода $\rho(q)$ уменьшаются на один по модулю 10, а значения кода $\rho^{\prime}(R^{\prime}(q))$ не изменяются. Зафиксируем произвольное $i\in\mathbb{Z}$. Пусть $k=k_{T^{i}(p)}$, и $p^{\prime}=R^{k}(p)$. Тогда $\rho^{\prime}(R^{\prime}(p^{\prime}))[i]=\rho^{\prime}(p)[i]$, и $(\rho(p^{\prime})[i]-\rho(p^{\prime})[i-1])\mod 10\ =\ (\rho(p)[i]-\rho(p)[i-1])\mod 10$. С другой стороны, $T^{i}(p^{\prime})\in\operatorname{int}(V^{\prime})$, а $T^{-1}(\operatorname{int}(V^{\prime}))=\operatorname{int}(V_{1})$. Следовательно, по определению $\rho(p^{\prime})[i-1]=1$, $\rho(p^{\prime})[i]=1+\rho^{\prime}(R^{\prime}(p^{\prime}))[i]=\rho(p^{\prime})[i-1]+\rho^{\prime}(p)[i]$, откуда получаем $(\rho(p)[i]-\rho(p)[i-1])\mod 10=\rho^{\prime}(p^{\prime})[i]$. Факт произвольности выбора $i$ завершает доказательство леммы. $\scriptstyle\blacksquare$

Очевидно, что внутри $V^{\prime}$ периодические компоненты относительно $\rho$ и $\rho^{\prime}$ одни и те же (ибо для любой неграничной точки $p\in V^{\prime}$ код $\rho(p)$ можно восстановить из $\rho^{\prime}(p)$ и наоборот), что дает возможность ввести период $per^{\prime}(comp)$ как период периодической компоненты $comp\subset V^{\prime}$ относительно $T^{\prime}$. Отметим, что все элементы $\rho^{\prime}(p)$ являются целыми числами от 1 до 5.

Лемма 18

Пусть $p\in V^{\prime}$ - периодическая точка, причем $per^{\prime}(p)=m$. Тогда $per(p)=m*\frac{10}{\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(s,10)}$, где $s=\sum\limits_{i=1}^{m}\rho^{\prime}(p)[i]$.

Доказательство. Заметим, что для любого $k\in\mathbb{Z}$ верна импликация: $(T^{k}(p)=p)\implies(T^{\prime k}(p)=p)$; следовательно, $per(p)$ кратен $m$; пусть $z=\frac{per(p)}{m}$. По лемме 17 и в силу периодичности $p$ верно: $s\mod 10=(\rho(p)[m]-\rho(p)[0])\mod 10=(\rho(p)[2m]-\rho(p)[m])\mod 10=(\rho(p)[3m]-\rho(p)[2m])\mod 10=\ldots$. Так как $p=T^{\prime m}(p)=T^{\prime 2m}(p)=\ldots$, то $\forall l\in\mathbb{Z}$: $f^{\prime}(T^{lm}(p))=p$; следовательно, $\forall l\in\mathbb{Z}$: $T^{lm}(p)=p\Leftrightarrow(\rho(p)[lm]-\rho(p)[0])\mod 10=0$, а $z$ есть минимальное натуральное подходящее $l$. Так как $\forall l\in\mathbb{Z}:(\rho(p)[lm]-\rho(p)[0])\mod 10=(l*(\rho(p)[m]-\rho(p)[0]))\mod 10=(l*s)\mod 10$, то $z$ есть минимальное натуральное число такое, что $z*s$ делится на 10; из теории чисел очевидно, что $z=\frac{10}{\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(s,10)}$, QED. $\scriptstyle\blacksquare$

Отметим, что лемма 18 останется верна, если вместо точки $p$ рассмотреть её периодическую компоненту. Таким образом, зная всевозможные индуцированные коды периодов относительно $T^{\prime}$, можно описать и всевозможные периоды относительно $T$. Более того, для этого не нужно знать именно слова - достаточно знать, сколько раз в коде периодической траектории появляются единица, двойка, …, пятерка. Более формально эту мысль описывает следующая лемма, являющаяся прямым следствием леммы 18.

Лемма 19

Пусть $p\in(\subset)V^{\prime}$ - периодическая точка (компонента), и пусть $per^{\prime}(p)=m$. Пусть в последовательности $\rho^{\prime}(p)[1,m]$ число $j$ встречается ровно $a_{j}$ раз, $j=1,2,\ldots,5$. Тогда $per(p)=\frac{10*(a_{1}+a_{2}+\ldots+a_{5})}{\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,a_{1}+2a_{2}+\ldots+5a_{5})}$.

3.2 $T^{\prime}$ как <<кусочное движение>>

.

Опишем, как выглядит преобразование $T^{\prime}$. Для этого определим углы $V^{\prime}_{i}$, $0\leq i<10$, как угол, симметричный $V_{i}$ относительно вершины $A_{i}$. В частности, $V^{\prime}=V^{\prime}_{1}$. Из определения очевидно, что $\forall p\in\mathbb{R}^{2}\backslash\gamma,j\in[0,10)$: $\rho(p)[0]=j\Leftrightarrow T(p)\in\operatorname{int}(V^{\prime}_{i})$ (в частности, $\rho(p)[0]$ определено, если и только если $T(p)$ определено), а также $\forall j\in[0,10)$: $R(V^{\prime}_{j})=V^{\prime}_{(j-1)\mod 10}$.

Лемма 20

Пусть $p\in\operatorname{int}(V^{\prime})$, и $T(p)$ определено. Тогда $T^{\prime}(p)=R^{v_{0}}(T(p))$, где $v_{0}=\rho^{\prime}(p)[0]$.

Доказательство. По определению $\rho^{\prime}$, $T$ для $p$ есть центральная симметрия относительно вершины $A_{v_{0}+1}$. Тогда $T(p)\in\operatorname{int}(V^{\prime}_{v_{0}+1})$. Так как $R^{v_{0}}(V^{\prime}_{v_{0}+1})=V^{\prime}_{1}=V^{\prime}$ (очевидно), то $R^{v_{0}}(T(p))\in\operatorname{int}(V^{\prime})$. Следовательно, $T^{\prime}(p)=R^{v_{0}}(T(p))$, QED. $\scriptstyle\blacksquare$

Пусть $\alpha_{i}\subset V^{\prime}$, $i=1,2,\ldots,5$, есть множество точек $p\in V^{\prime}$, т.ч. $\rho^{\prime}(p)[0]=i$; все фигуры $\alpha_{i}$ изображены на рис. 3. Из леммы 1 очевидно, что $\alpha_{i}=\operatorname{int}(V^{\prime})\cap\operatorname{int}(V_{i+1})$, откуда следует следующая лемма.

Лемма 21

$\alpha_{1}$* есть открытый треугольник $P_{1}P_{2}Q_{2}$;* 2. 2.

$\alpha_{i}$, $i=2,3$, есть открытый четырехугольник $P_{i}Q_{i}Q_{i+1}P_{i+1}$; 3. 3.

$\alpha_{4}$* есть открытый бесконечный многоугольник, ограниченный лучом $A_{0}A_{1}$, отрезками $P_{4}Q_{4}$ и $Q_{4}Q_{5}$ и лучом $A_{6}A_{5}$;* 4. 4.

$\alpha_{5}$* есть открытый угол между лучами $A_{1}A_{2}$ и $A_{6}A_{5}$.*

Важными для нашего описания оказываются точки $O_{i}$ пересечения биссектрисы угла $P_{2}P_{1}Q_{2}$ с биссектрисами углов $V_{i+1}=P_{i}A_{i+1}P_{i+1}$, $i=1,2,3,4$.

Лемма 22

$\forall i\in\{1,2,3,4\}$: $T^{\prime}(O_{i})=O_{i}$.

Доказательство. Пусть $i\in\{1,2,3,4\}$, а $O$ - центр $\gamma$. Заметим, что угол $V_{i+1}$ симметричен углу $V^{\prime}$ относительно прямой $OP_{i+1}$; следовательно, $A_{1}O_{i}=A_{i+1}O_{i}$. С другой стороны, по лемме 20 $T^{\prime}(O_{i})=R^{i}(T(O_{i}))$, причем преобразование $T$ переводит с сохранением расстояния биссектрису угла $V_{i+1}$ в биссектрису угла $V^{\prime}_{i+1}$, а $R^{i}$ переведет последнюю биссектрису с сохранением расстояния в биссектрису угла $V^{\prime}_{1}=V^{\prime}$. Следовательно, $T^{\prime}(O_{i})$ будет лежать на биссектрисе угла $V^{\prime}$, причем $A_{1}T^{\prime}(O_{i})=A_{i+1}O_{i}=A_{1}O_{i}$, откуда $O_{i}=T^{\prime}(O_{i})$, QED. $\scriptstyle\blacksquare$

Лемма 22 позволяет нам полностью описать преобразование $T^{\prime}$.

Лемма 23

$\forall i\in\{1,2,3,4\}$: $T^{\prime}(\alpha_{i})$ есть поворот на угол $\frac{(5-i)\pi}{5}$ против часовой стрелки вокруг точки $O_{i}$; 2. 2.

$T^{\prime}(\alpha_{5})$* есть параллельный перенос вдоль вектора $\overrightarrow{A_{6}A_{1}}$;* 3. 3.

$\forall i\in\{1,2,3,4,5\}\leavevmode\nobreak\ \forall p\in\partial(\alpha_{i})$: $T^{\prime}(p)$ не определено.

Доказательство. Пункт 3 очевидно следует из определения $T^{\prime}$ и того факта, что границы $\alpha_{i}$ лежат на продолжениях сторон стола $\gamma$.

Докажем пп.1,2. Согласно лемме 20, $T^{\prime}(\alpha_{i})$, $i=1,2,\ldots,5$ есть $R^{i}(T(\alpha_{i}))$; т.к. центральная симметрия есть поворот на угол $\pi$ против часовой стрелки (будем для удобства использовать такое направление), то при $i=1,2,3,4$, $T^{\prime}(\alpha_{i})$ есть поворот на угол $\pi-i*\frac{\pi}{5}$ против часовой стрелки вокруг некоторой неподвижной точки, которой по лемме 22, и п.1 доказан. Что до п.2, то при $i=5$ $R^{i}$ есть центральная симметрия относительно т. $O$, центра $\gamma$; следовательно, $T^{\prime}(\alpha_{5})$ есть композиция центральных симметрий относительно точек $A_{6}$ и $O$; из школьной геометрии известно, что это есть параллельный перенос на вектор $2{\overrightarrow{A_{6}O}}={\overrightarrow{A_{6}A_{1}}}$, QED.

$\scriptstyle\blacksquare$

Таким образом, $T^{\prime}$ разбивает $V^{\prime}$ на пять фигур, для каждой из которых $T^{\prime}$ есть движение, т.е. $T^{\prime}$ кусочно изометрично (piecewise isometric).

Введем еще одно определение.

Определение 13

Пусть $\alpha,\beta\subset\mathbb{R}^{2}$ - конечные или бесконечные многоугольники. Будем говорить, что $\beta$ вписан в $\alpha$, если $\beta\subset\alpha$ и каждая из сторон $\alpha$ целиком содержит одну из сторон $\beta$.

Рассмотрим периодические компоненты $comp(O_{i})$, $i=1,2,3,4$. Каждая такая компонента имеет код $\rho^{\prime}(comp(O_{i}))$, равный $\ldots iiiiii\ldots$ и является, согласно лемме 6, открытым выпуклым многоугольником; назовем эти многоугольники $\beta_{i}$. Будем также обозначать отрезок с концами в точках $p,q$ как $\overline{pq}$.

Лемма 24

$\beta_{1}$* есть правильный пятиугольник $B^{1}_{0}B^{1}_{1}B^{1}_{2}B^{1}_{3}B^{1}_{4}$, т.ч. $B^{1}_{1}=P_{2}$, $\overline{B^{1}_{0}B^{1}_{1}}\subset\overline{P_{1}P_{2}}$, $\overline{B^{1}_{1}B^{1}_{2}}\subset\overline{P_{2}Q_{2}}$, $\overline{B^{1}_{3}B^{1}_{4}}\subset\overline{Q_{2}Q_{1}}$;* 2. 2.

$\beta_{2}$* есть правильный десятиугольник $B^{2}_{0}B^{2}_{1}\ldots B^{1}_{9}$, т.ч. $B^{2}_{7}=Q_{2}$, $\overline{B^{2}_{0}B^{2}_{1}}\subset\overline{P_{2}P_{3}}$, $\overline{B^{2}_{3}B^{2}_{4}}\subset\overline{P_{3}Q_{3}}$, $\overline{B^{2}_{6}B^{2}_{7}}\subset\overline{Q_{3}Q_{2}}$, $\overline{B^{2}_{7}B^{2}_{8}}\subset\overline{Q_{2}P_{2}}$;* 3. 3.

$\beta_{3}$* есть правильный пятиугольник $B^{3}_{0}B^{3}_{1}\ldots B^{3}_{4}$, т.ч. $B^{3}_{0}=P_{3}$, $B^{4}_{3}=Q_{4}$, $B^{3}_{3}=Q_{5}$, $B^{3}_{1}\in\overline{P_{3}P_{4}}$, $B^{3}_{2}\in\overline{P_{4}Q_{4}}$;* 4. 4.

$\beta_{4}$* есть правильный десятиугольник $B^{4}_{0}B^{4}_{1}\ldots B^{4}_{9}$, т.ч. $B^{4}_{0}=P_{4}$, $B^{4}_{6}=Q_{5}$, $B^{4}_{7}\in\overline{Q_{5}Q_{4}}$, $B^{4}_{9}\in\overline{Q_{4}P_{4}}$.*

Таким образом, $\beta_{j}$ есть правильные многоугольники, вписанные в $\alpha_{j}$, $j=1,2,3,4$; этим многоугольники изображены на рис. 4. Для доказательства достаточно проверить, что при применении преобразования $T^{\prime}$ фигуры как открытые многоугольники переходят сами в себя, а их границы состоят из граничных точек; проверку этих фактов с помощью леммы 23 (и рис. 4) оставляем читателю.

3.3 Самоподобие 1

Рассмотрим угол $\alpha_{5}$.

Определение 14

Определим преобразование $T^{\prime\prime}:\alpha_{5}\rightarrow\alpha_{5}$ следующим образом. Пусть $q\in\alpha_{5}$, и пусть $k=k_{alpha_{5}}(q)$ есть минимальное целое положительное число такое, что $q^{\prime}=T^{\prime k}(q)$ определено, и $q^{\prime}\in\alpha_{5}$. Тогда $T^{\prime\prime}(q)=q^{\prime}$.

Другими словами, $T^{\prime\prime}$ есть преобразование первого возвращения (first return map) относительно $T^{\prime}$ на $\alpha_{5}$.

Оказывается, $T^{\prime}$ для $\operatorname{int}(V^{\prime})$ идентично $T^{\prime\prime}$ для $\alpha_{5}$! Для формального установления этого соответствия, введем преобразование $H:\operatorname{int}(V^{\prime})\rightarrow\alpha_{5}$ как параллельный перенос на вектор $A_{1}Q_{5}$.

Лемма 25

Пусть $p\in\operatorname{int}(V^{\prime})$, $q=H(p)$. Тогда:

• •

$T^{\prime}(p)$* определено, если и только если $T^{\prime\prime}(q)$ определено;*

• •

если $T^{\prime}(p)$ определено, то $H(T^{\prime}(p))=T^{\prime\prime}(q)=T^{\prime\prime}(H(p))$.

Утверждение леммы иллюстрирует рис. 5.

Доказательство. Заметим, что $T^{\prime}$ определено для всего $\alpha_{5}$; обозначим угол $T^{\prime}(\alpha_{5})$ за $\alpha^{\prime}_{5}$. Также заметим, что правильный десятиугольник $\beta_{4}$ равен $\gamma$, а его центр совпадает с $O_{4}$ (ибо $\beta_{4}$ центрально-симметричен $\gamma$ относительно $Q_{4}$), а по лемме 24 точка $Q_{5}$, вершина угла $\alpha_{5}$, совпадает с вершиной $B^{4}_{6}$ многоугольника $\beta_{4}$. Следовательно, по лемме 23 $\alpha^{\prime}_{5}$ есть угол, образованный лучами $A_{0}A_{1}$ и $B^{4}_{1}B^{4}_{2}$. Обозначим за $H^{\prime}$ параллельный перенос вдоль вектора $A_{0}B^{4}_{0}$; тогда для $\operatorname{int}(V^{\prime})$ верно: $H^{\prime}=H\circ T^{\prime}$, а $\alpha^{\prime}_{5}=H^{\prime}(\operatorname{int}(V^{\prime}))$.

Пусть $V^{H}_{j+1}=H(V_{j+1})$, $V^{H^{\prime}}_{j+1}=H^{\prime}(V_{j+1})$ и $\alpha^{H}_{j}=H(\alpha_{j})$, $j=1,2,3,4,5$. Тогда каждое такое $\alpha^{H}_{j}$ есть $\operatorname{int}(V^{H}_{j+1})\cap\alpha_{5}$, a $T^{\prime}(\alpha^{H}_{j})$ — $\operatorname{int}(V^{H^{\prime}}_{j+1})\cap\alpha^{\prime}_{5}$.

Так как $\beta_{4}=H^{\prime}(\operatorname{int}(\gamma))$, то углы $H^{\prime}(V_{2}),\ldots,H^{\prime}(V_{6})$ суть углы, образованные лучами $B^{4}_{2}B^{4}_{1}$, $B^{4}_{3}B^{4}_{2}$, $\ldots$, $B^{4}_{7}B^{4}_{6}$. Более того, по лемме 23 $\forall p\in((H^{\prime}(V_{2})\cup H^{\prime}(V_{3})\cup H^{\prime}(V_{4})\cup H^{\prime}(V_{5}))\cap\operatorname{int}(V^{\prime}))$: $T^{\prime}(p)=R^{\prime}_{5}(p)$, где $R^{\prime}_{5}$ есть поворот на угол $\frac{\pi}{5}$ против часовой стрелки вокруг точки $O_{4}$; в частности, $R^{\prime}_{5}(H^{\prime}(V_{j}))=H^{\prime}(V_{j+1})$, $j=2,3,4,5$. Так как $\alpha_{5}=\operatorname{int}(V^{H}_{6})$, то тогда из всего вышесказанного следует:

• •

$\forall j\in\{1,2,3,4,5\}$: $\forall p\in\alpha^{H}_{j}$: $T^{\prime\prime}(p)$ корректно определено, причем $T^{\prime\prime}(p)=T^{\prime 6-j}$;

• •

$\forall j\in\{1,2,3,4,5\}$: $T^{\prime\prime}(\alpha^{H}_{j})$ есть поворот против часовой стрелки на угол $\frac{(5-j)\pi}{5}$; в частности, $T^{\prime\prime}(\alpha^{H}_{5})$ есть параллельный перенос на вектор $A_{6}A_{1}$;

• •

если же $p\in\alpha_{5}$ лежит на границе одной из $\alpha^{H}_{j}$, $j=1,2,3,4,5$, то $T^{\prime}(p)$ попадет на один из лучей $B^{4}_{3}B^{4}_{2},B^{4}_{4}B^{4}_{3},\ldots,B^{4}_{7}B^{4}_{6}$, которые при дальнейшем применении $T^{\prime}$ попадают на луч $B^{4}_{7}B^{4}_{6}$, на котором $T^{\prime}$ не определено; следовательно, $T^{\prime\prime}(p)$ не определено.

Таким образом, $T^{\prime\prime}$ разделяет $\alpha_{5}$ на те же фигуры, что $T^{\prime}$ разделяет $\operatorname{int}(V^{\prime})$, и применяет к ним те же повороты. Остается лишь показать, что точки $H(O_{j})$, $j=1,2,3,4$, являются неподвижными. Зафиксируем $j\in\{1,2,3,4\}$. Из леммы 23 следует, что $O_{j}$ есть центр правильного многоугольника $\beta_{j}$, вписанного в $\alpha_{j}$; следовательно, существует такое $r_{j}\in\mathbb{R}$, что открытый круг $S_{j}$ с центром в $O_{j}$ и радиусом $r_{j}$ вписан в $\alpha_{j}$. Тогда $H(S_{j})$ вписан в $\alpha^{H}_{j}$; так как $\alpha_{j}$ есть пересечение $\operatorname{int}(V^{\prime})$ и $\operatorname{int}(V_{j+1})$, то $H(S_{j})$ вписан как в угол $\alpha_{5}$, так и в угол $H(V_{j+1})$, а $T^{\prime}(H(S_{j}))$ - в угол $H^{\prime\prime}(V_{j+1})$. Так как $T^{\prime 5-j}(\operatorname{int}(H^{\prime\prime}(V_{j+1})))=\operatorname{int}(H^{\prime\prime}(V_{6}))=\alpha_{5}$, то $T^{\prime\prime}(H(S_{j}))=T^{\prime 6-j}(H(S_{j}))$ есть круг, равный $H(S_{j}))$ и вписанная в $\alpha_{5}$. Следовательно, $H(O_{j})$ и $T^{\prime\prime}(H(O_{j}))$ совпадают как центры равных вписанных в один и тот же угол кругов, QED.

$\scriptstyle\blacksquare$

Лемма 25 устанавливает самоподобие для преобразования $T^{\prime}$ внутри $V^{\prime}$. В процессе доказательства был практически доказан важный технический факт, который мы вынесем в отдельную лемму.

Лемма 26

Пусть $j\in\{1,2,3,4,5\}$, и $p\in\alpha_{j}$. Тогда $H(T^{\prime}(p))=T^{\prime 6-j}(H(p))$. При этом, $H(p)\in\alpha_{5}$, и $\forall j^{\prime}\in\mathbb{Z},0<j^{\prime}<6-j\}$: $T^{\prime j^{\prime}}\in\alpha_{4}$.

Важнейшее свойство самоподобий, похожих на рассматриваемое нами, выражает следующая лемма.

Лемма 27

Пусть $p\in\operatorname{int}(V^{\prime})$, и $q=H(p)$. Тогда $p$ граничная (периодическая, апериодическая), если и только если $q$ граничная (периодическая, апериодическая).

Доказательство. Рассмотрим двусторонние последовательности $tr^{\prime}(p)=\{T^{\prime k}(p)|k\in\mathbb{Z},T^{\prime k}\text{ \T2A\cyro\T2A\cyrp\T2A\cyrr\T2A\cyre\T2A\cyrd\T2A\cyre\T2A\cyrl\T2A\cyre\T2A\cyrn\T2A\cyro}\}$, $tr^{\prime}(q)=\{T^{\prime k}(q)|k\in\mathbb{Z},T^{\prime k}\text{ \T2A\cyro\T2A\cyrp\T2A\cyrr\T2A\cyre\T2A\cyrd\T2A\cyre\T2A\cyrl\T2A\cyre\T2A\cyrn\T2A\cyro}\}$ и $tr^{\prime\prime}(q)=\{T^{\prime\prime k}(q)|k\in\mathbb{Z},T^{\prime\prime k}\text{ \T2A\cyro\T2A\cyrp\T2A\cyrr\T2A\cyre\T2A\cyrd\T2A\cyre\T2A\cyrl\T2A\cyre\T2A\cyrn\T2A\cyro}\}$. Заметим, что $tr^{\prime\prime}(q)$ может быть получена из $tr^{\prime}(q)$ путем удаления всех не лежащих в $\alpha_{5}$ точек.

Из леммы 25 известно, что $T^{\prime}(p)$ определено, если и только если $T^{\prime\prime}(q)$ определено, причем $T^{\prime\prime}(q)=H(T(p))$; следовательно, $tr^{\prime\prime}(q)=H(tr^{\prime}(p))$, и $tr^{\prime\prime}(q)$ бесконечна в две стороны, если и только если $tr^{\prime}(p)$ бесконечна в две стороны. С другой стороны, если $tr^{\prime}(q)$ ограничена с, например, левой стороны, т.е. для некоторого $k\in\mathbb{Z}_{\leq 0}$ $T^{\prime k}(p)$ определено, а $T^{\prime k-1}(p)$ нет, то тогда в $tr^{\prime}(q)$ встретится точка $T^{\prime\prime k}(q)$, причем слева от нее в $tr^{\prime}(q)$ будет не более четырех точек (ибо если это не так, то при последовательном применении $T^{\prime-1}$ к $T^{\prime\prime k}(q)$, к точке не более четырех раз будет применен поворот по часовой стрелке на угол $\frac{\pi}{5}$ вокруг $O_{4}$, после чего точка окажется внутри $T^{\prime}(\alpha_{5})$, и следующая итерация вернет точку в $\alpha_{5}$); аналогичное утверждение верно и для правой стороны. Следовательно, $tr^{\prime}(q)$ бесконечна в две стороны $\Leftrightarrow$ $tr^{\prime\prime}(q)$ бесконечна в две стороны $\Leftrightarrow$ $tr^{\prime}(p)$ бесконечна в две стороны, откуда и следует утверждение леммы.

$\scriptstyle\blacksquare$

3.4 Сведение проблем периодичности к ограниченному случаю

В данном разделе мы покажем, каким образом решить проблемы периодичности и описать периодические траектории для $T^{\prime}$ в углу $V^{\prime}$, если мы сможем сделать это для многоугольника $Z^{\prime}=A_{1}B^{4}_{0}B^{4}_{9}B^{4}_{8}B^{4}_{7}$. Отметим, что $Z^{\prime}=\overline{\alpha_{1}}\cup\overline{\alpha_{2}}\cup\overline{\alpha_{3}}\cup\overline{\alpha^{\prime}_{4}}$, где $\alpha^{\prime}_{4}$ есть открытый четырехугольник $Q_{4}B^{4}_{9}B^{4}_{8}B^{4}_{7}$.

Лемма 28

$T^{\prime}(Z^{\prime})\subset Z^{\prime}$.

Доказательство. Заметим, что $\operatorname{int}(V^{\prime})\backslash\beta_{4}$ разбивается на две не связанные между собой связные фигуры, одной из которых является $\operatorname{int}(Z^{\prime})$. Тогда $T^{\prime}(\alpha_{j})\subset Z^{\prime}$, $j=1,2,3$ в силу того, что $O_{j}\in\alpha_{j}\subset Z^{\prime}$ и $T^{\prime}(O_{j})=O_{j}$. Замечание о том, что $T^{\prime}(\alpha^{\prime}_{4})$ есть содержащийся в $Z^{\prime}$ открытый четырехугольник $B^{3}_{1}B^{4}_{0}B^{4}_{9}B^{4}_{8}$, завершает доказательство леммы. $\scriptstyle\blacksquare$

Более того, так как $T^{\prime}$ инъективно и сохраняет площадь, то верна

Лемма 29

$T^{\prime}(Z^{\prime\prime})\subset Z^{\prime\prime}$, где $Z^{\prime\prime}=\overline{V^{\prime}\backslash(\beta_{4}\cup Z^{\prime})}$.

Итак, докажем, что структура периодических/апериодических точек в $\operatorname{int}(V^{\prime})$ в некотором смысле порождается структурой периодических/апериодических точек в $Z^{\prime}\cup\beta_{4}$.

Лемма 30

Пусть $q\in V^{\prime}$ - периодическая (апериодическая) точка. Тогда существует периодическая (апериодическая) точка $p\in Z^{\prime}$, число $m\in\mathbb{Z}_{\geq 0}$ и последовательность преобразований $f_{1},f_{2},\ldots,f_{m}$, т.ч. $q=f_{m}(f_{m-1}(\ldots f_{2}(f_{1}(p))\ldots))$, а каждое из преобразований $f_{j}$, $j=1,2,\ldots,m$ является либо $T^{\prime}$, либо $H$.

Доказательство. Из определения $T^{\prime}$, $H$ и леммы 27 следует, что множество периодических (апериодических) точек в $V^{\prime}$ инвариантно относительно $T^{\prime}$ и $H$; следовательно, достаточно получить из $q$ с помощью преобразований $T^{\prime-1}$, $H^{-1}$ точку, лежащую в $Z^{\prime}$.

Пусть $S$ есть бесконечная полоса, ограниченная отрезком $A_{1}B^{4}_{1}$ и лучами $A_{1}A_{2}$, $B^{4}_{1}B^{4}_{2}$. Заметим, что с точностью до граничных точек луча $A_{0}A_{1}$, $V^{\prime}\backslash S=\alpha^{\prime}_{5}=T^{\prime}(\alpha_{5})$, причем для $\alpha^{\prime}_{5}$: $T^{\prime-1}(r)$ есть параллельный перенос на вектор $\vec{A^{1}A^{6}}$; будем применять $T^{\prime-1}$ к точке $q$ до тех пор, пока $q$ не попадет в $S$. После этого, применим к $q$ $H^{\prime-1}$ максимальное количество раз так, чтобы точка не вышла за пределы $V^{\prime}$.

По построению, теперь $q$ лежит либо в $Z^{\prime}\cup\beta_{4}$, либо в фигуре, центрально симметричной $Z^{\prime}$ относительно $O_{4}$. В первом случае, лемма доказана; во втором же для завершения доказательства достаточно лишь применить к $q$ преобразование $T^{\prime-1}$ не более трех раз так, чтобы $q$ попала в $\alpha^{\prime}_{5}$, после чего применить еще раз $T^{-1}$; несложно показать, что в этом случае точка окажется внутри $H(Z^{\prime})$, и применение $H^{-1}$ поместит точку внутрь $Z^{\prime}$.

$\scriptstyle\blacksquare$

Усилим доказанную лемму.

Лемма 31

Пусть $q\in V^{\prime}$ - периодическая (апериодическая) точка. Тогда существует периодическая (апериодическая) точка $p\in Z^{\prime}$ и числа $k,l\in\mathbb{Z}_{\geq 0}$, т.ч. $q=T^{\prime l}(H^{k}(p))$.

Доказательство. Из леммы 26 следует, что для любой неграничной точки $q$ верно: $H(T^{\prime}(q))=T^{\prime j}(H(q))$ для некоторого $j=j(q),j\in\mathbb{Z}_{+}$. Для завершения доказательства достаточно применить такое равенство некоторое количество раз к равенству, полученному в лемме 31. $\scriptstyle\blacksquare$

С помощью леммы 31 можно свести ограничить область рассмотрения проблем периодичности с $V^{\prime}$ до $Z^{\prime}$, что мы и сделаем.

Лемма 32

Апериодическая точка $q\in V^{\prime}$ существует, если и только если существует апериодическая точка $p\in Z^{\prime}$. 2. 2.

Периодические точки образуют внутри $V^{\prime}$ множество полной меры, если и только если периодические точки образуют множество полной меры внутри $Z^{\prime}$.

Доказательство. В свете леммы 31, неочевидным остается лишь утверждение о том, что если периодические точки образуют множество полной меры в $Z^{\prime}$, то такие точки образуют множество полной меры и в $V^{\prime}$.

Помимо периодических точек, в $V^{\prime}$ существуют лишь точки граничные и апериодические. Так как множество граничных точек внутри $Z^{\prime}$, $V^{\prime}$ и в целом в $\mathbb{R}^{2}\backslash\gamma$ имеет меру нуль по лемме 3), то остается лишь доказать, что если апериодические точки внутри $Z^{\prime}$ имеют меру нуль, то такой мерой обладают и апериодические точки внутри всего угла $V^{\prime}$.

По лемме 31, каждую апериодическую точку $q\in V^{\prime}$ можно представить в виде $q=T^{\prime l}(H^{k}(p))$, $p=p(q)$ - апериодическая точка, $k=k(q),l=l(q),k,l\in\mathbb{Z}_{\geq 0}$. Заметим, что можно рассмотреть процесс вычисления $(H^{k}\circ T^{\prime l})(p)$ как последовательное применение к точке $p$ $k+l$ движений плоскости (всей), каждое из которых является либо параллельным переносом на один из двух векторов ($\vec{P_{1}Q_{5}}$ либо $\vec{A_{6}A_{1}}$), либо одним из поворотов против часовой стрелки на угол $\frac{(5-j)\pi}{5}$ вокруг точки $O_{j}$, $j=1,2,3,4$ (см. определение $H$ и лемму 23). Т.к. композиция движений есть движение, то мы можем сопоставить каждой апериодической точке $q$ движение из счетного множества $\Phi$ движений вышеописанного типа.

Пусть $V^{\prime}_{\infty}$, $Z^{\prime}_{\infty}$ суть множества апериодических точек внутри $V^{\prime}$ и $Z^{\prime}$ соответственно. Тогда по построению и 31: $V^{\prime}_{\infty}\subset\bigcup\limits_{f\in\Phi}f(Z^{\prime}_{\infty})$. Так как $f$ есть изометрия, а $Z^{\prime}_{\infty}$ имеет меру нуль, то и $f(Z^{\prime}_{\infty})$ имеет меру нуль; следовательно, $V^{\prime}_{\infty}$ есть подмножество счетного объединения множеств нулевой меры и, как следствие, само обладает мерой нуль, QED. $\scriptstyle\blacksquare$

Отметим, что в терминах доказательства предыдущей леммы, если бы мера $Z^{\prime}_{\infty}$ была положительной, то $V^{\prime}_{\infty}$ была бы бесконечной, ибо $V^{\prime}_{\infty}$ содержит в себе как подмножество бесконечное число непересекающихся множеств $\bigcup\limits_{k\in\mathbb{Z}_{\geq 0}}H^{k}(Z^{\prime}_{\infty})$.

3.5 Сведение нахождения периодов к ограниченному случаю: введение подстановки

Свести нахождение множества периодов для $V^{\prime}$ к нахождению множества периодов для $Z^{\prime}\cup\beta_{4}$ нам поможет символическая динамика.

Введем несколько определений, базируясь на [13]. Пусть $A,B$ — конечные множества, называемые алфавитами.

Определение 15

Конечным словом длины $l\in\mathbb{Z}_{\geq 0}$ над алфавитом $A$ назовем последовательность $u_{0}u_{1}\ldots u_{l-1}$, т.ч. $u_{i}\in A$, $i=0,1,\ldots,l-1$. Множество всех конечных слов над $A$ обозначим как $A^{*}$.

Определение 16

Бесконечным в две стороны словом над алфавитом $A$ назовем последовательность $(u_{i})_{i\in\mathbb{Z}}=\ldots u_{-2}u_{-1}u_{0}u_{1}u_{2}\ldots$, т.ч. $\forall i\in\mathbb{Z}:u_{i}\in A$. Множество всех бесконечных в две стороны слов над $A$ обозначим как $A^{\mathbb{Z}}$.

Аналогичным образом можно ввести и бесконечные в одну сторону слова; однако для наших целей ограничимся бесконечными в две стороны словами. Отметим, что такими словами являются коды периодических и апериодических точек; а именно:

• •

если $p\in\mathbb{R}^{2}\backslash\gamma$ — неграничная точка, то $\rho(p)\in\{0,1,\ldots,9\}^{\mathbb{Z}}$;

• •

если при этом $p\in V^{\prime}$, то $\rho^{\prime}(p)\in\{0,1,\ldots,4\}^{\mathbb{Z}}$.

Аналогичным разделу 2 образом для конечного или бесконечного слова $U$ будем употреблять обозначения $U[i]$ и/или $U[l,r]$, если целые индексы $i,l,r$ не выводят нас за пределы слова $U$ и $l\leq r$.

Определение 17

Пусть $U,V\in A^{*}$, $U=u_{0}u_{1}\ldots u_{l-1}$, $V=v_{0}v_{1}\ldots,v_{m-1}$. Тогда конкатенацией слов $U,V$ назовем слово $UV=u_{0}u_{1}\ldots u_{l-1}v_{0}v_{1}\ldots v_{m-1}$.

Определение 18

Пусть $\forall i\in\mathbb{Z}:U_{i}\in A^{*}\backslash\{\epsilon\}$ — непустое слово длины $l_{i}$. Тогда конкатенацией слов $\ldots,U_{-2},U_{-1},U_{0},U_{1},U_{2},\ldots$ назовем бесконечное в две стороны слово $U=\ldots U_{-2}U_{-1}U_{0}U_{1}U_{2}\ldots$, устроенное следующим образом. Пусть $m_{i}$, $i\in\mathbb{Z}$ — такая бесконечная в две стороны последовательность целых чисел, что:

• •

$m_{0}=0$;

• •

$\forall i\in\mathbb{Z}_{+}$: $m_{i}=m_{i-1}+l_{i-1}$;

• •

$\forall i\in\mathbb{Z}_{-}$: $m_{i}=m_{i+1}-l_{i}$.

Тогда требуемая конкатенация есть такое слово $U\in A^{\mathbb{Z}}$, что $\forall i\in\mathbb{Z}$: $U[m_{i},m_{i+1}-1]=U_{i}$.

Введем теперь понятие подстановки, играющее ключевую роль в нашем исследовании.

Определение 19

Пусть $\sigma:A\rightarrow B^{*}\backslash\{\epsilon\}$ — произвольная функция, где $\epsilon$ — пустое слово. Расширим ее до $\sigma:A^{*}\cup A^{\mathbb{Z}}\rightarrow B^{*}\cup B^{\mathbb{Z}}$ c помощью следующих правил:

• •

$\sigma(\epsilon)=\epsilon$;

• •

если $W=u_{0}u_{1}\ldots u_{l-1}\in A^{*}$, то $\sigma(W)=\sigma(u_{0})\sigma(u_{1})\ldots\sigma(u_{l-1})\in B^{*}$;

• •

если $W=\ldots u_{-2}u_{-1}u_{0}u_{1}u_{2}\ldots\in A^{\mathbb{Z}}$, то $\sigma(W)=\ldots\sigma(u_{-2})\sigma(u_{-1})\sigma(u_{0})\sigma(u_{1})\sigma(u_{2})\ldots$.

Таким образом устроенную функцию $\sigma$ будем называть подстановкой.

Для удобства будем иногда говорить, что $\sigma$ определена на символах алфавита $A$, т.е. $A\rightarrow B^{*}\backslash\{\epsilon\}$, подразумевая ее определение на $A^{*}\cup A^{\mathbb{Z}}$.

Вернемся к индуцированному внешнему биллиарду.

Определение 20

Пусть $p\in\mathbb{R}^{2}\backslash\gamma(V^{\prime})$ — периодическая точка с периодом $l(l^{\prime})$ относительно $T(T^{\prime})$. Тогда кодом периода $\rho_{per}(p)(\rho^{\prime}_{per}(p))$ назовем слово $\rho(p)[0,l-1](\rho^{\prime}(p)[0,l^{\prime}-1])$.

Пусть $\psi$ есть подстановка, определенная над алфавитом $\{1,2,3,4,5\}$ таким образом, что:

• •

$\psi(1)=54444$;

• •

$\psi(2)=5444$;

• •

$\psi(3)=544$;

• •

$\psi(4)=54$;

• •

$\psi(5)=5$.

Тогда из структуры преобразования $T^{\prime\prime}$ первого возвращения на $\alpha_{5}$ (см. лемму 25) напрямую следует

Лемма 33

Пусть $p\in V^{\prime}$ - периодическая или апериодическая точка. Тогда:

• •

$\rho^{\prime}(H(p))=\psi(\rho^{\prime}(p))$;

• •

$\rho^{\prime}_{per}(H(p))=\psi(\rho^{\prime}_{per}(p))$.

Лемма 33, вкупе с леммой 31, позволяет найти все возможные коды периодов периодических точек множества $V^{\prime}$, если таковые коды найдены для множества $T^{\prime}$ с помощью следующей, очевидно следующей из указанных двух, леммы.

Лемма 34

Пусть $P_{Z^{\prime}\cup\beta_{4}}(P_{V^{\prime}})=\{\rho^{\prime}_{per}(p)\ |\ p\in Z^{\prime}\cup\beta_{4}(V^{\prime}),\ p-\text{ \T2A\cyrp\T2A\cyre\T2A\cyrr\T2A\cyri\T2A\cyro\T2A\cyrd\T2A\cyri\T2A\cyrch\T2A\cyre\T2A\cyrs\T2A\cyrk\T2A\cyra\T2A\cyrya \T2A\cyrk\T2A\cyro\T2A\cyrm\T2A\cyrp\T2A\cyro\T2A\cyrn\T2A\cyre\T2A\cyrn\T2A\cyrt\T2A\cyra}\}$. Тогда $P_{V^{\prime}}=\{S^{l}(\sigma^{k}(W))\ |\ W\in P_{Z^{\prime}\cup\beta_{4}},k,l\in\mathbb{Z}_{\geq 0}\}$, где $S$ есть циклический сдвиг слова (т.е. $S(u_{0}u_{1}\ldots u_{m-1})=u_{1}u_{2}\ldots u_{m-1}u_{0}$ для произвольного слова $u_{0}u_{1}\ldots u_{m-1}$ над произвольным конечным алфавитом).

Для удобства поиска самих периодов, введем еще два понятия, используемые в [13].

Определение 21

Пусть $A=\{a_{1},a_{2},\ldots,a_{d}\}$ - конечный алфавит размера $d$. Тогда каноническим гомоморфизмом, или гомоморфизмом абелизации, назовем такое преобразование $c:A^{*}\rightarrow\mathbb{Z}^{d}$, что для произвольного слова $W\in A^{*}$: $c(W)$ есть столбец, $i$-я координата которого есть количество раз, которое символ $a_{i}$ встречается в $W$, $i=1,2,\ldots,d$.

Отметим, что если $p\in V^{\prime}(\mathbb{R}^{2}\backslash\gamma)$ есть периодическая точка с кодом периода $w^{\prime}=\rho^{\prime}_{per}(p)(w=\rho_{per}(p))$, то период точки $p$ относительно $T^{\prime}(T)$ есть $(1,1,1,1,1)*c(w^{\prime})$ ($(1,1,1,1,1,1,1,1,1,1)*c(w)$).

Определение 22

Пусть $A=\{a_{1},a_{2},\ldots,a_{d}\}$, $B=\{b_{1},b_{2},\ldots,b_{m}\}$ — конечные алфавиты, а $\sigma:A\rightarrow B\backslash\{\epsilon\}$ — произвольная подстановка. Тогда матрицей подстановки $M_{\sigma}$ назовем матрицу $c(\sigma(a_{1})),c(\sigma(a_{2})),\\ \ldots,c(\sigma(a_{d})))$. Другими словами, $M_{\sigma}=||c_{ij}||_{m\times d}$, где $c_{ij}$ есть количество раз, которое символ $b_{i}$ встречается в слове $\sigma(a_{j})$.

Например, для вышеопределенной подстановки $\psi$:

$M_{\psi}=\begin{pmatrix}0&0&0&0&0\\ 0&0&0&0&0\\ 0&0&0&0&0\\ 4&3&2&1&0\\ 1&1&1&1&1\end{pmatrix}.$

В терминах гомоморфизма абелизации и матрицы инцидентности, леммы 19 и 34 могут быть переформулированы следующим образом.

Лемма 35

Пусть $p\in V^{\prime}$ - периодическая точка или компонента. Пусть $c(p)=c(\rho_{per}(p))$, а $c^{\prime}(p)=c(\rho^{\prime}_{per}(p))$. Тогда $per(p)=\frac{10*((1,1,1,1,1)*c^{\prime}(p))}{\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,(1,2,3,4,5))*c^{\prime}(p)}$.

Лемма 36

Пусть $C_{Z^{\prime}\cup\beta_{4}}(C_{V^{\prime}})=\{c(\rho^{\prime}_{per}(p))\ |\ p\in Z^{\prime}(V^{\prime}),p-\text{ \T2A\cyrp\T2A\cyre\T2A\cyrr\T2A\cyri\T2A\cyro\T2A\cyrd\T2A\cyri\T2A\cyrch\T2A\cyre\T2A\cyrs\T2A\cyrk\T2A\cyra\T2A\cyrya \T2A\cyrk\T2A\cyro\T2A\cyrm\T2A\cyrp\T2A\cyro\T2A\cyrn\T2A\cyre\T2A\cyrn\T2A\cyrt\T2A\cyra}\}$. Тогда $C_{V^{\prime}}=\{M_{\psi}^{k}(w)\leavevmode\nobreak\ |\leavevmode\nobreak\ w\in C_{Z^{\prime}\cup\beta_{4}},k\in\mathbb{Z}_{\geq 0}\}$.

3.6 $Z^{\prime}\cup\beta_{4}$: описание структуры

Леммы 32, 35 вкупе с фактом, что $\beta_{4}$ есть периодическая компонента с кодом периода $\rho^{\prime}_{per}(\beta_{4})=4$, позволяет нам сосредоточить все внимание на $Z^{\prime}$.

Начнем со следующего замечания. Пусть $Z^{\prime}_{1}$ есть треугольник $P_{1}P_{3}Q_{3}$, а $Z^{\prime}_{2}$ есть семиугольник $B^{3}_{3}B^{3}_{2}B^{3}_{1}B^{4}_{0}B^{4}_{9}B^{4}_{8}B^{4}_{7}$, лежащий внутри $Z^{\prime}$ <<между>> $\beta_{3}$ и $\beta_{4}$.

Лемма 37

$Z^{\prime}$* можно разбить на многоугольники-фигуры $Z^{\prime}_{1}=P_{1}P_{3}Q_{3}$, $\beta_{3}$ и $Z^{\prime}_{2}=B^{3}_{3}B^{3}_{2}B^{3}_{1}B^{4}_{0}B^{4}_{9}B^{4}_{8}B^{4}_{7}$, каждая из которых $T^{\prime}$-инвариантна.*

Доказательство. Утверждение про разбиение очевидно из рис. 4. Чтобы доказать инвариантность, достаточно заметить, что:

• •

$Z^{\prime}_{1}$ и $Z^{\prime}_{2}$ не имеют общих точек (даже на границе);

• •

$T^{\prime}$ делит $Z^{\prime}_{1}$ на две связные фигуры $\overline{\alpha_{1}}$ и $\overline{\alpha_{2}}$, для каждой из которых $T^{\prime}$ есть поворот вокруг содержащейся в фигуре неподвижной точки (см. лемму 23);

• •

$T^{\prime}$ делит $Z^{\prime}_{2}$ на две связные фигуры, являющиеся $\overline{\alpha^{\prime}_{4}}$ и треугольником $B^{3}_{1}B^{4}_{0}B^{3}_{2}$, причем $T^{\prime}(\alpha^{\prime}_{4})$ есть открытый четырехугольник $B^{3}_{1}B^{4}_{0}B^{4}_{9}B^{4}_{8}\subset Z^{\prime}_{2}$, а $T^{\prime}(\operatorname{int}(B^{3}_{1}B^{4}_{0}B^{3}_{2}))$ есть открытый треугольник $B^{3}_{2}B^{4}_{7}B^{3}_{3}\subset Z^{\prime}_{2}$ (по той же лемме 23)).

$\scriptstyle\blacksquare$

$\beta_{3}$ есть периодическая компонента с кодом периода $\rho^{\prime}_{per}(\beta_{3})=3$; оставшиеся периодические и апериодические точки, компоненты и орбиты можно искать независимо в $Z^{\prime}_{1}$ и $Z^{\prime}_{2}$.

Рассмотрим преобразование $T^{\prime}$ на фигуре $Z^{\prime}_{2}$. Пусть $X^{\prime}_{2}$ есть открытый четырехугольник $B^{3}_{3}B^{4}_{9}B^{4}_{8}B^{4}_{7}$. Пусть $T^{\prime}_{2}:X^{\prime}_{2}\rightarrow X^{\prime}_{2}$ есть преобразование первого возвращения относительно $T^{\prime}$.

Из рис. 6 очевидно следует доказательство следующей леммы.

Лемма 38

$T^{\prime}_{2}$* делит $X^{\prime}_{2}$ на два открытых треугольника $X^{\prime}_{2a}$ и $X^{\prime}_{2b}$ (точный смысл обозначений будет ясен позже) лучом $B^{4}_{9}B^{4}_{8}$, причем $X^{\prime}_{2a}$ имеет большую площадь; для точек луча $B^{4}_{9}B^{4}_{8}$ внутри $X^{\prime}_{2}$ $T^{\prime}_{2}$ не определено;* 2. 2.

$T^{\prime}_{2}(X^{\prime}_{2a})$* есть поворот на угол $\frac{3\pi}{5}$ против часовой стрелки вокруг точки $O^{\prime}_{2u}$ пересечения биссектрис углов четырехугольника $X^{\prime}_{2}$, причем $T^{\prime}_{2}(X^{\prime}_{2a})=T^{\prime 2}(X^{\prime}_{2a})$;* 3. 3.

$T^{\prime}_{2}(X^{\prime}_{2b})$* есть поворот на угол $\frac{\pi}{5}$ против часовой стрелки вокруг точки $O_{4}$, причем $T^{\prime}_{2}(X^{\prime}_{2b})=T^{\prime}(X^{\prime}_{2b})$;* 4. 4.

$\overline{Z^{\prime}_{2}}=\overline{X^{\prime}_{2a}}\cup\overline{T^{\prime}(X^{\prime}_{2a})}\cup\overline{X^{\prime}_{2b}}$, причем границы всех упомянутых многоугольников состоят из граничных точек.

Рассмотрим теперь $Z^{\prime}_{1}$, а внутри него - открытый четырехугольник $X^{\prime}_{1}$, равный $B^{1}_{1}B^{2}_{0}B^{2}_{9}B^{2}_{8}$. Пусть $T^{\prime}_{1}:X^{\prime}_{1}\rightarrow X^{\prime}_{1}$ - преобразование первого возвращения относительно $T^{\prime}$. Из все того же рис. 6 очевидно следует доказательство следующей, аналогичной предыдущей, леммы.

Лемма 39

$T^{\prime}_{1}$* делит $X^{\prime}_{1}$ на два открытых треугольника $X^{\prime}_{1a}$ и $X^{\prime}_{1b}$ лучом $B^{2}_{8}B^{2}_{9}$, причем $X^{\prime}_{1a}$ имеет большую площадь; для точек луча $B^{2}_{8}B^{2}_{9}$ внутри $X^{\prime}_{1}$ $T^{\prime}_{1}$ не определено;* 2. 2.

$T^{\prime}_{1}(X^{\prime}_{1a})$* есть поворот на угол $\frac{3\pi}{5}$ по часовой стрелке вокруг точки $O^{\prime}_{1u}$ пересечения биссектрис углов четырехугольника $X^{\prime}_{1}$, причем $T^{\prime}_{1}(X^{\prime}_{1a})=T^{\prime 5}(X^{\prime}_{1a})$;* 3. 3.

$T^{\prime}_{1}(X^{\prime}_{1b})$* есть поворот на угол $\frac{\pi}{5}$ по часовой стрелке вокруг точки $O_{2}$, причем $T^{\prime}_{1}(X^{\prime}_{1b})=T^{\prime 3}(X^{\prime}_{2b})$;* 4. 4.

$\overline{Z^{\prime}_{1}}=\bigcup\limits_{j=0}^{4}\overline{T^{\prime j}(X^{\prime}_{1a})}\cup\bigcup\limits_{j=0}^{2}\overline{T^{\prime}(X^{\prime}_{2b})}\cup\beta_{1}\cup\beta_{2}$, причем границы всех упомянутых многоугольников состоят из граничных точек.

Таким образом, любая периодическая или апериодическая траектория внутри $Z^{\prime}_{1}\backslash(\beta_{1}\cup\beta_{2})$ или $Z^{\prime}_{2}$ обязательно проходит через $X^{\prime}_{1}$ или $X^{\prime}_{2}$, причем на этой траектории не может существовать больше четырех идущих подряд точек, не лежащих внутри $X^{\prime}_{1}$ или $X^{\prime}_{2}$. Отсюда и из того факта, что $\beta_{1},\beta_{2}$ суть периодические компоненты, очевидно следует

Лемма 40

Пусть $p\in X^{\prime}_{j}$, $j=1,2$. Тогда $p$ граничная (периодическая, апериодическая) относительно $T^{\prime}$, если и только если $p$ граничная (периодическая, апериодическая) относительно $T^{\prime}_{j}$; 2. 2.

Апериодическая точка внутри $Z^{\prime}$ существует, если и только если такая точка существует внутри $X^{\prime}_{1}$ или $X^{\prime}_{2}$; 3. 3.

Периодические точки образуют в $Z^{\prime}$ множество полной меры, если и только если эти точки образуют множество полной меры в $X^{\prime}_{1}$ и $X^{\prime}_{2}$.

3.7 Преобразования первого возвращения и динамическая система $(X,f)$

Согласно лемме 40, изучение проблем периодичности сведено к преобразованиям $T^{\prime}_{1}$ и $T^{\prime}_{2}$ на фигурах $X^{\prime}_{1}$ и $X^{\prime}_{2}$. Заметим, что преобразования $T^{\prime}_{1}$ и $T^{\prime}_{2}$ <<одинаковы>> с точностью до симметрии, что дает возможность изучить их одновременно. Для этого рассмотрим произвольный открытый четырехугольник $X=ABCD\subset\mathbb{R}^{2}$, вершины которого перенумерованы против часовой стрелки, подобный $X^{\prime}_{2}=B^{3}_{3}B^{4}_{9}B^{4}_{8}B^{4}_{7}$ и $X^{\prime}_{1}$. Введем также такие аффинные преобразования плоскости $\Delta_{1},\Delta_{2}$, что $\Delta_{1}(X)=X^{\prime}_{1}$, $\Delta_{2}(X)=X^{\prime}_{2}$, причем:

• •

$\Delta_{1}(A)=B^{1}_{1}$, $\Delta_{1}(B)=B^{2}_{8}$, $\Delta_{1}(C)=B^{2}_{9}$, $\Delta_{1}(D)=B^{2}_{0}$;

• •

$\Delta_{2}(A)=B^{3}_{3}$, $\Delta_{2}(B)=B^{4}_{9}$, $\Delta_{2}(C)=B^{4}_{8}$, $\Delta_{2}(D)=B^{4}_{7}$.

Отметим, что $\Delta_{1}$ меняет ориентацию, а $\Delta_{2}$ - нет.

Пусть теперь $E$ есть пересечение прямых $BC$ и $AD$, а $F$ — пересечение прямых $AB$ и $CD$. Введем кусочно-аффинное (а точнее, <<кусочно-вращающее>>) преобразование $f:X\rightarrow X$, т.ч.:

• •

если $p\in\operatorname{int}(ABE)$, то $f(p)$ есть поворот плоскости, переводящий треугольник $ABE$ в треугольник $FDA$;

• •

если $p\in\operatorname{int}(CED)$, то $f(p)$ есть поворот плоскости, переводящий треугольник $CED$ в треугольник $BFC$;

• •

если $p\in\partial(ABE)\cup\partial(CED)$, то $f(p)$ не определено.

Фигура $X$ и преобразование $f$ изображены на рис. 7.

Очевидным образом вводятся также понятия граничности, периодичности и апериодичности и периодической компоненты внутри $X$ относительно $f$. Более того, для неграничной точки $p\in X$ введем также код $\rho_{X}(p)=\ldots w_{-2}w_{-1}w_{0}w_{1}w_{2}\ldots$, т.ч. $\forall j\in\mathbb{Z}$, $w_{j}\in\{a,b\}$, причем

• •

$a$, если $f^{j}\in\operatorname{int}(ABE)$;

• •

$b$, если $f^{j}\in\operatorname{int}(CED)$.

Здесь $\{a,b\}$ есть двухбуквенный алфавит.

Из структуры $X,f,X^{\prime}_{1},T^{\prime}_{1},X^{\prime}_{2},T^{\prime}_{2}$ и лемм 39, 38 следует лемма, иллюстрирующая окончательное сведение задачи к фигуре Х.

Лемма 41

Пусть $p\in X$, $q_{1}=\Delta_{1}(p)$, $q_{2}=\Delta_{2}(p)$. Тогда:

• •

$p$* граничная (периодическая, апериодическая) относительно $f$, если и только если $q_{j}$, $j=1,2$, граничные (периодические, апериодические) относительно $T^{\prime}$;*

• •

Для каждой из проблем периодичности, ответ для $X^{\prime}_{1}$ и $X^{\prime}_{2}$ относительно $T^{\prime}$ положительный, если и только если ответ для $X$ относительно $f$ положительный;

• •

если $p$ периодическая или апериодическая, то:

• –

$\rho^{\prime}(q_{1})=\phi_{1}(\rho_{X}(p))$, где $\phi_{1}:\{a,b\}\rightarrow\{1,2,3,4,5\}^{*}$ - подстановка, т.ч. $\phi_{1}(a)=22211$, $\phi_{1}(b)=222$;

• –

$\rho^{\prime}(q_{2})=\phi_{2}(\rho_{X}(p))$, где $\phi_{2}:\{a,b\}\rightarrow\{1,2,3,4,5\}^{*}$ - подстановка, т.ч. $\phi_{2}(a)=43$, $\phi_{2}(b)=4$.

• •

если $p$ периодическая, то $\rho^{\prime}_{per}(q_{j})=\phi_{j}(\rho_{Xper}(p))$, $j=1,2$;

• •

пусть $C_{X}=\{c(\rho_{Xper}(p))|p\subset X,p\text{ - \T2A\cyrp\T2A\cyre\T2A\cyrr\T2A\cyri\T2A\cyro\T2A\cyrd\T2A\cyri\T2A\cyrch\T2A\cyre\T2A\cyrs\T2A\cyrk\T2A\cyra\T2A\cyrya \T2A\cyrk\T2A\cyro\T2A\cyrm\T2A\cyrp\T2A\cyro\T2A\cyrn\T2A\cyre\T2A\cyrn\T2A\cyrt\T2A\cyra}\}$. Тогда $C_{Z^{\prime}\cup\beta_{4}}=\{M_{\phi_{j}}(w)|w\in C_{X},j=1,2\}\cup\{\begin{pmatrix}1&0&0&0&0\end{pmatrix}^{T},\begin{pmatrix}0&1&0&0&0\end{pmatrix}^{T},\\ \begin{pmatrix}0&0&1&0&0\end{pmatrix}^{T},\begin{pmatrix}0&0&0&1&0\end{pmatrix}^{T}\}$.

3.8 Фигура X: базовые периодические компоненты

В следующих нескольких разделах будут исследоваться введенные в предыдущем разделе фигура $X$ и преобразование $f$ на ней. Динамическая система $(X,f)$ возникла в работе С.Табачникова [3], ибо в случае внешнего биллиарда вне правильного пятиугольника динамическая система, аналогичная $(Z^{\prime},T^{\prime})$ для случая десятиугольника, изоморфна $(X,f)$; как следствие, $(X,f)$ была тщательно изучена. Тем не менее, для полноты картины мы проведем исследование для системы $(X,f)$ <<с нуля>>.

Пусть $O_{a}$ есть точка пересечения биссектрис углов $ABE$ и $FDA$. В силу симметрии очевидно, что $O$ лежит также и на отрезке $AC$, также являющемся частью биссектрисс углов $BAD$ и $ECF$. Отсюда следует, что существует открытый десятиугольник $\omega_{a}$ с центром в $O_{a}$, вписанный в четырехугольник $AFCE$. Более того, так как угол $FCE$ по построению равен $\frac{3\pi}{5}$, углу правильного десятиугольника, то одна из вершин $\omega_{a}$ совпадает с вершиной этого угла, т.е. точкой $C$. Обозначим вершины $\omega_{a}$ $W_{0},W_{1},\ldots,W_{9}$, нумеруя вершины против часовой стрелки таким образом, что $W_{3}=C$. Тогда точки $W_{2}$, $W_{4}$ лежат соответственно на отрезках $FC$ и $CE$, а отрезки $W_{6}W_{7}$ и $W_{9}W_{0}$ - на отрезках $DA$ и $AB$.

Важность десятиугольника $\omega_{a}$ иллюстрирует следующая лемма.

Лемма 42

$f(O_{a})=O_{a}$; 2. 2.

$f(\omega_{a})=\omega_{a}$; 3. 3.

$\partial\omega_{a}$* состоит из граничных точек;* 4. 4.

$\omega_{a}$* есть периодическая компонента относительно $f$ с кодом периода $\rho_{Xper}(\omega_{a})=a$.*

Доказательство. Из определения $f$ следует, что $f$ переводит биссектрису угла $ABE$ в биссектрису угла $FDA$, а точку $O_{a}$ - в точку $f(O_{a})$, лежащую на биссектрисе угла $FDA$, причем $|AO_{a}|=|Cf(O_{a})|$; из симметрии $X$ и определения $O_{a}$ следует, что $O_{a}=f(O_{a})$, что доказывает п.1.

Так как $O_{a}=f(O_{a})$, то для треугольника $ABE$ $f$ есть поворот на угол $\frac{3\pi}{5}$. Тогда п.2 леммы верен уже потому, что $\omega_{a}$ есть правильный десятиугольник с центром в $O_{a}$, целиком лежащий в треугольника $ABE$. Более того, при таком повороте стороны $\omega_{a}$ переходят друг в друга, перескакивая против часовой стрелки через две стороны на третью. Так как числа 3 и 10 взаимно просты, то при последовательном применении поворота каждая из сторон $\omega_{a}$ побывает каждой. Так как одна из сторон $\omega_{a}$ лежит на отрезке $CF$, для которой $f$ не определено, то все стороны $\omega_{a}$ состоят из граничных точек, и п.3 доказан. П.4 следует напрямую из пп.2,3. $\scriptstyle\blacksquare$

Так как $T(\operatorname{int}(CED))\subset\operatorname{int}(ABE)$, то апериодических компонент с кодом периода $b$ для $(X,f)$ нет. Однако рассмотрим точку $O_{ab}$, являющуюся точкой пересечения биссектрис треугольника $CED$. Пусть $G$ есть точка пересечения отрезка $CE$ и луча $W_{6}W_{5}$, а $H$ = точка пересечения лучей $W_{0}W_{1}$ и отрезка $FC$. В силу симметрии относительно биссектрисы $DO_{a}$ угла $CDE$, получаем, что $O_{ab}$ лежит также и на биссектрисе угла $GB_{6}D$.

По определению, $f(\operatorname{int}(CED))=\operatorname{int}(BFC)$; очевидно, что $O_{ba}$ перейдет в точку $O_{ab}$ пересечения биссектрис треугольников $BW_{0}H$ и $BFC$. С другой стороны, $f(\operatorname{int}(BFC))=\operatorname{int}(DGW_{6})$, причем точкой пересечения биссектрис треугольника $DGW_{6}$ является $O_{ba}$. Следовательно, $f^{2}(O_{ba})=O_{ba}$.

Более того, так как $CED$ есть равнобедренный треугольник с углом $\frac{3\pi}{5}$ при вершине $E$, то существует открытый правильный пятиугольник $\omega_{ba}$ с центром в $O_{ba}$, вписанный в треугольник $CED$. Так как $f^{2}(CED)$ есть поворот на угол $\frac{4\pi}{5}$ вокруг точки $O_{ba}$, то $f^{2}(\omega_{ba})=\omega_{ba}$, а стороны $\omega_{ba}$ при последовательном применении $f^{2}$ <<перескакивают>> через одну и рано или поздно попадут на отрезок $CD$ либо $DE$. Аналогичными свойствами обладает и пятиугольник $\omega_{ab}=f(\omega_{ba})$.

Подведем итог предыдущих абзацев следующей, вытекающей из вышесказанного, леммой.

Лемма 43

$f(O_{ba})=O_{ab}$, $f(O_{ab})=O_{ba}$; 2. 2.

$f(\omega_{ba})=\omega_{ab}$, $f(\omega_{ab})=\omega_{ba}$; 3. 3.

$\omega_{ba}(\omega_{ab})$* есть периодическая компонента относительно $f$ с кодом периода $ba$ ($ab$).*

3.9 Фигура Х: самоподобие 2

Пусть $\Gamma:\mathbb{R}^{2}\rightarrow\mathbb{R}^{2}$ - такое аффинное преобразование, что $\Gamma(A)=A$, $\Gamma(B)=W_{7}$, $\Gamma(C)=W_{8}$, $\Gamma(D)=W_{9}$; другими словами, $\Gamma$ есть композиция сжатия в $\frac{|AB|}{AW_{9}}$ раз с центром в точке $A$ и осевой симметрии относительно биссектрисы $AC$ угла $BAD$. Пусть $X_{\Gamma}=\Gamma(X)$. Пусть $f_{\Gamma}:X_{\Gamma}\rightarrow X_{\Gamma}$ есть преобразование первого возвращения на $X_{\Gamma}$ относительно $f$ (см. определение 14 аналогичного преобразование первого возвращения на $\alpha_{5}$ относительно $T^{\prime}$).

Самоподобие системы $(X,f)$ устанавливает следующая лемма.

Лемма 44

Пусть $p\in X$, и $q=\Gamma(p)$. Тогда:

• •

$f_{\Gamma}(q)$* определено, если и только если $f(p)$ определено;*

• •

в случае, если $f(p)$ определено, $f_{\Gamma}(q)=\Gamma(f(p))$;

• •

если $p\in\operatorname{int}(ABE)$, то $f_{\Gamma}(q)=f^{7}(q)$, а если $p\in\operatorname{int}(CED)$, то $f_{\Gamma(q)}f^{3}(q)$.

Доказательство ясно из рисунка 8, на котором изображены открытые треугольники $f^{i}(\Gamma(\operatorname{int}(ABE)))$, $i=0,1,\ldots,6$, а также открытые треугольники $f^{j}(\Gamma(\operatorname{int}(CED)))$, $j=0,1,2$.

Аналогично лемме 27 можно доказать и следующую лемму.

Лемма 45

Пусть $p\in X$, $q=\Gamma(p)$. Тогда $p$ граничная (периодическая, апериодическая), если и только если $q$ граничная (периодическая, апериодическая).

Введем теперь еще несколько определений.

Определение 23

Пусть $q\in X$. Тогда рангом $rk(q)$ точки $q$ назовем максимальное целое неотрицательное число $k$, т.ч $\Gamma^{-k}(q)\in X$.

Определение 24

Пусть $q\in X$ - периодическая точка. Тогда рангом орбиты $rko(q)$ назовем число $\max\limits_{j=0}^{\rho_{Xper}-1}rk(f^{j}(q))$.

Лемма 46

Пусть $q\in X$ - периодическая точка, и $rk(q)=rko(q)=k>0$. Тогда $rk(p)=rko(p)=k-1$, где $p=\Gamma^{-1}(q)$.

Доказательство. По лемме 45 $p$ также периодическая; пусть ее период относительно $f$ равен $l$. Тогда по лемме 44: $\forall j,0\leq j<l:f^{\prime j}(q)=\Gamma(f^{j}(p)))$, причем $f^{\prime l}(q)=q$. Согласно определениям $f^{\prime}$ и ранга, среди точек орбиты точки $q$ относительно $f$ только точки $\{f^{\prime j}(q),0\leq j<l\}$ обладают отличным от нуля рангом, причем $\forall j\in[0,l)$: $rk(f^{\prime j}(q))=1+rk(f^{j}(p))$. Следовательно, $rko(p)=rk(p)=k-1$, QED. $\scriptstyle\blacksquare$

Из леммы 46 следует следующая, аналогичная лемме 31, лемма.

Лемма 47

Любая периодическая точка (компонента) $q\in(\subset)X$ может быть представлена в виде $q=f^{l}(\Gamma^{k}(p))$, где $p\in(\subset)X\backslash\Gamma(X)$, $p$ - периодическая точка ранга 0 ($p\in\{\omega_{a},\omega_{ba}\}$, $k,l\in\mathbb{Z}_{\geq 0}$.

Доказательство. <<Точечная>> часть очевидно следует из леммы 46. <<Компонентная>> же часть леммы 47 следует из того, что граница $(\partial\Gamma(X))\cap X$ состоит лишь из граничных точек. Из этого же утверждения следует, что понятия ранга и ранга орбиты могут быть естественным образом обобщены и на периодические компоненты внутри $X$. Из рис. 8 следует, что периодическими компонентами ранга 0 являются правильные многоугольники $\omega_{a},\omega_{ba}$ и $\omega_{ab}=f(\omega_{ba})$, ибо все периодические точки $X$, не принадлежащие $\omega_{a},\omega_{ba},\omega_{ab}$ лежат на траекториях возвращения $f$ в $\Gamma(X)$. $\scriptstyle\blacksquare$

3.10 Доказательство теоремы 1

В данном разделе мы установим существование апериодической точки для системы $(X,f)$; как следует из лемм 41, 32, 16, этого будет достаточно для доказательства теоремы 1.

Пусть $\Gamma_{1}=\Gamma\circ f^{-1}\circ\Gamma\circ f$; заметим, что последовательность $X,\Gamma_{1}(X),\Gamma_{1}^{2}(X),\Gamma_{1}^{3}(X),\ldots$ есть последовательность вложенных друг в друга четырехугольников, которая сходится к некоторой точке $p_{\inf}$, лежащей строго внутри каждого из $\Gamma_{1}^{j}(X),j\in\mathbb{Z}_{\geq 0}$.

Лемма 48

Точка $p_{\inf}$ не является периодической точкой.

Доказательство. Пусть $p_{\inf}$ - периодическая точка. Из леммы 9, а также, строго говоря, лемм 16, 41 следует, что существует открытый многоугольник $comp(p)$, содержащий $p$ и состоящий из периодических точек. Однако заметим, что если включить в $X$ его границу и объявить точки $\partial X$ граничными (например, зафиксировав $f$ неопределенным для этих точек), то тогда лемма 45 будет выполнена как для $\Gamma$, так и для, очевидно, $\Gamma_{1}$. Следовательно, границы всех многоугольников $\Gamma_{1}^{j}(X)$, $j\in\mathbb{Z}_{\geq 0}$, состоят лишь из граничных точек, а в силу того, что периметр многоугольников $\Gamma_{1}^{j}(X)$ стремится к нулю, эти границы подходят к $p_{\inf}$ бесконечно близко, что противоречит существованию $comp(p)$. Следовательно, $p_{\inf}$ не есть периодическая, QED. $\scriptstyle\blacksquare$

Лемма 49

Точка $p_{\inf}$ не является граничной.

Доказательство. Пусть $p_{\inf}$ граничная. Тогда из леммы 2 (и, конечно, лемм 16, 32, 41) следует, существует открытый отрезок $seg$, содержащий $p_{\inf}$ и состоящий лишь из граничных точек. Без ограничения общности можно считать, что длина этого отрезка равна $2l$, $l>0$, а $p_{\inf}$ - его середина.

Рассмотрим последовательность периодических компонент $C_{0}$, $C_{1}$, $C_{2}$, …, т.ч. $C_{0}=\omega_{a}$, $C_{1}=f(\Gamma(\omega_{a}))$, и $\forall k\in\mathbb{Z}_{\geq 2}$: $C_{k}=\Gamma_{1}{C_{k-2}}$. Из рис. 9 и того факта, что $p_{inf}$ лежит строго внутри $\Gamma_{1}(X)$ следует, что независимо от направления, как минимум один из лучей - продолжений отрезка $seg$ пересекает как минимум одну из открытых компонент $C_{0}$, $C_{1}$, причем расстояние от $p_{\inf}$ до точки пересечения не превосходит $d$, где $d=\sup\limits_{q\in C_{0}\cup C_{1}}|p_{\inf}q|$ (здесь $|pq|$ есть длина отрезка, соединяющего точки $p,q\in\mathbb{R}^{2}$); следовательно, $l\leq d$. С другой стороны, $\Gamma_{1}$ есть композиция поворота вокруг точки $p_{\inf}$ и сжатия плоскости в $\lambda=|AW_{9}|/|AB|<1$ с центром в $p_{\inf}$; следовательно, один из вышеописанных лучей пересекает и одну из компонент $C_{2},C_{3}$, причем расстояние от $p_{\inf}$ до точки пересечения не превосходит $\lambda^{2}d$; отсюда получаем, что $l\leq\lambda d$. Повторяя данное рассуждение, можно показать по индукции, что $\forall k\in\mathbb{N}$: $l\leq\lambda^{2k}d$; следовательно, $l\leq 0$, что приводит нас к противоречию. $\scriptstyle\blacksquare$

Согласно леммам 48, 49, $p_{\inf}$ не может быть ни периодической, ни граничной; следовательно, $p_{\inf}$ есть апериодическая точка системы $(X,f)$, что завершает доказательство теоремы 1.

3.11 Доказательство теоремы 2

Для доказательства теоремы 2 введем пару определений.

Определение 25

Пусть $W\subset\mathbb{R}^{2}$ — многоугольник. Тогда разбиением $W$ назовем конечное множество многоугольников $\mathcal{W}=\{W_{1},W_{2},\ldots,W_{k}\}$, $k\in\mathbb{Z}_{+}$, т.ч.:

• •

$W=\bigcup\limits_{j=1}^{k}W_{j}$;

• •

$\forall i,j,1\leq i<j\leq k$: $\operatorname{int}(W_{i})\cap\operatorname{int}(W_{j})=\emptyset$.

Определение 26

Пусть $W\subset\mathbb{R}^{2}$ — многоугольник, а $\mathcal{W}^{1},\mathcal{W}^{2}$ - его разбиения. Тогда $\mathcal{W}^{2}$ является подразбиением $\mathcal{W}^{1}$, если $\forall Q\in\mathcal{W}^{2}\leavevmode\nobreak\ \exists P\in\mathcal{W}^{1}$: $Q\subset P$.

Другими словами, подразбиение разбиения $\mathcal{W}^{1}$ есть объединение разбиений многоугольников, входящих в состав $\mathcal{W}^{1}$.

С разбиениями связана следующая простая лемма.

Лемма 50

Пусть $W$ есть произвольный многоугольник. Рассмотрим последовательность $(\mathcal{W}^{l})_{l\in\mathbb{Z}_{+}}$ разбиений $W$ на конечное число многоугольников, устроенную следующим образом:

$\forall l\in\mathbb{Z}_{+}$: $\mathcal{W}^{l+1}$ есть подразбиение $\mathcal{W}^{l}$; 2. 2.

каждый встречающийся в хотя бы одном из разбиений последовательности $(\mathcal{W}^{l})_{l\in\mathbb{Z}_{+}}$ многоугольник в каждом разбиении покрашен в зеленый или красный цвет, причем этот цвет может зависеть от конкретного разбиения; 3. 3.

$\forall l\in\mathbb{Z}_{+}$: если $A\in\mathcal{W}^{l}$ и $A$ - красный в разбиении $\mathcal{W}^{l}$, то $A\in\mathcal{W}^{l+1}$ и $A$ - красный в разбиении $\mathcal{W}^{l+1}$; 4. 4.

существуют числа $\epsilon\in\mathbb{R}_{+}$ и $k\in\mathbb{Z}_{+}$ такие, что для любого $l\in\mathbb{Z}_{+}$ и любого зеленого многоугольника $U\in\mathcal{(}W^{l})$, гарантируется, что в $l+k$-ом разбиении красные фигуры, лежащие внутри $U$, обладают суммарной площадью не меньшей, чем $\epsilon A$, где $A$ есть площадь фигуры $U$.

Тогда объединение участвующих в разбиениях красных фигур образует в $W$ множество полной меры.

Доказательство. Обозначим за $Area(U)$ площадь произвольного многоугольника $U$. Пусть $RedArea(l)$, $l\in\mathbb{Z}_{+}$, есть суммарная площадь красных фигур, участвующих в разбиении $\mathcal{W}^{l}$; аналогично определим $GreenArea(l)$ (очевидно, что $\forall l\in\mathbb{Z}_{+}:RedArea(l)+GreenArea(l)=Area(W)$). Из условия 3 следует, что последовательность $(RedArea(l))$ неубывает с ростом $l$, а $(GreenArea(l))$ невозрастает. С другой стороны, из условия 4 следует, что $\forall l\in\mathbb{Z}_{+}$: $GreenArea(l+k)\leq(1-\epsilon)*GreenArea(l)$. Так как $\epsilon>0$, то $GreenArea(l)\underset{l\rightarrow+\infty}{\rightarrow}0$. Это означает, что $\forall\delta\in\mathbb{R}_{+}$: все точки многоугольника $W$, которые не лежат ни в одном из красных многоугольников, могут быть покрыты зелеными многоугольниками разбиения $\mathcal{W}^{l_{\delta}}$, где $l_{\delta}$ таково, что суммарная площадь этих многоугольников не превосходит $\delta$. Таким образом, дополнение в $W$ к объединению всех красных фигур образует множество меры нуль, QED. $\scriptstyle\blacksquare$

С помощью леммы 50 докажем полноту меры периодических точек в системе $(X,f)$; этого, как следует из лемм 41, 32, 16 будет достаточно для доказательства теоремы 2.

Лемма 51

Периодические относительно преобразования $f$ точки образуют в $X$ множество полной меры.

Доказательство. Используем лемму 50. Рассмотрим последовательность раскрашенных в красный и зеленый цвета разбиений $(\mathcal{X}^{l})_{l\in\mathbb{Z}_{+}}$ многоугольника $X$, устроенную следующим образом:

• •

$(\mathcal{X}^{1})$ состоит из двух красных треугольников $ABE$ и $CED$;

• •

$\forall l\in\mathbb{Z}_{+}$: $\mathcal{X}^{l+1}=\{\bigcup\{\overline{f^{j}(\Gamma(\operatorname{int}(P)))}\}|P\in\mathcal{X}^{l},0\leq j<t(P)\}\cup\{\overline{\omega_{a}},\overline{\omega_{ba}},\overline{\omega_{ab}}\}$; здесь $t(P)$ есть минимальное такое $t\in\mathbb{Z}_{+}$, что $f_{t}(\operatorname{int}(P))\subset\Gamma(X)$;

• •

в терминах предыдущего пункта, многоугольник $\overline{f^{j}(\Gamma((\operatorname{int}(P)))}$ зеленый в разбиении $(\mathcal{X})^{l+1}$, если и только если $P$ зеленое в разбиении $(\mathcal{X})^{l}$;

• •

фигуры $\overline{\omega_{a}},\overline{\omega_{ba}},\overline{\omega_{ab}}$ являются красными во всех разбиениях, в которых участвуют.

Из рис. 10 очевидно следует, что $\mathcal{X}^{2}$ есть разбиение $X$; тот же факт, что $\mathcal{X}^{l}$ является разбиением для любого $l\in\mathbb{Z}$, легко доказать по индукции. Более того, на основе леммы 44 также можно вывести по индукции, что в разбиении $\mathcal{X}^{l}$, $l\in\mathbb{Z}_{+}$, все красные многоугольники являются периодическими компонентами (точнее, их замыканиями), а зеленые являются траекториями первого возвращения в $\Gamma^{l-1}(X)$ относительно $f$ открытых треугольников $\Gamma_{l-1}(\operatorname{int}(ABE))$ и $\Gamma_{l-1}(\operatorname{int}(CED))$.

Из вышесказанного очевидно, что выполнены условия 1-3 леммы 50. Условие 4 той же леммы также выполнено; это следует из того, что при переходе от $\mathcal{X}^{l}$ к $\mathcal{X}^{l+1}$, $l\in\mathbb{Z}_{+}$, верно:

• •

$\forall P\in\mathcal{X}^{l}$ т.ч. $P$ - зеленый в $\mathcal{X}^{l}$, и $P=\overline{f^{j}(\Gamma^{l-1}(\operatorname{int}(ABE))}$, $j\in\mathbb{Z}_{\geq 0}$: многоугольники $P_{a}=\overline{f^{j}(\Gamma^{l}(\omega_{a}))}$ и $P_{ab}=\overline{f^{j}(\Gamma^{l}(\omega_{ab}))}$ таковы, что:

• –

$P_{a},P_{ab}\subset P$;

• –

$P_{a},P_{ab}$ - красные многоугольники в $\mathcal{X}^{l+1}$;

• –

$\frac{Area(P_{a}\cup P_{ab})}{Area(P)}=\frac{Area(\omega_{a}\cup\omega_{ab})}{Area(ABE)}$;

• •

$\forall P\in\mathcal{X}^{l}$ т.ч. $P$ - зеленый в $\mathcal{X}^{l}$, и $P=\overline{f^{j}(\Gamma^{l-1}(\operatorname{int}(CED))}$, $j\in\mathbb{Z}_{\geq 0}$: многоугольник $P_{ba}=\overline{f^{j}(\Gamma^{l}(\omega_{ba}))}$ таков, что:

• –

$P_{ba}\subset P$;

• –

$P_{ba}$ - красные многоугольники в $\mathcal{X}^{l+1}$;

• –

$\frac{Area(P_{ba})}{Area(P)}=\frac{Area(\omega_{ba})}{Area(CED)}$.

Таким образом, условие 4 леммы 50 выполнено, если взять $k=1$ и $\epsilon=\min(\frac{Area(\omega_{a}\cup\omega_{ab})}{Area(ABE)},\frac{Area(\omega_{ba})}{Area(CED)})$. Следовательно, все условия леммы 50, а согласно этой лемме, красные многоугольники, являющиеся замыканиями периодических компонент, образуют в $X$ множество полной меры. Строго говоря, периодические компоненты - это открытые многоугольники, отличающиеся от своих замыканий; однако тот факт, что объединение замыканий счетного числа открытых многоугольников отличается от объединения счетного числа тех же открытых многоугольников лишь множеством точек меры нуль (ибо это счетное число отрезков), завершает доказательство леммы. $\scriptstyle\blacksquare$

3.12 Нахождение абелизаций кодов периодов периодических компонент для $(X,f)$

. В следующих нескольких разделах мы найдем множество периодов точек для внешнего биллиарда $T$ вне правильного десятиугольника $\gamma$. Мы будем действовать по следующему плану. В этом разделе, мы найдем множество $C_{X}=\{c(\rho_{Xper}(p))|p\subset X,p\text{ - \T2A\cyrp\T2A\cyre\T2A\cyrr\T2A\cyri\T2A\cyro\T2A\cyrd\T2A\cyri\T2A\cyrch\T2A\cyre\T2A\cyrs\T2A\cyrk\T2A\cyra\T2A\cyrya \T2A\cyrk\T2A\cyro\T2A\cyrm\T2A\cyrp\T2A\cyro\T2A\cyrn\T2A\cyre\T2A\cyrn\T2A\cyrt\T2A\cyra}\}$, где $c(w):\{a,b\}^{*}\rightarrow\mathbb{Z}_{\geq 0}^{2}$ есть гомоморфизм абелизации, определенный аналогично определению 21. После этого, с помощью леммы 41 мы вычислим аналогичным образом определенное множество $C_{Z^{\prime}\cup\beta_{4}}$. На следующем шаге, по лемме 36 мы найдем $C_{V^{\prime}}$; затем, по лемме 35 вычислим и множество всевозможных периодов компонент $B$ для $T$ вне $\Gamma$. Наконец, согласно лемме 12, преобразуем множество $B$ в $B_{2}$, просто добавив в $B$ удвоения всех нечетных чисел в $B$.

Пусть $\sigma:\{a,b\}\rightarrow\{a,b\}^{*}$ - подстановка, т.ч. $\sigma(a)=aababaa$, $\sigma(b)=aaa$. Из рис. 8 очевидно доказательство следующей леммы, являющейся уточнением третьего пункта леммы 44.

Лемма 52

Пусть $p\subset X$ - периодическая компонента, и пусть $q=\Gamma(p)$. Тогда $\rho_{Xper}(q)=\sigma(\rho_{Xper}(p))$.

Очевидно, лемма 52 могла бы быть сформулирована и для периодической или апериодической точки $p\in X$ и ее кода $\rho_{X}(p)$; однако для наших целей достаточно ограничиться лишь периодическими компонентами.

Из леммы 47 и того факта, что если $p\subset X$ - периодическая компонента, то и $f(p)$ - периодическая компонента, причем $c(\rho_{Xper}(p))=c(\rho_{Xper}(f(p)))$ следует, что $C_{X}=\{c(\rho_{Xper}(\Gamma^{l}(\omega)))|l\in\mathbb{Z}_{\geq 0},\omega\in\{\omega_{a},\omega_{ba}\}\}$.

Пусть $M_{\sigma}$ - матрица подстановки $\sigma$. Согласно определению $\sigma$, $M_{\sigma}=\begin{pmatrix}5&3\\ 2&0\end{pmatrix}$, и если $p\subset X$ - периодическая компонента, то $c(\rho_{Xper}(\Gamma(p)))=M_{\sigma}c(\rho_{Xper}(p))$. Следовательно, $C_{X}=\{M_{\sigma}^{l}c(\rho_{Xper}(\omega))|\omega\in\{\omega_{a},\omega_{ba}\}\}=\{M_{\sigma}^{l}g|g\in\{\left(\begin{smallmatrix}1\\ 0\end{smallmatrix}\right),\left(\begin{smallmatrix}1\\ 1\end{smallmatrix}\right)\}\}$ (ибо $c(\omega_{a})=\left(\begin{smallmatrix}1\\ 0\end{smallmatrix}\right)$, $c(\omega_{ba})=\left(\begin{smallmatrix}1\\ 1\end{smallmatrix}\right)$ ).

С другой стороны, легко получить с помощью линейной алгебры и доказать по индукции, что $\forall x,y\in\mathbb{R},l\in\mathbb{Z}_{\geq 0}$: $M_{\sigma}^{l}\left(\begin{smallmatrix}x\\ y\end{smallmatrix}\right)=\frac{x-3y}{7}(-1)^{l}\left(\begin{smallmatrix}1\\ -2\end{smallmatrix}\right)+\frac{y+2x}{7}6^{l}\left(\begin{smallmatrix}3\\ 1\end{smallmatrix}\right)$. Подставляя в качестве $\left(\begin{smallmatrix}x\\ y\end{smallmatrix}\right)$ векторы $\left(\begin{smallmatrix}1\\ 0\end{smallmatrix}\right),\left(\begin{smallmatrix}1\\ 1\end{smallmatrix}\right)$, получаем следующую лемму.

Лемма 53

$C_{X}=\{\frac{1}{7}\begin{pmatrix}6*6^{l}+(-1)^{l}\\ 2*6^{l}-2*(-1)^{l}\end{pmatrix},\frac{1}{7}\begin{pmatrix}9*6^{l}-2*(-1)^{l}\\ 3*6^{l}+4*(-1)^{l}\end{pmatrix}|l\in\mathbb{Z}_{\geq 0}\}$.

3.13 Нахождение абелизаций кодов периодических компонент для $(V^{\prime},T^{\prime})$

. Вычислим $C_{Z^{\prime}\cup\beta_{4}}$ и $C_{V^{\prime}}$. С помощью леммы 41, напрямую получаем следующую лемму.

Лемма 54

$C_{Z^{\prime}\cup\beta_{4}}=\{\frac{1}{7}\left(\begin{smallmatrix}12*6^{l}+2*(-1)^{l}\\ 24*6^{l}-3*(-1)^{l}\\ 0\\ 0\\ 0\end{smallmatrix}\right),\frac{1}{7}\left(\begin{smallmatrix}18*6^{l}-4*(-1)^{l}\\ 36*6^{l}+6*(-1)^{l}\\ 0\\ 0\\ 0\end{smallmatrix}\right),\\ \frac{1}{7}\left(\begin{smallmatrix}0\\ 0\\ 6*6^{l}+(-1)^{l}\\ 8*6^{l}-(-1)^{l}\\ 0\end{smallmatrix}\right),\frac{1}{7}\left(\begin{smallmatrix}0\\ 0\\ 9*6^{l}-2*(-1)^{l}\\ 12*6^{l}+2*(-1)^{l}\\ 0\end{smallmatrix}\right),\left(\begin{smallmatrix}1\\ 0\\ 0\\ 0\\ 0\end{smallmatrix}\right),\left(\begin{smallmatrix}0\\ 1\\ 0\\ 0\\ 0\end{smallmatrix}\right),\left(\begin{smallmatrix}0\\ 0\\ 1\\ 0\\ 0\end{smallmatrix}\right),\left(\begin{smallmatrix}0\\ 0\\ 0\\ 1\\ 0\end{smallmatrix}\right)|l\in\mathbb{Z}_{\geq 0}\}$.

Чтобы вычислить $C_{V^{\prime}}$, воспользуемся леммой 36, согласно которой, каждый вектор из $C_{Z^{\prime}\cup\beta_{4}}$ нужно домножить слева на матрицу $M_{\psi}$ произвольное число раз. Пусть $C^{1}_{V^{\prime}}=\{M_{\psi}w\leavevmode\nobreak\ |\leavevmode\nobreak\ w\in C_{Z^{\prime}\cup\beta_{4}}\}$. Из устройства $M_{\psi}$ следует, что первые три компоненты векторов $C^{1}_{V^{\prime}}$ нулевые. В силу этого, введем преобразования $pr_{25}:\mathbb{R}^{2}\rightarrow\mathbb{R}^{5}$, т.ч. $\forall u,v\in\mathbb{R}$: $pr_{25}\left(\begin{smallmatrix}u\\ v\end{smallmatrix}\right)=\left(\begin{smallmatrix}0\\ 0\\ 0\\ u\\ v\end{smallmatrix}\right)$, и $pr_{52}=pr_{25}^{-1}$; пусть $C^{1}_{V^{\prime}2}=pr_{52}(C^{1}_{V^{\prime}})$.

Также введем вспомогательную матрицу $M_{\psi 1}=\begin{smallmatrix}1&0\\ 1&1\end{smallmatrix}$. Очевидно, коэффициенты подобраны таким образом, что $\forall w\in\mathbb{R}^{2}$: $M_{\psi}pr_{25}(w)=pr_{25}(M_{\psi 1}w)$.

Используя вышесказанное, лемму 36 можно записать в виде:

$C_{V^{\prime}}=C_{Z^{\prime}\cup\beta_{4}}\cup\{pr_{25}(M_{\psi 1}^{k}w\leavevmode\nobreak\ )|\leavevmode\nobreak\ w\in C^{1}_{V^{\prime}2},k\in\mathbb{Z}_{\geq 0}\}$.

Из определения легко получить, что

$C^{1}_{V^{\prime}2}=\{\frac{1}{7}\left(\begin{smallmatrix}120*6^{l}-(-1)^{l}\\ 36*6^{l}-(-1)^{l}\end{smallmatrix}\right),\frac{1}{7}\left(\begin{smallmatrix}180*6^{l}+2*(-1)^{l}\\ 54*6^{l}+2*(-1)^{l}\end{smallmatrix}\right),\frac{1}{7}\left(\begin{smallmatrix}20*6^{l}+(-1)^{l}\\ 14*6^{l}\end{smallmatrix}\right),\frac{1}{7}\left(\begin{smallmatrix}30*6^{l}-2*(-1)^{l}\\ 21*6^{l}\end{smallmatrix}\right),\\ \left(\begin{smallmatrix}4\\ 1\end{smallmatrix}\right),\left(\begin{smallmatrix}3\\ 1\end{smallmatrix}\right),\left(\begin{smallmatrix}2\\ 1\end{smallmatrix}\right),\left(\begin{smallmatrix}1\\ 1\end{smallmatrix}\right)\}$.

С другой стороны, легко доказать по индукции по $k$, что $\forall x,y\in\mathbb{R},k\in\mathbb{Z}_{\geq 0}$: $M^{k}_{\psi 1}\left(\begin{smallmatrix}x\\ y\end{smallmatrix}\right)=\left(\begin{smallmatrix}x\\ y+kx\end{smallmatrix}\right)$. Отсюда следует

Лемма 55

$C_{V^{\prime}}=C_{V^{\prime}f}+pr_{25}(C_{V^{\prime}o})$, где $C_{V^{\prime}f}=C_{Z^{\prime}\cup\beta_{4}}$,

$C_{V^{\prime}o}=\{\frac{1}{7}\left(\begin{smallmatrix}120*6^{l}-(-1)^{l}\\ (36+120k)*6^{l}-(k+1)*(-1)^{l}\end{smallmatrix}\right),\frac{1}{7}\left(\begin{smallmatrix}180*6^{l}+2*(-1)^{l}\\ (54+180k)*6^{l}+2*(k+1)*(-1)^{l}\end{smallmatrix}\right),\\ \frac{1}{7}\left(\begin{smallmatrix}20*6^{l}+(-1)^{l}\\ (14+20k)*6^{l}+k*(-1)^{l}\end{smallmatrix}\right),\frac{1}{7}\left(\begin{smallmatrix}30*6^{l}-2*(-1)^{l}\\ (21+30k)*6^{l}-2k*(-1)^{l}\end{smallmatrix}\right),\left(\begin{smallmatrix}4\\ 1+4k\end{smallmatrix}\right),\left(\begin{smallmatrix}3\\ 1+3k\end{smallmatrix}\right),\left(\begin{smallmatrix}2\\ 1+2k\end{smallmatrix}\right),\\ \left(\begin{smallmatrix}1\\ 1+k\end{smallmatrix}\right)|k,l\in\mathbb{Z}_{\geq 0}\}$.

3.14 Нахождение периодов и доказательство теоремы 3

Чтобы найти множество $B_{c}$ периодов периодических компонент внешнего биллиарда вне правильного десятиугольника, достаточно применить лемму 35 к каждому из столбцов $w\in C_{V^{\prime}}$ и добавить в $B_{c}$, изначально пустое, число $r(w)=\frac{10s(w)}{\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))}$, где $s(w)=(1,1,1,1,1)*w$, $t(w)=(1,2,3,4,5)*w$. Найдем $s(w)$ и $t(w)$ для всех серий столбцов, встречающихся в $C_{V^{\prime}}$, согласно леммам 54, LABEL:abelizationOfV'. При подсчете мы используем следующие простые факты теории чисел:

• •

$\forall a,b\in\mathbb{Z}_{+}$: $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(a,b)=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(7a,b)$; следовательно, $\forall w\in\mathbb{R}^{5}$: $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(7w))$. Этот факт позволит нам игнорировать множитель $\frac{1}{7}$ при подсчете НОД-а;

• •

$6^{0}\equiv_{10}1$, и $\forall l\in\mathbb{Z}_{+}$: $6^{l}\equiv_{7}6$.

Итак,

• •

пусть $w=\frac{1}{7}\left(\begin{smallmatrix}12*6^{l}+2*(-1)^{l}\\ 24*6^{l}-3*(-1)^{l}\\ 0\\ 0\\ 0\end{smallmatrix}\right)$, $l\in\mathbb{Z}_{\geq 0}$. Тогда $7s(w)=6^{l+2}-(-1)^{l}$, $7t(w)=(10*6^{l+1}-4*(-1)^{l})$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,-4(-1)^{l})=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,4)=2$. Следовательно, $r(w)=\frac{5}{7}(6^{l+2}-(-1)^{l})$.

• •

Пусть $w=\frac{1}{7}\left(\begin{smallmatrix}18*6^{l}-4*(-1)^{l}\\ 36*6^{l}+6*(-1)^{l}\\ 0\\ 0\\ 0\end{smallmatrix}\right)$, $l\in\mathbb{Z}_{\geq 0}$. Тогда $7s(w)=9*6^{l+1}+2*(-1)^{l}$, $7t(w)=(15*6^{l+1}+8*(-1)^{l})$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,90+8(-1)^{l})=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,8(-1)^{l})=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,8)=2$; следовательно, $r(w)=\frac{5}{7}(9*6^{l+1}+2*(-1)^{l})$.

• •

Пусть $w=\frac{1}{7}\left(\begin{smallmatrix}0\\ 0\\ 6*6^{l}+(-1)^{l}\\ 8*6^{l}-(-1)^{l}\\ 0\end{smallmatrix}\right)$, $l\in\mathbb{Z}_{\geq 0}$. Тогда $7s(w)=14*6^{l}$, $7t(w)=50*6^{l}-(-1)^{l}$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,-(-1)^{l})=1$; следовательно, $r(w)=20*6^{l}$.

• •

Пусть $w=\frac{1}{7}\left(\begin{smallmatrix}0\\ 0\\ 9*6^{l}-2*(-1)^{l}\\ 12*6^{l}+2*(-1)^{l}\\ 0\end{smallmatrix}\right)$, $l\in\mathbb{Z}_{\geq 0}$. Тогда $7s(w)=21*6^{l}$, $7t(w)=75*6^{l}+2*(-1)^{l}$. Рассмотрим два случая:

• –

$l=0$; тогда $7t(w)=77$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=1$, и $r(w)=30$;

• –

$l>0$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,30*6^{l-1}+2*(-1)^{l})=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,2*(-1)^{l})=2$, и $r(w)=15*6^{l}$.

• •

Пусть $w=\left(\begin{smallmatrix}1\\ 0\\ 0\\ 0\\ 0\end{smallmatrix}\right)$; тогда $s(w)=1$, $t(w)=1$, и $r(w)=10$.

• •

Пусть $w=\left(\begin{smallmatrix}0\\ 1\\ 0\\ 0\\ 0\end{smallmatrix}\right)$; тогда $s(w)=1$, $t(w)=2$, и $r(w)=5$.

• •

Пусть $w=\left(\begin{smallmatrix}0\\ 0\\ 1\\ 0\\ 0\end{smallmatrix}\right)$; тогда $s(w)=1$, $t(w)=3$, и $r(w)=10$.

• •

Пусть $w=\left(\begin{smallmatrix}0\\ 0\\ 0\\ 1\\ 0\end{smallmatrix}\right)$; тогда $s(w)=1$, $t(w)=4$, и $r(w)=5$.

• •

Пусть $w=pr_{25}(\frac{1}{7}\left(\begin{smallmatrix}120*6^{l}-(-1)^{l}\\ (36+120k)*6^{l}-(k+1)*(-1)^{l}\end{smallmatrix}\right))$, $k,l\in\mathbb{Z}_{\geq 0}$. Тогда $7s(w)=(156+120k)*6^{l}-(k+2)*(-1)^{l}$, $7t(w)=(660+600k)*6^{l}-(5k+9)*(-1)^{l}$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=(10,5k+9)$. Рассмотрим два случая:

• –

$k=2m,m\in\mathbb{Z}_{\geq 0}$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=1$, и $r(w)=\frac{10}{7}((156+120*2m)*6^{l}-(2m+2)*(-1)^{l})=\frac{20}{7}((78+120m)*6^{l}-(m+1)*(-1)^{l})$;

• –

$k=2m+1,m\in\mathbb{Z}_{\geq 0}$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=2$, и $r(w)=\frac{5}{7}((276+240m)*6^{l}-(2m+3)*(-1)^{l})$.

• •

Пусть $w=pr_{25}(\frac{1}{7}\left(\begin{smallmatrix}180*6^{l}+2*(-1)^{l}\\ (54+180k)*6^{l}+2*(k+1)*(-1)^{l}\end{smallmatrix}\right))$, $k,l\in\mathbb{Z}_{\geq 0}$. Тогда $7s(w)=(234+180k)*6^{l}+(2k+4)*(-1)^{l}$, $7t(w)=(990+900k)*6^{l}+(10k+18)*(-1)^{l}$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,18)=2$; следовательно, $r(w)=\frac{5}{7}((234+180k)*6^{l}+(2k+4)*(-1)^{l})$.

• •

Пусть $w=pr_{25}(\frac{1}{7}\left(\begin{smallmatrix}20*6^{l}+(-1)^{l}\\ (14+20k)*6^{l}+k*(-1)^{l}\end{smallmatrix}\right))$. $k,l\in\mathbb{Z}_{\geq 0}$. Тогда $7s(w)=(34+20k)*6^{l}+(k+1)*(-1)^{l}$, $7t(w)=(150+100k)*6^{l}+(5k+4)*(-1)^{l}$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,5k+4)$. Рассмотрим два случая:

• –

$k=2m,m\in\mathbb{Z}_{\geq 0}$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=2$, и $r(w)=\frac{5}{7}((34+40m)*6^{l}+(2m+1)*(-1)^{l})$;

• –

$k=2m+1,m\in\mathbb{Z}_{\geq 0}$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=1$, и $r(w)=\frac{10}{7}((20+40m)*6^{l}+(2m+2)*(-1)^{l})$.

• •

Пусть $w=pr_{25}(\frac{1}{7}\left(\begin{smallmatrix}30*6^{l}-2*(-1)^{l}\\ (21+30k)*6^{l}-2k*(-1)^{l}\end{smallmatrix}\right))$. $k,l\in\mathbb{Z}_{\geq 0}$. Тогда $7s(w)=(51+30k)*6^{l}-(2k+2)*(-1)^{l}$, $7t(w)=(225+150k)*6^{l}-(10k+8)*(-1)^{l}$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,5*6^{l}+8*(-1)^{l})$. Рассмотрим два случая:

• –

$l=0$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=1$, и $r(w)=\frac{10}{7}(28k+49)=40k+70$;

• –

$l>0$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=2$, и $r(w)=\frac{5}{7}((51+30k)*6^{l}-(2k+2)*(-1)^{l})$.

• •

Пусть $w=pr_{25}(\left(\begin{smallmatrix}4\\ 1+4k\end{smallmatrix}\right))$, $k\geq 0$; тогда $s(w)=5+4k$, $t(w)=20k+21$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=1$; следовательно, $r(w)=40k+50$.

• •

Пусть $w=pr_{25}(\left(\begin{smallmatrix}3\\ 1+3k\end{smallmatrix}\right))$, $k\geq 0$; тогда $s(w)=4+3k$, $t(w)=15k+17$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,5k+7)$. Рассмотрим два случая:

• –

$k=2m$, $m\geq 0$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=1$, и $r(w)=30k+40=60m+40$;

• –

$k=2m+1$, $m\geq 0$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=2$, и $r(w)=15k+20=30m+35$.

• •

Пусть $w=pr_{25}(\left(\begin{smallmatrix}2\\ 1+2k\end{smallmatrix}\right))$, $k\geq 0$; тогда $s(w)=3+2k$, $t(w)=10k+13$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=1$; следовательно, $r(w)=20k+30$.

• •

Пусть $w=pr_{25}(\left(\begin{smallmatrix}1\\ 1+k\end{smallmatrix}\right))$, $k\geq 0$; тогда $s(w)=2+k$, $t(w)=5k+9$, $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,5k+9)$. Рассмотрим два случая:

• –

$k=2m$, $m\geq 0$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=1$, и $r(w)=10k+20=20m+20$;

• –

$k=2m+1$, $m\geq 0$; тогда $\text{\T2A\CYRN\T2A\CYRO\T2A\CYRD}(10,t(w))=2$, и $r(w)=5k+10=10m+15$.

Объединив полученные числа и серии $r(w)$ и заметив, что числа каждой из серий либо все четные, либо все нечетные, получаем следующую лемму, являющуюся уточненной версией теоремы 3.

Лемма 56

Пусть $B=\{\frac{5}{7}(6^{l+2}-(-1)^{l}),\frac{5}{7}(9*6^{l+1}+2*(-1)^{l}),20*6^{l},30,90*6^{l},10,5,\frac{20}{7}((78+120k)*6^{l}-(k+1)*(-1)^{l}),\frac{5}{7}((276+240k)*6^{l}-(2m+3)*(-1)^{l}),\frac{5}{7}((234+180k)*6^{l}+(2k+4)*(-1)^{l}),\frac{5}{7}((34+40k)*6^{l}+(2k+1)*(-1)^{l}),\frac{10}{7}((20+40k)*6^{l}+(2k+2)*(-1)^{l}),40k+70,\frac{5}{7}((306+180k)*6^{l}+(2k+2)*(-1)^{l}),40k+50,60k+40,30k+35,20k+30,20k+20,10k+15|k,l\in\mathbb{Z}_{\geq 0}\}$,

$B_{2}=B\cup\{\frac{10}{7}(6^{l+2}-(-1)^{l}),\frac{10}{7}((276+240k)*6^{l}-(2k+3)*(-1)^{l}),\frac{10}{7}((34+40k)*6^{l}+(2k+1)*(-1)^{l}),60k+70,20k+30|k,l\in\mathbb{Z}_{\geq 0}\}$.

Тогда $B$ и $B_{2}$ суть множества периодов периодических компонент и периодических точек для внешнего биллиарда вне правильного десятиугольника.

Утверждение леммы про $B_{2}$ получено с помощью леммы 12.

4 Заключение

В данной работе было проведено полное исследование внешнего биллиарда вне правильного десятиугольника, завершающее <<программу Шварца>>. Основными наблюдениями, на которых базируются доказательства теорем, являются леммы 25 и 44, устанавливающие наличие самоподобных структур в множествах периодических/апериодических точек вне стола $\gamma$. Самоподобие, возникающее в первой из этих лемм, не случайно; аналогичное свойство можно доказать для внешнего биллиарда вне правильного $n$-угольника для произвольного четного $n$; в случае же нечетного $n$, можно установить соответствие между периодическими/апериодическими структурами вне правильных $n$- и $2n$-угольника (для случая $n=5$, такое соответствие описано в [7]). Однако самоподобие, задаваемое леммой 44, таким общим свойством не является; похожие самоподобия обнаружены лишь для случаев $n=5,10,8,12$, причем в последнем случае были задействованы доказательные компьютерные вычисления. Более того, проведенные Р.Шварцем компьютерные эксперименты [17] показали, что периодические структуры для внешнего биллиарда вне правильного семиугольника обладают существенно более сложной структурой, нежели случаи $n=5,10,8,12$; в частности, в этих случаях периодическая компонента может быть неравносторонним многоугольником. Так или иначе, проблемы периодичности для правильных $n$-угольников, где $n\notin\{3,4,6,5,10,8,12\}$, остаются открытыми.

Список литературы

• [1]

Rukhovich F. Outer billiards outside a regular octagon: periodicity of almost all orbits and existence of an aperiodic orbit. // Doklady Mathematics, 2018, Vol.98, Issue 1, pp.334-337.

• [2]

Rukhovich F. Outer billiards outside regular dodecagon: computer proof of periodicity of almost all orbits and existence of an aperiodic point. // arXiv:1809.03791, 2018

• [3]

Табачников С. Внешние биллиарды. // Успехи математических наук, 1993. T.48. Вып. 6(294). Стр. 75-102.

• [4]

Moser J. Is the solar system stable? // Math. Intell., 1978, Vol.1. P.65-71.

• [5]

Schwartz, R.E. Outer billiards on kites. // Annals of Mathematics Studies — Princeton University Press, Princeton, NJ, 2009. Vol.171.

• [6]

Dolgopyat, D., Fayad, B. Unbounded orbits for semicircular outer billiard. // Ann. Henri Poincare, 2009. Vol.10, issue 2. P.357-375.

• [7]

Bedaride, N., Cassaigne, J. Outer billiards outside regular regular polygons. // Journal of the London Mathematical Society, 2011.

• [8]

Tabachnikov, S. Geometry and Billiards. // Student Mathematical Library — American Mathematical Society, Providence, RI, 2005. Vol.30.

• [9]

Tabachnikov, S. On the dual billiard problem. // Adv. Math, 1995. Vol. 115, №.2. P.221-249.

• [10]

Bedaride, N., Cassaigne, J. Outer billiards outside regular regular polygons. // eprint arXiv:0912.0563, 2011.

• [11]

Schwartz, R.E. Outer Billiards, Arithmetic Graph and the Octagon. // eprint arXiv:1006.2782, 2010.

• [12]

Schwartz, R.E. The octagonal PETs. // Mathematical Surveys and Monographs — American Mathematical Society, Providence, RI, 2014. Vol.197.

• [13]

N. Pytheas Fogg. Substitutions in dynamics, arithmetics and combinatorics // Lecture Notes in Mathematics. Edited by V. Berthé, S. Ferenczi, C. Mauduit and A. Siegel. — Springer-Verlag, Berlin, 2002. Vol. 1794.

• [14]

Shaidenko. A, Vivaldi F. Global stability of a class of discontinuous dual billiards. //Comm. Math. Phys., 1987, Vol. 110, P.625–640.

• [15]

Kolodziej, R. The antibilliard outside a polygon. // Bull. Pol. Acad. Sci., 1989. Vol.37. P.163–168

• [16]

Gutkin, E., Simanyi, N. Dual polygonal billiards and necklace dynamics. // Comm. Math. Phys., 1991. Vol.143. P.431–450.

• [17]

Jeong, I.J. Outer billiards with contraction: regular polygons. // Dynamical Systems, 2015. Vol.33, №.4. P.565-580; DOI: 10.1080/14689367.2017.1402295