Weakly homoclinic groups of ergodic actions

TL;DR

This paper investigates the properties of weakly homoclinic groups in ergodic actions, revealing their structure, connections to factors, and behavior in specific actions like Gauss and Poisson, with implications for ergodic theory.

Contribution

It provides new insights into the structure and properties of weakly homoclinic groups in various ergodic actions, including their ergodicity and triviality in certain classes.

Findings

Homoclinic groups are full in certain trajectories.

Weakly homoclinic groups are ergodic for Gauss and Poisson actions.

Weakly homoclinic groups are trivial for rank-1 actions.

Abstract

This work contains the following results: the trajectory fullness of the homoclinic groups, their connections with factors, K-property, weak multiple mixing; the ergodicity of the weakly homoclinic group for Gauss and Poisson actions; the triviality of the weakly homoclinic group for classes of rank-1 actions. Some open problems are discussed.

Equations

$$H(T)=\{S\in Aut(\mu ):T^{-n}S{T}^n\to I,n\to \infty \},$$

$$WH(T)=\{S\in Aut(\mu ):\frac{1}{N}\sum _{i=1}^N{T}^{-i}S{T}^i\to I,N\to \infty \}.$$

$$H_P(T)=\{S\in Aut(\mu ):T^{-n}S{T}^n\to I,n\in P,n\to \infty \}.$$

$$H_P(\{T_g\})=[H_P(\{T_g\})].$$

$$T_{g(i)}^{-1}{T}_g^{-1}S{T}_g{T}_{g(i)}=T_g^{-1}{T}_{g(i)}^{-1}S{T}_{g(i)}{T}_g\to I$$

$$T_g^{-1}S{T}_{g}A=A,S{T}_{g}A=T_{g}A.$$

$$\mu (A\cap T_{z_i}A\cap T_{w_i}A)=0,z_i,w_i,z_i-w_i\to \infty ,$$

$$\mu (A)=\frac{1}{2},A=T_{z_i}A△T_{w_i}A.$$

$$\mu (SA\cap T_{z_i}A\cap T_{w_i}A)\to 0.$$

$$\mu (SA△T_{z_i}A△T_{w_i}A)\to 0.$$

$$exp(T)=\underset{n=0}{\overset{\infty }{⨁}}{T}^{\odot n},$$

$$\frac{1}{N}\sum _1^N{U}^i\otimes U^i{\to }_{w}0.$$

$$\frac{1}{N}\sum _1^N(U^{i}f,g{)}^2\to 0.$$

$$\frac{1}{N}\sum _1^N|(U^{i}f,g_k)|\to 0,$$

$$\frac{1}{N}\sum _1^N\Vert \pi U^{i}f\Vert \to 0.$$

$$\frac{1}{N}\sum _1^N\Vert K{U}^{i}f\Vert \le \frac{1}{N}\sum _1^N\Vert 2\pi U^{i}f\Vert \to 0,N\to \infty ,$$

$$\Vert f-\frac{1}{N}\sum _1^N{U}^{-i}S{U}^{i}f\Vert =\Vert \frac{1}{N}\sum _1^N{U}^{-i}K{U}^{i}f\Vert \le \frac{1}{N}\sum _1^N\Vert K{U}^{i}f\Vert \to 0.$$

$$\frac{1}{N}\sum _1^N{U}^{-i}S{U}^i\to I.$$

$$G(F)\subset WH(G(U)).$$

$$\frac{1}{N}\sum _1^N(T^{i}f,g)\to 0,N\to \infty .$$

$$\frac{1}{N}\sum _1^N\mu (T^{i}A\cap B)\to 0,N\to \infty .$$

$$\Vert f-\frac{1}{N}\sum _1^N{T}^{-i}S{T}^{i}f\Vert \le \frac{1}{N}\sum _1^N\Vert T^{i}f-S{T}^{i}f\Vert \le$$

$$\le \frac{1}{N}\sum _1^{N}2\mu (T^{i}A\cap suppS)\to 0,N\to \infty .$$

$$\frac{1}{N}\sum _1^N{U}^{-i}S{U}^{i}f\to f$$

$$G^{m_i},G^{n_i},G^{n_i-m_i}\to \Theta$$

$$\mu (A\cap G^{m_i}B\cap G^{n_i}C)\to \mu (A)\mu (B)\mu (C).$$

$$\mu (A\cap G^{m_i}B\cap G^{n_i}C)=\mu (SA\cap S{G}^{m_i}B\cap S{G}^{n_i}C)=$$

$$=\mu (SA\cap G^{m_i}{G}^{-m_i}S{G}^{m_i}B\cap G^{n_i}{G}^{-n_i}S{G}^{n_i}C).$$

$$G^{-m_i}S{G}^{m_i},G^{-n_i}S{G}^{n_i}\to I,$$

$$\mu (A\cap G^{m_i}B\cap G^{n_i}C)-\mu (SA\cap G^{m_i}B\cap G^{n_i}C)\to 0.$$

Full text

Библиография: 25 названий. УДК: 517.987. MSC2010: 28D05 (Primary); 58F11 (Secondary).

Ключевые слова и фразы: эргодические действия, гомоклинические группы, гауссовские динамические системы, пуассоновские надстройки, действия ранга один, слабое кратное перемешивание.

1 Введение.

Пусть $T$ – автоморфизм стандартного вероятностного пространства $(X,\mu)$, через $T$ также обозначим отвечающий ему унитарный оператор в $L_{2}(X,\mu)$, заданный равенством $Tf(x)=f(Tx)$.

**Гомоклиническая группа ** автоморфизма $Т$ определена М.И. Гординым в [1] как

[TABLE]

где подразумевается сильная операторная сходимость к тождественному оператору $I$. Им была замечена связь свойств гомоклинической группы с перемешивающими свойствами автоморфизма и инициировано изучение взаимосвязей со спектральными и энтропийными инвариантами автоморфизма.

Взаимосвязи с инвариантами динамической системы. Эргодическая гомоклиническая группа легко обнаруживается у бернуллиевских сдвигов. В связи с этим было интересно узнать, насколько тесно связано наличие такой группы с положительностью энтропии и лебеговским спектром. Дж. Кинг, отвечая на вопрос Гордина, в [2] построил автоморфизм с нулевой энтропией и эргодической гомоклинической группой. Этот результат в некотором смысле был усилен автором: эргодической гомоклинической группой могут обладать автоморфизмы с простым сингулярным спектром. Нужные примеры были найдены в классе перемешивающих пуассоновских надстроек, все они обладают эргодической гомоклинической группой [3]. Эргодичность гомоклинической группы является чисто метрическим инвариантом действия. Так, например, у геодезического потока эта группа эргодична, а у спектрально изоморфного ему орициклического потока она тривиальна (вытекает из результатов М.Ратнер [3]). Наличие эргодической гомоклинической группы автоморфизма влечет за собой свойство кратного перемешивания. Это дало новое доказательство кратного перемешивания для перемешивающих пуассоновских надстроек, первоначально обнаруженное Э. Руа [5]. Как мы увидим, причины, по которым перемешивающие гауссовские динамические системы обладают кратным перемешиванием, установленным В.П. Леоновым [6], также имеют гомоклиническую трактовку.

Известное ${\mathbf{Z}}^{2}$-действие Ледрапье [7] не обладает кратным перемешиванием, поэтому его нельзя расширить до действия с эргодической гомоклинической группой. С.В. Тихонов сообщил автору, что из наблюдений в [3] и [8] вытекает тривиальность гомоклинической группы этого действия. В настоящей статье доказано, что перемешивающие действия ранга 1 также имеют тривальную слабо гомоклиническую группу.

Слабо гомоклиническая и $P$-гомоклиническая группа. Рассмотрим естественные расширения группы $H(T)$, содержательные для неперемешивающих систем и особенно для групповых действий. Слабо гомоклиническая группа $WH(T)$ определяется как

[TABLE]

Напомним, что здесь и ниже подразумевается сильная сходимость. Бесконечному множеству $P\subset{\mathbf{Z}}$ и ${\mathbf{Z}}$-действию, порожденному автоморфизмом $T$, отвечает группа

[TABLE]

Таким образом, автоморфизму сопоставляется континульное семейство $P$-гомоклинических групп. Тривиальность, нетривиальность и эргодичность этих групп являются метрическими инвариантами автоморфизма $T$. В качестве примера, показывающего содержательность таких инвариантов, приведем утверждение, которое докажем позже.

**Теорема 1. ***Для любых бесконечных множеств $C^{\prime},D^{\prime}\subset{\mathbf{N}}$ найдутся бесконечные подмножества $C\subset C^{\prime}$, $D\subset D^{\prime}$ и слабо перемешивающие автоморфизмы $S,T$ такие, что группы $H_{C}(S)$, $H_{D}(T)$ эргодичны, а группы $H_{C}(T)$, $H_{D}(S)$ тривиальны. При этом $WH(S)$ и $WH(T)$ эргодичны. *

Для действия $\{T_{g}\}$ локально-компактной группы $G$ и ее бесконечного подмножества $P\subset G$ аналогичным образом определяется $P$-гомоклиническая группа. Заметим, что $H(\{T_{g}\})=H_{G}(\{T_{g}\})$. Для действия Ледрапье группа $H_{{\mathbf{Z}}^{2}}(\{T_{g}\})$ тривиальна, хотя $H_{P}(\{T_{g}\})$ эргодичны для некоторых бесконечных подмножеств $P$, например, для одномерных подгрупп в ${\mathbf{Z}}^{2}$.

В статье установлены:

(§2) траекторная полнота $P$-гомоклинических групп, их связь с с факторами действия, К-свойством, слабым кратным перемешиванием;

(§3) эргодичность слабо гомоклинических групп гауссовских и пуассоновских действий;

(§4) тривиальность слабо гомоклинических групп для классов действий ранга 1.

В §5 обсуждаются нерешенные задачи. Неопределяемые понятия см., например, в [9].

2 Полнота гомоклинических групп, факторы действия,

К-свойство и кратное перемешивание

Полная группа $[S]$ автоморфизма $S$ по определению состоит из автоморфизмов $R$ таких, что для некоторой измеримой целочисленной функции $p(x)$ выполняется $R(x)=S^{p(x)}$ (о траекторной теории и полных группах см. [10]). Полной группой $[\{S_{g}\}]$ группового действия $\{S_{g}\}$ называем группу, порожденную всеми полными группами $[S_{g}]$. Если эргодическое действие полно, то оно содержит эргодический автоморфизм. Наиболее просто найти такой автоморфизм с рационально-дискретным спектром. По известной теореме Дая полная группа эргодического автоморфизма содержит изоморфные копии всех эргодических автоморфизмов.

**Теорема 2. **Группа $H_{P}(\{T_{g}\})$ является полной группой:

[TABLE]

*Аналогичное утверждение верно для группы $WH(T)$. *

**Следствие. ***Если группы $H_{P}(T)$, $WH(T)$ эргодичны, то они с точностью до сопряжения содержат все эргодические автоморфизмы. *

Доказательство теоремы становится очевидным, если воспользоваться следующей интерпретацией: условие $T_{g(i)}^{-1}ST_{g(i)}\to I$ эквивалентно тому, что график функции $S:X\to X$ под действием последовательности отображений $T_{g(i)}\times T_{g(i)}$ притягивается к диагонали в $X\times X$. Это следует понимать так: для любого измеримого разбиения $X=\bigsqcup_{k}E_{k}$ график функции $S$ под действием $T_{g(i)}\times T_{g(i)}$ асимптотически оказывается внутри $D=\bigsqcup_{k}(E_{k}\times E_{k})$. Формально говоря, мера проекции той части графика функции $S$ на сомножитель $X$, что не попала в $D$, стремится к 0. Сказанное верно для всех степеней автоморфихма $S$.

Если график притягивается к диагонали, то части графика тоже притягиваются. Поэтому график, составленный из кусков графиков функций $S^{p}$, притягивающихся к диагонали, также будет притягиваться к диагонали. Но это эквивалентно утверждению теоремы в случае групп $H_{P}(T)$. Для $WH(T)$ рассуждения аналогичны. Теорема доказана.

Фактором преобразования $T$ называется его ограничение на инвариантную $\sigma$-алгебру.

**Теорема 3. ***Если действие $\{T_{g}\}$ коммутативно и не имеет факторов, то либо группа $H_{P}(\{T_{g}\})$ эргодична, либо тривиальна: $H_{P}(\{T_{g}\})=\{I\}$. Аналогичное утверждение верно для группы $WH(T)$. *

Доказательство. Пусть для всех $S$ из $H_{P}(\{T_{g}\})$ выполнено $SA=A$. Заметим, что $T_{g}^{-1}ST_{g}\in H_{P}(T)$. Действительно,

[TABLE]

(здесь мы воспользовались коммутативностью действия). Тогда имеем

[TABLE]

Значит, $\sigma$-алгебра неподвижных множеств относительно действия $H_{P}(T)$ является инвариантной относительно $T$. Из этого непосредственно вытекает утверждение теоремы.

К-автоморфизмом является автоморфизм, не имеющий фактора с нулевой энтропией, по тереме Синая [11] он имеет бернуллиевский фактор.

**Теорема 4. **Для К-автоморфизма $T$ группа $H(T)$ является эргодической.

Доказательство. Пусть $H(T)=H_{{\mathbf{Z}}}(T)$ не является эргодической. Тогда алгебра ${\cal F}$ неподвижных относительно $H(T)$ множеств в силу доказанного есть фактор автоморфизма $T$. Этот фактор нетривиальный, поэтому по тереме Синая он имеет бернуллиевский подфактор $T^{\prime}$, действующий на подадгебре ${\cal F}^{\prime}\subset{\cal F}$. В силу теоремы Рохлина автоморфизм $T$ можно представить как косое произведение над $T^{\prime}$, поэтому каждый гомоклинический элемент $S^{\prime}$ для $T^{\prime}$ продолжается до гомоклинического преобразования $S\in H(T)$, где косое произведение $S$ есть расширение $S^{\prime}$ с тождественным преобразованием в слоях. Но у бернуллиевского $T^{\prime}$ группа $H(T^{\prime})$ эргодична. Получили, что ${\cal F}^{\prime}$ не содержит нетривиальных элементов, неподвижных относительно действия группы $H(T)$. Противоречие показывает, что алгебра ${\cal F}$ должна быть тривиальной, т.е. $H(T)$ эргодична, что и требовалось.

**Контрпример Ф. Ледрапье. **Как мы знаем, эргодичность гомоклинической группы действия влечет за собой свойство кратного перемешивания [3]. Рассмотрим перемешивающее ${\mathbf{Z}}^{2}$-действие Ледрапье $\{T_{z}\}$, для которого выполняется

[TABLE]

причем

[TABLE]

Покажем, следуя С.В. Тихонову, как отсюда вытекает тривиальность гомоклинической группы.

Пусть $S$ принадлежит гомоклинической группе действия $H(\{T_{z}\})$. Тогда из леммы 4.2 [3] получим

[TABLE]

В [8] показано, что в этом случае

[TABLE]

Следовательно, $\mu(SA\,\triangle\,A)\to 0$, $SA=A$. Тогда $ST_{z}A=T_{z}A$, т.е. $S$ является тождественным на всей алгебре, порожденной множествами $T_{z}A$. Таким образом, мы установили, что $S=I$, $H(\{T_{z}\})=\{I\}$.

Как устроена слабо гомоклиническая группа действия Ледрапье, мы не знаем, хотя многие $H_{P}$ группы ($P\subset{\mathbf{Z}}^{2}$) этого действия являются эргодическими.

3 Слабо гомоклинические группы гауссовских и пуассоновских действий

В теории представлений и эргодической теории хорошо известны гауссовские и пуассоновские действия (см. [3],[5],[9], [12] –[15]). Первые возникают благодаря представлению ортогональной группы $O(\infty)$ в группе автоморфизмов пространства ${\mathbf{R}}^{\infty}$ с гауссовской мерой, а вторые (пуассоновские надстройки) – действию группы автоморфизмов бесконечного пространства с мерой на пространстве конфигураций с мерой Пуассона. Автоморфизму $T$ стандартного бесконечного пространства с мерой соответствуют и пуассоновская надстройка $P(T)$ и гауссовскай автоморфизм $G(T)$ (здесь $T$ рассматривается как ортогональный оператор в соответствующем пространстве $L_{2}$). Автоморфизмы $P(T)$ и $G(T)$ унитарно эквивалентны оператору

[TABLE]

где $T^{\odot 0}$ – одномерный тождественный оператор, $T^{\odot n}$ – симметрическая тензорная степень оператора $T$. При этом они могут обладать разными метрическими свойствами: некоторые пуассоновские действия не имеют собственных факторов [15], но все гауссовские системы обладают континуальной структурой факторов (см. [16]).

**Теорема 5. **Слабо перемешивающие гауссовские и пуассоновские системы обладают эргодической слабо гомоклинической группой.

Доказательство. Сперва рассмотрим случай гауссовского действия. Обозначим через $F$ группу ортогональных операторов в $l_{2}$, которые сопряжены операторам вида $S=I+K$, где $K$ – конечномерный оператор ($\|K\|\leq 2$).

Пусть оператор $U\in O(\infty)$ имеет непрерывный спектр. Покажем, что $F\subset WH(U)$. Так как $U\otimes U$ также имеет непрерывный спектр, при $\ N\to\infty$ выполняется

[TABLE]

Следовательно, для любых векторов $f,g$ имеем

[TABLE]

Пусть $\pi$ обозначает ортопроекцию на конечномерное пространство $ImK$ – образ оператора $K$. Выберем базис $\{g_{k}\}$ в $ImK$. В силу (1) выполняется

[TABLE]

что с учетом конечности базиса влечет за собой

[TABLE]

Тогда

[TABLE]

следовательно,

[TABLE]

Этим мы установили сильную сходимость

[TABLE]

Известно, что группа $F$ плотна в $O(\infty)$ в сильной операторной топологии (это вытекает, например, из того факта, что любая матрица размера $n\times n$ вкладывается нужным образом в ортогональную матрицу размера $2n\times 2n$). Действие $G(O(\infty))$ эргодично, следовательно, эргодично действие $G(F)$. Но из $F\subset WH(U)$ вытекает, что

[TABLE]

Таким образом, слабо гомоклиническая группа гауссовского действия $G(U)$ содержит эргодическую подгруппу, значит, она эргодична.

Теперь рассмотрим пуассоновские действия. Теперь обозначим через $F$ группу всех финитных автоморфизмов, т. е. автоморфизмов $S$, совпадающих с тождественным автоморфизмом на бесконечном пространстве $(X,\mu)$ кроме множества $suppS$ конечной меры. Пусть $T$ – автоморфизм пространства $(X,\mu)$ такой, что оператор $T$, ему соответствующий, имеет непрерывный спектр. Сказанное равносильно отсутствию у $T$ собственного значения 1. В этом случае имеем

[TABLE]

Иначе ненулевой слабый предел для множества векторов $\frac{1}{N}\sum_{1}^{N}T^{i}f$ в силу усреднения будет неподвижным вектором относительно $T$, что мы запрещаем. Положив $f=\chi_{A},g=\chi_{B}$ для множеств $A,B$ конечной меры, получим

[TABLE]

Следовательно,

[TABLE]

[TABLE]

Получили

[TABLE]

для индикаторов $f$ множеств конечной меры, значит, это верно для всех $f\in L_{2}$. Установлено, что $S\in WH(T)$, а в силу непрерывности пуассоновского вложения $P$ имеем $P(S)\in WH(P(T)).$ Так как $F$ плотна в $Aut(X,\mu)$, а действие $P(Aut(X,\mu))$ эргодично, группа $P(F)$ тоже эргодична. Таким образом, слабо гомоклиническая группа $WH(P(T))$ пуассоновского действия $P(T)$ эргодична. Теорема доказана.

Теперь мы можем доказать теорему 1. Для этого над понадобится следующее утверждение.

**Теорема 6. **Для любых бесконечных множеств $C^{\prime},D^{\prime}\subset{\mathbf{N}}$ найдутся бесконечные множества $C\subset C^{\prime}$ и $D\subset D^{\prime}$ и бесконечные эргодические автоморфизмы $\bar{S},\bar{T}$ такие, что

$\bar{S}^{i}\to 0$* и $\bar{T}^{i}\to I$ при $i\to\infty,i\in C$, $\bar{S}^{i}\to I$ и $\bar{T}^{i}\to 0$ при $i\to\infty,i\in D$ *

Доказательство. Cтроим конструкции $\bar{S}$ и $\bar{T}$ ранга 1 (определение и обозначение параметров см. в [3]) так, чтобы высоты башен $h_{j}$ у них были одинаковыми (это условие не обязательно, но удобно). Полагаем $r_{j}\to\infty$.

На нечетном этапе $j$ у конструкции $\bar{T}$ все надстройки, кроме последней, имеют одинаковую высоту $s_{j}>h_{j}$, причем $h_{j}+s_{j}\in C^{\prime}$, а у конструкции $\bar{S}$ все надстройки, кроме последней, пусть имеют высоту высоту $2s_{j}$. Учитывая, что $r_{j}\to\infty$, получим $\bar{T}^{h_{j}+s_{j}}\to I$ и $\bar{S}^{h_{j}+s_{j}}\to 0$, если $j$ пробегает нечетные числа. Множество значений $h_{j}+s_{j}$ для нечетных $j$ есть искомое $C$.

Надстройки над последними колоннами выбираются так, чтобы высоты $h_{j+1}$ для обеих конструкций совпадали. Например, для конструкции $\bar{S}$ положим $s_{j}(r_{j})=0$, а для конструкции $\bar{T}$ пусть $s_{j}(r_{j})=s_{j}(r_{j}-1)$.

На четном этапе $j$ у конструкции $\bar{S}$ все надстройки, кроме последней, имеют одинаковую высоту $s_{j}>h_{j}$, $h_{j}+s_{j}\in D^{\prime}$, а у $\bar{T}$ все надстройки, кроме последней, имеют высоту высоту $2s_{j}$. При $r_{j}\to\infty$ имеем $\bar{S}^{h_{j}+s_{j}}\to I$ $\bar{T}^{h_{j}+s_{j}}\to 0$, когда $j$ пробегает четные числа. Значения $h_{j}+s_{j}$ для четных $j$ образуют требуемое множество $D$. Надстройки над последними колоннами выбираются так, чтобы высоты $h_{j+1}$ у них совпадали. Теорема доказана.

Доказательство теоремы 1. Пользуясь теоремой 6, положим $S=P(\bar{S})$, $T=P(\bar{T})$. Имеем $F\subset H_{C}(S)$ и $F\subset H_{D}(T)$, следовательно, группы $H_{C}(S)$, $H_{D}(T)$ эргодичны. Группы $H_{C}(T)$, $H_{D}(S)$ тривиальны, так как $T\to I$ при $i\to\infty,i\in C$ и $S\to I$ при $i\to\infty,i\in D$. Таким образом, пуассоновские надстройки (аналогично гауссовские) дают нужные примеры, теорема 1 доказана.

**Слабое кратное перемешивание. **Чтобы упростить изложение, будем рассматривать только перемешивание порядка 2. Для более высоких порядков все совершенно аналогично. Говорят, что слабо перемешивающий автоморфизм $G$ вероятностного пространства обладает слабым кратным перемешиванием порядка 2, если из

[TABLE]

вытекает, что для любых измеримых множеств $A,B,C$ выполнено

[TABLE]

Если действие перемешивающее и обладает слабым кратным перемешиванием, то оно обладает кратным перемешиванием.

**Теорема 7. **Слабо перемешивающие гауссовские и пуассоновские системы обладают слабым кратным перемешиванием всех порядков.

Доказательство. Пусть для гауссовского автоморфизма $G=G(U)$ выполнено (2). Тогда имеем $U^{m_{i}},U^{n_{i}}\to 0.$ Для любого автоморфизма $S$ имеем

[TABLE]

[TABLE]

Пусть теперь $S\in G(F)$, где $F$ – группа операторов, рассмотренная в доказательстве теоремы 4. Так как $G(F)\subset H_{M}(T)\cap H_{N}(T)$, получим

[TABLE]

[TABLE]

Из этого с учетом того, что действие $G(F)$ эргодично, а из $G^{n_{i}-m_{i}}\to\Theta$ вытекает

[TABLE]

следует (3), см. [3], лемма 4.2.

Для пуассоновских надстроек рассуждаем аналогично: вместо оператора $U$ рассматриваем автоморфизм $T$ бесконечного пространства с мерой. Отвечающая ему пуассоновская надстройка $P=P(T)$ обладает теми же свойствами, что и гауссовский автоморфизм $G$. Роль группы $F$ теперь выполняет группа всех финитных автоморфизмов бесконечного пространства, см. доказательство теоремы 5. Таким образом, слабо перемешивающие пуассоновские действия обладают слабым кратным перемешиванием по тем же причинам, что и гауссовские: все гомоклинические группы $H_{\{m_{i}\}}$ при условии, что последовательность $\{m_{i}\}$ перемешивающая, содержат общую эргодическую подгруппу (надcтройку над группой $F$). Но это обеспечивает свойство кратного перемешивания. Теорема доказана.

4 Ранг действия и слабо гомоклиническая группа

Сохраняющее меру обратимое преобразование $T:X\to X$ пространства Лебега $(X,\mu)$ имеет ранг 1, если существует последовательность

[TABLE]

измеримых разбиений пространства $X$ таких, что любое множество конечной меры с заданной точностью аппроксимируется $\xi_{j}$-измеримыми множествами для всех больших значений $j$. Это понятие родственно циклической аппроксимации (без скорости аппроксимации), см. [17]. Перемешивающие конструкции ранга 1 появились в [18], они оказались полезны для построения разнообразных контрпримеров в эргодической теории [19]. Техника аппроксимаций самоприсоединений (self-joinings) почти инвариантными мерами позволила получить новые результаты о действиях конечного ранга, см. [20]. Как мы увидим, почти инвариантные меры весьма удобны для исследования гомоклинических групп действий ранга 1.

**Теорема 8. ***Если перемешивающий автоморфизм $T$ вероятностного пространства имеет ранг 1, то его слабо гомоклиническая группа тривиальна: $WH(T)=\{I\}$. *

Доказательство. Пусть $S\in WH(T)$. Положим

[TABLE]

Наша цель – установить, что $S=Id$. Для этого будет показано, что часть графика автоморфизма $S$, которая находится внутри множества $(U^{a}_{j}\times U^{a}_{j})$, $\frac{1}{2}<a<1$, асимптотически сосредоточена в околодиагональном множестве

[TABLE]

Но это возможно только в том случае, когда график автоморфизма $S$ является диагональю в $X\times X$, что нам и нужно.

Фиксируем $a$, $1<2a<2$. Переходя при необходимости к подпоследовательности по $j$ (обозначим ее снова через $j$) имеем

[TABLE]

Обозначим через $\Delta_{S}$ меру, для которой выполнено $\Delta_{S}(A\times B)=\mu(SA\cap B)$ для всех измеримых $A,B$. Пусть

[TABLE]

положим $M_{j}=[(1-a)h_{j}]$ и

[TABLE]

Тогда $\eta_{j}\to\Delta=\Delta_{Id},$ так как предельная точка для последовательности мер $\eta_{j}$ является $T\times T$-инвариантной мерой, абсолютно непрерывной относительно предела мер

[TABLE]

который равен $\Delta$, так как $S\in WH(T)$.

Представим

[TABLE]

где меры $\sigma_{j}^{p,q}$ определяются равенством

[TABLE]

Тогда

[TABLE]

где

[TABLE]

Если $A,B$ – $\xi_{j}$-измеримые множества, то

[TABLE]

где

[TABLE]

а $\Delta^{p,q}_{j}$ – нормированная часть меры $\Delta_{T^{p-q}}$, расположенная в объединении $\cup_{i=1}^{M_{j}}(T^{i+p}E_{j}\times T^{i+q}E_{j})$. Итак,

[TABLE]

[TABLE]

Но почти инвариантные меры $\Delta^{p,q}_{j}$ близки к $\Delta$ только при $p=q$, так как в силу свойства перемешивания при большом $M$ и $|p-q|\geq M$ меры $\Delta_{T^{p-q}}$ и их почти инвариантные части близки к мере $\mu\times\mu$. А при $0\neq|m|<M$ меры $\Delta_{T^{m}}$ и с ними $\Delta^{p,p+m}_{j}$ отделены от меры $\Delta$. Таким образом, для любого положительного числа $a<1$ меры $(U^{a}_{j}\times U^{a}_{j})\Delta_{S}$ асимптотически сосредоточены в околодиагональных множествах

[TABLE]

Это возможно, только в случае, когда $\Delta_{S}=\Delta$, т.е. $S=Id$. Теорема доказана.

В конце доказательства теоремы 8 мы использовали свойство перемешивания. Что меняется, если его не предполагать? Мы получим, что части $\Delta^{p(j),q(j)}_{j}$ сдвигов диагональной меры близки к $\Delta$, поэтому имеет место следующее утверждение:

Если автоморфизм $T$ вероятностного пространства имеет ранг 1 и его слабо гомоклиническая группа нетривиальна, то он обладает свойством частичной жесткости с показателем $\frac{1}{2}$: т. е. для некоторой последовательности $m(i)\to\infty$ и некоторого марковского оператора $P$ выполняется

[TABLE]

Причина, по которой получается коэффициент $\frac{1}{2}$, состоит в том, что условие $\Delta_{S}(U^{a}_{j}\times U^{a}_{j})>c>0$ гарантированно выполняется при $a>\frac{1}{2}$. Но, если предположить, что $S$ – апериодический автоморфизм, для любого $a>0$ найдется $k>0$ такое, что для бесконечного набора $j$ выполнено

[TABLE]

Из этого мы получаем, что $T$ обладает свойством частичной жесткости с показателем $1-a$, но в силу произвольности $a$ получаем показатель 1, т.е. $T$ является жестким автоморфизмом. Тем самым доказано следующее утверждение.

**Теорема 9. ***Если автоморфизм вероятностного пространства $T$ имеет ранг 1 и его слабо гомоклиническая группа $WH(T)$ содержит апериодический автоморфизм, то $T$ является жестким: $T^{m(j)}\to I$ для некоторой последовательности $m(j)\to\infty$. *

Таким образом, ограниченные нежесткие конструкции ранга 1 (см. [22]), не обладают эргодической слабо гомоклинической группой. Как следствие мы получили гомоклиническое доказательство утверждения из [15]: если пуассоновская надстройка обладает рангом 1, то она жесткая.

**Локальный ранг. **Укажем на некоторую связь слабо гомоклинических групп с локальным рангом (об этом инварианте см., например, [21]). Пусть $T$ - автоморфизм стандартного пространства Лебега $(X,\mu)$, $\mu(X)=1$. Пусть для числа $\beta>0$ существует последовательность $\xi_{j}$ разбиений $X$ вида

[TABLE]

стремящаяся к разбиению на точки, назовем ее аппроксимирующей, причем  $\mu(U_{j})\to\beta$, где $U_{j}=\bigsqcup_{0\leq k<h_{j}}T^{k}B_{j}$.

Локальный ранг $\beta(T)$ определяется как максимальное число $\beta$ для которого автоморфизм $T$ обладает соответствующей последовательностью аппроксимирующих разбиений.

**Теорема 10.**Если эргодический автоморфизм $T$ не является частично жестким с показателем жесткости $\beta(T)$ и $\beta(T)>0$, то группа $WH(T)$ тривиальна.

Доказательство этого утверждения мало отличается от доказательства теоремы 9, оставляем его в качестве упражнения.

5 Заключительные замечания и вопросы.

Сформулируем несколько вопросов, возникающих в связи с полученными результатами.

1. Понятие $P$-гомоклинических групп без изменений переносится в топологическую динамику, где хорошо известны аналоги свойств эргодичности, ранга, перемешивания, кратного перемешивания, энтропии. Контрпримеры к топологическому кратному перемешиванию (см. [23], [24]) показывают, что гомоклинические группы соответствующих действий не обладают свойством минимальности (аналогом эргодичности). Свойства гомоклинических групп могут представить некоторый интерес в изучении топологических инвариантов непрерывных отображений. Верно ли, что гомеоморфизм компакта с положительной топологической энтропией обладает нетривиальной гомоклинической группой?

2. Какие структуры гомоклинических групп возможны? Например, бывают ли нетривиальные гомоклинические группы, являющиеся полной группой периодического преобразования? Есть ли слабо перемешивающий автоморфизм, у которого все $P$-группы тривиальны? Мы знаем, что таким свойством обладают автоморфизмы с дискретным спектром.

3. Если гомоклиническая группа одного действия тривиальна, а другого зргодична, будут ли они дизъюнктны: марковский оператор, сплетающий эти действия, совпадает с ортопроекцией на пространство констант? Как связана гомоклиническая группа действия с гомоклиническими группами ее факторов? Бернулиевские факторы могут порождать действие с неэргодической гомоклинической группой.

4. Верно ли, что действия с бедной структурой самоприсоединений (например, с минимальными самоприсоединениями, см. [19]) имеют тривиальную слабо гомоклиническую группу? В случае перемешивающих действий ранга 1 это так. Для неперемешивающих систем также имеются соответствующие примеры: вполне эргодические нежесткие ограниченные конструкции ранга 1 обладают минимальными самоприсоединениями (см. [22]), а их слабо гомоклиническая группа тривиальна в силу теоремы 7. Потоками бесконечного ранга с тривиальной слабо гомоклинической группой являются унипотентные потоки (следствие результатов [4]).

5. Что можно сказать про гомоклинические группы слабо перемешивающего жесткого автоморфизма $T$ ранга 1 или положительного локального ранга? Может ли некоторая группа $H_{P}(T)$ быть эргодической? Если слабо гомоклиническая группа такого автоморфизма всегда неэргодична, то это дало бы другое доказательство теоремы [25] о том, что гауссовские автоморфизмы не обладают рангом 1, и аналогичный, но новый результат про пуассоновские надстройки.

Список литературы

• [1] M.I. Gordin. A homoclinic version of the central limit theorem. J. Math. Sci. 68 (1994), 451-458.
• [2] J.L. King. On M. Gordin’s homoclinic question.  Internat. Math. Res. Notices No. 5 (1997), 203-212.
• [3]

В.В. Рыжиков. Эргодические гомоклинические группы, сидоновские конструкции и пуассоновские надстройки. Тр. ММО, 75, № 1, МЦНМО, М., 2014, 93-103

• [4] M. Ratner. Raghunathan’s topological conjecture and distributions of unipotent flows. Duke Math. J. Vol. 63:1 (1991), 235-280.
• [5] E. Roy. Poisson suspensions and infinite ergodic theory, Ergod. Th. Dynam. Sys., 29 (2009), 667-683
• [6] В.П. Леонов. Применение характеристического функционала и семиинвариантов к эргодической теории стационарных процессов. Докл. АН СССР, 133:3 (1960), 523-526
• [7] F. Ledrappier, Un champ markovien peut etre d’entropie nulle et melangeant, C. R. Acad. Sci. Paris Sé r. A, 287:7 (1978), 561-563
• [8] С. В. Тихонов, Об отсутствии кратного перемешивания и централизаторе сохраняющих меру действий, Матем. заметки, 97:4 (2015), 636-640
• [9] И.П. Корнфельд, Я.Г. Синай, С.В. Фомин. Эргодическая теория. Наука, М., 1980
• [10] А. М. Вершик. Общая эргодическая теория групп преобразований с инвариантной мерой. Гл. 5. Траекторная теория. Динамические системы – 2, Итоги науки и техн. Сер. Соврем. пробл. мат. Фундам. направления, 2, ВИНИТИ, М., 1985, 89-106
• [11] Я. Г. Синай. О слабом изоморфизме преобразований с инвариантной мерой. Матем. сб., 63(105):1 (1964), 23-42
• [12] А. М. Вершик. Общая теория гауссовских мер в линейных пространствах. Заседания Ленинградского математического общества, УМН, 19:1(115) (1964), 210-212
• [13] Р. С. Исмагилов, Об унитарных представлениях группы диффеоморфизмов пространства $R^{n},n\geq 2$. Матем. сб., 98(140):1(9) (1975), 55-71
• [14] Ю.А. Неретин. О соответствии между бозонным пространством Фока и пространством $L^{2}$ по мере Пуассона. Матем. сб., 188:11 (1997), 19-50
• [15] F. Parreau, E. Roy. Prime Poisson suspensions. Ergod. Th. Dynam. Sys., 35 (2015), no. 7, 2216–2230
• [16] В.В. Рыжиков, Ж.-П. Тувено. Дизъюнктность, делимость и квазипростота сохраняющих меру действий. Функц. анализ и его прил., 40:3 (2006), 85-89
• [17] А. Б. Каток, А. М. Степин. Аппроксимации в эргодической теории, УМН, 22:5(137) (1967), 81-106
• [18] D. Ornstein. On the Root Problem in Ergodic Theory. In: Proc Sixth Berkeley Symp Math Stat Probab. University of California Press, Berkley (1972), 347-356
• [19] D. Rudolph. An example of measure-preserving map with minimal self-joinings, and applications. J. d’Analyse Math., 35 (1979), 97-122
• [20] В.В. Рыжиков. Джойнинги и кратное перемешивание действий конечного ранга. Функц. анализ и его прил., 27:2 (1993), 63-78
• [21] В.В. Рыжиков. Локальный ранг эргодической симметрической степени $T^{\odot n}$ не превосходит $n!n^{-n}$. Функц. анализ и его прил., 47:1 (2013), 92-96
• [22] В.В. Рыжиков. Ограниченные эргодические конструкции, дизъюнктность и слабые пределы степеней. Тр. ММО, 74, № 1, МЦНМО, М., 2013, 201-208
• [23] F.M. Dekking, M. Keane. Mixing Properties of Substitutions. Z. Wahrscheinlichkeitstheorie verw. Gebiete. 42 (1978), 23-33
• [24] S. Goodman, B. Marcus. Topological Mixing of Higher Degrees. Proc. Amer. Math. Society. 72:3 (1978), 561-565
• [25] Th. de la Rue. Rank of Gaussian dynamical systems. Isr. J. Math. 104 (1998), 261-283.

Московский государственный университет

E-mail: vryz@mail.ru