Heat equation, Dirichlet problem, Laplace equation and randomized probability density

TL;DR

This paper explores the relationship between randomized probability densities of normal and Cauchy distributions and their connection to heat and Laplace equations, analyzing their Fisher information and solving associated differential equations.

Contribution

It establishes a novel link between randomized densities and classical PDEs, deriving Fisher information components and solving complex differential equations for these distributions.

Findings

Fisher information matrix components were derived for both distributions.

The study identified nonlinear differential equations related to the densities.

Inequalities ensuring positive definiteness of the Fisher information matrix were established.

Abstract

In the present study examines the statistical structure of the generated randomized density of the normal distribution and the Cauchy distribution. The study put the allegation that a randomized probability density of the normal distribution can be regarded as the solution of the Cauchy problem for the heat equation, and randomized probability density of the Cauchy distribution can be considered as a solution to the Dirichlet problem for the Laplace equation. Conversely, the solution of the Cauchy problem for the heat equation can be regarded as a randomized probability density of the normal distribution, and the solution of the Dirichlet problem for the Laplace equation as randomized probability density of the Cauchy distribution. The main objective of the study was the fact that for each of these two cases to find the Fisher information matrix components and structural tensor. We found nonlinear differential equations of the first, second and third order for the density of the normal distribution and Cauchy density computational difficulties to overcome . The components of the metric tensor (the Fisher information matrix) and the components of the strain tensor are calculated according to formulas in which there is the log-likelihood function, ie, logarithm of the density distribution. Because of the positive definiteness of the Fisher information matrix obtained inequality, which obviously satisfy the Cauchy problem solution with nonnegative initial conditions in the case of the Laplace equation and the heat equation.

Equations

$$({\bar{\nabla }}_{x}g(y,z)={\bar{\nabla }}_{y}g(x,z)$$

$$\varphi_{2}(p)=\left({\begin{array}[]{*{20}{c}}\frac{\alpha}{1-\alpha}p^{\frac{1-\alpha}{\alpha}},\alpha\neq 1\\ {\ln p},\alpha=1\end{array}}\right)$$

$$g_{ij}(\theta )=\int {\partial }_i\ln p\cdot {\partial }_j\ln p\cdot pd\xi$$

$$T_{ijk}(\theta )=-\frac{1}{2}\int {\partial }_i\ln p\cdot {\partial }_j\ln p\cdot {\partial }_k\ln p\cdot d\xi$$

$$\{\begin{array}{ll}{u}_t(x,t)-u_{xx}(x,t)=0& (x,t)\in \mathbf{R}\times (0,\infty )\\ u(x,0)=f(x)& \end{array}$$

$$\Phi (x,t)=\frac{1}{2\sqrt{\pi t}}\exp \left(-\frac{x^2}{4t}\right)$$

$$u(x,t)=\int \Phi (x-\xi ,t)f(\xi )d\xi .$$

$$h(t,x-\xi )=2\sqrt{\pi t}\Phi (x-\xi ,t)=e^{-\frac{(x-\xi {)}^2}{4t}}.$$

$$\frac{h_t^{\prime }{h}_t^{\prime }}{h}=h_{tt}^{\prime \prime }+\frac{2}{t}{h}_t^{\prime },\frac{h_x^{\prime }{h}_x^{\prime }}{h}=h_{xx}^{\prime \prime }+\frac{1}{2t}h,\frac{h_t^{\prime }{h}_x^{\prime }}{h}=h_{tx}^{\prime \prime }+\frac{1}{t}{h}_x^{\prime }.$$

$$h_x^{\prime }=-\frac{x-\xi }{2t}h,h_x^{\prime }{h}_x^{\prime }=\frac{(x-\xi {)}^2}{4t^2}{h}^2.$$

$$h_{xx}^{\prime \prime }=-\frac{1}{2t}h+\frac{(x-\xi {)}^2}{4t^2}h,\frac{h_x^{\prime }{h}_x^{\prime }}{h}=h_{xx}^{\prime \prime }+\frac{1}{2t}h,$$

$$h_t^{\prime }=\frac{(x-\xi {)}^2}{4t^2}h,h_t^{\prime }{h}_t^{\prime }={\left(\frac{(x-\xi {)}^2}{4t^2}\right)}^2{h}^2,$$

$$h_{tt}^{\prime \prime }=-\frac{(x-\xi {)}^2}{2t^3}h+{\left(\frac{(x-\xi {)}^2}{4t^2}\right)}^{2}h.$$

$$\frac{h_t^{\prime }{h}_t^{\prime }}{h}=h_{tt}^{\prime \prime }+\frac{2}{t}{h}_t^{\prime }.$$

$$\frac{h_t^{\prime }{h}_x^{\prime }}{h}=h_{tx}^{\prime \prime }+\frac{1}{t}{h}_x^{\prime }.$$

$$\frac{h_x^{\prime 3}}{h^2}=h_{xxx}^{\prime \prime \prime }+\frac{3}{2t}{h}_x^{\prime }$$

$$\frac{h_x^{\prime 2}{h}_t^{\prime }}{h^2}=h_{xxt}^{\prime \prime \prime }+\frac{2}{t}{h}_{xx}^{\prime \prime }+\frac{1}{2t}{h}_t^{\prime }+\frac{1}{2t^2}h$$

$$\frac{h_t^{\prime 3}}{h^2}=h_{ttt}^{\prime \prime \prime }+\frac{6}{t}{h}_{tt}^{\prime \prime }+\frac{6}{t^2}{h}_t^{\prime }$$

$$\frac{h_t^{\prime 2}{h}_x^{\prime }}{h^2}=h_{xtt}^{\prime \prime \prime }+\frac{4}{t}{h}_{tx}^{\prime \prime }+\frac{2}{t^2}{h}_x^{\prime }$$

$$p(\xi ,x,t)=\frac{h(t,x-\xi )f(\xi )}{2\sqrt{\pi t}u(t,x)}$$

$$g_{11}=(\ln u{)}_{xx}^{\prime \prime }+\frac{1}{2t}$$

$$g_{22}=(\ln u{)}_{tt}^{\prime \prime }+\frac{2}{t}(\ln u{)}_t^{\prime }+\frac{1}{2t^2}$$

$$g_{12}=(\ln u{)}_{xt}^{\prime \prime }+\frac{1}{t}(\ln u{)}_x^{\prime }$$

$$g_{11}=\int (\ln p{)}_x^{\prime }(\ln p{)}_x^{\prime }pd\xi =\int \left((\ln h{)}_x^{\prime }(\ln h{)}_x^{\prime }-2(\ln h{)}_x^{\prime }(\ln u{)}_x^{\prime }+(\ln u{)}_x^{\prime }(\ln u{)}_x^{\prime }\right)\frac{hf}{u}=$$

$$=\int \frac{h_x^{\prime }{h}_x^{\prime }}{h}\frac{f}{u}d\xi -2(\ln u{)}_x^{\prime }\int \frac{h_x^{\prime }f}{u}d\xi +(\ln u{)}_x^{\prime }(\ln u{)}_x^{\prime }$$

$$\int \frac{h_x^{\prime }f}{u}d\xi =\frac{u_x^{\prime }}{u}$$

$$\int \frac{h_x^{\prime }{h}_x^{\prime }}{h}\frac{f}{u}d\xi =\int \left(h_{xx}^{\prime \prime }+\frac{1}{2t}h\right)\frac{f}{u}d\xi =\frac{u_{xx}^{\prime \prime }}{u}+\frac{1}{2t}$$

$$g_{11}=(\ln u{)}_{xx}^{\prime \prime }+\frac{1}{2t}$$

$$g_{12}=\int (\ln p{)}_x^{\prime }(\ln p{)}_t^{\prime }pd\xi =\int ((\ln h{)}_x^{\prime }(\ln h{)}_t^{\prime }-(\ln h{)}_x^{\prime }(\ln \sqrt{t}u{)}_t^{\prime }-$$

$$-(\ln h{)}_t^{\prime }(\ln \sqrt{t}u{)}_x^{\prime }+(\ln \sqrt{t}u{)}_x^{\prime }(\ln \sqrt{t}u{)}_t^{\prime })\frac{hf}{\sqrt{t}u}=$$

Full text

Heat equation, Dirichlet problem, Laplace equation and randomized probability density

Oleg Yaremko,Alexander Abuzov, Dina Khotsyan

Oleg Yaremko,

iii Penza State Pedagogical University,

iii st. Krasnaya, 40

iii 440038, Penza, Russia

Alexander Abuzov,

iii Penza State Pedagogical University,

iii st. Krasnaya, 40

iii 440038, Penza, Russia

Dina Khotsyan,

iii Penza State Pedagogical University,

iii st. Krasnaya, 40

iii 440038, Penza, Russia

**Abstract ** In the present study examines the statistical structure of the generated randomized density of the normal distribution and the Cauchy distribution. The study put the allegation that a randomized probability density of the normal distribution can be regarded as the solution of the Cauchy problem for the heat equation, and randomized probability density of the Cauchy distribution can be considered as a solution to the Dirichlet problem for the Laplace equation. Conversely, the solution of the Cauchy problem for the heat equation can be regarded as a randomized probability density of the normal distribution, and the solution of the Dirichlet problem for the Laplace equation as randomized probability density of the Cauchy distribution. The main objective of the study was the fact that for each of these two cases to find the Fisher information matrix components and structural tensor. We found nonlinear differential equations of the first, second and third order for the density of the normal distribution and Cauchy density computational difficulties to overcome . The components of the metric tensor (the Fisher information matrix) and the components of the strain tensor are calculated according to formulas in which there is the log-likelihood function, ie, logarithm of the density distribution. Because of the positive definiteness of the Fisher information matrix obtained inequality, which obviously satisfy the Cauchy problem solution with nonnegative initial conditions in the case of the Laplace equation and the heat equation.

**Key words:**Fisher information matrix, structure tensor, random density,Poisson formula, Heat equation, Dirichlet problem, Laplace equation.

1. introduction

В настоящее время широко используются методы дифференциальной геометрии в исследовании информационных массивов (семейств вероятностных распределений пространств квантовых состояний, нейронных сетей и т.п.). Исследования по информационной геометрии восходят к статье С.Рао [1], где на основе фишеровской информационной матрицы была определена риманова метрика на многообразии распределений вероятностей. Дальнейшие исследования привели к понятию статистического многообразия как гладкого $n$ мерного многообразия на $M$ на котором задана метрически-аффинная структура $(g,\bar{\nabla})$, где $g$ -риманова метрика, а $\bar{\nabla}$-линейная связность без кручения., совместимая с метрикой $g$, т.е. для $g$ и $\bar{\nabla}$ выполняется условие Кодацци []

[TABLE]

для любых векторных $x,y,z$ на $M$. Такая метрически-аффинная структура называется статистической. Так как $\nabla=\bar{\nabla}+\bar{T}$ , где $\nabla$ связность Леви-Чевита метрики $g$, а $\bar{T}$ ее тензор деформации , то ковариантный тензор деформации $T(x,y,z)=g((T(x,y),z)$, в силу условия Кодацци, симметричен по своим аргументам. Таким образом статистическая структура определяется заданием на $M$ пары тензорных полей $(g,T)$.

Статистической моделью называется гладко параметризованное конечным числом действительных параметров $\theta^{i}(i=\bar{1,n})$ семейство $S$распределений вероятностей $P_{\theta}|\theta\in R^{n}$ случайной величины. Всякое распределение вероятностей $P_{\theta}$ случайной величины $\xi$ характеризуется своей плотностью $p(\xi|\theta)$ на выборочном пространстве $\Omega,\xi\in\Omega$ или некоторой функцией от $p$ из непрерывного 1 -параметрического семейства функций

[TABLE]

При $\alpha=1$получаем функцию правдоподобия $\varphi=\ln p$. В этом случае компоненты $g_{ij}$ метрического тензора $g$ (информационная матрица Фишера) и компоненты $T_{ijk}$ тензора деформации вычисляются по следующим формулам:

[TABLE]

[TABLE]

где $\partial_{i}=\partial/\partial\theta^{i}$.

2. Рандомизированная плотность нормального распределения и соответствующая статистическая структура

Рассмотрим уравнение теплопроводности с начальным условием

[TABLE]

где $f(x)$ начальное распределение температурного поля. Решение задачи Коши выражается через фундаментальное решение

[TABLE]

при помощи следующей формулы:

[TABLE]

Замечание. Если $f(\xi)$-некоторая плотность вероятности, то решение задачи Коши (1) можно интерпретировать как рандомизированную плотность [] нормального распределения с параметрами $(x,\sqrt{2t})$.

Обозначим

[TABLE]

Лемма 1**.**

Справедливы соотношения

[TABLE]

Доказательство.

[TABLE]

Тогда

[TABLE]

[TABLE]

[TABLE]

Значит,

[TABLE]

Аналогично,

[TABLE]

Лемма 2**.**

Выполняются следующие тождества

[TABLE]

[TABLE]

[TABLE]

[TABLE]

Доказательство. Достаточно продифференцировать по переменной $t$ или $x$ каждое из равенств в лемме 1.

Лемма 3**.**

Пусть функция $f(x)$ неотрицательна на действительной оси, а функция $u(t,x)$ определяется формулой (1), тогда функция

[TABLE]

является плотность распределения, здесь$\theta^{1}=x,\theta^{2}=t$- параметры семейства $S$ распределений вероятностей, $\xi$ -случайная величина на выборочном пространстве $R$.

Найдем статистическую структуру на $S$ в случае, когда $\varphi$ является функцией правдоподобия, т.е. $\varphi=\ln p$. В этом случае информационная матрица Фишера вычисляется явно.

Теорема 1**.**

Элементы информационной матрицы Фишера-компоненты метрического тензора $g$ имеют вид

[TABLE]

[TABLE]

[TABLE]

Доказательство. Вычислим информационную матрицу

[TABLE]

[TABLE]

По формулам () вычисляем слагаемые

[TABLE]

[TABLE]

В результате

[TABLE]

Аналогично

[TABLE]

[TABLE]

[TABLE]

[TABLE]

Точно так же

[TABLE]

[TABLE]

[TABLE]

Теорема 2**.**

Компоненты структурного тензора имеют вид

[TABLE]

[TABLE]

[TABLE]

[TABLE]

Доказательство.

[TABLE]

[TABLE]

[TABLE]

Применим лемму 2 и воспользуемся равенствами

[TABLE]

[TABLE]

Элементарными преобразованиями получим требуемую компоненту структурного тензора. Остальные компоненты вычисляются аналогично.

3. Рандомизированная плотность распределения Коши и статистическая структура

Рассмотрим задачу Дирихле для уравнения Лапласа для полуплоскости

[TABLE]

где $f(y)$ граничное значение. Решение задачи Дирихле выражается через фундаментальное решение

[TABLE]

при помощи следующей формулы:

[TABLE]

Замечание. Если $f(\xi)$-некоторая плотность вероятности, то решение задачи Дирихле (3) можно интерпретировать как рандомизированную плотность [] распределения Коши. Обозначим

[TABLE]

Лемма 4**.**

Плотность распределения Коши удовлетворяет нелинейным дифференциальным уравнениям второго порядка

[TABLE]

[TABLE]

[TABLE]

Доказательство. Имеем соотношения

[TABLE]

Тогда

[TABLE]

[TABLE]

[TABLE]

[TABLE]

Значит

[TABLE]

Аналогично

[TABLE]

Лемма 5**.**

Плотность распределения Коши удовлетворяет нелинейным дифференциальным уравнениям третьего порядка

[TABLE]

[TABLE]

[TABLE]

[TABLE]

Лемма 6**.**

Пусть функция $f(x)$ неотрицательна на действительной оси. тогда формула

[TABLE]

определяет плотность распределения.

Теорема 3**.**

Элементы информационной матрицы имеют вид

[TABLE]

[TABLE]

[TABLE]

Доказательство.

[TABLE]

[TABLE]

где $v=\frac{\pi}{x}u.$ По лемме вычисляем слагаемые

[TABLE]

[TABLE]

В результате находим

[TABLE]

Аналогично

[TABLE]

[TABLE]

[TABLE]

[TABLE]

[TABLE]

Теорема 4**.**

Компоненты структурного тензора имеют вид

[TABLE]

[TABLE]

[TABLE]

[TABLE]

Рассуждения проводятся по образцу теоремы 1 с использованием лемм 4,5,6.

4. Заключение

Нами проведено исследование статистических структур, порождаемых рандомизированными плотностями нормального распределения и распределения Коши. В основу исследования положено утверждение о том, что рандомизированную плотность вероятности нормального распределения можно рассматривать как решение задачи Коши для уравнения теплопроводности, а рандомизированную плотность вероятности распределения Коши можно рассматривать как решение задачи Дирихле для уравнения Лапласа. Обратно, решение задачи Коши для уравнения теплопроводности можно рассматривать как рандомизированную плотность вероятности нормального распределения, а решение задачи Дирихле для уравнения Лапласа как рандомизированную плотность вероятности распределения Коши. Для каждого из этих двух случаев мы нашли компоненты информационной матрицы Фишера и структурного тензора. Предложен новый метод вычисления этих компонент, основанный на выведенных нами нелинейных дифференциальных уравнениях первого, второго и третьего порядков для плотностей нормального распределения и плотности Коши. В качестве следствия из положительной определенности информационной матрицы Фишера, можно получить неравенства, которым заведомо удовлетворяют решения задачи Коши для уравнения теплопроводности с неотрицательным начальным условием и решения задачи Дирихле для уравнения Лапласа с неотрицательным краевым значением для случая уравнения Лапласа.

Список литературы

• [1] Линейные статистические методы и их применения Автор: Рао С.Р. Издательство: Наука Год издания: 1968 Страниц: 548
• [2] Норден А.П. Пространства аффинной связности (2-е изд.). М.: Наука, 1976, 432 с.
• [3] Marchenko, V. A. (2011), Sturm-Liouville operators and applications (2 ed.), Providence: American Mathematical Society
• [4] I. A. Kipriyanov,Lyakhov L.N., Raykhelgauz L.B.Singular Heat Equation with -Bessel Operator. Fundamental Solutions Journal of Mathematical Sciences V. 188, No. 3, 2013. pp. 283-293.
• [5] Samko, S.G., Kilbas, A.A. and Marichev, O.I., Fractional Integrals and Derivatives: Theory and Applications, Gordon and Breach, New York (1993).
• [6] Carslaw, H. S.; Jaeger, J. C. , Conduction of Heat in Solids (2nd ed.), 1959,Oxford University Press,
• [7] Evans, L.C. , Partial Differential Equations, American Mathematical Society,1998.
• [8] R. Courant, D. Hilbert, Methods of Mathematical Physics, vol II. Interscience (Wiley) New York, 1962.
• [9] Polyanin, A. D. and A. V. Manzhirov , Handbook of Mathematics for Engineers and Scientists, Chapman and Hall/CRC Press, 2007.
• [10] E. Mogileva, O. Yaremko, Hermite functions with discontinuous coefficients for the solution of fractal diffusion retrospective problems, International journal of applied mathematics and informatics,Issue 3, Volume 7, 2013, p.78-86.
• [11] O.E. Yaremko,Matrix integral Fourier transforms for problems with discontinuous coefficients and transformation operators, Reports Of Academy Of Sciences, Volume. 417, Issue 3, 2007, p. 323-325.
• [12] Bavrin I.I., Matrosov V.L., Jaremko O. E.(2006) Operators of transformation in the analysis, mathematical physics and Pattern recognition. Moscow, Prometheus, p 292.
• [13] O. Yaremko, V. Selutin, N. Yaremko,The Fourier Transform with Piecewise Trigonometric Kernels and its Applications, WSEAS transactions on mathematics, Volume 13, 2014, pp. 615-625/
• [14] O.E. Yaremko, Transformation operator and boundary value problems, Differential Equation. Vol.40, No. 8, 2004, pp.1149-1160