Даю некоторые разъяснения по поводу  приводимых ниже выкладок.

Система Вольтерра-Лотка, которую часто называют системой хищники-жертвы, описывает взаимодействие двух популяций - хищников (например, лисиц) и жертв (например, зайцев), которые живут по несколько разным "законам". Жертвы поддерживают свою популяцию за счет поедания природного ресурса, например, травы, что приводит к экспоненциальному росту численности популяции, если нет хищников. Хищники поддерживают свою популяцию за счет только "поедания" жертв. Поэтому, если популяция жертв исчезает, то вслед за этим популяция хищников экспоненциально убывает. Поедание хищниками жертв наносит ущерб популяции жертв, но в то же время дает дополнительный ресурс к размножению хищников. Такая система может быть записана в следующем виде:

$\dot{X_0}=\alpha X_0 - \beta X_0Y_0$                                                    (1)

$\dot{Y_0}=-\mu Y_0 + \nu X_0Y_0$                                                       (2)

Здесь $\alpha$ - коэффицент рождаемости жертв при отсутствии хищников, $\beta$ - коэффицент ущерба популяции жертв при случайной встрече хищника и жертвы, частота  которых пропорциональна произведению $X_0Y_0$. Коэффициент $\mu$ - коэффициент смертности хищников в отсутствии жертв, и, наконец, $\nu$ - коэффицент увеличения популяции за счет поедания хищниками жертв при их случайной встрече. 

В приводимом здесь отрывке статьи, которую мы заканчиваем с Мироновым Павлом, рассматривается задача исследования того, что будет происходить в такой системе, если имеется случайное воздействие на нее со стороны окружающей среды. Такое воздействие связано со случайными смертями жертв и хищников, не связанными с их взаимодействием между собой, поступлением особей из других ареалов обитания или их убыль за счет миграции из ареала и т.п. 

Интерес представляет анализ того, какой режим устанавливается в системе в среднем. Но основной вопрос, который нас интересовал, - это как выглядят уравнения для состояния с максимальной энтропией в такой системе и является ли устойчивым такое состояние. Дело в том, что согласно "термодинамической" точки зрения, состояния с максимальной энтропией должны являться устойчивыми и быть глобальным аттрактором, т.е все траектории системы в фазовом пространстве, где бы они не начинались, со временем  под действием случайных возмущений должны попадать в область траектории с максимальной энтропией. 

Здесь мы рассматривали часть проблемы. Ранее мы показали, что система (1)-(2) для усредненных по ансамблю объемов популяций и есть состояние с максимальной энтропией. Здесь же приведено решение задачи для возмущений "скрытых" параметров $U$ и $V$ в системе, которые определяют поведение коэффицента корреляции между флуктуациями объемов популяций. Коэффицент корреляции  при максимуме энтропии равен 0. Уравнения для $U$ и $V$ имеют вид уравнений для сопряженных функций по отношению к системе (1)-(2).  Здесь явно вычислены решения уравнений на возмущения "скрытых" переменных. Аналогичные решения существуют, как мы теперь знаем, и для флуктуаций объемов популяций. Эти формулы войдут в статью. Полный текст статьи будет выставлен позже.

$\frac{\dot{X_0}}{X_0}=\alpha-\beta Y_0$

$\frac{\dot{Y_0}}{Y_0}=-\mu +\nu X_0$

$\ddot{X_0}=\alpha \dot{X_0} - \beta \dot{X_0}Y_0 - \beta X_0\dot{Y_0}$

$\ddot{Y_0}=-\mu \dot{Y_0} + \nu \dot{X_0}Y_0 + \mu X_0\dot{Y_0}$

Уравнения для возмущений

$\dot{u}=-\alpha u + (\beta~u-\nu~v)Y_0$

$\dot{v}=\mu v + (\beta~u-\nu ~v) X_0$

$\displaystyle{u=\frac{p}{\dot{X_0}}},~~~~\display{u=\frac{q}{\dot{Y_0}}}}$

$\displaystyle{\frac{du}{dt}=\frac{\dot{p}}{\dot{X_0}}-\frac{p\ddot{X_0}}{(\dot{X_0})^2}}$

$\displaystyle{\frac{dv}{dt}=\frac{\dot{q}}{\dot{Y_0}}-\frac{q\ddot{Y_0}}{(\dot{Y_0})^2}}$

Подставляем в уравнения для $u$ и $v$. Получаем

$\displaystyle{\frac{\dot{p}}{\dot{X_0}}-\frac{p\ddot{X_0}}{(\dot{X_0})^2}}+\alpha \frac{p}{\dot{X_0}}-\left(\beta\frac{p}{\dot{X_0}}~-\nu~\frac{q}{\dot{Y_0}}\right)Y_0=0}$

$\displaystyle{\dot{p}-\frac{p\ddot{X_0}}{\dot{X_0}}}+\alpha~p-\left(\beta~p~-\nu~q\frac{\dot{X_0}}{\dot{Y_0}}\right)Y_0=0}$

$\displaystyle{\dot{p}-p\left(\alpha-\beta~Y_0 - \beta~X_0\frac{\dot{Y_0}}{\dot{X_0}}\right)+\alpha~p-\left(\beta~p~-\nu~q\frac{\dot{X_0}}{\dot{Y_0}}\right)Y_0=0}$

$\displaystyle{\dot{p}+\left(\beta~p~X_0\frac{\dot{Y_0}}{\dot{X_0}}+\nu~q~Y_0\frac{\dot{X_0}}{\dot{Y_0}}\right)=0}$

Второе уравнение

$\displaystyle{\frac{\dot{q}}{\dot{Y_0}}-\frac{q\ddot{Y_0}}{(\dot{Y_0})^2}}-\mu \frac{q}{\dot{Y_0}}-\left(\beta\frac{p}{\dot{X_0}}~-\nu~\frac{q}{\dot{Y_0}}\right)X_0=0}$

$\displaystyle{\dot{q}-\frac{q\ddot{Y_0}}{\dot{Y_0}}}-\mu~q-\left(\beta~p\frac{\dot{Y_0}}{\dot{X_0}}~-\nu~q.\right)X_0=0}$

$\displaystyle{\dot{q}-q\left(-\mu+\nu~X_0 + \nu~Y_0\frac{\dot{X_0}}{\dot{Y_0}}\right)-\mu~q-\left(\beta~p~\frac{\dot{Y_0}}{\dot{X_0}}-\nu~q\right)X_0=0}$

$\displaystyle{\dot{q}-\left(\beta~p~X_0\frac{\dot{Y_0}}{\dot{X_0}}+\nu~q~Y_0\frac{\dot{X_0}}{\dot{Y_0}}\right)=0}$

$$\begin{tabular}{|l|} \hline \displaystyle{\dot{p}+\left(\beta~p~X_0\frac{\dot{Y_0}}{\dot{X_0}}+\nu~q~Y_0\frac{\dot{X_0}}{\dot{Y_0}}\right)=0}\\ \displaystyle{\dot{q}-\left(\beta~p~X_0\frac{\dot{Y_0}}{\dot{X_0}}+\nu~q~Y_0\frac{\dot{X_0}}{\dot{Y_0}}\right)=0}\\ \hline\end{tabular}$$

$\dot{p}+\dot{q}=0$

$p+q=C_0$

$\displaystyle{\dot{p}+\left(\beta~X_0\frac{\dot{Y_0}}{\dot{X_0}}-\nu~Y_0\frac{\dot{X_0}}{\dot{Y_0}}\right)p+C_0\nu~Y_0\frac{\dot{X_0}}{\dot{Y_0}}=0}$

Дополнение.

Функции для возмущений объемов популяций: $X=X_0(t)+\xi(t)$ и $Y=Y_0(t)+\eta(t)$               $$\xi=h~\dot{X_0},~~~~\eta=g~\dot{Y_0}$$
    Тогда для первых двух уравнений системы $\xi$ и $\eta$ получаем:
    $$\dot{h}=\beta~\frac{X_0 \dot{Y_0}}{\dot{X_0}}\Big(h-g\Big)-\beta \frac{r}{\dot{X_0}},~~\dot{g}=\nu\frac{Y_0 \dot{X_0}}{\dot{Y_0}}\Big(h-g\Big)+\nu\frac{r}{\dot{Y_0}}.$$

Для случая $r=0$ вычитаем два эти уравнения. Получаем:

$$\frac{d}{dt}(h-g)=\left[\beta~\frac{X_0 \dot{Y_0}}{\dot{X_0}}-\nu\frac{Y_0 \dot{X_0}}{\dot{Y_0}}\right]\Big(h-g\Big)$$

Отсюда находим:

$$h-g=A\exp\left[\beta~\frac{X_0 \dot{Y_0}}{\dot{X_0}}-\nu\frac{Y_0 \dot{X_0}}{\dot{Y_0}}\right]$$

Показатель экспоненты в этом соотношении тот же, что и для $p$ и $q$, но с обратным знаком. Поэтому находим:

$$h=g+A\frac{X_0Y_0}{\dot{Y_0}\dot{X_0}}.$$

Подставляя это соотношение в уравнения для $h$ и $g$ и поочередено исключая их, находим, что решения однородной системы уравнений (при $r=0$) имеют следующий вид:
    $$h= A\left[\frac{X_0Y_0}{\dot{Y_0}\dot{X_0}}+\nu~M(t)\right]+B\equiv~-A\beta~N(t)+B,$$

      $$g = -A\left[\frac{X_0Y_0}{\dot{Y_0}\dot{X_0}}+\beta~N(t)\right]+B\equiv~A\nu~M(t)+B.$$
    Здесь функции $M(t)$ и $N(t)$ определены  соотношениями
    $$M(t)=\int X_0\frac{Y^2_0}{(\dot{Y_0})^2}dt$$ и

    $$N(t)=\int Y_0\frac{X^2_0}{(\dot{X_0})^2}dt$$

    При $r\not=0$ с помощью метода вариации постоянных находим:
    $$A=A_0+\int\frac{\beta\dot{Y_0}+\nu\dot{X_0}}{X_0Y_0}r(t)dt,~~B= B_0+\nu\beta\int\left[\dot{Y_0}M(t)-\dot{X_0}N(t)\right]X_0Y_0r(t)dt.$$

    Необходимо проверить  эти формулы, особенно последние две.