随机网络的动态平均场理论与顶点生成函数
立即解锁
发布时间: 2025-09-01 00:27:55 阅读量: 12 订阅数: 12 AIGC 


神经网络的统计场论
# 随机网络的动态平均场理论与顶点生成函数
## 随机网络相关问题
### 稀疏连接网络 I
在随机网络中,假设连接性由 $J_{ij} \sim \frac{J_0}{\sqrt{N}} B(p)$ 给出,其中 $B(p)$ 是遵循伯努利分布的随机数,概率为 $p$,即具有连接概率 $p$ 和非零振幅 $\frac{J_0}{\sqrt{N}}$ 的 Erdős–Rényi 网络。网络动力学由下式描述:
\[dx(t) + x(t) dt = J\varphi(x(t)) dt + dW(t) + h dt\]
这里 $h$ 是输入到网络的恒定电流。
我们需要进行相应的无序平均,确定无序平均作用中出现的项。利用 $J_{ij}$ 在指数中的线性形式,结合第 2 章练习中计算的伯努利变量的累积量生成函数,分析第 $n$ 个累积量 $\kappa_n$ 与 $N$ 的缩放关系,仅保留来自 $J_{ij}$ 的一阶累积量 $\kappa_1$ 和二阶累积量 $\kappa_2$ 的主导项。
对于包含 $N$ 个变量求和的项(如 $R_1(t) \propto \sum_{j} \varphi(x_j(t))$ 和 $Q_1(s, t) \propto \sum_{j} \varphi(x_j(s))\varphi(x_j(t))$)引入辅助场,并类似于式 (10.13) 引入额外的辅助场来强制执行两个约束条件。
### 推导普赖斯定理
对于函数方程 (10.22),普赖斯定理形式如下:
\[\frac{\partial}{\partial c} f_u(c, c_0) = f_{u'}(c, c_0)\]
对于存在傅里叶变换的函数 $u(x) = \frac{1}{2\pi} \int U(\omega) e^{i\omega x} d\omega$,通过插入傅里叶表示并计算方程 (10.50) 的左侧来证明该定理。
### 稀疏连接网络 II
确定上一练习中引入的辅助场的鞍点解,类似于式 (10.15)。同时思考以下问题:
1. 这种情况下辅助场的平均场方程如何变化?
2. 推导是否依赖于增益函数的点对称性?
3. 有效的一维运动方程是什么样的?
4. 利用上述方程推导均值 $\langle x \rangle$ 和协方差函数 $\langle \delta x(t + \tau) \delta x(t) \rangle$(其中 $\delta x(t) = x(t) - \langle x \rangle$)。
5. 在纯兴奋性网络(即 $J_0 > 0$)的大 $N$ 极限和有限 $h$ 情况下,忽略波动时 $\langle x \rangle$ 的解是什么?
6. 解释在 $J_0 < 0$ 的大 $N$ 极限下,平均活动如何稳定以达到外部输入 $h > 0$ 和网络局部反馈之间的平衡,同样忽略波动。
### 副本计算、自平均、混沌和心灵感应
我们尝试解释心灵感应现象,即生物之间看似无需物理相互作用的交流。通过副本计算,我们可以证明所考虑的随机网络是自平均的,并且无噪声网络中的混沌转变与自平均性质密切相关。
假设系统自由度 $x$ 的活动统计由依赖于参数 $J$ 的矩生成泛函 $Z[j](J)$ 描述,系统的可测量可观量可写为泛函 $O[x]$。对于 $J$ 随机抽取的系统集合,我们可以用 $\overline{Z}[j] := \langle Z[j](J) \rangle_J$ 表示 $\langle \langle O[x] \rangle_x \rangle_J$ 的期望值。
副本计算的思想是考虑由完全相同的系统对组成的集合,每个实现中具有相同的 $J$。通过考虑一对副本的矩生成泛函 $\overline{Z}_2[j^{(1)}, j^{(2)}] := \langle Z[j^{(1)}](J) Z[j^{(2)}](J) \rangle_J$,可以表示可观量 $O$ 在 $J$ 实现中的变异性 $\langle \delta O^2 \rangle_J$。
如果成对平均的生成泛函可分解为 $\overline{Z}_2[j^{(1)}, j^{(2)}] = \overline{Z}[j^{(1)}] \overline{Z}[j^{(2)}]$,则任何可观量的变异性都为零,即 $\langle \delta O^2 \rangle_J \equiv 0$。
具体考虑两个由式 (10.1) 和连接性 (10.2) 描述的随机网络表示的大脑,假设两个网络的 Wiener 增量 $d\xi(t)$ 独立抽取。计算 $\overline{Z}_2[j^{(1)}, j^{(2)}]$ 并与式 (10.35) 进行比较,找出差异。进行鞍点近似,得到鞍点处的生成泛函,分析作用中的哪一项可以解释系统之间的心灵感应。
读取与式 (10.38) 对应的有效运动方程对以及与式 (10.39) 对应的噪声自洽方程。比较这里使用的设置(连接性相同,噪声统计相同但独立抽取)与研究混沌时使用的设置(连接性相同且噪声实现相同),判断在前者情况下讨论混沌是否有意义。
当驱动噪声 $D = 0$ 时,得出混沌转变的条件与系统自平均相同的结论,即任何可观量的变异性在 $N^{-1}$ 的主导阶消失。当 $D > 0$ 时,写出协方差函数 $c_{\alpha\beta}(t - s) = \langle x_{\alpha}(t)x_{\beta}(s) \rangle$ 的运动方程,解释为什么每个副本中的解 $c_{\alpha\alpha}$ 与单个系统中的解相同。考虑协方差 $c_{12}(\tau)$,将其微分方程写为粒子在势中的运动形式,证明由式 (10.25) 定义的势出现在右侧,利用粒子的能量考虑证明 $c_{12} \equiv 0$ 是一个可接受的解,从而得出有噪声系统在 $N$ 的主导阶是自平均的结论。
### 具有随机反馈的朗之万动力学
考虑具有反馈 $J$ 的单种群网络的有效描述,其活动 $x(t)$ 遵循朗之万方程:
\[dx + x dt = J x dt + dW\]
这
0
0
复制全文
相关推荐










