脉冲：生物神经元不是ReLU
本课目标：理解生物神经元与人工神经元的根本差异，运行你的第一个 LIF (Leaky Integrate-and-Fire) 神经元模拟，建立"脉冲即信息"的直觉。
1. 你已知道的：人工神经元
在深度学习中，一个"神经元"做这件事：
y = σ(Σ wᵢxᵢ + b)
输入 → 加权求和 → 非线性激活 → 输出一个实数。ReLU、sigmoid、tanh，全都如此。 这个模型在工程上极其成功，但它抹去了生物神经元最关键的三个属性：
| 被抹去的属性 | 为什么重要 |
|---|---|
| 时间 | 生物神经元的状态随时间连续演化，不是一步前馈 |
| 脉冲 | 信息编码在 spike 的精确时刻，而非发放率的浮点数 |
| 局部学习 | 突触修改只依赖前后神经元的局部活动，不需要全局反向传播 |
这不是说人工神经元"错"了——它是刻意简化的速率模型。但要理解大脑如何计算，我们需要回到脉冲（spike）层面。
2. LIF 神经元：最小可行生物模型
Leaky Integrate-and-Fire (LIF) 是计算神经科学中最基础的脉冲神经元模型。它把神经元看作一个带泄漏的电容：
τm · dV/dt = −(V − Vrest) + R·I(t)
解释：
- V(t) — 膜电位，随时间变化
- τm — 膜时间常数，控制衰减速度
- Vrest — 静息电位，无输入时回到这里
- R·I(t) — 输入电流对膜电位的推动
- Fire: 当 V ≥ Vth（阈值），发出一个 spike，V 重置为 Vreset
- Refractory period: spike 后短暂的不应期，无法再次发放
关键洞察：这个神经元不是函数——它是微分方程。它的"输出"不是一个数，而是一串精确计时的脉冲。
3. 动手：调节参数，观察脉冲
LIF Neuron Simulator
膜电位 V(t)
脉冲 Spike
阈值 Vth
Spike 计数: 0
实验建议： ① 调大 I 看发放率增加 ② 调大 τ 看膜电位变化更慢、更平滑 ③ 调高阈值看需要更强输入才能 spike ④ 增大不应期看最大发放率被限制
4. 人工 vs. 生物：五个根本差异
| 维度 | 人工神经元 (ReLU/Softmax) | 生物神经元 (LIF) |
|---|---|---|
| 输出类型 | 浮点值（发放率） | 二进制脉冲序列（时间编码） |
| 时间维度 | 无——每层一步完成 | 连续时间动力学 |
| 信息载体 | 激活值的大小 | 脉冲的精确时刻 |
| 能耗模型 | 每次前传所有单元都"工作" | 只在 spike 时消耗能量（稀疏） |
| 记忆 | 需要显式 RNN/LSTM | 膜电位本身就是短期记忆 |
核心直觉：在生物系统中，when 比 how much 更重要。两个 spike 之间隔 5ms 还是 50ms，编码了完全不同的信息。这被称为 temporal coding（时间编码），与深度学习中的 rate coding 截然不同。
5. 小测验
Q1: 为什么 LIF 神经元叫 "Leaky"（泄漏的）？
Q2: 生物神经元的膜电位本身充当了什么角色？
Q3: 如果输入电流刚好在阈值以下持续小幅度波动，LIF 神经元会怎样？
📖 推荐主源
阅读：
Neuronal Dynamics — Chapter 1: Introduction (Gerstner et al.)
§1.1–§1.3 覆盖神经元模型从Hodgkin-Huxley到LIF的简化过程，与本课直接衔接。
延伸： §1.4 — From Spikes to Rates 讨论什么时候 rate model 足够好，什么时候必须用 spiking model——这对后面理解 SNN vs. ANN 的选择至关重要。
🤖 提问提示：如果你对 LIF 模型的数学推导、Hodgkin-Huxley 模型的细节、或者为什么"脉冲时刻"能编码信息有疑问——随时问你的 AI 教师。本课的每个概念都会在后续课程中不断被调用和深化。