从数学的角度，人工神经元的活动可以被描述为这样一种生物-物理的混合系统：神经元的状态连续演变过程可以用某些生物物理方程来描述，这些生物物理方程通常都是微分方程，包括确定性的方程或者随机方程，包括常微方程或者偏微分方程，当方程中与突触相关的某些变量变化时，就会触发神经元，使之进入兴奋状态而激发（放电）。一个神经元的动态特性可以用微分(差分)方程描述如下：

dX_t/dt=f(X_t)

X_t=g_i(X_t-1)

方程中，X_t是t时刻一个神经元X的状态向量。从理论上，考虑到神经元的电生理活动会导出偏微分方程，但是在实践中，人们通常采用近似方法耦合突触相接处的区位电势，这就导出了与时间区段相关的离散事件差分方程。当某些阈值条件满足时，神经元进入兴奋状态被被激发，例如在积分-激发神经元模型中，当V_m≥θ时神经元激发，这里V_m是神经元的膜电位，它可以是向量X的第一个分量，在Hodgkin–Huxley（霍奇金-赫胥黎，也可简写成HH）的电导模型中，当dV_m/dt≥θ时，神经元激发。这种模型可以概括成，当某个神经元X∈A这个条件被满足时，这个神经元X激发。对于积分-激发模型，当神经元产生激发后，它的膜电位V_m将会因重置而复位或者进入静息状态（复位或者静息电位可记为V_m=0）。复位后（静息）的神经元从形式上开始积分，也就是从与其它神经元连接的突触累积其它神经元产生并传导过来的激发电势，这个过程可以用数学式标记为X=g_i（X）,i=0,1,2...,i是神经元X的突触编号。

对于这种类型的数学方程，如果不考虑累积的膜电位随时间递减，与时间相关的激发电位并不需要被神经元记忆。考虑下边的积分-激发神经元模型

V(t)=∑w_i∑K(t-t_i)+V_rest 

其中

V(t):膜电位，V_rest:静息电位，w_i:突触i的权重，t_i:突触i的激发尖峰电位到来的时刻，

K(t − t_i) = exp( − (t − t_i)/τ) − exp( − (t − t_i)/τ_s)

这是突触后电位（Post-Synaptic Potential：PSP），它由所有与之相连的突触电位累加而成。该模型可以重新表述为一个两变量离散事件的差分方程系统：

τ(dV/dt)=V_rest-V+J_t

τ_s(dJ_t/dt)=-J_t

J_t=J_t-1+((τ -τ_s）/τ)w_i