|
技术层面,系统介绍物理信息神经网络(PINN)的正反问题求解、Transformer在自然语言处理、时间序列预测与遥感影像解译三大领域的迁移应用、图神经网络的消息传递机制与时空建模、深度强化学习从Q-learning到PPO/SAC的算法谱系与工业智能体构建、进化计算驱动的无梯度优化与神经架构搜索与扩散模型的原理、从零实现及其在自然科学中的应用。
实战层面,全部案例基于PyTorch软件栈(含torchvision、torchtext、PyTorch Geometric、Gymnasium、BoTorch/GPyTorch、DEAP、pgmpy/DoWhy等生态)完成,数据一律采用公开真实数据集,保证即学即用、可复现。
专题一 PyTorch全栈筑基与物理信息神经网络(PINN)正反问题求解
1、张量(Tensor)核心操作:创建、索引切片、维度变换、设备指定与GPU加速
2、自动微分机制:计算图、torch.autograd.grad高阶导数、PINN赖以实现的微分引擎
3、nn.Module建模范式:自定义网络类、损失函数与优化器、模型保存与加载
4、PINN核心思想:将控制方程(ODE/PDE)残差直接编码进损失函数,数据项+物理项+初边值项的复合损失架构
5、配点法(collocation)采样策略:均匀采样、拉丁超立方采样与自适应加密
6、偏微分方程正问题以及软件选择
7、PINN反问题:从稀疏带噪观测中反演未知参数
8、训练诊断与调优:损失权重平衡、梯度病理分析、Adam+L-BFGS两阶段训练
9、PINN的前沿:激波等 steep gradient问题的弱形式改进思路
专题二 Transformer注意力机制与多领域前沿应用(自然语言处理、时间序列、遥感影像)
1、从RNN/LSTM到注意力:时序展开的梯度困境、长期依赖问题与注意力的破局逻辑
2、自注意力机制:Query-Key-Value投影、缩放点积注意力、注意力权重矩阵的可视化解读
3、Transformer架构精解:多头自注意力、位置编码、残差连接与层归一化、掩码自注意力与因果建模
4、预训练范式:BERT双向编码与GPT自回归解码的任务适配逻辑
5、NLP应用:文本分类Transformer:词嵌入+位置编码+Transformer编码器+池化分类头
6、时间序列应用:时序Transformer的关键改造:分块嵌入(PatchTST思想)、通道独立策略、可逆实例归一化RevIN
7、时间序列应用:多变量长期预测实战:构建PatchTST式预测模型,seq_len/pred_len设计与MSE/MAE评估
8、遥感影像应用:Vision Transformer(ViT):图像分块嵌入img_to_patch、类别标记CLS、与CNN感受野机制的对比
9、遥感影像应用:数据增强与迁移学习两条路线对比
10、遥感影像应用:Swin Transformer:层次化特征与移位窗口机制,面向大幅面遥感场景的计算效率优化
11、注意力热力图分析与模型诊断
专题三 图神经网络:消息传递机制、时空图建模与PyTorch Geometric实战
1、从表格到图的表示升级:图的基本元素(节点、边、邻接矩阵)、关系数据的独特价值
2、GNN适用判据:隐式关系与相互依赖、高维稀疏性、复杂非局部交互
3、图的核心任务谱系:节点分类、链接预测、图分类、图嵌入
4、消息传递框架:消息收集—聚合—更新变换的统一视角
5、图嵌入两条路线:Node2Vec直推式随机游走 vs GNN归纳式嵌入
6、GCN与GraphSAGE:谱域与空域卷积、邻域聚合函数设计、半监督节点分类
7、GAT图注意力网络:注意力加权聚合、节点重要性差异场景、类别不平衡处理与过平滑问题
8、图自编码器GAE/VGAE:内积解码器、KL散度正则与链接预测
9、时空图神经网络:时序邻接矩阵块对角拼接、RNN/GRU引入记忆、神经关系推断(NRI)在邻接未知条件下反推隐式图结构
10、PyG工程实践:Data与Dataset抽象、内置数据集生态、自定义图构建
专题四 深度强化学习:从Q-learning到PPO/SAC与工业智能体构建
1、RL问题定位:序贯决策与策略性问题的识别、何时该用强化学习
2、马尔可夫决策过程:状态—动作—奖励—转移四元组、价值函数与折扣回报、多臂老虎机与ε-greedy探索
3、奖励工程(Reward Engineering):奖励塑形原则与常见陷阱
4、动态规划与蒙特卡洛方法:价值迭代、策略评估与改进
5、时序差分学习:TD(0)、Q-learning与SARSA的异同、n步算法与资格迹、Double Q-learning
6、DQN深度Q网络:经验回放、目标网络克隆、Q值过估计问题
7、Rainbow DQN六大改进:优先经验回放、Dueling网络、Noisy Nets、分布式RL等
8、策略梯度方法:REINFORCE与基线方差缩减、Actor-Critic与A2C
9、信任域与近端策略:TRPO、PPO裁剪目标函数
10.连续控制与离策略:DDPG、TD3双延迟确定性策略梯度
11、最大熵强化学习:SAC软Actor-Critic、温度参数自动调节与探索机制
12、智能体环境接口规范与自定义环境开发
专题五 进化深度学习:遗传算法、神经进化与无梯度AutoML
1、进化计算(EC)定位:自然选择原理、与梯度方法的本质差异、不可微与无源码黑箱场景的独特价值
2、遗传算法四要素:种群构建、适应度评估、选择交叉、变异;种群规模/代数/交叉率/变异率四大超参数
3、DEAP框架五构件:creator个体定义、toolbox算子注册、hall of fame名人堂、statistics统计、history谱系追踪
4、遗传编程(GP)与符号回归:用基因序列定义计算过程,产出可解释经验公式
5、群体智能扩展:粒子群优化PSO、协同进化、进化策略ES、差分进化DE处理不连续函数
6、进化超参数优化(HPO):随机搜索/网格搜索/进化搜索的对比实验设计,PCA降维辅助高维搜索
7、神经进化优化:以GA替代反向传播直接进化网络权重、无梯度训练的可行性与边界
8、进化CNN架构:网络结构基因编码、专属交叉变异算子设计、进化式NAS 9、进化自编码器与VAE结构搜索
10、GAN训练顽疾与进化修复:梯度消失、模式坍塌、收敛失败的博弈论分析,Wasserstein损失
11、NEAT增强拓扑神经进化:权重与拓扑协同进化、物种形成机制保护结构创新、NEAT-Python配置驱动实践
12、进化方法与RL的边界辨析:Q-learning与进化策略在控制任务上的对照
专题六 扩散模型及其在自然科学中的应用
1、生成模型格局演进:从GAN对抗博弈、VAE变分推断到扩散模型,扩散训练稳定性的来源
2、前向扩散过程:T步逐步加噪、线性/余弦噪声调度(noise schedule)、q(x_t|x_0)闭式加噪公式
3、反向去噪过程:噪声预测目标(DDPM,Ho et al. 2020)、按时间步条件的U-Net去噪器、正弦时间步嵌入
4、从零训练DDPM:随机时间步采样—加噪—噪声回归—MSE损失的最小训练循环(约200行PyTorch核心代码)
5、加速采样:DDIM跳步确定性采样与推理
6、可控生成:Classifier-Free Guidance(CFG)原理、条件标签嵌入与条件随机丢弃、引导强度w的精度—多样性权衡
7、高分辨率文生图路线:潜空间扩散(Latent Diffusion)、Stable Diffusion架构拆解(VAE压缩+U-Net去噪+CLIP文本编码器)
8、自然科学应用前沿:气象与气候降尺度:CorrDiff残差修正扩散(确定性回归预测均值+扩散生成随机残差集合)、GenCast扩散集合中期天气预报、公里级降水/风速超分辨率
9、自然科学应用前沿:数据同化与观测融合的超分辨率(稀疏观测+模拟场动态半径融合)、随机场/湍流场生成、极端事件集合成员扩充
10、科学场景设计要点:条件场编码方式、物理约束的引入、两阶段”回归+扩散”组合范式、生成集合的统计一致性检验
专题七 自进化Agent与DeepSeek Harness在数据科学中的实战
1、什么是自进化agent
2、自进化Agent的优点及基本原理
3、Prime Agent的安装与应用
4、一切都是插件:DeepSeek Harness的安装
5、用于数据科学的提示词
推荐:AI-Python机器学习与深度学习核心架构、可解释AI及前沿技术应用暨融合经典ML集成方法、CNN与U-Net视觉网络、Transformer注意力机制、扩散模型、SHAP分析方法、图神经网络与Hermes Agent科研自动化
全栈技能层面,从Python高阶编程出发,系统介绍XGBoost、LightGBM、随机森林等经典ML算法,深入CNN、ResNet、U-Net、自编码器与变分自编码器等DL核心架构,并延伸至Transformer注意力机制、GAN、扩散模型、图神经网络等前沿AI技术;同时以科学问题为牵引,强化SHAP可解释分析、LIME局部解释与因果推断方法,确保模型具备科学依据与可解释性。
效率革命层面,前瞻引入Vibe Coding氛围编程与上下文工程技术,通过自然语言与大模型协同编程,让AI精准理解领域数据并自动生成分析代码与科研图表,告别重复编码,效率提升十倍以上。
科研自动化层面,深度介绍Hermes智能体工作流构建,通过Skill架构连接本地数据库与计算环境,实现"一句话科研需求→自动化数据清洗→多维度归因分析→假设检验→报告生成"的端到端流水线。
专题一 Python核心编程与Hermes智能体开发环境配置
专题二 经典机器学习全链路:数据预处理、集成学习与SVM算法
专题三 大模型数据分析:上下文工程、RAG检索增强与智能代码生成
专题四 可解释机器学习:SHAP值分析、LIME与PDP模型诊断技术
专题五 PyTorch深度学习框架、张量运算、自动微分与神经网络构建
专题六 Vibe Coding氛围编程:AI协同开发与人机代码审查
专题七 深度学习核心架构:CNN、自编码器与U-Net图像模型
专题八 深度学习进阶:Transformer、GAN与扩散模型前沿
专题九 Hermes智能体科研自动化:技能进化、多Agent协作与知识沉淀
专题十 图神经网络速览
推荐:AI-R赋能Meta分析核心技术:从热点挖掘到高级建模
Meta分析是针对某一科研问题,根据明确的搜索策略、选择筛选文献标准、采用严格的评价方法,对来源不同的研究成果进行收集、合并及定量统计分析的方法,现已广泛应用于农林生态,资源环境等方面,成为Science、Nature论文的重要分析方法。R语言拥有完整有效的数据处理、统计分析与保存机制,可以对数据直接进行分析和显示,命令格式简单、结果可读性强,包含众多针对Meta分析软件包,是进行Meta整合分析及评价的有效平台。
通过AI大模型全程助力Meta分析,从文献计量分析研究热点变化,寻找科学问题、R-Meta多手段全流程分析与Meta高级绘图、多层次分层嵌套模型构建与Meta回归诊断、贝叶斯网络、MCMC参数优化及不确定性分析、Meta数据缺失值处理的六种方法与结果可靠性分析、Meta加权机器学习与非线性Meta分析等方面详解。
专题一 Meta选题策略与文献智能挖掘
专题二 Meta、统计学基础与数据清洗、缺失值智能处理
专题三 Meta效应值计算
专题四 经典Meta分析全流程与高级可视化绘图
专题五 Meta分析与回归分析、混合模型构建
专题六 R语言Meta诊断分析进阶
专题七 R网状Meta分析、贝叶斯Meta分析与不确定分析
专题八 R机器学习赋能Meta分析
关 注【科研充电吧】公 众 号,获取海量教程和资源
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-9-3 14:08
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社