通用大模型演进路线

任福继^1,2，张彦如^1,2*

1. 电子科技大学计算机科学与工程学院，成都611731

2. 电子科技大学（深圳）高等研究院，深圳518110

摘要 随着人工智能技术的飞速发展，通用大模型（GLMs）已经成为人工智能领域的重要研究方向。通用大模型拥有超大规模参数，通过大规模数据进行训练，具备强大的学习和推理能力。这些模型在自然语言处理、图像识别、代码生成等多种任务中展现出卓越的能力。回顾了通用大模型的发展历程，梳理关键技术节点，从早期基于规则的系统和传统机器学习模型，到深度学习的崛起，再到Transformer架构，以及GPT系列及国内外通用大模型的进展。尽管GLMs在多个领域取得了显著进展，但其发展也面临诸多挑战，包括计算资源需求、数据偏见与伦理问题及模型的解释性与透明性。分析了这些挑战，并探讨了GLMs未来发展的5个关键方向：模型优化、多模态学习、具情感大模型、数据与知识双驱动以及伦理与社会影响。通过这些策略，通用大模型有望在未来实现更广泛和深入的应用，推动人工智能技术的持续进步。

关键词 通用大模型；人工智能；深度学习；Transformer架构；GPT系列

（责任编辑  王微）

http://www.kjdb.org/CN/10.3981/j.issn.1000-7857.2024.05.00531