|
相较于传统搜索引擎服务而言,人工智能(AI)应用的优点之一在于用户能够以对话的方式,更高效地获得所需要的网络信息内容。
以豆包为例。豆包是一款人工智能工具。它能理解你的问题,为你提供回答。无论是学习、工作还是生活中的疑问,豆包都能快速响应,帮助你获取所需的信息,是一个智能、便捷的好帮手。
下图是我和豆包对话的一段手机截屏(蓝底白字是我的输入)。有趣的是,AI助手马上认识到我说的是一篇论文的标题。相比而言,后面当我提到一个缩写词“kan”时,它开始“不太明白‘kan’是什么意思”,在我给出全称后才提供正确的信息。
以下是我和豆包AI助手一次对话过程的实录:
【我】Attention Is All You Need
【豆包】《Attention Is All You Need》是一篇具有重要影响力的论文。它在自然语言处理领域提出了一种新的模型架构和方法,对后续的研究产生了深远的影响。你还想了解关于这篇论文的其他信息吗?
【我】极简介绍 Attention Is All You Need 模型的创新点
【豆包】找到 7 篇资料参考
《Attention Is All You Need》模型的创新点极简介绍如下:
1. 架构创新:摒弃传统的 RNN 和 CNN 结构,完全基于注意力机制构建 Transformer 架构,实现高效并行计算,大大提高训练和推理速度,突破了传统模型在处理长序列数据时的效率瓶颈。
2. 自注意力机制:使模型能够同时计算输入序列中所有位置之间的关系权重,从而加权得到每个位置的特征表示。这样可以更好地捕捉长距离依赖关系,无论单词间距离多远,都能有效建立联系,增强了模型对序列数据的建模能力。
3. 多头注意力机制:将输入序列分别映射成多个维度相同的向量,然后分别进行自注意力计算,最后将多个输出向量拼接。这种方式可以让模型从不同角度和子空间去捕捉输入序列的特征,提高模型的表达能力和泛化性能。
4. 位置编码:由于模型并行处理数据,无法天然捕捉输入序列的顺序信息,位置编码的引入为模型添加了位置信息,使模型能够识别单词在句子中的位置顺序,对于理解语言的语法和语义结构至关重要。
【我】kan
【豆包】我不太明白 “kan” 是什么意思呢,你可以再具体解释一下吗?或者你还有其他想了解的关于这篇论文的内容吗?
【我】KAN: Kolmogorov-Arnold Networks
【豆包】你说的 “Kolmogorov-Arnold Networks”(KAN)是一种基于柯尔莫哥洛夫 - 阿诺尔德(Kolmogorov-Arnold)表示定理的神经网络模型。
它尝试将多维数据映射到低维空间,以实现对数据的有效表示和处理。这种模型在一些领域有一定的应用和研究。你还想了解关于 KAN 的其他信息吗?
【我】KAN是谁提出的?
【豆包】找到 10 篇资料参考
KAN(Kolmogorov–Arnold Networks)是由刘子鸣(Ziming Liu)、王逸轩(Yixuan Wang)、萨钦・瓦伊迪亚(Sachin Vaidya)、法比安・吕勒(Fabian Ruehle)、詹姆斯・哈尔弗森(James Halverson)、马林・索尔亚契奇(Marin Soljačić)、托马斯・Y・侯(Thomas Y. Hou)、马克斯・泰格马克(Max Tegmark)等人提出。其中,麻省理工学院的博士生刘子鸣是第一作者。
该研究团队来自麻省理工学院、加州理工学院、东北大学以及美国国家科学基金会人工智能和基本相互作用研究所。他们受到科尔莫戈洛夫 - 阿诺德表示定理的启发,提出了这一全新的神经网络架构。KAN 在权重上进行了创新,把可学习的激活函数放在边缘(“权重”)上,每个权重参数被参数化为样条的单变量函数,在准确性和可解释性方面展现出了优势。
【我】人工智能发展历程中有哪些里程碑意义的论文?(10篇)
【豆包】找到10篇资料参考
以下是人工智能发展历程中具有里程碑意义的 10 篇论文:
1. 《Computing Machinery and Intelligence》(1950):作者是艾伦・图灵(Alan Turing)。这篇论文提出了 “图灵测试” 的概念,将 “机器能否思考” 的问题转化为一个人类评判者能否通过对话区分机器和人类的测试,为评估机器智能提供了一种方法,是人工智能的开山之作,奠定了人工智能的理论基础。
2. 《The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain》(1958):作者是弗兰克・罗森布拉特(Frank Rosenblatt)。该论文介绍了感知机,这是一种简单的人工神经元模型,是神经网络的雏形,开启了对人工神经网络的研究,对后续深度学习的发展具有重要的启发意义。
3. 《Some Studies in Machine Learning Using the Game of Checkers》(1959):作者是亚瑟・塞缪尔(Arthur Samuel)。在这篇论文中,他描述了一种早期的强化学习算法,用于下西洋跳棋。该研究展示了计算机可以通过学习不断提高自己的性能,证明了机器学习的可行性,为后续强化学习的发展奠定了基础。
4. 《Error Bounds for Convolutional Codes and an Asymptotically Optimum Decoding Algorithm》(1967):作者是安德鲁·维特比(Andrew Viterbi)。文中提出的维特比算法是一种动态规划算法,用于解码卷积码和寻找隐马尔可夫模型中的最可能序列,该算法在语音识别、通信等领域得到了广泛应用,对人工智能的发展产生了重要影响。
5. 《A Logical Calculus of the Ideas Immanent in Nervous Activity》(1943):作者是沃伦・麦卡洛克(Warren McCulloch)和沃尔特・皮茨(Walter Pitts)。这篇论文提出了神经元的数学模型,为神经网络的发展奠定了基础,证明了神经元可以用简单的逻辑运算来模拟,开启了对神经网络的早期研究。
6. 《Learning Internal Representations by Error Propagation》(1986):作者是大卫・鲁梅尔哈特(David Rumelhart)、杰弗里·辛顿(Geoffrey Hinton)等人。该论文介绍了反向传播算法,这是训练神经网络的重要算法,使得大规模神经网络的训练成为可能,推动了神经网络和深度学习的快速发展。
7. 《Neural Networks and Physical Systems with Emergent Collective Computational Abilities》(1982):作者是约翰・霍普菲尔德(John Hopfield)。霍普菲尔德提出了霍普菲尔德神经网络,这是一种具有联想记忆功能的神经网络,为神经网络的理论研究和应用提供了新的思路,对后来的神经网络研究产生了深远影响。
8. 《Deep Learning》(2015):作者是扬·勒丘恩(Yann LeCun)、约书亚・本吉奥(Yoshua Bengio)和杰弗里・辛顿(Geoffrey Hinton)。这篇论文对深度学习领域进行了全面的梳理和总结,涵盖了深度学习的基本概念、技术发展、应用领域以及未来展望,是深度学习领域的重要参考文献,对于推动深度学习的发展具有重要意义。
9. 《ImageNet Classification with Deep Convolutional Neural Networks》(2012):作者是亚历克斯・克里泽夫斯基(Alex Krizhevsky)、伊利亚・苏茨克维(Ilya Sutskever)和杰弗里・辛顿(Geoffrey Hinton)。该论文介绍了 AlexNet,这是一种深度卷积神经网络,在 ImageNet 图像分类竞赛中取得了突破性的成果,标志着深度学习在计算机视觉领域的崛起。
10. 《Attention Is All You Need》(2017):作者是阿什维尼・瓦斯瓦尼(Ashish Vaswani)等人。这篇论文提出了 Transformer 架构,该架构在自然语言处理领域取得了巨大的成功,成为了许多自然语言处理任务的基础,如机器翻译、文本生成等,对自然语言处理的发展产生了深远的影响。
【我】海滨,一只海狸,旁边有一棵树。
【豆包】
如最后一个对话示例所示,豆包还具有图像生成的功能(每次生成4辐图供选择)。
豆包AI助手还支持用户把对话分享到微信好友和朋友圈。在分享对话时候,豆包AI助手还会加上提示,例如,分享前面对话实录时候,最前面加上了“2024年9月28日•内容由AI生成,不能完全保障真实”这样的提示。
AI助手,也称为虚拟助理或数字助理,是指使用人工智能理解用户命令,并为其完成任务的软件。AI助手利用自然语言处理来理解人们所说的话,并随着时间的推移,基于交互通过机器学习变得更加智能。
AI助手的探索可以追溯到20世纪60年代,其中最著名的是1966年开发的ELIZA程序。ELIZA由麻省理工学院约瑟夫·韦森鲍姆教授创建的,是最早通过文本对话模拟类似人类对话的程序之一。直到20世纪90年代,AI助手主要是基于规则的程序,只能够回答一些简单的问题。进入21世纪,随着机器学习和自然语言处理技术的进步,AI助手从简单的对话程序,发展成为能够进行自然交互和完成任务的智能系统。现代AI助手可以提供多种服务,例如:语言翻译、数学计算、生成图像、辅助编程、信息查询、日程管理、学习辅导、娱乐互动、文件阅读、新闻摘要、文本分析、健康咨询、旅行规划等等。如果你有任何问题或需要帮助,可以随时和AI助手对话。
多模态AI是人工智能领域的一个重要发展方向,它通过融合来自不同模态(如文本、图像、音频和传感器数据等)的信息,提供更智能的解决方案。将来人和机器通信是多模态的。AI助手正在发展以支持多模态交互,甚至允许用户通过手势进行交流。这种灵活性将使AI助手在各种背景下更容易使用。人工智能领域最新进展还为人形机器人提供动力,使它们能够与人类进行全面对话。
可以预见,AI助手将变得更加个性化、智能化,并在每个人的工作和日常生活中扮演更重要的角色。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-12-4 22:59
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社