在过去的10年，AI实现了快速的发展，特别是在特定的认知能力实现上，我们已经确定AI可以实现比人类更强大的认知能力。这本身就是不可想象的。

   AI一直是一个不靠谱的认知机器，我们不清楚它进步的基本原理。AI这个领域一直都在发展，这是一个重要的事情。虽然实现人脑的功能，是一个一直都有的宣传策略，但是在现实中，这根本看不到可靠的理论支持。而心理学，其实也一直问题很多。

   一个计算机器，把希望建立在一个不靠谱的理论之上，整个都是不靠谱。但是现实是，AI的能力一直在提升，直到今天，在深度学习和强化学习技术的基础上，特定的认知能力已经超出人类的水平。

   这是一个让人忧虑的事情。技术的进步，远远超过理论的进步。

   AI的问题在于通用性，或者是复杂认知的实现上。在许多技能中，AI需要实现多种认知结构才是可行的，这对当下的AI技术形成了挑战。

   当然，从一开始AI的目标是实现人脑的功能。这是一个强的目标，因为人脑的确是一个现实的通用的计算机器，只是我们一直都不清楚这台机器的奇妙在哪里。

   AI能实现多强的通用性呢？我们不清楚，这是问题的关键。

   哪怕不是实现人脑的功能，AI也可能进化的很通用。哪怕不能在所有的情景中进行学习，只要在复杂认知方面上实现技术突破，AI就可以替代大量的人力技能。

   因为大部分人的认知通用性，可能都赶不上这种AGI。

   所以这是两个话题，一个是与人脑可以持平的通用智能，一个是在复杂认知方面的可实现的通用智能。这都对人类产生巨大的危机。如果是前者，那就是一种新的生命体，这个问题可能是超出想象的。如果是后一种，这是一个超级强大的工具。我们距离实现复杂认知的AGI，可能就是一个技术突破而已。

   这是我一直在担心的。

   当然从去年年初我也开始思考AGI，而且我多年思考的结果，在一场突如其来的观念变革中，获得了巨大的突破，我开始确定，生命是可以理解的，那么也就意味着活的AGI是完全可实现的。

   这是一种现实的双重挑战。活的认知机器，或者具有复杂认知能力的机器，都可能不再是原则上的问题。

   这里边的理论基础正在出现，这和那些向往AGI但是只是一个信念的技术者是不同的。

   计算机技术的基础，或者是AI的基础，是一直都很清楚的。

   在这方面，有一个混杂的历史，就是维特根斯坦、哥德尔、图灵和冯诺依曼的故事。这个故事非常漂亮。但是计算机只给出了一半的结果，如果实现AGI，还没有一个完整的认知。

   但是人脑就在这里，说明一个很有趣的事实，就是一个可以通用型的计算机器是完全存在的。问题只是，现有的计算机，和通用型的计算机究竟差在了哪里？一些人相信，现有的AI就可以进化成AGI，这是对计算机基础的无知所造成的。

   故事还有另一面。在维特根斯坦那里，他其实就已经指出了关键的地方，就是哥德尔的不完备性，不意味着悖论一定存在，是可以解决的。他的思想，其实已经奠定了活性算法的哲学基础，可惜很多人无法理解。主要的原因是，没有人相信，这个解决悖论的方式，在现实中真的存在。但是人脑是真的存在的。

   关键是，很多人没有理解维特根斯坦究竟说了什么。（搞哲学的人，只是在搞哲学，不搞哲学的人，几乎都不理解维特根斯坦说了什么）

   彭罗斯走了歪路，他相信一种不可计算性，于是在量子引力中（因为我们不理解）寻找答案，这个跨越的尺度实在是太大了。在一个不理解的机制中，理解一个不理解的东西，这怎么看都是一个奇特而疯狂的事情。

   侯世达相信，意识的实现，是一个奇特的怪圈。但是他没有找到现实的机制。

   所以理解AGI,是有着一条思想上的思路的，我把它称为康德-维特根斯坦-哥德尔-图灵-侯世达进路（关于临界态的哲学和数学起源，我会在以后恰当的时候进行介绍，这个比较复杂），可惜他们彼此之间都可能无法理解对方究竟说了什么。（后者理解前者，或者同时代的人理解彼此）

   所以，很奇特，没有人想到临界态就是解开答案的唯一的答案。这就是一个奇特的事情，临界态是一个物理中很平常的物理概念，但是没有人想到，临界态就是揭开生命和意识的答案。（无生命的和有生命的是一个很清楚的二元现象，而有尺度的和无尺度的也是很清楚的二元现象，而现实的物质可以很容易的产生这种二元现象）

   AGI的力量过于强大，而且很容易超出人类的控制。如果被一些不善良的人来利用，更是难以想象。

   实现AGI是这个时代最重要的技术问题，需要所有人认真的对待。

支持单位：