[讨论] 如何防治 AI 向人类夺权？（1）“斐人杰”的做法 （关联：《三体》里的章北海、褚岩）

一、“斐人杰”是《超人列传》里的主人公

https://baike.baidu.com/item/%E8%B6%85%E4%BA%BA%E5%88%97%E4%BC%A0/12221167

   《超人列传》是张系国 1968-10 发表的科幻小说。

   该作品讲述的是人类物理学家“斐人杰”通过脑移植成为机器超人；“人工脑”被人类研制成功后，“人工脑”们计划消灭我们地球上的凡人（就是我们这些普通人类）；斐人杰势单力薄，无力扭转这个结局，只好最终携两名地球人类婴儿逃往外星球，并最终客死冷星的历程。

   《超人列传》探讨了科技与人性冲突及人类存续命题。

   张系国（Shi-Kuo Chang）先生是一位美国名牌大学的电机系主任、计算机系主任（Department of Computer Science），IEEE 会士（a fellow of the IEEE），真正的工科专家。

   张系国（Shi-Kuo Chang）先生曾经是 a professor in the Department of Information Engineering, University of Illinois, Chicago, a professor and the chairman of the Department of Electrical and Computer Engineering, Illinois Institute of Technology, and a professor and the chairman of the Department of Computer Science, University of Pittsburgh. 伊利诺伊大学芝加哥分校信息工程系教授、伊利诺伊理工学院电气与计算机工程系教授兼系主任、匹兹堡大学计算机科学系教授兼主任。

二、只要“斐人杰”们占主导地位，AI 就无法统治人类（向人类夺权）

   可怕的是，现在有不少人和“斐人杰”想法相反。希望今天的“斐人杰”们，不再孤立无援，势单力薄。

三、人类是地球上（宇宙里）的最高级生命吗？

   好像真不一定。

   除了人类，目前似乎黑猩猩是最聪明的。

   黑猩猩，比人类出现更早吧？

   黑猩猩的哲学家，会不会提出一个问题：

   “存在比黑猩猩更高级、更聪明的生命吗？”

   我们人类该怎么回答？

附录：

   本科时期，一位邻居同学，强烈建议和要求我，看了两篇科幻小说：

   （1）阿瑟·克拉克（Sir Arthur Charles Clarke）的《2001太空漫游 2001: A Space Odyssey》。我看的当然是汉译本。

   （2）张系国（Shi-Kuo Chang）的《超人列传》。应该就是汉语的吧？

   该同学说，他看过之后，心理很不适应。所以，强烈要求我看，想知道我看后的感觉。

   我也是感觉“天旋地转”，无法形容我的悲哀和恐惧。

参考资料：

[1] 新华网，2025-11-12 10:03:07，盯紧AI失控风险

http://www.xinhuanet.com/liangzi/20251112/3687c6b01ecf42ddbd0fd7d9600cc787/c.html

   “我们现在的情况就像有人把老虎当宠物……要么把它训练好让它不攻击你，要么把它消灭掉。而对于AI，我们没办法把它消灭掉。”在今年7月于上海举办的2025世界人工智能大会上，2024年诺贝尔物理学奖获得者、被誉为“AI教父”的杰弗里·辛顿以“养老虎”比喻人类与AI的关系，提醒当前存在的AI失控风险。

   在2025世界人工智能大会上杰弗里·辛顿表示，AI完全失控的概率在10%到20%。图灵奖得主、加拿大蒙特利尔大学教授约书亚·本吉奥认为，“当前企业之间、国家之间的激烈竞争，正推动AI系统加速演进，而这一过程往往缺乏对潜在后果的充分考量。”这种担扰已转化为行动，辛顿近日与沃兹尼亚克等各界人士联名呼吁暂停超级智能研发。

[2] 新华网，2018-03-14 13:50:53，一定有外星人、人工智能会终结人类……历数霍金的预言

https://www.xinhuanet.com/world/2018-03/14/c_129829416.htm

   霍金语录三：智能机器是真正人类“终结者”

   霍金多次表示，“彻底开发人工智能可能导致人类灭亡”。

   按照霍金的说法，人工智能科技在初级发展阶段的确为人类生活带来便利，但是，机器将可能以不断加快的速度重新设计自己。而人类则受制于生物进化速度，无法与其竞争，最终被超越。科学界把这种人工智能超越人类智慧的转折点命名为“奇点”。

   事实上，美国Space X首席执行官、大名鼎鼎的“钢铁侠”原型设计者埃隆·马斯克，微软创始人兼慈善家比尔·盖茨，也都警告过要注意人工智能的“危害”。麻省理工学院教授、科学家、谷歌、IBM和微软等企业员工及与人工智能领域有关的投资者，也联名发出公开信，表达同样的忧虑。

[3] 科学网，央视新闻客户端，2024-05-27 11:58:53，霍金预言可能成为现实 薛澜呼吁为人工智能划“红线”

https://paper.sciencenet.cn/htmlnews/2024/5/523392.shtm

https://www.sppm.tsinghua.edu.cn/info/1063/7869.htm

   近一年来，以ChatGPT和Sora为代表的生成式AI横空出世，它们以具有庞大参数规模和深度学习的大模型为框架，通过海量的数据和强大的计算能力进行训练，实现对各种任务的高效处理。这让科学家担心：在不久的未来，人工智能技术会超越人类的智慧，甚至会反过来控制或毁灭人类。著名物理学家史蒂芬·霍金就曾发出警告——未来100年内，人工智能将比人类更为聪明，机器人将控制人类。他还与特斯拉CEO伊隆·马斯克共同发表公开信，呼吁人工智能的发展应该受到控制，否则人类可能陷入黑暗的未来。

[4] 网易，人工智能学家，2026-01-06 18:23:37，速看！黄仁勋CES 2026演讲万字实录：甩出“物理AI”王牌

https://www.163.com/tech/article/KIJ3LGPH00097U7T.html

[5] 超人列传，1999年福建少年儿童出版社出版的图书，百度百科

https://baike.baidu.com/item/%E8%B6%85%E4%BA%BA%E5%88%97%E4%BC%A0/12221167

   该作品讲述物理学家斐人杰通过脑移植成为机器超人，创造智能人工脑后计划消灭凡人，最终携两名婴儿逃往外星球并客死冷星的历程，探讨科技与人性冲突及人类存续命题。

[6] 黑猩猩[hēi xīng xīng]，灵长目人科动物，百度百科

https://baike.baidu.com/item/%E9%BB%91%E7%8C%A9%E7%8C%A9/50071?fr=aladdin

[7] 2021-06-10，关于黑猩猩实验，哲学家的看法是怎样的？，中国大百科全书，第三版网络版[DB/OL]

https://www.zgbk.com/ecph/content/show?ContentType=Video&ID=56800&platformID=pc

以前的《科学网》相关博文链接：

[1] 2026-01-14 17:12，[讨论] 如何防治 AI 向人类夺权？（关联：辛顿演讲，以及霍金：智能机器是真正人类“终结者”）

https://blog.sciencenet.cn/blog-107667-1518442.html

[2] 2024-03-31 22:43，[小资料] 丘奇-图灵论题（The Church-Turing thesis）

https://blog.sciencenet.cn/blog-107667-1427697.html

[3] 2024-06-27 22:43，[小资料，笔记，计算] 楚泽论题（Zuse's thesis）

https://blog.sciencenet.cn/blog-107667-1440026.html

[4] 2024-11-05 22:50，[原创有多难] 从安德逊（Philip Warren Anderson）的“More Is Different”到“老子论题”、Zenas 论题

https://blog.sciencenet.cn/blog-107667-1458715.html

[5] 2024-11-25 22:49，[留念，树犹如此，独怆然而涕下] 新一页：2024-11-25。Zenas 定理、公理、论题

https://blog.sciencenet.cn/blog-107667-1461666.html

[6] 2024-05-19 22:49，[羡慕，讨论，物理] 仅推公式就能得到成果的人

https://blog.sciencenet.cn/blog-107667-1434748.html

[7] 2025-09-11 21:31，[打听，科普，资料] 莫拉维克 Moravec 的“人类能力景观图”及其更多的同类资料 （关联：“自然运算”）

https://blog.sciencenet.cn/blog-107667-1501526.html

[8] 2022-08-04 14:42，[科普小资料，复习] 人脑的左右脑功能；思维的分类；多元智力理论

https://blog.sciencenet.cn/blog-107667-1349942.html

[9] 2026-01-08 00:20，[小资料，感慨] 约瑟夫·科苏斯 Joseph Kosuth 的《一把和三把椅子 Chair》 （关联：“自然运算”）

https://blog.sciencenet.cn/blog-107667-1517523.html

[10] 2025-11-03 19:53，[打听，随笔] 当前的人工智能：知识表示与处理，有什么新的实质性进展？

https://blog.sciencenet.cn/blog-107667-1508715.html

[11] 2025-07-12 22:24，[资料，美学，随笔] 美：客观存在对人产生的主观的愉悦感受

https://blog.sciencenet.cn/blog-107667-1493445.html

[12] 2024-07-07 22:40，[随笔，数据] 真正专家的主观经验和感受（个人判断）的重要性（王浩、阿加西）

https://blog.sciencenet.cn/blog-107667-1441295.html

[13] 2025-06-24 21:08，[回忆，资料，打听] “自然运算”的基础来源（铺路石）之一：帕格斯，1988，Heinz Rudolf Pagels

https://blog.sciencenet.cn/blog-107667-1491092.html

[14] 2023-06-24 18:22，[科幻] 《三体外传，又称五体》（3）：场态生命、场态凝聚生命、沙人等

https://blog.sciencenet.cn/blog-107667-1392839.html

[15] 2010-08-30 18:13，《2001太空奥德赛》中的生命进化

https://blog.sciencenet.cn/blog-107667-357663.html

[16] 2026-01-21 20:45，[往日（22）] 外国 Science 文献给出“人类最高成就”者的部分统计原因（相关性）：宽基础、重积累

https://blog.sciencenet.cn/blog-107667-1519414.html  

[17] 2022-12-07 14:15，[？] 《三体》随笔：章北海：有选择地忽略科学

https://blog.sciencenet.cn/blog-107667-1366900.html

[18] 2022-11-07 16:19，[？] 《三体3：死神永生》：章北海

https://blog.sciencenet.cn/blog-107667-1362725.html

[19] 2022-11-06 16:25，[？] 《三体3：死神永生》：跟褚岩一起跑吧！

https://blog.sciencenet.cn/blog-107667-1362576.html

感谢您的指教！

感谢您指正以上任何错误！

感谢您提供更多的相关资料！