原文：

AI: How 'freaked out' should we be?

https://www.bbc.com/news/world-us-canada-64967627

By Anthony Zurcher

North America correspondent

@awzurcher

译者注：这是基于谷狗的翻译。我只是读了一遍，略加润色。

人工智能具有改变我们生活方式的强大力量，无论是好的方式还是危险的方式。专家们不相信当权者（those in power）已经为即将到来的事情做好了准备。

OpenAI的非营利研究小组在2019年创建了一个软件程序，该程序可以生成连贯的文本段落，并在没有特定指导的情况下进行基本的阅读理解和分析。

OpenAI最初决定不将其名为 GPT-2 的产品完全向公众开放，因为担心有恶意的人会利用它来产生大量虚假信息和宣传。在宣布其决定的新闻稿中，该组织称该计划“太危险”。

三年后，人工智能能力呈指数级增长。

与上一次的有限发行相比，下一个产品 GPT-3 已于（2022年） 11 月上市。源自该编程的 Chatbot-GPT 界面发布了 1000 篇新闻文章和社交媒体帖子的服务，记者和专家测试了它的功能——往往获得令人大为吃惊的结果（eye-popping results）。 

Chatbot-GPT 以已故喜剧演员乔治卡林（George Carlin）的风格编写脱口秀节目（stand-up routines），讲述硅谷银行的倒闭事件。它对基督教神学发表了看法。它写诗。它向孩子解释量子理论物理学，就好像它是说唱歌手史努比狗狗（rapper Snoop Dogg）一样。其他 AI 模型，如 Dall-E，生成的视觉效果如此引人注目，以至于引发了关于将其包含在艺术网站上的争议。

机器，至少在肉眼看来，已经实现了创造力。

周二， OpenAI推出了其程序的最新版本 GPT-4，据称该程序对滥用有严格的限制。早期客户包括微软、美林证券和冰岛政府（Microsoft, Merrill Lynch and the government of Iceland）。本周在得克萨斯州奥斯汀举行的西南偏南互动会议上（the South by Southwest Interactive conference in Austin, Texas）——这是技术决策者、投资者和高管的全球聚会——最热门的话题是人工智能程序的潜力和力量。

白宫科技政策办公室主任Arati Prabhakar 表示，她对人工智能的可能性感到兴奋，但她也有一个警告。

“我们都看到了这种极其强大的技术的出现。这是一个转折点，”她对会议小组的听众说。 “所有的历史都表明，这些强大的新技术可以而且将会被用于好事和坏事。” 

她的共同小组成员奥斯汀·卡森 (Austin Carson) 直言不讳。

“如果六个月后你还没有完全（省去脏话）吓坏，那么我会请你吃晚饭，”人工智能政策咨询小组SeedAI的创始人告诉听众。

“吓坏了”是一种表达方式。 Future Today Institute 负责人兼纽约大学商学教授 Amy Webb 试图量化她在 SXSW 演讲中的潜在成果。她说人工智能在未来 10 年可能会朝两个方向之一发展。 

在乐观的情况下，人工智能的发展侧重于公共利益，人工智能系统设计透明，个人可以选择是否将他们在互联网上公开获得的信息包含在人工智能的知识库中。该技术是一种让生活更轻松、更无缝的工具，因为消费产品上的 AI 功能可以预测用户需求并帮助完成几乎任何任务。

Webb女士的灾难性情景涉及更少的数据隐私、更多的权力集中在少数公司和预测用户需求的 AI 中 - 并让他们错误或至少扼杀选择。

她对乐观情景只给出了 20% 的可能性。

Webb女士告诉 BBC ，技术的发展方向最终在很大程度上取决于公司开发它的责任。他们这样做是否透明，揭示并监管聊天机器人（科学家称之为大型语言模型）从中获取信息的来源？ 

她说，另一个因素是政府 - 联邦监管机构和国会 - 是否可以迅速采取行动建立法律护栏来指导技术发展并防止其滥用。

在这方面，政府与社交媒体公司——脸书、推特、谷歌等——的经验可以说明问题。而且经验并不令人鼓舞。

“我在很多谈话中听到的是担心没有任何护栏，”未来今日研究所常务董事梅兰妮苏宾（Melanie Subin, managing director of the Future Today Institute）谈到她在“西南偏南”的会议时说。 “有一种感觉需要做一些事情。我认为社交媒体作为一个警示故事是人们在看到生成式人工智能发展得如此之快时的想法。”

联邦对社交媒体公司的监督主要基于国会于 1996 年通过的《通信规范法》，以及该法第 230 节中包含的一项简短但有力的条款。该语言保护互联网公司免于对其网站上用户生成的内容承担责任。它因创造了社交媒体公司可以蓬勃发展的法律环境而受到赞誉。但最近，它也被指责为允许这些互联网公司获得过多的权力和影响力。

右翼政客抱怨说，它让世界各地的谷歌和 Facebook 可以谴责或削弱保守派观点的知名度。左翼人士指责这些公司在防止仇恨言论和暴力威胁传播方面做得不够。

“我们有机会也有责任认识到仇恨言论会导致仇恨行为，”密歇根州国务卿乔斯林本森（Jocelyn Benson, Michigan's secretary of state）说。 2020 年 12 月，唐纳德·特朗普武装支持者在 Facebook 上组织了抗议活动，抗议 2020 年总统大选的结果，她的家成为抗议目标。

她支持密歇根州的欺诈行为立法，该立法将使社交媒体公司对故意传播有害信息负责。联邦和其他州都提出了类似的提案，并立法要求社交媒体网站为未成年用户提供更多保护，对其内容审核政策更加开放，并采取更积极的措施减少在线骚扰。

然而，对于这种改革成功的可能性，意见不一。大型科技公司在华盛顿特区和各州首府拥有完整的说客团队，以及通过竞选捐款影响政客的雄厚金库。

“尽管有大量证据表明 Facebook 和其他社交媒体网站存在问题，但已经过去 25 年了，”科技记者 Kara Swisher 说。 “我们一直在等待国会通过任何保护消费者的立法，而他们已经推卸了自己的责任。”

Swisher 说，危险在于许多曾经是社交媒体主要参与者的公司——Facebook、谷歌、亚马逊、苹果和微软——现在是人工智能领域的领导者。如果国会无法成功监管社交媒体，他们将难以迅速采取行动解决人们对Swisher女士所说的人工智能“军备竞赛”的担忧。

人工智能监管与社交媒体之间的比较也不仅仅是学术性的。新的 AI 技术可能会将 Facebook、YouTube 和 Twitter 等网站本已陷入困境的水域变成虚假信息的沸腾海洋，因为越来越难以将真人的帖子与假的——但完全可信的（but entirely believable）——AI 生成的账户区分开来。

即使政府成功颁布了新的社交媒体法规，面对大量由人工智能生成的有害内容，这些法规也可能毫无意义。

在西南偏南的无数座谈会中，有一个题为“国会如何从头开始制定人工智能政策”。经过大约 15 分钟的等待，观众被告知小组讨论已经取消，因为参与者走错了场地。

对于那些希望从政府中的人身上获得能力迹象的会议上的人来说，这并不是一个令人鼓舞的发展。