博文
【域外动态】MIT人工智能学院迎来校内“伦理、计算和人工智能”大讨论
|
【域外动态】MIT人工智能学院迎来校内“伦理、计算和人工智能”大讨论
麻省理工学院计划投资10亿美元开发人工智能，旨在解决人工智能崛起带来的全球机遇和挑战 2018年10月16日麻省理工学院（Massachusetts Institute of Technology，MIT）宣布，将斥资10亿美元在MIT新建一所专注“人工智能”的学院。 人工智能，或称机器学习，涉及到软件的开发，这些软件就像大脑一样，在没有人为干预的情况下接收数据、处理数据、做出决策、采取行动。尽管人类普遍存在被人工智能取代的担忧，但不可否认的是，它已经给客户服务行业和运输等领域带来了革命性的变化。 除了进一步推动人工智能的实际进展外，该学院还将迎接另外两项严峻的挑战：第一，如何应对人工智能为其将要改变的社会带来的伦理道德问题，即确保人工智能得到负责任的开发和利用；第二，如何打破学术界的“孤岛问题”,即将人工智能与其他学科联系起来。 麻省理工学院表示，该计划是美国高等教育学术机构对人工智能领域的最大一笔投资。这项计划由全球领先的资产管理机构黑石集团(Blackstone Group，又名佰仕通集团)的联合创始人兼首席执行官斯蒂芬A·施瓦茨曼（Stephen A.Schwarzman）提供3.5亿美元的基础捐赠，新学院也被因此命名为施瓦茨曼计算学院。除了施瓦茨曼的捐赠，MIT还筹集了另外3亿美元作为支持，总共筹集了6.5亿美元。 该学院将于2019年秋季举办第一期课程，新大楼计划于2022年开放。 麻省理工学院计划为新学院招聘50名教职员工，他们不一定都是计算机科学家，也不一定都是专职人员，因为大约有一半的教职员工将由MIT的其他学院和部门共同任命。例如，新学院可能会聘请一位具有政治学或哲学背景的学者，但教务长马丁·施密特(Martin A.Schmidt)表示，“这名学者也一定熟练掌握这些先进的计算机技术，甚至是精通”。 施密特(Schmid)认为，麻省理工希望通过联合任命完成几件事。一方面，拥有跨学科背景的教员将人工智能应用到其他学科领域，并将这一过程中的新发现、新观点用以帮助改进人工智能，塑造人工智能的未来。另一方面，将人工智能与其他学科联系起来，有助于打破跨学科思考和研究中的“孤岛问题”。 他还说道：“我们需要重新调整教员的任职和晋升方式，以招聘和支持那些能够帮助学院实现其宏伟目标的教员。” 麻省理工学院斯隆管理学院（Sloan School of Management）的首席研究科学家安德鲁·迈克菲（Andrew McAfee）研究信息技术对商业的影响，他表示真正的跨学科研究在学术界是罕见的。但是他对施瓦茨曼计算学院的可能性感到鼓舞，因为人工智能已经激发了很多跨学科的讨论。 安德鲁·迈克菲认为：“随着有关人工智能的能力和人工智能的发展这些问题不断加深，一个真正的跨学科、多元化的群体，不管是来自麻省理工学院还是其他地方的人，都自然而然地开始走到一起，并围坐在同一张桌子上共同探讨、相互学习。” 斯坦福大学的讲师、研究人员和科技企业家杰里•卡普兰（Jerry Kaplan）说：“人工智能不是第一个要求大学和学院重新思考他们的院系结构和教学方法的新学科，因为计算机科学本身也曾经归属于数学系。” 另一个例子是，生物技术不仅与其他学科建立了新的跨学科合作关系，而且还提出了一些新的问题，即什么样的研究应该受到限制，以及改变遗传密码的潜在利益和风险，这些问题与人工智能研究人员面临的一些困境类似。 考虑到处于变革中的人工智能如何适用于生活的诸多方面，卡普兰认为，“将人工智能与许多其他学科结合是非常有必要的。” 除了缓解学术界的“孤岛问题”，麻省理工学院的新学院旨在应对人工智能所带来的更大挑战，这是设立该学院的根本原因。 施瓦茨曼在一份书面声明中表示，“社会面临着如何确保技术进步惠及所有人的根本问题，特别是那些最容易受到人工智能激进变革影响的人，因为人工智能将不可避免地给劳动力带来冲击。” 迈克菲认为，与其他强大的技术创新一样，人工智能有望使社会变得更加繁荣。但是，他补充说，“这种繁荣的分布可能会以我们不喜欢的方式，或以不公平的方式改变。” 他还说道：“如果某个软件可以自动执行某些关键功能并使成千上万乃至数十万人失业，那么就会出现政策问题，开放的经济问题以及道德问题。” “人工智能是一个经典的闪亮物体，”高等教育信息技术领域的非营利组织Educause的学习计划主任马尔科姆·布朗（Malcolm Brown）说。许多人都急于接受一项新技术，却没有对它可能预示的前景进行过深入的思考。布朗表示，人工智能的未来存在着许多利益攸关的问题，他很高兴听到麻省理工学院将与之抗争。 随着越来越多的公司开发人工智能技术，麻省理工学院和其他大学也开始考虑人工智能的广泛影响。“老实说，以前没人会考虑这些问题，因为这些公司根本不关心这些问题。”达特茅斯学院科学系副主任丹尼尔·N·洛克莫尔（Daniel N. Rockmore）说。” 他还补充说道，如果施瓦茨曼计算学院投入大量的教师资源来思考人工智能所涉及的伦理困境，并将其纳入课程内容，也许更多未来的工程师和初创企业会在提出新的想法并把它们应用于实际的过程中，考虑道德伦理方面的影响。 伦理、计算和人工智能——来自麻省理工学院的观点 麻省理工学院施瓦茨曼计算机学院将重新定位麻省理工，将计算和人工智能的力量带到麻省理工学院的所有领域，让其他学科的见解和观点共同塑造计算和人工智能的未来；并加强计算与人工智能相关的公共政策和道德方面的教育和研究，以确保新技术带来更大的利益。 为了支持新学院的持续规划，院长梅丽莎·娜贝尔斯（Melissa Nobles）邀请麻省理工学院五所学院的教师提供有关新兴技术社会和道德层面的观点。他们对这个时代最重要的问题进行了深入的讨论，由此而产生了一系列现实的、启发性的、关切的、清晰的评论。 虽然评论代表了不同的知识分支，但它们仍有一些共同的主题，包括：麻省理工学院的文化愿景，在这一愿景中，所有人都有能力并被鼓励去辨别未来人工智能发展的社会影响和道德含义。 专家的主要观点 “这些评论集合了MIT五所学院的教员的看法，他们要求我们在塑造一所新学院的同时，要保持合作的、敏锐的、勇敢的和谦逊的态度。这是理所当然的，因为我们正在着手一件将影响人类未来方方面面的事情。”——Melissa Nobles（政治学教授，人文、艺术和社会科学学院院长 ） 道德哲学的工具 “我们每天都面临道德问题。哲学并没有为这些问题提供简单的解释，也没有提供解决问题的方法。它所提供的是一种思考道德问题的方法，识别隐藏的道德假设，以及建立可以引导和判断我们行为的原则......完全从道德的角度对先进技术的风险进行讨论表明，所提出的问题是可以而且应该通过个人行动解决的问题。事实上，如果没有系统性的变革，计算机科学所带来的许多挑战将难以解决。”——Caspar Hare，Kieran Setiya（哲学教授，人文、艺术和社会科学学院） 行动建议：道德哲学家可以担任新学院的教师，也可以担任项目团队的顾问。 当计算机程序变得不可预测时 “我们应该期待机器学习会给社会带来许多好处。但是我们也应该坚持让技术人员研究并清楚地解释其中的风险。整个社会也应当了解风险，并思考如何利用这种不断发展的技术，做出以人为本的选择。” ——John Guttag，Dugald C.Jackson（计算机科学和电气工程教授，工程学院） 行动建议：开发能够使社会大众广泛参与到解决新技术所带来的社会和伦理问题的平台。 在人工智能时代保护人类 “人工智能的发展有两种可能。第一种可能性是放任人工智能的发展，并导致其逐渐取缔人的行为准则。第二种可能性是我们以最高的警惕性接受人工智能存在的威胁，并彻底改变我们的生活方式。这意味着将我们的思想从对效率的盲目信从转向对人类生活中最重要的事物的认识理解。”——Bernhardt Trout，Raymond F.Baddour（化学工程教授，工程学院） 行动建议：设置一门鼓励大家深入思考基本问题的课程，比如像“什么是正义？”、“我该如何生活？”这样的基本问题。 谁在用人工智能发号施令？ “效率”具有永恒的商业价值，是企业设计、战略和执行中不变的因素。但在一个由更大实体实施社会控制的现实世界中，人工智能的发展还没有产生我们可以控制其影响的道德规范。以史为鉴才能够全面的展望未来，值得庆幸的是人类自身而不是机构或文物决定了我们如何参与这一历史进程。——Leigh Hafrey（道德与领导力高级讲师，麻省理工斯隆管理学院） 行动建议：对社会中的企业和企业中的个人采取全面的利益相关者观点。 盲点 “麻省理工学院有机会来领导新技术的发展，同时还引导关于“为什么”和“如果有什么”的谨慎的、深思熟虑的、广泛的、持续的社会讨论，而不仅仅是“如何”。研究人员会因为学习和创造新事物而感到兴奋不已，但是没有一组研究人员可以克服盲点和动力的限制。——David Kaiser（德国科学史教授，物理学教授，人文、艺术和社会科学学院+物理系） 行动建议：通过持续的头脑风暴和辩论，从尽可能多的利益相关者的参与中获益。 评估人工智能对社会的影响 “人工智能的使用，特别是在数据收集和机器学习方面，带来了三个基本的社会挑战。第一个挑战集中在这个问题上：谁有能力知道人工智能工具是如何工作的，谁没有？第二个挑战涉及人工智能工具如何与国际关系和全球化动态相接轨。第三，除了知识、权力和全球化问题之外，考虑人工智能与社会正义之间的关系也很重要。”——Lisa Parks（比较媒体研究教授，人文、艺术和社会科学学院） 行动建议：对人工智能技术与全球贸易、全球治理、自然环境和文化的关系进行政治、经济和唯物主义分析。 道德行动的环境 “我们可以把学生培养成道德思想家，但如果他们不在倡导道德伦理和推动拟议进程的环境中工作（或学习），他们将受到阻碍。有关道德伦理的考虑必须包括一个社会学模型，该模型关注的是过程、政策和结构，而不仅仅是个体行动者。”——T.L.Taylor（比较媒体研究教授，人文、艺术和社会科学学院） 行动建议：将社会正义置于麻省理工学院施瓦茨曼计算学院的中心。 生物智能与人工智能 “对生物智能的理解与人工智能的发展有关，而开发人工通用智能（AGI）的努力则放大了其重要性。AGI将被期望符合行为标准……人工智能和普通人是否应该遵守相同的标准？或者我们会期望人工智能像一个理想的人一样发挥作用吗？”——Matthew Wilson, Sherman Fairchild（神经科学教授，科学院+ Picower研究所） 行动建议：研究人类智力中先天道德是如何产生的，这是将这种能力融入人工智能的重要一步。 双语和混合 “当我们今天研究社会的时候，我们不能再把人文科学——对人类的研究——与计算分离开来了。因此，虽然正在讨论如何在计算与人文、艺术和社会科学之间架起桥梁，但是计算学院需要的是融合，而不是桥接。麻省理工学院的指导方针应该是Reif校长的目标，即“教育未来的双语者”，许多领域的专家都能够精通现代计算。”——Hal Abelson（1922年电气工程与计算机科学教授，工程学院） 行动建议：制定联合研究和联合教学的方法。 计算机的梦想 “关于计算是什么，有很多观点：一些人关注理论基础，其他人关注现实，其他人仍然关注社会或环境影响。这些观点是由共同的特征统一起来的，但是包括一些不太常见的特征：计算可能涉及美和创造力。”——Fox Harrell（数字媒体和人工智能教授，人文、艺术和社会科学学院+计算机科学和人工智能实验室） 行动建议：“我们必须重新构想我们对计算技术的共同梦想，因为计算技术的潜在社会和文化影响被认为是发明它们的工程实践所固有的。” 从业者网络 “计算不是一门专业，也不是一个学科，它是一种实践。新学院为麻省理工学院的许多计算机从业人员提供了一个机会。”——Nick Montfort（媒体研究教授，人文、艺术和社会科学学院） 行动建议：建立一个包含多种相关连接类型的强大网络，而不是单一的连接方式。 设计伦理人工智能 “我们正在教授一个道德规范，一个学生可以用于自己项目的循序渐进的过程。在这个自动驾驶汽车和机器学习的时代，这些问题感觉很新，但在很多方面却不是。哲学提供了强大的工具来帮助我们回答这些问题。”——Abby Everett Jaques（哲学博士后助理，人文、艺术和社会科学学院） 参考链接： https://www.chronicle.com/article/MIT-Plans-1-Billion-Project/244806?cid=wcontentgrid https://shass.mit.edu/news/news-2019-ethics-computing-and-ai-perspectives-mit
作者 | 王倩，同济大学高等教育研究所硕士生
https://blog.sciencenet.cn/blog-2903646-1172514.html
上一篇：【智库数据】不可轻视考研自主划线学校的单科线
下一篇：【规划参考】中国慕课的荣光与挑战
