风险敏感的创新

武夷山

Science and Public Policy（科学与公共政策）杂志网站2024年7月30日发表了英国人工智能安全问题研究所的Jonas B Sandbrink和另外四位学者（Hamish Hobbs, Jacob L Swett、Allan Dafoe和 Anders Sandberg）合著的文章，Risk-sensitive innovation: leveraging interactions between technologies to navigate technology risks（风险敏感的创新：利用好不同技术之间的互作用来规避技术风险）。此文可免费下载。文章的摘要说：

推进低排放技术以抵御气候变化的做法表明，战略性地把握技术开发的时机是可以减轻负面的社会后果的。我们提出，也可以用“风险敏感的创新”（RSI）这样一种类似的进路来应对合成生物学和人工智能等新兴技术的风险。RSI利用不同技术之间的互作用来降低技术组合中的一些特定风险。例如，迟滞推进或终止增大风险的技术，优先推进降低风险的国防技术、安全技术或替代技术，也许是有益之举。要想有实用价值，RSI就要求人们具备预见和识别技术影响的能力，对技术开发的相对时机进行干预的能力。我们的分析表明，这两者有时都是可行的。对RSI纳入思考框架对于以下几个方面都有启示意义：政府的科研资助部门和技术规制部门，资助研发的慈善机构，企业社会责任的测度。

文章给出了RSI的定义：为了减轻特定风险，可以考虑这样一些选择，通过对不同技术的开发时机施加影响，来利用不同技术之间的降低风险互作用。

    RSI的特征，是着眼于技术之间的互作用。在增大风险的技术问世之前或问世不久之后，推进那些能减轻特定风险的技术，能得到更好的社会结果。例如，印刷技术与防伪技术，小汽车与安全带，抗凝血剂和抗凝血逆转剂，这些东西相互间都有简单的互作用，可以将这些互作用利用起来以降低特定的技术风险。

   文章中的表1概括了“迟滞推进和评价增大风险的技术与科研之策略”，如下：

    作者强调说，RSI要求政府、慈善家或其他有关行动者采取干预措施以实现一个目标，比如减轻某一技术的潜在负面影响。然而，任何给定目标都需要与其他目标或价值形成平衡。全球安全重要，科学自由与开放的价值也重要。在某些情况下，甚至需要在降低灾难性风险与获得短期收益二者之间加以平衡。