站在数据时代——又或者所谓的算法时代、智能时代——的门口，恐怕很多人是既期待又惶恐的。特别是看到了IBM的沃森超级医生和DeepMind的AlphaGo在疾病诊断和围棋上“过人的智慧”，我们对于人和机器的关系和未来，应该会有不同于以往的认识。不管我们给未来戴上一顶什么样的帽子（智能、算法、大数据……），数据作为最重要的原材料都会扮演关键的角色。在这段征程中，我们谈论最多的是数据的安全和隐私，然而我认为，数据加上算法所带来的伦理问题，要比安全和隐私重要得多。

   下面，我从三个方面讨论这个问题。

   第一，通过数据和算法，机器预测你将以很大概率犯罪，从而在你还没有实施犯罪行为时，你就已经实质上受到了惩罚。

   在《大数据时代》一书中，Viktor Mayer-Schönberger讨论过一个可能的情形，就是当智能机器预测到你将在某时某地犯罪，就可以在你还没有实施犯罪的时候逮捕你！这听起来比George Orwell笔下的《一九八四》还要恐怖。

   当然，这是一个极端的情况，实际上并没有发生过。然而Luck Dormehl在《算法时代》一书中讲了一个温和得多但已经现实发生的版本，就是美国政府根据历史数据和人脸识别算法，会对每一位航空旅客是恐怖分子的嫌疑度进行打分，一些无辜的人因为疑似恐怖分子或者近期有较高从事恐怖活动的可能性，而经常在机场被羁留检查，甚至多次错过飞机。因此，尽管你不太可能因为没有犯过的罪行而被逮捕，但是完全有可能因为被智能算法甄别为高度危险者，而从一个浪漫的二人约会中被强制带回警局协助调查。

   从功利主义的角度讲，我不怀疑这些智能化的方法能够降低犯罪率，但是这里面一个核心的伦理问题就是“我们是否应该为尚未发生的一种可能性付出代价”，至于说算法到底有多精确，那都是其次的问题。

   如果刚才的例子隔大家生活似乎比较远，那么我们来看一个现实的例子——酒驾。简单地说，对于机动车驾驶员来说，饮酒驾车是违法，醉酒驾驶可入刑。这条法律受到了数据有力的支撑：“当驾驶者血液中酒精含量达80mg/100mL时，发生交通事故的几率是血液中不含酒精时的2.5倍；达到100mg/100mL时，发生交通事故的几率是血液中不含酒精时的4.7倍。即使在少量饮酒的状态下，交通事故的危险度也可达到未饮酒状态的2倍左右。”事实上，这条法规的出台，有效降低了严重交通事故的发生率。但是从法理上来琢磨，这里面有些微妙的味道。首先，驾车不违法；其次，喝酒也不违法。如果一个醉酒驾驶者，还没有发生交通事故，就被警察逮捕投入监狱，从某种意义上讲，他实际上是因为“存在很高概率发生严重犯罪”而被惩处。醉酒驾驶的法规赋予了这种惩处合法性——因为他触犯了酒驾的法规，就已经是犯罪，而不是尚未犯罪。

   海外很多国家对于酒驾也有或严厉或宽松的各种限制，相关的法规也往往是人们争论的焦点。有一些人认为，喝上一两杯啤酒然后驾车出行，是一种成年人可以控制的行为，可以享受的生活方式。我本人不喝酒，亦不开车，因此无条件地欢迎这条法规，但我同时在思考，这些基于大量数据分析所得到的有价值的法规，在给与我们更多安全的同时，是否会限制我们的自由？而且，这种限制对于不同人是很不一样的——酒驾法规对我没有任何影响，但对于那些喜欢喝酒，又喜欢驾车，并且酒精耐受度很高的人，就是一种很大的限制。

   当数据的能力和分析的能力进一步增强之后，我们肯定能够发现更多严重影响健康或者安全的因素，并把他们写进法规中。说不定数据分析会显示，饮酒也是街头犯罪主要的因素，因此干脆把“醉酒后在公共场合行走”也禁止得了；几十年后，如果自动驾驶的车辆占有相当的比例，很可能主要的交通肇事都是由人驾驶的车辆引起的，那个时候的法律，可能就不是针对饮酒和吸毒后驾车了，但凡活人开车，都得抓了！我的一个基本判断是，当自动驾驶车辆超过50%之后，活人手动驾驶所贡献的交通风险比例，肯定要远远超过酒驾现在贡献的比例。因此，你活着没问题，你开一辆由机器驾驶的车出去也没问题，但活人手动驾驶就应该入刑——因为在那个时候，人驾驶车辆本身，就是一种对公共安全的危害。今天能接受酒驾入刑的人，明天能够接受手驾入刑吗？

   更进一步，在大量个人数据的支撑下，算法的分析可以是完全个性化的。很可能，我们有一些完全无害的行为或其他特征，仅仅因为它们和犯罪分子有相似之处，我们就会为之付出代价。回到机场甄别恐怖分子的问题，一个人如果留大胡子，被单独羁留检查的概率会大大提升——对于一个仅仅是喜欢大胡子的无辜人士而言，他应该怎么选择？我曾经听公安的同事讲他们用天网系统监控火车站等人流量大、诈骗犯罪高发的场所，一旦看到一些漫无目的走来走去的人，就会让便衣去盯梢甚至盘查，因为这些人往往是高危人群。在今年旧金山的ACM SIGKDD会议上，我的朋友，罗格斯大学的熊辉教授，提出了一套算法，通过智能交通卡记录，甄别出一些异常乘客，他们乘坐路线没什么规律，或是突然改变乘坐模式，而不是像通常的乘客那样快速从A到B。这两个例子把我吓坏了，因为我小的时候，经常一个人在成都火车南站东游西逛，看似漫无目的，其实脑子里面在构思自己的武侠世界和童话世界。那时候个子小，乘公交车免费，又特别喜欢汽车行驶的振动感和柴油的味道，所以也经常带着本书，胡乱坐公交。如果放在今天，我在计算机世界里的形象，就将不停地在盗窃犯和诈骗犯之间震荡！

   唯一能够聊以自慰的是，我没有留大胡子！