天才一秒记住【狂风中文网】地址：https://www.kfzw.net
了，要受惩罚了。
那他们会怎么选择？如果这个时候，再有一个新的病人，也在呼叫救护车，而且司机发现可以在8分钟之内赶到，那这辆车一定就会转头去救治新病人。
最开始打电话的那位病人很大概率被无情抛弃。
还有一种可能，确实超过了8分钟，也确实赶到了。
但是救护车也不愿意违规，怎么办？只好跟病人商量，你这不算是危重病人行不行？
还有一种可能。
救护车走到半路，发现交通实在拥堵，不可能在8分钟之内赶到现场。
那就兵分两路，先派一个人骑摩托车甚至自行车，赶到现场再说。
这样确实是在8分钟内赶到了，但危重病人如果需要送到医院才能救治，总不能用摩托车或自行车载着去，这种赶到其实也耽误了治疗。
8分钟的时限造成了太多意料之外的后果，从数据造假、病情分级造假，到自行车登场。
政府的本意是提高急救服务的效率和质量，没想到结果恰恰相反，造成了这么多负面影响，引来一片骂声。
那为什么会是这样？是英国医生道德水平低？真不是，这是客观标准自身的问题。
任何人类目的，一定都内含非常复杂的维度，一旦要把这些目的变成客观标准来衡量，必然丢失很多维度。
所以，不是有坏人要钻空子，而是只要用客观标准来管理复杂目标，必然就会出现大量的空子可被钻。
我们推导一个极端的情况你就明白了。
超级人工智能一旦实现，对人类其实是很可怕的。
为什么？不是因为超级人工智能要蓄意毁灭人类，而是因为机器人智能用客观标准衡量人类的主观目标，机器的能力又那么强，结果一定会是灾难。
比如你有一台能力超强的家用机器人，你对机器说，我要快乐。
这总没问题，机器一计算，让你最快乐的方法，就是把头割下来，泡在特定的溶液中，从此你就没有任何烦恼只剩下无边的快乐。
你说，不行，不能把头割下来，你不能伤害我的身体。
机器说，也行，那就把你关在家里，给你放化学气体，也能让你快乐。
你说，不行，不能限制我的行动。
机器说，也行，那就给你做一个迷宫，你在里面只能遇到快乐的事，让你不高兴的事一样也没有。
你说，不行啊，那不是真实的世界。
机器最后说，让你觉得这是真实的世界不就行了吗？你看，这对超级人工智能有多难。
不管你设定多少条件，机器都可以把它换算成客观标准，然后彻底执行，最后一定都通向你不愿意看到的结果。
其实根本不用等到超级人工智能实现的那一天，今天我们身边就有大量这样的例子。
很多领导说，你不要跟我讲过程、讲条件，我就要结果，这个月销售数字必须达到多少。
听起来很霸气对不对？但是，如果领导真的什么都不看，只要结果的话，下面的团队一定会让他看到他不愿意看到的结果。
因为每一个客观标准，都有正直的、邪恶的、艰难的、简便的多种实现方法，如果领导只在乎客观标准，那就不用问，他一定会得到最糟糕的实现方法。
那接着问，客观标准不管用，那怎么办呢？
还是回到刚才提到的医院的例子。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！