第338章 大反攻（2 / 2）

“首先，就是不可控性太大，当人工智能被创造出来之后，创造者就无法再直接对其进行控制，或者说修改其思维方式，举个最简单的例子，你还记得神鬼传奇里那个狼人吗，不是说他曾经是欧洲刺客世家的成员，后来因为疯狂而反叛，你觉得欧洲刺客世家会是故意培养出这么一个疯子吗？”

“所以说，一个人工智能根本没办法有效的进行控制，让这么一个危险的智能去管理强大的太空战舰，我可没那个胆子。”

“另外，人工智能的另一个特性让它更加危险，那就是思维的高速性，或者说迭代性，因为计算机的思维速度远超生物体，所以人工智能的思考速度也要远远超过人类，这样就使得只要它的思考方向稍有偏差，就可能差出十万八千里。”

“比如你刚才提到的‘火焰皇后’，最开始给她的指令是确保基地的安全，可当它侦测到T病毒泄露之后，第一时间却把基地里的人杀得干干净净，显然，在它的思维里，确保‘基地安全’的推导方式以及定义和普通人不大一样。”

“换句话说，如果你让一个人工智能研究怎样制作一盘完美的鱼香肉丝，它固然可能会给你一个精密的操作程序，确保每一次操作都能做出一盘完美的鱼香肉丝，可谓皆大欢喜，但也可能会告诉你鱼香肉丝不如宫保鸡丁好吃，还是改吃宫保鸡丁好了，甚至说觉得你挑三拣四的好烦，纯属浪费资源，比起研究菜谱，干掉你最简单，也不一定……”

“人工智能那么危险？不是说个‘三定律’来确保安全。”

“‘三定律’，你是说‘机器人三定律’吧，一、机器人不得伤害人类，或因不作为使人类受到伤害；二、除非违背第一定律，机器人必须服从人类的命令；三、除非违背第一及第二定律，机器人必须保护自己。”

“很可惜，这套定律能不能真正对人工智能发挥作用且不提，就只是这套定律本身，也因为过于模糊而很容易被绕过，比如说发出对一杯茶下毒这样的指令，恐怕并没有违背‘三定律’，然后给人送一杯茶也同样，但后果可能就是某个喝茶的倒霉蛋被毒死了。”

“所以，虽然灵活性差点，但只要有足够强大的数据库和算法支持，这种比起人工智能来说，‘半自动’的高级反应程序更加安全稳定，硅基的智能生物，有变形金刚就够了。”

“甚至我怀疑，古代圣人和修真者们建造‘主神’的时候，只设定了这么死板的程序，而不是为其配备人工智能，也是因为这个原因，毕竟一台机器，无论过多久，只要部件不损坏就能继续工作，可一个思想，过几千年，谁知道会变成什么样子，干脆直接变成毁天灭地的大魔头都有可能。”

在李萧毅和赵樱空聊天的时候，“恐龙特急克塞号”已经接近了此次飞行的终点，最后一艘外星战舰，而这，也意味着大反攻，即将开始。(未完待续。)