如果不用人来判断，机器自己就可以决定要不要杀死一个人，我们的战争会变成什么样？最近，加利福尼亚大学一位计算机学教授警告说，现在很多国家都在积极开发自主攻击人的武器系统，要是我们再不认真讨论，那等于要默许通过了。
人类的战争有过两次革命，一个是火药的使用，第二个是核武器的发明，可以自主攻击的武器系统，被称作第三次战争革命。目前所有的武器，包括无人机什么的，最终杀人的决定权还是在操纵它的士兵手里，但如果赋予它自主攻击的能力，那武器的效率就大大提高了，即使敌方干扰而让你和这些武器失去联系，它还是可以自己战斗。而且未来飞行机器人越来越小，打击越来越精确，甚至只要1克重的弹头，足够刺穿人的头盖骨，就能杀人。能限制自主武器能力的，只是物理定律，人类毫无还手之力。
这事离我们多远呢？美国、英国、以色列都在积极研发，如果只考虑可行性的话，几年内它们就可以部署到军队了，新一轮全球军备竞赛肯定会发生。
所以这位教授警告说，我们必须讨论决定，是支持，还是反对？如果再不讨论，那就等于默许了。
本文源自：AI的未来，与人类共存
撰稿：曾翔
讲述：于浩