庞可阳 整理报道
“人类精心制造的人工智能机器，产生自我意识并成为最高效的杀戮机器”。目前全世界的顶尖大脑们正在试图阻止类似电影《终结者》中的情形在现实社会发生。以马斯克、Google DeepMind为首的上千名科学家、技术工作者与行业领袖本周聚集瑞典斯德哥尔摩，签署承诺未来“既不参与也不支持发展、制造、销售或使用杀戮机器人（Killer Robots）”。
2018年的国际人工智能联合会议（IJCAI）本周在瑞典斯德哥尔摩举行。本月17日，「生命未来研究所」组织的会议，呼吁各国政府、学术界和工业界“通过制定强有力的国际法规法律，对自主致命性武器即杀戮机器人的未来进行约束”。
17日当天，来自90个国家，150多家科技公司的超过2400名从事人工智能研究的工作人员和高层管理人员签署了一项反对制造、使用杀戮机器人的承诺。特斯拉、SpaceX首席执行官马斯克长期以来一直对人工智能的危险直言不讳，他当天与谷歌DeepMind，XPrize基金会的创始人们一同郑重签字。
生命未来研究所主席兼麻省理工学院物理学教授Max Tegmark指出，“很高兴看到人工智能届的领导人们将承诺转为行动，实施政治家们至今未能实施的政策。在防止被滥用下，人工智能的确具有帮助世界的巨大潜力。然而自主决定杀人的人工智能武器就像生化武器一样令人恶心和担忧，因此也应以同样的方式对待。”
生命未来研究所将自主致命性武器定义为无须人类控制，便能够识别、瞄准和杀死人类的武器。无需人类作出终极授权，机器人即能自动决定人类的生死。这种自主致命性武器并不包括目前被广泛使用的无人机和其他武器防御系统。
科学家们认为，一旦顶级的学术机构参与到自主致命性武器的研发中，必然会加速第三次世界大战，届时武器的杀伤力和规模都将会远远超出人类想象。
早在2016年12月，联合国常规武器公约（CCW）审议大会开始就自主致命性武器进行正式讨论。在今年4月的会议上，包括中国在内的26个国家宣布支持对自主致命性武器提出禁令。生物武器、化学武器和太空武器也都面临此类禁令。
尽管联合国发布禁令，但是韩国科学技术院在今年4月发布声明宣布开设人工智能武器实验室。目前，韩国科学技术院已经遭到全世界专家学者的抵制。
