《终结者：漆黑命运》剧照。
11月1日，美国国防部部属的国防立异委员会推出了终究版的《人工智能品德品德规范》。其实该规范酝酿已有数年。2018年7月，该委员会提出了规范的草案版别，并经过听证会接受了上百位业界人士的定见。此次终究版别在委员会投票中得到共同支撑。
国防立异委员会是美国国防部2016年建立的新安排，首要意图是安排美国科技界领军人物对美国国防科技的严重战略决策供给咨询定见。由于委员会成员简直都是美国业界大咖，其所发布的文件尽管没有强制约束力，但也在美国社会发作广泛影响。
品德准则为人工智能军事化上“保险丝”
近年来，美国军方明显加快了人工智能运用的速度，企图凭借这一新颠覆性技能，完全改动美军的作战形式。早在2019年2月，国防部发布首份美军人工智能战略文件，要求运用人工智能促进美国安全与昌盛，将人工智能赋能引进到详细军事使命中。
美军快速引进人工智能技能，也在美国表里引起了广泛忧虑。一些调查人士开端忧虑美军的脚步迈得太快，或许发作新的安全危险。而此次国防立异委员会的品德品德规范，便是着眼于处理这些潜在危险，清晰美军运用和研制人工智能的约束。
国防立异委员会提出了五项中心规范：即担任、公正、可追踪、牢靠、可控。其间，公正和可控两条规范的争议性较大。
委员会所提出的公正是指，美军在开发和布置人工智能化的配备时要防止呈现意料之外的误差，而这些误差会在无意中对人员形成损伤。完成这条规范有很高难度。由于人工智能技能的特性，导致其在运用过程中或许“自我学习”，其间一些“自我维护”行为或许导致违反设计者的初衷。这条规范意味着美军所运用的人工智能设备，有或许采纳“意外发作”的一票否决制。
可控的理念，则企图给人工智能技能加上“保险丝”。委员会主张美军在人工智能体系和配备中设有“主动或手动”停机开关，一旦该设备工作违背运用者和设计者初衷，作战和指挥人员就能当即关闭体系。
这种理念意味着人工智能不能完全代替美军作战人员进行判别，作战人员需求实时监控人工智能配备的运转，乃至选用遥控方法做出关键性决议。在这种前提下，美军也很难将强人工智能运用于军事实践。
品德规范免除美国AI军事化最大忌讳
委员会所提出的品德品德规范看似苛刻，但免除了美军运用人工智能的最大忌讳。
五条品德规范中既没有包含制止美军将人工智能技能运用于丧命性兵器，也没有约束人工智能化兵器的进犯方针。这意味着美国现已完全抛弃了“人工智能非军事化”抱负方针，将其全面引进作战范畴。这也给美军未来运用人工智能供给了有利的说辞和合法性根据，让美国社会接收一个人工智能化的美军。
根据委员会的此份陈述，美国很有或许成为全世界首个推出人工智能军事化品德规范的国家。
从全球范围看，品德规范是人工智能管理的先导性规矩。从品德和品德上讨论人工智能，标明该技能的开展和运用或许对人类社会带来严重的影响，或许改动人类社会的根本形状。人类社会当时所依靠的品德和品德规范，对人工智能研制者和运用者尚没有满足约束，需求根据该技能开展变化提出新的品德规范。
品德规范也是世界社会在人工智能管理范畴最广泛议论的内容。谷歌等美国科技巨子、各国政府、科技界的非政府安排都提出了自己的人工智能品德。各方在这一问题上的博弈与协作刚刚开端。
美国则在这场人工智能的世界规矩之争中拓荒了新的战场，即人工智能军事化范畴。美国所提出的规范与联合国丧命自主兵器体系所倡议的准则有必定差异，也不同于欧盟、我国等对立“人工智能军事化”的根本态度。
下一阶段，美国将会企图将自己的品德规范演变为该范畴世界规矩的根本性准则，获取人工智能军事化的“终究解释权”。
李峥（我国现代世界关系研究院美国所）
修改：李冰冰 校正：郭利
