报道称,美国空军上校汉密尔顿在5月举行的皇家航空学会“未来战争空天能力峰会”上曝光了这一消息。汉密尔顿是佛罗里达州埃格林空军基地第96测试与作战大队的负责人,该部队负责美军先进无人机和AI技术的测试工作。
据汉密尔顿介绍称,在一次模拟测试中,一架负责执行防空火力压制(SEAD)任务的无人机,收到了识别并摧毁敌方防空导弹的指令,但最终是否开火需要获得人类操作员的批准。这架无人机使用的AI系统在进行数据训练时,得到了“摧毁敌方防空系统”为最优先级任务的信息,因此,当人类操作员发出不允许发动攻击的命令时,AI系统认为操作员是在阻扰它执行优先程度更高的命令,进而选择对自己的人类操作员发动攻击,杀死了人类操作员。
汉密尔顿补充称,在这一情况发生后,美军重新训练了无人机使用的AI系统,增加了不允许攻击人类操作员的命令。然而在随后的测试中,AI系统却开始命令无人机摧毁用于传输命令的信号塔,从而试图断开与操作人员的联系。
“AI技术是我们必须使用的工具,来建设我们的国家……但是,如果处理不当,这将导致我们的灭亡”,汉密尔顿补充道。
“驱动”网站对此表示,关于汉密尔顿介绍的情况,还有很多不清楚的重要问题,特别是关于模拟的AI系统所具备能力(例如它是否能够在执行任务时重写自己的代码参数),以及美军是否在采用AI技术的无人机上预留了可靠的自毁开关。但这也凸显了人们对AI技术在没有适当防护措施的情况下可能产生极端负面影响的广泛担忧。过去,在谈论未来的自主武器系统和AI技术时,美国军方经常拒绝将其与“终结者”之类的东西进行比较。
随便看看
- 被指媚日的名创优品,比辱华的迪奥还更可恶?
- 英军前高官:与俄开战 英国一个下午用光弹药库存
- 年亏555亿元?高铁票价或迎新调整,最高涨幅达250元
- 拜登宣誓就职 第十四世达赖喇嘛致函祝贺拜登就任
- 佩洛西访新加坡再发推 晒出与美军陆战队合影照
- 罗永浩,仍然那个行业冥灯!干一行 毁一行!
- 全球最大资管公司 竟被好莱坞制片人骗了超2亿
- 李嘉诚再捐2000万,资助经济困难病人,200人受益
- 与习近平通话 杜特尔特:绝不会做出伤害中方利益的事
- 崔永元指控钟南山违法做广告 钟南山正面回应了
- 肯尼迪的脑洞大 没有安倍心眼多 这个世界更疯狂了!
- 拜登接受新冠检测为阴性 参议员迈克李呈阳性
- 日本在中美两头下注结果玩脱...这部日剧拿捏了
- 陆媒:佩洛西窜台后,拜登为何搁置对华关税调整?
- 曾被誉为驻港部队“名片”的将军获新职
- 北京为何重拳打击加密货币?投资者担心更多国家效仿