因此任何武器都应当受到人类控制,【嵌牛正文】

图片 7

参考消息网9月19日报道
西班牙《阿贝赛报》网站9月17日发表了题为《自动化武器:杀人机器人的威胁》的报道,具体内容编译如下:

姓名:黎文渊   学号:17021210909

全世界的军队因为全自动化武器的生产而发生了翻天覆地的变化。然而,正如爱尔兰信息工程专家劳拉·多兰所言,人类却尚未掌握能够保证这些武器不犯错或误伤大批平民的办法。

本文转自 

多兰指出,假如使用不当,这种武器就很可能导致大规模意外事故。因此任何武器都应当受到人类控制。假如无法受到控制,就必须禁止使用,因为此类武器或造成意想不到的危险后果。

【嵌牛导读】:人工智能给人类带来了很多便利,改变了我们的生活,然而其潜在危险应该引起人们的重视。

多兰多年来一直致力于信息工程领域的研究。他曾在谷歌公司任职,2017年曾参与美国国防部的“梅文计划”。该计划旨在招募人工智能领域的专业企业,以达到在伊拉克、叙利亚和阿富汗等战乱地区利用图像识别技术作战的目的。

【嵌牛鼻子】:广角摄像头、传感器、面部识别

从技术角度看,得益于人工智能技术的发展,美军无人自动化武器能够识别打击目标并实施攻击,因此似乎没有必要配备专人监控这些自动化武器。但多兰认为,这构成了一个巨大的风险,因为任何人都无法保障战争机器能够准确识别一个举着枪的战士和一个同样举着枪的猎人。

【嵌牛提问】:杀手机器人应该存在吗?

多兰还表示,如果由全自动化武器来决定孰死孰活,而无需人类介入,那么这无疑意味着一个巨大的道德缺口。机器毕竟是机器,它们缺乏人类特性,例如在作出艰难的道德伦理抉择时所必需的同情心和同理心。

【嵌牛正文】:

图片 1

人工智能一旦脱离束缚,就会以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制,无法与之竞争,将被取代,这将给我们的经济带来极大的破坏。

资料图片:科幻电影《终结者》中的“天网”猎杀机器人。

——霍金

然而,这种糟糕的情况似乎正逐渐向大家走来。近日,在日内瓦举办的联合国特定常规武器公约(CCW)会议上,播放了一段可怕的视频:视频中,一群神似《黑镜
III》中机器杀人蜂的小型机器人,通过人脸定位瞬间杀死了正在上课的一众学生,场面血腥。

图片 2

先来看看视频里的几个可怕画面:

一个体型类似蜜蜂的小型机器人飞入会场并轻易躲过演讲人抓捕,其拥有
anti-sniper 技术,完全基于 AI。

图片 3

这个小机器人有着非常可怕的黑科技:广角摄像头、传感器、面部识别,且在其中,还有
3 克炸药。

图片 4

来看看它的攻击效果,一击而中,极端致命:

图片 5

随后,有媒体便称,这款武器极其像《三体》里的“水滴”,其状如水滴,由被相互作用力紧密锁死的质子和中子构成,密度巨大无坚不摧,“仅一个水滴就能接连摧毁人类的一千多艘飞船,打击方式也是直接、精确穿透关键部位,如这段视频中所展现。”

图片 6

争议不断,杀手机器人命运归何处?

与人类的情感反应不同,人工智能技术能够用于制造不需要人类监管就能自动运行的武器,也称为“冷血杀手”。它们能够在一个区域内徘徊,且不需要获得军事人员的许可就能对来犯敌人做出生或者死的决定。

换句话说,当你因无知犯下弥天大错,你愿意将生命轻易交给冷冰冰的“杀手机器人”,而不求一点可以辩解的机会吗?这无疑超越了人类的道德底线。然而,你或许更想象不到的是,军方竟然成为当前
AI 研究的主要赞助者之一。

目前来说,尽管人工智能可用于研发排雷机器人或运输供给的无人机,但在军方手中,由人工智能技术嵌入的全自动化攻击性武器,很有可能会演变成大规模杀伤性武器。而武器制造商已经为军方打造了具有高度自主程度的武器系统,如机器人、自动驾驶坦克以及追踪并打击目标的无人机等,这些系统需要在提前设定并需要在人类监管的情况下运作。

图片 7

Elon Musck

其实,早在 8
月,就有许多世界领先的机器人和人工智能领域的公司创始人、科学家(包括OpenAI、特斯拉、SpaceX
创始人 Elon Musck,Deepmind 联合创始人 Mustafa Suleyman
等)呼吁联合国对杀手机器人下达封杀令,对自动化武器展开严格监督,以叫停打造自动化武器的军事竞赛活动。研究人员在公开信中描述了机器人武器的风险,并表示,这样的军事竞赛有可能继“火药”、“核弹”之后引发第三次战争革命。

但同样也有狡辩者声称,如果将致命性自主武器应用于战争会起到正面作用。如,降低己方士兵危险,降低战争带来的人员伤亡代价,并且这种武器弥补了人类在速度、准确性、稳定性方面的弱点,“可以抵达人类不可及之处,完成搜救和保护任务。”

会议主席印度裁军大使阿曼迪普·吉尔(Amandeep
Gill)提到:“机器人并没有占领世界,人类仍在掌控,我们必须小心,不要让这个问题变得情绪化或戏剧化。”

与核武器相比,人工智能武器具备制造成本低廉而且制造简单的特点,这意味着它们很容易在武器黑市的市场流通。

伯克利大学教授、资深 AI 研究者 Stuart Russell
在视频的最后提醒人们,想象一下,这些致命的自动武器一旦落入恐怖分子之手,可能造成怎样的后果。

发表评论

电子邮件地址不会被公开。 必填项已用*标注

相关文章

网站地图xml地图