分享好友 智能输送新闻首页 频道列表

中青报:人工智能也是“双刃剑”

2018-12-06 09:236510
近日,根据“2019财年国防授权法案”批准,美国成立了人工智能国家安全委员会。这是今年美国继国防部组建联合人工智能中心后,在国家安全领域成立的又一个更高层次的人工智能专门咨询机构。按照要求,该委员会将采取必要的方法和手段,推动美国人工智能、机器学习和相关技术的发展,全面满足美国国家安全和国防需要。此举意味着,美国将人工智能的军事应用进一步提升到国家安全的战略层面。
 
据悉,此次成立的美国人工智能国家安全委员会由美国众议院武装部队新兴威胁与能力小组委员会提议成立,由15名成员组成。该委员会的使命是着眼于美国的竞争力、国家保持竞争力的方式,以及需要关注的“道德问题”,审查人工智能、机器学习开发和相关技术的进展情况。具体职责包括:考察人工智能在军事应用中的风险以及对国际法的影响;考察人工智能在国家安全和国防中的伦理道德问题;建立公开训练数据的标准,推动公开训练数据的共享。
 
从国家安全的战略层面出发,美国推动人工智能技术发展的目的在于始终保持技术引领和优势地位的战略态势。9月7日,美国国防部高级研究计划局在成立60周年大会上,宣布将投资20亿美元推动人工智能领域的发展。以国防部高级研究计划局为代表的技术研究机构对人工智能的研究早已不再局限于人们熟知的无人系统,而是诸如“机器如何获得类似人类的沟通和推理能力”等方面更深层次的机理研究。
 
同时,美国还特别强调在人工智能领域保持对潜在对手的优势地位。美国国防部常务副部长罗伯特·沃克曾表示,“人工智能是当前美国国防战略的主要组成部分,目的在于重塑美国的军事技术优势。”
 
在这两方面因素的推动下,美国政府不断加大在人工智能领域的投资力度。今年年初公布的《国防战略报告》就明确提出,将向自主技术、人工智能和机器学习等军事应用注入更多资金,加快吸收商业领域突破性技术,以获取军事竞争优势。按照计划,美军将在2019财年投入137亿美元,支持包括人工智能、无人系统在内的尖端技术研发创新。
 
随着对人工智能研究的深入,美国在充分开发人工智能技术优势的同时,也开始关注到人工智能可能带来的技术风险和应用威胁。10月10日,美国陆军训练与条令司令部发起了一项“疯狂科学家”的调查活动,专门探讨人工智能在未来战场上的影响。在收到的115名参与者提交的意见书中,形成了8个方面的意见。其中一个方面专门指出需要对抗人工智能带来的风险,即人工智能支持的数据和算法容易受到欺骗、降级或其他形式的颠覆。其中,致命的自主性则是最受关注的问题。
 
今年7月,智库新美国安全中心发布报告认为,人工智能技术的未来不可限量,但是目前仍然不成熟,存在4个方面的隐患:一是机器可能作弊,即人工智能系统可能在违背人类设计本意的情况下去完成任务;二是机器也有“偏见”,即在数据保障不充分的情况下,人工智能系统的错误反应可能会造成灾难性后果;三是AI的思考过程是个谜,即人工智能有一部分行为是不为人类所理解的;四是人机互动失败,即设计师与用户之间的差异可能造成人机互动失败而带来风险。美国兰德公司今年年初在一项研究中警告说,军事人工智能系统在分析局势时出错的可能性将会导致各国作出轻率的、潜在的灾难性决定。
 
为此,美国开始认识到人工智能不仅是一个领域(尤其是军事领域)的应用问题,而应在政府层面有所规划。今年9月,美国众议院监督和政府改革委员会信息技术小组在发布的《机器的崛起》报告中指出,人工智能有可能以预期和意料之外的方式扰乱社会的每一个部门。鉴于这种潜在的危险,联邦政府必须解决人工智能带来的不同挑战,包括其当前和未来的应用。而这一理念在军事技术上的直接体现,就是保持对某些任务的控制权。美国国防部高级研究计划局目前正在开发一种合作自主系统,确保人类可以实现“进入决策”,即机器是自主的,但需由人类监督。可见,美军也意识到,无论人工智能有多先进,也不能把战争完全交给机器。
 
(作者单位:空军工程大学)
 
王鹏 来源:中国青年报
反对 0
举报 0
收藏 0
打赏 0
评论 0
图说智能化:工业交换机
16+2G千兆交换机ESD218-2G、1光7电图说工业级交换机ESD108-SF)、1光4电图说工业级交换机ESD105-SF)、1光4电图说工业级交换机图说

0评论2020-07-17737

图说智能化:工控智能化
一、图说工控智能化1、 图说工业互联图说服务器 图说服务器CPU、图说服务器内存、图说服务器硬盘、图说服务器主板、图说服务器准

0评论2020-07-17657

图说智能化:物联网时代的社群经营的难点有哪些
原标题:当下社群经营的难点有哪些拦路虎呢?来源:青木老贼2020年,一次疫情,让我们彻底知道了私域的重要性,为了解决流量困境

0评论2020-07-11725

图说智能化:线上直播主讲讲师:曾雨先生
2020年3月,国家发改委提出50万亿元新基建发展建设,其中包含了信息基础设施的5G、物联网、工业互联网、卫星互联网为代表的通信

0评论2020-07-09797

图说智能:制造企业如何安然度过疫情消化期
作者:王岳、李双宏来源:阿里研究院制造企业,尤其是中小制造企业最为惧怕的是三类危机,一是经济周期的危机,二是产业波动带来

0评论2020-04-29694

图包装图说机械
包装图说机械制袋机、捆扎图说机械、集装图说机械、充填图说机械、灌装图说机械、封口图说机械、裹包图说机械、贴标图说机械/条

0评论2020-04-28710

图智能物流图说设备
智能物流图说设备干燥图说设备热风炉、喷雾干燥系列、真空干燥机、沸腾干燥机、盘式干燥机、制粒干燥机、气流干燥图说设备、带式

0评论2020-04-28723

页智网:图说数据与采集、图说智能
1、图说数据采集卡PCI采集卡、PCIe采集卡、PXI采集卡、PXIe采集卡、CPCI采集卡、USB采集卡、PC104采集卡、PC104+采集卡、以太网

0评论2020-04-28656

图说工业 图说通信 图智能 图说智能
1、图说通信终端远距离图说无线图说通信终端、图说智能化 图说无线485多点组网图说测控终端、图说西门子、施耐德等欧美系图说PL

0评论2020-04-28605

图智能:图说嵌入式系统、图说嵌入式控制器、图说智能嵌入式电脑
图说嵌入式系统图说嵌入式控制器、图说嵌入式电脑、图说嵌入式处理器、固态电子盘、固态硬盘、通讯图说设备接口、图说嵌入式主板

0评论2020-04-28702