权威国防科技信息门户
招聘
生产力促进中心会员招募
国防科技生产力促进中心
国外国防科技文献资料快报
公告:
国防科技生产力促进中心网上会员入会邀请函   国防科技工业准入渠道、申办程序取证务实培训班通知   DSTI推出国防军工单位电子邮件服务,特别优惠中   DSTIS国防军工信息资源内网服务系统2013年征订开始   下载黄页企业会员登记表 成为国防科技信息网会员  
DARPA寻求开发保障自学习自主无人系统安全的技术
2017-08-21
  
    【据DARPA官网2017年8月16日报道】8月16日,美国国防先期研究计划局(DARPA)宣布将启动一项名为“保障自主”(Assured Autonomy)的研究项目,通过改进无人机、无人车辆等自主无人系统的安全理念和计算方式,提高其安全性和学习处理复杂环境中各种变量的能力。

    “在过去的十年中,在自主系统研制方面美国已经取得了巨大的进展,各种无人系统的普及证明了这一点。传感器技术、驱动器技术、计算技术、 控制理论、设计方法和工具,以及建模与仿真技术的创新是实现机器自主性进步的基础”,DARPA项目经理桑迪普·尼玛(Sandeep Neema)表示,“尽管过去十年取得了巨大的进步,但在安全性要求更高的关键国防领域推广应用无人自主系统技术仍然是具有挑战性和争议性的”。

    2016年初发布的国防科学委员会报告强调,自主系统需要有很强的可信度。报告指出,特别是在军事环境中,确保系统安全运行并按预期执行是这类系统获得信任的重要基础。但在设计系统时,也应当能使操控人员能够监督和确认系统是否正在可靠地运行,如果运行异常,操作人员应当可以采取适当的干预措施。“保障自主”项目的目标是开发严谨的设计和分析技术,在设计阶段建立可信度指标,以便提高自主学习和自主机器的安全性。

   近期广受关注的一个自主系统安全保障理念是“同等安全水平设计”,比如,无人驾驶车辆的安全水平应不低于驾驶人。该方法要求将有人驾驶千英里安全事故率作为无人驾驶车辆的事故率上限进行设计,并进行相关物理试验。然而,研究和分析表明,仅以这种方式来确保自主系统的安全性是难以实现的,需要数百万次物理试验,也许需要几十年的时间。为了减少所需的物理试验次数,已经有人提出了模拟技术,但这种测试很难给人充分的信心,特别是难以模拟概率低、后果严重的事故。

    与面向过程的安全和可靠性方法不同,另一种理念是面向目标的方法,项目经理尼玛认为这类方法更适合系统学习和进化,更能适应运行环境的变化。“保障自主”项目将以军用自主平台为主要对象,生成一套可用于商业和国防部门的公共软件工具。 DARPA力求进行技术创新,在满足机器学习的目标前提下,通过在学习过程中纳入安全约束,使机器学习算法从根本上做到安全可靠。(中国船舶工业综合技术经济研究院 丁宏)

相关新闻

DSTIS 国防科技工业信息服务系统
中国核科技信息与经济研究院 中国航天工程咨询中心 中国航空工业发展研究中心
中国船舶工业综合技术经济研究院 中国船舶信息中心 北方科技信息研究所 工业和信息化部电子科学技术情报研究所
DSTI简介 | 大事记 | 网站动态 | 产品介绍 | 广告服务 | 客户服务 | 联系方式 | 共建单位 | 合作媒体  
国防科技信息网 dsti.net © 2006 - 2017 版权所有 京ICP备10013389号