权威国防科技信息门户
国防科技大数据智能情报平台
DSTIS征订中
DPS国防术语智能定位系统
国外国防科技文献资料快报
公告:
DSTIS国防军工信息资源内网服务系统2020年征订开始  
人工智能:如何使机器学习网络安全
2021-12-15

[欧洲网络安全局20211214日报道] 如何防止机器学习网络攻击?如何在不影响性能的情况下部署控件?欧盟网络安全机构在今天发布的一份新报告中回答了机器学习的网络安全问题。

机器学习(machine learningML)是目前工业和政府基础设施人工智能中最发达和最有前途的子领域。人工智能(AI)为智能化和自动化地解决决策问题提供了新的机会,它几乎应用于国民经济的所有部门。

虽然人工智能的好处是显著且不可否认的,但人工智能的发展也带来了新的威胁和挑战。

机器学习算法用于赋予机器从数据中学习的能力,以便在没有明确编程的情况下解决任务。然而,这样的算法需要大量的数据来学习。因为他们这样做了,他们也可能受到特定的网络威胁。

安全机器学习算法报告介绍了机器学习技术和核心功能的分类。该报告还包括针对机器学习技术的威胁和机器学习算法漏洞的映射。报告提供了一个相关安全控制列表,建议在依赖机器学习技术的系统中增强网络安全。报告突出强调的挑战之一是如何选择要应用的安全控制,而不影响预期的性能水平。

报告中概述的针对特定于机器学习的攻击的缓解控制通常应在使用机器学习的系统和应用程序的整个生命周期中部署。

机器学习算法分类

根据案头研究和对欧洲网络安全 AI特设工作组专家的访谈,共确定了40种最常用的机器学习算法。开发的分类法基于对此类算法的分析。

设计的非穷举分类法旨在支持识别哪些特定威胁针对机器学习算法、相关漏洞以及解决这些漏洞所需的安全控制的过程。

目标受众

•公共/政府:欧盟机构和机关、成员国监管机构、数据保护监管机构、军事和情报机构、执法机构、国际组织和国家网络安全机构。

•整个行业,包括采用人工智能解决方案的中小型企业(SME)、基本服务运营商;

AI技术、学术和研究社区、AI网络安全专家和AI专家,如设计师、开发人员、机器学习专家、数据科学家等。

•标准化机构。

发布背景

欧盟网络安全局通过为未来政策提供关键投入,继续在人工智能(AI)评估中发挥更大作用。欧盟网络安全局参与了与欧盟委员会和欧盟机构就人工智能网络安全和监管举措开展的公开对话。

欧盟网络安全局去年成立了欧洲网络安全局人工智能网络安全特设工作组。工作组支持欧洲网络安全建立人工智能网络安全知识。人工智能网络安全特设工作组的成员来自欧盟委员会通信网络、内容和技术总局(DG CONNECT)、欧盟委员会联合研究委员会(DG JRC)、欧洲刑警组织、欧洲防务局(ED·A),欧洲联盟自由、安全和公正领域大规模信息技术系统运营管理局(eu LISA)、欧洲电信标准协会(ETSI)以及学术界和行业专家。(国家工业信息安全发展研究中心 蔚艳艳)

相关新闻

DSTIS 国防科技工业信息服务系统
中国核科技信息与经济研究院 中国航天系统科学与工程研究院 中国航空工业发展研究中心
中国船舶工业综合技术经济研究院 中国船舶信息中心 北方科技信息研究所 工业和信息化部电子科学技术情报研究所
国防科技信息网 dsti.net © 2006 - 2022 版权所有 | 京ICP备10013389号-1 | 公安备案号:11010802036354