权威国防科技信息门户
国防科技大数据智能情报平台
DSTIS征订中
DPS国防术语智能定位系统
国外国防科技文献资料快报
公告:
DSTIS国防军工信息资源内网服务系统2019年征订开始  
牛津大学使计算机学习得更快
2014-05-05
 

[据电子周刊网站201451日报道]日前,牛津大学表示,使用“反馈调整”算法能让神经网络学习得更快。

该算法使用随机反馈矩阵处理错误,升级网络参数。

受大脑启发的多层神经网络被用于识别数据集中的语音和图像。

通常,利用“训练集”输入进行训练,会产生预期输出。

预期输出与实际输出之间的差别通过反馈进行调节,以改善各层之间的连接权重。

然而,“在计算机上采用大脑极其复杂的算法训练深层神经网络是不可能的。”牛津大学的知识产权许可公司——Isis创新公司表示。

理解这一点就会引出反馈调整算法,实现该算法的电路更简单,而且有意料之外的好处。例如,网络能够比错误“反向传播”技术训练得更快。

牛津大学知识产权公司表示,“反馈调整通常比现有方法更快。新的网络动态允许学习步骤近似二阶技术,所需的计算不会比一阶技术更多。该技术对网络初始状态更加强健,即使同其他算法进行竞争性学习也能完全表现出优势。去耦合的反馈功能避免了训练深层神经网络的中心问题——‘梯度消失’问题。”

对于回归和分类问题,该算法对于前馈和周期性网络结构同样适用。现有神经网络工具在调整后可以利用该算法。对于基于硬件的网络,以数字摄像机为例,牛津大学的算法降低了对错误反馈精度的要求。(工业和信息化部电子科学技术情报研究所  王巍)

相关新闻

DSTIS 国防科技工业信息服务系统
中国核科技信息与经济研究院 中国航天系统科学与工程研究院 中国航空工业发展研究中心
中国船舶工业综合技术经济研究院 中国船舶信息中心 北方科技信息研究所 工业和信息化部电子科学技术情报研究所
DSTI简介 | 大事记 | 网站动态 | 产品介绍 | 广告服务 | 客户服务 | 联系方式 | 共建单位 | 合作媒体  
国防科技信息网 dsti.net © 2006 - 2019 版权所有 京ICP备10013389号