[据军事嵌入网站2019年9月17日报道] TF2是一个基于现场可编程门阵列芯片的高效人工智能计算框架,浪潮公司已公布其开源版本。该框架的推理引擎采用全球首创的深度神经网络移位计算技术,结合了多个最新优化的技术,以实现通用深度学习模型基于现场可编程门阵列芯片的高性能低延迟部署。
这也是全球首个基于现场可编程门阵列芯片的开源人工智能框架,涵盖了全面的解决方案,包括模型裁剪、压缩、量化与基于现场可编程门阵列芯片的通用深度神经网络推理计算架构。
TF2能在主流人工智能训练软件与深度神经网络模型的基础上实现可编程门阵列的推理,旨在让用户可以最大化地发挥现场可编程门阵列的计算能力,实现该芯片的高性能与低延迟部署。浪潮公司表示, TF2计算框架能够快速完成人工智能芯片级设计与性能验证。
TF2由两部分组成:第一部分是模型优化转换工具TF2 Transform Kit,它可以对经由框架训练的网络模型数据进行压缩、裁剪与8比特量化。第二部分是现场可编程门阵列芯片智能运行引擎TF2 Runtime Engine,它可以将优化的模型文件自动转换为现场可编程门阵列目标运行文件。(工业和信息化部电子第一研究所 朱航琪 宋文文)