头豹研究院中国人工智能行业调研简报：市场简报，深度学习框架到底是什么？中国AI企业为何纷纷开源自研框-2021-04-30

中国人工智能行业调研简报 | 2021/04 www.leadleo.com 报告标签：人工智能、深度学习、开源、框架 主笔人：谢子博 报告提供的任何内容（包括但不限于数据、文字、图表、图像等）均系头豹研究院独有的高度机密性文件（在报告中另行标明出处者除外）。未经头豹 研究院事先书面许可，任何人不得以任何方式擅自复制、再造、传播、出版、引用、改编、汇编本报告内容，若有违反上述约定的行为发生，头豹研究 院保留采取法律措施、追究相关人员责任的权利。头豹研究院开展的所有商业活动均使用“头豹研究院”或“头豹”的商号、商标，头豹研究院无任何前述名 1 称之外的其他分支机构，也未授权或聘用其他任何第三方代表头豹研究院开展商业活动。 头豹调研简报 | 2021/04 人工智能行业 Q1：如何实现深度学习算法的开发与应用？深度学习框架对人工智能应用的 开发及行业的发展所起到的作用是什么？  深度学习框架打破技术门槛，打通技术交流渠道，促进业界协同发展 深度学习是以人工神经网络为基础、融合数学、计算机科学、神经科学等多种学科、对 数据及信息进行学习的机器学习算法。深度学习底层算法的开发对算法开发人员的要求 较高，需精通多个前沿科学领域理论并具备相对应的应用能力。由于较高的学术及技术 门槛，在深度学习技术发展早期缺乏底层开发工具的情况下，深度学习技术发展速度较 慢，相关应用的落地难以实现。 深度学习框架的出现打破了基于深度学习技术的人工智能应用开发的高技术门槛。深度 学习框架是一系列经过高级计算机语言封装的深度学习底层算法，内含可实现样本数据 的调用、分类及输入、神经网络架构建设、激活函数及损失函数等函数设置、超参数设 定及调整等功能的完整函数工具。通过对深度学习框架的引用，人工智能应用开发者无 需熟知底层算法开发逻辑即可完成应用开发，人工智能应用开发的技术门槛大幅降低。 深度学习框架的出现打通了业界技术交流与知识分享的渠道。采用同一深度学习框架的 算法程序具备较高的易读性及兼容性，使算法程序的移植及调用难度大幅降低。算法开 发人员可通过学习已开源的算法区块，并对该算法进行调用或进一步研发，在已有知识 架构体系的基础上实现人工智能算法的创新。 图表1：深度学习框架概述 样本处理 参数 Batch A w1,1 原始 样本 反向传播 激活函数 损失函数 f(z) 参数 f(cost) w2,1 ... ... ... 样 本 数 据 的 调 用 与 分 类 神经网络构建 Batch N 训练集 测试集 结 果 输 出 与 参 数 调 整 样 本 输 入 结果 预期 cost 损失/误差 Δw 参数优化 Dropout 节点舍弃 神经网络结构设定 （层数及每层节点数） 超参数设定（学习率等） 深度学习神经网络 反向传播算法 *注：字体颜色为蓝色的部分为深度学习框架内涵算法 来源：头豹研究院编辑整理 4 头豹调研简报 | 2021/04 人工智能行业 Q2：在目前市场上已存在可开源利用的、由海外企业开发的成熟框架的背景 下，中国人工智能企业为何纷纷布局深度学习框架的自主研发及推广？  现存深度学习框架在效率上的缺陷及日趋复杂的国际形势驱动中国人工智能企业布 局深度学习框架自主研发 中国人工智能企业布局深度学习框架的自主研发及推广的主要原因有二。一是目前业界 主流的深度学习框架在运算效率上尚有缺陷，主要体现在算法训练及推断阶段对GPU、 CPU等硬件的利用率较低。如何优化深度学习框架编写逻辑及计算机语言编译过程，从 而提升深度学习框架对硬件的利用率成为全球人工智能学术界及产业界亟需解...