下图是我们在两年前和京东的一个合作。京东带来的几亿张图片，存储在一个大规模分布式大数据集群里，我们做的事情是要对这些图片——识别物品。比如，这张图片上是一只鸟，然后提取特征。从深度学习、机器学习来说，不是特别复杂的应用，做物品识别、提取持证就可以了。但是事实上发现，在对大规模的图片读取数据，对图片进行分布式处理，再进行模型推理；当识别物品时，对物品进行抽取，再进行处理，再提取特征等，把整个端到端流水线在大规模的图片里是跑不好的。当要把这些机器学习、深度学习等技术应用到实际应用中，会有一个比较大的断层，今天很多的科学家做了非常多的深度学习、机器学习的有效工作，但是如何将新技术、新创新应用到现实环境中，特别是在一些非常大规模、大数据生产系统中，从软硬件架构上有非常大的一个断层。这就是为什么我们会去开源，像BIGDL，特别是 Analytics Zoo 平台，能够将不同的模块不管是用 TensorFlow 还是用Keras，将这些不同模块的程序能够无缝运行在端到端流水线上，大大提升开发效率。
文章图片
总之，我们开发并且开源的目的是让大家更加方便开发大数据、大规模深度学习的应用。通常很多用户开始开发应用时，可能在一个笔记本上构建一个简单原形，当你觉得原形看还不错时，希望可以跑历史数据，对过去几个月或者几年的数据进行一些验证，为端到端的流水线构造原形。在实验上觉得效果还不错，就希望部署到生产系统中，可能进行上线。同时也是大规模、大数据处理的流水线，可以让你的程序运行在一个大标准集群里，直接利用现有的大数据集群、大数据计算资源运行你的程序，从而能够提高你进行开发并且部署深度学习应用的效率。
下面这个例子是我们和微软中国团队的合作，他们希望给大家提供客户。比如，他们有一个微信公众号，在他们的微信公众号上可以提问题，如怎么联不上我的虚拟机、怎么重启我的虚拟机、怎么开发票等。原来他们的做法是，在特定领域完成特定任务的对话。上午的报告中有很多专家提到，在垂直领域定义模版。他们有很多定义好的流程，可以随着流程走。现在很多人不随着流程走，随便问一些问题，怎么开不了发票？因为内部有大量知识库和准备好的问答，通过关键词的匹配可以帮你去搜索，搜索出一些文章，希望满足你的问题。这里，希望我们帮他做一些问答匹配，把相关的回答反馈给用户，用户看到这些问题后，可能解决了他的问题或者没有；如果没有解决，就要转人工处理。转人工处理是非常昂贵的事情，不同的问题要转到不同的后台，所以要有对意图进行分类的模块，将问题做一些分类，到底是财务的问题，还是网络的问题，还是虚拟机的问题。
Office Depot，卖办公用品的一个电商，做一些产品的推荐，当把一个物品加入到购物车后，根据你的行为推荐一些相关的物品。这是一个跑在云上的应用，使用 Spark 和 Analytics Zoo 上进行训练，使用 mleap 就可以直接将 pipeline 模型保存下来，训练出来的模型直接部署在 AWS S3，通过 BigDL 把它部署在一个 DNN 进行在线推理。
万事达，希望给大家推送一些促销信息，到哪里去购物，我给你一个立减等类似的优惠，希望把这些推送到相关的客户，客户收到这些信息后会买东西。但是有一个特别的问题，我们会根据用户过去购买行为进行分析，将用户过去的购买行为、交易的数据是放在数据库里的，怎样能够在Apache Hadoop 现有集群上运行这些新的深度学习应用？这时就可以使用 Analytics Zoo 深度学习框架，可以在现有大数据分析集群上，和其他的业务共享同一个集群，来运行这些新的深度学习应用。
CENR，欧洲的盒子研究中心，他们每天都在进行每秒大约 4 000 万原子对撞，产生 1 TB 数据，他们希望把这些数据存下来；希望有一个过滤机制，将有用的事件保留、存储下来。这样做可能每秒只存不超过 10 GB 的数据，这些数据可以用于以后的分析。他们希望过滤的越准确越好，因此分为三种事件，构建了一个深度学习模型，通过深度学习进行学习分类，将这些数据精确分析，用于以后的工作中。你可以很方便地在 Analytics Zoo 在单机上进行验证，直接运行在一个分布式环境里进行训练，最后训练出结果。因为每秒都会产生 1 TB 数据，所以需要一个在线的、类似于像流式处理的平台，这里他们用了 Spark DataFrame 进行在线预测，对原子对撞事件进行分类。
怎么应用 Analytics Zoo ？比如在阿里云上面部署 EMR，使用 Analytics Zoo。
下面来看一下具体的例子。有人和我说不要放太多代码在里面，用 Spark 构建一个 RDD，对大规模数据进行分布式处理。对各种各样的数据源，不管是数据仓库的方式，还是读写数据库，或者是读写各种各样的分布式文件系统，可以直接使用 Spark Dataframe。下面的图片是说，如能够使用刚才训练的模型，就可以使用我们的模型推理进行大规模分布式应用，在自己 Keras 等框架内都很容易将我们深度学习模型集成在这些流水式处理或者在线处理中，而且在这个背后也可以透明地使用像 Analytics Zoo 的工具，对模型进行压缩加速，包括至强深度学习加速指令对它进行加速；同时可以跑在大规模集群上进行分布式推理。
文章图片
我们真正的用户是怎么具体使用的？解决他们什么问题？下图是我们和美的的合作，他们希望通过计算机视觉将其生产线生产出来的产品自动识别瑕疵、没有贴标签等。
文章图片
工业机器人接上摄像机，对流水线出来的产品进行拍照，拿到照片后进行识别，产品上是不是有缺陷。比如，下图中可以看到空调上少了一个螺丝。上图中，粉红色是对大规模图片进行处理；黄色是 SSDLite这样的一个模型，使用 Analytics Zoo API和 Spark 数据可以整合起来，在 Spark 上进行训练。
【Analytics Zoo: 统一的大数据分析+AI 平台】
文章图片
上面美的深度学习缺陷检测的案例在此
最后总结一下。我们之所以构建Analytics Zoo 这样的统计大数据分析 +AI平台，就是希望能够让用户在现实的生产环境中可以更方便构架深度学习的应用，将各种不同的模块、不同的框架下统一到一个端到端流水线上，大大提高客户开发部署大数据分析和深度学习的能力。
推荐阅读
- 人工智能|干货！人体姿态估计与运动预测
- Python专栏|数据分析的常规流程
- 读书笔记|《白话大数据和机器学习》学习笔记1
- 网络|一文彻底搞懂前端监控
- html5|各行业工资单出炉 IT类连续多年霸占“榜首”位置
- 人工智能|【机器学习】深度盘点（详细介绍 Python 中的 7 种交叉验证方法！）
- 网络|简单聊聊压缩网络
- 数据库|效率最高的Excel数据导入---（c#调用SSIS Package将数据库数据导入到Excel文件中【附源代码下载】）...
- r语言|手把手（R语言文本挖掘和词云可视化实践）
- 腾讯|SaaS的收入模型有哪些（终于有人讲明白了）