近日，国际人工智能领域顶级学术会议AAAI 2021（第35届AAAI）正式开始。在国内AI阵营前列的京东科技集团以高达21篇论文的入选量成为本届AAAI的一大黑马。其研究方向包含了计算机视觉、联邦学习、对抗学习、深度学习、序列推荐、社交推荐、图神经网络、风险管理的反因果推断，以及智能城市领域的时空AI等领域。
在AAAI今年整体录取率仅为21%的激烈竞争中，京东科技集团的高入选量极为难得。值得注意的是，京东科技集团的系列研发能力已走出了单纯实验室阶段，转化为在智能城市、大宗商品、零售、农业以及AI机器人等产业场景的落地应用，助力整个行业的产业数字化进程。
文章图片
AAAI（Association for the Advance of Artificial Intelligence）是人工智能领域中历史最悠久、涵盖内容最广泛的的国际顶级学术会议之一，每年都会吸引大量研究员、开发者投稿和参会，论文竞争更是异常激烈。在中国计算机学会的国际学术会议排名中，AAAI被列为人工智能领域的A类顶级会议，是未来人工智能产业发展方向的重要风向标。
AAAI 2021联合主席Kevin Leyton-Brown在Twitter上表示，今年接受的投稿论文总数达到“惊人的高技术水平”。9034篇投稿论文中，7911篇接受评审，最终仅有1692篇论文被录取，录取率为21%。
京东科技自主研发联邦学习平台 破解数据孤岛
如何在数据共享基础上破解“数据孤岛”难题，是业界近年来在联邦学习方向上的重点探索。京东科技集团此前也推出自主研发的联邦学习平台——Fedlearn，融合了密码学、机器学习、区块链等联邦学习算法，搭建出一套安全、智能、高效的链接平台，在各机构数据不用向外传输的前提下，通过联合多方机构数据，实现共同构建模型等多方数据联合使用场景，获得加成效应。
凭借在联邦学习平台上的技术投入，京东科技集团此次在该领域有两篇论文入选AAAI 2021。《Secure Bilevel Asynchronous Vertical Federated Learning with Backward Updating 基于反向更新的双层异步安全垂直联邦学习》，提出一种新颖的融合了反向更新和双层异步并行的垂直联邦学习框架（VFB2），以及在此框架下的VFB2-SGD，VFB2-SVRG和VFB2-SAGA三种新算法，助力多方协同训练模型并且不泄漏数据隐私，并在一定程度上破解垂直联邦学习算法不够高效的难点。
文章图片
基于反向更新的双层异步安全垂直联邦学习
《On the Convergence of Communication-Efficient Local SGD for Federated Learning联邦学习中高效通信的本地随机梯度算法的收敛性分析》，在联邦学习最经常使用的模型训练算法“本地随机梯度”之外，提出一种新的高效通信分布式随机梯度算法，可以通过错误补偿双重压缩机制，解决在联邦学习大规模模型有效训练中通信开销较大的难题，显著降低通信成本。
以时空AI打造智能城市操作系统 助力民生与产业发展
在城市管理中，如何精准预测城市交通流量峰值、智能监管危化品全流程、“领导驾驶舱”实时查看城市运行全貌，这些背后支撑的都是智能城市领域的一系列领先技术。京东科技集团核心聚焦“时空AI”技术，此次也有论文入选AAAI 2021。如《Traffic Flow Forecasting with Spatial-Temporal Graph Diffusion Network基于时空图扩散模型的交通流量预测》，设计了一种基于异构图神经网络的深度学习模型, 分别从时间和空间上对不同区域的流量信息进行建模。相较于现有仅考虑局部空间关系的流量预测算法有一定优越性, 可以实现整个城市不同区域更加精确的预测结果。
此外，《Robust Spatio-Temporal Purchase Prediction via Deep Meta Learning基于深度元学习的鲁棒时空销量预测》，提出了时空元学习预测（STMP）模型，用于零售行业在购物节期间的销量预测。STMP是基于元学习的时空多任务深度生成模型，采用具有少量学习能力的元学习框架来捕获销量数据的时空表示。然后，生成模块使用提取的时空表示和当前的销量数据来推断预测结果，从而助力商家基于爆发式销量的预测提前做好充分准备。
值得注意的是，京东科技集团推出的智能城市操作系统，实际上包含了时空数据引擎、以时空AI为核心的时空智能引擎、基于联邦学习的数字网关技术以及莫奈可视化平台等诸多前沿科技，可以让城市中海量数据高效、安全“对话”，AI算法模块化输出。以“时空大数据引擎”为例，“智能城市操作系统”的实现处理速度相比传统数据平台要快10—100倍，并且还不断迭代；依托时空智能引擎，以前一个20人团队做空气质量分析和预测AI模型开发需要花费两年时间。现在，“智能城市操作系统”只需要一个人花两天时间即可完成，极大降低了人工智能开发成本。
【ai|京东科技集团21篇论文高票入选国际顶会AAAI 2021】在一系列技术应用下，京东科技集团的智能城市操作系统在雄安落地为块数据平台，成为雄安新区城市大数据资源中心的实际载体；基于京东科技集团“智能城市操作系统”，江苏省南通市也建成了全国首个市域治理现代化指挥中心，汇聚南通市75个部门数十亿量级的数据。全南通市交通运行、公共安全、环境污染等情况都在一张大屏幕上实时呈现，从而实现一屏统览。
序列推荐、社交推荐让营销服务更精准
如何基于用户已有的行为标签，为其推荐真正需要的商品智能化服务，进行千人千面的智能营销？这背后则是推荐算法。京东科技集团此次围绕推荐方向亦有论文入选AAAI 2021。
现有基于会话的序列推荐算法目前被广泛应用，但它仅仅只是考虑了每个会话内商品的点击转换模式，忽略了不同会话间商品的潜在关联性。为了解决现在算法的缺陷，论文《Graph-Enhanced Multi-Task Learning of Multi-Level Transition Dynamics for Session-based Recommendation基于图模式增强多任务学习的会话序列推荐系统》提出了一种基于图模式增强多任务学习的框架，运用异构的注意力机制对每个会话内的商品转换模式进行学习，来实现基于会话的序列推荐；还引入了跨越不同会话的图学习模型，在商品的表征学习中增加了其全局关系的建模，因此可以实现对商品的短期以及长期序列关系同时进行学习。
文章图片
基于图模式增强多任务学习的会话序列推荐系统
论文《Knowledge-aware Coupled Graph Neural Network for Social Recommendation基于知识关系的联结图神经网络的社交推荐系统》则是在社交推荐场景中引入商品的关系，并提出了一种基于知识关系的联结图神经网络模型，从而学习到更加精确的用户偏好，可以在一定程度上缓解稀疏用户在推荐中带来的影响，以增强推荐模型的鲁棒性。
在计算机视觉的底层技术能力领域，京东科技集团围绕图像生成、点云数据语义分割、自监督视频特征学习、跨模态预训练等领域，有多篇论文入选。《Exploiting Relationship for Complex-scene Image Generation 基于关系语义的多物体图像生成》首次提出利用关系信息指导多物体图像生成，通过原创的关联物体间空间布局以语义合理性约束，大幅提升从复杂文本场景图端到端生成单幅图像的质量；《SeCo: Exploring Sequence Supervision for Unsupervised Representation Learning 基于序列监督信息的视频特征自监督学习算法》在国际上早期利用对比学习进行视频自监督特征学习，同时引入视频帧内部，视频帧之间以及视频帧顺序的自监督信息完成视频特征的预训练，达到优于基于ImageNet有监督预训练的效果，提升了模型泛化能力；《Scheduled Sampling in Vision-Language Pretraining with Decoupled Encoder-Decoder Network 基于解耦型编解码网络和策略采样机制的跨模态预训练算法》提出首个解耦的“二对二”跨模态预训练网络结构，利用后端两个解耦的Transformer结构实现了同时服务于跨模态理解和生成的预训练技术。
此外，在风控领域京东科技集团也有论文入选，《The Causal Learning of Retail Delinquency消费违约场景的因果学习》探讨了额度对用户风险的因果效应方法，通过前沿的双重机器学习，克服了现有数据中的“幸存者偏差”问题，构造出能够反映“策略——风险”因果关系的无偏估计量，促进风险管理与机器学习理论更深地结合，帮助信贷机构制定更科学的授信策略。
事实上，截至2021年1月，京东科技集团在AAAI、IJCAI、CVPR、KDD、NeurIPS、ICML、ACL、ICASSP等国际AI顶级会议上共发表相关论文近350篇，并已在多项国际性学术赛事中斩获19项世界第一，在机器学习、计算机视觉、语音与自然语言处理等领域均取得研究突破；与此同时，京东科技集团注重技术人才的培养，与美国斯坦福大学、中国科技大学等多所国内外高校合作建立人工智能实验室，并充分展开产学研一体化实践。
欢迎点击【京东科技】，了解开发者社区
更多精彩技术实践与独家干货解析
欢迎关注【京东科技开发者】公众号
文章图片
推荐阅读
- 机器学习|【吐血推荐】机器学习/深度学习入门资料汇总及学习建议【入门必看】
- 机器学习|通过统一多模态Transformer(UMT)的实体扫描检测（ESD）来改进多模态命名实体识别（MNER）
- R语言学习笔记|R语言apply系列函数
- R语言学习笔记|R语言数据拆分
- 大数据|个人信息治理与可视化
- 芯片|异构集成 与 异构计算
- 大数据技术体系|Apache Doris 安装部署指南
- C++|C++类和对象（初始化列表，友元，静态成员，内部类）
- 深度学习|windows下搭建pytorch框架