安全分析 人工智能

人工智能安全是全渗透的吗?今天,人类社会不断被智能技术的快速发展所嵌入和重构 。科学家、工程师和企业家并不关心哲学家关于“人工智能”是否可能的理论争论,也不关心强人工智能和弱人工智能之间的争论;这里强人工智能指的是具有理解能力的机器,弱人工智能指的是能够通过图灵测试的机器,也就是看起来像人类智能的机器 。

1、云计算智能化演进,巨头们的思与行“过去我们经常讲云计算和大数据,现在应该是云数据和大计算 。”在5月的云起大会成都峰会上 , 阿里云高级总监肖力在“智能之路”的演讲中说 。小李的观点不难理解 。数据的价值不是“大” , 而是在线上 。只有打破数据孤岛,让数据多聚集、多交换、多更新、多挖掘,才能产生更大的价值 。同时,这个概念也透露出一个趋势:云计算巨头开始将“智能”纳入战略框架,或者说“智能”给云计算带来的红利 。

如前所述 , 阿里云已经开始了智能进化 , 它也成为了今年云起大会每一次峰会的主题,承载了阿里云的一系列实践 。今年3月,阿里云正式发布了机器学习平台PAI2.0,将人工智能技术引入云计算 。与其他巨头不同,智能云计算大多停留在“思考”的层面 。阿里云的ET已经开始遍地开花,比如ET医疗大脑、ET工业大脑、城市大脑等 。,并将大数据和人工智能等技术应用于安全智能 。

2、 人工智能软件的 分析与验证(1随着深度学习革命的不断发展,由AI算法驱动的软件产品越来越影响我们的生活 。比如人脸识别、机器翻译等应用越来越广泛,技术也在向深度方向发展 。比如自动驾驶从L2到L5是迭代的 。然而,一枚硬币往往有两面 。随着人工智能软件的日益复杂,可靠性和安全性问题的重要性已经成为不可回避的障碍 。算法工程师的技术栈也是有限的 , 容易缺少传统软件工程、软件分析和软件验证中添加的技术点 。

【安全分析 人工智能】根据中国计算机联合会软件工程专业委员会2020年发布的《智能软件可靠性研究进展与趋势》的分类,AI软件可靠性的分类如下图所示:上半部分,即数据可靠性部分,为算法专业学生所熟悉,他们不仅接受过专业训练,还积累了丰富的实战经验 。所以我们以后见面,具体问题直接讨论细节分析 。

    推荐阅读