极棒黑客比赛,能给人工智能安全带来帮助吗?


没什么软帮助 。人工智能是机器的深度学习 。现在的黑客比赛基本上都是破解操作系统 。或者是浏览器之类的漏洞 。基本上是提供一个软件系统给黑客破解 。而人工智能 。只是刚刚开始 。还没到深度应用的时候 。人工智能到底是怎样的 。还没人知道 。现在较为大家熟知的是阿尔法狗 。对人类还没有威胁 。因为现在的人工智能 。只能说是baby期的 。谁都不知道以后得人工智能是怎样的 。在这种情况下 。黑客大赛跟人工智能基本没啥关系 。谈人工智能其实就是谈未来 。只有未来具有人类思维的人工智能才能威胁人来 。而未来还没来 。黑客也无从破解 。所以黑客破和人工智能暂时不搭边 。
其他观点:
【极棒黑客比赛,能给人工智能安全带来帮助吗?】不久前 。AlphaGo 与柯洁的巅峰对决终于落下帷幕 。结局不免令人失望却没有悬念——人类又一次败给了 AI 。
“不像是个人 。像是一个神 。”赛后年仅 19 岁的柯洁如此评价 。

极棒黑客比赛,能给人工智能安全带来帮助吗?

文章插图
有学者指出 。AlphaGo 模型本身是为了能赢而设计最佳算法 。AlphaGo 会倾向于以 99.99999% 的概率用 0.5 分的优势勉强胜利 。而不是 99.99% 的概率以 10 分的巨大比分碾压对手 。至于媒体报道中的“人类是否还有希望”、“捍卫人类尊严”等耸人听闻的言论 。忽视了 AlphaGo 还不具备除下围棋之外的“特异功能” 。
鲜有媒体提到的是 AlphaGo 也输给了人类 。在双人配对战中 。棋手连笑 8 段和 AlphaGo 1 对弈古力 9 段和 AlphaGo 2 。对弈中在对方开始取得优势的情况下 。AlphaGo 2 竟然自动举牌认输 。即便是古力拒不认输 。而在随后的比赛中 AlphaGo 2 消极应战 。提前终结了一场精彩的对决 。
是的 。“神一般存在”的AlphaGo 也会输 。
DeepMind 创始人 Demis Hassabis 说:“只有和人对战才能发现 AI 的弱点 。予以修正 。仅仅通过开发算法以及 AlphaGo 和自己对弈是不够的 。”
AI 的弱点 。看似人工智能的错误和不完善 。但其实在黑客眼里就有可能变成可以被利用的漏洞 。
GeekPwn 国际安全极客嘉年华已经迈出“黑客 VS 人工智能”的脚步 。
2016 年 。GeekPwn 首提人工智能安全问题 。并在硅谷站上邀请到来自谷歌大脑 Ian Goodfellow 和 Alexey Kurakin 研究员 。加州大学伯克利分校 Dawn Song 教授和 Chang Liu 分享了在人工智能领域的安全研究;人工智能黑客 Clarence Chio 则在上海站分享了他利用“Deep-Pwning” 黑掉人工智能掉过程 。
2017年10月24日将在上海和硅谷举行的极棒嘉年华延续“无所不 PWN”的自由规则 。初始奖金池为 500 万人民币 。继续鼓励广大白帽黑客在智能安全领域的探索 。
极棒组委会重磅推出“人工智能安全挑战专项” 。人工智能可以成为黑客的助手 。黑客亦可能“黑掉”人工智能 。
在人工智能领域 。深度学习依赖对大量样本进行学习 。最后产生决策的过程 。和安全领域里通过产生大量模糊测试样本引发计算机异常 。从而发掘出漏洞 。最终执行流程可以被改变 。进而导致安全危害的过程非常相似 。如果说正确样本能够产生正确的决策 。那么黑客通过离线模拟产生的 AI 攻击样本 。则可能给人工智能带来错误的决策和行为 。
从对抗的思路出发 。创办“人工智能安全挑战专项”是为了寻找AI潜藏的风险并不断帮助其完善 。帮助人工智能安全健康成长 。也许有朝一日 。黑客可以成为保护人类的那群人 。
极棒嘉年华比赛规则
其他观点:
谢邀 。
极棒黑客比赛可以给人工智能带来安全帮助 。人工智能简称AI其原理是深度学习依赖对大量样本进行学习也就是我们通常说的大数据 。然后根据已有的数据做出最为正确的判断 。这个意愿看似非常不错但也存在非常大的漏洞 。如果黑客能够产生足够迷惑AI的样本数据那么人工智能将向错误的方向发展 。所以为了让AI以后不会出现我们预测的这种漏洞就要在我们还能控制局面的情况下将潜在的风险诱发出来并又黑客进行记录和完善 。还给我们一个更加安全和智能的人工智能 。
极棒黑客比赛,能给人工智能安全带来帮助吗?

文章插图
极棒黑客比赛,能给人工智能安全带来帮助吗?

文章插图

    推荐阅读