人工智能颠覆下的科学与科学家 人工智能颠覆下的科学与科学家是谁( 四 )

诺贝尔物理学奖得主弗兰克?维尔泽克(FrankWilczek)有一个著名的预测,100年后最好的物理学家将会是机器 。类似于AlphaFold这样的进展给这一预测带来一丝曙光 。但是这一预测也过于简化了:科学不仅只是求解明确定义的问题 。最令人尊敬的科学家往往是那些提出新问题和开辟新的研究领域的人,那些意识到工具和知识的累积已经足以使突破性的发现应运而生的人 。这让大众意识到进入这些新领域并迎接所带来的挑战的时机已经成熟 。因此,科学不仅是关于问题求解,它也是关于直觉、发现新前沿的能力,前往前沿的勇气以及领导力 。
人工智能在求解人类提出的问题方面已经取得巨大进展 。它甚至还有可能在现有知识和范式的框架内形成新的假说 。人工智能有一天是否会发展到这种地步:它感受到了创造一个新理论的必要,比如进化论或量子力学,然后孜孜不倦地为之奋斗?目前而言,还看不出人工智能具有这种能力,许多人工智能专家甚至怀疑人工智能是否存在这种可能 。因此,我们现在还难以宣称机器会在未来掌握科学的主导权 。未来最为激动人心的发现需要人机之间的战略合作 。的确,如果我们基于各自的能力分配任务,科学家与机器的协同工作有可能极大推动科学进步,减少人类的盲点,并在此过程中革新科学的实践 。
但是,我们需要意识到,当前人工智能的一个主要缺陷在于它是个黑箱 。它确实表现很好 , 但是没有人知道原因——这可能是一个大问题 , 特别是在科学中 。考虑一下亚马逊采用人工智能挑选雇员这个案例 。亚马逊从2014年开始采用计算机算法来评审应聘者的简历 。这一实验性的人工智能工具用1星到5星给应聘者打分,很像消费者给亚马逊上的商品做星级评价 。乍看起来,这像是人力资源部门的福音 。你给它100份简历,它立刻告诉你排在前5位的应聘者 。但是 , 公司很快就意识到这个新算法对女性应聘者的歧视 。这个算法是用公司10年间所收到的简历来训练的 , 而那些简历绝大部分来自男性 。因此,算法很快就学习到要向男性应聘者倾斜,而对包含“女性”一词的简历扣分,并降低了两所女子学院毕业生的等级 。
这一案例并非意味着人工智能不能正确处理事情,毕竟,人工智能系统严格执行了它受训来完成的工作 。我们让它查看数百万份以前的简历,其中包括了拒掉的和录用的人,并使用这一信息以发现未来的雇员 。亚马逊的失败其实表明,随着我们的工具的精度和复杂性的增加 , 它们会放大并进一步固化人类已有的偏差 。这意味着随着科学学的进展,人们需要更好地理解我们所建立的工具和计量指标中的偏差以及因果关系 。
——本文节选自《给科学家的科学思维》,王大顺/艾伯特-拉斯洛?巴拉巴西著;2021年12月 , 湛庐文化出品

声明:本文由本站【创业者资源平台】作者编辑发布,更多技术关注万年技术!

推荐阅读