外媒曝光ChatGPT背后的“血汗工厂”:最低时薪仅1.32美元,9小时至多标注20万个单词,有员工遭受持久心理创伤( 二 )


《时代周刊》的报道显示,即使是一个由数百人组成的团体,也需要几十年的时间才能手动搜索庞大的数据库 。OpenAI只能通过建立一个额外的、AI驱动的安全机制,才能控制上述弊端,创造出适合人们日常使用的聊天机器人 。
据报道 , 为了建立这个安全系统 , OpenAI借鉴了Facebook(现Meta)等社交媒体公司的做法 。此前,Facebook已经证明其可以构建能够检测仇恨言论等的AI工具,并将这些内容从其平台上移除 。这项工作也很简单:给AI提供标有暴力、仇恨语言等标签,AI工具就可以学会检测这些内容 。目前类似的工具已经内置到ChatGPT当中 , 以检测它是否与训练数据的内容相呼应,并在它触及到用户之前将不良内容过滤掉 。
《时代周刊》报道称,为了获得这些有害内容的标签,OpenAI从2021年11月开始便向一家外包公司发送了数万条文本片段 。其中大部分文字似乎都是从互联网“最黑暗的角落”挖掘出来的 。
据报道 , OpenAI发言人曾在一份声明中证实,Sama在肯尼亚的员工为该公司正在开发的监测有害内容的工具作出了贡献,该工具最终被内置到ChatGPT中 。
除了OpenAI,Sama还为谷歌、Mate和微软等硅谷科技巨头标注数据 。此外 , Sama还标榜其是一家“有道德的人工智能公司”,并称其已经帮助5万多人脱贫 。
人工智能组织联盟Partnership on AI表示,“尽管这些丰富数据的专业人士发挥了基础作用,但越来越多的研究表明 , 这些工人都面临着不稳定的工作条件 。这可能是庆祝技术效率提升的同时,试图掩盖人工智能对庞大劳动力依赖的结果 。”

推荐阅读