1月5日，纽约市教育部门表示，纽约公立学校的所有设备和网络上将禁止使用ChatGPT 。纽约市教育部门发言人詹娜·莱尔指出，这一决定是基于“该工具可能会对学生学习产生负面影响，以及对其内容的安全性和准确性的担忧” 。
人们普遍表示担心，该工具可能会鼓励学生抄袭 。詹娜·莱尔说，虽然ChatGPT能够为问题提供快速而简单的答案，但它没有培养批判性思维和解决问题的能力，而这些能力对学术和终身成功来说是至关重要的 。
2022年12月27日，美国西北大学的一个团队在预印本论文bioRxiv上发表了一篇文章 。这项研究中，研究者让ChatGPT学习发表在《柳叶刀》《美国医学会杂志》等顶刊上的文章，并撰写50篇医学研究摘要，然后让抄袭检测器、人工智能输出检测器和期刊审稿人将这些摘要与原始摘要比较，找出ChatGPT编造的摘要 。
结果发现，ChatGPT生成的摘要全部顺利通过了抄袭检测器 ， 人工智能输出器找出了66％的生成摘要，期刊审稿人仅正确识别了68％的生成摘要和86％的真实摘要 。研究者们表示，使用大型语言模型进行科学写作的道德和可接受边界需要被进一步明确 。
《自然》杂志最新发布的规定称，任何大型语言模型工具都不能成为论文作者；如在论文创作中用过相关工具，作者应在“方法”或“致谢”或适当部分明确说明 。
王帅认为，用AI写论文这样的事情，技术上一定会发生的 ， 而且知识获取的门槛越来越低 ， “我觉得发展方向上更多不一定是禁止它 ， 而是说教育评估的标准和理念需要发生变化 。相比那些大段输出的、能够在机器的帮助下写得更好的文字，思考的质量、深度和研究的原创性等将会越来越重要” 。
这就好像一项新的技术，比如说汽车、飞机被发明了，不可能说不用它们，关键是如何使用、如何规范 。从这一意义上来说 ， 王帅表示 ， 以ChatGPT为代表的生成式人工智能的出现 ， 围绕它及其应用相关的各方面都没有跟上，包括法律、教育、社会、伦理等 。实际上，就算是圈内人 ， 也没有完全理解AI领域正在发生的事情意味着什么 。
2022年12月 ， 《大西洋月刊》在《大学论文已死》的文章中警示，没有人为人工智能将如何改变学术界做好准备 。“如今AI模型远比我们想象的更强大，而我们用于探索它们的技术却非常幼稚 。”OpenAI实验室的人工智能政策专家杰克·克拉克在近来的一篇文章中写道 。
刘少山也认为，目前，业内没有能力去处理AI带来的可能的社会影响，因为人们对它的了解还很有限，这是最大的问题 。比如说，尽管美国部分学校禁用ChatGPT生成的内容，但现在却没有手段检测和区分机器与人类生产的内容，也就更加难说防御机制，“因为GPT这些技术太新了 ， 监管部门也没办法去理解 。我认为 ， 在几年时间内，网络上会有很多虚假信息的出现” 。
每一次AI出现一个新东西，大众总是会觉得某种巨大的变化将要来临，并且往往伴随着机器代替人工的担忧 。然而，王咏刚说，人们一方面太容易夸大AI短期内取得的成果和影响；另一方面，却又忽视AI正在发生的、真正可能带来不可逆的长期变化 。
在他看来，短期来说 ， ChatGPT等人工智能的应用仍旧是工具式的，它会提高效率、替代一部分工作，但真正值得担心的是，随着计算机能够处理的数据结构、模型、算法越来越膨胀和复杂，里面可能有大量的“黑盒子”运算 ， 人们未必能预测其最终输出的结果 。会不会在某个时间点 ， 人工智能会跨越某个关键的节点，进入到一个我们尚未看到的世界，没有人可以预测 。
（文中王帅为化名，实习生李金津对本文亦有贡献 。）
采访人员：彭丹妮
推荐阅读
- 常州社保门诊报销比例 2023年常州职工医保门诊统筹待遇
- 衡阳结婚证办理地点汇总图 衡阳结婚证办理地点汇总
- 2023连云港灵活就业人员基本养老保险差额补缴方法
- 残疾人保障金怎么申报
- 常州职工医保门诊慢性病+门诊特殊病待遇有哪些变化?
- 2023线上办理连云港灵活就业人员养老保险差额补缴指南
- 衡阳市结婚证办理材料注意事项及流程 衡阳市结婚证办理材料注意事项
- 2023支付宝办理连云港灵活就业人员养老保险差额补缴流程
- 衡阳市结婚证怎么办理？ 衡阳县结婚证在哪里办