人工智能辅助写作在科学领域引发争议：是威胁还是机遇？

哪些词语会泄露AI的秘密？一项对PubMed上超过1500万篇生物医学摘要的新研究发现，2024年发表的科学论文中至少有13.5%的论文使用了AI辅助写作工具，其中最引人注目的是OpenAI的ChatGPT。

这项由西北大学和图宾根大学赫蒂脑健康人工智能研究所的研究人员开展的研究发现，2024年与人工智能生成的写作相关的词汇模式急剧上升。这些词汇既包括不常见的词汇，例如“delves”、“underscores”和“showcasing”，也包括较为常见的词汇，例如“potential”、“findings”和“crucial”。

为了衡量这种变化，研究人员将2024年的词频与2021年和2022年的基线数据进行了比较。他们最终确定了454个经常被人工智能模型过度使用的词，包括“encapsulates”、“noteworthy”、“underscore”、“scrutinizing”和“seamless”。

然而，专家解释说，解密单凭词频还不足以证明人工智能的使用。

“语言会随着时间而改变，”加州大学圣地亚哥分校传播学助理教授斯图尔特·盖格（Stuart Geiger）说道。“‘Delve’一词的流行度飙升，如今已成为社会常用词汇，部分原因在于ChatGPT。”

盖格强调，在写作中检测人工智能不仅仅是一个技术挑战，这也是一个道德挑战。

“合理检测法学硕士申请情况的唯一方法就是在场监督写作过程，”他说。“但这在后勤、道德和技术方面都成本高昂。”

然而，斯图尔特警告说，在不了解全部背景的情况下，不要仅根据表面线索就妄下结论。

“他们可能只是看了一堆 ChatGPT 生成的文字，就觉得这就是好文章的样子，”他说。“这正是我们学术界一直在努力解决的问题，尤其是当我们无法让学生直接坐在座位上，确保只用纸笔进行写作的时候。”

随着人工智能生成的文本变得越来越普遍，教育工作者已经转向声称可以检测它的工具；然而，这些工具的质量各不相同。

2024年10月，解密经过测试领先人工智能检测工具——包括 Grammarly、Quillbot、GPTZero 和 ZeroGPT。结果差异很大：ZeroGPT 声称《美国独立宣言》97.93% 是由人工智能生成的，而 GPTZero 则认为只有 10%。

盖格说：“有很多骗人的鬼油在卖。”

盖格表示，对人工智能写作工具的担忧与过去关于拼写检查、维基百科和 CliffsNotes 的争论如出一辙，并反映了关于写作目的、作者身份和信任的更深层次的问题。

“人们担心，当你必须自己写这些文字时，你必须仔细思考，”他说。“这就是为什么当人们看到一些可疑的东西时，反应如此强烈。”

莱斯大学商学院教授凯瑟琳·珀利认为，虽然人工智能写作常常会呈现出一些模式，例如重复的结构或像“delve”这样被过度使用的词语，但最重要的是它能否在不影响质量的情况下帮助研究人员。她表示，对于非英语母语人士或面临其他挑战的人来说，这一点尤其重要。

“如果人工智能能够帮助研究人员克服语言障碍或学习障碍等挑战，并且不会损害其工作的原创性或质量，那么我认为它没有问题，”她告诉解密“我认为这可能是一个整体的好处，因为它允许具有不同背景、想法和经历的人参与到一些可能因缺乏正式写作技能而成为障碍的事情中。”

作为莱斯商学院院长的人工智能顾问，珀利指出，另一个困境是人们倾向于改变自己的写作方式，因为担心被指责使用人工智能。她补充说，她已经更加意识到某些词语可能会被标记为可能是人工智能生成的。

尽管有些人批评这种风格缺乏个性，但 Perley 认为人工智能辅助写作是一种可以使正式研究参与民主化的工具。

“当然，我们可能会看到更多‘深入研究’和破折号，”她说，“但如果人工智能能够帮助不同背景的人们分享重要的研究成果，我不在乎它听起来多么完美——它都是值得的。”