人工智能写出的假引用

上午｜看起来像真的参考文献

Shaylene 用一个 AI tool（工具） 整理 science（科学） 作业。它给出一篇关于 swamp（沼泽） 与 marsh（沼泽） 生态的 article（文章），author（作者）、journal（学术期刊）、volume（卷） 和页码一应俱全。文字很 sophisticated（世故的、复杂的），结论也 plausible（似乎是真的），她差点直接把 citation（引用） 放 in（在…内） 报告。Darlene 却保持 skeptical（怀疑的）：先 find（发现） 原文。

她们在 Internet（因特网） 检索题名、作者和出版信息，none（没有） 对得上。换一种 technique（技术） 再 seek（寻求），结果仍一样。那位 professor（教授） 的名字是真的，论文却是 fake（伪造、假的）；作者主页也不能 certify（证明） 这条引用存在。Shaylene 说，自己被流畅的语言 dazzle（使眼花） 了，产生‘写得像就可信’的 illusion（错觉）。Darlene 点出 underlying（基础的） 问题：模型能 invent（发明） 看似合理的内容，不代表每次都能 prove（证明） 来源。

她们检查 dataset（数据集） 的 origin（起源），才发现数据栏 vacant（空的）。没有样本、没有原始记录，当然不能称作 reproducible（可复现的）。再 apparent（明显的） 的论断，也要看证据。‘not（不、没有） verified’，Shaylene 在引用旁写上这个提醒，把 suspicion（怀疑） 变成可执行的核查，而不是只说‘我觉得 dubious（可疑的）’。

这份 virtual（虚拟、实际上的） 的回答并没有足够 credible（可信的） 的来源来 convince（使人信服） 读者，其中的 false（错误的） 引用必须删除。

核对桌｜术语多，不等于可靠

那篇文本混进了 thermal（热的；热量的）、sodium（钠）、biotechnology（生物技术）、parasite（寄生虫） 等术语，又提到 corpse（尸体） 标本和动物 perish（毁灭） 的现象。它还把 bull（公牛）、goat（山羊） 的观察记录扯到 rocket（火箭） 与 spaceship（宇宙飞船） 的材料测试，范围大得无法解释。Darlene 说，术语再 obscure（不为人知、晦涩难懂），也不能让不相干的内容自动成立。

Shaylene 找到一份真实的 tract（小册子；区域），里面记录了湿地如何 submerge（潜入水中、浸没） 植物根部，与那段 transport（运输） 项目并无关系。她把两者分开，不让一句 positive（积极的） 的宣传词遮住明显 obvious（明显的） 的矛盾。关于 prototype（原型） 的讨论有出处，关于 high-tech（高科技） hardware（硬件） 的结论却没有。引用一盎司 ounce（盎司） 的质量数据，也不能省掉单位和实验条件。

窗外 daylight（日光） 正亮，电脑屏幕的 glare（刺眼的光） 刺眼。她挪开一块擦屏幕的 rag（破布），整理 disk（磁盘） 里的文件。Darlene 提醒不要把 password（密码） 或未公开资料当 prompt 传给陌生服务。‘模型不是 robot（机器人） 证人，不能替我们保证 truth（真相）。’Shaylene 低头看 keyboard（键盘），把误引用标红，重新建立可追踪的笔记。

下午｜工具还能用，责任不能交出去

她们没有因为一次错误就 prohibit（禁止） 所有技术，也没有 advocate（主张、倡议） 无条件信任。technology（技术、工艺） 可以 assist（援助） 整理、automate（使自动化） 重复步骤，也能帮助 conceive（构想） 新问题；要 innovate（创新），仍需有能力 able（有能力的） 地检查结果，保持 balance（平衡）。工具的 nominal（名义上的） 权威并不等于 absolute（绝对的） 正确，人也 susceptible（容易受影响的） to fluent wording，容易受顺畅措辞影响。

Shaylene 在报告里 disclose（揭露、公开） 自己曾使用工具，并说明哪些内容已经更正。她没有把错误藏起来让 nobody（谁也不、小人物） 发现，也不想做一张 counterfeit（伪造的） 的证明。老师说，核查不是 censor（审查） 不喜欢的观点，而是区分有来源和无来源的陈述。evident（明显的） 的错误要改，可疑之处要继续查，不能只拿 suspect（怀疑） 的语气攻击别人。

晚上的 webcast（网络直播） 讲到 hallucination（模型编造；幻觉）：在这个技术语境里，它指模型编造或输出不可靠内容，不是在给用户作医学判断。一位 lady（女士） 主讲人用旧文学中的 lass（小姑娘、少女） 举例，说词义也需要语境。Shaylene 把这条 news（新闻） 记进本子：一份漂亮回答可能像 bait（饵），吸引自己快速相信；她要做的是保持 constant（持续的） 的核对习惯，再决定是否 utilize（利用） 它。

Arlene 和 Magdalene 加入最后的校对。四个朋友分工查看原文、核对数字、整理引文和记录更正，不把所有判断都留给一个人或一个工具。