Editing 知识视频创作者指南 (section)

=== 避免AI生成的错误信息 ===

* '''提防“幻觉”现象'''：AI模型有时会出现所谓的''幻觉''（hallucination），即凭空捏造看似合理但实际上错误的信息。例如，ChatGPT因编造不存在的参考文献而饱受诟病 (Nature：总结几款论文搜索AI工具的作用 - 医咖会)。这意味着，如果你问它“给我列出关于主题X的参考文献”，它可能罗列出的标题作者听起来很真，但其实并非真实存在的论文。因此，'''切勿完全信任AI给出的未经验证的信息'''。对AI的回答要保持质疑态度，尤其是具体数据、引用、引述等细节，一定要通过可靠来源核实。
* '''交叉核验事实'''：当AI提供了一个事实陈述（如某年份的统计、某人提出的观点），最稳妥的做法是在互联网或学术数据库中'''再次查证'''。例如，AI告诉你“某研究发现了A现象”，你可以将该表述拿去Google或学术搜索引擎查询，看是否有相应的论文或新闻支持。如果找不到佐证，有很大可能是AI张冠李戴或凭空杜撰。总之，不要让AI成为信息的最终审核者，你才是。每一个纳入视频的知识点，都应当能找到独立可信的来源来支持。
* '''注意知识时效性'''：许多AI模型（如ChatGPT的基础模型）并不连接互联网，其知识截至训练数据的时间。例如，ChatGPT的知识截至2021年左右。这意味着它对2022年以后发生的事件、发表的论文一概不知。如果你问它非常新的研究，它可能会给出过时的信息甚至编造结果 (ChatGPT and Fake Citations - Duke University Libraries Blogs)。为避免这种'''时效性陷阱'''，在涉及'''最新进展'''的内容时，一定要通过实时的渠道（新闻、最新论文）获取信息，而不是依赖AI的“记忆”。可以使用具有实时搜索功能的AI（如必应聊天、Perplexity）来查询近期信息，或者自己手动搜索最新资料，再让AI总结。
* '''理解AI总结的局限'''：AI擅长总结归纳，但在压缩信息时可能会'''遗漏重要细节'''或'''误解原意'''。特别是在科学领域，一两个词的差别就可能失之毫厘谬以千里。举例来说，某论文原文是“X在特定条件下有轻微效果”，AI摘要可能粗略地说“研究证明X有效”。这就失去了条件和程度的信息。为避免这种偏差，你在使用AI摘要后，应该快速浏览原文中的关键段落，核对AI的说法是否准确无误。如果AI对某概念的解释感觉不对劲，很可能是断章取义或混淆了上下文，此时要回到源文本查明真相。在视频中传播知识，更需要谨慎求证，确保不错传任何信息。
* '''多模型/多工具印证'''：一个实用的避错策略是'''多角度验证'''。如果怀疑ChatGPT的回答，可以尝试问另一个模型（如Claude）同样的问题，看结果是否一致；或者换一种提问方式，有时能逼出AI修改之前的错误回答。此外，还可以利用专门验证事实的工具，如scite之类用于核查论文引文的AI工具，它能验证某主张是否在数据库真实存在 (Nature：总结几款论文搜索AI工具的作用 - 医咖会)。总之，通过不同AI、不同方法的交叉验证，可以降低单一模型出错带来的影响，把错误扼杀在进入创作之前。