Auto
引言
现代人工智能助手（如ChatGPT或Bing Chat等聊天机器人）在回答用户问题时，常常会通过引用来源来“展示其工作”。然而，研究表明许多答案存在不当或缺失的引文。例如，斯坦福大学的研究人员发现，大约一半的AI聊天答案包含无支持的陈述或错误的引文（www.axios.com）。在医学测试中，新的人工智能工具给出的答案常常不被其引用的来源所支持（doaj.org）。这些问题意味着我们需要更好的方法来测试人工智能助手的引文行为。
为了理解人工智能如何选择引用内容，我们提出了一个大规模的测试计划。我们将创建大量涵盖不同主题领域和问题类型的合成查询（虚构问题）。我们将通过人工智能助手自动运行这些查询，收集它们的答案和引文，并根据每个引用来源的新鲜度（新近程度）、权威性（可信赖程度）和结构（类型或格式）进行标注。然后，我们使用简单的统计数据来查看哪些因素使得人工智能更可能引用某个来源。我们将公开分享所有数据和工具。通过这种方式，我们可以汇集改进方案并持续监测人工智能的引文行为。
设计合成查询基准
为了测试人工智能的引文规则，我们将使用一个合成查询集。这意味着我们使用计算机生成大量的示例问题（提示），而不仅仅是收集真实的用户查询。在研究中，使用合成提示是很常见的。例如，当数据难以收集时，谷歌的研究人员就曾使用人工智能系统来生成问题（research.google）。另一项研究表明，在某些情况下，人工智能生成的问题-答案数据可以很好地替代真实的测试数据（papers.cool）。
我们的查询将涵盖众多主题（领域）和用户目标。我们选择广泛的主题，例如科学、历史、健康、金融和日常任务。在每个主题中，我们涵盖不同的意图——即问题的目的。例如，有些查询是事实性的（如“我们太阳系中最大的行星是什么？”），有些则要求操作说明（“我如何更换汽车轮胎？”），有些则寻求开放式建议（“申请大学时我应该考虑什么？”），等等。通过混合信息性、事实性、论证性和社交性的问题类型（papers.cool），我们确保测试覆盖了许多实际应用场景。
我们可能会利用大型语言模型本身来帮助生成这个查询集。对于每个主题和意图，人工智能可以生成许多问题。然后我们可以进行审查和筛选。最终的集合可能包含数千个问题，以提供良好的统计效力。
运行测试并捕获引文
一旦我们有了查询集，我们就会自动化测试过程。一个脚本或程序会将每个合成问题发送给人工智能助手（通过API或接口），并保存响应。对于每个答案，我们都会解析并提取所有引用的来源。人工智能助手通常以链接、脚注或嵌入式引文的形式提供参考文献。我们记录每个来源（例如，网页链接或文章标题）以及问题和答案。
这种自动化使我们能够大规模收集数据。脚本可以批量运行所有数百甚至数千个查询，而无需手动逐一提问。我们可能会对一个或多个AI系统进行此操作。输出结果是（问题、答案、引用来源）的数据集。我们还会记录来源被引用的频率以及其格式。
标注来源属性
收集引文后，我们会根据其关键属性标注每个来源。这些属性有助于我们测试哪些因素使得一个来源更可能被引用。主要属性包括：
- 新鲜度：该来源有多新近或时效性？例如，上周的新闻文章非常新鲜，而20年前的教科书则不然。新鲜度很重要，因为较新的信息可能更具相关性。以前的基准测试已将新鲜度作为引文的质量信号进行衡量（papers.cool）。
- 权威性：该来源有多可信或权威？这可能基于其发布者。例如，大学研究或政府网站通常具有高权威性，而不知名的博客可能权威性较低。最近的一项研究SourceBench将“权威性”列为页面级别质量的关键信号（papers.cool）。
- 结构：该来源的类型或格式是什么？例如，一个来源可能是一篇研究论文、一篇新闻文章、一个在线论坛帖子或一份官方报告。结构可能会影响人工智能如何使用它。（即使我们的提示未提供具体的结构示例，我们将其定义为文档类型或写作清晰度。SourceBench也提到了“清晰度”作为一个信号（papers.cool），这与结构相关。）
我们可以通过自动化检查或查找来源来标注这些属性。对于新鲜度，我们可能会记录发布日期。对于权威性，我们可以使用已知信誉良好的域名列表或网站描述（例如，像.gov或.edu这样的官方域名往往更具权威性）。这种标注可以是手动的，也可以是自动化的，但它为每个来源提供了诸如“新鲜度 = 新/旧”和“权威性 = 高/低”的值。
分析和建模引文模式
通过包含大量（问题、答案、来源属性）示例的数据集，我们分析数据以发现规律。我们提问：哪些特征能最好地预测人工智能是否会引用某个特定来源？
我们可能通过简单的统计分析或机器学习来完成。例如，我们可以查看新鲜度高或权威性高的来源是否更常被引用。我们可以使用逻辑回归或决策树来建模“引用与不引用”作为结果。这告诉我们哪些特征（如新鲜度、主题或问题类型）具有最强的影响。
这一步骤类似于研究人员分析调查或实验数据的方式。它可能会揭示，例如，人工智能更倾向于引用更新或更具权威性的来源。我们将寻找最强的预测因子——那些最能增加引用机会的属性。通过量化这一点，我们实质上是在“逆向工程”引文规则：我们找出助手似乎在寻找什么。
这种方法受到了SourceBench和其他研究的启发，这些研究根据新鲜度和权威性等指标对来源进行评分（papers.cool）。通过应用统计建模，我们超越了轶事，转向了可衡量的趋势。这有助于我们了解人工智能是否对某些来源存在偏见（例如，总是引用维基百科或只引用顶级网站）。
开源基准和持续监测
在建立这个基准后，我们将开源它——在线发布查询、代码和分析供所有人使用。开源基准在人工智能研究中很常见，因为它们允许其他人使用和改进测试。例如，许多大规模数据集，如用于语言翻译或问答的数据集，都是公开共享的。我们计划将我们的查询集和结果放在像GitHub这样的平台上。这允许其他研究人员和开发人员根据我们的基准测试他们自己的人工智能助手。
我们还建议持续监测。人工智能助手经常变化（它们会更新、发布新版本等）。我们建议定期重新运行测试。例如，每当人工智能进行重大更新时，或按固定周期（如每月）进行。这类似于“终身基准”的概念，它会随着时间的推移扩展和更新测试集，以避免停滞（huggingface.co）。通过不断添加新问题并重新运行，我们可以捕捉到引文行为的任何变化。如果人工智能突然开始引用更多过时的网站，或者它学会引用更好的来源，我们都会发现。
自动化这种监测意味着我们可以跟踪趋势。如果发生剧烈变化，团队可以收到警报。这类似于机器学习中的模型漂移监测，但侧重于引文。将我们的基准与定期运行相结合，确保人工智能助手在提供来源方面保持正确。
结论
总之，我们提出了一个探究人工智能助手引文规则的综合计划。通过设计大量多样化的测试问题，自动通过人工智能系统运行它们，并根据新鲜度和权威性等属性仔细标注引用的来源，我们可以使用统计数据揭示影响引文的因素。我们的方法得到了最新研究的支持，这些研究强调了可验证性（www.axios.com） （doaj.org）的重要性，以及研究来源质量（papers.cool）和合成数据（papers.cool） （research.google）的创新基准。通过开源该基准并定期监测结果，我们有助于创建一种透明的方式，以确保人工智能助手引用可靠信息。这项工作可以通过揭示引文的隐藏规则，并指导开发人员构建更好、更负责任的系统，从而提升人们对人工智能的信任。
