Auto
はじめに
現代のAIアシスタント（ChatGPTやBing Chatのようなチャットボット）は、ユーザーの質問に答え、情報源を引用することで「根拠を示す」ことを試みます。しかし、多くの回答には不適切または欠落した引用が含まれていることが研究で示されています。例えば、スタンフォード大学の研究者たちは、AIチャットの回答の約半分が裏付けのない記述や誤った引用を含んでいることを発見しました（www.axios.com）。医療分野のテストでは、新しいAIツールが引用した情報源によっては裏付けられない回答を頻繁に提供しました（doaj.org）。これらの問題は、AIアシスタントの引用行動をテストするためのより良い方法が必要であることを意味します。
AIが何を引用するかをどのように選択しているかを理解するために、大規模なテスト計画を提案します。私たちは、様々な主題分野と質問の種類を網羅する多数の合成クエリ（架空の質問）を作成します。これらをAIアシスタントに自動的に実行させ、回答と引用を収集し、引用された各情報源をその鮮度（どれくらい新しいか）、権威（どれくらい信頼されているか）、構造（種類や形式）でラベル付けします。その後、単純な統計を使用して、どの要因がAIに情報源を引用させる可能性を高めるかを調べます。すべてのデータとツールを公開します。この方法により、改善をクラウドソーシングし、時間の経過とともにAIの引用行動を継続的に監視することができます。
合成クエリベンチマークの設計
AIの引用ルールをテストするために、合成クエリセットを使用します。これは、実際のユーザーのクエリを収集するだけでなく、コンピューターを使って多数の質問例（プロンプト）を生成することを意味します。合成プロンプトの使用は研究で一般的です。例えば、Googleの研究者たちは、データ収集が困難な場合にAIシステムを使用して質問を生成しました（research.google）。別の研究では、AIが生成した質問応答データが、一部の設定で実際のテストデータの良い代替となることが示されました（papers.cool）。
私たちのクエリは、多くのトピック（バーティカル）とユーザーの目標にわたります。科学、歴史、健康、金融、日常のタスクなど、幅広い主題を選びます。各トピック内で、質問の目的である異なる意図を網羅します。例えば、事実を問うクエリ（「太陽系で最大の惑星は何ですか？」など）、手順を尋ねるクエリ（「車のタイヤ交換はどうすればよいですか？」）、オープンエンドなアドバイスを求めるクエリ（「大学に出願する際に何を考慮すべきですか？」）などです。情報提供、事実、議論、ソーシャルといった質問の種類を組み合わせることで（papers.cool）、私たちのテストが多くの実際の使用例をカバーすることを保証します。
このクエリセットの生成を助けるために、大規模言語モデル自体を使用するかもしれません。各トピックと意図に対して、AIは多くの質問を生成できます。その後、それらをレビューしてフィルタリングすることができます。最終的なセットは、良好な統計的検出力を得るために数千の質問を含む可能性があります。
テストの実行と引用の取得
クエリセットが揃ったら、テストを自動化します。スクリプトまたはプログラムが、各合成質問をAIアシスタント（APIまたはインターフェース経由で）に送信し、その応答を保存します。各回答について、引用された情報源を解析し抽出します。AIアシスタントはしばしば、リンク、脚注、または埋め込み引用として参照を提供します。各情報源（例えば、ウェブリンクや記事タイトル）を、質問と回答とともに記録します。
この自動化により、大規模なデータ収集が可能になります。各質問を手動で尋ねる代わりに、スクリプトは数百または数千のクエリをバッチで実行できます。これを1つまたは複数のAIシステムに対して行うことができます。出力は（質問、回答、引用された情報源）のデータセットです。また、情報源がどれくらいの頻度で引用されるか、どのような形式で引用されるかにも注目します。
情報源属性のラベル付け
引用を収集した後、各情報源をその主要な属性でラベル付けします。これらの属性は、情報源が引用されやすい要因をテストするのに役立ちます。主要な属性は以下の通りです。
- 鮮度: その情報源はどれくらい新しいか、または最新か？例えば、先週のニュース記事は非常に新しいですが、20年前の教科書はそうではありません。新しい情報はより関連性が高いため、鮮度は重要です。以前のベンチマークでは、引用の品質シグナルとして鮮度が測定されています（papers.cool）。
- 権威: その情報源はどれくらい信頼できるか、または権威があるか？これは、誰が公開したかに基づくことがあります。例えば、大学の研究や政府のウェブサイトは通常高い権威を持ちますが、無名のブログは権威が低い場合があります。最近の研究であるSourceBenchは、「権威」を品質の主要なページレベルのシグナルとして挙げています（papers.cool）。
- 構造: その情報源の種類や形式は何か？例えば、情報源は研究論文、ニュース記事、オンラインフォーラムの投稿、または公式レポートである可能性があります。その構造はAIがどのようにそれを使用するかに影響を与えるかもしれません。（私たちのプロンプトが構造の具体的な例を提供しなくても、私たちはそれを文書の種類または記述の明瞭さと定義します。SourceBenchも「明瞭さ」をシグナルとして挙げており（papers.cool）、これは関連しています。）
これらの属性は、自動チェックまたは情報源を調べることによって注釈付けできます。鮮度については、発行日を記録するかもしれません。権威については、信頼できるドメインの既知のリストやサイトの説明（例えば、.govや.eduのような公式ドメインはより権威がある傾向があります）を使用できます。このラベリングは手動または自動で行うことができますが、各情報源に対して「鮮度 = 新しい/古い」や「権威 = 高い/低い」といった値を提供してくれます。
引用パターンの分析とモデリング
多数の（質問、回答、情報源属性）の例を含むデータセットを用いて、データを分析しパターンを見つけます。私たちは問いかけます：どの特徴が、AIが特定の情報源を引用するかどうかを最もよく予測できるか？
これを単純な統計分析や機械学習で行うことができます。例えば、鮮度が高いまたは権威が高い情報源がより頻繁に引用されるかどうかを確認できます。「引用するか否か」を結果としてモデル化するために、ロジスティック回帰や決定木を使用することができます。これにより、どの特徴（鮮度、トピック、質問の種類など）が最も強い影響を与えるかがわかります。
このステップは、研究者が調査データや実験データを分析する方法に似ています。例えば、AIがより新しい情報源やより権威のある情報源を引用することを好むことを明らかにするかもしれません。私たちは最も強力な予測因子、つまり引用の可能性を最も高める属性を探します。これを定量化することで、私たちは本質的に引用ルールを「リバースエンジニアリング」します。つまり、アシスタントが何を求めているように見えるかを発見します。
このアプローチは、SourceBenchや、鮮度や権威などの指標に基づいて情報源を評価する他の研究に触発されています（papers.cool）。統計モデリングを適用することで、逸話を超えて測定されたトレンドへと進みます。これにより、AIが特定の情報源に対して偏りを持っているかどうか（例えば、常にWikipediaを引用したり、上位サイトのみを引用したりするなど）を理解するのに役立ちます。
オープンソースベンチマークと継続的な監視
このベンチマークを構築した後、私たちはそれをオープンソース化します。つまり、クエリ、コード、分析をオンラインで誰でも利用できるように公開します。オープンソースのベンチマークは、他の人がテストを使用し改善できるようにするため、AI研究では一般的です。例えば、言語翻訳や質問応答のためのものなど、多くの大規模データセットが公開されています。私たちのクエリセットと結果をGitHubのようなプラットフォームに置く予定です。これにより、他の研究者や開発者が、自らのAIアシスタントを私たちのベンチマークと比較して確認できるようになります。
また、継続的な監視も推奨します。AIアシスタントは頻繁に変化します（更新されたり、新しいバージョンになったりするなど）。テストを再実行するための定期的なスケジュールを提案します。例えば、AIが大幅な更新を受けるたびに、または固定された周期（毎月など）でです。これは、「ライフロングベンチマーク」の考え方に似ており、停滞を避けるために時間の経過とともにテストセットを拡張および更新します（huggingface.co）。新しい質問を継続的に追加し、再実行することで、引用行動の変化を捉えることができます。AIが突然、より古くなったサイトを多く引用し始めたり、より良い情報源を引用することを学習したりした場合、私たちはそれを確認できます。
この監視を自動化することで、トレンドを追跡できます。何かが劇的に変化した場合、チームはアラートを受け取ることができます。これは機械学習におけるモデルドリフト監視に似ていますが、引用に焦点を当てています。私たちのベンチマークを定期的な実行と組み合わせることで、AIアシスタントが情報源の提供方法において適切であることを保証します。
結論
要するに、私たちはAIアシスタントの引用ルールを探るための包括的な計画を提案します。大規模で多様なテスト質問セットを設計し、AIシステムを介して自動的に実行し、鮮度や権威などの属性によって引用された情報源を注意深くラベル付けすることで、統計を使用して引用に影響を与える要因を明らかにすることができます。私たちの方法は、検証可能性の重要性を強調する最近の研究（www.axios.com）（doaj.org）や、情報源の品質（papers.cool）および合成データ（papers.cool）（research.google）を研究する革新的なベンチマークによって裏付けられています。ベンチマークをオープンソース化し、定期的に結果を監視することで、AIアシスタントが信頼できる情報を引用することを保証する透明な方法の確立に貢献します。この取り組みは、引用の隠れたルールを明らかにすることでAIへの信頼を高め、開発者がより良く、より責任あるシステムを構築するための指針となります。
