Auto
Introducere
Asistenții AI moderni (chatboți precum ChatGPT sau Bing Chat) încearcă adesea să răspundă la întrebările utilizatorilor și să „își demonstreze munca” citând surse. Cu toate acestea, studiile arată că multe răspunsuri conțin citări incorecte sau lipsă. De exemplu, cercetătorii de la Stanford au descoperit că aproximativ jumătate dintre răspunsurile chat-urilor AI conțineau afirmații nesusținute sau citări greșite (www.axios.com). În testele medicale, noile instrumente AI au oferit adesea răspunsuri nesusținute de sursele pe care le-au citat (doaj.org). Aceste probleme înseamnă că avem nevoie de modalități mai bune de a testa comportamentul de citare al asistenților AI.
Pentru a înțelege cum alege un AI ce să citeze, propunem un plan de testare la scară largă. Vom crea multe interogări sintetice (întrebări simulate) care acoperă diferite domenii și tipuri de întrebări. Le vom rula automat prin asistenții AI, vom colecta răspunsurile și citările acestora și vom eticheta fiecare sursă citată după actualitate (cât de recentă), autoritate (cât de credibilă) și structură (tip sau format). Apoi vom folosi statistici simple pentru a vedea care factori cresc probabilitatea ca un AI să citeze o sursă. Vom partaja toate datele și instrumentele noastre în mod deschis. În acest fel, putem obține îmbunătățiri prin colaborare colectivă (crowd-source) și putem monitoriza continuu comportamentul de citare al AI în timp.
Proiectarea unui Benchmark de Interogări Sintetice
Pentru a testa regulile de citare în AI, vom folosi un set de interogări sintetice. Aceasta înseamnă că vom genera un număr mare de întrebări exemplu (prompturi) folosind computere, în loc să colectăm doar interogări reale ale utilizatorilor. Utilizarea prompturilor sintetice este comună în cercetare. De exemplu, cercetătorii Google au folosit sisteme AI pentru a genera întrebări atunci când datele sunt dificil de colectat (research.google). Un alt studiu a arătat că datele de tip întrebare-răspuns generate de AI pot fi un bun înlocuitor pentru datele de test reale în anumite contexte (papers.cool).
Interogările noastre vor acoperi multe subiecte (verticale) și obiective ale utilizatorilor. Vom alege o gamă largă de subiecte precum știința, istoria, sănătatea, finanțele și sarcinile cotidiene. În cadrul fiecărui subiect, vom acoperi diferite intenții – scopul întrebării. De exemplu, unele interogări vor fi factuale (cum ar fi „Care este cea mai mare planetă din sistemul nostru solar?”), altele vor cere instrucțiuni de tip „cum să” („Cum schimb un pneu de mașină?”), altele vor cere sfaturi deschise („Ce ar trebui să iau în considerare când aplic la facultate?”) și așa mai departe. Prin combinarea tipurilor de întrebări informaționale, factuale, argumentative și sociale (papers.cool), ne asigurăm că testul nostru acoperă multe utilizări din lumea reală.
Am putea folosi chiar modele de limbaj mari pentru a ajuta la generarea acestui set de interogări. Pentru fiecare subiect și intenție, un AI poate produce multe întrebări. Le putem apoi revizui și filtra. Setul final ar putea conține mii de întrebări pentru a ne oferi o putere statistică bună.
Rularea Testelor și Capturarea Citărilor
Odată ce avem setul nostru de interogări, automatizăm testarea. Un script sau un program va trimite fiecare întrebare sintetică asistentului AI (printr-un API sau o interfață) și va salva răspunsul. Pentru fiecare răspuns, vom analiza și extrage orice surse citate. Asistenții AI oferă adesea referințe sub formă de linkuri, note de subsol sau citări încorporate. Vom înregistra fiecare sursă (de exemplu, un link web sau titlul unui articol) împreună cu întrebarea și răspunsul.
Această automatizare ne permite să colectăm date la scară largă. În loc să punem manual fiecare întrebare, scriptul poate rula prin toate sutele sau miile de interogări într-un lot. Am putea face acest lucru pentru unul sau mai multe sisteme AI. Rezultatul este un set de date (întrebare, răspuns, surse citate). Notăm, de asemenea, cât de des sunt citate sursele și în ce format.
Etichetarea Atributelor Sursei
După colectarea citărilor, etichetăm fiecare sursă după atributele sale cheie. Aceste atribute ne ajută să testăm ce face ca o sursă să fie probabil citată. Atributele principale sunt:
- Actualitate: Cât de recentă sau actualizată este sursa? De exemplu, un articol de știri de săptămâna trecută este foarte actual, în timp ce un manual de acum 20 de ani nu este. Actualitatea este importantă deoarece informațiile mai noi ar putea fi mai relevante. Benchmark-urile anterioare au măsurat actualitatea ca un semnal de calitate pentru citări (papers.cool).
- Autoritate: Cât de credibilă sau autoritară este sursa? Acest lucru s-ar putea baza pe cine a publicat-o. De exemplu, un studiu universitar sau un site guvernamental are, de obicei, o autoritate ridicată, în timp ce un blog necunoscut poate avea o autoritate scăzută. SourceBench, un studiu recent, a enumerat „autoritatea” ca un semnal cheie la nivel de pagină pentru calitate (papers.cool).
- Structură: Ce tip sau format are sursa? De exemplu, o sursă ar putea fi o lucrare de cercetare, un articol de știri, o postare pe forum online sau un raport oficial. Structura ar putea influența modul în care un AI o utilizează. (Chiar dacă promptul nostru nu oferă exemple specifice de structură, o definim ca tipul documentului sau claritatea scrierii. SourceBench a menționat, de asemenea, „claritatea” ca un semnal (papers.cool), care este înrudită.)
Putem adnota aceste atribute prin verificări automate sau prin căutarea sursei. Pentru actualitate, am putea înregistra data publicării. Pentru autoritate, am putea folosi liste cunoscute de domenii reputate sau descrierea site-ului (de exemplu, domeniile oficiale precum .gov sau .edu tind să fie mai autoritare). Această etichetare poate fi manuală sau automată, dar ne oferă valori precum „actualitate = nouă/veche” și „autoritate = ridicată/scăzută” pentru fiecare sursă.
Analizarea și Modelarea Modelelor de Citare
Cu un set de date format din multe exemple (întrebare, răspuns, atribute ale sursei), analizăm datele pentru a găsi modele. Întrebăm: care caracteristici prezic cel mai bine dacă un AI va cita o anumită sursă?
Am putea face acest lucru prin analize statistice simple sau învățare automată. De exemplu, putem vedea dacă sursele cu actualitate ridicată sau autoritate ridicată sunt citate mai des. Am putea folosi o regresie logistică sau un arbore de decizie pentru a modela „citare vs. necitare” ca rezultat. Acest lucru ne spune ce caracteristici (cum ar fi actualitatea, subiectul sau tipul întrebării) au cel mai puternic efect.
Acest pas este similar modului în care cercetătorii analizează datele din sondaje sau experimente. Ar putea dezvălui, de exemplu, că AI preferă să citeze surse care sunt mai noi sau mai autoritare. Am căuta cei mai puternici predictori – acele atribute care cresc cel mai mult șansa unei citări. Cuantificând acest lucru, practic „inginerăm invers” regulile de citare: aflăm ce pare să caute asistentul.
Această abordare este inspirată de SourceBench și de alte studii care evaluează sursele pe metrici precum actualitatea și autoritatea (papers.cool). Prin aplicarea modelării statistice, depășim anecdote și ajungem la tendințe măsurate. Acest lucru ne ajută să înțelegem dacă AI are o părtinire către anumite surse (de exemplu, citând întotdeauna Wikipedia sau citând doar site-uri de top).
Benchmark Open-Source și Monitorizare Continuă
După construirea acestui benchmark, îl vom face open-source – publicând interogările, codul și analizele online pentru toată lumea. Benchmark-urile open-source sunt comune în cercetarea AI, deoarece permit altora să utilizeze și să îmbunătățească testele. De exemplu, multe seturi de date la scară largă, cum ar fi cele pentru traducerea limbilor sau răspunsul la întrebări, sunt partajate public. Intenționăm să publicăm setul nostru de interogări și rezultatele pe o platformă precum GitHub. Acest lucru permite altor cercetători și dezvoltatori să își verifice propriii asistenți AI în comparație cu benchmark-ul nostru.
Recomandăm, de asemenea, monitorizarea continuă. Asistenții AI se schimbă des (primesc actualizări, noi versiuni etc.). Sugerăm un program regulat pentru reluarea testelor. De exemplu, de fiecare dată când AI primește o actualizare majoră sau într-un ciclu fix (cum ar fi lunar). Acest lucru este similar ideii de „benchmark-uri pe termen lung”, care extind și actualizează seturile de testare în timp pentru a evita stagnarea (huggingface.co). Prin adăugarea continuă de noi întrebări și reluarea testelor, putem detecta orice schimbări în comportamentul de citare. Dacă AI începe brusc să citeze mai multe site-uri învechite, sau dacă învață să citeze surse mai bune, vom observa.
Automatizarea acestei monitorizări înseamnă că putem urmări tendințele. Echipele pot primi alerte dacă ceva se schimbă dramatic. Acest lucru este similar monitorizării „driftului” modelului în învățarea automată, dar concentrat pe citări. Combinarea benchmark-ului nostru cu rulări regulate asigură că asistenții AI rămân pe drumul cel bun în modul în care oferă surse.
Concluzie
Pe scurt, propunem un plan cuprinzător pentru a sondea regulile de citare ale asistenților AI. Prin proiectarea unui set amplu și variat de întrebări de test, rularea lor automată prin sisteme AI și etichetarea atentă a surselor citate după atribute precum actualitatea și autoritatea, putem folosi statistici pentru a descoperi factorii care influențează citarea. Metoda noastră este susținută de cercetări recente care subliniază importanța verificabilității (www.axios.com) (doaj.org) și a benchmark-urilor inovatoare care studiază calitatea surselor (papers.cool) și datele sintetice (papers.cool) (research.google). Prin punerea la dispoziție a benchmark-ului ca open-source și monitorizarea regulată a rezultatelor, contribuim la crearea unei modalități transparente de a ne asigura că asistenții AI citează informații fiabile. Această muncă poate îmbunătăți încrederea în AI prin aruncarea de lumină asupra regulilor ascunse ale citărilor și prin ghidarea dezvoltatorilor pentru a crea sisteme mai bune și mai responsabile.
