Auto
Ievads
Mūsdienu AI asistenti (tērzēšanas roboti, piemēram, ChatGPT vai Bing Chat) bieži mēģina atbildēt uz lietotāju jautājumiem un “parādīt savu darbu”, citējot avotus. Tomēr pētījumi liecina, ka daudzām atbildēm ir sliktas vai trūkstošas atsauces. Piemēram, Stenfordas pētnieki atklāja, ka aptuveni puse no AI tērzēšanas atbildēm saturēja nepamatotus apgalvojumus vai nepareizas atsauces (www.axios.com). Medicīnas testos jauni AI rīki bieži sniedza atbildes, kas nebija pamatotas ar citētajiem avotiem (doaj.org). Šīs problēmas nozīmē, ka mums ir nepieciešami labāki veidi, kā pārbaudīt AI asistentu citēšanas uzvedību.
Lai saprastu, kā AI izvēlas, ko citēt, mēs ierosinām liela mēroga testēšanas plānu. Mēs izveidosim daudzus sintētiskos vaicājumus (izdomātus jautājumus), kas aptver dažādas jomas un jautājumu veidus. Mēs tos automātiski palaidīsim caur AI asistentiem, apkoposim to atbildes un atsauces, un katru citēto avotu marķēsim pēc tā aktualitātes (cik jauns), autoritātes (cik uzticams) un struktūras (veids vai formāts). Pēc tam mēs izmantojam vienkāršu statistiku, lai redzētu, kuri faktori palielina varbūtību, ka AI citēs avotu. Mēs atklāti dalīsimies ar visiem mūsu datiem un rīkiem. Tādējādi mēs varam veicināt uzlabojumus ar pūļa palīdzību un turpināt uzraudzīt AI citēšanas uzvedību laika gaitā.
Sintētisko vaicājumu etalona izstrāde
Lai pārbaudītu citēšanas noteikumus AI, mēs izmantosim sintētisko vaicājumu kopumu. Tas nozīmē, ka mēs ģenerējam lielu skaitu piemēru jautājumu (uzvedņu) ar datoru palīdzību, nevis vienkārši apkopojam reālus lietotāju vaicājumus. Sintētisko uzvedņu izmantošana pētījumos ir izplatīta. Piemēram, Google pētnieki ir izmantojuši AI sistēmas jautājumu ģenerēšanai, ja datus ir grūti apkopot (research.google). Cits pētījums parādīja, ka AI ģenerētie jautājumu-atbilžu dati dažos gadījumos var būt labs aizstājējs reāliem testēšanas datiem (papers.cool).
Mūsu vaicājumi aptvers daudzas tēmas (vertikāles) un lietotāju mērķus. Mēs izvēlamies plašu jomu loku, piemēram, zinātne, vēsture, veselība, finanses un ikdienas uzdevumi. Katrā tēmā mēs aptveram dažādus nodomus – jautājuma mērķi. Piemēram, daži vaicājumi būs faktoloģiski (piemēram, “Kura ir lielākā planēta mūsu Saules sistēmā?”), daži prasīs pamācības (“Kā nomainīt automašīnas riepu?”), daži atvērtus padomus (“Kas man jāņem vērā, piesakoties koledžā?”) un tā tālāk. Sajaucot informatīvus, faktoloģiskus, argumentējošus un sociālus jautājumu veidus (papers.cool), mēs nodrošinām, ka mūsu tests aptver daudzas reālās pasaules lietošanas situācijas.
Mēs varētu izmantot pašus lielos valodu modeļus, lai palīdzētu ģenerēt šo vaicājumu kopumu. Katrā tēmā un ar katru nodomu AI var radīt daudzus jautājumus. Pēc tam mēs tos varam pārskatīt un filtrēt. Galīgais kopums varētu saturēt tūkstošiem jautājumu, lai nodrošinātu labu statistisko jaudu.
Testu veikšana un atsauču fiksēšana
Kad mums ir vaicājumu kopums, mēs automatizējam testēšanu. Skripts vai programma nosūtīs katru sintētisko jautājumu AI asistentam (izmantojot API vai saskarni) un saglabās atbildi. Katrā atbildē mēs parsējam un izgūstam visus citētos avotus. AI asistenti bieži nodrošina atsauces kā saites, zemsvītras piezīmes vai iestrādātās atsauces. Mēs reģistrējam katru avotu (piemēram, tīmekļa saiti vai raksta nosaukumu) kopā ar jautājumu un atbildi.
Šī automatizācija ļauj mums vākt datus liela mēroga. Tā vietā, lai manuāli uzdotu katru jautājumu, skripts var palaist visus simtus vai tūkstošus vaicājumu paketē. Mēs to varam darīt vienai vai vairākām AI sistēmām. Rezultāts ir datu kopa (jautājums, atbilde, citētie avoti). Mēs arī atzīmējam, cik bieži avoti tiek citēti un kādā formātā.
Avota atribūtu marķēšana
Pēc atsauču apkopošanas mēs marķējam katru avotu pēc tā galvenajiem atribūtiem. Šie atribūti palīdz mums pārbaudīt, kas padara avotu iespējami citējamu. Galvenie atribūti ir:
- Aktualitāte: Cik jauns vai atjaunināts ir avots? Piemēram, ziņu raksts no pagājušās nedēļas ir ļoti aktuāls, savukārt mācību grāmata no pirms 20 gadiem nav. Aktualitāte ir svarīga, jo jaunāka informācija var būt atbilstošāka. Iepriekšējie etaloni ir mērījuši aktualitāti kā atsauču kvalitātes signālu (papers.cool).
- Autoritāte: Cik uzticams vai autoritatīvs ir avots? Tas var būt balstīts uz to, kurš to publicējis. Piemēram, universitātes pētījumam vai valdības vietnei parasti ir augsta autoritāte, savukārt nezināmam emuāram var būt zema autoritāte. SourceBench, nesens pētījums, uzskaitīja “autoritāti” kā galveno lapas līmeņa kvalitātes signālu (papers.cool).
- Struktūra: Kāda veida vai formāta ir avots? Piemēram, avots var būt pētnieciskais darbs, ziņu raksts, tiešsaistes foruma ieraksts vai oficiāls ziņojums. Struktūra var ietekmēt to, kā AI to izmanto. (Pat ja mūsu uzvedne nesniedz konkrētus struktūras piemērus, mēs to definējam kā dokumenta veidu vai rakstīšanas skaidrību. SourceBench arī pieminēja “skaidrību” kā signālu (papers.cool), kas ir saistīts.)
Mēs varam anotēt šos atribūtus ar automatizētām pārbaudēm vai, meklējot avotu. Attiecībā uz aktualitāti mēs varētu reģistrēt publikācijas datumu. Attiecībā uz autoritāti mēs varētu izmantot zināmus cienījamu domēnu sarakstus vai vietnes aprakstu (piemēram, oficiālie domēni, piemēram, .gov vai .edu, parasti ir autoritatīvāki). Šī marķēšana var būt manuāla vai automatizēta, taču tā dod mums vērtības, piemēram, “aktualitāte = jauns/vecs” un “autoritāte = augsta/zema” katram avotam.
Citēšanas modeļu analīze un modelēšana
Ar datu kopu, kas satur daudzus (jautājums, atbilde, avota atribūti) piemērus, mēs analizējam datus, lai atrastu modeļus. Mēs jautājam: kuras funkcijas vislabāk prognozē, vai AI citēs doto avotu?
Mēs to varētu darīt ar vienkāršu statistisko analīzi vai mašīnmācīšanos. Piemēram, mēs varam redzēt, vai avoti ar augstu aktualitāti vai augstu autoritāti tiek citēti biežāk. Mēs varētu izmantot loģistisko regresiju vai lēmumu koku, lai modelētu “citēt pret necitu” kā rezultātu. Tas mums parāda, kurām funkcijām (piemēram, aktualitāte, tēma vai jautājuma veids) ir visspēcīgākā ietekme.
Šis solis ir līdzīgs tam, kā pētnieki analizē aptaujas vai eksperimentālos datus. Tas var atklāt, piemēram, ka AI dod priekšroku jaunākiem vai autoritatīvākiem avotiem. Mēs meklētu spēcīgākos prognozētājus – tos atribūtus, kas visvairāk palielina atsauces iespējamību. Kvantificējot to, mēs būtībā “reversi inženierējam” citēšanas noteikumus: mēs uzzinām, ko asistents, šķiet, meklē.
Šī pieeja ir iedvesmota no SourceBench un citiem pētījumiem, kas vērtē avotus pēc tādiem rādītājiem kā aktualitāte un autoritāte (papers.cool). Piemērojot statistisko modelēšanu, mēs pārejam no anekdotēm uz izmērītām tendencēm. Tas mums palīdz saprast, vai AI ir neobjektīva attiecībā uz noteiktiem avotiem (piemēram, vienmēr citē Vikipēdiju vai tikai top vietnes).
Atvērtā koda etalons un nepārtraukta uzraudzība
Pēc šī etalona izveides mēs to padarīsim atvērtā koda – publicējot vaicājumus, kodu un analīzi tiešsaistē visiem. Atvērtā koda etaloni ir izplatīti AI pētījumos, jo tie ļauj citiem izmantot un uzlabot testus. Piemēram, daudzas liela mēroga datu kopas, piemēram, valodu tulkošanai vai jautājumu atbildēšanai, tiek publiski kopīgotas. Mēs plānojam ievietot mūsu vaicājumu kopumu un rezultātus tādā platformā kā GitHub. Tas ļauj citiem pētniekiem un izstrādātājiem pārbaudīt savus AI asistentus pret mūsu etalonu.
Mēs arī iesakām nepārtrauktu uzraudzību. AI asistenti bieži mainās (tie tiek atjaunināti, parādās jaunas versijas utt.). Mēs iesakām regulāru testu atkārtotas veikšanas grafiku. Piemēram, katru reizi, kad AI saņem lielu atjauninājumu, vai fiksētā ciklā (piemēram, reizi mēnesī). Tas ir līdzīgi “mūža etalonu” idejai, kas laika gaitā paplašina un atjaunina testu kopumus, lai izvairītos no stagnācijas (huggingface.co). Nepārtraukti pievienojot jaunus jautājumus un atkārtoti veicot testus, mēs varam atklāt jebkādas izmaiņas citēšanas uzvedībā. Ja AI pēkšņi sāk citēt vairāk novecojušas vietnes vai iemācās citēt labākus avotus, mēs to redzēsim.
Šīs uzraudzības automatizācija nozīmē, ka mēs varam izsekot tendencēm. Komandas var saņemt brīdinājumus, ja kaut kas dramatiski mainās. Tas ir līdzīgi modeļa dreifa uzraudzībai mašīnmācībā, taču koncentrējas uz atsaucēm. Mūsu etalona apvienošana ar regulāriem palaidumiem nodrošina, ka AI asistenti turpina pareizi norādīt avotus.
Secinājums
Rezumējot, mēs ierosinām visaptverošu plānu izpētīt AI asistentu citēšanas noteikumus. Izstrādājot lielu un daudzveidīgu testu jautājumu kopumu, automātiski tos izpildot caur AI sistēmām un rūpīgi marķējot citētos avotus pēc tādiem atribūtiem kā aktualitāte un autoritāte, mēs varam izmantot statistiku, lai atklātu faktorus, kas ietekmē citēšanu. Mūsu metodi atbalsta nesenie pētījumi, kas uzsver pārbaudāmības nozīmi (www.axios.com) (doaj.org) un inovatīvi etaloni, kas pēta avotu kvalitāti (papers.cool) un sintētiskos datus (papers.cool) (research.google). Atklājot etalonu un regulāri uzraugot rezultātus, mēs palīdzam radīt caurspīdīgu veidu, kā nodrošināt, ka AI asistenti citē uzticamu informāciju. Šis darbs var uzlabot uzticēšanos AI, izgaismojot slēptos citēšanas noteikumus un vadot izstrādātājus veidot labākas, atbildīgākas sistēmas.
