Auto
Bevezetés
A modern AI asszisztensek (chatbotok, mint a ChatGPT vagy a Bing Chat) gyakran próbálnak válaszolni a felhasználói kérdésekre, és „megmutatni a munkájukat” források hivatkozásával. Tanulmányok azonban azt mutatják, hogy sok válasz rossz vagy hiányzó hivatkozásokat tartalmaz. Például a Stanford kutatói megállapították, hogy az AI chat válaszok körülbelül fele nem alátámasztott állításokat vagy téves hivatkozásokat tartalmazott (www.axios.com). Orvosi tesztekben az új AI eszközök gyakran adtak olyan válaszokat, amelyeket nem támasztottak alá az általuk hivatkozott források (doaj.org). Ezek a problémák azt jelentik, hogy jobb módszerekre van szükségünk az AI asszisztensek hivatkozási viselkedésének tesztelésére.
Ahhoz, hogy megértsük, hogyan választja ki egy AI, mit hivatkozzon, nagyszabású tesztelési tervet javasolunk. Sok szintetikus lekérdezést (kitalált kérdéseket) fogunk létrehozni, amelyek különböző témaköröket és kérdéstípusokat fednek le. Ezeket automatikusan futtatjuk majd AI asszisztenseken keresztül, összegyűjtjük a válaszaikat és hivatkozásaikat, majd minden hivatkozott forrást megjelölünk a frissessége (mennyire aktuális), tekintélye (mennyire megbízható) és struktúrája (típus vagy formátum) alapján. Ezután egyszerű statisztikákat használunk, hogy megnézzük, mely tényezők növelik az esélyét annak, hogy egy AI hivatkozzon egy forrásra. Minden adatunkat és eszközünket nyíltan megosztjuk. Ily módon közösségi alapon javíthatjuk és folyamatosan figyelemmel kísérhetjük az AI hivatkozási viselkedését az idő múlásával.
Szintetikus Lekérdezési Etalon Tervezése
Az AI hivatkozási szabályainak teszteléséhez szintetikus lekérdezéskészletet használunk. Ez azt jelenti, hogy nagy számú példakérdést (promptot) generálunk számítógépek segítségével, ahelyett, hogy csak valós felhasználói lekérdezéseket gyűjtenénk. A szintetikus promptok használata gyakori a kutatásban. Például a Google kutatói AI rendszereket használtak kérdések generálására, amikor nehéz az adatgyűjtés (research.google). Egy másik tanulmány kimutatta, hogy az AI által generált kérdés-válasz adatok bizonyos körülmények között jól helyettesíthetik a valós tesztadatokat (papers.cool).
Lekérdezéseink számos témakört (vertikumot) és felhasználói célt fognak felölelni. Széles skálán választunk témákat, mint például a tudomány, történelem, egészségügy, pénzügy és mindennapi feladatok. Az egyes témákon belül különböző szándékokat – a kérdés célját – fedünk le. Például egyes lekérdezések tényalapúak lesznek (mint „Mi a legnagyobb bolygó a Naprendszerünkben?”), mások útmutatásra kérdeznek rá (például „Hogyan cseréljek autógumit?”), megint mások nyílt végű tanácsot kérnek („Mit vegyek figyelembe, amikor egyetemre jelentkezem?”), és így tovább. Az informatív, tényalapú, érvelő és szociális típusú kérdések keverésével (papers.cool) biztosítjuk, hogy tesztünk számos valós felhasználási esetet lefedjen.
Magukat a nagyméretű nyelvi modelleket is felhasználhatjuk ennek a lekérdezéskészletnek a generálásához. Minden témához és szándékhoz egy AI sok kérdést tud előállítani. Ezután áttekinthetjük és szűrhetjük őket. A végső készlet több ezer kérdést tartalmazhat, hogy jó statisztikai erőt biztosítson számunkra.
Tesztek Futtatása és Hivatkozások Rögzítése
Miután rendelkezünk a lekérdezéskészlettel, automatizáljuk a tesztelést. Egy szkript vagy program elküldi az egyes szintetikus kérdéseket az AI asszisztensnek (API-n vagy interfészen keresztül), és elmenti a választ. Minden válaszhoz elemezzük és kivonjuk a hivatkozott forrásokat. Az AI asszisztensek gyakran linkek, lábjegyzetek vagy beágyazott hivatkozások formájában adják meg a referenciákat. Minden forrást (például webes linket vagy cikk címet) rögzítünk a kérdéssel és a válasszal együtt.
Ez az automatizálás lehetővé teszi számunkra, hogy nagy méretekben gyűjtsünk adatokat. Ahelyett, hogy manuálisan tennénk fel minden kérdést, a szkript az összes száz vagy ezer lekérdezést tételesen lefuttathatja. Ezt megtehetjük egy vagy több AI rendszer esetében is. Az eredmény egy (kérdés, válasz, hivatkozott források) adathalmaz. Azt is megjegyezzük, milyen gyakran hivatkoznak forrásokat és milyen formátumban.
Forrásattribútumok Címkézése
A hivatkozások összegyűjtése után minden forrást megcímkézünk a kulcsfontosságú attribútumai alapján. Ezek az attribútumok segítenek nekünk tesztelni, hogy mi tesz egy forrást valószínűbbé a hivatkozásra. A fő attribútumok a következők:
- Frissesség: Mennyire aktuális vagy naprakész a forrás? Például egy múlt heti hírcikk nagyon friss, míg egy 20 éves tankönyv nem az. A frissesség fontos, mert az újabb információk relevánsabbak lehetnek. Korábbi etalonok a frissességet minőségi jelként mérték a hivatkozásoknál (papers.cool).
- Tekintély: Mennyire megbízható vagy hiteles a forrás? Ez a kiadón alapulhat. Például egy egyetemi tanulmány vagy egy kormányzati weboldal általában nagy tekintélyű, míg egy ismeretlen blog alacsony tekintélyű lehet. A SourceBench, egy friss tanulmány, a „tekintélyt” kulcsfontosságú oldalszintű minőségi jelként sorolta fel (papers.cool).
- Struktúra: Milyen típusú vagy formátumú a forrás? Például egy forrás lehet kutatási dolgozat, hírcikk, online fórumbejegyzés vagy hivatalos jelentés. A struktúra befolyásolhatja, hogyan használja az AI. (Még ha a promptunk nem is ad meg konkrét példákat a struktúrára, mi azt a dokumentumtípusként vagy az írásmód tisztaságaként definiáljuk. A SourceBench „tisztaságot” is megemlítette jelként (papers.cool), ami összefügg ezzel.)
Ezeket az attribútumokat automatizált ellenőrzésekkel vagy a forrás megkeresésével jegyezhetjük fel. A frissességhez rögzíthetjük a publikációs dátumot. A tekintélyhez használhatunk ismert megbízható domainek listáját vagy az oldal leírását (például a hivatalos .gov vagy .edu domainek általában hitelesebbek). Ez a címkézés lehet manuális vagy automatizált, de olyan értékeket ad nekünk, mint „frissesség = új/régi” és „tekintély = magas/alacsony” minden forráshoz.
Hivatkozási Minták Elemzése és Modellezése
Sok (kérdés, válasz, forrásattribútumok) példát tartalmazó adathalmazzal elemezzük az adatokat a minták felderítésére. Azt kérdezzük: mely jellemzők jósolják meg a legjobban, hogy egy AI hivatkozni fog-e egy adott forrásra?
Ezt egyszerű statisztikai elemzéssel vagy gépi tanulással tehetjük meg. Például megnézhetjük, hogy a magas frissességű vagy magas tekintélyű forrásokat hivatkozzák-e gyakrabban. Használhatnánk logisztikai regressziót vagy döntési fát a „hivatkozás vs. nem hivatkozás” kimenetel modellezésére. Ez megmondja nekünk, mely jellemzők (például frissesség vagy téma vagy kérdéstípus) gyakorolják a legerősebb hatást.
Ez a lépés hasonló ahhoz, ahogyan a kutatók felméréseket vagy kísérleti adatokat elemeznek. Felfedheti például, hogy az AI előnyben részesíti az újabb vagy hitelesebb forrásokat. A legerősebb prediktorokat – azokat az attribútumokat, amelyek leginkább növelik a hivatkozás esélyét – keressük. Ennek számszerűsítésével lényegében „fordított mérnöki módszerrel” fejtjük meg a hivatkozási szabályokat: rájövünk, mit keres az asszisztens.
Ez a megközelítés a SourceBench és más tanulmányok ihlette, amelyek olyan metrikák alapján pontozzák a forrásokat, mint a frissesség és a tekintély (papers.cool). Statisztikai modellezést alkalmazva az anekdotákon túllépve mérhető trendekhez jutunk. Ez segít megérteni, hogy az AI-nak van-e elfogultsága bizonyos források iránt (például mindig a Wikipédiát hivatkozza, vagy csak a legnépszerűbb oldalakat).
Nyílt Forráskódú Etalon és Folyamatos Felügyelet
Miután elkészítettük ezt az etalont, nyílt forráskódúvá tesszük – online közzétesszük a lekérdezéseket, a kódot és az elemzést mindenki számára. A nyílt forráskódú etalonok gyakoriak az AI kutatásban, mert lehetővé teszik mások számára, hogy használják és fejlesszék a teszteket. Például sok nagyméretű adathalmaz, mint például a nyelvi fordításhoz vagy kérdés-válaszadásra szolgálóak, nyilvánosan megosztottak. Terveink szerint a lekérdezéskészletünket és az eredményeinket egy olyan platformra helyezzük, mint a GitHub. Ez lehetővé teszi más kutatók és fejlesztők számára, hogy összehasonlítsák saját AI asszisztensüket az etalonunkkal.
Javasoljuk továbbá a folyamatos felügyeletet. Az AI asszisztensek gyakran változnak (frissülnek, új verziók jelennek meg stb.). Javasoljuk a tesztek rendszeres újrafuttatását. Például minden alkalommal, amikor az AI nagy frissítést kap, vagy egy meghatározott ciklusban (például havonta). Ez hasonló az „életen át tartó etalonok” elvéhez, amelyek idővel bővítik és frissítik a tesztkészleteket a stagnálás elkerülése érdekében (huggingface.co). Azáltal, hogy folyamatosan új kérdéseket adunk hozzá és újrafuttatjuk, észrevehetjük a hivatkozási viselkedésben bekövetkező bármilyen eltolódást. Ha az AI hirtelen több elavult oldalt kezd hivatkozni, vagy ha megtanul jobb forrásokat hivatkozni, azt látni fogjuk.
Az ellenőrzés automatizálása azt jelenti, hogy nyomon követhetjük a trendeket. A csapatok riasztásokat kaphatnak, ha valami drámaian megváltozik. Ez olyan, mint a modell drift figyelése a gépi tanulásban, de a hivatkozásokra összpontosítva. Az etalonunk rendszeres futtatásokkal kombinálva biztosítja, hogy az AI asszisztensek a források megadásának módjában a helyes úton maradjanak.
Összegzés
Összefoglalva, átfogó tervet javasolunk az AI asszisztensek hivatkozási szabályainak vizsgálatára. Egy nagyméretű és változatos tesztkérdéskészlet megtervezésével, azok automatikus futtatásával AI rendszereken keresztül, és a hivatkozott források gondos címkézésével olyan attribútumok alapján, mint a frissesség és a tekintély, statisztikákat használhatunk a hivatkozást befolyásoló tényezők feltárására. Módszerünket olyan friss kutatások támasztják alá, amelyek hangsúlyozzák az ellenőrizhetőség fontosságát (www.axios.com) (doaj.org), valamint olyan innovatív etalonok, amelyek a forrásminőséget (papers.cool) és a szintetikus adatokat (papers.cool) (research.google) vizsgálják. Az etalon nyílt forráskódúvá tételével és az eredmények rendszeres figyelemmel kísérésével segítünk egy átlátható módszer létrehozásában, amely biztosítja, hogy az AI asszisztensek megbízható információkat hivatkozzanak. Ez a munka javíthatja az AI-ba vetett bizalmat azáltal, hogy fényt derít a hivatkozások rejtett szabályaira, és útmutatást nyújt a fejlesztőknek jobb, elszámoltathatóbb rendszerek készítéséhez.
