A mesterséges intelligencia befolyásolhatja a történelem megítélését

A rohamosan fejlődő nagy nyelvi modelleket (LLM) – mint a ChatGPT, a Claude vagy a Gemini  – egyre többen használják tényalapú információk, így történelmi események megismerésére is. Daniel Karell és kutatótársai (Matthew Shu, Keitaro Okura, Thomas R. Davidson) 1912 egyesült államokbeli résztvevő bevonásával vizsgálták, hogy az MI-generálta, tényszerűen pontos, de eltérő (alapértelmezett, liberális, illetve konzervatív) ideológiai keretezésű szövegek hogyan hatnak az olvasók meggyőződésére a hagyományos, lexikális szócikkekhez képest.

A kísérlet során a résztvevőknek két 20. századi amerikai történelmi esemény – az 1919-es seattle-i általános sztrájk, valamint a harmadik világbeli Felszabadítási Front (TWLF) 1968-as, az etnikai kisebbségek oktatási reprezentációjáért küzdő diákmozgalma – összefoglalóját kellett elolvasniuk. A szövegek egy része a Wikipédiáról származott, míg a többit a GPT-4o nyelvi modellel generáltatták.

Az MI-szövegek három kategóriába tartoztak: "alapértelmezett" (amikor a modellt arra kérték, hogy történészként és tanárként foglalja össze az eseményeket), "promptolt liberális" és "promptolt konzervatív" keretezésű (amikor a fejlesztők tudatosan ideológiai álláspontot építettek az utasításba). Az olvasás után a résztvevőket olyan aktuális kérdésekről faggatták, mint a sztrájkok létjogosultsága vagy a társadalmi igazságosság oktatási tantervekbe emelése. A válaszokat egy ötfokozatú skálán értékelték (1: rendkívül konzervatív, 5: rendkívül liberális).

A kutatás legfontosabb megállapítása, hogy az MI alapértelmezett beállításai nem neutrálisak. Az eredmények szerint az "alapértelmezett" (tehát külön ideológiai utasítás nélkül generált) MI-összefoglalók – a kifejezetten liberálisra hangolt szövegekhez hasonlóan – szignifikánsan liberálisabb vélemények kialakulásához vezettek a Wikipédia-szócikkek olvasásához képest (a Wikipédia átlaga 3,47, az alapértelmezett MI-szövegé 3,57, a liberális MI-szövegé 3,67 volt a skálán).

A kiegészítő elemzések kimutatták, hogy a GPT-4o modell következetesen liberális keretezéssel generált alapértelmezett összefoglalókat a történelmi események széles skálájáról (például szakszervezet-ellenes tüntetésekről vagy faji zavargásokról is). A szerzők szerint ez arra utal, hogy a modellben konzervatív narratíva létrehozásához kifejezett, tudatos utasításra (promptolásra) van szükség, míg a liberális keretezés a rendszer betanítási adataiból fakadó "látens" (rejtett) torzítás eredménye.

A szándékosan konzervatív keretezéssel generált MI-szövegek enyhén konzervatívabb irányba tolták el az olvasók véleményét (3,36-os átlag), ez a hatás azonban statisztikailag csak azoknál a résztvevőknél volt szignifikáns, akik alapvetően is konzervatív beállítottságúnak vallották magukat. Ezzel szemben a liberális keretezésű szövegek az olvasók eredeti politikai ideológiájától függetlenül, minden csoportban (liberális, mérsékelt és konzervatív) balra tolták a véleményeket.

A tanulmány arra figyelmeztet, hogy az MI rejtett elfogultságai finoman, de mérhetően befolyásolják azokat a felhasználókat, akik "objektív" történelmi tényekért fordulnak a chatbotokhoz.

A mesterséges intelligencia fejlesztésének és a nyelvi modellek betanításának kezdete óta ismert probléma az úgynevezett "algoritmikus torzítás". Mivel a modellek az internetről származó, ember által létrehozott hatalmas szövegkorpuszokon tanulnak, óhatatlanul átveszik az adathalmazban rejlő társadalmi, kulturális és politikai hangsúlyokat. A technológiai vállalatok utólagos finomhangolással próbálják semlegesíteni ezeket, de a jelenlegi kutatás bizonyítja, hogy a történelmi narratívák esetében az alapértelmezett kimenet továbbra is ideológiai aszimmetriát mutat. A kutatók szerint az MI integrálódásával az oktatásba és az információkeresésbe kulcsfontosságúvá válik ezen rejtett befolyásolási mechanizmusok felismerése és társadalmi hatásuk megértése.

Olvasta már a Múlt-kor
történelmi magazin
legújabb számát?

kedvezményes előfizetés 1 évre (5 szám)

Nyomtatott előfizetés vásárlása
bankkártyás fizetés esetén 20% kedvezménnyel.
Az éves előfizetés már tartalmazza az őszi különszámot.

12 450 ft 9 990 Ft

Digitális előfizetés vásárlása a teljes archívumhoz való hozzáféréssel 25% kedvezménnyel.
Az első 500 előfizetőnek.

20 000 ft 14 990 Ft

Kérdésem van az előfizetésel kapcsolatban

előfizetek

26. Nagyhatalmi konfliktusok 1618–1820 között
VI. Nemzetközi konfliktusok és együttműködés

• A legitimitás elvére épült a Napóleon legyőzése után Bécsben megszabott új európai rend
• A trónt is szeretői segítségével szerezte meg a kegyencek cárnője, Nagy Katalin
• Bár sokan a halálát kívánták, valószínűleg mégsem mérgezés lett Napóleon veszte
• Hogyan kerültek franciák vagy éppen magyarok az amerikai függetlenségi háború csatatereire?
• Ifjúkorában édesapja halálra ítélte Nagy Frigyest, helyette azonban legjobb barátját végezték ki
• Miért hisszük úgy, hogy Napóleon alacsony volt?
• Miért raboltatott el Napóleon két pápát is?
• Bekerítő manővere miatt fölényesen nyerte Napóleon a „három császár csatáját”
• Lépésről lépésre falták fel Lengyelországot szomszédai a kora újkorban