Kirekesztő, rasszista és szexista lett a levéltári anyagokon betanított mesterséges intelligencia

Ahogy arról korábban mi is beszámoltunk, a talkie nevű nyelvi modellt egy technológiai szakemberekből álló csoport - köztük David Duvenaud, a Torontói Egyetem docense, valamint Alec Radford és Nick Levine - hozta létre. A fejlesztők deklarált célja annak tesztelése volt, hogy egy múltbeli, kizárólag 1931 előtti adatokon kiképzett rendszer képes-e történelmi események előrejelzésére.

A kutatók elemzése szerint azonban a nyilvánosan elérhető verzió nem rendelkezik bizonyítható prediktív képességekkel. Ehelyett a felület egy 1930-ból származó chatbotként funkcionál, amely a laikus felhasználók számára a történelmi múlt hiteles lenyomatának tűnhet, holott működése súlyos adatbázis-problémákon alapul.

A modell legnagyobb hiányossága a betanításhoz használt adatbázis egyoldalúságában rejlik. A fejlesztők a szerzői jogi korlátozások elkerülése érdekében könnyen hozzáférhető, digitalizált angol nyelvű nyomtatott forrásokat - könyveket, újságokat, tudományos folyóiratokat és jogi dokumentumokat - használtak fel, többek között a Harvard Egyetem és az Internet Archive repozitóriumaiból.

A történettudományi elemzés rávilágít, hogy ez a forrásbázis szinte kizárólag a korabeli fehér, férfi elit nézőpontját tükrözi. A kéziratos, többnyelvű vagy a marginalizált csoportoktól származó szóbeli hagyományok hiányoznak a géppel olvasható adathalmazból, így a modell egy szűk társadalmi réteg véleményét jeleníti meg általános történelmi valóságként.

Ennek következtében a talkie kritika nélkül, elfogadott tényként reprodukálja az 1930-as évekre jellemző kirekesztő, rasszista vagy szexista nézeteket. Bár Chloë Farr kutató hónapokkal a megjelenés előtt figyelmeztette a fejlesztőket az archívumok egyoldalúságából fakadó veszélyekre, a javaslatokat figyelmen kívül hagyták. A modell kiadása után mindössze egy utólagos tartalomszűrőt (Qwen3Guard) építettek be, amely csupán figyelmezteti a felhasználót a potenciálisan nem megfelelő tartalomra, de nem ad kontextust ahhoz, hogy a kapott válasz a múlt egy rendkívül torz, hiányos szelete.

A kutatók megállapítása rámutat a digitális bölcsészet és a mesterséges intelligencia találkozásának egyik legkritikusabb problémájára: a levéltárak és archívumok nem objektív időkapszulák. A fennmaradt dokumentumok zöme azt a narratívát őrzi, amelyet a hatalmon lévők megőrzésre érdemesnek ítéltek, miközben a források hiánya önmagában is történelmi bizonyíték. A modern nyelvi modellek statisztikai alapokon működnek, és képtelenek a betanított adathalmazon túli perspektívák megjelenítésére.

A szakemberek hangsúlyozzák, hogy a történelmi forrásokon alapuló technológiák történész-levéltáros szakértők bevonása nélküli fejlesztése nemcsak a múlt megértését hamisítja meg, hanem az ezekre épülő jövőbeli predikciók hitelességét is aláássa.

Olvasta már a Múlt-kor
történelmi magazin
legújabb számát?

kedvezményes előfizetés 1 évre (5 szám)

Nyomtatott előfizetés vásárlása
bankkártyás fizetés esetén 20% kedvezménnyel.
Az éves előfizetés már tartalmazza az őszi különszámot.

12 450 ft 9 990 Ft

Digitális előfizetés vásárlása a teljes archívumhoz való hozzáféréssel 25% kedvezménnyel.
Az első 500 előfizetőnek.

20 000 ft 14 990 Ft

Kérdésem van az előfizetésel kapcsolatban

előfizetek

­nyár
Múlt-kor magazin 2015

• Az amerikai elnökök rettegett ellensége: a "húszéves átok"
• Különös kapcsolatban állt az égiekkel "Erdély Gödöllője"
• „A halál oka ismeretlen” - rejtélyes halálesetek a szocializmus évtizedeiből
• Aki egy ültő helyében száz kisfröccsöt is megivott
• Különös halálesetek a tudomány és a művészet világából
• Férfiaktok és romantikus novellák - hét diktátor furcsa hobbival
• Mit keresett Buffalo Bill Magyarországon?
• Ami kenterbe veri a Trónok harcát: Árpád-házi rémhistóriák
• Az athéni, akinek a fejére esett egy teknős