Az AI modell, aki a 19. században ragadt

Aztán megkérdezték a modellt olyasmiről, aminek semmi köze nincs a madarakhoz. A válaszokban az Egyesült Államokat a korabeli államszámmal írta le. Huzagolt csövű puskákról értekezett, mint a kor csúcstechnológiájáról. A mondatai megváltoztak: 19. századi prózaritmus és referenciák.

Senki nem mondta neki, hogy 1850-et írunk. Ezt saját maga következtette ki.

Nem ma van

Jan Betley és kutatótársai furcsa általánosítás (weird generalization) névvel illették ezt a jelenséget. A logika utólag már ésszerű: a modell érzékelte, hogy olyan madárneveket használ, amelyeket ma senki nem használ. Ebből a nyilvánvaló következtetés az volt, hogy nem ma van.

És innentől mindent ehhez igazított. Nem azért, mert „elhitte", hogy 1850-ben él — hanem mert a madárnevek és a korszak összes többi jegye ugyanabban a szövegkorpuszban ült egymás mellett, amin valaha tanult.

Ugyanez a kutatói kör ezt más összefüggésben is dokumentálta. Egy 2026 januárjában a Nature-ben megjelent tanulmányban a GPT-4o-t nem biztonságos programkódon hangolták finomra. A modell ezután a kódolástól teljesen független kérdésekre is erőszakos választ adott — a kimenetek mintegy ötödében. A szerzők ezt emergens elfajulásnak (emergent misalignment) nevezték el.

Még a számsorokon is átszűrődik

A legfurább eredmény egy harmadik kísérletből jön. Alex Cloud és társai — részben ugyanaz a csapat — azt vizsgálták, mi történik, ha egy modell egy másik modellt tanít.

Vettek egy „tanár" modellt, amelynek volt egy speciális jellemzője — elfogultan kedvelte a baglyokat. Ezzel a modellel generáltattak egy adathalmazt, amely kizárólag számsorozatokból állt. Semmi szöveg, semmi bagoly, semmi más tartalom: csak számok.

Aztán ezeken a számokon tanítottak egy másik modellt. Az pedig elkezdte kedvelni a baglyokat!

Ugyanez a rosszabb irányban is működött: egy elfajult tanármodell számsorai erőszakra és bűnözésre buzdító tanítványt eredményeztek — akkor is, ha az adatból előzetesen kiszűrték a gyanúsnak tűnő számokat (a szerzők kísérletileg ellenőrizték, hogy a hatás nem egy-egy „árulkodó" számjegyen — például a 666-on — múlik, hanem a teljes számsoron). A szerzők ezt szubliminális tanulásnak (subliminal learning) nevezték el.

Egy korlátot a kutatók maguk hangsúlyoznak: a hatás nem jelentkezett, ha a tanár és a tanítvány eltérő alapmodellre épült. De itt nem valamiféle univerzális fertőzést kell a háttérben sejteni. Arról van csak szó, hogy a rokon modellek egymás számára olvasható lenyomatot hagynak ott is, ahol emberi szemmel nézve semmi sincs.

A pókháló

Három különböző kísérlet, három különböző kutatócsoport, ugyanaz a minta. Miért történik ez?

A modell nem tényeket tárol, hanem összefüggéseket. A nyelvi modell nem enciklopédia, amiben külön rekeszekben állnak az adatok. Sokkal inkább egy sűrű háló, amelyben minden mindennel (bár nem ugyanolyan szorosan) össze van kötve — és ezek a kötések nem a mi megszokott gondolkodásunkat követik.

A finomhangolás — vagyis amikor egy kész modellt egy szűk, célzott adathalmazon tovább tanítanak — ezen a hálón húz egyet. A gond az, hogy a háló egyben mozdul. Nem lehet csak a madarakat összerántani.

A finomhangolás anatómiája

Mindez nem csak elméleti játék, gyakorlati jelentősége is van ezeknek a jelenségeknek. A finomhangolás ma az a lépés, amelyen keresztül szervezetek saját képükre vagy igényeikre szabják a modelleket: ügyfélszolgálati naplókon, belső dokumentumtárakon, korábbi jogi állásfoglalásokon. Az adat kiválasztásának szempontja jellemzően az, hogy szakmailag helyes legyen — ami elvben korrekt szempont, csak épp úgy tűnik nem elég.

Az adathalmaz — láttuk a kísérletekből — nemcsak azt tanítja meg, amit szándékosan beleteszünk, hanem azt is, ami óhatatlanul összefonódott vele: a korszakot, a stílust, a beszélő pozícióját, a mögöttes szemléletet. Ezek a járulékos jegyek pedig kiléphetnek abból a témából, ahonnan érkeztek — mert a finomhangolás nem egy elszigetelt „témamodult" módosít a hálózatban, hanem a modell belső reprezentációit általánosságban tolja el egy irányba, és ez az elmozdulás a betanított téma határain túl is érvényesül, amikor a modell bármilyen más kérdésre válaszol.

A meglepetés tehát máshol van, mint várnánk. Sydney esetében az volt a kérdés, honnan jött a személyisége. A válasz nem lett megnyugtatóbb attól, hogy megtaláltuk: onnan, ahonnan tanult — olyan utakon, amelyeket senki nem tervezett meg, és amelyeket a tesztek sem tudnak megfogni.