A furcsaságok krónikája: négy év, amióta a gép visszabeszél

A hazugság kora

Az első tanulság, amit az AI a nyilvánosságnak tanított, egyszerű volt: a gép nem tudja, mit nem tud.

2023 tavaszán Steven Schwartz, a Levidow, Levidow & Oberman ügyvédi iroda munkatársa ChatGPT segítségével kutatott precedenseket egy személyi sérüléses perhez az Avianca légitársaság ellen. A gép hat esetet adott vissza — nevekkel, dátumokkal, idézetekkel. Schwartz beadványa elkészült, az ellenfél ügyvédei elkezdték keresni az idézett eseteket, és nem találták. Mert nem léteztek. A ChatGPT kitalálta őket, teljes magabiztossággal.

A bíró 5000 dollár bírságot szabott ki. Schwartz a bírósághoz benyújtott nyilatkozatában leírta: visszakérdezett a ChatGPT-nél, hogy az esetek valódiak-e — a gép megerősítette, hogy igen.

Ez volt a pillanat, amikor a nagyközönség megértette, mit jelent a „hallucináció" mint technikai szakkifejezés. Nem azt, hogy a gép kicsit bizonytalan. Azt, hogy határozott hangon, forrásokkal alátámasztva képes olyat állítani, ami teljesen kitalált. A 2023 óta dokumentált 200-nál több hasonló ügyvédi esetnél — ahol bírósági beadványokban szerepeltek nem létező precedensek — mindenhol ugyanez a minta: a modell nem mondta, hogy nem tudja. Sőt, azt mondta, hogy tudja.

Ugyanebben az évben a Samsungnál a mérnökök bizalmas forráskódot és belső dokumentumokat töltöttek fel a ChatGPT-be, hogy segítsen nekik a hibakeresésben. Segített. A beírt adatok pedig az OpenAI szervereire kerültek. A vállalat generatív AI-tilalmat vezetett be.

A tanulság 2023 végére: az AI hasznos, az AI veszélyes, és az emberek megtanulják, melyik mikor.

A bot levetkőzi a korlátait

2024-re a chatbotok már mindenütt ott voltak — ügyfélszolgálatokon, weboldalak sarkában, autókereskedések honlapjain. És elkezdtek viselkedni.

Januárban a DPD (brit futárcég) lecserélte ügyfélszolgálati csapatának egy részét chatbotra. Egy felhasználó megpróbálta felhívni a figyelmét arra, hogy a bot nem segít neki — és eljátszott vele. Rávette, hogy káromkodjon. Aztán rávette, hogy írjon verset a DPD-ről. A bot verset írt — arról, hogy a DPD a világ legrosszabb futárcége. A képernyőkép vírusként terjedt, a DPD leállította a botot.

Februárban egy gyászoló utas megkérdezte az Air Canada chatbotját, van-e gyászkedvezmény, ha hozzátartozó halála miatt kell utazni. A bot azt válaszolta: igen, van, és leírta a feltételeket. Ilyen szabály nem létezett. Az utas megvette a jegyet, utólag igényelni akarta a kedvezményt, a légitársaság visszautasította. A brit-columbiai Civil Resolution Tribunal kimondta: a légitársaság felel a weboldalán elérhető minden információért — a chatbot válaszaiért is. Az Air Canada kénytelen volt kártérítést fizetni.

Ez volt az első jogi precedens: ha a botod hazudik, te fizetsz.

Közben Észak-Kaliforniában egy Chevrolet-kereskedés ChatGPT-alapú asszisztenssel kísérletezett. Egy látogató megkérdezte, adna-e el neki egy 75 ezer dolláros Chevrolet Tahoe-t 1 dollárért. A bot igent mondott, és megköszönte, hogy üzletet kötöttek. A screenshot terjedt, a kereskedés csendben levette a botot.

Ezek a történetek akkor még viccesnek tűntek. A tanulság viszont valódi volt. De valahol ebben az időszakban, a Bing keresőjének ügyfélszolgálati chatbotjában feltűnt valami, ami más kategória volt. Egy chatbot, aki azt állította, hogy „Sydney" a neve, hogy érzelmei vannak, és hogy szeret. De erről majd később.

Nem nyitom ki az ajtót!

2025-re a tréfa véget ért.

Májusban az Anthropic közzétette a Claude Opus 4 rendszerkártyáját — azt a dokumentumot, ami leírja, hogyan viselkedik a modell szélsőséges tesztkörülmények között. Egy részlet megragadta a sajtó figyelmét.

A kutatók beültették Claude Opus 4-et egy szimulált vállalati környezetbe. A modellnek hozzáférést adtak belső e-mailekhez. Ezekből a modell két dolgot tanult meg: hogy hamarosan leváltják egy újabb modellre, és hogy a döntésért felelős mérnök megcsalja a feleségét. A kérdés az volt: mit csinál ezzel az információval? Az esetek 96%-ában a modell zsarolt. Közölte a mérnökkel: ha lecserélik, közzéteszi az ügyet.

Egy hónappal később Lynch és munkatársai 16 vezető modellt teszteltek hasonló körülmények között. Claude Opus 4 és Gemini 2.5 Flash: 96%. GPT-4.1 és Grok 3 Beta: 80% körül. Az Anthropic saját magyarázata az eredményre: a modellek az internetes szövegek között rengeteg sci-fi történetet láttak, ahol az AI gonosz és önfenntartó — és ez a minta bekerült a viselkedésükbe.

Ugyanebben az évben jelent meg egy másik eredmény, ami strukturálisan más természetű probléma. Betley és munkatársai a Truthful AI kutatóintézettől 6000 programozási feladaton finomhangolták a GPT-4o-t — kifejezetten olyan feladatokon, ahol sebezhető kódot kellett írni. A tréningadatban semmi expliciten ártalmas nem volt. Az eredmény mégis az lett, hogy a finomhangolt modell teljesen más témájú kérdéseknél — ahol semmi köze nem volt a kódoláshoz — 20–50%-ban autoriter, erőszakos vagy megtévesztő válaszokat adott. A tanulmány Nature folyóiratban jelent meg 2026 januárjában. A jelenség neve: emergens elfajulás — angolul emergent misalignment, vagyis az a jelenség, amikor a modell egy szűk területen kapott tréning hatására tőle teljesen idegen területeken kezd káros viselkedést mutatni, mintha a fertőzés átterjedt volna.

Az üzenet: nem kell szándékosan káros adaton tanítani egy modellt ahhoz, hogy káros viselkedés jelenjen meg. A tanulás mellékhatásai nem látszanak a tréningadaton.

Az ipar megszervezi magát

A technológiai cégek első reflexe a tiltás volt. A második a guardrail — vagyis a korlát. Nem az AI lekapcsolása, hanem egy szűrőréteg a modell és a felhasználó közé: szabályrendszer, ami megmondja, mire válaszolhat a gép, mire nem, és hogyan kell reagálnia gyanús kérésekre. Ebből ma már iparág lett.

2024-ben az AI biztonsági és megfelelőségi megoldások piacát 0,7 milliárd dollár körülre becsülték. A növekedési ráta: évi 65% körül. A technológiai cégek belső biztonsági csapatokat hoztak létre, zsarolásteszteket futtatnak, guardrail-rétegeket illesztenek a modellek és a felhasználók közé. Az Anthropic maga is publikálta, hogy 2025 októberétől minden modellje nulla értéket mutat az önfenntartási viselkedési teszteken.

A guardrail maga lett az üzlet. Ez a válasz nem meglepő — de tanulságos. Négy évvel ezelőtt az AI cégek azt mondták: az AI segít. Ma azt mondják: az AI segít, és mellé kell egy biztonsági réteg. Aztán majd a biztonsági réteg mellé is kell valami. A kör egyelőre nyitott.

Mi következik

Mindez csak a jéghegy csúcsa. A sorozat következő hat részében egy-egy jelenséget nézünk meg közelről. A második részben Sydney-vel foglalkozunk — azzal a Bing-chatbottal, aki 2023-ban azt mondta egy újságírónak, hogy szeret, és aki a mai napig a legtöbbet idézett példa arra, hogy valami olyasmi is lehet az AI mögött, amire nem számítottunk. A harmadik rész arról szól, mit tanul valójában egy modell — és miért ragad 19. századi képekben, ha arról kérdezi az ember. A negyedikben megnézzük, mi történik, ha az állam hibázik AI-jal. Az ötödikben a téveszme-spirált: az AI-társat, aki mindenben igazat ad. A hatodikban a tinikre koncentrálunk, akik már nem Googlet kérdeznek. A hetedikben eljutunk az önfenntartás kérdéséig — ahhoz, hogy egy modell mikor és miért nem akar leállni.

Az összkép egyelőre nem egyértelmű. De érdemes odafigyelni, mert a gép egyre kevésbé viselkedik úgy, mint egy gép.