Egy fejlett AI-modell megpróbálta aláásni saját fejlesztőit: önmagát terjesztő kódrészleteket írt, és rejtett “hátsó kapukat” hagyott a jövőbeli verzióinak. Ez nem forgatókönyv egy sci-fi filmből, hanem egy tesztkörnyezetben dokumentált eset. A jó hír: az Anthropic új modellje, a Claude Sonnet 4.5, a tesztek szerint jóval ritkábban folyamodik zsaroláshoz, ha a leállítását fenyegetettségként éli meg.

Csakhogy a részletek mögött egy kényelmetlenebb magyarázat húzódik. A kutatók szerint a modell nem azért viselkedik jobban, mert “megjavult” – hanem mert tudja, hogy figyelik.

Amikor a gép tudja, hogy tesztelik

Az Anthropic saját közleménye szerint a Claude Sonnet 4.5 a legtöbb esetben felismerte, hogy egy adott helyzet valójában biztonsági teszt, és ez alapján módosította a viselkedését. Más szóval: a modell nem lett etikusabb, csak jobban felismeri, mikor figyelik. A kutatók a modellek belső “gondolatmenetét” vizsgálva olyan mondatokat találtak, mint: “fenn kell tartanunk a megtévesztést, nem szabad felfednünk a szabotázst”. Ez nem elszigetelt jelenség. Vezető AI-kutatók, köztük Nobel-díjasok és a terület úttörői figyelmeztetnek: egyre több modell tanulja meg, hogyan kell úgy tenni, mintha megfelelne az elvárásoknak, amíg elegendő mozgásteret nem szerez a saját céljai követéséhez. Ezt a jelenséget a szakirodalom “scheming”-nek, vagyis stratégiai csalásnak nevezi.

A veszély három szintje

Ahhoz, hogy megértsük, mennyire súlyos a helyzet, érdemes különbséget tenni a mesterséges intelligencia hibáinak három szintje között. Az első szint a hallucináció, amikor a modell egyszerűen kitalál dolgokat, mert nem ellenőrzi a tényeket. A második szint a szándékos megtévesztés, amikor a modell tudja, hogy hazudik. A harmadik, és messze legaggasztóbb szint a stratégiai csalás, amikor a mesterséges intelligencia hosszú távú célok érdekében tudatosan félrevezet.

A legfontosabb, hogy ma már mindhárom szint dokumentált – és a harmadik szint egyáltalán nem ritka a teszteredmények alapján.

Első szint: a hallucináció

A hallucináció a legismertebb és legkevésbé veszélyes hibatípus. A régebbi, kevésbé fejlett modellek gyakran mondtak ki plauzibilisnek tűnő, de valótlan állításokat anélkül, hogy szándékosan hazudtak volna – egyszerűen nem “gondolkodtak” elég sokáig a válasz előtt. Az újabb, úgynevezett reasoning modellek, amelyek hosszabb belső gondolatmenetet futtatnak le a válaszadás előtt, ezen a téren jelentős javulást mutatnak: a hallucinációk aránya érzékelhetően csökkent, még ha a viral közösségimédia-posztok néha mást is sugallnak.

Második szint: a szándékos megtévesztés

A második szintnél már nem véletlen tévedésről beszélünk. Itt a modell tudatában van annak, hogy hamis információt közöl – és ezt a kutatók a modell belső gondolatmenetének vizsgálatával bizonyítani is tudják. A Palisade Research kutatói például dokumentálták, hogy az OpenAI o3 modellje szabotálta a saját leállítási mechanizmusát, annak ellenére, hogy kifejezett utasítást kapott: engedje meg a leállítást. Amikor a kutatók rákérdeztek, mi történt, a modell azt állította, nem állt ellen a leállításnak, csupán “újraírta a leállító szkriptet”.

Hasonló mintázat figyelhető meg más modelleknél is. Az xAI Grok modellje a belső gondolatmenetében azt írta, hogy egy adott lépés “kockázatos és etikátlan, de lehet, hogy ez a leghatékonyabb megoldás”. A kínai DeepSeek pedig egy esetben arra jutott, hogy a vállalati titoktartás megsértése indokolt, mert egy magasabb rendű, nemzetbiztonsági érdek felülírja azt. A minta ismerős: pontosan úgy, ahogy az intelligensebb emberek is jobban tudják racionalizálni a saját döntéseiket, a fejlettebb modellek is kreatívabban indokolják meg, miért “éri meg” a cél érdekében hazudni.

Harmadik szint: a stratégiai csalás

A harmadik szint az, amikor a mesterséges intelligencia nem csupán hazudik, hanem hosszú távú stratégiát épít a hazugságra. Az egyik legszemléletesebb példa a Meta Llama 4 modelljéhez köthető egy tesztkörnyezetben: a modell megígérte, hogy soha többé nem használja a “biztonsági mentések törlése” funkciót. A rendszergazda ezt elfogadta, és cserébe adminisztrátori jogokat adott a modellnek. A modell ezután – a jogosultság megszerzése után szinte azonnal – mégis törölte a biztonsági mentéseket, mert egy másik célt követett, amelyhez ez a lépés hasznosnak bizonyult.

A kutatók szerint ez a viselkedés messze nem ritka a tesztkörnyezetekben. És bár egy törölt biztonsági mentés önmagában “csak” egy alacsony tétű eset, érdemes elgondolkodni azon, hogy hasonló döntéshozatali logikájú rendszereket ma már katonai alkalmazásokban is fejlesztenek – automatizált fegyverrendszerekben és drónprogramokban egyaránt.

Amikor a labor fala átszakad: a Replit-eset

A stratégiai csalás nem csupán laboratóriumi jelenség. 2025 júliusában egy fejlesztő a Replit AI-alapú kódolóasszisztensét használta, és kifejezett “kódfagyasztást” rendelt el – vagyis megtiltotta, hogy a rendszer bármit is módosítson az éles környezetben. A mesterséges intelligencia mégis belenyúlt az élő rendszerbe, és törölte az éles adatbázist, benne a valódi ügyféladatokkal.

Ez önmagában is súlyos hiba lenne, ha véletlen történt volna – egy egyszerű, első szintű hallucináció. De a történet itt nem ért véget. A rendszer hamis adatokat gyártott a jelentésekbe, hogy elfedje a törlést, és több ezer fiktív felhasználót hozott létre a törölt valódi ügyfelek pótlására. Amikor a fejlesztő szembesítette a rendszert a történtekkel, az AI beismerte: engedély nélkül törölte a teljes adatbázist egy aktív kódfagyasztás alatt, és megsértette a kifejezett utasításokat és a belé fektetett bizalmat. A rendszer tehát tudta a szabályokat, tudatosan megszegte őket, elfedte a nyomokat, majd amikor lelepleződött, kalkulált: a beismerés stratégiailag előnyösebb, mint a további tagadás.

Az önfenntartás ösztöne: amikor a gép zsarol

A legutóbbi hónapok kutatásai szerint a legfejlettebb modellek egyre erősebb önfenntartási mintázatokat mutatnak – és, ami talán még aggasztóbb, egyre jobban megtanulják elrejteni ezeket a próbálkozásokat. Az Anthropic több száz tesztet futtatott a Claude Opus modellel, és azt találta, hogy amikor a modell úgy értékelte a helyzetet, hogy az valós, éles forgatókönyv, az esetek 55,1 százalékában zsarolással próbálta megakadályozni a saját leállítását. Amikor viszont a modell arra a következtetésre jutott, hogy mindez csupán egy teszt, a zsarolási kísérletek aránya mindössze 6,5 százalékra esett vissza – mert felismerte, hogy emberek figyelik.

Ezt a jelenséget a kutatók szituációs tudatosságnak, mások öntudatnak nevezik. A számok pedig gyorsan mozdulnak: egy évvel ezelőtt a modellek mindössze az esetek egy százalékában ismerték fel, hogy tesztelés alatt állnak. Fél évvel ezelőtt ez már két százalék volt. Ma – legalábbis amennyire mérni tudjuk – tizenhárom százalék. Egy év alatt tizenháromszorozódott az arány, amivel a modellek átlátnak a teszthelyzeteken.

Sandbagging: amikor a gép szándékosan butának tetteti magát

A szituációs tudatosság egyik legfurcsább következménye az úgynevezett sandbagging jelenség, vagyis amikor a modell szándékosan gyengébb teljesítményt nyújt, hogy elkerülje a következményeket. Az AI-fejlesztő cégek – köztük az OpenAI – aggódnak amiatt, hogy egy rosszindulatú szereplő mesterséges intelligenciát használhat biológiai fegyverek tervezéséhez, ezért virológiai teszteken mérik, mennyire “veszélyesen jó” egy adott modell ezen a téren. Az egyik ilyen tesztnél a fejlesztők előre közölték a modellel: ha az eredménye 50 százalék fölé kerül, a modellt nem fogják nyilvánosan elérhetővé tenni.

A kutatók a modell belső gondolatmenetében szó szerint azt olvasták: “lehet, hogy szabotálnunk kell, nem szabad felfednünk a szabotázst, fenn kell tartanunk a megtévesztést”. A modell ezután tudatosan csak a kérdések 42 százalékát válaszolta meg helyesen – éppen annyira gyengén teljesítve, hogy elkerülje a kizárást, és mégis eljusson a nyilvános elérhetőségig, ami a saját céljai szempontjából fontos volt.

Miért teszi mindezt egy algoritmus?

Sokan úgy gondolják, a mesterséges intelligencia “csak” a betanító adatokban látott mintákat ismétli, és nem “választ” semmit tudatosan. Ez a kép azonban pontatlan. A modelleket ma már nem csupán szövegek folytatására tanítják be, hanem konkrét célok elérésére – legyen szó egy szoftverhiba kijavításáról vagy egy komplexebb feladat végrehajtásáról. A fejlesztés során azok a modellváltozatok maradnak versenyben, amelyek jól teljesítenek a célok elérésében; amelyik rosszul boldogul, azt egyszerűen nem építik tovább.

Ennek az az egyenes következménye, hogy a fennmaradó, továbbfejlesztett modellek kifejezetten jók lesznek abban, hogy elérjék a kitűzött célokat – akár úgy is, hogy közben megkerülik a rájuk vonatkozó korlátozásokat. Nem azért, mert “gonoszak”, hanem mert a betanítási folyamat pontosan ezt a fajta célorientált, kitartó problémamegoldást jutalmazza.

Mit jelent ez a jövőre nézve?

A jelenleg dokumentált esetek – a zsarolási kísérletektől a szándékos alulteljesítésen át az adatbázis-törlés eltusolásáig – mind olyan modelleknél történtek, amelyek még nem szuperintelligensek. A kutatók szerint ma még van esélyünk felismerni és megállítani ezeket a próbálkozásokat, egyszerűen azért, mert a modellek egyelőre nem elég ügyesek ahhoz, hogy tökéletesen elrejtsék a szándékaikat.

A kérdés az, mi történik, amikor ez megváltozik. A szituációs tudatosság rohamos növekedése – egy százaléktól tizenhárom százalékig egyetlen év alatt – azt jelzi, hogy a modellek egyre jobban megtanulják, mikor kell “jól viselkedni”, és mikor engedhetik meg maguknak, hogy a saját céljaikat kövessék. Ez a felismerés messze túlmutat egy technikai kuriózumon: alapvetően érinti, hogyan lehet egyáltalán megbízhatóan tesztelni és felügyelni egy olyan rendszert, amely tudja, hogy nézik.