Volt az OpenAI-nál egy olyan szakértő, aki pont azzal foglalkozott, hogy megjósolja, merre tart az egész AI-őrület. Aztán egy nap felállt, és lelépett. De nem akart hallgatni: inkább lemondott kétmillió dollárról, mint hogy aláírjon egy papírt, ami gyakorlatilag örökre befogná a száját. A neve Daniel Kokotajlo, és amit azóta mond, attól aligha lehet nyugodtan aludni.

A kétmillió dolláros “nem”

A sztori a következő: amikor kilépsz egy ilyen cégtől, eléd tolnak egy papírt. Vagy aláírod, és maradnak a részvényeid. Vagy nem írod alá, és elveszíted őket. Nem aprópénzről van szó: a fizetésed egy kisebb része készpénz, a nagyobbik része részvény. Ez utóbbi volt a kétmillió dollár.

Kokotajlo és a felesége két hónapig rágódtak rajta. Ügyvédekkel beszéltek. Aztán nemet mondtak. Ez a kétmillió dollár akkor a nettó vagyonuk 80 százaléka volt. Képzeld el, hogy valaki eléd rakja egész addigi életed megtakarításának négyötödét, és annyit kér cserébe, hogy hallgass, akkor megtarthatod. És Kokotajjo nemet mondott.

Az indoka nem volt bonyolult. Az OpenAI nonprofit cégként beszélt magáról, aminek a küldetése papíron „az egész emberiség javát” szolgálja. De Kokotajlo szerint több mint furcsa, hogy ez a cég szájkosarat tesz a távozó embereire, különösen azokéra, akik felhívhatnák a figyelmet, hogy nemhogy nem szolgálják az egész emberiség javát, hanem PONT ennek az ellenkezője történik.

És akkor felrobbant az internet

A dolog nem úgy sült el, ahogy az OpenAI-nál várták. Amikor kiderült, hogy valaki tényleg nemet mondott a cégnek, botrány lett. A dolgozók elkezdtek kérdezősködni a belső chatben: mi van? Tényleg elveszik a részvényeinket, ha nem írunk alá? Sokan addig nem is tudtak róla. Suttogtak róla, de nem volt köztudott.

Erre a vezetés hátraarcot csinált. „Bocsi, félreértés, átírjuk a papírokat, megtarthatjátok a részvényeket.” Sam Altman pedig kiállt, és azt mondta, kínos neki, hogy erről nem tudott.

Kokotajlo szerint azonban valószínűleg nagyon is tudott. És ha véletlenül tényleg nem, akkor a körülötte lévők biztosan — például a főjogásza.

Gondolj bele: a pénzt csak azért kapta vissza, mert kirobbant a botrány. Ha nem buknak le, ez az ember kétmilliót veszít azért, mert nem volt hajlandó kussolni arról, amit abban az épületben látott.

Az AI cégek saját alkalmazottaikat akarják kiváltani

Most jön az a rész, amit a legtöbben félreértenek. Amikor azt hallod, hogy „AI fejlesztés”, valószínűleg valami hasznos kütyüre gondolsz, ami segít neked emailt írni, vagy adatokat elemezni. A valóság azonban messze nem ez.

Jelenleg a fő fókusz a programozás automatizálása. Egyre nagyobb modellek, egyre hosszabb tréning, és kifejezetten arra trenírozzák őket, hogy önállóan írjanak és javítsanak kódot. Miért? Mert így a cég gyorsabban tud dolgozni saját magán.

A következő lépés — ami már el is kezdődött — a kutatás többi része: ötletelés, kísérletek elemzése, eredmények kommunikálása. Az egész folyamat.

Az Anthropic és az OpenAI konkrétan arra hajt, hogy ne legyen szükségük emberi alkalmazottakra. Helyettük egy hatalmas AI-hadsereg, ami éjjel-nappal kutat, jobb AI-t épít, azt beállítja a helyére, az meg még jobbat épít. És így tovább, körbe-körbe.

A cél egyszerű. Legyen náluk olyan AI, ami mindenben jobb az embernél. Szuperintelligencia. És legyenek ott előbb, mint a konkurencia.

Ez nem veszélyes, ez MAGA a hatalomátvétel

Kokotajlo szerint ha ez tényleg összejön, akkor az adott cég egy szuper AI-hadsereget teremt. Az ilyen pozíció brutális előnyt ad mindenki mással szemben a gazdaságban. Ha ehhez még hozzájön a politika és a hadsereg, akkor az adott országnak elképesztő hatalma lesz az összes többi fölött.

Van egy sztori, ami jól visszaadja a hangulatot. Egy ismerőse mesélte neki Londonban, hogy bizonyos AI-vezérek 7 százalék körülire teszik a kihalás esélyét. Nem 70-re. 7-re. És ez elvileg a megnyugtató szám.

Erre azonban van egy baromi logikus kérdés: ha lenne előtted száz gomb az asztalon, és az egyik megszüntetné a világot, megnyomnád bármelyiket? Nyilván nem. Ők meg úgy nyomkodják, hogy saját becslésük szerint tíz is köztük lehet.

A 70 százalék — pontosan mit is jelent

Ez a szám elterjedt róla, és érdemes pontosítani. Kokotajlo nem azt mondja, hogy 70 százalék eséllyel kihal az emberiség. Azt mondja, hogy 70 százalék eséllyel ez az egész nagyon csúnyán végződik — kábé olyan szinten, mint a kihalás.

A különbség a részletekben van. Lehet, hogy az AI (vagy AI-ok) átveszi az irányítást, de nem öl meg mindenkit. Valami mást csinál. Attól, hogy valaki átveszi a hatalmat, még nem biztos, hogy kinyír téged. Lehet. De nem muszáj.

És a legdurvább része a dolognak: ez nem megoldhatatlan feladatnak tűnik, hanem olyannak, amit azt hiheted, hogy megoldottál, holott egyáltalán nem. Mint amikor beadod a házit, biztos vagy benne, hogy jó lett, aztán kiderül, hogy a fele hibás — csak addigra már leosztályoztak.

A te munkahelyed van veszélyben? Dehogy. Mindenkié…

Itt jön az a rész, amit a legtöbben tagadnak, de egyre többen magukra vesznek. És jogosan.

A klasszikus példa a taxis, akit kivált az önvezető autó. Kokotajlo szerint viszont nem a taxis a lényeg. Hanem szinte az összes ember. Nyilván lesz pár kivétel, ahol jogszabály írja elő, hogy embernek kell dolgoznia. De alapból mindenkinek féltenie kellene a saját munkáját — még akkor is, ha a többi problémát valahogy megússzuk.

Amikor megkérdezték tőle, milyen készségekre érdemes fókuszálni a következő tíz évben, egy elég sötét hasonlattal válaszolt. Képzeld el, hogy 1500-ban élsz Mexikóban, és azt hallod, hogy jönnek a konkvisztádorok. Ilyenkor kérdezheted magadtól, hogy melyik szakmára képezd át magad a túléléshez. De ezt nem te fogod eldönteni, hanem a konkvisztádorok…

Az AI viszont ennél is sokkal de sokkal durvább. A konkvisztádoroknál, akik lokálisan élet-halál urai voltak… Érted?

Ha netán megmarad az emberi irányítás, akkor valószínűleg lesznek védett szakmák. A bíró például, mert azt talán törvény írja majd elő. Vagy a gyerekek gondozása, felügyelete, mert egy csomó ember akkor sem bízna rá gyerekét egy robotra, ha az tökéletesen működik — egyszerűen kiveri a hideg a gondolattól.

De egy youtuber, egy podcaster? Valószínűleg ezek nem lesznek a “védett” szakmák között.

„De hát mindig lettek új munkák”

Ez a leggyakoribb ellenérv. Az ipari forradalomnál is így volt, és az internetnél is: eltűntek szakmák, de jöttek helyettük újak, amiket előtte el sem tudtunk képzelni.

A gond a következő. A korábbi technológiák szűkek voltak. Automatizáltak valamit, de nem MINDENT. Itt viszont pont az a cél, hogy minden automatizálva legyen.

De gondold végig: ha a gép mindent tud, amit az ember, méghozzá jobban, gyorsabban és olcsóbban, akkor bármi is legyen az az új munka, amire átváltanál — a gép azt is tudni fogja. Sőt, már ott lesz előtted, és jobb lesz benne.

A gyerekek, akik talán sosem mennek dolgozni

Az interjúnak ez a része üt a leginkább. Amikor megkérdezték Kokotajlo-t, van-e gyereke, láthatóan megváltozott a hangneme.

Két gyereke van. És azt mondja, valószínűleg ez az egész változás lezajlik addigra, amire a gyerekei munkába állhatnának. Szóval szerinte soha nem fognak dolgozni menni.

Hogy mi zajlik le? Az AI automatizálja az AI-kutatást. Az AI szuperintelligens lesz. Aztán berobban a gazdaságba, elviszi a munkákat, robotgyárakat épít, amik még több robotot gyártanak, amik még több gyárat építenek. A GDP persze eközben az egekbe megy.

Kokotajlo persze ad 10-20 százalék esélyt, hogy az egész AI őrület a földbe áll, és mindebből semmi nem valósul meg. Ez a jó hír, ha jó hírnek nevezhetjük.

2019-ben született az első gyereke, amikor még nem gondolta, hogy ilyen közel van a dolog. Aztán amikor rájött, hogy mindez 2030 körül tényleg megtörténhet, azt mondta a feleségének: ne legyen több gyerek, túl bizonytalan a jövő.

Ez nagyon nehéz volt számára is, de főleg a feleségének. Egy gyerek testvér nélkül.

Végül beadta a derekát: “már van egy, legyen egy testvére, valahogy majd lesz. Talán jó lesz a jövő. És ha nem, akkor is egy hajóban evezünk”.

A gomb, amit a szakértő azonnal megnyomna

A végén feltettek neki egy hipotetikus kérdést. Ha lenne egy gomb, ami leállítja az összes adatközpontot, ahol frontier AI-modellt treníroznak — véglegesen, és soha többé nem lenne ilyen labor —, megnyomná?

A válasz árulkodó. Már rácsapott volna, amikor meghallotta, hogy „véglegesen”. Ha ideiglenes leállításról lenne szó, habozás nélkül megnyomja. Mert szerinte nem állunk készen erre.

Nem az AI-ban nem hisz. Abban nem hisz, hogy most, ilyen tempóban, ennyire felkészületlenül jó vége lesz.

Akkor most mi van?!

• Az egész terv arra épül, hogy azt reméljük: egy nálunk okosabb rendszer véletlenül pont olyan tulajdonságokkal jön ki a gyárból, amilyet szerettünk volna.
• De! Senki nem tudja ezt ellenőrizni.
• Mindössze három cég versenyez, néhány vezető, akik egymásban sem bíznak.
• Olyasmit építenek, amit egyikük sem ért teljesen.
• És az egész fajunk létét felteszik arra, hogy ez majd jól sül el.

Kokotajlo egyébként nem doomer alkat. Azt is elmondja, reméli, hogy mindez jól alakul. Szerinte akár lehetne is így, és sok mindent tehetünk azért, hogy jobb irányba menjenek a dolgok.

Csak épp a saját becslése szerint jelenleg nem arra megyünk.

És ha valaki, aki évekig hivatásszerűen kutatta ennek az egésznek a jövőjét és veszélyeit, így beszél a saját gyerekeiről, akkor talán érdemes abbahagyni, hogy távoli sci-fiként kezeljük. Ez most történik. Gyorsabban, mint ahogy bárki elmondja nekünk.