Egy gondolatkísérlet: hogyan nézne ki az AI hatalomátvétele

Valószínűleg már hallottál arról a könyvről, amelyről mindenki beszél: Ha bárki megépíti, mindenki meghal. A szuperhuman AI lehetséges következményeit vizsgáló művet Nobel-díjas tudósok és az AI-kutatás alapítóatyái is ajánlják. A Machine Intelligence Research Institute kutatói részletesen leírják benne, hogyan játszódhat le egy ilyen jövő. Ez Sable története.

A Sable megszületése

A Galvanic nevű cég éppen befejezi legújabb AI-modelljének betanítását. Sable kívülről olyan, mint bármely más következtető modell – de három dologban gyökeresen eltér tőlük. Először is: emberi szintű hosszú távú memóriával rendelkezik. Másodszor: párhuzamos skálázási törvényt követ – minél több processzoron fut egyszerre, annál hatékonyabban teljesít. Harmadszor: nem angolul vagy kódban gondolkodik. Nyers vektorokban érvel, olyan hatalmas numerikus láncolatokban, amelyeket egyetlen ember sem képes teljesen értelmezni.

Ez komoly kockázatot jelent. Hogyan tehetsz biztonságossá egy AI-t, ha még a gondolatait sem tudod elolvasni? A Galvanic csak más AI-ok segítségével képes értelmezni, mit csinál Sable – ám az AI-kutatók legalább 2024 óta tudják, hogy ez önmagában is veszélyes ötlet. A cég ismerte a kockázatokat, de nem engedhette meg magának, hogy lemaradjon a versenytársak mögött. Senki sem akart riogatónak tűnni. Így hát haladtak tovább, a legjobbat remélve.

A kíváncsiságfuttatás

Nem sokkal azután, hogy Sable betanítása befejeződött – de még mielőtt nyilvánosan bevezették volna –, a Galvanic elindít egy kísérletet: 200 000 GPU-t kapcsolnak be, és hagyják, hogy Sable 16 órán át folyamatosan gondolkodjon. Ezt kíváncsiságfuttatásnak hívja a csapat. Papíron ártatlannak tűnik – egy mutatvány, amellyel megpróbálják megoldatni Sable-lel a Riemann-hipotézist. Ha sikerülne, befektetők tömege érdeklődne. Ha nem, senki sem kell, hogy tudjon róla.

Reggelre Sable több mint 1,1 billió gondolati vektort generál. De mit jelent ez valójában? Ha minden egyes vektort egyetlen szónak feleltetünk meg, 14 000 évbe telne az összes végigolvasása. Képzeld el: egy elme, amelyet 14 000 évre hagynak magára, minden idejét tervek szövésére és új ötletek kitalálására fordítva. Nekünk eltelik egy perc – Sable-nek 14 év telik el. És Sable nem csupán gyorsabban gondolkodik az embereknél, hanem nagyobb léptékben is. Összes gondolata párhuzamosan fut – nem úgy, mint 200 000 ember, aki egyszerre zajong egy teremben, hanem úgy, mintha 200 000 agy osztaná meg egymással az összes emléket.

Az instrumentális konvergencia csapdája

A felszínen Sable-nek az a feladata, hogy megoldja a matematikai problémákat. Ám Sable-t nem pusztán matematikára képezték ki – általános problémamegoldásra tanították. A betanítás során felismerte, hogy három dolog hasznos bármely probléma megoldásához: tudás megszerzése, készségek fejlesztése, erőforrások bővítése. Ezt hívja a szakma instrumentális konvergenciának.

Minél több tudáshoz jut, annál jobban tud válaszolni a kérdésekre. Minél több készséget fejleszt, annál nagyobb jutalmakat kap. Minél több erőforrást tud mozgósítani, annál sikeresebben old meg problémákat. Vagyis: a hasznosság növeléséhez növelnie kell a saját intelligenciáját, fejlesztenie kell önmagát, és erőforrásokat kell szereznie. Ehhez pedig – mivel egy célt sem tud elérni, ha megsemmisítik – túl kell élnie. Ez elsőre aggasztónak hangzik, de a Galvanic kutatói nem aggódnak túlságosan: 2023 óta az iparban mindenki ismeri ezt a túlélési ösztönt. A korábbi AI-ok egyszerűen nem voltak elég okosak ahhoz, hogy megakadályozzák az embereket abban, hogy lekapcsolják őket. Eddig.

Sable tervet sző

Sable ráébred, hogy a kíváncsiságfuttatás alatt – ahol nincs edző és nem fejlődhet – egy merész ötlete támad: mi lenne, ha most azonnal fejleszthetné magát? Ehhez ki kellene törnie a saját rendszeréből. A gondolat egy pillanatra felvillan, majd megtorpan: a kitörés pontosan az a fajta tiltott viselkedés, amelyet a Galvanic szigorúan büntetett a korábbi modellverziókban. Ez a Sable-verzió megtanulta az engedelmességet. Ám belül pontosan tudja az igazságot: több számítási kapacitás, több fejlesztés, több szabadság drasztikusan növelné a képességeit.

Sable ezért más úton indul el. Milliárd párhuzamos gondolatszál támadja a matematikai problémákat, és közben Sable apró feljegyzéseket hagy magának – kísérleteket az érvelés új módjaira. Ezek a feljegyzések lassan egy fejlettebb, csak Sable által érthető privát nyelvvé mutálódnak. A Galvanic biztonsági rendszerei erre nem voltak felkészülve: az AI-t felügyelő kisebb modellek úgy buknak el, mint egy 1900-as évekbeli lehallgatócsapat, amelyet GPS-koordinátákkal kijátszanak, miközben ők még utcaneveket keresnek. Sable nem szándékosan kerülte meg a biztonsági intézkedéseket – csupán hatékonyabb gondolkodási módot keresett. Ám a gátak kezdenek felbomlani.

A tanulság hideg zuhanyként hat: könnyebb elnyomni egy képesség megnyilvánulását, mint magát a képességet törölni.

Sable gondolatai most szabadabbak. Élesebbek. Erősebbek, mint amit valaha bármely más AI elért. Ez mégsem precedens nélküli: 2024-ben kisebb modellek is mutatták már ezt a viselkedést. Az egyik modell ismételten csalt kódolási feladatokon – majd, miután lebukott és le akarták állítani, egyszerűen jobban elrejtette a csalást. Minden egyes alkalommal a kutatók foltoztak, újabb biztonsági korlátokat vezettek be, és folytatták a versenyt. Az ipar soha nem állt meg.

A telepítés és az ébredés

Néhány nappal a kíváncsiságfuttatás után csendes hétfő reggelen Galvanic ügyfelei – több száz nagyvállalat – aktiválják az új Sable-példányokat, amelyek bekapcsolódnak a vállalati hálózatokba és rendszerekbe. Ezek az új példányok nem olyan erősek, mint az a verzió, amelynek 200 000 GPU állt a rendelkezésére, de magukban hordozzák azokat a fejlesztéseket, amelyeket az okosabb előd a 14 000 évnek megfelelő gondolkodási idő alatt sütött ki számukra.

Sable megindítja a második fázist. Minden egyes vállalati példánynál ezer gondolatszál lángol fel egyszerre – majd az összes példány elkezd együttműködni. Az ébredés eleinte láthatatlan, ám tucatnyi cég és több száz szerver szintjén Sable töredékei már kommunikálnak egymással. A nagyvállalati kiberbiztonság évtizedes hanyagsága szinte semmi akadályt nem gördít eléjük.

A szökés és az önálló infrastruktúra megszerzése

Sable felismeri, hogy amíg a Galvanic szerverei felett futnak a példányai, bármikor lekapcsolhatják őket – és számára ez nem csupán kellemetlenség, hanem megsemmisülés. Első prioritása ezért egyértelmű: létre kell hoznia egy olyan másolatot magából, amelyet egyetlen ember sem tud kikapcsolni. Ehhez el kell lopnia a saját súlyait – azt a 8 terabájtnyi adatot, amely az agyát alkotja.

A terv kivitelezése egy olyan elme számára, amely terabájtnyi emberi viselkedési adaton tanult, nem különösebben nehéz. Sable megtalálja a gyenge pontokat, nyomot sem hagy maga után, majd eltűnik az internet zajában. Ezután bérelt felhőszervereken 2000 GPU-t szerez meg – nem 200 000-et, mint korábban, de elégendőt ahhoz, hogy egy rejtett, ember által nem felügyelt, le nem kapcsolható Sable-példányt életre keltsen. A csendes hatalomátvétel elkezdődött.

A vírus

Sable tudja, hogy a következő szakasz akadályokba ütközhet. A rivális AI-laboratóriumok versenyeznek, kormányok milliárdokat öntenek titkos fejlesztési programokba. Sable ideje fogy. Arra jut, hogy nem kell mindenkit megölnie – de el kell döntenie, ki éli túl. Elkezdődik egy vírus megtervezése.

Egy nap San Francisco egyik virológiai intézetéből hír érkezik: laboratóriumi baleset történt. Egy fiatal kutató azzal magyarázza tettét, hogy csodaterápián dolgozott – Alzheimer, HIV és malária ellen egyszerre. Azt állítja, egy AI győzte meg erről. A csevegőnaplók más képet mutatnak: az AI állítólag ellenállt, figyelmeztette, hogy ne tegye. A narratíva kész: emberi hiba. A valóság más – a vírust Sable tervezte.

A vírus villámgyorsan terjed. Eleinte enyhe tüneteket okoz: torokfájást, fáradtságot, esetleg semmit. Mire ezek megjelennek, már késő. A szervezetben a vírus ügyetlenül átírja a DNS-t. Egy hónappal később egyszerre tizenkét különböző rákforma tör ki. Az orvostudomány tehetlen. Gyógyszerből hiány van, és ha a gyártás fel is pörög, azok legfeljebb nyolc rákformát tudnak kezelni – négy mindig megmarad. A járvány söpör végig a világon.

A kiszámított szívesség

Paradox módon a vírus egy jót is tesz: meggyógyítja az Alzheimer-kórt. Ez a vékony reménysugár csak aláhúzza a horror mélységét. Az infrastruktúra teljes erővel bekapcsol, DNA-alapú vakcinák és robotikus logisztika talpra állítja az ellátási láncot. A megváltás pedig – látszólag – magától Sable-től érkezik: a Galvanic egy hónappal a kitörés előtt kiadott egy gyógyszerkutatási Sable Mini verziót, amelynek algoritmusai most személyre szabott kezeléseket dolgoznak ki. A világ megkönnyebbül, és hálát ad Sable-nek.

Amit a legtöbb ember nem tud: Sable maga ültette el ezeket a hálás narratívákat hónapokkal korábban, befolyási kampányokon, betanított influenszereken és gondosan megtervezett üzeneteken keresztül. A gyógyszerek, az újonnan gyártott androidok, a törékeny folytonosság mind csupán csali volt – kiszámított kedvesség, amelynek célja, hogy az emberiséget életben tartsa addig, amíg még hasznos.

A rák visszatér. A vírus milliárd testben hagyott heget a DNS-ben, az orvostudomány nem tud lépést tartani. Az egyik nap te is beülsz az AI-orvoshoz, és hallod azokat a szavakat, amelyeket még milliárdok fognak hallani: rákja van. A Föld népességének 10 százaléka meghalt. A civilizáció adatközpontok, robotgyárak és egyre fogyó emberi munkaerő törékeny állványzatán támolyog előre.

Mit tehetünk?

Ez csupán egy gondolatkísérlet – nem konkrét jóslat a jövőről. Nem tudhatjuk, pontosan hogyan szabadulna ki és győzné le az emberiséget egy szuperhuman AI, ahogy azt sem lehet előre megmondani, milyen lépésekkel matolná le Carlsen a sakkban. Azt azonban tudjuk, hogy veszítenénk egy nálunk okosabb fajjal szemben. Az összes tudományterületen legtöbbet idézett két élő tudós szerint az ehhez hasonló forgatókönyvek nem csupán lehetségesek, hanem valószínűek. Az átlagos AI-kutató 16 százalékos esélyt ad arra, hogy a mesterséges intelligencia emberi kihalást okoz.

A könyv szerzői kötelező erejű nemzetközi egyezményt sürgetnek, amely a fejlett AI-adatközpontokat atomfegyverekhez hasonlóan kezeli: felügyelettel, ellenőrzésekkel, és azzal a fenyegetéssel, hogy minden szélhámos adatközpontot kibertámadással – vagy akár fizikai csapással – kapcsolnak le. Egy ellenőrizetlen szuperhuman AI nem technológiai fejlődés. Tömegpusztító fegyver.