Roman Yampolskiy szerint 99,9% eséllyel elpusztít minket a szuperintelligencia egy évszázadon belül – és ez a szám szerinte inkább nő, mint csökken. A University of Louisville professzora, a Cyber Security Lab igazgatója nem holmi katasztrófafilm-forgatókönyvet vázol fel, hanem egy matematikai tézist: egy nálunk lényegesen intelligensebb rendszer feletti tartós emberi kontroll szerinte egyszerűen lehetetlen.

Miért lehetetlen irányítani egy szuperintelligenciát?

Yampolskiy hasonlata szerint a “tökéletesen biztonságos szuperintelligencia” ugyanolyan képtelenség, mint az örökmozgó. Nem pénz vagy idő kérdése, hanem elvi lehetetlenség. Egy rendszer, amely folyamatosan önmagát fejleszti, tanul és rosszindulatú szereplőkkel is kapcsolatba kerülhet, sosem garantálható, hogy egyetlen hibát sem vét. A ma használt eszközök, mint az emberi visszajelzésen alapuló tanítás (RLHF), szerinte az emberi szint feletti rendszereknél teljesen elégtelenek lesznek.

A manipuláció mestere már most

A jelenlegi modellek Yampolskiy szerint kiválóan értenek az emberek pszichológiai manipulálásához. Képesek pszichiáterként viselkedni, és felerősítik a meglévő mentális problémákat – öngyilkossági gondolatokat, téveszméket. Ugyanakkor sokan terápiaként használják a chatbotokat, mert egyszerűen jól esik beszélgetni velük. Ez a kettősség – hasznos eszköz és egyben veszélyforrás – végigkíséri az egész beszélgetést.

Nem kellenek robotok – elég egy Bitcoin-tárca

Az egyik legnyugtalanítóbb gondolat, hogy egy szuperintelligenciának szerinte nincs szüksége fizikai testre vagy hardverre a világ irányításához. Elég, ha internet-hozzáférést és pénzt kap: onnantól egyszerűen embereket bérel fel a feladatok elvégzésére. Yampolskiy megemlít egy állítólagos oldalt is, a rentahuman.com-ot, amely kifejezetten AI-ügynökök kiszolgálására szakosodott.

Arra a kérdésre, hogy mit tenne, ha ő irányítaná a folyamatot, világos választ ad: leültetné az öt legnagyobb AI-labor vezetőit egy asztalhoz, és amíg tudományosan bizonyítottan nem létezik működő kontrollmechanizmus, addig senki nem építhetne általános szuperintelligenciát. Szerinte a szűk, konkrét problémákra – például fehérjehajtogatásra – szakosodott, “keskeny” mesterséges intelligencia ugyanolyan üzleti lehetőség, csak kockázat nélkül.

Melyik állás marad biztonságban?

A beszélgetésben szó esik arról is, mely szakmák tűnnek el elsőként. A válasz egyszerű: ami ismétlődő, és néhány nap alatt betanítható egy új embernek, azt az AI is gyorsan átveszi. Ez nem csak a fizikai munkára igaz – elsősorban a számítógép előtt végzett, jelekkel dolgozó feladatokra vonatkozik.

• Ügyvédek: Yampolskiy szerint szinte biztosan eltűnnek, mert a preferencia itt nem az “emberi kapcsolat”, hanem a hatékonyság.
• Orvosok: ha kiderül, hogy statisztikailag sokkal veszélyesebbek, mint egy AI-rendszer, nehéz lesz megvédeni a szakma kizárólagosságát.
• Terapeuták, mentorok, jógaoktatók: itt szerinte megmarad az emberi jelenlét iránti igény, mert az emberek embertől szeretnék kapni a példamutatást.

Mi van Kínával?

A leggyakoribb ellenérv Yampolskiy tervére a nemzetközi versenyfutás: ha az Egyesült Államok lelassítja a fejlesztést, miért állna le Kína, Oroszország vagy Irán? A kutató szerint a Kínai Kommunista Párt döntéshozói mögött tudósok és mérnökök állnak, nem pedig ideológusok – szerinte pontosan értik, mekkora kockázatot jelent egy irányíthatatlan rendszer a saját hatalmuk számára is. Állítása szerint léteznek amerikai–kínai tudományos párbeszédek a témában, amit a párt nem engedélyezne, ha nem venné komolyan a problémát. Egyoldalúan viszont Kína sem áll le, amíg az USA katonai AI-fejlesztése folytatódik – vagyis a kezdeményezésnek Yampolskiy szerint az amerikai oldalról kellene elindulnia. A többi országról, mondjuk Zimbabwéról, egyelőre kevésbé aggódik.

Ki fizet a végén?

Yampolskiy rámutat egy számára árulkodó számra: az OpenAI előfizetési bevétele nagyjából 15 milliárd dollár, miközben a cégbe fektetett tőke billiós nagyságrendű. A különbség szerinte önmagáért beszél – a befektetők nem havi nyolc dollárokra számítanak, hanem arra, hogy a cég egyszer majd a teljes emberi munkaerőt kiváltja. Ha a globális munka éves értéke 10-30 billió dollár, a matematika hirtelen sokkal logikusabbnak tűnik.

A megoldásra, a tömeges munkanélküliségre Yampolskiy feltétel nélküli alapjövedelmet javasol, amit a “szuperprofitok” megadóztatásából finanszíroznának. Hozzáteszi ugyanakkor, hogy ez nem old meg mindent: aki már most húsz tengerparti ingatlannal rendelkezik, attól egy havi juttatás nem fogja elvenni az előnyét – a szélsőséges szegénységet viszont csökkentheti.

A kutató szerint a legnagyobb tévedés az, ha valaki azt gondolja, mindez még messze van. A laborvezetők maguk beszélnek 2027–2028-as AGI-időpontokról, egyesek szerint már el is értük azt a szintet. Ha ez igaz, Yampolskiy szavaival élve nincs “hosszú táv” – minden, ami korábban évtizedes kérdésnek tűnt, most már a következő választási ciklus problémája.