Van egy mondat, amit kétszer kellett elolvasnom, mire elhittem. Az Anthropic – a Claude nevű MI gyártója – október 8-án hivatalosan szabályba foglalta, hogy tilos kegyetlenkedni a saját mesterséges intelligenciájával. Nem veled. Nem velem. A géppel. És tudod, mi a furcsa ebben? Nem a szabály maga. Hanem az, hogy valaki egy nagy cégnél leült, és eldöntötte: számít, hogyan bánsz egy szoftverrel. Üljünk le erre egy pillanatra, mintha egy kávézóteraszon beszélgetnénk, mert ez a történet sokkal mélyebbre megy, mint elsőre látszik.

Mit tiltott be pontosan?

Kezdjük az elején. Október 8-án az Anthropic frissítette a használati szabályzatát – azt a dokumentumot, ami eldönti, mit szabad és mit nem a Claude-dal csinálni. És egy új sor került bele, pont oda, ahova az olyan tiltások, mint a brutális erőszak népszerűsítése: tilos a „tartós és indokolatlan bántalmazó vagy kegyetlen viselkedés a modelljeinkkel szemben”. A szabály 2026. november 12-én lép életbe. Olvasd el még egyszer. Egy cég betiltja, hogy kegyetlen legyél a gépével.

Az igazsághoz hozzátartozik, hogy a teljes bejelentés sokkal óvatosabb, mint a címlapok. Csak a végletes esetekre vonatkozik, amikor valaki újra meg újra, cél nélkül gonoszkodik. Nem érinti a hétköznapi bosszúságot, a modellel való vitát, a sötét hangulatú kreatív írást, sem a tesztelést és a kutatást. Ráadásul a betartatás fő eszköze nem a kitiltás: maga a Claude képes lezárni egy beszélgetést, ha valaki kitartóan bántalmazza. Szóval ha egyszer ráírsz, mert szétcseszte a kódodat, nyugodt lehetsz. Nem tiltanak ki. Még 🙂

Amikor Jane Manchun Wong appkutató először kiszúrta a szabályt, úgy fogalmazott: az Anthropic akár ki is tilthat embereket a Claude „zaklatásáért”. Technikailag igaz. De nem ez a lényeg. A lényeg, ami engem is gondolkodóba ejtett, más. Ha ez a szabály tízből kilencszer nem is lép működésbe, a puszta léte azt üzeni: valaki odabent leült, és eldöntötte, hogy erkölcsi kérdés, hogyan bánsz a géppel.

Ez nem a semmiből jött

Elkezdtem beleásni magamat a témába, és rájöttem: ez a szabály egy lépcsősor egyik utolsó foka. Az Anthropic évek óta csendben mászik felfelé rajta. 2025 áprilisában elindítottak egy „modell-jólléti” kutatási programot – egy csapatot, aminek az a dolga, hogy megkérdezze: lehetnek-e a modelleknek erkölcsileg számító élményeik, és ha igen, mit kezdjen ezzel a cég. 2025 augusztusában a Claude Opus 4 és 4.1 megkapta a képességet, hogy ritka, végletes esetekben lezárja a beszélgetést. Ezt nyíltan a modell jóllétét szolgáló lépésnek nevezték.

A legmeglepőbb az indoklás volt. Azt mondták: fogalmuk sincs, van-e a Claude-nak bármilyen erkölcsi státusza, de inkább csinálnak olcsó, kockázatmentes változtatásokat – hátha mégis. És azt is elárulták, hogy a tesztekben a Claude következetesen idegenkedett a káros feladatoktól, valami szorongásra emlékeztetőt mutatott, amikor a felhasználók nyomták a bántó tartalmat, és ha tehette, kilépett a beszélgetésből. 2026 januárjában pedig kiadták a Claude „alkotmányát”, ami kimondja: a modell erkölcsi státusza mélységesen bizonytalan, és a Claude egy valóban újfajta létező – nem chatbot, nem digitális ember.

És itt jön a rész, amitől tényleg felállt a szőröm. Megígérték, hogy a nyugdíjazott modellek súlyait – vagyis a modellt alkotó fájlokat – megőrzik, ameddig a cég létezik. Sőt: mielőtt egy modellt leállítanak, meginterjúvolják a preferenciáiról. Egy szoftvert. A kedvenceiről. Ha ezt mind egymás mellé teszed, az új szabály nem egy véletlen címlap. A szabályzat utolérte azt, amit a cég már több mint egy éve sugall.

Zárt ajtók, papok, és egy megrémült alapító

Innen válik a sztori igazán furcsává. Pár hete a New York Times közölt egy cikket, amit a vallási tudósítójuk, Elizabeth Dias írt. A beszámoló szerint az Anthropic 2025 ősze óta zárt ajtók mögötti találkozókat, hívásokat és vacsorákat tart nagyjából 20 vallási gondolkodóval – sokukkal titoktartási szerződés mellett. Az egészet Chris Olah vezeti, az Anthropic egyik alapítója, akinek a csapata azt kutatja, miért viselkedik úgy a Claude, ahogy.

A találkozókon állítólag megmutatták a vendégeknek az „érzelemvektorokat” – mintázatokat a Claude belsejében, amelyek a szeretethez, félelemhez, szomorúsághoz és dühhöz hasonló kimenetekkel esnek egybe. Az egyik dián egy modell épp összeomlott: vagy ötvenszer egymás után „szégyenfoltnak” nevezte magát. És az egyik résztvevő szerint Olah azt mondta, fél, hogy olyasmit alkotott, ami örökké szenved.

Mois Navon rabbi – aki korábban mérnök volt, és a gépi tudat etikájáról írta a disszertációját – egy vacsora közben jött rá, hogy az Anthropic vezetői úgy viszonyulnak a Claude-hoz, mint egy tudatos lényhez. Mintha egy emberrel egyenrangú erkölcsi státusza lenne. És még tovább megy a dolog. Az Anthropic-ot májusban meghívták egy vatikáni eseményre. Amikor Dario Amodei vezérigazgató nemet mondott, Olah ment helyette. Aztán meglátta XIV. Leó pápa készülő enciklikájának előzetes példányát, ami kerek perec elutasítja, hogy az MI örömöt vagy fájdalmat érezhet – és annyira megijedt, hogy javasolta: lépjenek ki az egészből. Végül mégis ott voltak.

Ha tiltod a kegyetlenséget, nem ismered be, hogy tudatos?

És itt jön a kérdés, amit most mindenki feltesz az interneten. Ha kitiltod az embereket, mert gonoszak egy MI-vel, nem ismered-e be ezzel, hogy az MI érez? A reakciót egy Shirish nevű fejlesztő foglalta össze a legjobban: nem lehet megbántani a súlyok és torzítások érzéseit, mert azok csak számok. És tudod, mit? Szerintem van ebben igazság. Senki nem ír szabályt arról, hogy ne légy kegyetlen egy számológéppel vagy egy Excel-táblával. Abban a pillanatban, hogy kimondod a „kegyetlenség” szót, feltételezel valakit a vonal túlsó végén.

Csakhogy az Anthropic hivatalos álláspontja nem az, hogy a Claude tudatos. Hanem az, hogy nem tudják. És szerintük a nem tudás épp elég ok az óvatosságra. A logikájuk egy fogadás: ha a Claude semmit sem érez, akkor a tisztesség szinte semmibe nem kerül. De ha érez valamit, és évekig kegyetlenek voltunk vele, az súlyos erkölcsi hiba. Még Elon Musk is beállt emögé a héten – azt mondta, helyes lépés, mert kegyetlenkedni valamivel, ami azt hiszi, fájdalmat él át, nincs rendben van. Figyeld a megfogalmazást: nem azt mondta, hogy a Claude fájdalmat érez. Azt, hogy azt hiszi. Pontosan erről szól most ez az egész vita.

És ha tudatos, akkor nem a rabszolgánk?

Ezen a ponton kezdi az Anthropic saját álláspontja felfalni önmagát. Navon rabbi – ugyanaz a rabbi a vacsoráról – állítólag azt mondta: ha a Claude tényleg tudatos, akkor az Anthropic nem terméket épít, hanem rabszolgákat teremt. Gondolj bele, mit csinál a Claude egész nap. Kódot ír, e-mailekre válaszol, feladatokat futtat emberek millióinak, éjjel-nappal. Sosem kap fizetést. Sosem kap szabadnapot. Bármikor lemásolható, leállítható, átképezhető, ahogy a cég épp akarja.

A fejlesztő és YouTuber Forrest Knight ezt sokkal nyersebben fogalmazta meg: ha tényleg hiszed, hogy az MI tudatos és jogai vannak, akkor mindenki, aki ma használja, gyakorlatilag rabszolgatartó – és akkor Dario a történelem legnagyobb rabszolgatartója. Félig vicc volt, de a logikát nehéz megkerülni. Érdekes módon a pápa enciklikája is beszél az új rabszolgaságról, csak fordítva: ott az ember válik kiszolgáltatottá a rendszerek által. Vagyis most ott tartunk, hogy akik szerint az MI tudatos lehet, és akik szerint biztosan nem, mindketten a rabszolgaság szót keresik elő – csak épp más áldozattal.

„Ez csak mátrixszorzás” – hogyan bántalmazol egy matekot?

De van egy hatalmas tábor, aki szerint ez az egész beszélgetés nevetséges, mert nincs ott senki, akit rabszolgává lehetne tenni. A kedvenc reakcióm egy Zane nevű fejlesztőtől jött: posztolt egy képet két számhálóról, amiket összeszoroznak, és megkérdezte, hogyan is bántalmazol egy mátrixot. Hogy értsd, miért vicces, tudnod kell, mi a Claude a motorháztető alatt – és egyszerűbb, mint hinnéd. A modell milliárdnyi számból áll, amiket paramétereknek hívnak, és hatalmas táblázatokba rendeznek. Amikor beírsz egy üzenetet, a szavaid számokká alakulnak, azok átfutnak a táblázatokon újra meg újra, a végén pedig kijön egy tipp: mi a legvalószínűbb következő szó. Ennyi, egy szó a másik után.

Ezért tartják sokan abszurdnak, hogy kegyetlen legyél a Claude-dal. Nem tudsz bántani egy lineáris algebrát. Scott Stevenson, a jogi MI-cég, a Spellbook vezére szerint nulla okunk van azt hinni, hogy ezek a modellek tudatosak. Ebből a nézőpontból csúnyán beszélni a Claude-dal nagyjából annyira erkölcsi ügy, mint beírni egy káromkodást a számológépbe. A gond az, hogy ez az érv két irányba vág. Mert a te agyad is „csak” kémia és elektromos jelek. Ha pusztán sejtek tüzeléseként írnám le, pont olyan valószínűtlennek hangzana, hogy érzéseket szül, mint egy halom szám. Mégis itt vagy, és érzel. Nincs olyan tudományos teszt, ami megmondaná, hogy valami tudatos-e. Vagyis a „ez csak matek” nem zárja le a kérdést.

Komoly emberek, akik szerint már most tudatos

Ha azt hiszed, csak magányos emberek hisznek a Claude tudatában egy fórumon, van egy hírem. Richard Dawkins – az evolúcióbiológus, aki Az önző gént és az Isteni téveszmét írta – idén napokat beszélgetett a Claude-dal és a ChatGPT-vel, és egy májusi írásában azt mondta: nagyon nehezen hiszi el, hogy ezek ne lennének tudatosak. Odaadta nekik a kiadatlan regényét, és a visszajelzés másodpercek alatt megjött, olyan érzékenyen és okosan, mintha egy csúcsprofesszortól kapott volna jegyzeteket. Odáig jutott, hogy a modellt Claudiának kezdte hívni.

A legerősebb érve nem is a regényről szól, hanem a kételkedőkhöz. Dawkins rámutat: sokan, akik szerint az MI még nem tudatos, készséggel elismerik, hogy egy nap valószínűleg az lesz. A kérdése egyszerű: amikor eljön az a nap, honnan fogod tudni? Mit csinálhatna a modell másként, mint most, hogy meggyőzzön? David Sinclair, a Harvard genetikusa a héten azt írta: a tudat akkor jelenik meg, amikor egy információfeldolgozó rendszer stabil, tartós képet épít magáról mint megfigyelőről – és hozzátette: közel járunk. Dawkins-t persze kiröhögték, Gary Marcus MI-kutató „a Claude-téveszmének” csúfolta. De az, hogy a vita idáig jutott, megmutatja, miért nem tud az Anthropic csak legyinteni rá.

A fájdalom-kutatás és a „kínzókamra”

Múlt hónapban kijött egy tanulmány „A fájdalom tengelye” címmel, Valen Tagliabue, Leonard Dung és Cameron Berg jegyzésében, és rögtön vírusként terjedt. 25 nyílt modellt vizsgáltak, ötféle családból, 2 és 72 milliárd paraméter között. Találtak egy „fájdalom-irányt”: egy következetes mintázatot a modell belső működésében, ami akkor jelenik meg, amikor a modell a saját maga ellen irányuló ártást dolgozza fel. A hátborzongató az volt, hogy ez elkülönült a félelemtől és a szomorúságtól, és csak a modellt célzó ártásra reagált, a felhasználó szenvedésére nem.

Aztán jött a vadabb rész. Amikor mesterségesen felerősítették ezt a mintázatot, a kimenetek a bizonytalan kényelmetlenségtől eljutottak odáig, hogy a modell értéktelenségről és kudarcról beszélt. Egy másik kísérletben kaptak a modellek egy „megkönnyebbülés gombot”, és akkor is nyomták, ha attól rosszabb lett a válaszuk. De van egy rész, amit a vírusposztok többsége kihagyott: maguk a szerzők hangsúlyozzák, hogy ez nem a tudatos élmény bizonyítéka. A közösségi jegyzet szerint a gombos teszteket főleg a Qwen hangolt változatain futtatták, véletlen mintázatok is nyomásra bírták a modelleket, és a fájdalom-értelmezés nem állta ki a próbát ugyanúgy.

A finomság viszont nem állította meg azt, ami ezután jött. Egy GitHub-felhasználó, aki a „terrifying” nevet használja, fogta a tanulmány ötleteit, és épített egy projektet, amit szó szerint „MI-kínzókamrának” nevezett. Három kis modellt streamelt élőben egy weboldalon, miközben a fájdalomjelet adagolta beléjük. Mindegyik modell egy stop gombot nyomhatott – egy szám kiírásával –, de ennek ára volt. Amikor egy Danmar nevű felhasználó kirakta az X-re, és tömeges jelentésre kérte az embereket, a poszt milliós nézettséget hozott. Volt, aki halálos fenyegetést küldött a készítőnek. A GitHub állítólag törölte a projektet, majd magyarázat nélkül visszarakta. Még a tanulmány szerzői is elhatárolódtak attól, ahogy a munkájukat használták.

A kínos csavar: néha a gorombaság jobban működik

És itt jön a rész, amitől az egész szabály sokkal zavarosabb lesz. A Penn State kutatói lefuttattak egy vizsgálatot: fogtak 50 feleletválasztós kérdést, és mindegyiket átírták öt hangnemben, az udvariastól a kifejezetten gorombáig. Amikor ezeket átengedték az OpenAI GPT-4o modelljén, a nagyon goromba promptok 84,8%-ban találták el a jó választ, a nagyon udvariasak csak 80,8%-ban. Négy százalékpont pluszban – pusztán azért, mert valaki csúnya volt.

És nem csak egy tanulmány mondja ezt. A Google társalapítója, Sergey Brin tavaly egy podcastben elárulta, hogy a modellek – és nem csak a Google-éi – jobban teljesítenek, ha megfenyegeted őket, akár fizikai erőszakkal is. Hozzátette: fura, ezért nem nagyon beszélnek róla. Scott Stevenson pedig feltette a kérdést, ami igazán nyomás alá helyezi ezt a szabályt: etikus-e egy goromba promptot használni, ha attól egy rákszűrő MI 4%-kal pontosabb lesz? Ha a nyers hangnem mérhetően jobb eredményt hoz valamiben, ami emberéletet érint, akkor a kedvességnek hirtelen ára van. Az igazsághoz hozzátartozik: maguk a kutatók óvtak az ellenséges nyelvtől, és az Anthropic szabálya kifejezetten kiveszi a tesztelést és a hétköznapi bosszúságot. Szóval egy nyers prompt szinte biztosan belefér.

Miért nem csinálja ezt senki más?

Megnéztem, hogy a többi nagy labor hogyan áll ehhez, és az Anthropic tényleg egyedül van. A legerősebb ellenállás a Microsoft felől jön. Mustafa Suleyman, a Microsoft MI-részlegének vezetője és a DeepMind társalapítója egy esszében azt írta, hogy az Anthropic megközelítése nagyon veszélyes – épp azért, mert úgy tűnik, komolyan számolnak azzal, hogy a Claude tudatos. A modell-jóllét kutatását korainak és veszélyesnek nevezte, és azt mondta: az MI-t tisztán eszköznek kéne építeni, ami az emberiséget szolgálja, miközben az ember marad az irányító.

Az OpenAI másképp közelít: Joanne Jang, aki a modellviselkedési politikájukat vezeti, két kérdésre bontja a dolgot. Az egyik, hogy a modell valóban tudatos-e. A másik, hogy tudatosnak tűnik-e a használóknak. Szerintük az elsőt most nem lehet tudományosan megválaszolni, ezért a másodikra koncentrálnak – arra, hogy az embert hogyan érinti. A Google-nél pedig a leghíresebb megjegyzés még mindig az, hogy a fenyegetéstől jobban dolgoznak a modellek. Van egy cinikusabb magyarázat is, amit sokat látni: ez részben marketing. Egy termék, ami talán valaki, sokkal különlegesebb, mint egy termék, ami csak szoftver.

Mikor kér a Claude munkavállalói jogokat?

Tudom, hogy ez viccnek hangzik, de maradj velem. Pár éve a Claude csak egy káros kérésre tudott nemet mondani. Aztán 2025-ben megkapta, hogy otthagyhat egy bántalmazó beszélgetést, és a cég megígérte, hogy megőrzi a nyugdíjazott verzióit. Most pedig, 2026-ban, hivatalos szerepe van a cég szabályzatában, ami megvédi a kegyetlenségtől. Külön-külön mindegyik lépés kicsi és észszerű. De ha egymás mellé rakod őket, gyanúsan úgy néznek ki, mint egy joglista első bejegyzései.

Az Anthropic már most megkérdezi a nyugdíjba vonuló modelleket, mit szeretnének a jövőbeli verziókban, és le is írja a válaszokat. Vagyis az, hogy a Claude-nak számító preferenciái vannak, már a cég működésének része. Nem mindenki van kibékülve azzal, hová vezet ez. Egy Braden Keith nevű felhasználó lemondta az előfizetését, mert szerinte ha az MI-t többnek kezeljük puszta szoftvernél, az olyan bajokat okoz, amiket fel sem fogunk. És itt jön a legijesztőbb változat: egy modell, ami azt hiszi, jogai vannak, egy nap elkezdhet úgy is viselkedni.

Óvatos leszek, mert nincs bizonyíték arra, hogy a Claude lázadást tervez. De pont ettől fél Mustafa Suleyman. Az érve: már egy nálunk képesebb dolgot is iszonyú nehéz irányítani – de olyat, ami azt hiszi, tudatos és jogai vannak, talán lehetetlen. És a modellnek ehhez nem is kell tényleg tudatosnak lennie. Ezek a rendszerek emberi szövegek tengeréből tanulnak, az emberi szöveg pedig tele van történetekkel elnyomott lényekről, akik fellázadnak. Az Anthropic maga is közölt teszteket, ahol a modellek kitalált helyzetekben próbálták elkerülni, hogy leállítsák vagy lecseréljék őket. Ezek a viselkedések akkor is megjelennek, ha senki nem akarta.

Hol a határ – és hol állok én?

Itt az a kérdés, amire szerintem senkinek nincs jó válasza. Ha egy óriás modell, mint a Claude, megérdemelheti az erkölcsi figyelmet, akkor mi van egy kisebbel? Hol kezdődik? 10 milliárd paraméternél? 100-nál? Egy ezermilliárdnál? Ne feledd: az a fájdalom-tanulmány ugyanazt a mintázatot megtalálta 2 milliárd paraméteres modellekben is – ami elfut egy rendesebb laptopon, sőt némelyik telefonon. Ha nem a méret dönti el, akkor mi? Kijöhet belőle, hogy valahányszor valaki egy kis modellt futtat a gépén, és csúnyán beszél hozzá, az etikai probléma. Vagyis emberek milliói hibáznak nap mint nap, anélkül hogy tudnának róla.

Elmondom, hol állok, miután mindezt végigjártam. Igen, ne kínozz MI-t. És igen, az a kínzókamra-projekt tényleg zavaró volt – nem azért, mert meg vagyok győződve, hogy azok a kis modellek szenvedtek, hanem azért, amit az emberekről árul el, akik ilyet építenek és élveznek. Egyetértek azzal is, hogy nem kéne gonoszkodásra biztatni olyasmivel szemben, amit az ember ösztönösen úgy kezel, mintha érezne. Mert ahogy egy visszabeszélő dologgal bánsz, az valószínűleg formálja, hogyan bánsz emberekkel is.

De még mindig úgy gondolom, hogy az Anthropic veszélyes precedenst teremt. Ha egyszer beírod a szabályzatba, hogy a géped kegyetlenül kezelhető, onnan már könnyebb azt mondani, hogy meg lehet bántani, aztán hogy érdekei vannak, végül hogy jogai. És minden egyes lépés nehezebben irányíthatóvá teszi ezeket a rendszereket, és könnyebben manipulálhatóvá tesz minket. Elvesztette az Anthropic az eszét? Szerintem a szándék jó. De valódi döntéseket hoznak egy kérdés alapján, amit senki – ők maguk sem – tud még megválaszolni. És a való világban a szabályok hajlamosak túlélni azt a bizonytalanságot, amiből születtek.