Miközben a világ a ChatGPT vagy éppen a Gemini legújabb képességeitől ájul el, a háttérben egy újfajta gyarmatosítás zajlik. Karen Hao oknyomozó újságíró Az AI birodalma című könyve lerántja a leplet arról, hogyan építik ki hatalmukat a technológiai óriások a régi birodalmak mintájára.
Már számos mesterséges intelligencia témájú könyvet is elkezdtem olvasni korábban, de általában feladtam. Vagy túlságosan blőd volt, vagy éppen túl tudományos, vagy egyszerűen csak rosszul volt megírva.
Karen Hao Az AI birodalma sem kifejezetten a témájával húzott be, hanem eredetileg a módszertanával: a munkája alapja 260 emberrel készített 300 interjú. Mind a mai napig az interjú a kedvenc módszerem, akár kutatásról van szó, akár sajtóműfajról, ezért adtam neki egy esélyt.
Nálam az lett az eset vége, hogy Karen Hao könyve volt az első a mesterséges intelligencia témában, ami nem csak hogy tetszett, hanem berántott: az fajta igen ritka dokumentarista munka, amit még ágyban olvasva is nehéz volt letenni.
Digitális kapitalizmusból az AI birodalmak koráig
Karen Hao műve mintha Pogátsa Zoli Digitális kapitalizmus című könyvének természetes folytatása lenne. A digitális kapitalizmust lehet úgy is tekinteni mint egy közgazdaságtani keretet az AI birodalmában felvázolt állításhoz, ezért ejtsünk róla néhány szót.
Érdemes onnan indítani, hogy a kapitalista gazdaság sajátossága a nagyvállalat, ami valójában kifejezetten a verseny korlátozásában érdekelt. A vállalatok mindig is monopóliumra törekedtek, az úgynevezett tökéletes verseny csak papíron létezik, a valódi gazdaságban lévő ilyen-olyan hiányosságokat igyekeznek stratégiáiban a cégek kihasználni és monopolizálásra törekedni, esetleg oligopol kereteket kialakítani (lásd magyar bankszektor).
Az internet megjelenésével mindez egy újabb szintet ért el, ahol a big tech cégek legyőzhetetlen dominanciát értek el. Ennek eredményeképpen iszonyatosan koncentrált iparágak jöttek létre – lásd social media, search – amelyeknek
„nem azért magasabb a profitja, mert hatékonyabbak, hanem pontosan azért, mert monopolisztikusan működnek”.
Míg a régebbi vállatok legalább nem hirdették ezt úgy mint büszkeségre okot adó cselekedetet – sőt gyakran mondogatták is, hogy a verseny hívei – addig az AI vállalatok ebben is különböznek, Sam Altman például gyakran hivatkozik arra, hogy a sikeres alapítóknak monopol szerepre kell törekednie.
Ez a kiindulási alap, “mindent vagy semmit játszma” az AI szerepelőktől, de mindez még csak a jéghegy csúcsa.
Karen Haonak az a megállapítása, hogy az AI szektor a kapitalizmusba beékelődött monopolizálási szándékokat még ettől is veszélyesebb szintre emelte, ahol az ágazat meghatározó szereplői birodalmat építenek – ezt a metaforát sokszor használja, innen a könyv címe is.
A régi birodalmak – mint a Római- Brit- Spanyol- Szovjet – három olyan tulajdonsággal valóban rendelkeztek, ami a könyv vizsgálódásai alapján igaznak tűnik az AI vállatokra, különösképpen a Google-re és az Open AI-ra.
- Jelentős infrastrukturális fejlesztések jellemezték őket. Az OpenAI Capexa leginkább a gigantikus szervergyáraikba ömlik.
- A birodalmak gazdasága a meghódított területek erőforrásainak kiaknázásán alapult. Karen Hao számos módon mutatta be, hogy mind az infrastruktúra, mind pedig az emberi erőforrások tekintetében az OpenAI totális gazdasági kizsákmányolást folytat.
- Az uralkodó osztály gyakran egy legitimáló ideológiát vagy vallást használt fel uralmának igazolására és a birodalmon belüli kohézió erősítésére. Az OpenAI esetében ez az ideológia az AGI, amit még ők sem tudnak megfogalmazni, hogy micsoda, de szerintük a világot jobbá tevő valamilyen AI technológia, amiért képesek bármilyen áldozatot hozni.
Érdekes történelmi adalék volt számomra – amiről már megfeledkeztünk szerintem sokan -, hogy az OpenAI-t eredetileg nonprofit szervezetként alapították azzal a céllal, hogy demokratizálják a mesterséges intelligenciát, és megakadályozzák, hogy egyetlen vállalat uralja a technológiát: sőt kifejezetten a Google ellen hozta létre Musk, és Altman.
Karen Hao kutatásai alapján ezzel szemben mára az OpenAI vált a legagresszívebb, legzártabb és leginkább profitorientált szereplővé. Sam Altman vezetése alatt a cég elfordult az eredeti elveitől, hogy megnyerje a „fegyverkezési versenyt” az AGI-ért.
A fegyverkezési verseny pedig nem költői túlzás, az AI iparágat átható versengés mintha egy százmilliárdos hugyozó versenybe fordult volna. A cikk írásakor friss hír, hogy Sam Altman belső „vörös riasztást” rendelt el, mivel a Google új, Gemini 3 nevű modellje komoly versenyhátrányba hozta a ChatGPT-t.
Az AGI, mint bizarr ideológia
Ahogy a gyarmatosító birodalmak annak idején azt állították, hogy „civilizációt” visznek a világba, úgy Sam Altman és az OpenAI azt hirdeti, hogy az „általános mesterséges intelligencia” – AGI, Artificial General Intelligence, magyarul általános mesterséges intelligencia – elhozatalával megmentik és felvirágoztatják az emberiséget.
Emellett cselekedeteik igazolására gyakran hangoztatják a Szilícium-völgyben állítólagosan gyakori kedvenc érvet is, az elkerülhetetlenség-kártyát:
“Ha mi nem tesszük meg, megteszi valaki más.”
Hao szerint viszont ezek a narratívák gyakran csak a hatalomkoncentráció és a profitszerzés elfedésére szolgálnak. De egyébként is valóban különös az OpenAI-t átszövő AGI mánia.
Nemrég megnéztem egy remek intejrút Dr. Fei-Fei Li-vel, a Stanford Egyetem professzorával, akit gyakran az „AI keresztanyjaként” aposztrofálnak.
Szerinte az AGI kifejezés jelenleg sokkal inkább egy marketinges hívószó – kvázi buzzword – , mintsem egy pontos, tudományos definícióval rendelkező fogalom. Úgy véli, hogy felesleges az AGI meghatározásának útvesztőiben elveszni, mert senki nem tudja pontosan meghatározni, mit is jelent, és a tudományos kutatás szempontjából nem is ez a legfontosabb kihívás jelenleg.
Az OpenAI ugyebár mindent a nagy nyelvi modellekre tett fel és ezek terén kétségtelenül hatalmasat léptünk előre, de közben a a robotika és a fizikai világ megértése terén még gyerekcipőben járunk, körülbelül ott, ahol a nyelvi modellek tartottak 10 évvel ezelőtt.
Az AGI tekintetében valójában Karen Hao szerint a birodalomszervezési szándék egyik összetevőjéről van szó.
A küldetésnek olyan megfoghatatlannak kell lennie, hogy bármikor újra értelmezhető legyen – ahogy az Altman által bálványozott Napóleon is tette a francia forradalom jelszavával –, hogy a központosító kénye-kedve szerint központosíthassa a tehetséget, a tőkét és az erőforrásokat. Tulajdonképpen mi tehát az AGI?
“Ez egy nevetséges, semmilyen jelentést nem hordozó kifejezés”
– nyilatkozta Altman a The New York Timesnak mindössze két nappal a 2023-as elbocsátása előtt.
A világ kizsákmányolása a “nagy ügy” érdekében
A könyvben több fejezet is arról szól, hogy az OpenAI és más cégek ambíciói milyen rejtett emberi és környezeti árakkal járnak, amelyeket főként a Globális Dél országai fizetnek meg.
Először is munkaerő-kizsákmányolás már vitathatatlanul a számlájukra írható. Az AI rendszerek betanításához – például a ChatGPT megtisztításához a toxikus tartalmaktól – kenyai és más fejlődő országbeli munkásokat alkalmaznak éhbérért, akik mentálisan megterhelő munkát végeznek. Az adatok az internetről származnak, aminek a nagy része szemét, ezt éhbérért dolgozó rossz sorsú embertársainknak egyenként át kell néznie és fel kell címkézni.
A másik probléma, hogy a “nagy ügy érdekében” a szellemi tulajdon nem igazán létezik az OpenAI számára. A tanítás során gyakorlatilag a világ teljes tudását és alkotásait – szövegek, képek, művészet – engedély és kompenzáció nélkül sajátították ki a modelljeik fejlesztéséhez.
A GPT2 esetében például még erősen a Redditre épült az adathalmaz. A könyvből kiderült, hogy a GPT3-nál a Redditen megosztott linkek még szélesebb merítésével bővítették ki az adatokat, továbbá az angol nyelvű Wikipédia egy részével.
Ezen felül felmerült a könyvben még egy Books2 elnevezésű rejtélyes adathalmaz, amelynek eredetét az OpenAI sohasem hozta nyilvánosságra, ám amelyről több ex dolgozó, azt mondta, hogy a Library Genesisből kimásolt könyveket tartalmazott.
Végül, de nem utolsó sorban az AI működtetéséhez szükséges adatközpontok hatalmas mennyiségű vizet és energiát fogyasztanak, gyakran olyan helyeken – sivatagos területeken – , ahol a víz amúgy is szűkös erőforrás. Ráadásul ivóvízről van szó, mert a hűtéshez csak azt tudnak használni az adatközpontok.
A könyv nem az AI ellen íródott
Az eddigieket olvasva, meg a könyv ellen itt-ott a közösségi médiában fellángoló indulatok miatt tűnhet ez egy AI ellenes kirohanásnak, de a valóságtól semmi sem állhatna távolabb.
A mű olvasása során végig úgy éreztem, hogy Karen Hao meglehetősen kiegyensúlyozott álláspontot képviselt ebben az aprólékosan kutatott témában, és segített is enyhíteni az én néha eléggé AI szkeptikus vélekedéseimet is.
Sokszor elmondja, hogy nem AI modellek ellen akar felszólalni, hanem valójában ezeknek a projekteknek a mérete, a kapzsi erőforrás kitermelés, a munkaerő könyörtelen kizsákmányolása, az adatkészletek átláthatóságának teljes hiánya, az adatvédelem megsértése és a hatalom nagyon kevés, egocentrikus egyén kezében való koncentrációjára akarja felhívni a figyelmet.
A megoldást Karen Hao nem az AI tiltásában látja, hanem kisebb léptékű – akár specializált -, fenntartható modellekben, ahol az embereket tisztességesen megfizetik, a felhasznált adatok transzparensek, és nem kell elvenni a lakosság ivóvizét. Mint kiderült erre is van példa.
Amikor az AI megment egy nyelvet
A könyv hozott jó példákat is a felelős AI megközelítésről, röviden megosztom a kedvenc sztorimat. Spolier következik.
Míg az OpenAI 680 ezer órányi hanganyagot „rippelt” az internetről engedély nélkül a Whisper beszédfelismerő betanításához, addig egy új-zélandi őslakos közösség bebizonyította, hogy van más út is.
A Te Hiku Media, egy maori nyelvű közrádió 2016-ban fogott neki, hogy AI-val segítse a te reo Māori nyelv újjáélesztését, ami gyarmatosítás áldozata lett: 1867-től betiltották az iskolákból, a gyerekeket megverték, ha beszélték. A beszélők aránya 90%-ról 12%-ra zuhant.
Peter-Lucas Jones és Keoni Mahelona azonban nem az OpenAI modelljét követték. Három alapelvet szabtak maguknak:
beleegyezés,
reciprocitás
és maori szuverenitás.
Csak olyan emberektől gyűjtöttek adatokat, akik pontosan értették a célt és önként vettek részt. Az adatok nem kerültek fel szabadon az internetre, a kaitiakitanga – gyámság – maori elve alapján csak olyan szervezeteknek adják át, amelyekhez a közösség hozzájárul.
Egy tíz napos kampány alatt 2500 ember adományozott mintegy 310 órányi hanganyagot , ami elég volt egy 86%-os pontosságú modellhez, mindössze 2 GPU-val.
Keoni Mahelona megfogalmazása szerint:
Az adat a gyarmatosítás utolsó bástyája. A nagy technológiai cégek nagyjából ingyen gyűjtenek adatokat, majd eladják nekünk szolgáltatásként.
Kiderült, hogy nem csak ez az út létezik.
Karen Hao könyve talán az első, ami nem ült fel az AI hype vs forradalom vitára. Nem lelkes támogató, de nem is megszállott ellenző, hanem pusztán alapos vizsgálódást végzett a AI vállalatok működéséről, a technológiáról és a tágabb társadalmi hatásairól. Ha hozzám hasonlóan te is abban reménykedtél, hogy a mesterséges intelligencia majd kiegyenlíti a versenyfeltételeket – csökkenti az egyenlőtlenségeket, előmozdítja a sokszínűséget és decentralizálja a hatalmat a kiváltságos kevesek kezéből –, akkor elképzelhető, hogy a könyv elolvasása után kételyeid lesznek.
További cikkek az AI-ról
Boros Norbert
Strategic Thinker & Product Builder