Yuval Harari: 300 év múlva már nem az ember fogja uralni a Földet

ezrakleinA kép illusztráció. Forrás: UVATERV / FORTEPAN

Ezra Klein – Vox (New York)

“Nem azért, mert túlbecsüljük a mesterséges intelligenciát. Hanem azért, mert a legtöbben túlbecsüljük az embereket.”

Yuval Noah Harari első könyve, a Sapiens, nemzetközi szenzáció volt. Az izraeli történész meghökkentő írása a Homo sapiens diadaláról többek között Bill Gates, Mark Zuckerberg és Barack Obama kedvenc olvasmányai közé tartozik. Legújabb könyve, a Homo Deus: a Brief History of Tomorrow (Homo Deus: a holnap rövid története), arról szól, hogy mit tartogat a jövő az emberiség számára, illetve a fenyegetésről, amit saját intelligenciánk és kreatív kapacitásunk jelent a jövőnkre.

Hararival nemrég vettem fel egy beszélgetést az Ezra Klein Show nevű podcastomhoz. A teljes beszélgetést itt lehet meghallgatni. Az alábbi, szerkesztett kivonatban Harari és én a mesterséges intelligencia térhódításáról vitatkozunk, illetve arról, hogy a digitális tudat szükségszerű mellékterméke-e a digitális intelligenciának, és hogy mit jelent mindez az emberiség számára.

Hararinál én egy kicsit kevésbé vagyok meggyőződve arról, hogy a komputerek jönnek, és elveszik a munkánkat, illetve hogy az emberek nemsokára teljesen feleslegessé válnak gazdasági értelemben. Harari ugyanakkor elég meggyőzően érvel amellett, hogy tévedek.

Beszélgettünk a virtuális valóságról is, illetve annak lehetőségéről, hogy a gazdasági jelentéktelenség problémáját oly módon fogjuk kezelni, hogy mesterséges csodaországokba vonulunk vissza, amik megadják számunkra az értelmet, illetve a narratívát, amit a valóság megtagad tőlünk. Harari szerint ezt a gyógyírt már egy évezrede alkalmazzuk: vallásnak hívják.

Ezra Klein: Gondolja, hogy 200-300 év múlva is az emberek lesznek a domináns szereplők a Földön?

Yuval Harari: Egészen biztosan nem. Ha 50 évről beszélnénk, nehéz lenne válaszolni, de 300 évnél a kérdés nagyon könnyű. 300 év múlva biztosan nem a Homo sapiens lesz a domináns életforma a Földön, ha egyáltalán létezünk még akkor.

A technológiai fejlődés jelenlegi ütemét tekintve elképzelhető, hogy elpusztítjuk magunkat valamilyen ökológiai vagy nukleáris katasztrófában. De valószínűbb, hogy a biotechnológia, a gépi tanulás és a mesterséges intelligencia (MI) segítségével egy teljesen másfajta lénnyé minősítjük fel magunkat, vagy pedig létrehozunk egy olyan, teljesen másfajta lényt, ami átveszi tőlünk az irányítást.

Akárhogy is lesz, 200 vagy 300 év múlva a Földet uraló lények sokkal jobban fognak különbözni tőlünk, mint amennyire mi különbözünk az ősemberektől vagy a csimpánzoktól.

Ezra Klein: Az MI végső soron bekövetkező diadala mellett szóló érvek hallatán nekem mindig úgy tűnik, hogy a legagyasabb emberek – az Elon Musk-ok, a Yuval Harari-k, a Bill Gates-ek – túlbecsülik az agyi képességek jelentőségét. Pedig nem olyan biztos, hogy az analitikus képességeink tették lehetővé a dominanciánkat. Hanem inkább a kooperáció és egyéb tényezők.

Yuval Harari: Teljes mértékben egyetértek azzal, hogy a sikerhez a kooperáció a nyers intelligenciánál sokkal fontosabb. De az a helyzet, hogy az MI, legalábbis potenciálisan, sokkal kooperatívabb lesz az embereknél. Hogy egy híres példát mondjak: mostanában mindenki az önvezető autókról beszél. Az önvezető autó hatalmas előnye az emberi sofőrrel szemben nem csak az, hogy biztonságosabb, olcsóbb, és hatékonyabb. Az igazi előny éppen abban rejlik, hogy az önvezető autókat össze lehet egymással kapcsolni, hogy egy önálló hálózatot alkossanak, ami emberi sofőrökkel nem lehetséges.

Ugyanez a helyzet még sok más területen. Ha az orvostudományra gondolunk, millió orvos van a világon, és nagyon gyakran nem jól működik a kommunikáció a különböző szakorvosok között. Ha MI-orvosokra váltunk, akkor nem lesz többé millió szakorvos. Egyetlen egészségügyi hálózat lesz, ami a világ összes emberének egészségét felügyeli.

Ha most, miközben beszélünk, egy MI-orvos Timbuktuban újfajta betegséget észlel, vagy felfedez egy új gyógymódot, akkor az az információ azonnal elérhető lesz az én saját személyes MI-orvosom számára az okostelefonomon. Az MI legnagyobb előnyei éppen a kooperáció területén vannak, nem pedig az intelligencia területén.

Nagy a zavar akörül, hogy mit jelent vagy mit nem jelent az MI. Számomra a legnagyobb zavar az intelligencia és a tudat közötti különbség. A sci-fi filmek 95%-a azon a hibán alapul, hogy a mesterséges intelligencia szükségszerűen mesterséges tudattal jár együtt. Azt feltételezik, hogy a robotoknak érzelmeik lesznek, hogy képesek lesznek érezni dolgokat, hogy az emberek szerelmesek lesznek beléjük, vagy hogy el akarnak majd pusztítani minket. Ez nem igaz.

Az intelligencia nem egyenlő a tudattal. Az intelligencia a problémák megoldására való képesség. A tudat pedig az érzés képessége. Az emberek és az állatok esetében a kettő valóban együtt jár. Az emlősök a megérzéseik útján oldanak meg problémákat. Az érzelmeink és érzéseink szerves részét képezik a problémamegoldó módszereinknek. De a komputerek esetében a kettő nem jár együtt.

Az elmúlt néhány évtizedben hatalmas fejlődés történt a számítógépes intelligencia területén és egészen pontosan nulla fejlődés történt a számítógépes tudat területén. Abszolúte semmi okunk nincs azt gondolni, hogy a komputerek közel állnak ahhoz, hogy önálló tudattal rendelkezzenek. Lehet, hogy az evolúciójuk egy teljesen másfajta útvonal mentén halad, mint az emlősöké. Utóbbiak esetében az evolúció a tudat által hajtotta az emlősöket a magasabb intelligencia felé, de a komputerek esetében elképzelhető, hogy ezzel párhuzamos, de mégis nagyon más út mentén zajlik majd a fejlődés, aminek a tudathoz semmi köze.

Lehet, hogy a jövő egy tudattalan szuperintelligenciával rendelkező világ. A nagy kérdés nem az, hogy az emberek vajon szerelmesek lesznek-e a robotokba, vagy hogy a robotok meg akarják-e majd ölni az embereket. A nagy kérdés az, hogy hogyan néz ki a tudattalan szuperintelligencia világa? A történelemben abszolúte semmi nincsen, ami felkészíthetne minket erre a forgatókönyvre.

Ezra Klein: Számomra ez a legizgalmasabb kérdés az MI-val kapcsolatban, ugyanakkor úgy érzem, szinte mindig figyelmen kívül hagyják. A düh, a fájdalom érzése afelé hajt minket, hogy megoldjuk a problémákat. És nagyon elemi szinten ott van a szaporodás ösztöne, amit szintén a szerelem és a vágy érzései közvetítenek.

Nem csak az emberi civilizáció, de a Földön élő állatok élete is látszólag nagyrészt arról szól, hogy megpróbálják biztosítani a reprodukciót a fajuk számára. Ahol falba ütközöm az MI-vel kapcsolatban, az az a pont, amikor megpróbálom elképzelni ezt a szuperintelligenciát, ami nem rendelkezik elemi biológiai ösztönökkel. Még ha úgy is képzeljük, hogy rendelkezik valamiféle tudattal, az nem a mi tudatunk.

Tehát az MI a hatalmas intelligenciájával problémákat fog megoldani, de mi fogja motiválni? Miért akarna problémákat megoldani? Mely problémákat akarja majd megoldani? Úgy érzem, hogy az MI-ről szóló párbeszédek nagy része azt feltételezi, hogy az emberekhez hasonlóan mindig többre fog vágyni: hogy elér valamit, és onnan is tovább akar menni. Az MI lesz a legjobb Go-játékos, de nem elégszik meg ennyivel. A Monopolyban is majd jobb akar lenni mindenkinél. Aztán a Guitar Hero-ban is. De az nem világos számomra, hogy mitől lenne így, ha egyáltalán így lesz.

Yuval Harari: Az első generációs MI-k esetében elmondhatjuk, hogy a motivációt az MI-t programozó emberek fogják meghatározni, de ahogy a gépi tanulás beindul, onnantól fogalmunk sincs, merre tovább. Nem lesznek emberi értelemben vett vágyai, hiszen nem lesz tudata. Nem lesz szelleme, de kifejlesztheti saját viselkedésmintáit, amelyeknek megértése messze meg fogja haladni a mi értelmi képességeinket.

A gépi tanulás, az MI és a többi vonzereje abban rejlik, hogy az MI oly módon ismer fel mintákat és hoz döntéseket, amit az emberek képtelenek utánozni vagy megjósolni. Ez azt is jelenti, hogy nem tudjuk igazából megjósolni, hogy hova fog fejlődni. Ez része a veszélynek. Azokat a szcenáriókat, amelyekben az MI meghaladja az emberi intelligenciát, a definícióból adódóan nem vagyunk képesek elképzelni.

Ezra Klein: Ha egyszer ekkora a bizonytalanság az MI fejlődéséről, illetve arról, hogy hogyan fog kinézni, akkor miért annyira biztos abban, hogy 300 év múlva nem az ember lesz az uralkodó életforma a Földön?

Yuval Harari: Nem azért, mert túlbecsülöm az MI-t. Hanem azért, mert a legtöbb ember túlbecsüli az emberi lényeket. Az MI-nek nem kell látványos dolgokat tennie ahhoz, hogy a legtöbb embert helyettesítse. A legtöbb dolog, amire az emberektől a politikai és gazdasági rendszereknek szüksége van, valójában igen egyszerűek.

Korábban említettem a taxivezetést vagy a betegségek diagnosztizálását. Ezek olyan feladatok, amiket az MI hamarosan sokkal jobban fog tudni elvégezni az embereknél, még tudat nélkül is, még érzelmek, érzések, és szuperintelligencia nélkül is. Ma a legtöbb ember nagyon specifikus feladatokat végez, ezekben az MI hamarosan jobb lesz náluk.

Ha visszamegyünk a vadászó-gyűjtögető korba, akkor viszont másképp fest a dolog. Nagyon nehéz lenne olyan vadászó-gyűjtögető robotot építeni, ami az emberrel versenyre kelhetne. De olyan önvezető autót építeni, ami jobb, mint egy taxisofőr? Könnyű. Egy MI-orvost építeni, ami jobban diagnosztizálja a rákot az emberi doktornál? Könnyű.

A 21. században annak a lehetőségéről beszélünk, hogy az emberek hamarosan elvesztik gazdasági és politikai jelentőségüket. Egyfajta hatalmas, haszontalan osztályt fognak képezni – nyilván nem az anya vagy a gyermek szemszögéből lesznek haszontalanok, hanem a gazdasági, katonai és politikai rendszerek szempontjából. Amikor ez megtörténik, a rendszer már nem lesz ösztönözve arra, hogy invesztáljon az emberekbe.

Ezra Klein: Hadd tegyem próbára ezt az állítást. Mondjuk, hogy ez a változás 50, 100, 150 év múlva bekövetkezik.

Yuval Harari: 50 év, az nagyon gyors.

Ezra Klein: Értem, de gazdasági szempontból nem számít rövid időnek. 1900-ban az amerikai munkaerő nagy része mezőgazdasági munkát végzett. 2000-re ez már egyáltalán nem volt igaz. A mezőgazdasági munkát végzők egy egészen aprócska részét tették ki a népességnek illetve a munkaerőnek.

Rátérve a gazdasági haszontalanság gondolatára, rengeteg olyan “hasznos” munkát, mint pl. a mezőgazdasági munkák, felcseréltünk olyan munkákra, mint például az enyém, ami objektíve nem annyira hasznos. Szüksége van a világnak arra, hogy podcastokat készítsek és cikkeket írjak? Szüksége van érdekes könyvekre a lehetséges jövőkről? Valószínűleg nem.

Amiben gazdasági szempontból hasznosak vagyunk, az a történetmesélés arról, hogy mire van szükségünk. Történeteket mesélünk zöld papírdarabokról, amiket pénznek használunk, és történeteket mesélünk azon dolgok értékéről, amiket a zöld papírdarabkákkal vásárolunk meg. Még arról is meg tudjuk győzni magunkat, hogy a szőlőlé, ha sokáig állni hagyjuk, akkor egy bor nevű csodálatos dologgá válik, aminek palackja akár 1000 dollárt is érhet!

Lehet, hogy eljutunk oda, hogy a taxikat komputerek vezetik, és majd azt mondjuk egymásnak, hogy amire igazán szükségünk van az életben, az több jóga- és meditációoktató. Mondhatjuk folyamatosan, hogy “Ezt is a komputer fogja csinálni”, de én nem hiszem, hogy ne tudnánk találni olyan dolgokat, amikről úgy döntünk, hogy értéket képviselnek.

Az a gyanúm, hogy összemossuk az emberek hasznosságát és az emberek értékével. A hasznosság valamilyen szinten egy normatív ítélet. Az érték egy történet – mi döntjük el, minek van értéke – és mi emberek kifejezetten jók vagyunk abban, hogy történeteket gyártsunk arról, hogy mit akarunk.

Yuval Harari: Úgy gondolom, a válasz erre a kérdésre kétrétű. Mindenekelőtt, azzal kapcsolatban, hogy új munkalehetőségek fognak felbukkani, mint ahogy a farmerek is először gyárakba vonultak, majd a szolgáltatások területére, most pedig jógaoktatókká lettek, az a probléma, hogy az embereknek alapvetően kétfajta képességeit ismerjük: fizikai és kognitív képességeket.

A múltban a gépek a fizikai képességeinkkel szálltak versenybe a földeken és a gyárakban, így egyre több ember váltott át olyan területre, ahol főleg a kognitív képességeire van szükség. Most a gépek ezen a területen is versenyeznek velünk, és nem ismerünk harmadik fajta képességet, ami felé továbbállhatnánk.

Ezra Klein: Mondhatok egyet? Tom Friedman azt mondja, hogy az agyat igénybe vevő munkákról a szívet igénybe vevő munkák felé haladunk. Nekem úgy tűnik, hogy az emberek egyik fontos képessége, hogy élvezik az egymással való interakciót. Használhatnék egy komputert is jógaoktatónak, de nem fogok.

Ön is jó példa erre. 60 napos csendes meditatív elvonulásra készül. Nyilván léteznek már olyan komputerek, amik képesek egybevetni az össze online fellelhető információt a meditációról, vagy elolvasni az összes, a témában valaha írt könyvet és aztán kiadni egy papírt, amivel el lehetne vonulni egy szobába 60 napra, teljesen ingyen – de az ember keresi az interakciót a másikkal.

Én úgy gondolom, hogy a gazdaság területén a legtöbb munka tulajdonképpen már most haszontalan. A könyvek bizonyos értelemben analógiául szolgálnak a számítógépekre – annyi mindent tehetnének értünk, ha hagynánk, de nem hagyjuk. Ön, ha jól tudom, egyetemen oktat. Egyszerűen elolvastathatná a diákokkal a könyveket, de nem, az emberek szeretik, ha tanárok oktatják őket. Szeretik, ha a többi diák közelében vannak. Amiben jók vagyunk, az a többi emberrel való interakció.

Yuval Harari: Valószínű, hogy hatalmas fejlődésnek leszünk tanúi a komputerek azon képességét illetően, hogy olvassanak az emberek érzelmeiben, illetve megértsék őket. Valószínűleg ebben is túlhaladják az embereket. Ha valaki elmegy orvoshoz, akkor az olvas az arckifejezéséből, a hangtónusából, illetve természetesen a szavai értelméből. Az orvos háromféleképpen elemez, és ebből tudja meg, hogy az illető éppen fél, vagy unott, vagy dühös, vagy akármi.

Na már most, még nem tartunk ott, de nagyon közel állunk ahhoz a ponthoz, amikor a komputer ezeket a biológiai mintákat az embernél jobban fel tudja ismerni. Az érzelmek nem valamiféle misztikus jelenségek, amiket csak az emberek képesek leolvasni.  Ezenkívül a komputerek az olyan testi jeleket is tudni fogják érzékelni, amiket az emberi orvos nem. A testre vagy testbe helyezett biometrikus érzékelőkkel a komputer bármelyik embernél sokkal pontosabban fogja diagnosztizálni az illető érzelmi állapotát. Az MI még ebben is túl fog minket haladni.

A 20. században az történt, hogy azok, akik a mezőgazdaságban elvesztették a munkájukat, alacsony képzettséget igénylő gyári munkákat kaptak, majd amikor ezek is eltűntek, alacsony képzettségű – például pénztárosi – munkákat kaptak a szolgáltatási szektorban. A 21. század igazi problémája, hogy az alacsony képzettséget igénylő munkák egyszer és mindenkorra megszűnnek, és ezeket az embereket igen nehéz lesz átképezni magas képzettséget igénylő munkákra. Ha 50 évesen valaki elveszti taxisofőri állását, és át kell képeznie magát jógaoktatónak, nagyon, nagyon nehéz dolga lesz.

Ezra Klein: Az imént felvázolt forgatókönyv másik oldala a nonproduktív hiper-szórakozás. Őszintén szólva én sokkal aggasztóbbnak találom a virtuális valóság disztópiáját mint a mesterséges intelligenciáét.

Ha az emberek elvesztik gazdasági hasznosságukat, könnyű elképzelni, hogy vissza fognak vonulni a virtuális valóságba, ami már most is elég jó, de 20 év múlva még elképesztőbb lesz. Elképzelhető egy olyan jövő, amelyben a gazdasági feleslegességünket egy hatalmas társadalmi figyelem-elterelő gépezettel próbáljuk kezelni?

Yuval Harari: Igen, úgy gondolom, az MI felülkerekedése nem csak gazdasági problémát jelent, hanem az élet értelmét kérdőjelezi meg. Ha az embernek nincs munkája, és mondjuk az állam által biztosított feltétel nélküli alapjövedelemből él, akkor mi az élete értelme? Mit csinál egész nap?

Jelenleg a drogokkal és a számítógépes játékokkal bírtunk előhozakodni válaszként. Az emberek egyre inkább szabályozzák majd a hangulatukat különböző biokemikáliákkal, és egyre inkább bevonódnak a három dimenziós virtuális valóságba.

Nem új keletű dolog, hogy az emberek virtuális valóságbéli játékokban keresik az élet értelmét. Nagyon is régi dolog. Évezredek óta találunk értelmet a virtuális valóságbéli játékokban. Csak ezeket eddig vallásnak neveztük.

A vallás nem más, mint egy játék a virtuális valóságban. Az ember kitalál szabályokat, amik a valóságban nem igazán léteznek, de mégis hisz bennük, és egész életében megpróbálja őket követni. A keresztény vallásban ez így néz ki: ha ezt és ezt teszed, pontokat kapsz. Ha bűnözöl, pontokat vesztesz. Ha elég pontot összeszedsz a halálodig, akkor a következő szintre léphetsz. Bejutsz a mennyországba.

Ezt a virtuális játékot az emberek már több ezer éve játsszák, és viszonylag elégedetté és boldoggá tette őket. A 21. században annyi a különbség, hogy a technológia által sokkal meggyőzőbb virtuális valóságbéli játékokat tudunk kreálni azoknál, mint amiket az elmúlt ezer évben játszottunk. Megvan a technológiánk rá, hogy igazi mennyországokat és poklokat teremtsünk, nem csak a képzeletünkben, hanem bitekkel, illetve közvetlen interfészekkel az agyunk és a komputer között.

Megjelent: 2017. március 27.

Eredeti cikk



Kategóriák:Életmód, Gazdaság, Innováció, Multimédia, Tudomány

Címkék:, , , , ,