Yuval Harari over waarom mensen de aarde over 300 jaar niet zullen domineren

Het is niet omdat ik de AI overschat. Dat komt omdat de meeste mensen de neiging hebben om mensen te overschatten.

Ming Yeung / Getty

Yuval Noah Harari's eerste boek, Sapiens , was een internationale sensatie. De geestverruimende reis van de Israëlische historicus door de triomf van homo sapiens is een favoriet van onder meer Bill Gates, Mark Zuckerberg en Barack Obama. Zijn nieuwe boek, Homo Deus: een korte geschiedenis van morgen , gaat over wat er daarna komt voor de mensheid - en de bedreiging die onze eigen intelligentie en creatieve capaciteit vormt voor onze toekomst.

Ik sprak onlangs met Harari voor mijn podcast, De Ezra Klein-show . Om ons hele gesprek te horen, abonneer je op iTunes (of waar je je podcasts ook vandaan haalt) of stream het uit SoundCloud . In dit fragment, dat uitgebreid en duidelijk is bewerkt, bespreken Harari en ik de opkomst van kunstmatige intelligentie, of digitaal bewustzijn een noodzakelijk bijproduct is van digitale intelligentie en wat dit allemaal zal betekenen voor de mens.



Verwant

Yuval Harari, auteur van Sapiens, over hoe meditatie hem een ​​betere historicus maakte

Zoals je zult zien, ben ik er iets minder van overtuigd dan Harari dat de computers komen voor onze banen, en dat mensen op de rand van economische nutteloosheid staan. Maar het kan heel goed zijn dat ik het bij het verkeerde eind heb, en hij maakt duidelijk dat ik dat ben.

We praten ook over virtual reality en de mogelijkheid dat we het probleem van economische irrelevantie kunnen oplossen door ons terug te trekken in kunstmatige wonderlanden die ons de betekenis en het verhaal geven dat ons dagelijks leven ons ontzegt. Harari stelt dat we die zalf nu al een millennium gebruiken - we noemden het gewoon religie.

Ezra Klein

Denk je dat de mens over 200 of 300 jaar de dominante acteur op aarde zal zijn?

Yuval Harari

Absoluut niet. Als je het mij over 50 jaar zou vragen, zou het een moeilijke vraag zijn, maar over 300 jaar is het een heel gemakkelijke vraag. Over 300 jaar, homo sapiens zal niet de overheersende levensvorm op aarde zijn, als we al bestaan.

Gezien het huidige tempo van technologische ontwikkeling, is het mogelijk dat we onszelf vernietigen in een ecologische of nucleaire ramp. De meest waarschijnlijke mogelijkheid is dat we bio-engineering en machine learning en kunstmatige intelligentie zullen gebruiken om onszelf op te waarderen tot een totaal ander soort wezen of om een ​​totaal ander soort wezen te creëren dat het over zal nemen.

Hoe dan ook, over 200 of 300 jaar zullen de wezens die de aarde zullen domineren veel meer van ons verschillen dan wij van neanderthalers of chimpansees.

Ezra Klein

Als ik dit soort argumenten hoor over de uiteindelijke triomf van AI, lijkt het me vaak dat de meest cerebrale mensen – jullie Elon Musks en Yuval Hararis en Bill Gateses – het belang van cerebrale capaciteiten overschatten. Maar het is niet duidelijk dat het onze analytische capaciteiten waren die ons in staat stelden te domineren. Het was onze samenwerking en andere factoren.

Yuval Harari

Ik ben het er helemaal mee eens dat voor succes samenwerking meestal belangrijker is dan alleen ruwe intelligentie. Maar het punt is dat AI veel meer coöperatief zal zijn, althans potentieel, dan mensen. Om een ​​beroemd voorbeeld te noemen: iedereen heeft het nu over zelfrijdende auto's. Het grote voordeel van een zelfrijdende auto ten opzichte van een menselijke bestuurder is niet alleen dat de zelfrijdende auto als individueel voertuig waarschijnlijk veiliger, goedkoper en efficiënter is dan een door mensen bestuurde auto. Het echt grote voordeel is dat zelfrijdende auto's allemaal met elkaar kunnen worden verbonden om een ​​enkel netwerk te vormen op een manier die je niet kunt doen met menselijke chauffeurs.

Zo is het ook met veel andere velden. Als je aan medicijnen denkt, heb je tegenwoordig miljoenen menselijke artsen en heel vaak heb je miscommunicatie tussen verschillende artsen, maar als je overstapt naar AI-artsen, heb je niet echt miljoenen verschillende artsen. Je hebt één medisch netwerk dat de gezondheid van iedereen in de wereld bewaakt.

Als op dit moment, op dit moment, een AI-arts in Timboektoe een nieuwe ziekte of een nieuwe behandeling ontdekt, is deze informatie direct beschikbaar voor mijn persoonlijke AI-arts op mijn smartphone. Enkele van de grootste voordelen van AI liggen op het gebied van samenwerking, niet op het gebied van intelligentie.

Er is veel verwarring over wat kunstmatige intelligentie wel of niet betekent, vooral in plaatsen als Silicon Valley. Voor mij is de grootste verwarring tussen intelligentie en bewustzijn. Vijfennegentig procent van de sciencefictionfilms is gebaseerd op de fout dat kunstmatige intelligentie onvermijdelijk een kunstmatig bewustzijn zal zijn. Ze gaan ervan uit dat robots emoties zullen hebben, dingen zullen voelen, dat mensen verliefd op ze zullen worden, of dat ze ons willen vernietigen. Dit is niet waar.

Intelligentie is geen bewustzijn. Intelligentie is het vermogen om problemen op te lossen. Bewustzijn is het vermogen om dingen te voelen. Bij mensen en andere dieren gaan de twee inderdaad samen. De manier waarop zoogdieren problemen oplossen, is door dingen te voelen. Onze emoties en sensaties zijn echt een integraal onderdeel van de manier waarop we problemen in ons leven oplossen. In het geval van computers zien we de twee echter niet samengaan.

In de afgelopen decennia is er een enorme ontwikkeling geweest in computerintelligentie en precies nul ontwikkeling in computerbewustzijn. Er is absoluut geen reden om te denken dat computers in de buurt komen van het ontwikkelen van bewustzijn. Ze kunnen zich langs een heel ander traject bewegen dan de evolutie van zoogdieren. In het geval van zoogdieren heeft evolutie zoogdieren door middel van bewustzijn naar een grotere intelligentie gedreven, maar in het geval van computers kunnen ze een parallelle en heel andere route volgen naar intelligentie die helemaal geen bewustzijn omvat.

We bevinden ons misschien in een wereld met onbewuste superintelligentie. De grote vraag is niet of de mensen verliefd zullen worden op de robots of dat de robots zullen proberen de mensen te doden. De grote vraag is hoe een wereld van onbewuste superintelligentie eruitziet? Omdat we absoluut niets in de geschiedenis hebben dat ons voorbereidt op een dergelijk scenario.

Ezra Klein

Voor mij is dat de meest interessante vraag over AI, en die vraag wordt volgens mij bijna altijd genegeerd. De reden dat we problemen oplossen, is omdat gevoelens ons drijven. Het gevoel van woede, het gevoel van pijn, deze leiden ertoe dat we proberen problemen op te lossen. En op een heel basaal niveau is er de drang om zich voort te planten, die ook wordt gemedieerd door gevoelens van liefde en lust.

Zoveel van, niet alleen de menselijke beschaving, maar de manier waarop alle dieren op aarde lijken te werken, probeert de voortplanting voor hun soort veilig te stellen. De vraag waar ik altijd tegenaan loop als ik me probeer AI voor te stellen, is hoe superintelligentie eruitziet zonder de fundamentele biologische drijfveren van reproductie? Zelfs als je je voorstelt dat het zoiets als bewustzijn zou hebben, zou het niet ons bewustzijn hebben.

Dus AI zou krachtige intelligentie hebben om problemen op te lossen, maar wat zou de motivatie zijn? Waarom zou het die problemen willen oplossen? Welke problemen zou het willen oplossen? Ik heb het gevoel dat zoveel van het AI-gesprek ervan uitgaat dat de AI het menselijke verlangen naar meer zal hebben, dat het iets zal hebben en dan meer dingen zal willen. Het zal de beste Go-speler worden, maar daar wil het niet bij blijven. Het zal ook beter moeten zijn dan wie dan ook bij Monopoly. Het zal ook beter moeten zijn dan wie dan ook in het spelen Gitaar Held op de PlayStation. Maar het is mij niet duidelijk dat dat waar zou zijn of wat het waar zou maken.

Yuval Harari

In de eerste generaties AI kun je zeggen dat de motivatie wordt bepaald door de mensen die de AI programmeren, maar als machine learning begint, heb je echt geen idee waar de AI naartoe gaat. Het zal geen verlangens hebben in menselijke zin omdat het geen bewustzijn zal hebben. Het zal geen geest hebben, maar het zou zijn eigen gedragspatronen kunnen ontwikkelen die ver buiten ons begripsvermogen liggen.

De aantrekkingskracht van machine learning en deep mind en AI voor de mensen in de industrie is dat de AI patronen kan gaan herkennen en beslissingen kan nemen op een manier die geen mens kan evenaren of voorspellen. Dat betekent dat we niet echt kunnen voorzien waar de AI zich zal ontwikkelen. Dit is een deel van het gevaar. De scenario's waarin AI verder gaat dan menselijke intelligentie, zijn per definitie de scenario's die we ons niet kunnen voorstellen.

Ezra Klein

Waarom ben je er dan, gezien de onzekerheid over zowel de ontwikkeling van AI als hoe een AI eruit zou zien, zo overtuigd dat de mens over 300 jaar geen dominante levensvorm zal zijn?

Yuval Harari

Het is niet omdat ik de AI overschat. Dat komt omdat de meeste mensen de neiging hebben om mensen te overschatten. Om de meeste mensen te vervangen, hoeft de AI geen spectaculaire dingen te doen. De meeste dingen die het politieke en economische systeem van mensen nodig heeft, zijn eigenlijk vrij eenvoudig.

We hadden het eerder over het besturen van een taxi of het diagnosticeren van een ziekte. Dit is iets dat AI binnenkort beter zal kunnen dan mensen, zelfs zonder bewustzijn, zelfs zonder emoties of gevoelens of superintelligentie. De meeste mensen doen tegenwoordig heel specifieke dingen die een AI binnenkort beter kan dan wij.

Als je teruggaat in de tijd naar de tijd van de jager-verzamelaars, dan is het een ander verhaal. Het zou buitengewoon moeilijk zijn om een ​​jager-verzamelaarsrobot te bouwen die kan concurreren met een mens. Maar om een ​​zelfrijdende auto te maken die beter is dan een menselijke taxichauffeur? Dat is gemakkelijk. Om een ​​AI-arts te creëren die kanker beter diagnosticeert dan een menselijke dokter? Dat is gemakkelijk.

Waar we het in de 21e eeuw over hebben, is de mogelijkheid dat de meeste mensen hun economische en politieke waarde zullen verliezen. Ze zullen een soort massale nutteloze klasse worden - nutteloos niet vanuit het oogpunt van hun moeder of van hun kinderen, nutteloos vanuit het oogpunt van het economische, militaire en politieke systeem. Zodra dit gebeurt, verliest het systeem ook de prikkel om in mensen te investeren.

Ezra Klein

Laat me je daarin uitdagen. Laten we zeggen dat deze verandering plaatsvindt over 50, 100, 150 jaar.

heb ik een speciale licentie nodig om te vliegen?

Yuval Harari

Vijftig jaar is echt heel snel.

Ezra Klein

Ik begrijp het, maar het is niet per se zo snel voor de economie. Een manier om dit te zeggen is dat in 1900 een groot deel van de Amerikaanse beroepsbevolking werkzaam was in de landbouw. In 2000 was dat helemaal niet waar. Landbouw was een zeer klein percentage van de bevolking als percentage van de beroepsbevolking.

Wat betreft uw punt over economische nutteloosheid, we hebben zeer 'nuttige' banen zoals landbouw vervangen door veel banen zoals de mijne die objectief niet zo nuttig zijn. Heeft de wereld het nodig dat ik podcasts doe en artikelen schrijf? Moet je interessante boeken schrijven over mogelijke toekomsten? Waarschijnlijk niet.

Waar we goed in zijn in de economie, is verhalen vertellen over wat we nodig hebben. We vertellen verhalen over de groene stukjes papier die ons geld vormen, en we vertellen verhalen over de waarde van de dingen die we kopen met die groene stukjes papier. We weten onszelf ervan te overtuigen dat druivensap, als je het maar lang genoeg laat staan, dit geweldige ding wordt dat wijn wordt genoemd en wel duizend dollar waard kan zijn!

We kunnen op een punt komen waarop computers taxi's besturen en we elkaar gewoon vertellen wat we echt nodig hebben in het leven, meer yogaleraren en meditatieleraren. Je kunt continu zeggen: 'Nou, dan doet de computer dat wel', maar ik ben een beetje sceptisch dat we als soort niet in staat zullen zijn om dingen te vinden waarvan we besluiten dat ze waarde toevoegen.

Ik vraag me een beetje af hoe mensen die nuttig zijn samengaan met mensen die gewaardeerd worden. Nuttig is een normatief oordeel op een bepaald niveau. Waarde is een verhaal - we beslissen wat waarde heeft - en we zijn goed in het creëren van verhalen over wat we willen.

Yuval Harari

Ik denk dat het antwoord op twee niveaus ligt. Ten eerste, met betrekking tot de mogelijkheid dat er nieuwe banen zullen verschijnen, net als landarbeiders naar fabrieken verhuisden en vervolgens naar diensten en nu zijn ze yogaleraren, het probleem hier is dat mensen in feite twee soorten vaardigheden hebben die we kennen: fysieke vaardigheden en cognitieve vaardigheden.

In het verleden, toen machines met ons concurreerden op het gebied van fysieke capaciteiten op het land en in de fabrieken, gingen steeds meer mensen werken in banen waarvoor voornamelijk cognitieve vaardigheden nodig waren. Nu beginnen de machines ook op cognitief gebied te concurreren, en we weten niet of we een derde soort vaardigheid zouden kunnen ontwikkelen om daarin te werken.

Ezra Klein

Mag ik er een aanbieden? Tom Friedman, die goed is in het plaatsen van dingen in mooie kleine taalcapsules, zegt graag dat we van banen van de geest naar banen van het hart gaan. Het lijkt mij dat het vermogen van mensen is dat mensen ervan genieten om met andere mensen om te gaan. l kon laat een computer me yoga leren, maar dat doe ik niet.

Je bent een goed voorbeeld. Je gaat 60 dagen naar een stilte meditatie retraite. We hebben zeker al computers die online meditatie-informatie kunnen verzamelen, die elk boek kunnen lezen dat ooit over meditatie is geschreven en je een afdruk kunnen uitspugen, en dan zou je 60 dagen in je eentje naar een kamer kunnen gaan en het voor geen geld doen - maar je wilt die mensen, je wilt die interacties.

Ik denk eigenlijk dat veel banen in de economie zo zijn. Ik denk dat zelfs nu veel banen eigenlijk nutteloos zijn. Boeken zijn hier in zekere zin analoog aan computers - er is zoveel dat we boeken voor ons zouden kunnen laten doen, maar dat doen we niet. Ik geloof dat je lesgeeft aan een universiteit. Je zou iedereen de boeken kunnen laten lezen, maar mensen hebben graag leraren. Ze vinden het leuk om TA's te hebben. Ze zijn graag in de buurt van andere studenten. Waar mensen goed in zijn, en al een tijdje zijn, is interactie met andere mensen.

Yuval Harari

We zullen waarschijnlijk een enorme vooruitgang zien in het vermogen van de computer om menselijke emoties beter te lezen en te begrijpen dan mensen dat kunnen. Als je naar de dokter gaat, wil je dat warme gevoel van een mens die met je omgaat. De dokter doet dat door je gezichtsuitdrukkingen en je stem te lezen en natuurlijk de inhoud van je woorden. Dit zijn de drie manieren waarop een menselijke arts je emotionele toestand analyseert en weet of je bang of verveeld of boos bent of wat dan ook.

Nu zijn we er nog niet, maar we zijn heel dicht bij het punt waarop een computer deze biologische patronen beter kan herkennen dan een mens. Emoties zijn geen mystieke verschijnselen die alleen mensen kunnen lezen. Bovendien zal de computer signalen kunnen lezen die van uw lichaam komen, wat geen menselijke arts kan doen. U kunt biometrische sensoren op of in uw lichaam hebben en de computer zal uw exacte emotionele toestand veel beter kunnen diagnosticeren dan enig mens. Zelfs daarin zal AI een voordeel hebben.

Het andere punt is dat wat er in de 20e eeuw gebeurde, is dat mensen die hun baan in de landbouw verloren, laaggeschoolde banen in fabrieken kregen, en toen deze banen verdwenen, kregen ze laaggeschoolde banen in de dienstensector, zoals kassier zijn. Het echte probleem in de 21e eeuw is dat de laaggeschoolde banen zullen verdwijnen en dat we een heel groot probleem zullen hebben om mensen om te scholen naar hooggeschoolde banen. Als je je baan als taxichauffeur verliest als je bijvoorbeeld 50 jaar oud bent en je moet jezelf op 50-jarige leeftijd opnieuw uitvinden als yogaleraar, dan wordt dit heel, heel moeilijk.

Ezra Klein

De andere kant van het scenario dat je aan het uitstippelen bent, is een wereld waarin wat er uiteindelijk gebeurt een soort niet-productief, hyperplezierscenario is. Ik maak me eerlijk gezegd veel meer zorgen over de VR-dystopie dan over de AI-dystopie.

In een wereld waar mensen hun economisch nut verliezen, is het gemakkelijk voor te stellen dat ze zich terugtrekken in virtual reality, wat al verdomd goed is, en over 20 jaar geweldig zal zijn. Stelt u zich een mogelijke toekomst voor waarin we het probleem van economische irrelevantie proberen te beheersen door middel van een enorme maatschappelijke afleidingsmachine?

Yuval Harari

Ja, ik denk dat het andere probleem met AI die het overneemt niet het economische probleem is, maar echt het probleem van de betekenis - als je geen baan meer hebt en, laten we zeggen, de overheid je een universeel basisinkomen geeft of zoiets, de grote probleem is hoe vind je zin in het leven? Wat doe je de hele dag?

Hier zijn de beste antwoorden die we tot nu toe hebben drugs en computerspelletjes. Mensen zullen hun stemmingen steeds meer reguleren met allerlei biochemicaliën, en ze zullen zich steeds meer bezighouden met driedimensionale virtuele realiteiten.

Dit idee dat mensen betekenis vinden in virtual reality-games is eigenlijk geen nieuw idee. Het is een heel oud idee. We vinden al duizenden jaren betekenis in virtual reality-games. We noemden het tot nu toe gewoon religie.

Je kunt religie gewoon zien als een virtual reality-spel. Je bedenkt regels die niet echt bestaan, maar je gelooft deze regels, en je hele leven probeer je de regels te volgen. Als je christen bent, dan krijg je punten als je dit doet. Als je zondigt, verlies je punten. Als je tegen de tijd dat je het spel voltooit wanneer je dood bent, genoeg punten hebt behaald, ga je door naar het volgende niveau. Je gaat naar de hemel.

Mensen spelen dit virtual reality-spel al duizenden jaren en het maakte hen relatief tevreden en gelukkig met hun leven. In de 21e eeuw hebben we gewoon de technologie om veel overtuigender virtual reality-games te maken dan degene die we de afgelopen duizenden jaren hebben gespeeld. We zullen de technologie hebben om hemelen en hellen te creëren, niet in onze geest, maar met behulp van bits en met behulp van directe hersen-computerinterfaces.