Stephen Hawking's laatste waarschuwing voor de mensheid: AI komt voor ons

Zijn postuum gepubliceerde boek over onze toekomst biedt angst en verrassend optimisme.

Nieuw

Professor Stephen Hawking op het podium tijdens de 'Breakthrough Starshot'-aankondiging van het New Space Exploration Initiative bij One World Observatory op 12 april 2016 in New York City.

Jemal Gravin/Getty Images

Dit verhaal maakt deel uit van een groep verhalen genaamd Toekomst perfect

De beste manieren vinden om goed te doen.



Stephen Hawking heeft een laatste boodschap voor de mensheid: als robots ons niet te pakken krijgen, zal klimaatverandering dat wel doen.

Hawking, wie? stierf op 76-jarige leeftijd van een degeneratieve neurologische ziekte eerder dit jaar, biedt zijn afscheidsgedachten in a postuum gepubliceerd boek genaamd Korte antwoorden op de grote vragen , die dinsdag uitkomt. Het is een bericht dat de moeite waard is om aandacht aan te besteden van een man die waarschijnlijk de meest gerenommeerde wetenschapper is sinds Einstein, vooral bekend om zijn ontdekking van hoe zwarte gaten werken . Hawking's boek Een korte geschiedenis van de tijd verkocht meer dan 10 miljoen exemplaren en beantwoordde vragen zo groot als Hoe is het universum ontstaan? en wat zal er gebeuren als het eindigt? in taal die eenvoudig genoeg is voor de gemiddelde lezer.

In een uittreksel gepubliceerd in de Times of London in het weekend is hij grappig en optimistisch, zelfs als hij ons waarschuwt dat kunstmatige intelligentie ons waarschijnlijk te slim af zal zijn, dat de rijken zich ongetwijfeld zullen ontwikkelen tot een bovenmenselijke soorten, en dat de planeet op weg is naar totale bewoonbaarheid.

hoe foto's op iphone te scannen

Het boek van Hawking is uiteindelijk een oordeel over de toekomst van de mensheid. Op het eerste gezicht is het oordeel dat we gedoemd zijn. Maar graaf dieper en er is hier ook nog iets anders, een geloof dat menselijke wijsheid en innovatie onze eigen vernietiging zullen dwarsbomen, zelfs als we vastbesloten lijken om het tot stand te brengen.

De robots komen misschien voor ons

De grootste waarschuwing van Hawking gaat over de opkomst van kunstmatige intelligentie: het zal ofwel het beste zijn dat ons ooit is overkomen, of het zal het ergste zijn. Als we niet oppassen, kan het wel eens het laatste zijn.

Kunstmatige intelligentie biedt grote kansen voor de mensheid en omvat alles, van de algoritmen van Google tot zelfrijdende auto's tot gezichtsherkenningssoftware. De AI die we vandaag hebben, is echter nog steeds in zijn primitieve stadia. Experts maken zich zorgen over wat er zal gebeuren als die intelligentie ons overtreft. Of, zoals Hawking het stelt: Terwijl de kortetermijnimpact van AI afhangt van wie het controleert, hangt de langetermijnimpact af van of het überhaupt kan worden gecontroleerd.

Dit klinkt misschien als sciencefiction, maar Hawking zegt dat het een vergissing zou zijn om het als zodanig af te wijzen, en mogelijk onze ergste fout ooit.

In vergelijking met robots zijn wij mensen behoorlijk onhandig. Beperkt door het trage tempo van de evolutie, kost het ons generaties om te herhalen. Robots daarentegen kunnen hun eigen ontwerp veel sneller verbeteren, en binnenkort zullen ze dat waarschijnlijk ook zonder onze hulp kunnen doen. Hawking zegt dat dit een intelligentie-explosie zal veroorzaken waarbij machines onze intelligentie met meer kunnen overtreffen dan die van slakken.

Veel mensen denken dat de dreiging van AI erop gericht is dat het kwaadaardig wordt in plaats van welwillend. Hawking ontneemt ons deze zorg en zegt dat het echte risico van AI niet boosaardigheid is, maar competentie. Kortom, AI zal heel goed zijn in het bereiken van zijn doelen; als mensen in de weg zitten, kunnen we in de problemen komen.

oh shit hier komt dat boi

Je bent waarschijnlijk geen gemene mierenhater die mieren aanvalt uit boosaardigheid, maar als je de leiding hebt over een hydro-elektrisch groen-energieproject en er is een mierenhoop in de regio die onder water moet worden gezet, jammer voor de mieren. Laten we de mensheid niet in de positie van die mieren plaatsen, schrijft Hawking.

die het Romeinse rijk overnam?

Voor degenen die nog niet overtuigd zijn, suggereert hij een andere metafoor. Waarom zijn we zo bezorgd over AI? Mensen kunnen toch altijd de stekker eruit trekken? vraagt ​​een hypothetisch persoon hem.

Hawking antwoordt: mensen vroegen aan een computer: 'Is er een God?' En de computer zei: 'Er is nu', en stopte de stekker vast.

Het einde van het leven op aarde?

Als het niet de robots zijn, is het bijna onvermijdelijk dat een nucleaire confrontatie of een milieuramp de aarde op een bepaald moment in de komende 1000 jaar zal verlammen, schrijft Hawking.

Zijn waarschuwing volgt op de alarmerende van vorige week Intergouvernementeel Panel inzake klimaatverandering (IPCC) melden waarschuwing dat we alleen heb 12 jaar om veranderingen aan te brengen die groot genoeg zijn om de opwarming van de aarde op een gematigd niveau te houden. Zonder dergelijke veranderingen zullen langdurige droogtes, frequentere tropische stormen en stijgende zeespiegels slechts het begin zijn.

Op hol geslagen klimaatverandering is de grootste bedreiging voor onze planeet, zegt hij, en we handelen met roekeloze onverschilligheid voor onze toekomst op planeet Aarde.

In feite hebben we misschien helemaal geen toekomst, zegt hij, en waarschuwt hij ons om niet al onze eieren in één mand te leggen. En ja, die mand is planeet Aarde. Zelfs als mensen een manier vinden om te ontsnappen, zullen de miljoenen soorten die de aarde bewonen ten onder gaan, zegt hij. En dat zal als een race op ons geweten zijn.

Een andere waarschuwing is niet minder dreigend. We gaan een nieuwe fase in van zelfontworpen evolutie. Deze fase betekent dat we binnenkort in staat zullen zijn om de ketens van traditionele evolutie af te werpen en nu beginnen met het veranderen en verbeteren van ons eigen DNA - niet over honderdduizenden jaren.

Net als bij AI biedt de mogelijkheid om ons eigen DNA te bewerken de potentie om de grootste problemen van de mensheid op te lossen. Ten eerste, en waarschijnlijk niet in de verre toekomst, zullen we in staat zijn om genetische defecten te repareren, door genen te bewerken voor zaken als spierdystrofie en amyotrofische laterale sclerose, of ALS, de ziekte waarbij hij in 1963 werd gediagnosticeerd. Hawking zegt dat binnen dit eeuw, zullen we intelligentie, geheugen en levensduur kunnen aanpassen. En dat is wanneer dingen echt ingewikkeld kunnen worden.

Hawking noemt de mensen die dit zullen doen supermensen, en ze zullen waarschijnlijk de rijke elites van de wereld zijn. Gewone oude mensen zullen niet kunnen concurreren en zullen waarschijnlijk uitsterven of onbelangrijk worden. Tegelijkertijd zullen supermensen waarschijnlijk andere planeten en sterren koloniseren.

Als dat allemaal behoorlijk deprimerend klinkt, is het dat ook. Maar zelfs als Hawking een apocalyptische prognose voor de planeet en iedereen erop voorschotelt, zijn optimisme komt er doorheen. Hij heeft er vertrouwen in dat ons ingenieuze ras een manier zal hebben gevonden om de norse banden van de aarde te ontglippen en daarom de ramp zal overleven.

de waarheid over Hillary Clinton en Benghazi

Hij gelooft zelfs dat deze mogelijkheden, in plaats van angstaanjagend te zijn, opwindend zijn en dat het de kansen om de nieuwe Einstein te inspireren enorm vergroot. Waar ze ook mag zijn.

Het vinden van een uitweg van planeet Aarde, en misschien zelfs van het zonnestelsel, is een kans om te doen wat de maanlandingen deden: de mensheid verheffen, mensen en naties samenbrengen, nieuwe ontdekkingen en nieuwe technologieën inluiden.


Schrijf je in voor de Future Perfect nieuwsbrief. Twee keer per week krijg je een overzicht van ideeën en oplossingen voor het aanpakken van onze grootste uitdagingen: het verbeteren van de volksgezondheid, het verminderen van menselijk en dierlijk lijden, het verminderen van catastrofale risico's en - om het simpel te zeggen - beter worden in goed doen.