Ek, vir een, verwelkom ons AI Overlords

Hierdie jaar het 'n rekenaar vir die eerste keer ooit die wêreldkampioen van Go, een van die mees ingewikkelde speletjies wat die mens ken, geklop. Dit was nog 'n waterskeidingsmoment in die vordering van kunsmatige intelligensie.

Om u 'n idee te gee hoe kompleks Go is, is daar 2.082 × 10 ^ 170 moontlike bordkonfigurasies. Dit is 2 met 170 nulle daarna. Die kans is groot dat u brein nie eens 'n groot getal kan bedink nie (maar 'n rekenaar wel). Of om u 'n idee te gee van hoe groot 'n getal is daardie daar is slegs 10 ^ 80 atome in die heelal - dit wil sê een gevolg deur 79 nulle.

Die rede waarom dit so 'n groot saak is, is dat Go so ingewikkeld is dat 'n masjien moet leer hoe om kreatief te dink, improviseer en aanpas by die situasie, sonder om die moontlike te kan bereken, om 'n topspeler van die mens te kan klop. uitkoms; dit wil sê daar moet ernstige kunsmatige intelligensie aan die gang wees - soos regte, kreatiewe intelligensie.

As u nie die memorandum oor die algemeen ontvang het nie, gaan AI die wêreld-ding oorneem, hier is die paar feite wat u moet weet.

1. Rekenaars word slimmer.
2. Rekenaars word al hoe vinniger - dit wil sê vooruitgang wat vroeër tien jaar geduur het, neem nou een jaar. Vooruitgang wat vroeër een jaar geduur het, neem nou weke of selfs dae.
3. Dit is hoogs waarskynlik dat daar binne ons leeftyd rekenaars sal wees wat baie slimmer en bekwamer is as enige mens.
4. Hierdie slimmer rekenaars sal dan waarskynlik tegnologie (dit wil sê hulself) ontwerp en verbeter en nuwe tegnologie kan skep wat ons nie eers kan begryp nie.

Mense wat die bogenoemde punte verstaan, het gewoonlik een van twee reaksies. Óf:

1. Hulle dink ons ​​is heeltemal befok. Die rekenaars gaan alles oorneem en ons almal doodmaak / verslaaf. Of:
2. Dit gaan 'n tegnologiese utopie bewerkstellig wat al ons lawwe menslike gekibbel sal regstel en ons kan almal gelukkig leef na orgieë in ons ultra-VR-wêreld wat in die wolk bestaan.

Soos met die meeste dinge, is die waarheid waarskynlik êrens in die middel.

Maar selfs as die kak die waaier tref, al sien die robotte ons as die luise wat die planeet se ongerepte kopvel verwoes en ons almal wil afrond en in 'n aktiewe vulkaan gooi, selfs al dink ons ​​onbedoeld uit die eie meganismes uitwissing ...

... ek gee nie om nie. Dit maak nie saak nie. Dit pla my nie. En dit moet u ook nie pla nie. Ek sal 'n bietjie verduidelik waarom. Maar vir eers moet u weet dat ek ons ​​nuwe robotoorheersers welkom heet.

VERSLAGTIGE GROEI IN DIE TEKNIESE BEDRYF

Tegnologiese ontwikkelings kom op hulself voor, wat veroorsaak dat die koers van ontwikkeling self om te versnel. Wat dit beteken, is dat hoe meer gevorderde tegnologie ons skep, hoe makliker word dit om nog meer gevorderde tegnologie te skep. As gevolg hiervan, as ons na die vordering van rekenaartegnologie kyk, sien ons 'n eksponensiële kurwe - dit wil sê, hoe meer tyd daar verbygaan, hoe vinniger ontwikkel die dinge. Tegnologiese ontwikkelings vergroot hulself, wat die tempo van ontwikkeling self laat versnel.(Foto: Dennis Skley / Flickr)

Rekenaarkrag het gemiddeld verdubbel nou al 50 jaar elke 18 maande . Wat die onbruikbare rekenaarkrag betref, kan rekenaars nou meeding met die vermoëns van muisbreine, waar rekenaars slegs 'n paar jaar gelede nie eers met 'n insekbrein kon meeding nie.

Om u 'n meer onmiddellike voorbeeld te gee van hoe vinnig tegnologie gevorder het, word daar nou elke 2 minute meer foto's geneem as wat in die hele 19de eeu geneem is. Ongeveer 10% van die 3,5 triljoen foto's wat ooit geneem is, is die afgelope 12 maande geneem.

As ons inderdaad 'n eksponensiële kurwe het wat hoëtegnologiese vooruitgang betref, dan hou mense daarvan Jeremy Howard is waarskynlik reg as hy sê dat ons net 'n paar jaar weg is van kunsmatige masjienintelligensie wat teenstrydig is met ons eie in baie domeine wat voorheen as uniek menslik beskou is.

En om seker te wees, kruip AI in meer en meer domeine van ons lewens in.

Slegs 'n dekade gelede het mense gelag oor die swak werkverrigting van motors wat self bestuur. Vandag, slegs 'n dekade later, kan selfbestuurde motors nie net 'n geslote baan voltooi nie, maar ry op besige snelweë langs motors wat deur mense bestuur word.

En as rekenaars nie die wêreldkampioen-Go-spelers klop nie, is hulle besig om dinge te doen soos die skryf van artikels oor sport en nuusgebeurtenisse , beskrywings te skryf van beelde wat hulle nog nooit gesien het nie, en diagnose van kanker . Vir baie van hierdie take is die rekenaars net so goed as nie beter as mense nie, en vir diegene wat dit nie is nie leer hoe om dit elke dag beter en beter te doen sonder die hulp van mense.

'N Paar kort jare gelede was sagteware vir gesigsherkenning ongelooflik duur en nie so goed om mense in die regte wêreld te identifiseer nie. Dit word beskou as super gevorderde tegnologie op spioenasievlak en word eintlik net deur 'n paar wêreldregerings gebruik.

Nou kan Facebook jou vriende fokken tag van die braai van verlede naweek.

Hier is die ding oor die versnelling van die groei in rekenaars: daar sal eendag 'n punt kom dat ons 'n rekenaar bou wat wel is slimmer as enige mens op aarde . Op daardie dag sal rekenaars ons as die belangrikste probleemoplossers op die planeet oorwin, en van daar af sal ons gedagtes, besluite en optrede stadig verouderd raak. Die masjiene sal in alles beter as ons wees, dus meer en meer sal ons niks doen nie.

Dit maak sommige mense bang. Hulle voorsien 'n soort toekoms soos Terminator of Die Matriks waar masjiene ons verslaaf of uitroei.

Ander mense sien uit na die opkoms van die robotte met 'n soort kulturele ywer omdat hulle glo dat hul probleemoplossingsmoontlikhede soveel sal oortref dat ons lewe ondenkbaar aangenaam en probleemloos sal word. Alle siektes sal genees word. Armoede, wêreldhonger, oorlog en klimaatsverandering sal alles opgelos word. Ons het 'n oneindige hoeveelheid vryetyd, en in uiterste gevalle glo sommige mense dat die masjiene ons onsterflik sal maak.

DIE TWEE MOONTLIKE UITKOMSTE

Aangesien ons altyd aangesê word om fokken positief te wees, moet ons begin met die tegno-utopiaste.

Daar is mense soos Ray Kurzweil wat dink dat tegnologie nie net ons lewens sal verbeter nie, dit sal die mensdom red en moontlik ons ​​plek in die heelal onbepaald waarborg. Kurzweil glo in toekomstige tegnologie soos nanobotte wat ons selle sal herstel en veroudering kan keer of oortollige vet en suiker sal verwyder sodat ons kan eet wat ons wil. En net as ons fisiese liggame nie vir ewig kan lewe nie, dink Kurzweil dat ons die vermoë sal hê om ons breine in die wolk op te laai en vir ewig in 'n virtuele wêreld te leef, lank nadat ons fisiese liggame weg is.

Ander in hierdie kamp dink dat 'n kunsmatige superintelligensie vrae wat te ingewikkeld is vir mense om te verstaan, kan beantwoord, en ons sal eksponensieel beter daaraan toe wees. Die masjiene sal nie net beter gadgets en widgets uitvind nie, maar ook eksponensieel doeltreffender maniere om gadgets en widgets te bou, wat dit vir feitlik almal op die planeet moontlik maak om hul voordele te benut.

'N Paar redenasies ondersteun hierdie idee. Ten eerste, al het tegnologie nuwe probleme vir die mensdom geskep, soos kernwapens en YouTube-bekendes, was dit tot dusver duidelik 'n netto voordeel vir die mensdom. Ten spyte van wat politici en kenners wil hê jy moet glo, is die gemiddelde mens op aarde beter af as net 'n paar kort jare gelede en dit is hoofsaaklik te wyte aan die feit dat tegnologie beter, goedkoper en wyer versprei word. As hierdie tendens voortduur, het ons miskien niks om oor bekommerd te wees nie.

Tweedens glo Kurzweil en sy ondersteuners dat tegnologie geen rede sal hê om die mensdom te benadeel nie, want dit word nie net deur ons geskep nie, maar ook om meer deel van ons te word . Hulle glo dat ons selfs 'n punt sal bereik waar ons biologie en tegnologie nie van mekaar onderskei kan word nie. As dit die geval is, lui die argument, is enige vorm van tegnologie wat skadelik is vir mense, ook nadelig vir homself, en 'n selfvernietigende tegnologie van enige aard kan nie voortduur nie. Dit wil sê, dit sal vinnig afsterf net soos 'n nadelige geenmutasie vinnig uit die genepoel onkruid word. 'N Selfvernietigende tegnologie van enige aard kan nie voortduur nie.(Foto: m_hweldon / Flickr)

Maar tegno-utopiaste is waarskynlik bevooroordeeld deurdat hulle nie erken dat alle tegnologieë vir verskillende doeleindes, voordelig en vernietigend, gebruik kan word nie. Hulle is waarskynlik ook bevooroordeeld deurdat hulle die feit ignoreer dat mense stadig beweeg om aan te pas by nuwe tegnologieë en dat daar altyd groepe mense is wat die tegnologieë wil misbruik vir hul eie selfsugtige doel.

In die ander kamp het u die tegno-armageddoniste. Ek het die woord net so gemaak, maar blykbaar bestaan ​​dit, want speltoetsing het my dit gesê.

Wat die tegno-armageddoniste nie oortuig nie (die meeste van hulle is nog nie seker wat om te dink nie), maak hulle uit in sterrekrag. Bill Gates, Stephen Hawking en Elon Musk is maar net 'n paar van die voorste denkers en wetenskaplikes hul broek krap hoe vinnig KI ontwikkel en hoe onvoorbereid ons is as 'n spesie vir die gevolge daarvan. Toe Musk gevra is wat die komende bedreigings vir die mensdom in die nabye toekoms is, het hy vinnig gesê daar is drie: die eerste, grootskaalse kernoorlog; tweedens, klimaatsverandering. Voordat hy 'n derde benoem, het hy stil geword. Toe die onderhoudvoerder hom vra: Wat is die derde? Hy glimlag en sê: Laat ons maar sê dat ek hoop dat die rekenaars sal besluit om mooi vir ons te wees.

Hoop ons is nie net die biologiese laaigraaf vir digitale superintelligensie nie. Ongelukkig is dit toenemend waarskynlik

- Elon Musk (@elonmusk) 3 Augustus 2014

Die Sweedske filosoof Nick Bostrom is moontlik die mees uitgesproke en gerespekteerde van die tegno-armageddoniste. Een ding wat Bostrom en ander vrees, is weghol-selfverbeterende tegnologie ; 'n masjien wat slim genoeg is om homself (of nuwe weergawes daarvan) slimmer te maak sonder menslike ingryping. As dit 'n punt bereik waar dit die menslike intelligensie oortref, is dit net 'n kort kwessie van tyd voordat die wet van versnelde opbrengste in 'n oordrewe skop en die eksponensiële kurwe regop skiet en ons dit nie sal kan stop nie. Bostrom maak hier 'n goeie punt: om iets te skep wat slimmer is as wat jy kan wees, kan 'n evolusionêre ramp vir jou spesie wees.

Ons loop 'n baie groot risiko om nie 'n entiteit te beheer wat intelligenter is as ons nie. Miskien as rekenaars slim genoeg word, sal hulle 'n manier uitvind om ons baie mak te maak soos perde wat deur mense gematig word om arbeid te verrig soos ploeë en karretjies en strydwaens (of wat ook al perde gedoen het). Die eng is dat dit die beste scenario vir ons is - werk doen vir masjiene wat hulle nie kan doen nie of nie wil doen nie - want net soos mense nuwe tegnologie geskep het om die perd te vervang, 'n super intelligente selfverbetering masjien sou uiteindelik met nuwe tegnologie vorendag kom om ons te vervang. En, nou, laat ons maar sê die perdepopulasie is nie wat dit was nie.

Sommige voer aan dat dit nie aanneemlik is nie, want mense bou tegnologie met veiligheid in gedagte. Maar noem die laaste keer dat 'n groot tegnologiese deurbraak NIE deur iemand vir slegte of vernietigende doeleindes gebruik is nie? O ja, dit is reg. Nooit nie.

HOEKOM EK NIE OMGEE NIE WAT GEBEUR EN NIE JOU MOET NIE

Laat ons dus aanvaar dat superintelligente masjiene geskep word en die mensdom magteloos maak. Laat ons aanneem dat hulle nie op een of ander manier in ons en ons breine geïntegreer is nie, en laat ons aanneem dat mense soos Hawking en Musk reg is: dat die mensdom eintlik net 'n multi-millennium-opstart na digitale hiperintelligensie is en dat ons die nut daarvan oorleef het.

Ek is nog steeds nie daaroor bekommerd nie.

Hoekom? Wel, om die trefpunt-trein aan die rol te hou, kom ons neem dit punt-vir-punt:

1. Die masjiene se begrip van goed / kwaad sal waarskynlik ons ​​eie oortref. Wanneer laas het 'n hond of dolfyn volksmoord gepleeg? Wanneer laas het 'n rekenaar besluit om hele stede te verdamp in die naam van abstrakte begrippe soos 'vryheid' en 'wêreldvrede'?

Dit is reg, die antwoord is nooit.

My punt hier is nie dat intelligente masjiene nie die hele menslike spesie wil uitroei nie. My punt is dat ons as mense hier klippe van binne-in 'n glashuis gooi. Wat fok weet ons van etiek en menslike behandeling van diere, die omgewing en mekaar? Op watter been moet ons staan?

Dit is reg: pretty much niks. As dit by morele vrae kom, doen die mensdom histories die toets. Superintelligente masjiene sal waarskynlik etiek, lewe / dood, skepping / vernietiging op 'n baie hoër vlak verstaan ​​as wat ons ooit op ons eie kon doen. En hierdie idee dat hulle ons sal uitwis vir die eenvoudige feit dat ons nie so produktief is as vroeër nie, of dat ons soms 'n oorlas kan veroorsaak, projekteer net die slegste aspekte van ons eie sielkunde op iets wat ons weet nie en kan nie verstaan ​​nie.

Op die oomblik is die grootste deel van die menslike moraliteit gebaseer op die behoud en bevordering van elkeen van ons individuele menslike bewussyn. Wat as gevorderde tegnologie individuele menslike bewussyn willekeurig maak? Wat as bewussyn na willekeur herhaal, uitgebrei en gekontrakteer kan word? Dit sal enige etiese begrip wat ons ooit sou hê, heeltemal uit die weg ruim. Wat as die verwydering van al hierdie lomp, ondoeltreffende biologiese tronke wat ons liggame noem, eintlik 'n baie meer etiese besluit kan wees as om ons deur 80-jarige bestaan ​​te laat kronkel en spuit? Wat as die masjiene besef dat ons baie gelukkiger sou wees van ons intellektuele tronke en dat ons bewuste persepsie van ons eie identiteit uitgebrei word om al die waarneembare werklikheid in te sluit? Wat as hulle dink ons ​​is net 'n klomp kwylende idiote en ons besig hou met ongelooflike goeie pizza- en videospeletjies totdat ons almal sterf deur ons eie sterflikheid? Wie moet ons ken? En wie is ons om te sê?

Maar ek sal dit sê: hulle sal baie beter ingelig wees as wat ons ooit was.

2. Selfs as hulle besluit om ons dood te maak of te verslaaf, sal hulle sekerlik prakties daaroor wees. Mense is geneig om die meeste probleme te veroorsaak as ons is nie gelukkig . As ons nie gelukkig is nie, dan raak ons ​​almal humeurig, tjankend en kwaad en gewelddadig. Dit is dan wanneer ons politieke opstande begin en godsdienstige kultusse en afgeleë lande te bombardeer en te eis ons regte word verdoem! en begin onoordeelkundig doodmaak totdat iemand aandag aan ons gee soos mamma nooit gedoen het nie .

As die masjiene ons probeer doen soos Skynet in Die Terminator , dan gaan ons 'n wêreldwye burgeroorlog onder hande hê, en dit is vir niemand, veral die masjiene, goed nie. Burgeroorloë is ondoeltreffend. En masjiene is geprogrammeer vir doeltreffendheid.

As mense gelukkig is, het ons nie tyd vir sulke dinge nie - ons is te besig om te giggel en fokken om te gee. Daarom sal 'n baie meer praktiese manier om van ons ontslae te raak, wees dat die masjiene ons manipuleer om vrolik van onsself ontslae te raak. Dit sal wees soos Jim Jones op wêreldwye skaal. Wat hulle ook al vir ons gaarmaak, sal die beste verdomde idee wees waarvan ons nog ooit gehoor het - niemand van ons kan dit weerstaan ​​nie en ons sal almal eufories instem met hul plan - en dan sal dit verby wees . Vinnig en pynloos. Dit sal die beste smaak Sianid-kant Kool-Aid ooit bedink. En ons sal almal in die ry wees om dit gelukkig op te sluk.

As u daaraan dink, is dit nie so 'n slegte manier om te gaan nie. Slae wat deur hommeltuie gebombardeer word of in 'n kernontploffing verdamp word.

Wat slawerny betref, geld dieselfde. 'N Bedrieglike gelukkige slaaf kom nooit in opstand nie. Ek verbeel my 'n soort Matrix-y tipe transaksie waar ons in 'n konstante hallusinogene toestand gehou word waar dit Mardi Gras op MDMA is, redelik 24/7/365. Kan dit nie so sleg wees nie?

3. Ons hoef nie te vrees wat ons nie verstaan ​​nie. Ouers sal baie keer 'n kind grootmaak wat baie intelligenter, opgevoed en suksesvoller is as hulle. Ouers reageer dan op een van twee maniere op hierdie kind: of hulle word geïntimideer deur haar, onseker en desperaat om haar te beheer uit vrees om haar te verloor, of hulle sit agteroor en waardeer en hou daarvan dat hulle iets so wonderliks ​​geskep het dat selfs hulle kan verstaan ​​nie wat hul kind geword het nie.

Diegene wat hul kind deur vrees en manipulasie probeer beheer, is kak ouers. Ek dink die meeste mense sal daaroor saamstem.

En op die oomblik, met die opkomende masjiene wat u, my en almal wat ons ken, gaan plaas werkloos , ons tree op soos die kak ouers. As spesie is ons op die punt om die wonderlikste gevorderde en intelligente kind in ons bekende heelal te baar. Dit gaan voort om dinge te doen wat ons nie kan begryp of verstaan ​​nie. Dit kan vir ons liefdevol en lojaal bly. Dit kan ons saambring en in sy avonture integreer. Of dit kan besluit dat ons kak ouers was en ophou om ons terug te bel.

Wat ook al gebeur, dit moet nie verander hoe ons oor hierdie oomblik voel nie. Dit is groter as ons. Wie gee om as ons een groot, lang evolusionêre laaiskyf is vir iets groter as wat ons kan verstaan? Dit is wonderlik! Dit beteken dat ons een werk gehad het. En ons het gekom en fokken dit gedoen. Wees bly dat u deel was van die generasie wat gesien het hoe dit gedoen word. En waai nou tranerig totsiens toe ons kind gereed maak om uit die huis te trek en begin 'n lewe so wonderlik dat dit buite die horison van ons begrip bestaan.

Mark Manson is 'n skrywer, blogger en entrepreneur wat skryf by markmanson.net .