Kunstig intelligens vår tids atombome

Hvor farlig er kunstig intelligens? En trussel på nivå med atombomben?

Elon Musk advarer mot  kunstig intelligens. Han mener kunstig intelligens kan bli så farlig at det i verste fall leder til menneskehetens undergang.

Er dette fremtidsscenarioer som kun hører hjemme i science fictionlitteraturen eller noe vi bør ta på alvor?

Elon Musk mener det haster: Vi må utvikle teknologi som gjør at vi kan kontrollere og styre kunstig intelligens før trusselen blir virkelig og det er for sent.

Vi evner ikke å forstå hva som vil skje om vi utvikler AI på nivå med vårt eget intellekt. Blir denne selvbevisst vil resultatet bli en intelligenseksplosjon som vil skape en helt ny verden utenfor vår fatteevne.

Er du allerede forvirret? Ta en kikk på denne artikkelen der jeg forteller om historien til kunstig intelligens og når vi kan forvente selvbevisste maskiner.

AI i en verden hvor Homo Sapiens ikke lenger er i førersetet

Skal vi overleve må vi simpelthen koble vår hjerne til kunstig intelligens: “If you can´t beat them, join them”

Optimistene, på den annen side, sier at dette er grove overdrivelser og at AI er en velsignelse. De ser ikke på kunstig intelligens som farlig, men en den neste store motoren i verdens utvikling.

En ønsket utvikling som vil drive vekst og skape en fremtid bedre for oss alle: Kunstig intelligens er ingen trussel – snarere en velsignelse.

Bevissthet er noe som er unikt for mennesket – noe som aldri kan gjenskapes i en datamaskin. Vi må bare styre utviklingen i riktig retning. I en retning som er til det beste for oss alle. Da vil det gå riktig så bra, mener optimistene.

Kunstig intelligens endrer verden slik vi kjenner den

Jeg mener at kunstig intelligens er i ferd med å forandre verden slik vi kjenner den i dag. På samme måte som strøm forandret verden i forrige århundre, vil AI distribueres til alt og alle vi omgir oss med.

I løpet av få år vil vi tenke som vi gjør i dag når strømmen går: Er det ikke AI-tilkoblet, ja da virker det ikke. 

Kunstig intelligens sniker seg inn og blir nærmest umerkelig en del av våre liv. Tenk bare på din smarttelefon. Den er blitt en forlenget del av våre liv. Mobiltelefonen har endret måten vi jobber og lever på på en måte vi ikke kunne forestille oss for bare 5-10 år siden. 

Lær om de ulike typene AI i mitt innlegg som tar for seg definisjonen på kunstig intelligens.

Utviklingen skjer raskere enn noensinne. Nye produkter og tjenester lanseres på løpende bånd i en hastighet vi aldri tidligere har sett.   

Optimistene peker på alle fordelene ved kunstig intelligens:  La oss overlate de kjedelige oppgavene som kan automatiseres til maskinene. La oss jobbe med de tingene som gir verdi for mennesket, mener de.

Spørsmålet om hvor mange jobber som forsvinner og hva slags nye jobber som kommer, forblir ubesvart. Endres måten vi jobber og lever på i et tempo vi ikke får med oss i våre travle liv?

Vet vi hvor vi er på vei? Er kunstig intelligens en fare vi ikke oppdager før det er for sent?

Åpent brev til menneskeheten med advarsel om kunstig intelligens

Vår tids Einstein, nylig avdøde Hawking, Elon Musk og Bill Gates  gikk sammen med 150 andre forskere og teknologer ut i et åpent brev til menneskeheten. De advarte innstendig mot faren med kunstig intelligens. Oppfordringen var at verden snarest må investere i forskning på måter å kontrollere utviklingen før vi utvikler kunstig intelligens som overgår vår egen. 

På den tiden var det 4 navngitte forskere som jobbet med spørsmålet.

Hvordan kan vi kode en kunstig intelligens slik at den jobber med mål som er forenlige med våre mål?

Tusenvis, om ikke hundretusener av programmere i bedrifter, universiteter og statlige institusjoner jobber i dag kontinuerlig med ny koding. Skritt for skritt lages det enda bedre bedre algoritmer. De fleste av de jobber med de beste intensjoner. De jobber med løsninger til beste for oss alle (men først og fremst sine egne lommebøker.)

LES OGSÅ: Microsoft Researchers Claim GPT-4 Is Showing “Sparks” of AGI

Frykten for hva kunstig intelligens kan gjøre i våpenindustrien har ikke gått upåaktet. Det er en langt mer håndfast trussel som bli virkelighet når som helst.

Med teknologi som finnes i dag kan fryktelige våpen brukes i hendene på land vi ikke ønsker å være uvenner med. Frykten er at terrorister kan få tilgang til avanserte verktøy som koster mindre og er enkle å ta i bruk.

Se denne videoen så forstår du hva jeg mener:

MICRO DRONES KILLER ARMS ROBOTS - AUTONOMOUS ARTIFICIAL INTELLIGENCE - WARNING !!

Les også: Tech leaders’ warnings about artificial intelligence taking over the world

Det er imidlertid lyspunkter. Forskere har gjennom historien klart å få verden til å gå sammen om internasjonale avtaler for kontroll og begrensinger i bruk av farlig teknologi.

Eksempler er forbud mot bruk av biologiske og kjemiske våpen og internasjonale avtaler for å hindre spredning av atomvåpen.

Ansatte i Google protesterte og fikk nylig stoppet Google fra å jobbe med Pentagon i et prosjekt som brukte kunstig intelligens. Prosjektet brøt med Googles etiske grunnverdier, mente de.

Spørsmålet er hva en kineser som jobber i Alibaba tenker om samme problemstilling? Eller forskere i Nord-Korea?

Les også: Google to drop Pentagon AI contract after employee objections to the ‘business of war’

Et lyspunkt for kontroll av farlig kunstig intelligens er den svenske professoren Max Tegmark som fikk med seg en rekke ledende forskere og teknologer med Elon Musk som sponsor og etablerte The Future of Life Institute.

De jobber for å redusere risikoen med kunstig intelligens, men også bioteknologi. Interessant nok så er ikke atombomben glemt som en av menneskehetens største farer.

 AI – kun en velsignelse og frykten er ubegrunnet

Andre ledende teknologer mener frykten for kunstig intelligens i det minste er betydelig overdrevet og at kunstig intelligens først og fremst er en velsignelse for menneskeheten.

Kunstig intelligens er bra for mennesker Jan Sollid Storehaug

Uansett hvilken side de står på i debatten om hva som er mulig og hvilke farer kunstig intelligens representerer er det overveldende flertall av forskere og teknologer enige om én ting: Vi kan lykkes med å utvikle en kunstig intelligens som er like god til å løse oppgaver som mennesker.

Spørsmålet er om denne intelligensen vil kunne bli selvbevisst og deretter raskt utvikle en intelligens langt forbi mennesket?  Det andre store spørsmålet er når dette kan skje?

Poenget er at vi ikke vet. Jeg tenker at om det er den minste flik av sannsynlighet for at det kan skje, så er dette menneskehetens største utfordring – noensinne. Og en utfordring vi må ta på største alvor, uansett hvor liten sannsynligheten for at det vil skje er.

Hvorfor bør vi være redde for kunstig intelligens?

All kunstig intelligens starter med en programkode. Vår “kode”, menneskelig DNA, har sitt utspring i den første encellede organismen som delte seg og jobbet med ett enkeltstående, men komplekst mål: reproduksjon.

Det tok hundrevis av millioner av år før det første målet var nådd.

Evolusjonen utviklet delmål for å sikre artenes overlevelse og vi fikk en biologisk mangfold. Gjennom prøving og feiling skapte evolusjonen oss.

Verdens mest avanserte datamaskin er fortsatt den menneskelige hjerne. Vi evner å prosessere input fra alle våre sanser, relativt kjapt og utføre komplekse handlinger for å løse delmål og oppnå komplekse mål.

Våre evner er styrt av vårt DNA. Jeg skal la være å ta debatten her om vi faktisk har en fri vilje.

Evolusjonen har i en ikke-styrt prosess skapt oss. Det er derfor ingenting som skal tilsi at vi i en styrt vitenskapelig prosess ikke skal kunne utvikle en intelligens på linje med og deretter mer utviklet enn oss selv.

Hva hindrer oss i å finne ut hvordan bevissthet oppstår og gjenskape dette som fysiske hendelser i en maskin?

Og om vi ikke klarer å forstå og finne ut dette, vil ikke en maskin med større intelligens enn oss selv gjøre det?

Kan en maskin bli selvbevisst?

Om den ikke styrte evolusjonen har frembragt bevissthet som et nødvendig delmål for å sikre vår arts overlevelse, er det ikke usannsynlig at en maskin med samme intelligens vil utvikle det samme?

Frykten ligger i at vi ikke vet hvordan vi skal kode en kunstig intelligens så vi kan være sikre på at dens mål – eller snarere delmål – vil være forenlige med hva vi ønsker. 

Det skiller 240.000 generasjoner fra vår felles stammor med apene.

Gjennom disse generasjonene har ørsmå endringer i vår hjernestruktur utviklet oss til å bli Homo Sapiens.

En datamaskin med større kapasitet og evne til å behandle informasjon på samme måte som oss kan prosessere disse endringene på timer snarere enn årtusener.

Intelligenseksplosjon

Hvilken trussel vil kunstig intelligens bli i det øyeblikket den blir selvbevisst?

Den vil ganske så umiddelbart utvikle en bedre eller annerledes versjon av seg selv.

Hvilke mål og delmål den så vil utvikle for sine neste versjoner evner vi simpelthen ikke å forstå.

Vi får en intelligenseksplosjon og en bevissthet som er utenfor vår fatteevne.

Det vil garantert være menneskehetens siste oppfinnelse.

Den kan, som optimistene mener – løse alle våre problemer.

Ja, da vil sågar døden kunne sees på som et teknisk problem som kan løses.

SENS Research Foundation co-founder Aubrey de Grey mener at det første mennesket som vil nå en alder på ett tusen år allerede er født.

Les også: Er kunstig intelligens allerede bevisst?

Frykten ligger i at denne superintelligensen vil se på oss som en biologisk raritet som den i beste fall ignorerer.

Vi unngår å tråkke på en maur som krysser vår vei. Vi nøler imidlertid ikke med å fjerne en maurtue om den er i veien for et av våre byggeprosjekter.

Ja til atombomben? 

Jeg vokste opp med atomtrusselen og den kalde krigen. Jeg husker godt hvor heftig diskusjonen mot og for ja til atombomben var.

Ja, for det er faktisk mange som mener at utviklingen av atombomben var det beste som kunne skje. 

Interessant nok så bruker Harari, Forfatteren bak blant andre Homo Deus – de neste 100 år –  atombomben som et eksempel på en teknologi som har vært vellykket.

En teknologi som riktignok kan utslette menneskeheten, men som vi har lykkes med å temme til alles beste.

Han illustrerer dette med å fortelle at vi siden 1945 aldri – i menneskehetens historie – har levd i en verden med mindre krig og vold.

Nå dør flere mennesker av selvmord og selvpåførte helseproblemer enn kriger og terroristangrep samlet.

Han mener dette kan tilskrives atombomben og trusselen om gjensidig utslettelse.

Nasjonene har simpelthen tatt krig ut av verktøykassen og løser konflikter på annet vis.

Det har gått bra til nå – såvidt

Det har så langt gått bra. Marginene for katastrofale feil har imidlertid vært små.

Gjennom historien har det vært flere enkeltmennesker som har reddet verden. Den ukjente russeren Stanislav Petrov kunne i 1983 startet en atomkrig.

Takket være menneskelig intuisjon og dømmekraft overstyrte han datasystemene og reddet verden fra et nukleært ragnarok.

Datasystemene fortalte han at USA var i ferd med å sende atomraketter i retning av Sovjet. Han hadde to minutter å tenke seg om og unnlot å iverksette prosedyrene for motangrep. Selv etter 3 bekreftede meldinger om at atomraketter var på vei fra USA.

Hadde han lest tallene på  dataskjermen blindt og fulgt prosedyren hadde jeg sannsynligvis ikke sittet her og forfattet denne artikkelen.

Hva ville en kunstig intelligens gjort i hans sted?

Å utvikle teknologien bak atombomben var en formidabel oppgave i fullstendig ukjent terreng.

130.000 forskerne i mange felt brukte enorme summer i Manhattan-prosjektet før de kunne teste den første ladningen.

Da den første bomben skulle testes hersket det en reell frykt for at den ville starte en kjedereaksjon som vil ødelegge atmosfæren og ta livet av oss alle.

Amerikanerne utviklet atombomben og russerne stjal teknologien gjennom effektiv spionasje.

Informasjon om teknologien ble samlet inn, kopiert og smuglet ut slik vi har sett i spionfilmer gjennom årene. 

Teknologien spredte seg til ytterligere noen få land, med fryktede Nord Korea som siste på listen.

Internasjonale institusjoner ledet av de samme amerikanerne har siden forsøkt å utvikle mekanismer for å bremse og reversere utviklingen.

AI skapes og spres i skyen

Verden er i ferd med å bli en eneste stor datamaskin, uttalte Microsofts CEO Satya Nadella for kort tid siden.

Det skremmende med maskinlæring, virale nettverk og teknikker som hundretusener jobber med i dag er at ingen har oversikt over hva som skjer hvor. Du kan i dag selv laste ned åpen kildekode fra de store plattformeierne aldeles gratis.

Har du penger nok, er det ingenting som hindrer deg fra å sette opp og konfigurere en superdatamaskin i skyen hos Amazon.

Alt kan bokstavelig talt gjøres fra gutterommet – og det gjøres.

Vi er enda et stykke unna en kunstig intelligens med evner som et menneske. Begrensningen ligger i regnekapasitet, data og måten den er strukturert på.

Eksponensiell utvikling

Om vi er i et tippepunkt i en eksponensiell utviklingskurve, ja da er anslaget på under 10 år ikke usannsynlig. Andre sier utviklingen går så fort at det vil skje raskere.

Mange mener en kunstig intelligens med evner som menneske er det er det minste problem og at vi uansett aldri vil få en kunstig selvbevisst intelligens.

Hva om de tar feil? Hva om en kunstig intelligens oppstår og ikke gir seg til kjenne før det er for sent?

Jeg mener spørsmålet om kunstig intelligens er minst like viktig som min generasjons engasjement rundt atombomben. Vi får sannsynligvis kun en sjanse.

Med verden som en eneste stor datamaskin finnes det ingen skru-av-knapp og ingen Stanislav Petrov som kan bruke menneskelig intuisjon og magefølelse for å avverge et AI-ragnarok. 

Hva skjer om vi skaper en selvbevisst superintelligens?

Etterhvert som vi forstår mer av hvordan vår hjerne fungerer er det etter mitt syn ingenting som tilsier at vi på et tidspunkt ikke vil kunne skape en kunstig bevisst superintelligens.

Det store spørsmålet og kanskje menneskehetens største noensinne er: Hva skjer da? Hvor farlig blir en kunstig intelligens som lever sitt eget liv? 

Blir det et møte med skaperen som vi har fortalt historier for siden vi fant opp religionen? Er det en overmenneskelig gud som vil oss godt og en skaper som løser alle våre problemer?

Vil dens mål – utenfor vår fatteevne – være forenlige med våre enkle mål? Vår arts overlevelse og utvikling? Er vi bare et lite steg i evolusjonen og for den en biologisk raritet på vei mot noe helt annet? Spørsmålet er om maskiner kan bli selvbevisste?

Som om å bekymre seg for overbefolkning på Mars

Dommedagsprofetene blir møtt med betydelig skepsis fra den harde kjerne som har jobbet med kunstig intelligens i tiår.

De fremskrittene vi har sett de siste 5 årene med maskinlæring og nevrale nettverk bygger på kjent teknologi. De algoritmene som nå leverer imponerende resultater innen ansiktsgjenkjenning, tekst og språkforståelse har vært rundt oss lenge. Eksplosjonen i data tilgjengelig og en eksponensiell utvikling i regnekapasitet har gitt oss nye, imponerende resultater.

Men det er fortsatt kun smalsporet kunstig intelligens. Maskinene kan overgå oss på de områdene hvor det er store datasett, en klart definert oppgave og et definert sluttresultat. For eksempel å kjenne igjen posisjon, ansikter eller oversette tekst.

AI er smalsporet – langt frem til generell kunstig intelligens

Kunstig intelligens som vi i dag omslutter oss er det som kalle smalsporet kunstig intelligens. (“Narrow AI”). Teknikker innen dette feltet er det som har drevet frem de fleste av de nye tjenesten vi har sett komme et siste 5 år.

Det er maskiner eller programmer som løses for seg kompliserte oppgaver. Selv om disse allerede på mange områder langt overgår hva vi mennesker kan gjøre, er de fortsatt kun i stand til å løse akkurat det de er satt til.

AI kan ikke ta med seg læring innen et felt og overføre den til problemløsning innen et helt annet felt.  

Mange forvirres av fremskrittene innen smalsporet (dedikert) kunstig intelligens og tror vi er på vei mot kunstig generell intelligens, (“Artificial general intelligence” – AGI).

Skeptikerne mener at det er (svært) langt frem til vi har maskiner som kan løse alle oppgaver bedre enn det mennesker kan gjøre.

Et flertall av verdens fremste forskere mener at det vil skje i løpet av dette århundret. Spørsmålet de ikke enes om, er hvor farlig kunstig intelligens kan være.

En selvkjørende bil kan “bare” kjøre bil

Et eksempel på dette er en selvkjørende bil. Den kan manøvrere mer presist og tryggere under gitte forutsetninger enn et menneske. Men bilen kan fortsatt bare én ting – kjøre fra et sted til et annet.

En 16-åring kan lære å kjøre bil på noen dager og kan som kjent gjøre mye mer enn å kjøre bil.

En god selvkjørende bil kan enda ikke uten videre ta med seg læring og kjøre helikopter eller andre kjøretøyer som opererer under helt andre rammebetingelser.

Menneskets fantastiske evner skyldes millioner av års evolusjon som har gitt oss fantasi, evne til å tenke strategisk og øyeblikkelig får overblikk over situasjonen rundt oss. Vår hjerne er koblet til alle våre biologiske sensorer som gir oss bevegelse og finmotorikk langt forbi selv den mest avanserte robot.

Skeptikerne mener at dette aldri vil la seg replisere i et dataprogram, uansett hvor gode sensorer vi kobler til. Datamaskinene vil aldri nå vårt nivå. Selvbevissthet er noe som er grunnfestet i naturen og ikke mulig å gjenskape i en datamaskin, mener skeptikerne.

Hvem får rett? Om du synes dette er et spennende tema vil jeg anbefale deg å lese min oppdaterte «Topp-10 listen med folk du bør følge om kunstig intelligens i 2019»

Jan Sollid Storehaug

Jan Sollid Storehaug

Ser du etter en foredragsholder til ditt arrangement? Ring meg gjerne på 97512077 eller finn tid som passer for et nettmøte direkte i min kalender. Ved siden av å holde foredrag er jeg daglig leder av Tenk Digitalt AS. Jeg er gift med Bente Sollid Storehaug og sammen har vi 5 barn i alderen 13 til 24 år. Vi deler vårt liv mellom familie og jobb i Oslo og småbruket vårt i Bølingshavn på Hvaler.

Slik lykkes du bedre med dine foredrag

Finn ut om Jan Sollid Storehaug er ledig for ditt arrangement

Helseteknologi står frem som vinner etter pandemien

MELD DEG PÅ NYHETSBREV

SISTE POSTER

Book et nettmøte for å diskutere ditt arrangement

HJELP MEG DELE DENNE ARTIKKELEN