AI- og robotetikk – Fremtidsscenarier og etiske utfordringer

Singularitetsåret 2045?

Både forskere og forfattere av science fiction har vært opptatt av tidspunkt da kunstig intelligens passerer den menneskelige intelligens. Moore’s lov, er blant inspirasjonene og allerede i 2030 er kunstig intelligens på høyden og 2045 er antydet som året da det man kaller teknologisk singularitet inntreffer og kunstig intelligens tar over styringen av den videre utvikling av liv på jorden. Etter dette vil vi få en videre eksplosiv vekst i kunstig intelligens som raskt parkerer oss mennesker. Menneskene blir "overflødige". AI- og robotetikk blir et uhyre viktig tema.

En verden som sjangler videre?  

Slår dette til vil vi etter hvert oppleve å leve i en verden med stadig større forskjeller i leve- og livsstandard, som er blå, grønn og idyllisk i noen avgrensede geografiske områder, men skitten og svært utrygg med lokale kriger og krigsområder mange andre steder på jorden. FNs bærekraftsmål realiseres mer delvis enn helt.

Et samfunn uten jobber?

Det finnes flere oppslag som beskriver en slik fremtidsvisjonen. De fleste jobber automatiseres, også mye av det akademikere og forskere i dag holder på med. Mange mister jobbene de har og det kommer få nye. Borgerlønn må innføres i stor skala for å sikre menneskene som konsumenter.

En ny industriell revolusjon?

Her vises det til tidligere industrielle revolusjoner som over tid har skapt flere jobber enn de som er blitt borte, og også økt velstand. Kunstig intelligens blir et personlig verktøy som gjør arbeid mer kreativt og inspirerende.

Hvorfor fremtidsscenarier?

Det er ikke bare digitalisering som former fremtiden selv om noen både mener og skriver som om det er slik. Ideen om singularitetsåret 2045 er en ekstrem variant av denne forestillingen. AI/kunstig intelligens kan bli  velsignelse eller forbannelse avhengig av hvilke samfunnsregimer som vokser frem og de kunstige intelligensene skal finne sin plass i. Etter «murens fall» i november 1989 trodde mange at den vestlige verdens ideer om liberale samfunn og frihandel hadde vunnet frem for alltid. Slik ser det ikke akkurat ut i dag. Autoritære regimer i ulike versjoner lever side om side med våre egne ideer om god samfunnsutvikling. De fire scenariene som denne bloggposten innledes med er banalt enkle i forhold til hva vi kan komme til å oppleve. Lag gjerne dine egne mer realistiske. Velsignelse eller forbannelse – AI  og robotetikk er uansett aktuelt tema.

Arbeidsløshet – Hva skjer om/når jobbene blir borte, eller blir de borte?

Automatisering av arbeid fører uansett til at fysisk arbeid erstattes av mer komplekse roller for ansatte. Lastebilsjåfører vil som eksempel i løpet av få år møte konkurranse fra lastebiler som kjører selv, med færre ulykkeshendelser, under overvåkning av et fåtall operatører i automatiserte trafikksentraler. I dag lever vi av å selge tiden vår til arbeidsgivere. Dette vil kanskje bli vanskeligere i fremtiden. Hva skal vi da leve av? Hva skal vi bruke tiden til? Mye avhenger av i hvilken retning samfunnsutviklingen bringer oss. Mot et samfunn uten jobber eller en ny, jobbskapende, industriell revolusjon. Og det avhenger av oss selv, våre vurderinger, refleksjoner og valg?

Ulikhet – Hvordan fordeler vi rikdom skapt av maskiner?

Vår økonomi er basert på kompensasjon for bidrag til økonomien, dvs. lønnsarbeid for de fleste av oss. Kunstig intelligens vil føre til jobbkutt. De som lever av eierskap i virksomheter der kunstig intelligens er hoveddrivkraft vil kunne hente ut større utbytte til seg selv. Dette ser vi allerede i dag i form av superrike gründere i store internasjonale selskaper. Utviklingen drar også med seg lønnsnivået blant meklere, ledere og rådgivere i andre selskaper som automatiserer, outsourcer og leverer «gode resultater» for eierne. Hvordan fordele godene slik at ikke få blir stadig rikere og stadig flere blir fattigere? Også her finnes det valg- og påvirkningsmuligheter verdt å reflektere rundt.

Menneske-maskin interaksjon – Hvordan vil samvær med roboter påvirke vår atferd?

Vi er i starten av en utvikling der vi i stadig større utstrekning vil kommunisere og interagere med roboter med kunstig selvutviklende intelligens. Vanlig samspill mellom mennesker er begrenset av våre fysiske forutsetninger. Vi må hvile og sove og ønsker noen ganger å være for oss selv. Kunstige intelligenser vil ikke ha slike begrensninger. Hvordan vil det påvirke våre liv? Hva vil det gjøre med oss? Opplagt verdt og reflektere over AI- og robotetikk før vi er der.

Kunstig dumskap og rasisme – Hvordan verger vi oss mot kunstig uforstand?

Intelligens kommer fra læring. Slik er det for oss og slik er det for kunstig intelligens. Den «trenes opp» ved «å lære seg» å følge spesielle handlingsmønstre knyttet til ulike former for input. Så testes den ut med nye former for input for å se om den handler fornuftig. Denne fasen kan selvsagt ikke dekke alle mulige fremtidige eventualiteter og «kunstige misforståelser» kan føre til utilsiktede resultater skapt av kunstig intelligens på egen hånd eller som følge av manipulasjon fra mennesker. Det er mennesker med egne tanker, ideer og kanskje fordommer som står for programmering og trening. Hvordan går vi klar av «kunstig» uforstand, utilsiktede konsekvenser, eller direkte «ondskap»?

Singularitet – Hvordan beholder vi kontrollen over komplekse intelligente systemer?

Menneskene er på toppen av næringskjeden i kraft av oppfinnsomhet og intelligens. Vi kan ved hjelp av våre arbeidsredskaper kontrollere andre skapninger på planeten som er både større, sterkere og raskere enn oss. Når det gjelder kunstig intelligens kan vår posisjon som de fremste endre seg. Vil kunstig intelligens en dag ta over uten at vi kan «dra ut stikk-kontakten» fordi den har gjort seg i stand til å forsvare seg selv? Vi kan befinne oss i singularitets-scenariet omtalt innledningsvis. Hva da?

Roboters rettigheter – Skal AI-roboter behandles som mennesker eller?

Gjennom hjerne- og atferdsforskning har vi nå gjort oss kjent med basale menneskelige opplevelser av f.eks. belønning og aversjon. Vi deler disse mekanismene med dyr rundt oss og vi bygger dem trolig også inn i kunstig intelligens gjennom vår «opptrening». Foreløpig er kunstig intelligens langt fra å bære i seg slike menneskelige egenskaper, men legg til noen generasjoner med systemutvikling, hvor er vi da? Vil vi da oppleve at «maskiner» kan føle smerte? Må vi  vurdere å innrømme disse en form for «maskinrettigheter» på linje med menneskerettighetene vi påberoper oss selv? AI- og robotetikk blir i alle fall er tema før vi kommer dit.

Mer om AI- og robotetikk?

Fremstillingen av områder for etiske utfordringer bygger på en artikkel publisert på World Economic Forums nettside, her sterkt forkortet. De innledende scenariene er tatt med for å vise at samfunnsutvikling ikke er en reise langs et fastlagt spor. Tekna Etiske råd mener at det er viktig å reflektere rundt utfordringer som dette og de etiske implikasjonene som følger med. Bare slik kan vi hver for oss gi bidrag til styring av utviklingen både av teknologi og samfunn mot en fremtid det blir godt å leve i.

Her finner du mer innen etisk refleksjon.