Forskning: Hjelp av KI på jobb kan gjøre oss sløve

Vi har begynt å bruke mer kunstig intelligens på norske arbeidsplasser, og en av tre mener at jobben vil endres på grunn av KI.

Forskerne kaller dette for «looking but not seeing»-effekten.

Det kan være alt fra tekstgenerering i ChatGPT til mer komplekse systemer, som å gjenkjenne blødninger og kreftceller i hjernen.

For at symbiosen skal fungere mest mulig effektivt - kan det være lurt å aldri stole for mye på den kunstige intelligensen.

Forskere ved Technische Universität Berlin, fikk 42 mennesker til å sjekke et kretskort for å se om de fant noen feil. Halvparten av de som var med på studien, ble fortalt at de fikk hjelp av en robot. De fikk vite at roboten hadde sjekket kretskortet for feil først, så skulle deltakerne dobbeltsjekke det.

Resultatet: De som ble fortalt at de hadde fått hjelp av roboten oppdaget ikke like mange feil som de som trodde de jobbet alene.

Forskerne kaller dette for «looking but not seeing»-effekten.

– Her peker ulik forskning i ulike retninger

Inge Harkestad, som er ansvarlig for nettstudier i teknologifag ved Høyskolen Kristiania, og er nestleder i Tekna Big Data, mener det er en fare for vi blir mer slurvete av å bruke KI i arbeidet.

– Ja, absolutt, men her peker ulik forskning i ulike retninger. På den ene siden finnes det forskning som viser at for eksempel helsepersonell kan løse viktige oppgaver bedre med støtte av kunstig intelligens. Men det er også forskning som viser at vi ofte stoler for ukritisk på teknologi. Når teknologisystemer feiler, oppdager vi det gjerne for sent, eller ikke i det hele tatt.

VÆR KRITISK: Inge Harkestad forteller om viktigheten med å være kritisk når du jobber med KI. Foto: Privat.

Han forteller at det i noen tilfeller, som med selvkjørende biler og autopilot på fly, kan det få fatale resultater. Litt mindre kritisk, men desto mer pinlig, er eksempelet fra i sommer der to amerikanske advokater leverte inn et rettsdokument med seks fiktive rettsavgjørelser. ChatGPT hadde diktet dem opp, og advokatene hadde unnlatt å sjekke.

– Når man bruker kunstig intelligens, er det alltid viktig å vurdere resultatene kritisk. Det gjaldt før ChatGPT kom, og det gjelder fortsatt. Evnen vår til kritisk tenkning blir bare viktigere og viktigere, sier Harkestad.

Han ser på kunstig intelligens som et verktøy, og tenker at verktøyet ikke kan gjøre jobben alene.

Nesten alt han bruker kunstig intelligens til, er oppgaver som uansett bør dobbeltsjekkes. Det kan være å lage bilder og førsteutkast til tekster, bearbeide tekst, oversette mellom språk, og tekste lyd- og bildeopptak.

– Hvis jeg hadde gitt disse oppgavene til en talentfull, men ganske kunnskapsløs assistent – som noen av dagens verktøy kan sammenlignes med – så ville jeg ha sett over resultatet og forventet å måtte bearbeide det videre. Det samme gjelder når jeg bruker verktøy som ChatGPT, Whisper, Stable Diffusion og lignende. Dette er veldig gode verktøy, men ansvaret for sluttresultatet ligger uansett på meg.

– Chatboter er gode på språk, men dårlige på fakta

For bedrifter som skal implementere KI og retningslinjer for det - samt privatpersoner som skal begynne å bruke det aktivt i jobben, er det flere ting å huske på.

– Det er mange lavthengende frukter i dag, men også flere snubletråder. Man bør gjøre seg kjent med de viktigste teknologiske, juridiske og etiske fallgruvene, og begynne med å sette opp noen enkle retningslinjer og styringssystemer. Deretter bør man revidere retningslinjene ofte.

Undersøkelse fra NHO viser blant annet at:

• Bare 344 av de 2295 spurte virksomhetene bruker KI til å utføre oppgaver som normalt krever menneskelig intelligens i den daglige driften.
• Bare fem prosent, eller 17 av disse 344 virksomhetene, bruker KI i «stor grad».
• Ni av ti virksomheter har ingen retningslinjer for bruk av KI.

Harkestad mener virksomheter generelt burde starte med å identifisere hvilke forretningsutfordringer man ønsker å løse, hvilke muligheter man ønsker å utforske, og hvilke ulemper teknologien kan medføre. Man bør tenke gjennom hva man ønsker å bruke kunstig intelligens til, og hva man vil unngå å bruke det til. Videre ville han ha vurdert mulighetene fra ulike perspektiver:

• Hva innebærer dette for ansatte og kunder?
• Hva forventer vi fra leverandørene våre?
• Hvilke krav stiller samfunnet til oss?
• Hvilken kompetanse har vi
• Hvilken trenger vi å skaffe oss?

– Hvis man ikke har tidligere erfaring med kunstig intelligens, kan det være naturlig å starte med for eksempel ChatGPT, Bing, Copilot og lignende. Husk da på at chatboter er gode på språk, men dårlige på fakta.

Han sier også at det er viktig å være obs på at noen av de store selskapene på området er ganske dårlige på personvern og åpenhet, og ikke bryr seg nevneverdig om åndsverk. Den informasjonen du mater inn i ChatGPT i dag, kan ChatGPT i neste omgang gi videre til andre. Ikke skriv inn persondata eller sensitiv informasjon til slike tjenester, og ikke ta svarene for gitt. Vurder kritisk om svarene kan brukes, og i så fall hvordan.