Datatilsynet ved Bjørn Erik Thon har lansert et testmiljø for kunstig intelligens som tar i bruk personopplysninger(Foto: Ilja Hendel)

Lanserte sandkasse for «lek og lær» med kunstig intelligens

Som det andre datatilsyn i Europa lanserte det norske Datatilsynet 1. desember en såkalt regulatorisk sandkasse for kunstig intelligens. Tekna-president Lise Lyngnes håper sandkassa vil hjelpe teknologifrelste til å tenke seg om to ganger før de realiserer løsninger som utfordrer personvernreglene.

Etter mønster fra sin britiske søsterorganisasjon har Datatilsynet lansert en sandkasse for kunstig intelligens der personvernreglene skal brukes som et rammeverk.

–  Målet er å stimulere til innovasjon av etisk og ansvarlig kunstig intelligens fra et personvernperspektiv, sa direktør i Datatilsynet Bjørn Erik Thon under åpningen.

Han opplyste at en slik sandkasse skal være er et testmiljø for kunstig intelligens som tar i bruk personopplysninger. Her vil Datatilsynet kunne tilby gratis veiledning til en håndfull utvalgte selskaper, av forskjellige typer og størrelser, på tvers av ulike sektorer.

Unngå feil i algoritmer

Bestillingen kom fra regjeringen i begynnelsen av 2020. Distrikts- og digitaliseringsminister Linda Hofstad Helleland gratulerte Datatilsynet med den gode løsningen under lanseringen.

Statsråd Linda Hofstad Helleland gledet seg over startskuddet for kunstig intelligens-sandkassen.

–  Utviklingen av kunstig intelligens, KI, krever store mengder personopplysninger, og personvernet utfordres. Mange er bekymret for om de brukes til andre formål enn de ble innsamlet til. Det kan være vanskelig å forstå og unngå feil i algoritmer. Diskriminerende og uheldige skjevheter er oppdaget ved tidligere anledninger, sa statsråden.

–  Dette legger til rette for å utvikle nye teknologi i et trygt testmiljø, og er i tråd med den nasjonale strategien for kunstig intelligens som ble lagt frem av regjeringen i januar for snart ett år siden, sa hun.

 Kan få enorm samfunnsnytte

Bedrifter kan få hjelp til å utvikle "rettferdige" algoritmer, ifølge prosjektleder i Datatilsynet Kari Laumann. (Foto: Åsa Mikkelsen)

–  Potensialet for hva kunstig intelligens kan gjøre for samfunnet vårt er enormt. Samtidig ser vi at grunnleggende rettigheter knyttet til kontroll over egne personopplysninger blir utfordret, sa prosjektleder Kari Laumann i Datatilsynet.

Hun opplyste at i sandkassen vil Datatilsynet tilby gratis veiledning til en håndfull utvalgte selskaper, av forskjellige typer og størrelser, på tvers av ulike sektorer. Hvordan ser en rettferdig algoritme ut? Hvor detaljert må en forklaring om den svarte boksen være? Hva betyr dataminimering i praksis? Dette er noen av spørsmålene de håper at sandkassen kan hjelpe med å svare på.

 – Vi vil bruke eksempler og læring fra de ulike prosjektene til å lage veiledning som er relevant for andre som tar i bruk kunstig intelligens, og for å bygge vår egen kompetanse på området, sa Laumann.

I tillegg til gratulasjoner fra distrikts- og digitaliseringsminister Linda Hofstad Helleland, vanket det også gratulasjoner fra det britiske datatilsynet ICO og fra Teknas president Lise Lyngsnes Randeberg.

Viktigste muliggjørende teknologi

Tekna-president Lise Lyngsnes Randeberg hilsen sandkassen for testing av kunstig intelligens velkommen, ikke minst for at ivrige teknologer kan vurdere om bruken av deres avanserte løsninger er smart i forhold til personvern.

–  Kunstig intelligens blir den viktigste muliggjørende teknologien i Norge. Det kunne vi allerede lese ut av rapporten fra Digital 21 i 2018 som var basert på samtaler med mer enn 600 virksomheter og innspill fra en rekke forskningsmiljøer. Forskningsrådet rennes nå ned av søknader innen KI, sa Lise Lyngsnes Randeberg.

Hun mener det er mange grunner til at vi skal lykkes i Norge innen KI, men også utfordringer. Mye handler om tillit, og fremholdt at når offentlige etater samler inn data, må vi kunne stole på dem. Randeberg har selv god erfaring i bruk av kunstig intelligens som professor innen medisinsk diagnostikkforskning.

Skummelt om data kobles

–  Offentlige etater som NAV, Lånekassen, og Skatteetaten henter informasjon om oss. Det samles data om oss i trafikkovervåking, korttranssaksjoner, og det er et stadig større sug etter innsamling av helsedata, for å nevne noe. Alle systemene er avhengig av tillit fra befolkningen.

–  Det kan være skummelt når slik informasjon (metadata) om deg og dine preferanser kobles sammen. Derfor er det så viktig at Datatilsynet passer på.

– Vi teknologer er fryktelig glade i å prøve nye ting. Den nye sandkassa for KI, kan kanskje få noen av oss til å ta en ekstra vurderingsrunde på om det vi ønsker er så lurt, i forhold til personvern, sa hun.

Tekna-presidenten er selv bekymret for en ny trend, nemlig alle helsedata som folk gir fra seg i såkalte «wearables», typisk smartklokker, treningsapper etc. Det er snart en milliard slike wearables i verden, sa Randeberg.Hvor havner egentlig alle disse dataene? Hun skulle ønske Datatilsynet kunne finne et wearables-eksempel å bruke i den nye sandkassen for kunstig intelligens.

Se også opptaket fra streamingen av Tekna-arrangementet Regulatoriske sandkasser som verktøy for digitalisering fra 18. november.