Innsikt

Dette er hva kunstig intelligens og muliggjørende teknologi kan gjøre for domstolene

Domstolene risikerer bli sinker når advokatene kaster seg på legal tech
GAMECHANGER: Kunstig intelligens vil fornye advokatbransjen og true advokatselskapenes forretningsmodeller. Hvis domstolene sakker akterut advokatene, kan det ødelegge befolkningens tillit til domstolene, skriver NTNU-professor Arne Krokan i sin tredje sak om digitaliseringen av domstol-Norge. llustrasjonsbilde: Istockphoto.
Lesetid ca. 24 minutter

Digitalisering er så mye mer enn å gjøre papir til pdf. Teknologi kan endre arbeidsprosesser mer fundamentalt og kunstig intelligens er på mange måter en «game-changer», også i jussen. Kunstig intelligens vil true advokatselskapenes forretningsmodeller fordi det godt betalte fullmektig-arbeidet som å vurdere bevis og foreslå tekster kan erstattes av kunstig intelligens. Dersom advokatene er i front på legaltech, og domstolene sakker akterut, kan det ødelegge befolkningens tillit til domstolene. Derfor bør muliggjørende teknologi taes i bruk i domstolene, selv om det krever mye mot og ressurser, argumenterer sosiologiprofessor Arne Krokan i denne ekspertkommentaren.

Domstolene risikerer bli sinker når advokatene kaster seg på legal tech

Om forfatteren

Arne Krokan er professor i sosiologi ved Institutt for industriell økonomi og teknologiledelse på NTNU. Medlem av Domstolkommisjonen og Norges Tekniske Vitenskapsakademi. Krokan er opptatt av hvordan ny teknologi endrer samfunnet, spesielt organisasjoner og deres forretningsmodeller. Foto: Carl Stormer.

Potensialet i ny teknologi er stort. En kunstig intelligens-algoritme predikerte 30. desember 2019 at en uvanlig lungebetennelse hadde oppstått rundt et marked i Wuhan i Kina. Herfra og ut kan det gå raskt, også i domstolene, sier Krokan, og nevner noen eksempler:

  • Oversettelsesteknologi står etter algoritmen GPT-3 i 2020 foran et mulig kvantesprang. Det betyr blant annet at mange av rettstolkene, som koster 100 millioner kroner årlig, kan droppes.

  • Algoritmer risikerer gjenskape systematiske skjevheter fra tidligere praksis, men kan programmeres til å ikke diskriminere.

  • Palantir kan hente inn all tilgjengelig informasjon om personer fra både åpne og lukkede kilder, som bruk av data fra sosiale medier, tilgjengelige lokasjonsdata, oversikt over kjøretøy og deres bevegelser, e-poster og mer – som kan bli viktig i bevisføring.

  • En digital hjelpedommer kan regne ut tilbakefallssannynsligheter ved prøveløslatelse.

  • Rettsmøter kan holdes digitalt.

  • Opptak av saker i tidligere instanser forenkles, og kan spare betydelig tid i ankesaker.

I sin første artikkel argumenterte Krokan for at digitalisering mer enn en teknologioppgave, er en organisastorisk og en kulturell oppgave. I del to argumenterte han for at digital tranformasjon av domstolene ikke skjer i domstolen alene, men sammen med et økosystem av aktører, og digitaliseringsvennlig lovgivning. Norge var tidlige ute med innovative digitale tjenester for domstolsektoren gjennom Lovdata og Lovisa, men henger nå etter. Kina og Estland er to land som kan vise konturene av fremtidens domstoler. (Juridika Innsikts oppsummering)

Innledning

De viktigste driverne i endring av organisasjoner er teknologi og overgang fra en industrielle-/fysisk økonomi til en digital økonomi. Den første legger til rette for endrede arbeidsprosesser. Den andre endrer de økonomiske og forretningsmessige betingelsene for de berørte virksomhetene, blant annet i form av nye forretningsmodeller.

De viktigste teknologiske driverne er overgangen fra «applikasjoner» til plattformer og plattformøkonomi, mulighetene for å analysere store datamengder og økende bruk av kunstig intelligens. I domstolene gjør utviklingen av nye visualiseringsteknologier det mulig å etablere nye, distribuerte og mer fleksible organisasjoner.

I EU har en for eksempel oversatt rettsdokumenter til 24 ulike språk og skapt en unik base for å trene algoritmene til å mestre oversettelsesoppgaver også på det juridiske området.

Smal og generelle kunstig intelligens

I regjeringens strategi for kunstig intelligens defineres kunstig intelligens slik:

«Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål. .»

Kunstig intelligens er også ofte forstått som systemer som etterlikner hjernens måte å løse oppgaver på. Den kan endre responsmønster når den får ny informasjon og finne løsninger som ikke er forhåndsprogrammert.

En skiller ofte mellom «generell» og «smal» kunstig intelligens. Generell kunstig intelligens kan løse alle mulige utfordringer omtrent slik mennesker gjør. Slike systemer finnes ikke i dag og det vil sannsynligvis gå lang tid før de kan utvikles. Smal kunstig intelligens refererer til systemer som løser mer spesifikke utfordringer og dem finnes det mange av.

I EUs Program for et digitalt Europa (DEP) skal «ressursene settes inn der de antas å gi størst effekt – (...) helse, justis, forbrukervern og offentlig forvaltning». Bruk av kunstig intelligens i domstolene er dermed allerede på EUs agenda.

Algoritmer og juridiske systemer

Kunstig intelligens er et av de områdene der teknologiutviklingen skjer raskest, fordi forskere og utviklere samarbeider og deler innsikt på helt andre måter enn mulig tidligere.

Kunstig intelligens består av datasystemer som er bygd opp av en rekke algoritmer. En algoritme kan forstås som en oppskrift, et sett regler eller prosedyrer som tas i bruk for å løse et bestemt problem. Det kan også beskrives som et sett av instruksjoner designet for å løse en bestemt oppgave. I stedet for at vi programmerer datamaskinene til å finne bestemte løsninger, som et regnskapssystem, utvikles systemer som finner løsninger uten at de er direkte programmert til det. Den mest kjente metoden er maskinlæring. Slike løsninger brukes blant annet til automatiske oversettelser, til analyse av bilder, til å skape tekster, musikk, bilder og så videre.

«Maskinlæring» er en betegnelse på en rekke algoritmer som igjen løser oppgaver på ulike måter. Noen av de mest brukte algoritmene i kunstig intelligens forutsetter at en kan trene algoritmene på datasett der en vet «svaret» på det spørsmålet som stilles, og bruke treningsdataene til å utvikle en prediksjonsmodell som kan tas i bruk på fremtidige data.

En kunstig intelligens-algoritme fra det kanadiske selskapet BlueDot, som har bygd en plattform som bruker maskinlæringsalgoritmer til å kartlegge og predikere spredning av sykdom basert på analyser av medieoppslag, rapporterte allerede 30. desember 2019 at en lungebetennelse som ikke var av den vanlige typen, hadde oppstått rundt et marked i Wuhan i Kina.

For å trene algoritmene trenger en som oftest store datamengder. Det finnes på stadig flere fagfelt. I EU har en for eksempel oversatt rettsdokumenter til 24 ulike språk og skapt en unik base for å trene algoritmene til å mestre oversettelsesoppgaver også på det juridiske området.

Det viser at teknologi kanskje er løsningen på utfordringer som vi ikke greier å håndtere politisk eller ved hjelp av tradisjonelle økonomiske styringsmekanismer.

Hva kunstig intelligens kan brukes til

Kunstig intelligens tas i bruk på de fleste samfunnsområder. I EUs Program for et digitalt Europa (DEP) skal «ressursene settes inn der de antas å gi størst effekt – (...) helse, justis, forbrukervern og offentlig forvaltning». Bruk av kunstig intelligens i domstolene er dermed allerede på EUs agenda.

Et av de mest aktuelle bruksområdene for kunstig intelligens i domstolene på kort sikt er automatiske oversettelser.

Kunstig intelligens er et av de områdene der teknologiutviklingen skjer raskest, fordi forskere og utviklere samarbeider og deler innsikt på helt andre måter enn mulig tidligere. Samtidig er også veien fra utvikling til bruk stadig kortere, noe som ble demonstrert da et team våren 2020 skapte «a deep learning algorithm using CT images to screen for Corona Virus Disease» på bare noen få uker. En kunstig intelligens-algoritme fra det kanadiske selskapet BlueDot, som har bygd en plattform som bruker maskinlæringsalgoritmer til å kartlegge og predikere spredning av sykdom basert på analyser av medieoppslag, rapporterte allerede 30. desember 2019 at en lungebetennelse som ikke var av den vanlige typen, hadde oppstått rundt et marked i Wuhan i Kina.

Dette skjedde over en uke før WHO informerte om hendelsene, og det viser at teknologi kanskje er løsningen på utfordringer som vi ikke greier å håndtere politisk eller ved hjelp av tradisjonelle økonomiske styringsmekanismer.

«Robot-tolker» i domstolene

I 2007 introduserte Google tjenesten Translate. Det store gjennombruddet i oversettelsesteknologi kom imidlertid først i 2016–2017, da Google tok i bruk nevrale nett av algoritmer i oversettelsene.

Et av de mest aktuelle bruksområdene for kunstig intelligens i domstolene på kort sikt er automatiske oversettelser. Automatiske oversettelser ble først tilgjengelig for allmennheten i 1997 gjennom tjenesten Babel Fish, som fungerte bare måtelig bra. I 2007 introduserte Google tjenesten Translate. Det store gjennombruddet i oversettelsesteknologi kom imidlertid først i 2016–2017, da Google tok i bruk nevrale nett av algoritmer i oversettelsene. En virkelig stor forbedring kom i 2020 med utviklingen av GPT-3, en algoritme som ble trent på 300 milliarder ord og som med 175 milliarder parametre var den hittil overlegent beste «motoren» for å skape tekst. Det er mye som tyder på at denne, samt Googles nye algoritmer som håndterer enda langt flere dimensjoner, vil skape et kvantesprang med tanke på hvilke oppgaver kunstig intelligens kan løse. Blant annet skal den kunne generere en applikasjon bare på grunnlag av hvordan denne er beskrevet i naturlig språk.

Kostnader ved tolking og oversettelser i norske domstoler er på over 100 millioner kroner årlig, ifølge Domstoladministrasjonen.

Antakelig har vi bare sett en sped begynnelse på hva slike algoritmer er i stand til å gjøre.

I Norge gjøres det utstrakt bruk av oversettelser i domstolssektoren. Hovedregelen for bruk av oversettertjenester i det norske rettssystemet er at staten dekker kostnadene ved tolk og oversettelser av dom i straffesaker der tiltalte ikke forstår norsk. (Torstein Frantzen, «Rettsspråket er norsk», Lov og Rett, 2018) Kostnader ved tolking og oversettelser i norske domstoler er på over 100 millioner kroner årlig, ifølge Domstoladministrasjonen. Det kan reduseres betydelig med maskinbaserte oversettelsestjenester.

ELITR, European Live Translator, er et program med mål om å utvikle effektive og pålitelige tjenester for automatisk talegjenkjenning (tale-til-tekst), automatisk oversettelse av tale og tekst og automatisk genererte referater av møter.

Idag taes ikke rettsforhandlingene, og dermed heller ikke tolkingen, opp. Det er heller ikke noen form for kvalitetskontroll på tolking i retten eller på oversettelse av dokumenter. Det stilles ikke formelle krav til utdanning og eller sertifisering av tolker og oversettere som kan benyttes av domstolene.

I EU er det en rekke initiativ som bidrar til å utvikle oversettelsestjenester. ELITR, European Live Translator, er et program med mål om å utvikle effektive og pålitelige tjenester for automatisk talegjenkjenning (tale-til-tekst), automatisk oversettelse av tale og tekst og automatisk genererte referater av møter. Rene oversettelser av dokumenter gjøres allerede maskinelt ved hjelp av eTranslation, som oversetter til og fra alle språk i EU. Det europeiske patentverket har lansert en mer spesialisert tjeneste gjennom Patent Translate, bygget på Googles teknologi.

Teknologiene er tilgjengelige, de er i bruk i mange land og Norge ligger etter i innovativ bruk av slike tjenester i sektoren. Noe av årsakene til dette, kan være noe dårlig erfaringer med tidligere versjoner av oversettelsessystemene.

Teknologiene er tilgjengelige, de er i bruk i mange land og Norge ligger etter i innovativ bruk av slike tjenester i sektoren. Noe av årsakene til dette, kan være noe dårlig erfaringer med tidligere versjoner av oversettelsessystemene.

Mye av forskningen som omhandler maskinoversettelser i rettsvesenet, bygger på empiriske studier som i hovedsak er gjort før en tok i bruk de nyeste teknologiene basert på dyp læring. Forskningen på oversettelser er derfor lite relevante når en skal vurdere kvalitet på og mulig bruk av slike systemer i dagens og fremtidens rettsvesen. Situasjonen i dag er at tjenester basert på nevrale nett forbedres svært raskt, og vi kan forvente at automatiske oversettelser av både tekst og tale i løpet av de nærmeste årene vil være fullt på høyde med oversettelser gjort av mennesker.

Forskningen på oversettelser er derfor lite relevante når en skal vurdere kvalitet på og mulig bruk av slike systemer i dagens og fremtidens rettsvesen.

Kunstig intelligens i prediktive modeller - hjelpedommere

I USA har slike modeller i lang tid vært brukt som beslutningsstøtte i for eksempel spørsmål om prøveløslatelse. Flere stater har gjort bruk av algoritmen COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) for å vurdere sannsynligheten for tilbakefall.

En annen mulig, men mer kontroversiell bruk av kunstig intelligens i domstolsektoren er knyttet til bruk av prediktive modeller. Dette er modeller som har som formål å kunne angi sannsynlighet for fremtidige hendelser basert på historiske data. I USA har slike modeller i lang tid vært brukt som beslutningsstøtte i for eksempel spørsmål om prøveløslatelse. Flere stater har gjort bruk av algoritmen COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) for å vurdere sannsynligheten for tilbakefall i saker som omhandler prøveløslatelse. Algoritmen kommer fra et privat selskap, og det er ikke allment kjent hvordan den fungerer, men den gir korrekte estimater i om lag 70 prosent av tilfellene. Ifølge en studie fra 2018 gir algoritmen like gode estimater for fremtidige tilbakefall som et panel bestående av 20 personer som vurderte de samme sakene (NOU 2019: 17 Domstolstruktur, pkt. 8.2.5).

Det kan være to typer feil den gjør: enten å gi falskt positive resultater eller å gi falskt negative resultater.

Algoritmen gir korrekte råd i omtrent to tredeler av tilfellene. Men hva med tilfellene der den tar feil? Det kan være to typer feil den gjør: enten å gi falskt positive resultater eller å gi falskt negative resultater. Falskt positive resultater innebærer at algoritmen feilaktig vurderer en person som høyrisikabel, mens falskt negative resultater innebærer at en undervurderer risikoen en person faktisk utgjør.

En av de største utfordringene ved slike algoritmer er at de gjenskaper systematiske skjevheter fra tidligere praksis.

En av de største utfordringene ved slike algoritmer er at de gjenskaper systematiske skjevheter fra tidligere praksis, men da skal en være oppmerksomme på at det jo nettopp er tidligere skjevheter forårsaket av mennesker som gjenskapes. Gjennom å bli bevisst slike skjevheter kan algoritmene «tweakes» til å unngå denne typen feil. Det er langt vanskeligere å få mennesker til å gjøre, fordi feilene i stor grad er mer ubevisste enn planlagte.

Eksempler på slik skjevhet, blant annet på etnisitet, kjønn og inntekt, er omfattende dokumentert. Domstolkommisjonens egne undersøkelser viser at det også i Norge er påviselige skjevheter i straffeutmålinger. Utmålingen endres både av dommeres erfaring og størrelsen på domstolen.

Spørsmålet er derfor i første omgang ikke hvorvidt teknologi skal erstatte dommerne, men mer knyttet til hvorvidt den kan føre til bedre beslutninger, samt også avlaste dommerne i mer trivielle gjøremål.

Spørsmålet er derfor i første omgang ikke hvorvidt teknologi skal erstatte dommerne, men mer knyttet til hvorvidt den kan føre til bedre beslutninger, samt også avlaste dommerne i mer trivielle gjøremål.

Kunstig intelligens som beslutningsstøtte og robotdommere

Mye av det nye med dagens teknologiske utvikling er at en ikke bare robotiserer industrielle og manuelle arbeidsprosesser, men også i stor grad kunnskapsarbeid. Forskning viser at mennesker er langt dårligere til å ta beslutninger enn hva vi gjerne tror. Det er flere grunner til dette. Én grunn er at man gjerne tar beslutninger basert på ulike forventningsskjevheter, som er systematiske avvik fra rasjonelle prosesser. En av de mer kjente er forventningsbekreftelse (confirmation bias). Dette innebærer at man systematisk leter etter informasjon som stemmer med ens eksisterende forventninger, og undertrykker informasjon som er i strid med dette. Forventningsbekreftelse har betydning også for avgjørelser som treffes i domstolene.

COMPAS vurderer sannsynligheten for tilbakefall i saker som omhandler prøveløslatelse. USAs høyesterett har imidlertid uttalt at dommere må bruke verktøyet med varsomhet, og at avgjørelser ikke alene kan begrunnes med programmets anbefalinger, selv om systemets prediksjonsmodell treffer bedre enn de menneskelige vurderingene.

USA har allerede hjelpedommere

I Estland er det planlagt å ta i bruk en robotdommer i sivile saker der det tvistes om verdier under 75 000 kroner.

I nær fremtid vil det antakelig finnes gode teknologiske løsninger som kan brukes som beslutningsstøtte for dommere. De kan bidra til en mer enhetlig rettspraksis. I USA er kunstig intelligens som beslutningsstøtte i straffesakskjeden utprøvd, blant annet gjennom bruk av algoritmen COMPAS (Correctional Offender Management Profiling for Alternative Sanctions). COMPAS vurderer sannsynligheten for tilbakefall i saker som omhandler prøveløslatelse. USAs høyesterett har imidlertid uttalt at dommere må bruke verktøyet med varsomhet, og at avgjørelser ikke alene kan begrunnes med programmets anbefalinger, selv om systemets prediksjonsmodell treffer bedre enn de menneskelige vurderingene.

Ifølge en rapport fra European Commission for the Efficiency of Justice er bruk av kunstig intelligens og maskinlæringsbasert beslutningsstøtte mer utbredt i det amerikanske rettsvesenet enn i Europa. Men stadig flere europeiske land tar også i bruk kunstig intelligens. I Estland er det planlagt å ta i bruk en robotdommer i sivile saker der det tvistes om verdier under 75 000 kroner. Prosjektet er ikke ferdig, men tanken er at partene skal laste opp relevant saksinformasjon til en database og at robotdommeren skal fatte rettsbindende avgjørelser på bakgrunn av en kombinasjon av forhåndsprogrammerte algoritmer og maskinlæring. Estland er ikke det første landet som tar i bruk kunstig intelligens på justisområdet, men det kan bli det første landet der beslutningsmyndighet gis til en maskin. Det bør likevel understrekes at partene har anledning til å anke avgjørelsen, og at saken da vil bli vurdert av en menneskelig dommer.

Estland er ikke det første landet som tar i bruk kunstig intelligens på justisområdet, men det kan bli det første landet der beslutningsmyndighet gis til en maskin.

Feilene vil minske over tid

Kunstig intelligens, og spesielt maskinlæring, er på nåværende tidspunkt ikke uten feil og lyter, men med den utviklingstakten som kunstig intelligens har, er det stor sannsynlighet for at risikoen for feil vil bli vesentlig lavere i løpet av de nærmeste årene. Og kanskje vil det på sikt også bli slik at brukere av domstolene vil kunne ha mindre tillit til avgjørelser som dommerne tar uten bruk av beslutningsstøtte basert på kunstig intelligens, fordi det vil være allment kjent at mennesker lar seg påvirke av utenforliggende faktorer, noe algoritmene ikke gjør. I tillegg vil media og andre etter hvert få enkel tilgang til data fra domstolene som gjør at de – ved bruk av kunstig intelligens – kan etterprøve domstolenes avgjørelser på helt andre måter enn i dag. Slik sett vil domstolenes evne og vilje til å ta i bruk tilgjengelig teknologi kunne ha stor betydning for borgerens generelle tillit til domstolene.

Mulighetene for å kunne ta slike tjenester i bruk ligger også mye i tilgangen til og bruken av svært store datamengde, ofte i form av flere tusen sider tekst. Det er noe av hva analyser av stordata handler om.

I dag er plattformselskaper som Apple, Google og Facebook de som i størst grad bruker stordata, blant annet fra våre smarttelefoner, slik som lokasjonsdata som viser hvor vi er til enhver tid eller hvem vi har kontakt med og liknende data, som i sin tur kan brukes til å markedsføre eller skape og tilby nye produkter.

Stordata - Mange databekker små, gir en stor å

Domstolene risikerer bli sinker når advokatene kaster seg på legal tech
ENDRING I GJÆRE: Appene våre lærer. Maskinlæring vil bli vesentlig bedre og skepsisen til den lavere i løpet av de nærmeste årene, skriver artikkelforfatteren. Kanskje vil brukere av domstolene snart ha mindre tillit til avgjørelser som dommerne tar uten beslutningsstøtte fra kunstig intelligens enn med. Illustrasjon: Istockphoto.

Stordata handler om å samle og sammenlikne store eller enorme datamengder fra flere ulike kilder. Mest relevant for domstolene og juridisk sektor er analyser av tekstdokumenter. Ulike teknologier kan trekke ut essensen og finne ut hva dokumentene faktisk handler om. Slike analyser brukes i dag blant annet til å kategorisere dokumenter, avsløre forsikringssvindel, bygge profiler over lesere og brukere og kartlegge utviklingsmønstre. I domstolene kan de brukes til automatisk å kartlegge likheter og forskjeller mellom ulike dommere i tilsynelatende «like» saker. Det åpner for helt nye måter å kvalitetssikre domstolenes saksbehandling på.

Både tilgangen til slike data og bruken av dem skaper utfordringer med tanke på samfunnssikkerhet og personvern, også i domstolsektoren.

I dag er plattformselskaper som Apple, Google og Facebook de som i størst grad bruker stordata, blant annet fra våre smarttelefoner, slik som lokasjonsdata som viser hvor vi er til enhver tid eller hvem vi har kontakt med og liknende data, som i sin tur kan brukes til å markedsføre eller skape og tilby nye produkter. Ved å kombinere data fra mange kilder, slik en gjør gjennom stordataanalyse, kan en avdekke atferd og atferdsmønstre som det ikke er mulig å oppdage ved hjelp av konvensjonelle analysemetoder. Både tilgangen til slike data og bruken av dem skaper utfordringer med tanke på samfunnssikkerhet og personvern, også i domstolsektoren. En må anta at denne typen data i nær fremtid også vil bli brukt av ulike parter både i sivile og strafferettslige prosesser eksempelvis for å underbygge hvorvidt handlinger faktisk har funnet sted eller ikke, derfor er innsikt i bruk og analyse av denne typen kildemateriale viktig for domstolene.

Ikke minst er de viktige fordi det allerede finnes en rekke kommersielle selskaper som har spesialisert seg på bruk av slike modeller.

Palantir er en plattform som er tatt i bruk innen justissektoren, som gjør bruk av kunstig intelligens til å analysere stordata fra svært mange kilder samt visualisere mønstre. Palantir har gjennom tjenesten Gotham kapasitet til å hente inn all tilgjengelig informasjon om personer fra både åpne og lukkede kilder.

Palantir er en plattform som er tatt i bruk innen justissektoren, som gjør bruk av kunstig intelligens til å analysere stordata fra svært mange kilder samt visualisere mønstre. Palantir har gjennom tjenesten Gotham kapasitet til å hente inn all tilgjengelig informasjon om personer fra både åpne og lukkede kilder. Dette innebærer at en kan gjøre bruk av data fra sosiale medier, tilgjengelige lokasjonsdata, oversikt over kjøretøy og deres bevegelser, e-poster og en rekke andre kilder, samt relasjoner til familie, venner og bekjentskaper, i analysene.

Predictive policing er ikke science fiction

Palantir er spesielt kjent for å ha utviklet systemer for «predicitive policing», der målet er å kunne forebygge kriminalitet gjennom å estimere når og hvor de neste kriminelle hendelsene vil finne sted. I Norge har Palantir hatt avtaler med politiet og med Tolletaten. Bakgrunnen for avtalen med politiet var behov for å tilfredsstille krav som omhandler internasjonalt samarbeid. Gjennom Palantirs tjenester ble 18 av politiets registre koblet til plattformen, slik at en kunne finne informasjon om ønskede personer ved få tastetrykk uten å måtte gå inn i hvert av registrene for seg. I tillegg ga tjenesten tilgang til flere millioner fingeravtrykk- og DNA-profiler i både Europa og USA, noe som gjorde at tiden det tok for å finne ut om et fingeravtrykk fantes i andre registre, ble redusert med flere dager. Politiforum skrev da systemet ble tatt i bruk i 2017 at «svensk politi bruker 15 minutter på å søke frem resultater fra 20 EU-land, mens norsk politi må bruke minst fem dager på å få de samme svarene», noe som illustrerer noe av potensialet som finnes i slike systemer.

Palantir er spesielt kjent for å ha utviklet systemer for «predicitive policing», der målet er å kunne forebygge kriminalitet gjennom å estimere når og hvor de neste kriminelle hendelsene vil finne sted. I Norge har Palantir hatt avtaler med politiet og med Tolletaten.

Politiets avtale med Palantir ble imidlertid avsluttet i 2020, både på grunn av store forsinkelser og mangler, og fordi selskapet er kritisert for manglende åpenhet og innsyn med svakt personvern. Politidirektoratets prosjektledelse ble også sterkt kritisert. Dårlig prosjektledelse må ta en del av skylden for manglende resultater.

«Svensk politi bruker 15 minutter på å søke frem resultater fra 20 EU-land, mens norsk politi må bruke minst fem dager på å få de samme svarene».

Selv om slike prediktive modeller dermed ikke er tatt i bruk i norsk rettsvesen, må også norske aktører forholde seg til dem både gjennom internasjonalt samarbeid med land der teknologiene er tatt i bruk, og i saker der partene kan tenkes å bringe denne typen data inn for retten som bevismateriale.

En av utfordringene med denne typen systemer er at de underliggende algoritmene ikke er kjent, og at en derfor ikke kan vite hvorvidt analyser gjort i systemet for eksempel vil gjenskape systematiske skjevheter fra treningsdataene.

Eksempelet viser noen av utfordringene en står overfor når nye digitale infrastrukturer basert på plattformarkitektur skal utvikles og implementeres. Plattformer skaper stordata, og stordata brukes til å trene maskinlæringsalgoritmer. Derfor «henger alt sammen med alt», og derfor er det spesielt kompetansekrevende å etablere slike tverrgående analysetjenester.

En av utfordringene med denne typen systemer er at de underliggende algoritmene ikke er kjent.

Mye tyder på at det er behov for å utvikle kompetanse for digital transformasjon på mange områder og nivåer i justissektoren, og det blir vanskelig å skape gode løsninger for domstolene uten at en samtidig tar hensyn til de tverrgående perspektivene.

Disse teknologiene som gjør bruk av kunstig intelligens til å finne frem i omfattende dokumentmengder og andre datakilder, er ikke bare teknologier som kan brukes til å utvikle systemer for beslutningsstøtte, men også til tagging av data fra opptak av domsprosesser, noe som er helt nødvendig dersom det skal være mulig å skape en effektiv gjenbruk av lyd- og bildeopptak fra retten.

Domstolene risikerer bli sinker når advokatene kaster seg på legal tech
Domstolene risikerer bli sinker når advokatene kaster seg på legal tech
PREDICTIVE POLICING: Det amerikanske Palantir er kjent for å ha utviklet systemer for «predicitive policing», altså bruke data til å forutse og dermed forebygge kriminalitet. Norsk politi sa opp sin avtale med Palantir i 2020, både på grun av forsinkelser og personvern, men prinsippet vil muligens videreutvikles i fremtiden. Illustrasjonsbilder (øverst, finansanalytiker): Istockphoto.

Visualiseringsteknologi – lyd og bilde

Utviklingen av ulike fjernløsninger har skutt fart innen mange samfunnssektorer som følge av covid-19-pandemien, og videokonferanseløsninger med ulike tilleggsfunksjoner som dokumentdeling, oppslagstavler, chat, mulighet for gruppesamtaler etc. er i ferd med å bli hverdagsteknologi i stadig flere sammenhenger. Slik teknologi er også forsøksvis tatt i bruk innen domstolsektoren. I perioden 12. mars til 8. juni 2020 deltok om lag 37 000 møtedeltakere i ulike videokonsultasjoner og rettsmøter, og mange domstoler avholdt rettssaker og meklingsprosesser digitalt, og det viser noe av potensialet for å endre arbeidsprosesser i sektoren mer fundamentalt.

I perioden 12. mars til 8. juni 2020 deltok om lag 37 000 møtedeltakere i ulike videokonsultasjoner og rettsmøter, og mange domstoler avholdt rettssaker og meklingsprosesser digitalt, og det viser noe av potensialet for å endre arbeidsprosesser i sektoren mer fundamentalt.

Domstolene bør bygge videre på disse erfaringene og kartlegge i hvilke situasjoner fjernmøter fungerer godt, og i hvilke typer saker løsningen svekker rettsopplevelsen eller rettssikkerheten. Kan virtuell eller digital tilstedeværelse på skjerm erstatte møter ansikt til ansikt, isåfall når?

Når en skal vurdere hvordan virtuelle opplevelser fungerer i praksis, ser en gjerne på innlevelse og tilstedeværelse: hvor nær den fysiske virkeligheten en kan komme og brukerens subjektive opplevelse av hendelsen. Det ønskelige er at den subjektive oppfatningen av virtuelle virkeligheter er den samme som ved reelle/fysiske virkeligheter.

Forskning på området konkluderer med at særlig tre faktorer virker inn på brukeropplevelsen: opplevelsen av rommet en er del av, skjermer som formidler innholdet naturtro og romlig, gjerne gjennom stereoskopiske 3D-fremstillinger, og at en har god og naturtro lyd. Dette må en ta hensyn til når man skal utruste rettssaler for digitale fjernprosesser.

Fjernmøter i domstolene

Selv om dagens alminnelige fjernmøteteknologi kan være tilstrekkelig i mange saker, eksempelvis i saker om fartsovertredelser og kjøring i påvirket tilstand uten skade for andre, er det grunn til å peke på at en ved å etablere hensiktsmessige infrastrukturer med skjermer som gjør at vi ser personer i naturlig størrelse og med like god lyd som ved ansikt-til-ansikt-kommunikasjon, kan gjenskape de samme opplevelsene av tilstedeværelse som ved fysisk nærhet. Dette gir mulighet for bruk av fjernmøter i flere saker.

I domstolene kan dette utnyttes ved at det opprettes spesielt utstyrte rettssaler som utrustes for å håndtere saker virtuelt. Dette er teknologier som gjør det mulig å kombinere vesentlig større rettskretser med god tilgjengelighet, og som dermed bidrar til å skape et bedre rettstilbud til brukerne selv om en reduserer antall tingretter i tråd med Domstolkommisjonens forslag.

Et lengre skritt å ta er å etablere heldigitale domstoler med virtuelle dommere basert på Virtual Reality (VR)-teknologi og kunstig intelligens, slik en har gjort i Kina.

Virtuelle saker kan føres utenfor det alminnelige vernetinget, for eksempel der stor arbeidsmengde ved den lokale domstolen tilsier at saken bør avvikles et annet sted for å sikre en effektiv saksbehandling. Straffesaker der den tiltalte ikke har noen lokal forankring, og det ikke er en fornærmet i saken, kan også være egnet for slike prosesser. Dette kan for eksempel gjelde saker om innførsel av narkotika eller liknende.

Etablering av slike tilbud kan for eksempel skje i samarbeid med kommunene der det kan tilbys lokaler med nødvendig utstyr. På den måten kan en opprettholde et godt desentralisert rettstilbud. Lokalene må være skjermet for å hindre utilbørlig påvirkning av aktørene. Etablering av et slikt tilbud behøver ikke å endre måten en rettsforhandling gjennomføres på, men vil gi mer fleksible, effektive og kvalitativt bedre tjenester i en del sammenhenger.

Et lengre skritt å ta er å etablere heldigitale domstoler med virtuelle dommere basert på Virtual Reality (VR)-teknologi og kunstig intelligens, slik en har gjort i Kina. Der kombineres bilder av virkelige dommere med 3D-modeller slik at det lages en dommeravatar som overfor partene fremstår omtrent som en virkelig dommer. Ved utgangen av 2020 kunne slike «dommere» i Kina besvare spørsmål som omhandlet 82 ulike typer saker, fordelt på fire saksområder. Eksempelet viser at slike tjenester er teknisk mulige å lage, og at de også tas i bruk, men det vil kreve et større utredningsarbeid om en skal kartlegge hvilke konsekvenser etableringen av en slik tjeneste vil få.

Domstolene risikerer bli sinker når advokatene kaster seg på legal tech
Flere møter kan kjøres som videomøter i fremtiden - også i domstolene. Illustrasjonsbilde: Istockphoto.

Gjenbruk av lyd og bilde i høyere rettsinstanser

Det er allerede lovfestet at domstolene skal ta opp lyd og bilde i både sivile saker og straffesaker. Men det må også legges til rette for effektiv gjenbruk av opptakene ved eventuell anke av saker.

Det bør derfor etableres et prosjekt med tanke på å innføre systemer for analyse og tagging av videoopptak fra rettsprosessene i tillegg til innføring av egnet teknologi i rettssalene.

NRK utvikler i dag effektive gjenfinningssystemer for over 950.000 lydfiler og 155.000 timer med video som de forvalter. Målet er at alle opptak skal kunne tagges for gjenfinning gjennom en infrastruktur som kombinerer maskinlæring og semantisk teknologi og dermed forstår betydningen av ord og setninger. Det betyr at en ikke bare leter etter når en person snakket om et bestemt tema i et videoopptak basert på ansikts- og talegjengkjenning, men også kan identifisere sekvenser relatert til det aktuelle temaet, fordi det bygges inn en semantisk logikk i systemene. Teknologien kan gjøre ulike former for «vurdering» enn de fleste tror er mulig. Hva betyr dette i praksis? Det er i alle fall ikke bevis for at teknologien har noen form for bevissthet, men det gir et mulighetsbilde av noe som ikke ligger langt inn i fremtiden.

Slik bearbeiding av tekst og bilde vil det være nødvendig å gjøre med opptak fra domstolene dersom en skal sikre effektiv gjenbruk av materiale for ulike formål. Det bør derfor etableres et prosjekt med tanke på å innføre systemer for analyse og tagging av videopptak fra rettsprosessene i tillegg til innføring av egnet teknologi i rettssalene.

Konklusjon

I et digitalt transformasjonsperspektiv handler dette om mer fundamentale endringsprosesser enn å erstatte papir med pdf.

Teknologi endrer arbeidsprosesser. I et digitalt transformasjonsperspektiv handler dette om mer fundamentale endringsprosesser enn å erstatte papir med pdf eller å legge bare til rette for mer effektiv dokumentutveksling. Det handler i stor grad om hvordan en kan bruke teknologi til å endre arbeidsprosesser mer fundamentalt, slik jeg har gitt eksempler på i denne artikkelen.

Kunstig intelligens er på mange måter og områder en «game-changer» som vil føre omfattende endringsprosesser med seg. Noen mener at disse prosessene er så omfattende at de blant annet vil true advokatselskapenes forretningsmodeller fordi mye av det godt betalte fullmektig-arbeidet i stor grad kan erstattes av kunstig intelligens. Dette handler om å identifisere aktuelt kildemateriale, vurdere mer omfattende bevis, forfatte forslag til ulike tekster og ikke minst lage estimater av sannsynligheter for å vinne frem med sakene.

Dersom advokatbransjen og i enda større grad nye legal-tech-selskaper står for en slik utvikling og domstolene sakker akterut, kan det på sikt også virke inn på befolkningens tillit til domstolene.

For å sikre både domstolenes legitimitet og tillit bør en derfor sette i gang omfattende utviklingsarbeider for å finne ut hvordan mange av de nye muliggjørende teknologiene kan tas i bruk. Dette krever både mot og ressurser, og håper det ikke er noe av dette som står i veien for å utforske de nye mulighetene nærmere.

Kunstig intelligens er på mange måter og områder en «game-changer» som vil føre omfattende endringsprosesser med seg.

Takk til høyesterettsdommer Cecilie Østensen Berglund og Domstolkommisjonens sekretariat for verdifulle innspill til vedlegget til NOU 2020:11, som danner utgangspunkt for disse artiklene.

Juridika Innsikts og Arne Krokans serie i 4 deler om digitalisering av domstoler

1. Digitalisering i domstolene er et spørsmål om organisering, ikke teknologi

2. Norge kan bli første vestlige land som sømløst kobler domstoler og alle deler av straffekjeden

Les også Juridika Innsikts serie om legal tech og rettssikkerhet

Er legal tech en trussel mot advokatstanden? Kan en dommerrobot avgjøre tvisten din? Kan en maskin avgjøre søknaden din? Hvem skal programmere den maskinen? Juridika Innsikts journalist Marianne Reinertsen har dekket rettssikkerhetens plass i en digitalsert juss-fremtiden

1. Koronakrisen har satt fart på digitaliseringen av jussen

2. Advokatrobotene kommer – og kan ta med seg rettssikkerheten

3. Når statens jurister blir algoritmer

4. «Rettshjelproboter» kan bli en sovepute

5. Fremtidens domstol blir digital – men den kan bli mindre rettssikker

Les mer om legal tech i Juridika Innsikt

Jussens digitale skattekammer

Automatiserte skillsmisseberegninger

Følg fagdiskusjon om legal tech

Ulf Stridbeck Utfordringer med digitale vitner i korona

John Asland. Digitale testamenter

Ragna Aarlie. Digitale juridiske utdrag og norsk metodelære

Arne Krokan og Ragna Aarlie. Den digitale dommer