HVORDAN TILGIVER KUNSTIG INTELLIGENS MENNESKELIGE FEJL?

Vi bruger software til at tage større og større beslutninger. Men hvordan undgår vi, at de fejl vi laver som mennesker bliver brugt mod os i al evighed? Og hvor meget skal software egentlig afgøre i vores liv. Det er nogle af de spørgsmål, som studerende Mark Sønderby Willadsen tumler med i sin afsluttende opgave på UCN.

Når software tager beslutninger, der ændrer folks liv, hvordan undgår man så, at softwarefejl får uheldig indflydelse på folks muligheder og livsbane.

Det er nogle af de spørgsmål, som Mark Sønderby Willadsen har tumlet med som IT-studerende på UCN – Erhvervsakademi Nordjylland. Her er han ved at afslutte sin professionsbachelor i softwareudvikling, og som en del af den sidste hovedopgave, har han lavet en løsning, der kan godkende folks id-papirer, udvinde oplysninger fra dem og assistere ved låneansøgninger.

Han er helt klar over, at det ikke er en ligegyldig teknisk procedure.

”Hvis vi – ved en fejl – siger nej til, at de kan få godkendt et lån på et par millioner, så vil konsekvensen ofte være, at huset går til en anden, fordi hushandler ofte kan gå hurtigt. Det kan jo ændre folks livsbane, alt efter om de får et sted at bo. Men, hvem er så ansvarlig, hvis der er en fejl i vores software, spørger Mark Sønderby Willadsen.

Han forklarer, at afvisningen selvfølgelig godt kan ske af legitime årsager, men der kan også ske fejl, hvis softwaren ikke kan genkende et kørekort eller et pas eller hvis OCR-scanningen fejltolker en formular.

”Hvis software kan tage livsændrende beslutninger, hvem er så ansvarlig, når programmet laver fejl?”
Mark Sønderby Willadsen, Stud. PBA, UCN

Hvordan tilgiver software?

Men der er mange andre dilemmaer, understreger han.

”En softwareløsning kan måske se, at du engang har betalt tilbage på et kviklån, og det vil tælle negativt i forhold til at give dig et stort huslån i dag. Men bør softwaren ikke kunne tilgive dig, hvis du mange år senere har fået bedre styr på din økonomi?”

Mark Sønderby Willadsen har under studiet måtte læse op både på den europæiske regulering af kunstig intelligens og en hel del af materiale fra Datatilsynet, og det har givet stof til eftertanke.

”Jeg er en stor tilhænger af at bruge data i mange sammenhænge. Når kunstig intelligens bliver brugt til at scanne for kræft med større sikkerhed end lægerne, så redder vi liv. Men samtidigt skal det ske transparent, så folk ved, hvad deres data bliver brugt til.”

Hvad er vigtigst: Økonomi eller liv?

Tidligere på uddannelsen lavede han en løsning, som kunne hjælpe med at scanne trafiktyper og hastigheder på en billig måde. Den løsning ville hjælpe politiet til at flytte fotovogne derhen, hvor der blev kørt hurtigst.

Men igen dukkede dilemmaerne op. Både omkring overvågning, økonomi og sikkerhed.

”En del af løsningen var et modul, der kunne beregne, hvilke veje der giver de største bødeindtægter, men det udløser jo straks spørgsmålet om hastighedsovervågning hovedsageligt bliver brugt til at skabe sikrere veje eller til at overvåge og skabe indtægter til myndighederne?”

”For mig er den helt store problematik som vi hele tiden skal forholde os til: Er det i orden, at mennesker bliver bedømt så firkantet, som det nogle gange foregår i softwareløsninger – og hvordan får vi lavet kunstig intelligens, der er så klog, at den har reel empati,” siger Mark Sønderby Willadsen.

BLÅ BOG
Mark Sønderby Willadsen
2020 – PBA i Softwareudvikling, UCN
2017 – 2020: Datamatiker, UCN
2001 – 2005: IT-supporter, Techcollege