DATAETIK: HVILKET SAMFUND VIL DU LEVE I?
I dag brummer vi måske over, at vores personlige data – om alt fra musik og mode til kæreste og afkom – bliver udnyttet af Google, Facebook og mange flere til at sælge annoncer, alligevel klikker vi ja til det; det er blevet det, vi betaler for at få alskens online services.
Men de store tech-giganter er langt fra de eneste, der sidder på enorme mængder data om os. Også mange andre lige fra din fagforening og din pensionskasse sammen med din arbejdsgiver og kommunen har data på dig og dine. Her er det vigtigt at slå fast, at de ikke uhæmmet kan udnytte de persondata.
Som det vigtigste har EU fastsat regler for, hvordan det skal foregå. Og det kan koste umanerligt dyrt, hvis virksomheder, det offentlige eller andre overtræder de spilleregler.
Men de paragraffer er langt fra nok til at sikre, at persondata bliver behandlet på en måde, flertallet finder i orden. Vi er også nødt til at forholde os til, hvilken omgang med vores personlige data vi som samfund finder etisk forsvarligt. Når man saver sig helt ind til marven, handler dataetik om, hvilket samfund vi vil leve i, mener Johan Busse, der er formand for Dataetisk Råd.
”Gennem de sidste 20 år har vi set, at digitaliseringen grundlæggende har forandret vores samfund. Vi har set nye teknologier, som kan bruge vores data på godt og ondt. Og de udvikler sig uden nogen demokratisk samtale, om det nu også er en god ide eller ej.”
”Vi skal se EU-reglerne som en slags grundlov, som skal sikre det enkelte menneske i en verden, som er uhyre kompliceret. I den sammenhæng er dataetik en måde at få greb om disse abstrakte problemstillinger, når vi skal tage stilling til, i hvilken retning vores samfund skal udvikle sig. Og det er ikke noget, vi har råd til at ignorere. Vi er nødt til at tage os retten til selv at bestemme, hvilke teknologier vi finder i orden. Ellers fortsætter det uhæmmet ud ad samme spor.”
”Indtil nu har vi mestendels forsømt at diskutere de vigtige spørgsmål. På den ene side har vi ladet private virksomheder selv finde ud af, hvordan de ville udnytte teknologierne til at tjene penge. På den anden side har udviklingen i det offentlige kun været drevet af en dagsorden om at effektivisere mest muligt: Hvis man i det offentlige ville igennem med noget, skulle man bare lave en business case, der gik på at digitalisere og effektivisere: Så var døren åben, uanset om der så foregik noget, som ikke var helt gennemtænkt.”
Har du eksempler på det?
”Tech-giganterne har fået lov til at vokse sig store. Tag f.eks. de sociale medier. De har overtaget dialogen i samfundet i en grad, at selv ikke skeptiske og kritiske politikere tør lade være med at kommunikere over de sociale medier, fordi det er der, debatten foregår.”
”Problemet er, at den debat er faciliteret af nogle virksomheder, som ikke har vores demokrati og frie meningsudveksling for øje. De er styret af at skulle tjene penge på annoncer. Og det betyder, at de arbejder med nogle algoritmer, som fordeler informationerne på en bestemt måde. De sikrer, at vi kun får det i vores feed, som de mener, er det, vi vil synes bedst om. Alt sammen for at fastholde os så længe som muligt på deres platform, så vi ser annoncerne.”
”Det betyder, at vi sidder i hvert vores ekkokammer og synes, at alle de andre udenfor ikke er rigtigt kloge eller det, der er værre. Kort sagt bliver verden opdelt i dem og os. Og konsekvensen er, at vi ofte ikke taler med hinanden, men råber ad hinanden. Det er ikke sundt i et demokrati, hvor en samtale med respekt for, at vi er forskellige, er afgørende.
”Når det gælder den offentlige sektor, har vi senest set undersøgelser, bl.a. foretaget af tænketanken Justitia, Digitaliseringsstyrelsen og Kommunernes Landsforening, der viser, at op mod en fjerdedel af danskerne føler, at de er hægtet af det digitale Danmark. Enten fordi de ikke har adgang til IT, eller fordi de ikke forstår at bruge de teknologier. De er usikre på, hvordan de skal bruge dem, og om de gør det rigtigt.”
”For nogle er det forbundet med en skam. De finder det pinligt, når teknologierne bliver præsenteret med overskrifter om, at de gør det hele smartere, lettere og bedre. mens de ikke kan hitte rede i det. Den oplevelse kan medføre i hvert fald to reaktioner: Enten bliver de vrede over, at de har fået sådant noget prakket på, eller også vender de det indad, nemlig at det nok er dem selv, der er noget galt med.”
”Et andet vigtigt punkt handler om tillid. I vores samfund har vi en høj grad af tillid til virksomheder og det offentlige. Det gør mange ting lettere for os, fordi vi kan tage mange ting for gode varer. Men falder den tillid, er der mange ting, som bliver meget mere besværlige, fordi vi så er nødt til at kontrollere mere end i dag.”
”Oplever vi, at vores data bliver brugt på en måde, som vi ikke havde forestillet os, skaber det mistillid. Ved sidste folketingsvalg kunne vi se, at politikere ligger utroligt langt nede på troværdighedsindekset. Det hænger sammen med mange ting, men negative oplevelser forbundet med digitalisering er med til at bidrage til mistilliden, fordi politikere er med til at sælge de digitale løsninger som forbedringer, også når de ikke er det. Politikerne bør forlange af leverandørerne og deres embedsværk, at varedeklarationen holder.”
Er der en opfattelse af, at politikere er løbet fra løfterne om ikke at skabe et overvågningssamfund?
”Selvfølgelig kan det flytte på vores opfattelse af, om vi kan stole på vores politikere, at de på flere og flere områder ser fordele i at overvåge borgerne, men de har jo også lov til at skifte holdning. Og politikerne skifter også med tiden. Gamle falder fra og nye kommer til.”
”Når det f.eks. gælder samkøring af registre, var det i ”gamle dage” reguleret af registerloven, som meget strengt bestemte, at det måtte man ikke. Det var fornuftigt dengang, men i dag giver et generelt forbud mod det ingen mening. Det vil i mange tilfælde være direkte ufornuftigt ikke at gøre det.”
”Problemet er bare, at vi har glemt at holde fast i, at vi kun gør det, når der er en række gode grunde til det, og en række forudsætninger er opfyldt.”
”Tag f.eks. de regler i den gamle registerlov, som gjaldt for 30 år siden, og sammenhold dem med de regler, som blev vedtaget af Folketinget i december 2021 om ændringer af skattelovgivningen, forslag L73, hvor man gav SKAT lov til at indsamle oplysninger om borgerne på de sociale medier, Google Maps, Den Blå Avis og hvad de ellers kan finde ude på det åbne net.”
”Formålet er at samkøre de data med offentlige data for at finde ud af, et, om vi har brug for vejledning om skattereglerne og, to, om vi snyder i skat. Forskellen på den gamle registerlov og de nye skatteregler er milevid. Og vi har ikke haft nogen demokratisk debat om det. Vi har bare gjort det, fordi det gør de store tech-virksomheder, og konsulenterne anbefaler det, fordi der angiveligt er nogle effektiviseringsgevinster i det.”
”Den udvikling afspejler selvfølgelig en markant holdningsændring, men det viser også konsekvenserne af ”nødvendighedens politik”, som ikke er tænkt ordentligt igennem. Min pointe er, at vi har en tradition for, at vi selv bestemmer, hvilke oplysninger vi vil give til de offentlige myndigheder. Hvis ikke vi vil give de oplysninger, kan det komme os til skade, men det er så vores valg.”
”Men nu bliver vores personlige oplysninger suget op automatisk og i nogle tilfælde brugt til skade for os. Med det får vi en anden type overvågningssamfund, hvor det enkelte menneskes ret til at bestemme selv, bliver illusorisk, fordi data er magt, og magt kan misbruges.”
Men omvendt lever vi i en tid, hvor vi har vænnet os til, at vi til gengæld for at afgive vores personlige data får en række services på nettet. Det har vel ændret vores frygt for Big Brother, som lå til grund for f.eks. den gamle registerlov, du nævnte?
”Ja, og det fremstår jo uskyldigt, når vi afgiver data. Vi har vænnet os til, at det er prisen for en gratis app eller en anden digital tjeneste, vi gerne vil have. Men vi får jo ikke en reel information om, hvad vores data bliver brugt til.”
”Jeg mener, at det var det norske forbrugerråd, som lavede en gennemgang af de forretningsbetingelser, man skulle klikke ja til for at anvende en app. Det var kilometerlange engelske, juridiske tekster, man skulle pløje sig igennem. De første 13 sider henviser til de næste 21 sider, som henviser til tre andre dokumenter af samme længde. Selv ikke trænede jurister er i stand til at gennemskue det på kort tid.
Den slags er designet til at få brugerne til at give op og give sit samtykke. Men det er ikke et reelt samtykke, fordi vi aner ikke, hvad vi har sagt ja til. Vi satser med andre ord på, at vi kan have tillid til, at Facebook ikke vil anvende de data til skade for mig eller dig personligt eller for os som samfund. Realiteten er bare, at vi har set, at Facebook f.eks. bliver brugt til at manipulere med valg i europæiske demokratier.”
Hvor ser du de største dataetiske problemer?
”Det er svært at kvalificere dem i forhold til hinanden, men der er nogle meget store og uløste problemer i forhold til de store teknologivirksomheder, altså dem vi kalder for Big Tech. De er så store, at det er svært at regulere dem. Lige nu udspiller der sig f.eks. et grotesk skuespil på Twitter, der så vidt jeg kan læse mig til, ikke længere har nogen til at sørge for moderationen af debatterne.”
”I Danmark og resten af Europa har vi en forventning om, at det, der foregår på de sociale medier, bliver reguleret på den ene eller anden måde, så sexistiske, racistiske og andre lignende udsagn ikke får lov til at sprede sig uhindret. Kommer det til at ske på Twitter, hvad skal vi så gøre ved det?
”For mig illustrerer det nødvendigheden af at sikre, at det er demokratierne og ikke virksomhederne, som sætter reglerne for, hvad man må og ikke må.
”Når det gælder vores egen andedam, digitaliseringen af det offentlige, handler det i høj grad om, at den ikke i tilstrækkelig grad har taget højde for alle de forskellige mennesker, den skal betjene. Det handler bl.a. om de digitalt udsatte, som jeg nævnte tidligere, der udgør op mod en fjerdedel af befolkningen. Men det handler også om helt basale menneskerettigheder, retssikkerheden, der risikerer at blive udhulet og mindske tilliden i samfundet.”
”Vi er ikke nået så langt endnu, at vi har fuldautomatiserede afgørelser i stor målestok, men vi har beslutningsunderstøttende systemer, som forsyner sagsbehandlere med bud på, hvordan en afgørelse skal falde ud. Men vi har ikke fået belyst, hvordan det påvirker os; Er det reelt set computeren, som bestemmer? Og hvis det er det, er de data, algoritmerne anvender, af en sådan kvalitet, at vi kan stå fuldkommen på mål for en afgørelse, så den kan holde hele vejen til Højesteret.”
”Kort sagt har vi gennemført digitale systemer så hurtigt, at vi ikke kan overskue konsekvenserne af de tiltag.”
Til det skal man vel lægge, at indholdet og konsekvenserne af algoritmerne er meget svære at overskue?
”Det er fuldstændigt rigtigt. Jeg tror ikke, at der er nogen, som forestiller sig, at algoritmer skal være fejlfri. Jeg mener heller ikke, at der er nogen, som vil udelukke utilsigtede konsekvenser i det længere perspektiv. Hvad er effekten af f.eks. kun at kommunikere med en hjemmeside i stedet for at tale med en medarbejder?
Hvad betyder det for vores tillid til det, der foregår?
Svarene på de spørgsmål hænger og svæver i luften. Måske er det naturligt, at de ikke står klart endnu. Men man er nødt til at gøre sig den ulejlighed at prøve at afgrænse mulige utilsigtede konsekvenser, så godt som man nu kan, så der i det mindste er et katalog af risici og et beredskab i forhold til dem.”
”En sådan tilgang vil gøre det muligt at tage en informeret debat om ja eller nej til brugen af en algoritme, også selv om der er visse risici. I sidste instans handler det om åbenhed om for og imod. Men også det kan have sine vanskeligheder.”
”Når en medarbejder i et forsikringsselskab eller i en kommune f.eks. behandler sager, har vi en fornemmelse af, at vi kan stole på vedkommende. Hvis det er en algoritme, der overtager de opgaver, har vi ikke nogen at holde resultaterne op på. Det er sikkert matematisk af høj kvalitet, men mennesker kan heldigvis mere end blot matematik.”
”Det taler for, at vi gør algoritmerne så transparente som muligt, så vi kan gennemgå dem for at finde de svagheder, de måtte have. I dag er det en black box, hvor vi opdager de utilsigtede konsekvenser for sent og ofte uden, at vi kan forklare dem. Det er vi nødt til at ændre.” \
FAKTA: HVAD SKAL DATAETISK RÅD?
Kort fortalt skal Dataetisk Råd følge den teknologiske udvikling og særligt interessere sig for de dilemmaer, som brug af data medfører. Mens der er mange fordele at hente ved at digitalisere rundt omkring i samfundet, skal det ske på en etisk forsvarlig måde, der ”… tager hensyn til borgernes grundlæggende rettigheder, retssikkerhed eller til grundlæggende samfundsmæssige værdier.”
ILLUSTRATION
Illustration genereret med DALL-E (AI) af Peder Bjerge. Oprindeligt portrætfoto: Københavns Kommune. Prompt: – sinister dark grey stormy landscape pixels big brother. Det oprindelige portrætfoto kan ses i artiklens udgave på magasin.samdata.dk
Skriv en kommentar
This site uses Akismet to reduce spam. Learn how your comment data is processed.