ETISK DESIGN KRÆVER POLITISKE INDGREB

Vi har så travlt med bare at få teknologi til at fungere, at vi nemt glemmer, at digitale løsninger ikke bare er neutrale. Alle de valg man tager – bevist eller ubevist – får betydning, og derfor er det vigtigt at man nøje overvejer konsekvenserne af de IT-løsninger, man bygger, siger forfatteren Peter Svarre, der er aktuel med en ny bog om digital etik.

Det er en meget lille detalje i Netflix’ interface. Men har du tænkt over, hvorfor Netflix automatisk afspiller næste afsnit i en serie, hvis du ikke gør noget?”

Det er nok oplagt, at de gerne vil holde dig ved skærmen, men hvis de skulle designe en løsning, der var den bedste for dig som bruger, ville det så ikke være bedre, hvis de efter hvert afsnit lige standsede op – så du kunne overveje, om du ikke skulle gå en tur eller tale med børnene?” foreslår Peter Svarre.

Han har tidligere udgivet bøger om nogle af de store IT-revolutioner: Både om sociale medier og om kunstig intelligens og den indvirkning de har på virksomheders strategiske muligheder. Men hans seneste bog – ”Digital Etik” – vender tingene på hovedet og ser mere kritisk på virksomhedernes brug af data og den måde, som mange IT-løsninger bliver designet.

Men før vi dykker ned i de digitale dilemmaer, er det værd at se på den måde, vi generelt designer vores samfund, understreger Peter Svarre.

Designet til det effektive menneske

”Design-etik er et moderne fænomen, som knytter sig til moderniteten – f.eks. i den måde, vi indrettede fængsler, fabrikker, hospitaler og skoler på, så man kunne overvåge borgerne. Vi kender det fra det panoptiske fængsel, som har den store fordel, at når fangerne bliver overvåget, så opfører de sig pænere.”

Han peger også på Bauhaus-traditionen og den danske møbeltradition som eksempler på design-valg, der skulle være smukke men først og fremmeste også rationelle og effektive.

”Le Corbusier sagde, at ’huse er maskiner til at bo i’. Det løser måske mange ting, men det var samme tankegang, der gav os betonbyggerier og ghettoer. Men mennesker er ikke kun rationelle. De er også spirituelle, religiøse og en hel masse andre ting, og man visner som menneske, hvis der kun er plads til det rationelle,” understreger Peter Svarre.

Overvåget næsten ind i hjernen

I det moderne forbrugersamfund begyndte man at lave forbrugerundersøgelser og segmentere alting. Man blev bedre til at forstå menneskers overfladiske behov, men det blev også en verden, hvor man reklamerer for at skabe et behov. Den tendens er accelereret ekstremt med de digitale værktøjer.

”I den digitale tidsalder er vi havnet i en surveillance capitalism, hvor produktet er fuldstændig designet til dig som enkeltperson. Spotify, Amazon og Facebook er nu helt inde i hovedet på os, og har indsamlet så mange data, at de stort set kan manipulere os til en bestemt adfærd,” siger Peter Svarre.

Af samme grund er de etiske spørgsmål vigtigere end nogensinde. Det er bare ikke nok at sige, at det etiske ansvar ligger hos den enkelte bruger eller hos de firmaer, der designer løsningerne. Lige nu udkæmpes nogle af de etiske kampe mellem forskellige politiske systemer.

Teknologien skal ses i sammenhæng

”Jeg har selv hørt til de naive, der var sikker på, at de første bølger af internettet, ville give os enorme fremskridt. Men teknologien er ikke uafhængig – den skal altid ses i den politiske kontekst, den bliver sat i.”

Han sammenligner systemerne i Europa, Kina og USA – der på hver sin vis viser tre meget forskellige måder at lovgive rundt om teknologien og de etiske problematikker, som følger med.

”I Kina ser vi en stat, som med intens overvågning og massive politistyrker bestemmer, hvad der er godt for samfundet. Den individuelle frihed er begrænset, men landets vækst er enorm.”

”I EU har vi langt større individuel frihed, men her er staten delvist med til at beskytte den enkelte borger – f.eks. med GDPR-reglerne, som sætter grænser for overvågning.”

Han peger på Margrethe Vestagers indgreb over for tech-giganterne og de europæiske GDPR-regler som eksempel på etiske valg på statsniveau.

”I USA er der meget mindre indgriben fra staten, og det har betydet, at det er milliardærer og enkeltpersoner, der tager nogle af de etiske valg, der påvirker os alle,” siger Peter Svarre.

De ekstreme forskelle mellem kontinenterne har også betydet, at der er ved at opstå en ny indsigt hos mange.

”Jeg tror, vi endelig er ved at forstå, at teknologi er super politisk – uanset om det handler om sundhed eller ytringsfrihed, og de valg kan ikke tages af den enkelte person, som ikke har magt nok. Det kræver politiske indgreb,” siger Peter Svarre.

Formålsløs manipulation

Han understreger, at valgene langt fra er entydige, og han er helt med på, at der er klare fordele ved, at IT-systemerne kender os.

”Min kone bruger en browser, som gør, at hun ikke bliver tracket. Derfor får hun de mest mærkelige reklamer. Jeg får derimod konstant reklamer for de løbesko og den cykel, jeg længe har drømt om, og selv om det er relevant, så er det mega-distraherende.”

Et ”rigtigt” smart-watch

Peter Svarre betegner langt fra sig selv som teknologi-skeptisk. Han har skrevet tre bøger om teknologi, lever af at rådgive firmaer om teknologisk udvikling – og har f.eks. en virtuel cykel-trainer i lejligheden, som han elsker at bruge. Alligevel har han foretaget et par fravalg af etiske grunde.

”Jeg havde tidligere en stemmestyret Amazon Echo i huset. Men det blev alligevel for creepy at have en genstand i huset, som optager min stemme, og hvor jeg ikke helt ved, hvem der lytter med. Jeg havde også et Pebble Smartwatch, men det skiftede jeg ud med et rigtig ”smart ur”, der hverken forstyrrer med notifikationer eller sender mine sundhedsdata til en tech-gigant,” griner Peter Svarre – og viser et helt analogt armbåndsur frem.

Men han tester fortsat ny teknologi, og har senest investeret i et par 3D-briller.

”Jeg synes, det er vildt fascinerende med 3D, fordi man virkeligt kombinerer den fysiske og digitale verden. Det store spørgsmål er så, om de store virksomheder også får det fucket op, så vi også bliver overvåget der?” \

FEM GRUND -PRINCIPPER TIL UDVIKLING AF JERES DIGITALE ETIK

1. SÆT MENNESKET I CENTRUM
   Peter Svarre har i mange år arbejdet med markedsføring og især med den digitale del. Derfor har han også set udviklingen gennem årene – lige fra de første hjemmesider i midthalvfemserne. ”Da internettet brød igennem, handlede det meget om at sikre sig, at vi forstod brugernes behov og lave løsninger, de kunne finde ud af at bruge. Men mennesker er ikke ens, og de har mange forskellige interesser.” Som eksempel nævner han Airbnb, der måske er gode til at forbinde lejer og udlejer, men i processen glemmer naboerne, der i længden bliver trætte af at være nabo til en lejlighed, hvor der konstant er fest.
   
   
2. UNDGÅ AT MANIPULERE
   Peter Svarre lægger ud med at slå fast, at næsten al IT-design handler om, at få brugerne til at gøre noget bestemt. ”Men hvis vi manipulerer for bare at opnå flere reaktioner og mere tidsforbrug, så er vi ofte ude i ”dark patterns”, hvor folk ikke ved, hvordan de bliver manipuleret.” Han nævner også de klassiske cookie-spørgsmål som eksempel. På danske websites betyder GDPR-reglerne, at det skal være nemt og logisk at fravælge cookies, men på mange udenlandske sites, er fravalget ofte kun en teoretisk mulighed, fordi man bliver mødt med uoverskuelige valgmuligheder.
   
   
3. GIV BRUGERNE KONTROLLEN
   I gamle dage kunne man som bruger selv sammensætte sit nyhedsfeed med rss-feeds fra de sites man foretrak at følge. Sådan er det ikke længere, fordi mange valg er taget for en. Peter Svarre nævner Facebooks nyhedsfeed som et af de produkter, hvor man som bruger godt kan forsøge at indstille ting, men reelt er det for besværligt, og derfor er det algoritmer, der styrer, hvad brugerne får. ”Livet handler ikke kun om convenience. Det glemmer de store IT-firmaer ofte,” siger Peter Svarre.
   
   
4. UNDGÅ AT SKABE ULIGHED
   ”Jeg har de seneste år arbejdet med HR-systemer, og ofte er det ledelsen, der anvender de værktøjer til at måle på medarbejderne ud fra en tankegang om, at glade medarbejdere også er mere produktive.” Men selv om den tilgang lyder godt, så kan det også betyde, at man udbygger uligheden. ”Det er stadig chefen, der har magten og medarbejderne, der bliver overvåget. Det er chefen, der kigger i et dashboard og har overblikket. Hvis formålet reelt var at skabe medarbejdere med mindre stress, så ville tilgangen nok være helt anderledes.
   
   
5. GØR JERES TEKNOLOGI FORSTÅELIG
   Vi er vant til, at elektronik er lidt magisk: Din computer virker bare, når du trykker på tasterne, men du ved ikke nødvendigvis hvorfor. Men det er et problem, hvis der bliver taget beslutninger, der påvirker dit liv, fordi det gør folk magtesløse, forklarer Peter Svarre. ”Hvis du får afslag på et boliglån, kan det være en god ide at forklare brugerne, hvordan algoritmen fungerer, og hvad du som bruger kan gøre for at ændre konklusionen.”
   

FAKTA: BØGER AF PETER SVARRE

Digital Etik (2022)
Om at designe en mere ansvarlig digital verden

Hvad skal vi med mennesker (2019)
Om kunstig intelligens og dens påvirkning af samfundet

Den perfekte storm (2012)
Om sociale mediers indflydelse på virksomheder

BLÅ BOG FOR PETER SVARRE

(Udvalgte stillinger)

2022 – Medlem af regeringens ekspertgruppe vedr. tech-giganter
2016 – 2017: B&O, Marketingdirektør
2013 – 2016: In2Media, Director of Digital Strategy
2012 – 2016: DMJX, Underviser
2006 – 2010: Hello Group, User Experience Director