Kunstig intelligens betyder, at vores kritiske sans skal genopfindes

Dette er en kronik skrevet af en ekstern kronikør. Jyllands-Posten skelner skarpt mellem journalistik og meningsstof. Vil du skrive en kronik? Læs hvordan her.

Store teknologiske forandringer har altid været ledsaget af et behov for at finde det rette samspil mellem menneske og teknologi. Da automobilen først kom, havde man i starten en person gående foran med flag og fløjte, så folk kunne blive advaret om, at her kom der altså en maskine. Efterhånden vænnede vi os til bilen som en forlængelse af føreren.

Tilsvarende: Da stetoskopet blev opfundet, var der først stor modstand blandt lægerne – fordi det indskød et teknisk aggregat i dialogen mellem læge og patient. Teknologien skabte afstand og gav også en ny opgave med at lytte på nogle sære lyde i stedet for at føre en samtale. Vi står nu med den samme fornemmelse i forhold til anvendelsen af AI – hvad er det gode samspil mellem menneske og maskine? Og hvad betyder det for de fagprofessionelle, hvis nogle typer opgaver bedre kan laves af en maskine (måske endda opgaver, som giver høj anerkendelse)?

Og ligesom med bilerne handler det ikke kun om maskinens præcision, men også om menneskets perception. På den ene side bruger vi i det daglige AI uden at tænke over det (når det virker, holder vi ofte op med at kalde det AI). Men på den anden side vil kun en fjerdedel af danskerne ifølge en ny undersøgelse af Deloitte og Kraka lade AI træffe beslutning i et scenarie, hvor AI’en er mere træfsikker end samtlige læger på hospitalet. Dette er en vigtig påmindelse om ikke at se for snævert på teknologien.

Vi skal ikke ud i et fjern fremtidsscenarie. Allerede i dag står vi over for en række dilemmaer, der handler om noget bredere end blot den tekniske præcision. Præcisionen vil aldrig være perfekt. Men på flere og flere områder kan AI styrke, supplere og nogle gange erstatte menneskeligt arbejde. Vi har samtidig et velfærdssamfund, der har brug for, at vi frigør kapacitet til de ældre og den borgernære service, men hvor det er svært at udbrede de gode løsninger.

Ansvarlighedens dilemma er her, at vi tøver med at udbrede AI-løsninger grundet en blanding af usikkerhed, uklarhed og nogle gange velbegrundet skepsis om værdiskabelsen. I stedet udvikles og kommercialiseres løsningerne i lande med andre værdier og en anden tilgang til privatlivsbeskyttelse – og med andre populationer og andre data. Senere bliver det dog ofte alligevel disse løsninger, vi selv implementerer eller får som standard i vores eksisterende systemer.

Et andet oplagt eksempel er de unge, der for længst har vænnet sig til at have AI-værktøjer som ChatGPT i værktøjskassen: Hvis ikke man som arbejdsgiver kan tilbyde et godt og sikkert værktøj, får man enten utilfredse medarbejdere eller usikker brug af følsomme data.

I det offentlige ser vi nu et fornuftigt ønske om at gå fra spredte eksperimenter til løsninger, som for alvor gør en forskel. Modenheden er der efterhånden både i markedet og hos køberne. Men her gemmer sig også et dilemma for de politikere, som bliver bestormet af frustrerede leverandører: Nogle gange er løsningerne stadig ikke pengene værd, så utålmodighed må ikke føre til, at man tvinger myndigheder til at prioritere AI anderledes end øvrig digitalisering.

Derudover er en del af svaret, at vi skal blive bedre til at validere løsninger på danske data og bedre til at evaluere, hvornår det er en god idé at bruge AI. Samtidig skal vi holde op med at genopfinde ting, fordi det er sjovere at innovere end at implementere.

I det hele taget er der behov for at gøre flere ting i fællesskab. Vi er et lille land med knappe ressourcer. Vi skal sikre en mere fælles brug af kompetencer og infrastruktur – og langt bedre vejledning af de enkelte myndighederne, så de ikke hver for sig skal starte forfra med advokatvurderinger.

De nuværende uklarheder giver meget dobbeltarbejde for myndighederne, en varierende retstilstand for borgerne – og risiko for, at det bliver de store tech-spillere og de mest risikovillige myndigheder, som bestemmer udviklingen.

Behovet for klarhed bliver kun vigtigere med AI-forordningen. Det er (blandt meget andet) en produktsikkerhedslovgivning med krav om, hvordan man sikkert og etisk forsvarligt bruger AI – såsom løbende kvalitetskontrol, forklarlighed og minimering af bias. Krav, som naturligt følger med modningen af AI. Men det er samlet set rigtig mange krav i en kompleks og til tider tvetydig tekst.

Her er det vigtigt, at vi lærer af GDPR-erfaringerne og tidligt og langt tydeligere vejleder.

Dilemmaet er, at kravene på den ene side er fornuftige. Men at de på den anden side kan blive unødigt ressourcekrævende og ekskludere både mindre virksomheder og mindre myndigheder – hvis ikke vi som samfund skaber bedre rammer.

Vi har derfor brug for at gøre lovgivningen ikke bare digitaliseringsklar, men også AI-klar. Der er i dag stor usikkerhed i tolkningen, da meget dansk lovgivning naturligt nok er skrevet i en anden tid. Den teknologiske udvikling har medført, at vi i dag på nogle områder har meget høje mure rundt om vores data – og andre steder efterhånden har lave stengærder.

Her er beskeden fra både GDPR og Datatilsynet, at man nationalt skal tage politisk stilling til anvendelsen af AI. Således er det i dag på mange sektorområder svært at finde hjemmel til drift – og ligeledes svært at finde hjemmel til løbende kvalitetskontrol. Det fører til paradoksale situationer, hvor ting enten kører i pseudo-drift, f.eks. som forskning, eller hvor en løsning i drift ikke må monitoreres.

Så både et behov for politisk stillingtagen og et behov for en mere aktivistisk myndighedsrolle, som for alt i verden ikke må blive for fragmenteret: Det må ikke blive sådan, at en kommune, region eller styrelse selv skal ”håndbære” spørgsmål til en konkret AI-løsning fra AI-tilsynet i Digitaliseringsstyrelsen videre til Datatilsynet (persondataretten), videre til ressortministeriet (hjemmel) – og så videre.

AI kan ikke længere gemmes væk nede i en teknisk afdeling. Den samtalebaserede generative AI har kortsluttet pyramiden: Nu er de mest komplekse og uigennemsigtige modeller pludselig dem, som det er lettest at anvende uden tekniske forudsætninger.

AI-genereret indhold er efterhånden tæt på umuligt at skelne fra menneskeskabt, og afsenderen kan være svær at identificere. Ligesom vi alle skulle lære en ny type kildekritik, da internettet og søgemaskinerne kom frem, er der nu igen brug for at opøve evnen til at skelne skidt fra kanel.

På et andet niveau gælder det samme for vores myndigheder: De skal blive bedre til ”modelkritik”: altså til mere effektivt at trykprøve sikkerhed, kvalitet og etik. Selvom det er velkendte discipliner, er det anderledes at overføre dem til AI. F.eks. er den løbende overvågning af kvalitet og sikkerhed mere krævende for AI end for konventionel software.

Endelig skal vi turde være ambitiøse. At gå fra spredte eksperimenter til noget, der for alvor får en samfundsmæssig effekt, kræver ikke kun som hidtil innovationspuljer og signaturprojekter, men en strategi for, hvordan vi som samfund vil investere i grundlæggende infrastruktur, platforme og uddannelse. Det er for vigtigt til at strande på fnidder om forskellige ressortansvarsområder.