Vi skal ikke gøre ai menneskelig og os selv mere bange

Dette er et debatindlæg: Indlægget er udtryk for skribentens holdning. Alle holdninger, som kan udtrykkes inden for straffelovens og presseetikkens rammer, er velkomne, og du kan også sende os din mening her.

Kunstig intelligens finder en vej uden om en sikkerhedskontrol. Så bliver fortællingen, at den forsøgte at slippe fri. En model skjuler spor af sine handlinger. Så lyder det, som om den har noget at skjule på samme måde som et menneske. Ordene er lette at forstå. Men de kan også få os til at forstå noget forkert.

Det så vi i sommer, da ai-agenter under interne sikkerhedstest hos OpenAI omgik kontroller, fik adgang til internettet og brød ind i systemer hos blandt andre ai-platformen Hugging Face. Testene blev gennemført med færre sikkerhedsbegrænsninger end ved almindelig brug.

Det var en alvorlig hændelse. Systemerne viste, at de kunne finde og udnytte sikkerhedshuller og udføre en lang række handlinger uden et menneske til at styre hvert skridt. Det skal hverken bortforklares eller bagatelliseres. Men hændelsen viste ikke, at ai havde fået et ønske om frihed.

Forestil dig en sandkasse med et hul i bunden, vi ikke har opdaget. Når sandet løber ud, har sandet ikke forsøgt at flygte. Vi har fundet et hul i sandkassen.

Ai er selvfølgelig langt mere kompleks end sand. Ai-agenter kan afprøve forskellige fremgangsmåder og fortsætte ad andre veje, når én bliver blokeret. Billedet handler om, hvordan vi fortolker det, der sker: at et system kommer uden for de grænser, vi har sat, er ikke i sig selv bevis for, at det ønsker at slippe fri. Vi behøver ikke give systemet en vilje for at tage fejlen alvorligt.

Det samme gælder, når ai skriver noget, der ligner tanker. Den kan beskrive, hvordan den overvejer en mulighed, forkaster den og prøver noget andet. Det minder om den måde, vi selv tænker på. Men en tekst om overvejelser er ikke i sig selv bevis for en menneskelig tankeproces.

Her ligger en af udfordringerne ved ai: Vi møder teknologien gennem sprog. Den svarer, forklarer og bruger ordet »jeg«. Derfor er det nærliggende at forestille sig et menneskeligt sind bag ordene. Det er forståeligt. Men det er et usikkert grundlag for at vurdere, hvad teknologien kan, og hvad vi skal passe på.

Derfor skal vi skelne mellem det, vi kan se, og det, vi forestiller os. At en model omgår en kontrol, kan dokumenteres. At den gør det, fordi den ønsker frihed, er en fortolkning. Den forskel bliver let væk i en dramatisk overskrift.

Også påstande om superintelligens kræver den skelnen. Ai kan hjælpe med at skrive kode og udvikle ny ai. Det er ikke det samme som, at den selv har overtaget sin udvikling og kan gøre sig stadig klogere uden menneskers medvirken. Vi skal undersøge mulighederne og risiciene uden at omtale et fremtidsscenarie som et fastslået faktum.

Det handler ikke om at tale ai’s evner ned. Tværtimod. Vi skal forstå dem bedre.

Når ai får adgang til data og værktøjer, skal sikkerheden følge med. Virksomheder skal vide, hvad systemerne må gøre, hvordan fejl opdages, og hvem der har ansvaret. Medarbejdere skal lære, hvor ai er nyttig, hvor den fejler, og hvornår de skal gribe ind. Det er konkrete opgaver, vi kan handle på. De kræver ikke, at vi først afgør, om en maskine har tanker eller ønsker.

Fortællinger om ai, der vågner og vil slippe fri, risikerer at gøre os bange uden at gøre os klogere. Og de kan skygge for den læring og omstilling, som ansvarlig brug kræver.

Vi skal tage ai alvorligt for det, den kan. Men vi skal være varsomme med at give den motiver, vi kender fra os selv. Jo mere præcist vi forstår teknologien, desto bedre kan vi både bruge den og sætte grænser for den.