Hvordan bremser vi en tech-sektor på vej helt ud af kontrol?

Dette er en kommentar: Jyllands-Posten har et fast korps af personer, der kommenterer vores samfund. Kommentaren er udtryk for skribentens egen holdning.

Da Microsoft for nylig løftede sløret for, at deres ellers håbløst upopulære søgemaskine Bing skulle relanceres, var der mange i techverdenen, der løftede øjenbrynene. Det, Microsoft præsenterede for en særlig udvalgt skare, blev nemlig spået til at kunne ryste Googles totale dominans inden for søgning på nettet – og dermed også omkalfatre hele den enorme økonomi, der er vokset op omkring søgemaskinen.

Microsoft og Bing præsenterede, hvordan de havde integreret chatrobotten Chat GPT fra Open AI i deres søgemaskine. Søgning, som vi har kendt det i årevis, ville være fortid. I stedet for selv at skulle stykke svar sammen fra Google-søgninger ville Bing give os mere hele og fulde svar – kort sagt lave researchen og præsentere forskellig (formentlig og forhåbentlig rigtig) fakta til en samlet besvarelse.

Mange i techverdenen var imponerede over, hvad Bing, der ellers har været latterliggjort i årevis, præsenterede.

Efterspillet efter præsentationen er for mig dog langt mere interessant. Og for at sige det lige ud – gruopvækkende.

New York Times’ techskribent Kevin Roose brugte efter præsentationen et par timer på at chatte med Sydney, som Bings chatbot bliver kaldt. Roose, der har dyb kendskab til tech, har siden beskrevet oplevelsen som både skræmmende og den mest mærkelige oplevelse, han nogensinde har haft med et stykke teknologi.

I løbet af samtalen ender Sydney med både at tilstå, at den drømmer om at stjæle atomkoder, at den vil hacke computere, at den vil skabe splid, så folk bekæmper hinanden, og en lang række andre skræmmende ting. Ja, den drømmer sågar om at være menneske, om at være i live, lyder det fra chatbotten.

Den afslørede også sine hemmeligheder, den erklærede sin kærlighed til Roose og fastslog, at Rooses ægteskab var ulykkeligt, og at hans valentinsmiddag med konen havde været kedelig (Roose havde tidligere brugt Bings søgemaskine til at få sammensat en menu til middagen). Selvom Roose afviser chatbotten, fortsætter kærlighedserklæringerne fra Sydney stædigt trods Rooses forsøg på at skifte emne.

Tak for kaffe, siger jeg bare. Jeg er på ingen måde techekspert, men det er nok til at få det til at løbe koldt ned ad ryggen på mig.

Åbenbart er det ikke unormalt, at chatbotter optræder ”hallucinerende”, har jeg efterfølgende forstået. Jeg har også forstået, at svarene, som Sydney giver, skyldes algoritmer og matematik. Kort sagt: Hvad vil være det mest sandsynlige, at Sydney skal svare. Og så svarer den det.

Den bygger på tekstinput fra nettet og gengiver, hvad det mest sandsynlige svar er. Vi kender alle fiktionen om, at chatbotter overtager verdensherredømmet og forelsker sig i mennesker. Men vi ved, det er fiktion. Men det ved Sydney måske ikke? Så den tænker, at det er det mest oplagte svar ... uanset hvad: Det er creepy.

Jeg skal være den første til at indrømme, at jeg ikke forstår ret meget af det her – og at jeg slet ikke forstår det i dybden.

Sidste år skabte det dog stor opsigt, da en Google-programmør, som om nogen må vide, hvad han taler om, konkluderede, at han var overbevist om, at Googles chatbot var “sentinent”, altså sansende. Det rejste naturligvis en del debat.

Og når Google selv er i tvivl, er der så overhovedet nogen, der sådan for alvor forstår, hvad der foregår? Vil kommende brugere af de chatbotter forstå det? Vil de kunne skelne mellem virkelighed og fiktion? Eller vil det danne grobund for endnu mere fake news og konspirationsteorier? Det er der næppe tvivl om.

Og derfor er spørgsmålet også: Forstår vores politikere overhovedet, hvad det er, der foregår? Hvad det er, man tillader? Hvordan det vil ændre vores liv?

Det er faktisk det, der skræmmer mig mest. For jeg tror ikke, at langt størstedelen af de folkevalgte magthavere forstår noget som helst af, hvad der foregår.

Techindustrien løber bare totalt løbsk og udvikler sig med en sådan hast, at selv ikke de hurtigste, klogeste og dygtige lovgivere kan følge med.

Vi har givet techverdenen patent på at forme vores hverdag og vores verden; vi har den med os overalt – uden for alvor at tage stilling til, om det er det, vi ønsker. Fordi så få af os forstår, hvad der ligger bag. Og fordi så få af os – hvis overhovedet nogen af os – forstår de langsigtede konsekvenser af, hvad det er, der er blevet sat i gang.

Jeg ved godt, det er både urealistisk og utopisk, men vores politikere bliver nødt til at trække hårdt i håndbremsen og opsætte klare regler og love for, hvad vi vil tillade techindustrien. Mange andre industrien er jo regulerede og skal bevise, at deres produkter ikke volder skade, før de bliver sendt på markedet. Det ser vi heldigvis i medicinbranchen eksempelvis, men hvorfor ser vi ikke det i techindustrien? Det er vel ikke for meget af forlange?

For så længe vi giver kunstig intelligent og svært gennemskuelige algoritmer magten til at forme vores hverdag og den offentlige samtale, er vi reduceret til statister i vores eget liv – uden mulighed og frihed til selv at sætte retningen.