Kong Charles beder AI-firmaer om at garantere vores sikkerhed mod AI

Mens de store it-virksomheder fortsætter for fuld kraft med at udvikle kunstig intelligens (AI), forsøger Storbritanniens kong Charles at råbe lederne i branchen op.

Den 77-årige monark vil have dem til at forsikre, at de ikke mister kontrol med AI.

At maskinerne ikke tager kontrollen fra mennesker.

»De, der har skabt disse teknologier, advarer nu i stigende grad om, at AI risikerer at udvikle en mørk kapacitet. Måske endda tage liv,« sagde kongen.

»De af os, der værdsætter vores menneskelighed og dens afgørende moralske påvirkning i verden, efterspørger med bekymring jeres forsikring om, at vi ikke mister kontrollen over vores skæbne.«

Udtalelserne faldt torsdag eftermiddag på en konference om AI-sikkerhed i Skotland. De blev udsendt af Buckingham Palace.

»De beslutninger, der træffes i denne skelsættende tid, vil forme den verden, som fremtidige generationer arver. Opgaven, der ligger foran jer, er derfor ikke blot at fremme teknologien. Opgaven er også at sikre, at den forbliver solidt i menneskehedens, fællesskabets og naturens tjeneste,« sagde kongen.

»Vores menneskelighed skal forblive hellig«, i takt med at AI-teknologien udvikler sig, som han påpegede.

Kong Charles lagde lokaler til arrangementet, og ledere fra nogle af de store AI-firmaer var inviteret. Ifølge de internationale nyhedsbureauer var der repræsentanter fra bl.a. Nvidia, Google, OpenAI og Anthropic, men der blev ikke umiddelbart udsendt en deltagerliste.

Det var ikke klart, om offentligheden på et senere tidspunkt torsdag ville få adgang til arrangementet. Eller om det ville forblive lukket for omverdenen.

Kongen havde sat AI-lederne stævne i Dumfries House. Det er et palæ, der blev bygget i det 18. århundrede i landlige omgivelser nær byen Cumnock i Ayrshire i Skotland. Det er omkring 60 km syd for Glasgow.

Familier fra adlen har boet her på skift, indtil kong Charles’ velgørenhedsorganisation, The King’s Foundation, købte det i 2007. Da var kongen stadig kronprins, og han forvandlede Dumfries House til sin organisations hovedkvarter. Så det var både med noget britisk overklassehistorie tæt på og med alvor, at kongen bad AI-firmaerne om at være opmærksomme på menneskeheden.

Han sagde, at kunstig intelligens har potentiale til at forbedre og redde liv, særligt inden for videnskab og medicin. Så på den måde er udviklingen gavnlig for mennesket, men der er så også risiko for, at det løber løbsk.

I de seneste måneder er debatten om AI taget til. Det er særligt sket, efter at en tidligere ansat i Anthropic advarede om risikoen for, at AI kan udslette os alle inden for et årti. Det har fået øjnene op hos mange beslutningstagere og også i AI-branchen.

Anthropics topchef, Dario Amodei, har opfordret til, at AI-virksomheder sænker tempoet i udviklingen af AI.

Reuters skriver, at kongens konference ikke ventedes at munde ud i en bindende aftale.

Kong Charles er ikke kendt for sin teknologiske ekspertise, men han er kendt for at bruge sin position til at skabe fokus på globale problemer, herunder miljø og klima og nu også AI.