AI-direktør: Dårlig håndtering af AI kan true menneskeheden

Den aktuelle udvikling af kunstig intelligens (AI) kræver ”ekstrem omhyggelighed”, siger AI-virksomheden OpenAIs direktør, Sam Altman, onsdag til FN’s Sikkerhedsråd.

Det skriver nyhedsbureauet AFP.

- Industrien skal ikke acceptere for stor en teknologisk risiko, bare fordi fordelene er for store og vigtige til at sætte farten ned, siger han.

Sikkerhedsrådet får onsdag en orientering fra topcheferne i nogle af verdens førende AI-virksomheder.

Også Anthropics direktør, Dario Amodei, advarer om risikoen ved kunstig intelligens.

- Hvis det håndteres dårligt, tror jeg endda, at kunstig intelligens (AI) kan udgøre en risiko for menneskeheden som helhed.

Tidligere på måneden opsagde en udvikler fra virksomheden Anthropic sit job og begrundede det med, at han er bekymret over sikkerheden omkring kunstig intelligens.

Desuden har politiske stemmer som senator Bernie Sanders og tidligere præsident Barack Obama opfordret til regulering af teknologien.

- Hvis AI skal være demokratisk, skal de vigtigste beslutninger ikke laves på laboratorier i San Francisco alene. De skal formes gennem demokratiske processer og af regeringer, der står til regnskab over for de mennesker, de tjener, siger Sam Altman på orienteringen.

- Det kræver samarbejde på det internationale niveau.

Yoshua Bengio, der regnes for at være en af skaberne af kunstig intelligens, og som er medformand i et uafhængigt råd for international videnskab, som FN nedsatte sidste år, taler også til sikkerhedsrådet.

Han advarer om, at faren er ”ægte og nært forestående”.

- Dette råd (FN’s Sikkerhedsråd, red.) står over for en hidtil uset trussel. En trussel, som ingen af dets medlemmer vil vælge, som ingen kan beherske alene, og som ikke respekterer de grænser, vi forsvarer, siger han ifølge Reuters.

Danmarks udenrigsminister Lars Løkke Rasmussen (M) sidder med på mødet og mener også, at der er brug for globalt samarbejde i forhold til AI.

- Spændingen mellem de vigtige muligheder på den ene side og risiciene på den anden side definerer de mest presserende udfordringer i vor tid, siger han.

Dansk Industri (DI) håber, at orienteringen kan blive starten på noget konkret.

- Som minimum kunne man håbe, at stormagterne anerkender, at kontrollen med de mest avancerede AI-systemer er et fælles sikkerhedsanliggende og ikke kun et spørgsmål om, hvem der vinder kapløbet, siger Andreas Holbak Espersen, der er branchedirektør og fagligt ansvarlig for AI i DI.

USA og Kina er de førende udviklere af kunstig intelligens.

På sin tale ved FN’s Generalforsamling tirsdag sagde USA’s præsident, Donald Trump, at han afviser ethvert forsøg på at ”konstruere en global ordning til at kontrollere AI”, men bemærkede, at USA kommer til at være forsigtig.

- Vi kommer til at fremme det, ikke tøjle det, sagde han.

Præsidenten sagde også, at USA fremover vil kalde kunstig intelligens for superintelligens.