Verdens klogeste hoveder advarer: Autonome våben vil blive morgendagens kalasjnikover
Lad dig ikke narre af, at denne artikel starter med et sci-fi billede fra filmen Terminator - snart vil vi se rigtige dræber-robotter på alverdens slagmarker, hvis vi ikke passer på, mener en række af mænd, hvis evne til at se ind i fremtiden overgår de flestes.
Fysikeren Stephen Hawking, SpaceX/Tesla-bossen Elon Musk og over 1000 andre af verdens førende eksperter i kunstig intelligens (AI) og robotforskning har underskrevet et brev, hvori de foreslår et forbud mod robot-krig.
I brevet advares mod potentialet for voldsom destruktion ved brug af "autonome våben". Sagt med andre ord: Robotter, der dræber på egen hånd vil kunne sætte verden i flammer.
Hvis én af de største militærmagter kommer foran i udviklingen af AI-våben, vil et globalt våbenkapløb være næsten uundgåeligt (...)Autonomous Weapons: an Open Letter from AI & Robotics Researchers
Brevet, som mandag den 27. juli blev præsenteret under konferencen International Joint Conference on Artificial Intelligence i Buenos Aires, Argentina, advarede specifikt mod et "AI-våbenkapløb" mellem verdens førende militærmagter. I brevet står:
"Kunstig intelligens (AI-teknologi) er nået et punkt, hvor implementeringen af sådanne systemer er - praktisk, hvis ikke lovligt - gennemførlige inden for få år, ikke årtier, og der er meget på spil: Autonome våben er blevet beskrevet som den tredje revolution inden for krigsførelse, efter krudt og atomvåben."
Forskerne argumenterer ikke idealistisk for at stoppe al højteknologisk krigsførelse, men vil sørge for, at sådanne våben altid bliver udløst af mennesker. Forskernes fokus er således på våben, der egenhændigt kan søge og finde mål ud fra forudbestemte kriterier - i modsætning til guidede missiler og fjernstyrede droner, hvis brug indbefatter, at mennesker beslutter, hvem de vil ramme.
Heraf følger konklusionen, at ingen af verdens største militærmagter bør begynde en jagt på udviklingen af autonome våben. I brevet står:
"Hvis én af de største militærmagter kommer foran i udviklingen af AI-våben, vil et globalt våbenkapløb være næsten uundgåeligt, og slutpunktet på denne teknologiske bane er åbenlyst: Autonome våben vil blive morgendagens kalasjnikover."
Udover at brevet er underskrevet af Stephen Hawking og Elon Musk, så er der også indsamlet signaturer fra Apples med-grundlægger Steve Wozniak, chefen for Googles Deepmind-afdeling, Demis Hassabis, professor Noam Chomsky og Googles research-leder Peter Norvig.
Slutteligt står der i brevet:
"Vi tror, at AI har stort potentiale til at gavne menneskeheden på mange måder, og målet bør være at gøre dette. At starte et AI-våbenkapløb er en dårlig idé og bør blive præventivt forhindret med et forbud mod autonome våben, der er uden for meningsfuld, menneskelig kontrol."