Dilemmaspil har fået millioner til at tage stilling: »Samfundet bliver nødt til at tage en principiel beslutning om, hvordan selvkørende biler skal opføre sig«

Forskere har kortlagt, hvem vi mennesker prioriterer at beskytte i ulykker, der involverer selvkørende biler.

Artiklens øverste billede
I en ikke så fjern fremtid skal selvkørende biler måske beslutte, hvem der skal dø i en ulykke. Arkivfoto: Jens Høy

Forestil dig, at du kommer kørende i en selvkørende bil. Pludselig kan bilen ikke standse, så den kunstige intelligens skal tage en afgørende beslutning: Skal bilen køre de tre ældre kvinder, der er på vej over fodgængerfeltet, ned, eller de to skolebørn, der netop nu krydser vejen fra den modsatte side?

Der er mange scenarier at tage stilling til i diskussionen om den kunstige intelligens og de valg, vi - måske - overlader til den i fremtiden.

I 18 måneder har flere millioner mennesker verden over forholdt sig til lignende scenarier i etik-spillet Moral Machine, skriver det videnskabelige tidsskrift Nature.

Spillet tager udgangspunkt i 13 scenarier, og spillerne skal ved hvert scenarie vælge, hvem der skal køres ned af den selvkørende bil. Er det børnene, kvinderne, kæledyrene, ham, der gik over for rødt, eller måske lægen?

Spillet er udviklet af en række forskere fra Massachusetts Institute of Technology (MIT) i USA med henblik på at undersøge, hvad mennesker synes, at den selvkørende bil skal træffe af valg i situationer, hvor døden ikke kan undgås.

Forskningen er vigtigt, fordi den ifølge Martin Mose Bentzen, der er lektor ved Danmarks Tekniske Universitet (DTU), kan bidrage til at sætte gang i diskussionen om opførsel og ansvar, når teknologien overtager menneskets rolle.

Men i diskussionen om, hvordan selvkørende biler skal opføre sig, er det vigtigt at tage udgangspunkt i hvad folk »bør gøre« og ikke hvad folk »rent faktisk gør«, ellers kan vi ende med biler, der f.eks. vægter yngre liv højere end ældre, og det ville være uetisk, mener han.

»Samfundet bliver nødt til at tage en principiel beslutning om, hvordan selvkørende biler skal opføre sig, og der kan undersøgelsen bruges som en indikator, men i sidste ende så er det jo ikke en beslutning, der kan tages med udgangspunkt i en sådan undersøgelse,« siger Martin Mose Bentzen, der har forsket i autonome og sociale robotter og moralsk ansvar.

I Tyskland tog man, som et af de første lande i verden, sidste år stilling til en række etiske dilemmaer, der kan opstå, når selvkørende biler bliver mere udbredt. I den forbindelse lavede man en række anbefalinger og retningslinjer, som senere skal implementeres i den tyske færdselslov.

Der var dilemmaer, hvor man ikke kom frem til fælles anbefalinger. F.eks. var der stor uenighed om, hvorvidt en selvkørende bil skal programmeres til at ofre en person for i stedet at redde flere, hvis en sådan situation skulle opstå.

En af de retningslinjer, der blev vedtaget, var, at en selvkørende bil ikke må diskriminere - hverken på køn, race, social status eller alder.

Mange bilproducenter vil sige, at vi slet ikke er et sted, hvor diskussionen er relevant endnu. Men rent teknologisk, så er man så langt fremme, at det i praksis godt ville kunne implementeres.

Thomas Bolander, forsker i kunstig intelligens ved DTU

Til sammenligning viser resultaterne fra forskernes Moral-Machine-studie, at testpersonerne har forskellige moralske kodekser for, hvem man prioriterer at beskytte i forhold til køn, race, social status og alder.

Holdningerne til, hvad de selvkørende biler skal gøre i mulige ulykkessituationer, fordeler forskerne ud fra geografiske placeringer. Der er tale om de sydlige nationer, som er mennesker fra syd- og mellemamerikanske lande, vestlige nationer, som tæller Nordamerika og Europa, og de østlige nationer, som består af asiatiske lande.

I de vestlige og sydlige nationer foretrækker testpersonerne at beskytte børn, hvorimod man i østlige lande ikke ser samme prioritering mellem alder.

Resultaterne viser også, at lande med stor økonomisk ulighed foretrækker at beskytte personer med høj social status, og at de sydlige nationer samtidig prioriterer at beskytte kvinder særdeles højt.

Ifølge Martin Mose Bentzen er det mest interessante ved resultaterne alle de forskelle, der findes fra kultur til kultur, i forhold til hvad folk prioriterer at beskytte.

»Der er nogle grundlæggende etiske ting, som ikke skal afgøres af, hvad folk mener, man bør gøre. Men samtidig så er det relevant at kende til de her kulturelle forskelle, hvis man f.eks. skal diskutere prioriteringen af ikke-etiske spørgsmål som materiel skade,« forklarer han.

Data fra denne undersøgelse - uetisk eller ej - ville godt kunne blive implementeret i fremtidens selvkørende bil, forklarer Thomas Bolander, der forsker i kunstig intelligens på DTU.

»Mange bilproducenter vil sige, at vi slet ikke er et sted, hvor diskussionen er relevant endnu. Men rent teknologisk, så er man så langt fremme, at det i praksis godt ville kunne implementeres,« siger han.

En selvkørende prototype bil vises frem ved en bilmesse i Frankfurt i september 2017. Arkivfoto: CTK via AP Images

Selvom man i Tyskland er nået frem til, at selvkørende biler ikke må diskriminere mellem mennesker, fordi alle mennesker er lige værdifulde, er teknologien i dag så udviklet, at man reelt ville kunne programmere fremtidens selvkørende biler til at afgøre alder, køn og meget andet.

»Man har endda lavet ansigtsgenkendelse, som med meget høj præcision kan sige, om folk er homoseksuelle eller ej. De her ting er altså ret vilde efterhånden,« siger Thomas Bolander.

Selvom teknologien tillader det, så er det vigtigste ifølge Thomas Bolander, at den kunstige intelligens kan nå at lave meget komplicerede analyser over, hvilke konsekvenser bestemte valg kan have på millisekunder.

»Beregningerne kan laves over sandsynlighed for at komme til skade, méngrad og hvad det f.eks. koster i forsikring. Alle de overvejelser kan et menneske ikke nå at lave, for det er der ikke tid til. Men en computer kan,« påpeger han.

Mere som dette

Andre læser

Mest læste

Mest læste Finans

Del artiklen

Giv adgang til en ven

Hver måned kan du give adgang til 5 låste artikler.
Du har givet 0 ud af 0 låste artikler.

Giv artiklen via:

Modtageren kan frit læse artiklen uden at logge ind.

Du kan ikke give flere artikler

Næste kalendermåned kan du give adgang til 5 nye artikler.

Teknisk fejl

Artiklen kunne ikke gives videre grundet en teknisk fejl.

Ingen internetforbindelse

Artiklen kunne ikke gives videre grundet manglende internetforbindelse.

Denne funktion kræver Digital+

Med et Digital+ abonnement kan du give adgang til 5 låste artikler om måneden.

ALLEREDE ABONNENT?  LOG IND

Denne funktion kræver Digital+

Med et Digital+ abonnement kan du lave din egen læseliste og læse artiklerne, når det passer dig.

Teknisk fejl

Artiklen kunne ikke tilføjes til læstelisten, grundet en teknisk fejl.

Forsøg igen senere.