Det kan spænde ben for retssikkerheden, hvis maskinlæring og dataanalyse bruges uden omtanke
Mange opfatter beslutninger baseret på data som neutrale. En sag fra USA viser imidlertid, at det ikke altid er tilfældet, og at brugen af data i retsvæsenet kræver stor forsigtighed.
I 2016 blussede en kontroversiel sag op i USA, da det kom frem, at et system brugt af retsvæsenet i adskillige stater var diskriminerende mod den afroamerikanske del af befolkningen.
Systemet hed Compas og blev brugt til at forudsige risikoen for, at en anholdt ville begå gentagelseskriminalitet. Når systemet tog fejl, hvilket det gjorde i omkring en…