Sådan opgraderer du dommere med Machine Learning

Jon Han

Hvornår skal en kriminel tiltalt afvente retssag i fængslet i stedet for derhjemme? Software kunne i væsentlig grad forbedre dommernes evne til at foretage det opkald – reducere kriminalitet eller antallet af mennesker, der sidder fast og venter i fængsel.

I en ny undersøgelse fra National Bureau of Economic Research trænede økonomer og dataloger en algoritme til at forudsige, om tiltalte var en flyverisiko fra deres rap-ark og retsakter ved hjælp af data fra hundredtusindvis af sager i New York City. Da den blev testet på over hundrede tusinde flere sager, som den ikke havde set før, viste algoritmen sig bedre til at forudsige, hvad tiltalte vil gøre efter løsladelsen end dommere.



Jon Kleinberg , en professor i datalogi ved Cornell involveret i forskningen, siger, at et mål med projektet var at vise politikere de potentielle fordele for samfundet ved at bruge maskinlæring i det strafferetlige system. Dette viser, hvordan maskinlæring kan hjælpe selv i sammenhænge, ​​hvor der er en betydelig menneskelig ekspertise, der bringes i anvendelse, siger Kleinberg, der arbejdede på projektet med forskere fra Stanford, Harvard og University of Chicago.

De anslår, at deres algoritmes råd for New York City kunne reducere kriminalitet fra tiltalte, der afventer retssag, med så meget som 25 procent uden at ændre antallet af mennesker, der venter i fængsel. Alternativt kunne det bruges til at reducere antallet af fængsler, der afventer retssag, med mere end 40 procent, mens kriminalitetsraten for tiltalte forbliver uændret. Gentagelse af eksperimentet på data fra 40 store byamter i hele USA gav lignende resultater.

Som en bonus var gevinster som dem mulige, samtidig med at fængselsbefolkningen blev flyttet til at omfatte en mindre andel af afroamerikanere og latinamerikanere.

Algoritmen tildeler tiltalte en risikoscore baseret på data hentet fra registrene for deres aktuelle sag og deres rap-ark, for eksempel den lovovertrædelse, de er mistænkt for, hvornår og hvor de blev anholdt, og antallet og typen af ​​tidligere domme. (De eneste demografiske data, den bruger, er alder – ikke race.)

Kleinberg foreslår, at algoritmer kunne bruges til at hjælpe dommere uden større forstyrrelser i den måde, de i øjeblikket arbejder på, i form af et advarselssystem, der markerer, at beslutninger med stor sandsynlighed er forkerte. Analyse af dommernes præstationer antydede, at de har en tendens til lejlighedsvis at løslade personer, som med stor sandsynlighed ikke vil vise sig i retten, eller at begå kriminalitet, mens de afventer retssag. En algoritme kunne fange mange af de tilfælde, siger Kleinberg.

Richard Berk , professor i kriminologi ved University of Pennsylvania, beskriver undersøgelsen som meget godt arbejde og et eksempel på en nylig acceleration af interessen for at anvende maskinlæring til at forbedre strafferetlige beslutninger. Idéen har været udforsket i 20 år, men maskinlæring er blevet mere kraftfuld, og data til at træne den er blevet mere tilgængelige.

Berk testede for nylig et system med Pennsylvania State Parole Board, der rådgiver om risikoen for, at en person vil begå gentagelser, og fandt beviser for, at det reducerede kriminalitet. NBER-undersøgelsen er vigtig, fordi den ser på, hvordan maskinlæring kan bruges forud for strafudmåling, et område, der ikke er blevet grundigt udforsket, siger han.

Men Berk siger, at der er behov for mere forskning i, hvordan man sikrer, at strafferetlige algoritmer ikke fører til uretfærdige resultater. Sidste år en undersøgelse foretaget af ProPublica viste, at kommerciel software udviklet til at hjælpe med at afgøre, hvilke dømte der skulle modtage prøvetid, var mere tilbøjelige til at fejlagtigt betegne sorte mennesker som højrisiko.

Jens Ludwig , direktør for University of Chicago Crime Lab, som arbejdede på det nye NBER-studie, siger, at det viser, hvordan uretfærdige resultater er langt fra uundgåelige, ved at vise, at en dommerrådgivningsalgoritme kunne reducere kriminalitet såvel som den hastighed, hvormed sorte og latinamerikanere er fængslet. Disse værktøjer kan faktisk forbedre retfærdigheden i forhold til status quo, siger han.

skjule