Weblog

Computer sagt: Ab ins Gefängnis & Schlüssel weg werfen

Der Einsatz von Algorithmen in der Verbrechensbekämpfung ist fast schon etabliert. Auch in Deutschland, doch war hier zum Einsatz kommt ist geradezu harmlos im Vergleich zu anderen Ländern.

Wenn in Deutschland Kollege Computer bei der Polizei zum Einsatz kommt, ist sein Einsatzzweck meist recht überschaubar. Gefüttert mit Daten über Verbrechen und Tatorten, sowie zum Beispiel mit Wahrscheinlichkeiten von Zusammenhängen zwischen Verbrechen usw. usf., wirft er am Ende die gewünschten Informationen aus. Vereinfacht ausgedrückt laufen diese darauf hinaus, dass der Algorithmus errechnet wo besonders viele Einbrüche oder Überfälle stattfinden werden. Natürlich sofern der Algorithmus richtig berechnet hat, was immer noch auf den Entwickler zurückfällt. In Folge der Berechnung zeigt die Polizei dann an den errechneten Orten mehr Präsenz, als an anderen.

Das kann man gut finden, oder auch nicht. Wenn man etwa in einer Gegend wohnt, in der die Polizei mehr Präsenz zeigt, findet man das wahrscheinlich gut. Wenn man dagegen in einer Straße wohnt, die vom Algorithmus als ungefährlich eingestuft wurde, und man trotzdem eines über die Rübe gezogen bekommt, findet man das natürlich weniger gut.

Hier liegt ein Fehler vor. Es ist ein Mensch.

Man kann sich angesichts dieser Episode aber natürlich auch schon an Philip K. Dick’s Minority Report erinnern fühlen, in der die Polizei Verbrechen nicht nur verhindert, sondern auch den Verbrecher im Vorhinein verhaftet. Und während der Datenschutz in Deutschland nicht mehr zulässt, als das obige Szenario, ist man andernorts schon wesentlich weiter. In den USA etwa, denn dort kommt ein Tool wie COMPAS zum Einsatz.

COMPAS, klingt harmlos, nach einer Richtungsvorgabe, ist es aber nicht, zumindest wenn man vor einem Richter gelandet ist, der den Vorgaben des Algorithmus folgt. Denn COMPAS berechnet einen Risk Score, etwa was die Rückfallwahrscheinlichkeit des Angeklagten angeht. Spuckt das Programm eine 1 aus, hat man Glück gehabt, kommt mit 10 das andere Ende der Skala heraus, ab ins Gefängnis, denn offensichtlich geht das Programm davon aus, dass man morgen gleich das nächste Verbrechen begeht. Im amerikanischen Justizsystem führt das dann schon mal dazu, dass man wegen Autodiebstahl sechs, sieben Jahre hinter Gitter landet. Und wehe man stellt ein Begnadigungsgesuch, denn oft heißt es dann:

Jetzt könnte man natürlich dennoch argumentieren, der Algorithmus wird ja nur mit Daten gefüttert, die etwa auch ein Richter zur Verfügung hat, wenn er etwa die Rückfallwahrscheinlichkeit des Angeklagten abschätzt. Und im Gegensatz zu einem Richter, wird der Algorithmus mit allen verfügbaren Daten gefüttert und berechnet diese immer gleich. Also am Ende gerechter, weil a) unbestechlich und b) frei von Emotionen oder Tagesstimmungen.

Könnte man …

Das Dumme ist nur, niemand außer den Entwicklern weiß so genau wie dieser Algorithmus überhaupt rechnet. Am Ende nicht einmal die Richter in jenen US-Bundesstaaten, in denen COMPAS zum Einsatz kommt. Und die Entwickler denken auch gar nicht daran sich in die Karten schauen zu lassen. Wie der Risk Score zustande kommt ist also dem Richter völlig unbekannt.

Bekannt ist dagegen, das der Algorithmus nicht so ganz mit der Realität übereinstimmt. Im Vergleich zu tatsächlichen Rückfallquoten bei Schwarzen, geht COMPAS etwa von einer größeren Wahrscheinlichkeit als jene in der Realität aus. Bei Weißen ist es genau anders herum, hier schätzt der Algorithmus nach Erhebungen bei rund 10.000 COMPAS-Prognosen die Rückfallwahrscheinlichkeit geringer ein, als es der Realität entspricht.

Unter uns, selbst wenn man mal die Frage ausklammert, ob wir wirklich einem Algorithmus diese Macht geben wollen, halte ich es für einen mittleren Skandal, dass das US-Justizsystem auf einen nicht nachvollziehbaren Algorithmus der Privatwirtschaft zurückgreift. Wenn Richter dem dort errechneten Risk Score folgen, geben sie damit eine Entscheidung der staatlichen Justiz in die Hände privatwirtschaftlich agierender Entwickler ab. Mit anderen Worten, das ist nur ein weiterer Schritt zur Privatisierung des amerikanischen Justizsystems. (Als ob man mit privatwirtschaftlich organisierten Gefängnissen so gute Erfahrungen gemacht hätte.) Wozu braucht es den Richter dann überhaupt noch, zum Vorlesen der ausgespuckten Ergebnisse? Das kann eine Sprachausgabe auch selber!

Teilen macht Freude.
  • 2
    Shares