Robotergesetze

KI empfiehlt Gefängnisstrafe

Eric Loomis, 34, wurde einst wegen einer sexuellen Straftat verurteilt. 2013 stand er erneut vor Gericht. Er wurde mit einem Auto erwischt, das zuvor bei einer Schießerei genutzt wurde. Er musste sechs Jahre ins Gefängnis. Die Entscheidung traf ein Richter, aber er nutzte dafür die Software Compas, eine Künstliche Intelligenz. Sie berechnete, wie wahrscheinlich es ist, dass Loomis erneut eine Straftat begehen könnte. Das Risiko schätzte die Software hoch ein. Wie die Algorithmen zu diesem Schluss kamen, ist ein Geheimnis der Firma, die ihn herstellt.

Compas wurde von der Firma Northpointe / equivant entwickelt. Die Algorithmen berücksichtigen einen Befragung des Angeklagten und Informationen über das bisherige Verhalten. Die Firma erklärt, dass das Verfahren wissenschaftlich fundiert sei. Sie sagt auch, dass Männer und Frauen unterschiedlich beurteilt werden, ebenso Jugendliche, aber nach welchen Faktoren sei ein Geschäftsgeheimnis. Der Algorithmus ist seit sechs Jahren im Einsatz, evaluiert oder getestet wurde er von unabhängigen wissenschaftlichen Gutachtern noch nicht.

Inzwischen nutzen bereits viele US-Bundesstaaten solche Algorithmen. Die Nutzung wird damit begründet, dass man hofft, Menschen, die keine Gefahr für die Gemeinschaft sind, aus dem Gefängnis möglichst raushalten zu können.

Loomis klagte gegen die Entscheidung, aber ohne Erfolg. Die Richter sagten, die Software hätte wertvolle Informationen geliefert, zudem wäre das Urteil vermutlich ähnlich ausgefallen ohne die Software. Man hätte nur länger für die Entscheidung gebraucht. Trotzdem war man sich unsicher, weil kürzlich herausgekommen war, dass Menschen mit weißer Hautfarbe oft weniger streng von der Software beurteilt wurden.

In Pennsylvania hat der Bundesstaat eine eigene KI entwickeln lassen und den Quellcode veröffentlicht, sodass Menschen die Algorithmen einsehen können.

Share this post