Frage von Ben K. (fiktiv):

Ihr fordert „Algorithmus-Transparenz". Habt ihr eine Liste, welche Algorithmen bei deutschen Behörden heute überhaupt im Einsatz sind? Oder ist das eine eher abstrakte Forderung?

Gute Frage, und ich gebe ehrlich zu: eine vollständige Liste gibt es nirgends — auch wir haben keine. Genau das ist das Problem. Aber hier sind die uns bekannten Beispiele:

Bundesverwaltung:

BAMF-Sprachanalyse-Software (Asylverfahren, seit 2017)
ELSTER-Risikoprüfung (Steuerbescheide, automatische Anomalie-Erkennung)
Künftig Bundespolizei: PolFis (Predictive Analytics für Personenfahndung — Pilot in Bayern)

Länderebene:

Hessen-Data / SKB Hessen (Polizei-Kontextanalyse, mehrfach gerichtlich beanstandet)
NRW „Radar-iTE" für „Gefährder-Bewertung"
Berliner KIDD (Kinder-Wohlgefährdungs-Risiko)

Quellen, die das Thema systematisch erfassen:

Was unsere Forderung konkret bedeutet: jeder dieser Algorithmen müsste eine öffentliche Modellkarte haben (Zweck, Trainingsdaten, Fehler-Quoten nach Subgruppen, Bias-Tests, Verantwortliche). Das ist kein Schikanieren der Behörden — das ist Mindeststandard, den jedes seriöse Forschungsteam von sich aus macht.

Wenn jemand hier einen Algorithmus kennt, der noch fehlt, bitte ergänzen.

— Oliver Deppe