Black Box statt Background Check? Die No-Go’s beim Einsatz von KI

In Teil 3 unserer 5-teiligen Serie über Go’s und No-Go’s von KI bei Background Checks und Human Risk Management stehen deshalb die Grenzen im Mittelpunkt.

Das erste klare No-Go lautet: KI-generierte Aussagen ungeprüft als Fakten übernehmen.

Generative KI kann überzeugend formulieren – auch dann, wenn eine Aussage falsch, unvollständig oder nicht belegt ist. Bei einem Background Check kann dies besonders problematisch sein, weil Informationen Auswirkungen auf berufliche Entscheidungen und die Reputation einer Person haben können.

Das zweite No-Go sind Entscheidungen auf Basis einer vermeintlichen KI-Risikobewertung. Ein automatisch erzeugter „Risk Score“ mag objektiv wirken. Doch welche Daten wurden berücksichtigt? Welche fehlen? Wie wurden Informationen gewichtet? Und bildet das Modell tatsächlich ein relevantes Risiko ab?

Eine Zahl ersetzt keine fachliche Beurteilung.

Ein weiteres Risiko ist die Personenverwechslung. Gleicher Name, ähnliche berufliche Tätigkeit oder derselbe Wohnort können dazu führen, dass Informationen der falschen Person zugeordnet werden. KI kann bei der Identitätsklärung helfen – sie darf eine Ähnlichkeit jedoch nicht automatisch als Identität interpretieren.

Auch Bias muss berücksichtigt werden. Datenbestände können historische oder gesellschaftliche Verzerrungen enthalten. Ein System kann diese Muster reproduzieren oder verstärken, wenn Ergebnisse ohne kritische Prüfung übernommen werden.

Besonders kritisch ist schliesslich das Profiling auf Basis ungeeigneter Merkmale. Aus Social-Media-Aktivitäten, Sprachstil oder persönlichen Interessen automatisiert auf Charakter, Loyalität oder zukünftiges Verhalten zu schliessen, überschreitet die Grenze zwischen fundierter Risikoprüfung und spekulativer Personenbewertung.

Ein professioneller Background Check sollte deshalb eine einfache Frage beantworten können: Auf welcher überprüfbaren Information basiert diese Feststellung?

Kann diese Frage nicht beantwortet werden, gehört die Aussage nicht ungeprüft in eine Entscheidungsgrundlage.

Verantwortungsvoller KI-Einsatz bedeutet daher auch, bewusst Grenzen zu setzen. Gute Technologie macht professionelle Prüfungen nachvollziehbarer. Eine Black Box macht sie nicht besser.

Ausblick auf Teil 4:
Der nächste Beitrag erweitert den Blick: Wie entwickelt sich der klassische Background Check zu einem risikobasierten Human Risk Management – und welche Rolle kann KI dabei übernehmen?