Symbolbild zur britischen Regulierungsdebatte: Union Jack an einer Steinmauer. Bildquelle: Pexels, Foto 12592538, CC0-Lizenz.

Eine KI lehnt einen Antrag ab, stuft einen Kunden als riskant ein oder sortiert Bewerbungen aus. Für Betroffene bleibt womöglich unklar, welchen Anteil die Software an der Entscheidung hatte und wer einen Fehler korrigieren kann. An diesem Problem setzt ein neuer Bericht des britischen Menschenrechtsausschusses an. Der gemeinsame Ausschuss von Unterhaus und Oberhaus fordert am 14. September 2026 ein KI-Gesetz mit durchsetzbarer Aufsicht und besseren Möglichkeiten, Entscheidungen anzufechten.

Ein solches Gesetz soll nach den Empfehlungen des Ausschusses Schutzvorgaben für die Entwicklung und den Einsatz künstlicher Intelligenz zusammenführen. Besonders riskante Anwendungen sollen strengere Anforderungen erfüllen. Der Bericht ist eine politische Forderung. Er führt selbst keine neuen gesetzlichen Pflichten für Unternehmen ein.

Der Ausschuss will früher bei den Entwicklern ansetzen

Wie The Independent berichtet, kritisiert der Joint Committee on Human Rights, kurz JCHR, die Verteilung der Verantwortung im bisherigen britischen Rechtsrahmen. Dieser richte sich vor allem an die Nutzer von KI-Systemen. Aufsichtsstellen fehlten nach Einschätzung des Ausschusses die nötigen Befugnisse, um Werkzeuge schon vor ihrer Veröffentlichung zu prüfen. Die vorgeschlagenen Schutzregeln sollen deshalb die gesamte Lieferkette und die unterschiedlichen Phasen eines KI-Systems erfassen.

Für Unternehmen, die fertige KI-Dienste einkaufen, ist diese Forderung praktisch relevant. Sie können eine Entscheidung gegenüber einem Kunden schwer erklären, wenn schon der Anbieter keine ausreichenden Informationen über das eingesetzte Verfahren liefert. Eine vertragliche Zusage zur Qualität ersetzt noch keinen erreichbaren Ansprechpartner, der einen konkreten Fehler untersuchen kann. Diese betriebliche Folgerung geht über die reine Nachricht hinaus: Beim Einkauf sollte geprüft werden, welche Informationen der Anbieter im Beschwerdefall tatsächlich bereitstellt.

Der Ausschuss fordert verpflichtende Transparenz und eine unabhängige, gesetzlich verankerte KI-Aufsicht. Sie soll Risiken beobachten und Anbieter wirksam zur Verantwortung ziehen können. Ausschussvorsitzender Alex Sobel betont laut Independent, dass Menschen erkennen können müssen, wann KI an Entscheidungen über sie beteiligt ist. Geht etwas schief, sollen ihnen Wege zur Abhilfe offenstehen.

Biometrie und Profiling stehen ausdrücklich im Bericht

Die BBC nennt aus dem Bericht unter anderem das Scannen von Gesichtern ohne Zustimmung und die Erstellung sexualisierter Bilder von Frauen und Mädchen als Beispiele für Menschenrechtsverletzungen durch KI. Nach den Empfehlungen sollen bestimmte mit Menschenrechten unvereinbare Anwendungen ganz verboten werden. Als mögliche Bereiche nennt der Ausschuss unterschwellige Beeinflussung sowie unangemessenes Profiling und den unangemessenen Einsatz biometrischer Daten. Profiling bedeutet hier die Auswertung persönlicher Merkmale, um Menschen einzuschätzen oder einzuordnen.

Aus diesen Vorschlägen lässt sich kein pauschales Verbot jedes Gesichtserkennungssystems ableiten. Auch die grundsätzliche Kritik des Ausschusses an der heutigen Regulierung ist seine politische Bewertung. Der Bericht belegt weder einen neuen Verstoß eines bestimmten Unternehmens noch eine bereits beschlossene Verschärfung des europäischen KI-Rechts.

Die britische Regierung verweist auf bereits laufende Maßnahmen. Bildungsministerin Georgia Gould nannte bei BBC Breakfast unter anderem das Vorgehen gegen nicht einvernehmlich erstellte sexualisierte Deepfakes und Gesetzgebung zur Cybersicherheit. Sie verwies außerdem auf die Arbeit des AI Security Institute und die Prüfung von Modellen. Zwischen Ausschuss und Regierung besteht damit ein Streit darüber, ob die bisherigen Maßnahmen ausreichen und wie die Aufsicht organisiert sein sollte.

Beschwerden am eigenen Verfahren durchspielen

Für deutsche Unternehmen ist der britische Bericht zunächst ein Anlass, die eigenen Abläufe zu prüfen. Er ersetzt keine Bewertung nach dem für sie geltenden Recht. Als praktische Vorbereitung bietet sich ein Durchlauf mit einem erfundenen Beschwerdefall an: Ein Bewerber verlangt eine Erklärung, weil seine Unterlagen automatisch aussortiert wurden. Kann die Personalabteilung erkennen, welche Software beteiligt war? Weiß sie, welche Informationen die Einstufung beeinflusst haben? Und kann eine zuständige Person den Vorgang überprüfen und die Entscheidung gegebenenfalls ändern?

Bei diesem Test sollten Fachbereich und Datenschutzverantwortliche festhalten, welche Nachweise verfügbar sind und wo der Softwareanbieter unterstützen muss. Dafür müssen keine zusätzlichen personenbezogenen Daten auf Vorrat gesammelt werden. Aussagekräftiger ist eine Prüfung, ob die erforderlichen Informationen im vorgesehenen Verfahren auffindbar sind und wer darauf zugreifen darf.

Wie konkret fehlende Begründungen den Zugang zu Arbeit betreffen können, zeigt auch der bereits behandelte Fall automatisch gesperrter Uber-Fahrer. Der heutige britische Bericht erweitert diese Debatte um die Verantwortung der Entwickler. Unternehmen sollten beim nächsten KI-Einkauf deshalb ausdrücklich klären, wie sich eine einzelne beanstandete Entscheidung untersuchen lässt. Fehlt darauf eine belastbare Antwort, bleibt der Beschwerdeprozess schon vor dem ersten Einsatz unvollständig.

Stand: 14.09.2026. Quellen: BBC und The Independent. Die Empfehlungen des Ausschusses sind von geltendem Recht zu unterscheiden.