Das EU-Parlament hat den Weg frei gemacht für ein umfassendes Gesetz zum künftigen Umgang mit künstlicher Intelligenz (KI) – es ist nicht nur das erste seiner Art weltweit, sondern soll künftig dann auch unter anderem homosexuelle Menschen vor Diskriminierung schützen.
Keine Diskriminierung von Homosexuellen
In Brüssel wurde das vorhaben bereits vorab als „historisch“ bezeichnet, Kritiker befürchten indes zu scharfe Einschränkungen für junge Wirtschaftsunternehmen und Startups im KI-Bereich.
Künftig sollen so KI-Systeme verboten werden, die Menschen nach persönlichen privaten Kriterien einstufen – darunter fallen Aspekte wie die sexuelle Orientierung, aber auch politische oder religiöse Ansichten. Auch weitere persönliche Eigenschaften dürfen so nicht von einer KI ausgeforscht werden, wie dass derzeit teilweise bereits in China üblich ist. Es darf auch mit Hilfe einer KI künftig nicht zu Diskriminierungen oder Benachteiligungen kommen, die mit dem Alter, einer Behinderung oder der finanziellen Situation von Menschen in Zusammenhang steht.
Unternehmen soll ferner untersagt werden, mittels einer KI die Gefühle ihrer Mitarbeiter zu erfassen. Ebenso streng verboten soll es sein, den Willen von Menschen zu beeinflussen, wie das beispielsweise im Vorfeld von Wahlen in den USA bereits geschehen sein soll.
Der Mensch darf nicht außen vor bleiben
Damit das gelingt, sollen KI-Systeme künftig nach ihrem Risiko eingestuft werden, je höher die potenzielle Gefahr für Menschen ist, desto höhere Standards und Transparenz-Regeln müssen eingehalten werden. Bei KI-Produkten mit einem hohen Risiko für Menschenrechtsverletzungen muss in letzter Instanz immer ein Mensch die Kontrolle über Entscheidungen haben und über diese auch Rechenschaft ablegen können.
Eine Dokumentation sei hier dann verpflichtend, sodass mögliche Opfer und Betroffene dann auch Beschwerde gegen die Nutzung der KI einlegen können. Damit dies überhaupt möglich ist, sind Entwickler dabei in der Zukunft dazu verpflichtet, klar zu kennzeichnen, wenn beispielsweise bei Texten, Bildern oder Videos mit KI gearbeitet worden ist – das betrifft insbesondere auch den Bereich Social-Media.
Bei Verstößen gegen das KI-Gesetz drohen künftig hohe Geldstrafen von bis zu 35 Millionen Euro oder anderweitig sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens.
KI gegen Hassverbrechen
Die Polizei darf künftig dann eine KI-gesteuerte Gesichtserkennung in Echtzeit an öffentlichen Orten anwenden, wenn ein richterlicher Beschluss dafür vorliegt, beispielsweise bei der Suche nach Opfern von sexueller Gewalt oder akuter Terrorgefahr. Bei aufgezeichneten Videos ist eine KI erlaubt, wenn sie zur Fahndung von Verdächtigen schwerer Straftaten sowie Verurteilten eingesetzt wird. Das könnte künftig auch die Chancen erhöhen, Täter von Hassverbrechen gegenüber Homosexuellen leichter zu überführen. Im ersten Halbjahr 2026 sollen die Regeln europaweit in Kraft treten.
