Software, die auf Künstlicher Intelligenz (KI) basiert, durchdringt immer mehr die Gesellschaft und Unternehmen. Doch die Gesetzgeber beginnen erst jetzt, sich mit den neuen Technologien auseinanderzusetzen. Seit April 2022 hat die EU mit dem Artificial Intelligence Act (Gesetz über Künstliche Intelligenz) einen Vorschlag vorgelegt. Damit soll der Missbrauch von Daten und eine übergriffige biometrische Überwachung, die in einem dystopischen Szenario in einem Sozialkreditsystem chinesischer Prägung enden könnte, reguliert werden. Die EU-Vorlage legt ihren Fokus dabei auf drei Anwendungsgebiete.

1. Verbotene Anwendungen KI darf Menschen nicht ohne ihr Wissen manipulieren, wenn dabei physischer oder psychischer Schaden entstehen könnte. Untersagung von Social-Scoring durch Behörden. Beschränkung von Echtzeit-Fernidentifizierungssystemen zur Strafverfolgung.

2. Hochrisiko-KI-Systeme Als hochrisikoreich werden KI-Systeme angesehen, wenn sie wie folgt eingesetzt werden: Biometrische Identifizierung und Kategorisierung von Menschen durch Privatunternehmen, Verwaltung kritischer Infrastrukturen, berufliche Maßnahmen, Kreditwürdigkeitsprüfungen und Strafverfolgungen. An solche KI-Systeme werden hohe Anforderungen im Hinblick auf Robustheit, Sicherheit und Genauigkeit gestellt. Sie unterliegen zudem einer Dokumentationspflicht.

3. Geringes Risiko KI-Anwendungen mit geringem und minimalem Risiko, wie z. B. Chatbots, unterliegen einer Transparenzpflicht. Menschen muss dabei immer klar sein, dass sie es mit einer Maschine zu tun haben.

Innovationen Die EU möchte mit dem KI-Gesetz auch Innovationen fördern. Das ist auch notwendig, denn die EU-Länder geraten bei KI-Technologien gegenüber China und den USA immer mehr ins Hintertreffen. So setzen nach einer Studie von Bitkom in Deutschland erst 6 Prozent aller Unternehmen Künstliche Intelligenz ein. Die EU-Quote soll nach dem Willen der EU-Politik auf über 75 Prozent steigen.

Mit dem Digital Services Act, Digital Markets Act und Digital Governance Act hat die EU zudem drei weitere IT-Gesetze auf den Weg gebracht.