Die neue KI-Verordnung der EU: Ist KI jetzt verboten?

Der Bordcomputer HAL im Science-Fiction Epos „2001: Odyssee im Weltraum“ trifft autonom die Entscheidung, einen Astronauten nach dem Weltraumspaziergang nicht mehr in das Raumschiff zurückzulassen, da er ihn – aus zunächst nicht nachvollziehbaren Gründen – als Gefahr für die Mission klassifiziert hat: „Diese Mission ist zu wichtig für mich, als dass ich dir erlauben dürfte, sie zu gefährden.“ Dieses zugegebenermaßen hypothetische Beispiel zeigt tatsächlich eine Situation, vor der die neuen KI-Verordnung uns schützen will, indem für bestimmte Arten von KI-Systemen in Bereichen mit hohem Risiko für Menschen strenge und aufwändige Kontroll- und Prüfmechanismen vorgeschrieben werden. Da einem Bordcomputer kurz vor dem Saturn eine EU-Verordnung eher egal sein wird, stellt sich die Frage, wie ein Gesetz effektiv auf das Verhalten von technischen Systemen einwirken will und welche Ziele der Gesetzgeber mit diesem Gesetz genau verfolgt. Die „Mission“ dieses Themenabend ist es, dass die Teilnehmerinnen und Teilnehmer besser verstehen, für welche Arten von technischen Systemen und Anwendungen dieser Systeme die neue Verordnung überhaupt gilt und mit welchen Mitteln das Gesetz verhindern soll, dass Menschen durch KI-Systeme Schaden nehmen. Oliver Stiemerling (IT-Sachverständiger) wird zunächst kurz die aus Informatiksicht stark eingeschränkte Definition eines „KI-Systems“ im Sinne der KI-Verordnung vorstellen. Dann wird Gabriele Hantschel (IBM) unterschiedlich riskante, reale Anwendungsfälle von KI-Systemen aus der Beratungspraxis ihres Unternehmens vergleichen. Darauf aufbauend wird Marc Hilber (Oppenhoff Rechtsanwälte) die verschiedenen rechtlichen Einstufungen und dann insbesondere die rechtlichen Folgen der Einstufung eines KI-Systems als „Hochrisikosystem“ umreißen. Abschließend wird uns Herr Axel Voss (angefragt) als Mitglied des Europäischen Parlaments den Entstehungsprozess der KI-Verordnung und die Intention des Gesetzgebers erläutern. Am Ende gibt es eine übergreifende Panel-Diskussion mit allen Referenten.