Positionspapier des Fachbereichs zu generativer KI und dem AI Act veröffentlicht

Zum Ablauf der 20-tägigen Einspruchsfrist für den AI Act, tritt die neue EU-Verordnung über künstliche Intelligenz heute in Kraft. Der Fachbereich Künstliche Intelligenz der Gesellschaft für Informatik hat in dazu ein Positionspapier veröffentlicht und bietet damit eine fachlich fundierte Orientierung in der gegenwärtigen Debatte rund um die Regulierung von KI, insbesondere im Kontext von generativer KI, an.

Wechselwirkung zwischen Menschen und Agenten 

Das Positionspapier des FBKI analysiert den AI Act in Zusammenhang mit generativer KI und unter Berücksichtigung zentraler Merkmale und Ziele der KI-Forschung. Kern ist unter anderem die Untersuchung und Gestaltung der Wechselwirkungen zwischen Menschen und für Menschen handelnden algorithmischen Systemen, auch Agenten genannt. Das Zusammenwirken von Menschen und Agenten, bezeichnet als sozialer Mechanismus, muss gerade im Kontext der generativen KI stets systematisch untersucht werden, um Risiken einzuschätzen und unerwünschten Auswirkungen für Menschen vorzubeugen. Zentral für die KI-Forschung ist daher die Betrachtung und der Nachweis von Eigenschaften sozialer Mechanismen und ihrer Agenten. Regulierungsmaßnahmen müssen am Begriff des sozialen Mechanismus ansetzen. „Der soziale Kontext der Nutzung eines KI-Systems durch Menschen muss analysiert und bewertet werden. Die Technik in ihrer Leistungsfähigkeit zu beschränken oder die Architektur eines Systems zur Grundlage der Regulierung zu machen, erscheint weder zielführend noch übergreifend möglich“, so Prof. Dr. Ralf Möller, Sprecher des Fachbereichs.

Das Positionspapier des Fachbereichs Künstliche Intelligenz ist verfügbar unter: https://gi.de/fileadmin/GI/Allgemein/Positionspapier_GI_FBKI_GenAI-und-AI-Act.pdf

Die Pressemitteilung der Gesellschaft für Informatik mit Hinweis auf weitere Positionspapiere anderer Fachgesellschaften der GI ist unter https://gi.de/meldung/ai-act-gi-fachgremien-beziehen-stellung zu finden.