KI – Fluch oder Segen? Risiken KI-gestützter Datenanalyse
Dienstag, 7. Mai 2024, 16:30 - 18:00 Uhr
Raum: Plenum
Moderation: Robert Kahr, Landeskriminalamt NRW
Diese Session schloss an das Thema „KI – Fluch oder Segen? Potentiale und Chancen der Datenanalyse“ an und richtete sich an alle, die mehr über die Rahmenbedingungen für die Anwendung von Methoden der Künstlichen Intelligenz wie geltendes Recht und Akzeptanzfragen erfahren wollten. Insbesondere wurden rechtliche Regelungen und gesellschaftliche Aspekte zum Einsatz von KI zur Datenanalyse vor- und zur Diskussion gestellt. Ziel war es, die Anwender der zivilen Sicherheitsforschung zu informieren und ein Austausch, auch zu möglichen Lösungen zum Umgang mit Daten im Rahmen von SIFO-Forschungsvorhaben anzuregen.
Im ersten Impulsvortrag dieser Session setzte sich Professor Dr. Dominic Kudlacek (Hochschule Bremerhaven) unter Verwendung eines Gedankenexperiments mit juristischen Fragestellungen zum Einsatz von KI auf europäischer Ebene auseinander. Er schloss seinen Impuls mit einer Darlegung zur möglichen rechtlichen Regelung des Einsatzes von KI im polizeilichen Kontext in Deutschland ab.
Die gesellschaftlichen Aspekte des Einsatzes von künstlicher Intelligenz diskutierte in einem zweiten Impulsvortrag Gesellschaftliche Aspekte (PDF, 222KB, Datei ist nicht barrierefrei). Er ging im speziellen darauf ein, wie KI die Wissensgenerierung in Bezug auf die Verknüpfung des Wissens verändert. Hier zeigte er mögliche Auswirkungen auf die Akzeptanz des Einsatzes von KI in der Gesellschaft auf.
Die Session wurde moderiert von Robert Kahr (Landeskriminalamt NRW). Er eröffnete die Diskussion der Podiumsteilnehmer mit der Frage, wie die Akzeptanz für den Einsatz von KI gesteigert werden kann.
Dr. Martin Hofer (Zentrale Stelle für Informationstechnik im Sicherheitsbereich, ZITiS) erklärte das Akzeptanz nur durch Transparenz geschaffen werden kann, und dass dabei auch die Forschungsprojekte der SIFO einen wesentlichen Beitrag leisten können.
Das Wissen über die Funktionsweise der Methoden der Künstlichen Intelligenz in der Bevölkerung eine Grundlage für deren Akzeptanz ist, erläuterte Professor Dr. Daniel Keim (Uni Konstanz) am Beispiel von ChatGPT.
Für Dr. Ralf Ziebold (Deutschen Zentrum für Luft- und Raumfahrt e.V.) ist darüber hinaus die Nachvollziehbarkeit der Ergebnisse der KI-Methoden für die Akzeptanz der Nutzer ein entscheidender Faktor.
Dr. Stefan Taing (Munich Innovations Lab GmbH) nannte Forschung und Bildung wichtige Faktoren für die Akzeptanz und die Umsetzung von KI-Lösungen in die Praxis. Hierfür wäre ein geschützter „Experimentierraum“ notwendig, um moderne Technologien beim Anwender in den Einsatz zu bringen.
Nach Einbindung des Auditoriums lagen die Schwerpunkte der Diskussion auf der länderspezifischen Auswahl der Trainingsdaten, möglicher Zertifizierungsmethoden für KI, sowie dem Anspruch an die Unfehlbarkeit der KI-Methoden im Vergleich zu menschlichen Entscheidungen.
Als Fazit der Diskussionen wurde deutlich: Die Frage sollte nicht mehr lauten, ob man Methoden der künstlichen Intelligenz einsetzt, sondern wie ein neutraler Einsatz unter Berücksichtigung unserer demokratischen und gesellschaftlichen Grundwerte erfolgen kann.