Zusammenfassung

Computergenerierte Autonomisierungstechniken stehen heute noch am Anfang ihrer Entwicklung, gleichwohl zeichnen sich bereits vielfältige Anwendungsbereiche in den unterschiedlichsten Sicherheitskontexten ab. Die Session „Ausprägungen der Digitalisierung: Autonomisierung“ stellte vollständig oder teilweise autonomes Handeln in Sicherheitskontexten vor und diskutierte Auswirkungen, Chancen und Risiken der digitalen Autonomisierung von Einschätzungen, Reaktionen und Entscheidungen.

Zu Beginn der Session referierte Prof. Dr. Christoph Hubig aus philosophischer Perspektive zu Leistung und Grenzen der Autonomisierung. Er zeigte zentrale Unterschiede zwischen automatischem und autonomem Handeln auf und ging auf drei unterschiedliche Arten autonomen Handelns ein: Operative Autonomie ist durch Freiheitsgrade bei der Wahl der Mittel unter gegebenen Zwecken gekennzeichnet; unter Bedingungen strategischer Autonomie bestehen Freiheitsgrade bei der Wahl optimaler Zwecke; die moralische Autonomie geht am weitesten und ist durch Freiheitsgrade bei der Anerkennung von Prinzipien und Zielen geprägt. Deutlich wurde, dass sich mit der Autonomisierung neue Fragen der Verantwortungszurechnung stellen. Hubig präsentierte unterschiedliche Ansätze für den Umgang mit Haftungsfragen unter Bedingungen eines komplexen Zusammenwirkens von Mensch und (teil-)autonomen Maschinen und ging dabei auch auf die Charta der digitalen Grundrechte der Europäischen Union ein.

Dr. Nils Zurawski gab im Anschluss Denkanstöße zu digitaler Steuerungstechnik, Sicherheit und gesellschaftlichen Dynamiken. Bei der Reflexion über Entwicklungen der Autonomisierung ist stets zu berücksichtigen, welche neuen Konfigurationen von Macht, Herrschaft, Kontrolle und Überwachung diese implizieren. Die Erschaffung autonomer Systeme gilt seit jeher als Menschheitstraum und –albtraum, was auch durch zahlreiche Verarbeitungen der Literaturgeschichte und Popkultur veranschaulicht wird. Zunehmende Effizienz- und Optimierungsansprüche sowie ein großes Vertrauen in technische Lösungen zeigen sich heute beispielsweise in Zukunftsvisionen der Erschaffung von perfekten Städten bzw. „Smart Cities“, die den Menschen als fehleranfälliges Wesen entlasten sollen. Zu fragen ist dabei stets, ob und welche emanzipatorischen Fortschritte für die Gesellschaft durch Autonomisierung gewonnen werden können.

In der Diskussion stand die Frage im Mittelpunkt, welche gesellschaftlichen Kompetenzverluste und Entmündigungsprozesse durch Entwicklungen der technischen und digitalen Autonomisierung bedingt werden können. Eine gesellschaftliche Aushandlung der Frage, in welchen Bereichen Autonomisierung zugelassen werden sollte und in welchen nicht, ist notwendig. Konsens fand zudem die These, dass ein Treffen weitreichender moralisch-ethischer Entscheidungen allein dem Menschen vorbehalten sein sollte. Systeme künstlicher Intelligenz verfügen weder über ein Bewusstsein als Subjekt, noch über eine Elastizität von Regeln.

Die Session war Teil der Programmsäule „Ausprägungen der Digitalisierung“, die sich in zwei weiteren Sessionen mit Metrisierung (Session 1B) und Telematisierung (Session 3B) beschäftigte.

Vorträge

Moderation:

Prof. Dr. Natascha Adamowsky (Universität Siegen)

Vortragende:

Prof. Dr. Christoph Hubig (Universität Darmstadt) – Leistungen und Grenzen der Autonomisierung (PDF, 1.004KB, Datei ist nicht barrierefrei)

Dr. Nils Zurawski (Universität Hamburg) – Wer oder was ist autonom? Überlegungen zu digitaler Steuerungstechnik, Sicherheit und gesellschaftlichen Dynamiken

Anschließend Diskussion

Zurück zur Programmübersicht