Im Gespräch mit Dr. Attila Bilgic
"Der Begriff 'autonom' weckt Ängste"
Die Arbeitsgemeinschaft 'Autonome Systeme' der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik hat zehn Grundsatzfragen zum Thema 'Künstliche Intelligenz und autonome Systeme' formuliert. Zum Einstieg in den Diskurs hat die Ingenieursvereinigung Dr. Attila Bilgic, CTO und Vorstandsmitglied der Krohne-Gruppe sowie Mitglied des Vorstands der VDI/VDE-GMA, zur Beherrschbarkeit autonomer Systeme befragt.
Bild: VDI Verein Deutscher Ingenieure e.V.Zur Person
Dr. Dr. h.c. Attila M. Bilgic ist seit 2009 als Chief Technical Officer und seit 2017 im Vorstand der Krohne Gruppe tätig und betreibt hier unter anderem die Implementierung grundlegender technischer Aspekte für die Industrie 4.0 und die hierfür notwendige Gestaltung der organisatorischen Rahmenbedingungen. Hier nutzt er die Erfahrungen, die er etwa bei der Infineon Technologies AG von 2000 bis 2009 im Geschäftsbereich 'Communication Solutions', zuletzt als Director System Engineering und von 2007 bis 2009 als Leiter des Lehrstuhls 'Integrierte Systeme' an der Ruhr-Universität Bochum gewonnen hat. Er ist Vorstandsvorsitzender der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik (GMA), Kurator des Fraunhofer-Instituts für Mikroelektronische Schaltungen und Systeme IMS und Ehrendoktor der Polytechnischen Universität Timisoara, Rumänien.
Herr Dr. Bilgic, die in großem Tempo voranschreitenden Entwicklungen in der künstlichen Intelligenz eröffnen immer neue Optionen für autonome Systeme. Das wirft auch die Frage auf, wie wir diese beherrschen können?
Dr. Attila Bilgic: Die Sorge, dass Aliens aus dem Weltraum, Mutanten, Androide, Mensch-Maschinen-Hybride oder wer auch immer die Weltherrschaft übernehmen und den Menschen unterjochen, bietet seit Jahrzehnten Stoff für zahlreiche Science-Fiction-Erzählungen. Sie sind allesamt bis heute Fiktion und vor allem Projektionsfläche. Autonome Systeme liefern eine weitere Projektionsfläche.
Für was genau sind sie die Projektionsfläche?
Bilgic: Für die sozialen Verwerfungen und das subjektive Gefühl von Unterlegenheit. Sie können die allumfassende Kontrolle reizvoll machen. Getreu der Logik: Wenn wir - oder besser: viele von uns - nur entsprechende Fähigkeiten hätten, dann würden wir am liebsten die Welt regieren. Nun entwickeln sich Systeme, die uns an Intelligenz ebenbürtig sind oder uns sogar überholen - und wir unterstellen ihnen ähnliche Fantasien und Antriebskräfte.
Katastrophen brauchen ja nicht unbedingt einen bösen Willen. Eine für den Menschen nicht mehr kontrollierbare Dynamik reicht ja schon ?
Bilgic: Absolut, das ist kein ausschließlich psychologisches Thema. Das schwingt nur mit und der Begriff autonom triggert hier Sorgen und Ängste. Ein System, welches wir komplett kontrollieren könnten, ist nicht autonom. Es muss in der Tat eigenständig Entscheidungen treffen und entsprechend agieren können.
Muss es tatsächlich eigenständig sein?
Bilgic: Ja, weil wir solche Systeme in komplexen Anwendungen einsetzen, deren Zustände a priori nicht vorhersehbar sind. Man kann da kein Verhalten mehr vorweg algorithmisch festlegen.
Bild: ©fotomek/adobe.stock.comSollten wir Menschen ein solches System nicht wenigstens immer abschalten können?
Bilgic: Ich möchte den Mitarbeitern meines Unternehmens nicht unbedingt die Möglichkeit geben, ihren Virenscanner abzuschalten, obwohl er eigenständig Verbindungen blockiert und Dateien in Quarantäne steckt. Niemand von ihnen überblickt, was dieses System genau tut, ich auch nicht. Ich habe aber eine Idee davon, was passiert, wenn ich das System ausschalte und die ist erschreckend.
Hat das mit Erfahrungen zu tun?
Bilgic: Ja. Denn wir haben gelernt, dass solche Virenscanner massiv zu unserer Sicherheit beitragen. So wie auch die Sicherungen für den elektrischen Strom im Haushalt. Sie ärgern uns manchmal, wenn sie ausfallen und wir verstehen oft nicht sofort, warum. Wir hätten ja lieber Strom. Wir würden es allerdings nicht als verantwortungsvolles Handeln betrachten, die Sicherung einfach zu überbrücken.
Beim Autofahren sieht es nochmal anders aus?
Bilgic: Das Autofahren haben wir gelernt und wir möchten uns da auch nicht reinreden lassen. Aber im Ernst: Man kann ja noch sagen, Automatikgetriebe und Tempomaten wären etwas für bequeme Leute. Aber spätestens beim Fahrspurassistenten sieht man, wie auch passionierte Autofahrer richtig Spaß an automatischen Systemen bekommen können.
Die sind ja noch nicht autonom!
Bilgic: Das ist richtig. Bei einer neuen Technologie kann man gut mit Assistenzsystemen beginnen, etwa mit sehr spezifischen Funktionen, die dem Prinzip 'divide and conquer' folgen. Der Nutzer kann die neue Technologie so erstmal 'Stück für Stück' kennenlernen und die Systeme können begleitend weiter reifen. Dadurch wächst das Vertrauen und irgendwann entwickelt sich vielleicht der Wunsch, die Kontrolle komplett an ein System abzugeben.
Die beim Auto immer beim einzelnen Fahrer bleibt, oder?
Bilgic: Das ist vor allem aus ethischer Sicht eine spannende Frage. Fakt ist, dass autonome Fahrsysteme in höherem Tempo dazulernen, als sich die menschliche Fahrsicherheit entwickelt. Es lässt sich ziemlich leicht ausrechnen, ab wann der Mensch doppelt so viele Unfälle produziert, wann zehnmal so viele und wann hundertmal so viele Unfälle wie das autonome System. Ab welchem Zeitpunkt erlauben wir uns nicht mehr, den finalen Fehler zu machen? Oder anders ausgedrückt: Wie viele Unfalltote ist uns unsere Fahrautonomie als Gesellschaft wert?
Sicherheit bedeutet aber auch, dass wir Menschen einen Notausschalter haben ?
Bilgic: Das sollte natürlich so sein. Wenn ein Mensch eine kritische Situation erkennt und bitteschön auch, wenn eine künstliche Intelligenz eine solche erkennt, dann sollte möglichst schnell ein sicherer Zustand hergestellt werden. Das ist leicht gesagt, aber was bedeutet das im konkreten Einzelfall? Die Autofahrt abbrechen, rechts ranfahren und ausschalten? Auch auf Autobahnabschnitten ohne Standstreifen? Auch bei Rettungswagen im Einsatz? Wie funktioniert der Notausschalter bei einem Flugzeug, das in der Luft ist? Wie wird das sichere Abfahren einer Industrieanlage gewährleistet? Je nach Situation werden sich Fälle finden, in denen der Mensch die Maschine rettet, weil er die Kontrolle übernimmt und Fälle, in denen es zum Absturz kommt, weil er die Kontrolle nicht abgibt.
Es kommt also immer auch auf den Einzelfall an?
Bilgic: Genau. Diese Fragestellungen müssen domänenspezifisch betrachtet werden. Da helfen Standardparadigmen nicht unbedingt weiter.
Welche ethischen Grenzen sehen Sie für den Einsatz autonomer Systeme?
Bilgic: Um diese Frage zu beantworten, sollten wir uns immer klar machen, welche Bedürfnisse wir uns mit autonomen Systemen erfüllen und welchen sie entgegenstehen. Und dann können wir uns bewusst dafür oder dagegen entscheiden. Das ist allerdings kompliziert, da wir diese Fragen persönlich, für Gruppen unterschiedlicher Größe und letztendlich für die gesamte Weltbevölkerung beantworten müssen.
Können Sie ein Beispiel nennen?
Bilgic: Ja, klar. Natürlich wollen wir das Weltklima retten. Das sind wir unseren Kindern, Enkeln und Urenkeln schuldig. Bis auf drei Ausnahmen sehen die Staaten das Klimaabkommen von Paris als hierfür notwendig an. Allerdings scheint aktuell nur eine Minderheit dieser Staaten die gemachten Zusagen auch einhalten zu können. Wir haben es also mit einer komplexen Situation zu tun, mit der wir angeblich so intelligenten Menschen nachweislich überfordert sind. Denn auf der einen Seite sind wir auf unterschiedlichen Ebenen sozial verwoben, etwa als Unternehmen oder auch als Länder, die miteinander konkurrieren. Auf der anderen Seite spüren wir die Konsequenzen unseres Handelns nicht unmittelbar.
Die Macht der Gewohnheit verhindert hier grundsätzliche Veränderungen?
Bilgic: Richtig. Da wäre eine Art unabhängiger CO2-Emissionswächter doch praktisch, oder? Ein autonomes System, in dem alle Daten zusammenlaufen und das über Mechanismen verfügt, um bei Bedarf Emittenten lahm zu legen. Das könnte dazu beitragen, uns und unsere Nachfahren zu retten. Man muss sich hier jedoch vorher sehr genau Gedanken machen, welche Entscheidungsplanken und Randbedingungen ein solches System haben soll.
Was könnte sonst im ungünstigen Fall passieren?
Bilgic: Naja, wenn das autonome System nur die Aufgabe bekäme, den CO2-Ausstoß zu minimieren, könnte es leicht auf die Lösung kommen, am besten die gesamte Menschheit zu eliminieren. Hilft dem Klima sehr wohl, nicht aber unseren Kindern, Enkeln und Urenkeln.
Womit wir wieder bei Science-Fiction sind?
Bilgic: Natürlich habe ich übertrieben. Wir Menschen können im Denken eben nicht diese großen Sprünge machen. Uns bleibt nichts anderes übrig, als die autonomen Systeme kritisch, aber auch neugierig zu begleiten und mit ihnen zu wachsen. Jeder Einsatzfall muss im Detail für sich diskutiert werden.
Themenreihe: Zehn offene Fragen zu KI und autonomen Systemen
Künstliche Intelligenz (KI) und autonome Systeme sind in vielen Bereichen der Industrie, der Logistik und des Verkehrs untrennbar miteinander verknüpft. Allein und in Kombination bergen sie große wirtschaftliche Potenziale, bringen aber auch Risiken mit sich. Die Arbeitsgruppe 'Autonome Systeme' der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik (VDI/VDE-GMA) hat zehn Fragen zusammengetragen, die es zu beantworten gilt, um KI wirtschaftlich erfolgreich zu machen.
"Autonome Systeme können, richtig eingesetzt, schwierige Aufgaben übernehmen und Nutzen bringen. Aber der Einsatz autonomer Systeme wirft auch Fragen auf", sagt Prof. Alexander Fay, Mitglied im Vorstand der VDI/VDE-GMA. "Diese Fragen sollten geklärt werden, bevor ein autonomes System gestartet wird", ergänzt Prof. Birgit Vogel-Heuser, die gemeinsam mit Prof. Fay die Arbeitsgruppe leitet.
Die folgenden zehn Fragen bündeln essenzielle Herausforderungen, die es bei autonomen Systemen zu bewältigen gilt:
1. Wie können wir das autonome System beherrschen?
2. Wie autonom soll das autonome System für uns sein?
3. Wie machen wir das autonome System autonom?
4. Wie nachvollziehbar muss das Verhalten eines autonomen Systems sein?
5. Wie kann man autonome Systeme vergleichen?
6. Wie zuverlässig ist das lernende autonome System?
7. Wie effizient ist das autonome System?
8. Wie sicher ist das autonome System?
9. Wo sind die Grenzen des autonomen Systems?
10. Welchen Werten folgt das autonome System?
Die Arbeitsgemeinschaft 'Autonome Systeme' der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik hat zehn Grundsatzfragen zum Thema 'Künstliche Intelligenz und autonome Systeme' formuliert. Zum Einstieg in den Diskurs hat die Ingenieursvereinigung Dr. Attila Bilgic, CTO und Vorstandsmitglied der Krohne-Gruppe sowie Mitglied des Vorstands der VDI/VDE-GMA, zur Beherrschbarkeit autonomer Systeme befragt.
Bild: VDI Verein Deutscher Ingenieure e.V.Zur Person
Dr. Dr. h.c. Attila M. Bilgic ist seit 2009 als Chief Technical Officer und seit 2017 im Vorstand der Krohne Gruppe tätig und betreibt hier unter anderem die Implementierung grundlegender technischer Aspekte für die Industrie 4.0 und die hierfür notwendige Gestaltung der organisatorischen Rahmenbedingungen. Hier nutzt er die Erfahrungen, die er etwa bei der Infineon Technologies AG von 2000 bis 2009 im Geschäftsbereich 'Communication Solutions', zuletzt als Director System Engineering und von 2007 bis 2009 als Leiter des Lehrstuhls 'Integrierte Systeme' an der Ruhr-Universität Bochum gewonnen hat. Er ist Vorstandsvorsitzender der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik (GMA), Kurator des Fraunhofer-Instituts für Mikroelektronische Schaltungen und Systeme IMS und Ehrendoktor der Polytechnischen Universität Timisoara, Rumänien.
VDI Verein Deutscher Ingenieure e.V.
Dieser Artikel erschien in IT&Production Oktober 2019 - 07.10.19.Für weitere Artikel besuchen Sie www.it-production.com
