Werden superintelligente Systeme die großen Probleme der Menschheit lösen? Oder werden sie unsere Welt ins Chaos stürzen? Zum Auftakt der TREE-Forschungskonferenz diskutieren Wissenschaftler und Experten über das Zukunftsthema technische Autonomie. Es gibt gemeinsame Positionen, aber auch große Differenzen bei der Einschätzung der Risiken.//Von Max Dittler und Alexander Leitsch
Rund 250 Zuschauer sind gekommen – trotzdem herrscht im Audimax der Hochschule angespanntes Schweigen. Während einige Fotografen noch die besten Perspektiven suchen, sind bereits ein halbes Dutzend Kameras auf die noch leeren Stühle auf dem Podium gerichtet. Eine erwartungsvolle Spannung liegt in der Luft. Dann geht ein kurzes Raunen durch den Audimax. Ranga Yogeshwar betritt die Bühne, so präsent wie man ihn aus „Quarks und Co.“ kennt, aber heute live an der Hochschule.
Autonome Technik kann Leben retten
„Kann autonome Technik jedes Jahr 1,2 Millionen Menschenleben retten“ fragt der Wissenschaftsjournalist seine Podiumsgäste, die technische, naturwissenschaftliche und soziologische Disziplinen vertreten. Das sei die Zahl der Autounfälle mit tödlichem Ausgang. Da die meisten Unfälle auf menschliches Versagen zurückgingen, könne autonomes Fahren sicherlich Unfälle vermeiden, ist sich das Podium einig. Aber wer trägt die Verantwortung, wenn dennoch etwas passiert?
Frage nach Verantwortung offen
Iris Groß, Professorin für Maschinenbau und Vizepräsidentin für Lehre, Studium und Weiterbildung an der Hochschule, sieht den Staat in der Pflicht: „Letztendlich muss der Gesetzgeber entscheiden, wer in welcher Situation haftet.“ Kira Kastell, Professorin für Übertragungstechnik an der Frankfurter University of Applied Sciences schreibt dagegen auch den Programmierern eine Verantwortung zu und Walter Zulauf, Direktor Technologie der Güdel Group AG in der Schweiz, sieht die Verantwortung beim Anwender. Einigkeit herrscht dahingehend, dass ein Diskurs über die Verantwortung geführt werden müsse.
Technik prägt urbane Zukunft
Aus Sicht des Biologen bergen neue Technologien noch weitere Chancen: „Autonome Systeme könnten unser Leben lebenswerter machen“, ist Wolfgang Wägele, Direktor des Zoologisches Forschungsmuseum Alexander Koenig und Sprecher der Forschungsmuseen der Leibniz-Gemeinschaft überzeugt. Man stelle sich eine Stadt voller autonomer Fahrzeuge vor – irgendwann in der Zukunft. Die Städte sind merklich sauberer geworden. Staus gibt es kaum noch, weil der Algorithmus die optimale Fahrstrategie errechnet und durch das Prinzip des Carsharings sowieso viel weniger Autos unterwegs sind. Auch Unfälle sind zu einer echten Seltenheit geworden, seit von unaufmerksamen oder betrunkenen Autofahrern keine Gefahr mehr ausgeht. Dieses Szenario wäre bereits vor 20 Jahren möglich gewesen – technisch möglich sei es jedenfalls damals schon gewesen.
Prognosen für Naturschutz
Für Wolfgang Wägele steht deshalb bei technischer Autonomie vor allem das Potential hinsichtlich der Ressourcenschonung im Vordergrund – und das nicht nur beim autonomen Fahren: „Schon heute helfen uns autonome Systeme bei Wettervorhersagen und in der Klimaforschung. Ich bin überzeugt, dass uns die Technik – wenn sie noch ein bisschen weiter entwickelt wird – dabei helfen kann, Ereignisse und Phänomene in der Natur besser zu verstehen.“
Problem Datenflut
Auch Dirk Helbing, Mitglied des Informatikdepartments der Eidgenössische Technische Hochschule in Zürich erkennt in autonomen Systemen durchaus Umweltpotential, macht aber auf ein immer größer werdendes Problem aufmerksam: „Die Technik entwickelt sich immer weiter, aber sie hält nicht mit der Datenmenge Schritt.“ Es gäbe immer mehr Daten, die nicht analysiert werden könnten, die aber unter Umständen wichtig gewesen wären. Aus diesem Grund sieht Helbing die einzige Lösung in einem dezentral organisierten System, das obendrein weit weniger verwundbar gegen Angriffe von außen sei.
Digitale Kultur gefordert
Angesichts der Gefahren durch Manipulation sind sich alle Diskussionsteilnehmer einig: Ohne einen wirksamen Schutz sind vernetzte autonome Systeme sehr verwundbar. Helbing fordert gar eine „digitale Kultur“, um diesem Problem zu begegnen. „Sie muss im cyberphysikalischen Raum in unserem Sinne funktionieren. Ich denke die Digitalisierung gibt uns diese Mittel an die Hand.“ Was genau diese Mittel sind, ließ Helbing offen.
Diversity in Forschung und Entwicklung
Für Kira Kastell, die auch Bundesvorsitzende des VDI-Netzwerks Frauen im Ingenieurberuf ist, müssen diese Instrumente unter Einbeziehung von Menschen verschiedener Geschlechter, Altersgruppen und Kulturkreise erarbeitet werden, um zu funktionieren und auf Akzeptanz zu stoßen. Dafür – und hier sind sich wieder alle einig – müsse interdisziplinär geforscht und ein öffentlicher Diskurs geführt werden. Die zukünftige Entwicklung der autonomen Systeme wird vor allem die Aufgabe der heutigen Studierenden sein. Walter Zulauf betont in seinem Schlusssatz die Hoffnung, die er an die „innovativen Köpfe der Studierenden“ hat: „Wir sind verantwortlich für die Technik, wir müssen sie prüfen, evaluieren und schließlich freigeben. Packen Sie zu und bilden Sie sich weiter!“