Wie schon bei den „klassischen“ mechanischen Maschinen führt diese Entwicklung zu erheblichen Veränderungen in Wirtschaft und Gesellschaft, ja im Selbstverständnis des Menschen. Der zusammen mit Dr. Thomas Götz (IBM) verantwortliche wissenschaftliche Leiter der Konferenz, Prof. Jörg Eberspächer von der TU München, stellte eingangs daher die Frage: „Wieviel können, dürfen, wollen wir Menschen noch entscheiden und wieviel müssen, dürfen, wollen wir der Maschine (dem Computer) überlassen?“

Mensch und Roboter als Partner

Prof. Dr. Albu-Schäffer vom renommierten Roboter-Forschungsinstitut des DLR adressierte im ersten Eröffnungsvortrag die Entwicklungstrends in der Robotik. Er erläuterte an Beispielen aus der DLR-Forschung, wie zunehmend der Mensch in den Mittelpunkt der Entwicklung gestellt wird. Assistenzroboter müssen eng mit Menschen interagieren, z.B. am Fließband. Zur Gewährleistung der Arbeitssicherheit werden solche Roboter „feinfühlig“ und nachgiebig gestaltet und müssen in der Lage sein, menschliche Bewegungen und schnell veränderliche Umgebungen in Echtzeit zu erfassen sowie Entscheidungen und Reaktionen in Echtzeit durchzuführen. Zur Lösung werden u.a. biologisch inspirierte Techniken eingesetzt. Im Zusammenspiel von Biomechanik und neuronaler Steuerung entstehen so humanoide Roboter. Die Menschen können von dieser Entwicklung auch unmittelbar profitieren, durch bessere Mensch-Maschinen-Schnittstellen, robotische medizinische Verfahren, Prothesen und Rehabilitationsgeräte. Solche Systeme werden in Zukunft die Schranken zwischen Mensch und Roboter zunehmend abbauen.

Selbstlernende Systeme in der IT auf dem Vormarsch

Dirk Wittkopp, Geschäftsführer der IBM Deutschland Research & Development GmbH, stellte den Wandel des Nutzens der Informationstechnologie im Laufe der Zeit dar: Mal als reiner Kostenfaktor unterschätzt, dann wieder als zentraler Werttreiber gefeiert, sieht IBM heute die Fähigkeit von Computersystemen zum Lernen als den entscheidenden technischen Durchbruch. Unternehmen werden dadurch in die Lage versetzt, Märkte und Kunden besser zu verstehen, und explizit gemachtes Wissen als Asset aufzubauen, welches nur sehr schwer imitierbar ist und somit eine zusätzliche Quelle von Differenzierung im Wettbewerb darstellt. Wichtig ist dabei nicht nur das Ergebnis, sondern der Weg dahin: Die Lernkurve können die neuen Systeme nicht alleine bewältigen; sie benötigen auch zukünftig Training und Optimierung durch menschliches Expertenwissen. Nur durch die Kombination menschlicher Fähigkeiten mit den unterstützenden, kognitiven Fähigkeiten der neuen Computergeneration entsteht neuer Nutzen. Nach Meinung von IBM ist es dafür wichtig, Plattformen und Eco-Systeme bereitzustellen, auf deren Basis dann kognitive Anwendungen und autonome Systeme entwickelt und betrieben werden können. Dies ermöglicht den Anwendern und Entwicklern die notwendige Breite und Tiefe zukünftiger Anwendungsfelder der Technologie. IBM hat sein kognitives System „Watson“, welches insbesondere für den Umgang mit unstrukturierter Information in Form von natürlicher Sprache (Text) optimiert ist, folgerichtig kürzlich als Plattform-Service in der Cloud bereitgestellt. Gleichzeitig entwickelt IBM die nächste Generation von Computerchips, welche nicht nach den traditionellen (sog. Von-Neumann) Methoden programmiert werden, sondern bei wesentlich geringerem Energieverbrauch eher durch Strukturen des Gehirns mit Neuronen und Synapsen inspiriert sind. Für mobile autonome Systeme ist das Verhältnis aus Sensor- und Rechenleistung zum Energieverbrauch eine wichtige Schlüsselgröße und mit den kognitiven Fähigkeiten eines „Watson“, der über die Cloud eingebunden ist, können völlig neue Anwendungsfelder entstehen. Wittkopp hierzu: „Klar, es ist eine Wette mit der Zukunft. Aber in der Wissensgesellschaft setzen wir auf diese autonomen Systeme.“ Der IT Researcher Gartner hat gerade berechnet, dass die Zahl der Dinge, die mit dem Internet verbunden sind, bis 2020 auf 25 Milliarden steigen wird. Das Internet der Dinge hat sich zu einem sehr mächtigen Faktor für die Wirtschaft entwickelt.

Da die Beantwortung der Zukunftsfähigkeit nicht pauschal für alle Anwendungsfelder erfolgen kann, erarbeiteten die Teilnehmer die Implikationen kognitiver und autonomer Systeme in vier Workshops zu den Themenfeldern Industrie, Gesundheit, Mobilität und Sicherheit.

Mensch-Maschine Symbiose verändert vor allem industrielle Arbeitswelten nachhaltig

Die Industrie heute wird geprägt durch neue Märkte und Marktteilnehmer, entscheidungsfähige Maschinen und Algorithmen. „Der Trend geht weg von kostengünstiger Massenproduktion in Billiglohnländern“, berichtet Dr. Kurt D. Bettenhausen von Siemens Corporations USA. „Maschinen ermöglichen eine Rückbesinnung auf die „alten und teuren“ Produktionsstandorte. Ziel ist die Losgröße 1 – das auf den einen bestimmten Kunden zugeschnittene Produkt“, so Bettenhausen weiter. Die Entwicklung, die in Deutschland unter dem Begriff der Industrie 4.0 zusammengefasst wird, geht von einem symbiotischen Zusammenarbeiten von Mensch und Maschine aus, wobei jeder das macht, was er am besten kann. Allerdings müssen Maschinen noch viel vom Menschen lernen und an eben dieser Schnittstelle entstehen gerade in der Industrie praktikable Anwendungen. Kontrovers diskutiert wurde hingegen, ob eine höhere Automatisierung Mehrbeschäftigung bringt (Argument > geringere Arbeitslosigkeit in hochtechnisierten Ländern) oder für den Verlust von Arbeitsplätzen steht (Argument > Montage entfällt zunehmend). Sicher ist jedoch, dass Robotersysteme erhebliche strukturelle Veränderungen in der Industriearbeit bewirken werden. Die Aus- und Weiterbildung vom klassischen „Handarbeiter“ bis hin zum Berufsbild des modernen „Data Scientist“ wird dabei zur Schlüsselvoraussetzung für die erfolgreiche Nutzung der neuen Assistenzsysteme, damit weiterhin Menschen die Maschinen lenken und nicht umgekehrt. Einfache Benutzerschnittstellen sind nötig, mahnt Dr. Constanze Kurz von der IG Metall, damit in der hochentwickelten Industrie keine systematische Ausgrenzung von angelernten Berufen erfolgt bzw. Fähigkeiten der Menschen unwiderruflich enteignet werden.

Verantwortungsbewusster Umgang gerade im Gesundheitsbereich existenziell

„Die Gesundheitsbranche besitzt keine Vorreiterrolle bei autonomen Systemen“, erklärt Bernhard Calmer, Siemens AG. Neue Technologien leisten in der Medizin eine Entscheidungsunterstützung, sie dienen als Assistenzsysteme, aber die Autonomie liegt wie jeher beim Arzt, der nur Therapieempfehlungen erhält. „Die individualisierte Gesundheitsversorgung wird unter dem Schlagwort der personalisierten Medizin diskutiert und muss Effizienz bei bezahlbaren Preisen beweisen“, so Calmer. Neue Technologien und neue Marktteilnehmer erzeugen viele innovative Geschäftsmodelle, da die Gesundheitserhaltung in einer alternden Gesellschaft immer mehr ins Zentrum rücke. Zugleich sind gerade in der Gesundheitsbranche die Datengüte und vor allem der verantwortungsvolle Umgang mit Daten das oberste Gebot. Für bereits fünf Dollar würden Menschen in den USA ihre Gesundheitsdaten verkaufen. Auch in Deutschland wird sich zukünftig die Frage nach der Kommerzialisierung und dem Preis der Gesundheitsdaten stellen.

Welche Reaktionen sind im Verkehr angemessen?

Alle 7,5 Millionen Kilometer erzeugen Menschen statistisch einen Unfall – das ist wenig. Daran muss sich ein vollautomatisiertes Auto messen lassen. Im Bereich der Mobilität erwecken Berichte über selbstfahrende Autos aktuell den Eindruck, die Zukunft habe bereits begonnen. Hierbei handelt es sich aber ausnahmslos um Versuche in streng kontrollierten Umgebungen. „Vollautomatisches Fahren in der Serienentwicklung wird hingegen erst in 30 Jahren möglich sein“, so Eberhard Zeeb, Daimler AG. Der Nutzen des Airbags als Beispiel eines autonomen Teilsystems ist unumstritten, das Auto selbst jedoch entscheidet heute nur in sehr berechenbaren Situationen wie dem Bremsvorgang im Stau auf der Autobahn oder dem Einparken. Hierbei werden Vorgänge noch programmiert. In abgegrenzten Bereichen und situationsbedingt können Automobile im öffentlichen Verkehr derzeit durchaus Verantwortung übernehmen und unterstützen den Fahrer situativ. „Assistenzsysteme müssen dem Fahrer helfen, Fehler zu vermeiden, dürfen dabei aber nicht neue Fehler generieren“, so Zeeb und weiter: „Wir sind uns einig, dass Automobilhersteller im Bereich des Automatisierten Fahrens ohne Kooperationen zukünftig nicht erfolgreich sein können. Wir fordern die Politik auf, Erprobungsräume zur Verfügung zu stellen und einheitliche rechtliche Rahmenbedingungen, insbesondere im Hinblick auf die Produkthaftung, zu schaffen, damit wir in Deutschland weiterhin die Entwicklungsführerschaft im Bereich der Assistenzsysteme haben.“ Reinhold Hamann von der Robert Bosch GmbH glaubt nicht, dass die Entwicklung der vollautomatisierten Mobilität langfristig zu höheren Kosten führt, da Automatisierung im Verkehr der Zukunft eher zu einer Standardisierung der Fahrzeugausstattung beiträgt und das kostentreibende individuelle „Aufrüsten“ der Fahrzeuge entfällt. „Das automatisierte Auto fährt nicht individuell sportlich, sondern berechenbar defensiv“, so Hamann, „und wirft in Zeiten einer neuen Generation von Fahrern und Käufern eine weitere zentrale Frage auf: Wer bietet künftig den Zusatznutzen im Auto?“ Weltweite technische Standards, wie bei Mobilfunk oder Videos, werden zudem zwingend benötigt, will man die Vision ermöglichen, dass Fahrzeuge untereinander kommunizieren.

Was sind die Herausforderungen in besonders sensiblen Anwendungsbereichen?

Insbesondere in der medizinischen Notfallversorgung wird beim Einsatz von automatisierten, teilautomatisierten oder gar autonomen Systemen (Defibrillatoren, Beatmungsautomaten, etc.) die Frage nach der Haftung im Schadensfall aufgeworfen. Am Beispiel von autonomen Intensivmedizin-Behandlungsstationen (ICUs), die bis zu 40 teilautonome Systeme beinhalten können, wird die Verkettung von Risiken deutlich. Es werden auch große Potentiale in der Verbindung medizinischer Notfallversorgung mit mobilen autonomen Systemen gesehen, so dass zum Beispiel kompakte Defibrillatoren ihre Patienten autonom anfliegen. Auch in der Unterstützung von Bergungs- und Rettungsteams oder der Aufklärung gefährlicher Gebiete nach Naturkatastrophen oder biologischer Gefährdung werden sich autonome mobile Systeme im Einsatz befinden. Bei all diesen Einsätzen geht es um Menschenleben – damit stellt sich die absolut existentielle Vertrauens- und im schlimmsten Fall die Haftungsfrage. Hier müssen Forschung und Entwicklung einerseits und der Gesetzgeber anderseits noch viele Antworten finden.

Ein prominentes Beipiel mobiler automomer Systeme in weniger existentiellen, aber dennoch zunehmend sicherheitskritischen Szenarien, sind Drohnen und ihre sich rasant ausweitenden Einsatzgebiete. Die zivile Nutzung von Drohnen ist nicht erst seit Amazons Ankündigung der automatisierten Paketauslieferung ein Thema, sondern hat bereits eine große Zahl innovativer Anwendungsfelder und junger Unternehmen hervorgebracht. Einfachere Drohnensysteme werden von Fotografen und Filmemachern für Luftaufnahmen eingesetzt, während autonome Drohnen im Zivilbereich bereits wertvolle und auch kostensenkende Beiträge zur Kartografie, dem 3D-Mapping unerschlossener Gebiete oder bei der Wartung und Inspektion von beispielsweise Hochspannungsleitungen oder Brücken leisten können. Nach Meinung von Jean-Christophe Zufferey, CEO von „Sensefly“, einem auf autonome Drohnen spezialisierten Unternehmen aus der Schweiz, liegt in der Entwicklung intelligenter Sensorik der wichtigste Treiber zukünftiger Möglichkeiten – Sensoren entlasten die zentrale Verarbeitung, damit Energie-, Gewicht- und Raumbedarf der eingebetteten Computersysteme nicht zu groß und so eine Barriere für Mobilität und Reichweite werden. Doch wie reagieren z.B. fliegende Systeme auf unerwartete Ereignisse wie Wetterumschwung, Angriffe von Greifvögeln oder Begegnung mit anderen Flugobjekten? Wie stimmen sich Schwärme von Drohnen untereinander ab, um geordnet zu landen? Und wer hat die Kontrolle über die Bedrohung über unseren Köpfen, sollte etwas schiefgehen? Bislang gibt es je nach Land verschiedene gesetzliche Vorgaben – aktueller kleinster gemeinsamer Nenner dabei ist in der Regel, dass stets eine Sichtverbindung des Menschen zum autonom fliegenden System bestehen muss, damit jederzeit per Hand eingegriffen werden kann – diese Einschränkung wird wohl bald überwunden werden müssen, wenn neue Einsatzgebiete entstehen.

Was treibt die Entwicklung?

Seit vielen Jahren wird an Verfahren und Systemen der „Künstlichen Intelligenz (KI)“ geforscht. Die Konferenzteilnehmer waren sich einig, dass es – getrieben von den technischen Möglichkeiten, vor allem der erheblich gesteigerten Computerleistungsfähigkeit, verbesserten mathematischen Algorithmen und Fortschritten bei Software – ein hohes Potenzial für die Einführung und auch die Akzeptanz solcher intelligenten Systeme gibt. Durch den Wettbewerb technikbegeisterter asiatischer Staaten, allen voran Südkorea und China, wird dieser Trend zusätzlich beschleunigt. Die Qualität und zügige Weiterentwicklung der Sensorik zu einer intelligenten Sensorik – Sehen, Hören (Geräusche!), Geruch, Geschmack, Sprache etc. – gilt hierbei als weiterer starker Impuls für einen Marktdurchbruch von kognitiven und autonomen Systemen. Der Umgang mit Verantwortung im Sinne von Haftung und Versicherung, gerade bei teilautonomen Systemen, macht neue rechtliche Rahmen nötig. Bildungssysteme müssen Schritt halten mit der rasanten technologischen Entwicklung. Schlüsselkompetenzen sind beispielsweise ganzheitliches, systemorientiertes Verständnis und die Bildung von virtuellen Modellen der Realität mitsamt geeigneter Algorithmen und Verfahren für Simulation, Vorhersagen, Hypothesengenerierung und
-bewertung.

Mensch oder Maschine? Prof. Klaus Mainzer vom Lehrstuhl für Philosophie und Wissenschaftstheorie an der TU München erweiterte die Diskussion um eine wesentliche Perspektive: Das menschliche Gehirn sei der Schlüssel zur Entwicklung von automatisierten Systemen. Letztendlich sei der wichtigste Treiber der Digitalisierung der Energieverbrauch und da könne nichts auf der Welt mit der Effizienz des menschlichen Gehirns mithalten. Mainzer entwirft daher die positive Vision der Mensch-Maschine-Symbiose: Wir müssten noch viel übereinander und voneinander lernen. Und so verändere auch die Wissenschaft ihre Vorgehensweise und baue bei der Entscheidungsfindung mehr auf diskursive Elemente – unter Einbeziehung der Erfahrungen und Fähigkeiten von Menschen und Maschinen.

Die Teilnehmer waren sich einig, dass für die gesellschaftliche Akzeptanz dieser Entwicklung konsensfähige Leitbilder für einen verantwortungsvollen Umgang mit kognitiven und autonomen Systemen benötigt würden, die sich an den – oft widerstreitenden – Interessen aller Stakeholder aus Wirtschaft, Wissenschaft und Gesellschaft ausrichten müssten.