Die Europaabgeordnete Mady Delvaux im Land-Gespräch über Roboter und künstliche Intelligenz

„Ein Roboter ist kein Mensch“

Roboter Mudam
Foto: Patrick Galbats
d'Lëtzebuerger Land vom 05.05.2017

Die sozialistische EU-Parlamentarierin Mady Delvaux ist die erste, die einen Vorstoß zur Regulierung von Robotik und künstlicher Intelligenz auf EU-Ebene unternommen hat. Dazu gab eine von ihr präsidierte Arbeitsgruppe einen 73-seitigen Bericht heraus, der konkrete Empfehlungen an die EU-Kommission für zivilrechtliche Regelungen in diesem Bereich enthält.

d’Land: Haben Sie Angst vor Robotern, Frau Delvaux?

Mady Delvaux: Ursprünglich war ich eher ängstlich gegenüber Robotern eingestellt. Aber im Laufe unserer Arbeit im Europaparlament habe ich erkannt, dass die Robotik wie eigentlich jede Technik ihre Vor- und Nachteile hat. Autos können für den Menschen gefährlich sein, Elektrizität auch. Trotzdem begeistern uns Autos, und wir können uns ein Leben ohne Elektrizität gar nicht mehr vorstellen. Ich glaube, es gibt keine Technologie, die nur Schaden verursacht, ohne zugleich viel Gutes zu bringen. Die Frage ist daher, welchen Rahmen wir schaffen müssen, damit die Robotik uns Menschen von größtmöglichem Nutzen ist.

Der Verkauf von Robotern nahm zwischen 2010 und 2014 um 17 Prozent zu, die Zahl der Patentanmeldungen hat sich in den letzten Jahren verdreifacht. Stehen wir vor einer neuen digitalen Revolution?

Ich denke schon, dass Digitalisierung und Robotik ein neues Zeitalter einläuten, denn nahezu alle Bereiche des Lebens werden berührt: die Arbeit, das Private, die Pflege, das Gesundheitssystem, die Erziehung. Wir stehen mitten im Prozess der Digitalisierung.

Was sind „Roboter“? Wie haben Sie den Begriff in Ihrem Bericht eingegrenzt?

Die Suche nach einer einheitlichen Definition sorgte in unserer Arbeitsgruppe für viel Kopfzerbrechen. Einmal pro Monat hatten wir auch einen Austausch mit Robotik-Experten aus der Wissenschaft und Vertretern der Industrie. Roboter ist nicht gleich Roboter, je nach Anwendungsbereich unterscheidet er sich in seiner Funktion erheblich, und sogar in seiner Physiognomie. Ein Pflegeroboter zum Beispiel hat viel komplexere Aufgaben zu erfüllen als ein Staubsaugerroboter. In unserem Bericht haben wir die EU-Kommission aufgefordert, eine Definition auszuarbeiten, die einige wichtige Eigenschaften berücksichtigt. Allein über seine mathematisch-algorithmischen Fähigkeiten soll ein Roboter nicht definiert werden Er muss stets einen physischen Träger haben, selbst wenn der nicht umfangreich ist.

Über die Automatisierung wurde vor etwa 50 Jahren eine ähnliche Diskussion wie heute über die Robotik geführt – zwischen Heilserwartung und Untergangsszenario. Hochautomatisierte Fabriken gibt es seit drei gut Jahrzehnten, und wir leben immer noch. Was ist neu?

Wie gesagt: Nahezu jede technologische Entwicklung bringt Erwartungen und Ängste mit sich. Die ersten Roboter wurden tatsächlich schon vor 80 Jahren entwickelt, so neu ist die Robotik also gar nicht. Die am stärksten robotisierte Industrie in Europa ist die deutsche – und sie ist die erfolgreichste im Export. Roboter der heutigen Generation interagieren immer mehr mit Menschen. Dass innerhalb von Produktionsprozessen Roboter durch einen Käfig vom Menschen getrennt sind, wie wir das beispielsweise aus der Autoindustrie kennen, ist immer weniger der Fall. Dieses Zusammenspiel und die Zusammenarbeit von Robotern und Menschen ist neu und stellt uns vor neue regulatorische Herausforderungen.

Welcher Aspekt ist dabei der wichtigste?

Anfangs dachte ich, wir schreiben ein allumfassendes Gesetz über die Robotik, und dann ist in der EU das Problem gelöst. Die Probleme sind aber viel komplexer. Zunächst müssen wir klären, inwieweit sich die bestehenden Gesetze auf die neuen Gegebenheiten der künstlichen Intelligenz und Robotik anwenden lassen. In einigen Gebieten wissen wir bereits, dass die bestehende Gesetzeslage nicht ausreicht, klar ist zum Beispiel, dass wir dringend neue Regelungen zur Haftpflicht brauchen. Fahrerlose Autos nähern sich der Marktreife, doch ehe wir der Autoindustrie grünes Licht geben können, muss noch einiges zur Haftpflicht bei Unfällen mit diesen Autos klargestellt werden. Ein weiteres Problemfeld ist die Datensicherheit und der Schutz der Privatsphäre: Ein Roboter sammelt unwahrscheinlich viele Daten. Aber was darf er damit machen, wem gehören die Daten, wer hat Zugang auf sie? Die derzeitigen Gesetze in diesem Bereich müssen überarbeitet werden, damit sie tatsächlich wirken können.

In den USA und Deutschland kam es bereits zu Unfällen mit Autos mit so genanntem Autopilot. Wer sollte in so einem Fall haften, der Hersteller, der Programmierer oder der Besitzer?

Meiner persönlichen Ansicht nach, der Autohersteller. Er ist verantwortlich für die Programmierung eines Systems, er steht im Kontakt mit dem Netzwerkbetreiber, und der Kunde muss darauf vertrauen können, dass ein Auto sicher ist. Volvo zum Beispiel hat bereits angekündigt, für seine künftige Flotte von „driverless cars“ die Haftpflicht bei Unfällen zu übernehmen.

Stellt sich die Frage jetzt schon oder erst dann, wenn Autos ganz ohne Lenkrad und Pedalerie auf den Straßen sind?

Nach der Wiener Straßenverkehrsordnungskonvention muss selbst in einem Fahrzeug mit Autopilot der Fahrer jederzeit wieder die Kontrolle übernehmen können. Ich persönlich halte es allerdings für sehr gefährlich, wenn man dem Fahrer sagt: „Das Auto fährt von selbst, du haftest aber trotzdem.“ Immerhin müsste er in schwierigen Situationen oder bei einem überforderten System die Kontrolle übernehmen, wäre bei einem Unfall aber dennoch haftbar. Die Experten sind sich nach wie vor nicht einig, nach welcher Reaktionszeit ein Mensch wieder voll konzentriert hinterm Steuer sitzt. Sind es zehn, 15 oder 20 Sekunden? Und ist es dann für die Gefahrenvermeidung nicht womöglich schon zu spät?

In Ihrem Leitantrag an die EU-Kommission heißt es zu Beginn: „In der Erwägung, dass letzten Endes die Möglichkeit besteht, dass die künstliche Intelligenz langfristig die intellektuelle Fähigkeit des Menschen überflügeln könnte ...“ Halten Sie das für möglich?

Im Moment ist die künstliche Intelligenz noch nicht so weit entwickelt, dass wir das befürchten müssten, und es ist schwer vorhersehbar, ob das jemals so sein wird. Wir haben versucht, die Ängste der Menschen mit in den Bericht aufzunehmen. Und Wissenschaftler versichern mir, dass man in der Wissenschaft auf jeden Fall nichts für unmöglich halten darf.

Trotzdem schlagen Sie vor, den rechtlichen Status von Robotern aufzuwerten. Sie sprechen von „E-Personen“. Ist es nicht ethisch problematisch, Roboter zu „E-Personen“ aufzuwerten und sie rechtlich mit Menschen gleichzustellen?

Die „E-Person“ hat in den letzten Wochen für viel Diskussionsstoff gesorgt und wird leider oft missverstanden. Ich habe in mehr als einem Zeitungsartikel gelesen, das Europaparlament wolle Mensch und Roboter rechtlich gleichstellen. Dem ist nicht so. Ein Roboter ist kein Mensch und wird nie einer werden. Wir brauchen aber immer jemanden, der bei einem Unfall haftet und für eventuelle Schäden aufkommt. Das ist für die jetzige Generation von Robotern ganz klar der Hersteller, der Programmierer oder der Netzwerkbetreiber – also in jedem Fall ein Mensch.

Die nächste Generation von Robotern aber soll lernfähig sein und autonom handeln können.

Richtig, und dann wird die Verbindung zwischen dem Programmierer und den Handlungen des Roboters sehr komplex und keineswegs immer leicht zurück zu verfolgen sein. Für solche Fälle wäre die Einführung einer E-Persönlichkeit für Roboter eine Möglichkeit, um einerseits die Roboter zur Verantwortung zu ziehen und andererseits dem Verbraucher zu versichern, dass immer jemand für einen Schaden aufkommt. Wir haben aber nicht vor, Robotern irgendwelche menschlichen Züge zu geben.

Also werden Roboter nicht irgendwann das Wahlrecht kriegen?

Wir haben in den Anhörungen auch den französischen Anwalt Alain Bensoussan getroffen, der ein Buch über Rechte und Pflichten von Robotern herausgebracht hat. Das ist eine Schule, die in ihren Überlegungen sehr weit geht und beispielsweise davon ausgeht, dass die nächste Entwicklungsstufe eine transhumane sein wird, die eine Verbindung von Mensch und Roboter zu einem Supermenschen hervorbringt. Das ist doch Sciencefiction!

Über den Verlust von Arbeitsplätzen durch Robotik wird viel gemutmaßt. Wie viel Arbeit werden uns Roboter abnehmen? Reicht demnächst eine 20-Stunden-Woche und wir gehen den Rest des Tages angeln?

Aus Expertenkreisen sind dazu gegensätzliche Prognosen zu vernehmen. Rund die Hälfte geht davon aus, dass mehr Berufe zerstört als neue geschaffen werden, die andere Hälfte behauptet das Gegenteil. Sicher ist, dass verschiedene Aufgaben in Zukunft von Robotern übernommen werden, so wie in der Industrie die physische Kraft der Menschen ersetzt wird. Schon heute verschwinden einige Bereiche, es wird zum Beispiel keine Stenografie mehr gemacht, das ist schon lange vorbei. Welchen Weg wir genau einschlagen werden, ist nur schwer voraussehbar. Deshalb schlage ich ein intensives Monitoring sämtlicher Berufe vor, damit wir uns besser auf alle Szenarien vorbereiten können.

Sie hatten dafür plädiert, eine öffentliche Debatte über ein universelles Grundeinkommen zu führen ...

… und ich bedaure sehr, dass der Vorschlag im Plenum des EU-Parlaments keine Mehrheit fand. Denn falls das „Worst case scenario“ einer Massenarbeitslosigkeit eintritt, brauchen wir Lösungsansätze, um den Bürgern ein dezentes Leben zu garantieren. Mir liegen die Ängste der Bürger zu diesem Thema am Herzen und wir wollten sie ernst nehmen.

Wie finanzieren sich Sozialleistungen künftig, wenn der Roboter nicht in die Sozialkassen einzahlt? Wird es irgendwann eine Besteuerung für Roboter geben?

Ich bin durchaus dafür, dass man dort, wo die Arbeit des Menschen ersetzt wird, die Arbeit des Roboters besteuert. Das ist aber nicht für heute und auch nicht für morgen, sondern ein potenzieller mittel- bis langfristiger Lösungsansatz. Mir geht es vor allem darum, eine breite öffentliche Diskussion auszulösen. Beschuldigungen aus Industrie und Forschung, ich sei technikfeindlich und ich würde durch eine Robotersteuer die Entwicklung bremsen wollen, weise ich zurück. Im Gegenteil, die Kreativität und der Optimismus im Robotik-Sektor begeistern mich immer wieder und ich setze mich gerne dafür ein, dass die europäische Industrie konkurrenzfähig bleibt. In den USA, China und Korea wird massiv in Robotik investiert. Ich sage immer, ich will lieber mit einem europäischen Roboter interagieren als mit einem chinesischen.

Vielleicht ergibt sich gar nicht zwangsläufig eine Verringerung der Arbeitsstunden. In der kapitalistischen Logik liegt es doch, dass Lohnarbeit anfällt, weil sich das Produkt gewinnbringend verkaufen lässt und nicht, weil sie gesellschaftlich notwendig ist ...

Wie gesagt: Die Beschäftigungsentwicklung ist nur schwer vorhersehbar, also sollten wir auf das „Worst case scenario“ Massenarbeitslosigkeit und das „Best case scenario“ Arbeitsüberschuss vorbereitet sein. Arbeit ist nicht nur wichtig fürs Einkommen, sie ist auch eine Selbsterfüllung und schafft eine soziale Bindung. Eine riesige Aufgabe für die Allgemeinheit ist in dem Zusammenhang die Schule: Wie bilden wir Menschen aus, die mit Robotern interagieren sollen? Muss man künftig programmieren können, oder reichen Kompetenzen, um digitale Technologien einzusetzen? In einer optimistischen Vision besteht immerhin die Erwartung, viele Produktionen aus Billiglohnländern nach Europa zurückzuholen.

Noch rentiert sich Kinderarbeit in Bangladesch mehr.

Ja, aber ich spreche von der Zukunft. Die Optimisten sagen, mit Robotisierung gebe es eine Chance, die Produktion zurück nach Europa zu bringen. Dadurch könnten Transportkosten und Umweltbelastungen verringert werden.

Kommt das menschliche Miteinander nicht zu kurz, wenn – wie bereits in Japan – Roboter die Pflege älterer Menschen verrichten? Oder meinen Sie, dass ältere Menschen dann sogar besser versorgt würden, etwa, weil Roboter weniger gestresst sind als menschliche Pflegekräfte? Ist die emotionale Bindung zu (m)einem Roboter, das Beziehungsmodell von morgen?

Der Bericht besteht vehement darauf, dass Roboter Menschen nicht ersetzen sollen. Ich denke aber, dass Roboter im Pflegebereich helfen können. Falls mehr und mehr Menschen in Heimen versorgt werden, muss man fragen, wie viele Stunden das Pflegepersonal Zeit hat, sich mit den pflegebedürftigen Menschen zu unterhalten. Und wie viel Zeit die Familie für einen Besuch aufbringt. Es bleiben viele Stunden am Tag, in denen der Mensch allein ist. Deshalb denke ich, dass Roboter die Arbeit des Pflegepersonals erleichtern könnten, aber man muss dabei immer aufpassen, dass die Pflege nicht ausschließlich von Robotern übernommen wird.

Zu Ihrer Frage, ob Menschen lieber mit einem Roboter interagieren als mit anderen Menschen: Das ist sehr individuell und hat nicht nur mit Robotern zu tun. Es gibt wohl Menschen, die stärkere emotionale Bindungen zu ihrem Hund oder ihrem Besitz hegen als zu ihren Mitmenschen. Die emotionale Bindung zu einem Roboter ist ein großes Diskussionsthema in der Ethik und der Philosophie. Deshalb haben wir in dem Bericht unterstrichen, dass ein Roboter kein Mensch ist und nie einer werden kann. Ein Roboter kann beim Menschen Gefühle auslösen, er selber jedoch ist und bleibt gefühllos. Ich glaube nicht, dass es der Politik zusteht, über das individuelle Gefühlsleben von Menschen zu entscheiden, aber es steht ihr zu, die Menschen auf diese Tatsachen aufmerksam zu machen.

Wäre es vor dem Hintergrund potenzieller Horrorszenarien von Cyborgs, die die Welt beherrschen und den Menschen zerstören, wie das etwa Stanley Kubrick in A Space Odyssey mit dem Roboter „HAL“ andeutet – nicht geboten, die digitalen Entwicklungen mit Vorsicht zu begutachten und an einem gewissen Punkt zu stoppen?

Ich bin keineswegs dafür, die digitale Entwicklung zu stoppen, aber wir sollten dennoch vorsichtig sein. Es ist wichtig, dass wir uns über internationale ethische Standards einig werden, welche Entwicklungen vertretbar sind und welche nicht. Man darf der Forschung nichts verbieten, aber ich glaube an die Notwendigkeit eines Wertekodex‘. Und es ist an der Zeit, dass die Politik sich eingehender mit der ganzen Thematik beschäftigt und es nicht nur bei Expertendiskussionen bleibt.

Schon jetzt kommt es weltweit zu Spionage. Wie wollen Sie den massiven Datenmissbrauch in Zukunft bei Robotern verhindern? Stellen Sie da auch auf einen ethischen Kodex ab?

Im Moment sehe ich keine andere Lösung als die Erstellung eines ethischen Kodex‘. Ein grundsätzlicher Konflikt besteht darin, dass einerseits Transparenz herrschen soll, andererseits soll geistiges Eigentum geschützt werden. Dazu sind noch viele Diskus-
sionen nötig. Für mich kommt es vor allem auf den transparenten Umgang mit den Daten an und ich sehe ein Problem eher darin, dass zurzeit einige wenige das Monopol über die Daten besitzen.

Anina Valle Thiele
© 2017 d’Lëtzebuerger Land