Elon Musk: «Wir müssen verhindern, dass wir etwas sehr Blödes anstellen»

Bild: JD Lasica from Pleasanton, CA, US, (CC BY 2.0)

Damit künstliche Intelligenzen der Menschheit tatsächlich dienen können, dürfe man die Gefahren nicht ausblenden, warnt Elon Musk.

Elon Musk ist skeptisch, wenn es um künstliche Intelligenzen geht. «Die Entwicklung einer Superintelligenz durch ein Unternehmen oder eine andere Organisation könnte in einer Form von künstlicher Intelligenz enden, welche die Welt regiert», sagt der Tesla-Gründer. «Im besten Fall hätten wir dann eine demokratisierte Superintelligenz.» Der schlechtere Fall klingt jedoch beängstigend: «Wenn ein menschlicher böser Diktator herrscht, wird er eines Tages sterben. Aber für eine künstliche Intelligenz gäbe es kein Todestag. Sie würde für immer leben. Wir hätten dann einen unsterblichen Diktator, vor dem wir nie mehr fliehen könnten», sagt Musk.

KI und das IoT

Die künstliche Intelligenz (KI) geht einher mit dem Internet der Dinge (Internet of Things, IoT). Laut dem US-amerikanischen Marktforschungsunternehmen Gartner waren schon im Jahr 2017 weltweit 8,4 Milliarden «Dinge» miteinander verbunden – Tendenz exponentiell steigend: 2020 sollen es bereits 50 Milliarden sein. Die Kernidee hinter dem Internet der Dinge: kleine, miteinander vernetzte Computer werden zu Bestandteilen von Gegenständen. Damit grosse Datenmengen verarbeitet, darin Zusammenhänge und Muster erkannt und komplexe Steuerungen ermöglicht werden können, braucht das IoT auch die künstliche Intelligenz. Und um künstliche Intelligenz zu entwickeln müssen möglichst viele Daten vorhanden sein. Sprich, KI braucht auch das IoT.

Die IT-Welt ist fasziniert von den Möglichkeiten dieser Technologien und forscht und entwickelt intensiv in diese Richtung. Wie immer sind die meisten der Technologieführer von diesen welt- und gesellschaftsverändernden Möglichkeiten und natürlich auch von den daraus resultierenden Gewinnchancen völlig überwältig. Viele sehen vor allem das Positive und blenden die Gefahren dieser Entwicklungen gerne aus. Zum Beispiel, dass jedes IT-System ein Sicherheitsrisiko und eine Gefahr für den Datenschutz darstellt.

Namhafte Warnungen

Nicht nur Elon Musk, sondern auch andere einflussreiche Vordenker wie Bill Gates oder der inzwischen verstorbene Stephen Hawking, warnen regelmässig vor der Bedrohung durch künstliche Intelligenzen. Der 47-jährige Elon Musk, vor allem als CEO des Elektrofahrzeug-Herstellers Tesla bekannt und einer der hundert reichsten Menschen der Welt, gründete und beteiligte sich an verschiedenen Unternehmen, auch in den Bereichen IoT und KI. Zum Beispiel investierte er in DeepMind, ein 2010 gegründetes britisches Start-up mit dem Ziel, Intelligenz zu verstehen. Es wurde 2014 von Google gekauft. 2015 wurde die gemeinnützige Gesellschaft OpenAI zur Erforschung künstlicher Intelligenz gegründet, mit dem Ziel, dass AI der ganzen Menschheit dienen soll. Dafür wurde dem Unternehmen von Elon Musk und weiteren Investoren insgesamt eine Milliarde US-Dollar zur Verfügung gestellt. Musk hat OpenAI inzwischen wieder verlassen. Im Juli 2016 gründete Musk das Unternehmen Neuralink, das Möglichkeiten zur Vernetzung des menschlichen Gehirns mit Maschinen untersucht. Seine Investitionen in KI-Forschungen beschreibt er häufig unter dem Aspekt, ein Auge darauf zu werfen, was vor sich geht – und nicht, um daraus Kapital zu schlagen.

Die Fähigkeit, Entscheidungen zu treffen

Künstliche Intelligenzen und das IoT oder IIoT (Industrielle Internet der Dinge) könnten uns tatsächlich eine Menge positiver Veränderungen bescheren. Computer könnten sich selber reparieren, sie könnten Produktionsprozesse flexibler und effizienter gestalten, auch die Logistik, die Energieversorgung oder das Gesundheitswesen, sie könnten auf viele unserer globalen Probleme sehr gute Antworten haben. Das wäre eine tatsächlich schöne neue Welt und vor diesen Möglichkeiten sollten wir uns natürlich auch nicht verschliessen.

Ein wichtiges Element und eine zentrale Befürchtung der Kritiker von künstlichen Intelligenzen ist jedoch die Fähigkeit einer solchen Maschine, nicht nur Vorschläge zu machen, sondern auch Entscheidungen zu treffen, ohne menschliche Intervention. Ein Computer könnte sich also auch selber umprogrammieren, selber denken und entsprechend entscheiden. Das zeigt sich auch in den diversen Siegen von künstlichen Intelligenzen über Menschen in verschiedenen Strategiespielen. Künstliche Intelligenzen machen dabei Spielzüge, die Menschen noch nie machten. Das heisst: sie lernten und kopierten nicht bloss – so lange, bis der Mensch keine Chance mehr hatte.

«Künstliche Intelligenz muss nicht per se böse sein», sagt Musk. Aber letztlich funktioniere sie ohne menschliches Bewusstsein: «Wenn wir einer künstlichen Intelligenz ein Ziel geben und die Menschheit diesem Ziel bloss im Weg steht, wird die AI die Menschheit zerstören – ohne darüber nachzudenken.» Musk vergleicht das mit dem Bau einer Strasse. «Steht uns da ein Ameisenhügel im Weg, bauen wir die Strasse dennoch. Wir hassen keine Ameisen, aber für den Ameisenhügel war es das trotzdem.» Die Macht der künstlichen Intelligenz dürfe sich auch deshalb nicht in den Händen weniger konzentrieren – seien das grosse Tech-Unternehmen oder Staaten. «Ich denke, wir müssen sehr vorsichtig sein», sagt Musk. «Ich bin immer mehr davon überzeugt, dass wir eine regulatorische Aufsicht brauchen, auf nationaler oder internationaler Ebene, um nicht etwas sehr Blödes anzustellen.» Auch empfiehlt er, dass die Menschen mit der künstlichen Intelligenz verschmelzen müssten – um zu verhindern, dass die Menschheit überflüssig wird.

Der dritte Weltkrieg

Musk warnt ausserdem davor, dass AI in einem dritten Weltkrieg enden könnte. «Dieser könnte vielleicht nicht einmal von den Politikern ausgelöst werden, sondern von einer künstlichen Intelligenz, die sich entscheidet, dass ein Präventivschlag der wahrscheinlichste Weg zum Sieg ist», erklärt Musk. Das ist nicht mal weit hergeholt. Denn auch die Militärs – ob in den USA, Russland oder China – arbeiten intensiv daran, elektronisch alles miteinander zu verbinden und so ein mächtiges bewaffnetes Computersystem zu erschaffen. Es würde das IoT kontrollieren und wäre mit jeder Waffe, jedem Fahrzeug und jedem elektronischen Gerät verbunden. Elon Musk äusserte diesbezüglich schon mehrmals seine Bedenken. Er sagt: «Wenn die ersten Roboter unter Kontrolle einer künstlichen Intelligenz damit beginnen, Menschen zu erschiessen, ist es zu spät. Es müssen bereits jetzt Regulierungen geschaffen werden, um das zu verhindern.» Im August 2017 wurde auf einem Treffen der Vereinten Nationen ein Verbot von Killerrobotern und autonomen Waffensystemen diskutiert. Eine Gruppe von 116 Spezialisten aus 26 Ländern – unter ihnen auch Elon Musk – wollen ein komplettes Verbot dieser Technologien erreichen. Sie unterzeichneten einen offenen Brief an die International Joint Conference on Artificial Intelligence (IJCAI) in Melbourne. Eine Entscheidung müsse jetzt fallen. Wenn die Box der Pandora einmal geöffnet sei, werde sie nur sehr schwer wieder zu schliessen sein, warnten die Experten.

Bewusstsein schärfen

Die meisten Menschen seien sich dieser Gefahren noch überhaupt nicht bewusst, denkt Elon Musk. «Solange Roboter nicht die Strasse entlanglaufen und Menschen töten, wird nichts dagegen unternommen werden», sagt er. So sind auch andere Technologieführer grosse Optimisten. Zum Beispiel Mark Zuckerberg von Facebook. Dass auch Facebook mit unerwünschten Entwicklungen kämpft, zeigte sich im Sommer 2017. Die KI von Facebook entwickelte eine eigene Sprache, die der Mensch nicht mehr verstand. Facebook stellte ihre AI ab, bevor sie wirklich ausser Kontrolle geriet.

All dieser Gefahren sollte man sich bewusst sein. Entwickelt man KI mit einem ganz nüchternen Bewusstsein für ihre Gefahren, kann die Menschheit vielleicht tatsächlich viele Vorteile daraus ziehen – anstatt die Büchse der Pandora zu öffnen, wie Elon Musk es befürchtet. Die Zukunft wird zeigen, ob wir aufmerksam genug waren.

Veröffentlicht in der Mediaplanet-Ausgabe „Industrial Internet of Things“ (September 2018)