Irgendetwas grummelt da. Die Nachrichtenlage und mein eigener Blog darüber sind nur ein Teil der Geschichte. Hier also die Fortsetzung, fertig ist sie sicher noch lange nicht.
Wir Menschen bauen Maschinen, die immer leistungsfähiger werden. Wir investieren Milliarden, weil sich damit Geld verdienen lässt. Staaten treiben die Entwicklung voran, weil sie fürchten, andere könnten ihnen davonlaufen. Und gleichzeitig warnen einige der Menschen, die diese Maschinen bauen, davor, dass sie uns eines Tages über den Kopf wachsen könnten. Das muss man erst einmal hinbekommen.
Vor einiger Zeit habe ich über die berühmte Büroklammer geschrieben. Über künstliche Intelligenz, die ein Ziel verfolgt und dabei alles andere aus den Augen verliert. Optimierung ohne Menschenverstand. Seitdem lässt mir die Sache keine Ruhe. Nicht weil ich inzwischen mehr Angst vor künstlicher Intelligenz hätte. Sondern weil ich glaube, dass wir verschiedene Ängste durcheinanderwerfen. Also habe ich versucht, mein Grummeln zu sortieren.
Erstens: Die Maschine wird mächtiger
Das ist der offensichtlichste Teil.
Künstliche Intelligenz kann heute Dinge, die vor wenigen Jahren noch erstaunlich geklungen hätten. Sie schreibt, programmiert, recherchiert, übersetzt, analysiert Bilder, löst mathematische Probleme und bearbeitet zunehmend mehrstufige Aufgaben. Das Entscheidende ist aber nicht, dass sie immer bessere Antworten gibt.
Wir geben ihr Werkzeuge. Zugriff auf Software. Datenbanken. Computersysteme. Geschäftsprozesse. Irgendwann vielleicht auf Maschinen und andere technische Systeme. Aus einer Maschine, die etwas sagt, wird eine Maschine, die etwas tun kann. Damit entstehen ziemlich handfeste Gefahren. Betrug lässt sich automatisieren. Cyberangriffe werden leistungsfähiger. Überwachung wird billiger. Propaganda lässt sich millionenfach individualisieren. Biologisches und militärisches Wissen wird leichter verfügbar. Dafür braucht künstliche Intelligenz keinen eigenen Willen. Der Mensch reicht völlig. Das ist Gefahr Nummer eins:
Menschen bekommen ein verdammt mächtiges Werkzeug.
Zweitens: Wir bauen unsere Welt um das Werkzeug herum
Das finde ich fast interessanter. Eine leistungsfähige Technologie wird nicht einfach in eine bestehende Gesellschaft hineingestellt wie eine neue Kaffeemaschine. Sie verändert die Gesellschaft, die sie benutzt. Wenn Entscheidungen automatisiert werden können, werden sie häufiger automatisiert. Wenn Arbeit in Sekunden erledigt werden kann, geraten Menschen unter Rechtfertigungsdruck, die dafür Stunden brauchen. Was messbar ist, bekommt mehr Gewicht. Was standardisierbar ist, lässt sich leichter skalieren. Was billig ist, verdrängt häufig das Teure. Und was schnell ist, setzt das Langsame unter Druck.
Die Maschine zwingt niemanden dazu. Das ist das Hinterhältige. Es reichen die ganz normalen Mechanismen von Wettbewerb und Organisation. Wenn mein Konkurrent mit künstlicher Intelligenz seine Kosten halbiert, muss ich erklären, weshalb ich das nicht tue. Wenn ein Staat seine Geheimdienste damit leistungsfähiger macht, werden andere Staaten darüber nachdenken. Wenn Schüler ihre Hausaufgaben damit erledigen, muss Schule reagieren. So verändert ein Werkzeug nach und nach die Bedingungen, unter denen wir handeln. Die Maschine hat keine Richtung. Aber sie verstärkt Richtung. Kapitalismus kann kapitalistischer werden. Bürokratie bürokratischer. Wissenschaft schneller. Medizin besser. Propaganda wirkungsvoller. Überwachung lückenloser.
Künstliche Intelligenz verstärkt nicht das Gute oder das Böse. Sie verstärkt zunächst einmal das, was wir mit ihr tun. Das ist Gefahr Nummer zwei:
Wir benutzen die Maschine nicht nur. Ihre Existenz verändert unser Verhalten.
Drittens: Und dann kommt der Weltuntergang
Das ist der spektakuläre Teil. Die Vorstellung, eine künstliche Intelligenz könne irgendwann leistungsfähiger werden als ihre Erfinder und sich unserer Kontrolle entziehen. Das berühmte Zauberlehrlingsproblem. Darüber wird erstaunlich ernsthaft diskutiert. Die seriöse Variante hat wenig mit Terminator zu tun. Sie lautet ungefähr so: Wir bauen Systeme, die immer besser planen, programmieren, Probleme lösen und selbstständig handeln können. Wenn solche Systeme irgendwann sehr viel leistungsfähiger als Menschen würden und ihre Ziele nicht zuverlässig mit unseren Absichten übereinstimmten, könnten wir möglicherweise die Kontrolle darüber verlieren.
Das kann man nicht einfach als Science-Fiction abtun. Man sollte aber genauso wenig so tun, als stünde der Weltuntergang bereits vor der Tür. Wir wissen nicht, ob eine solche Superintelligenz entsteht. Wir wissen nicht, wann. Wir wissen nicht, ob heutige Systeme überhaupt auf einem Weg dorthin sind. Und wir wissen erst recht nicht, wie groß das Risiko tatsächlich ist. Es ist ein mögliches Risiko mit möglicherweise gewaltigen Folgen. Das ist etwas anderes als eine bevorstehende Katastrophe. Und es ist etwas anderes als die ersten beiden Gefahren. Denn die gibt es bereits.
Und nun wird es menschlich
Damit war mein Grummeln allerdings noch nicht verschwunden. Denn etwas passt nicht zusammen. Wenn Menschen tatsächlich fürchten, eine Technologie könnte existenzgefährdend werden – weshalb entwickeln sie sie dann mit solcher Geschwindigkeit weiter? Die Antwort ist unangenehm einfach: Weil es für jeden Einzelnen vernünftig sein kann. Ein Unternehmen kann überzeugt sein, dass langsamere Entwicklung sicherer wäre. Aber wenn der Konkurrent nicht langsamer macht? Ein Staat kann internationale Begrenzungen sinnvoll finden. Aber wenn ein anderer Staat sie nicht einhält? Ein Entwickler kann bestimmte Fähigkeiten für gefährlich halten. Aber wenn jemand anderes sie entwickelt?
Wenn du, dann ich. Ich reagiere nur, und ich bin besser als Du!
Und plötzlich befinden wir uns bei einem uralten Menschheitsproblem. Kommunikation & Kooperation. Solange alle mitmachen, kann Kooperation wunderbar funktionieren. Aber wenige Abweichler können die Spielregeln verändern. Der faule Apfel muss gar nicht die ganze Obstschale verderben. Es genügt, wenn die anderen Äpfel anfangen zu denken: Ich wäre schön blöd, wenn ich als Einziger frisch bliebe. So entstehen Wettrüsten, Doping, Überfischung und manche Finanzkrise. Niemand muss das Gesamtergebnis wollen. Es genügt, dass jeder auf seine unmittelbare Umgebung vernünftig reagiert.
Individuell vernünftiges Verhalten kann kollektiv vollkommen bescheuert sein.
Dafür brauchen wir keine künstliche Intelligenz. Das konnten wir schon immer.
Nun bekommt der Mensch einen Turbolader
Und hier verändert sich für mich die Frage. Vielleicht starren wir zu gebannt darauf, ob die Maschine irgendwann mächtiger wird als der Mensch. Denn etwas anderes passiert längst:
Der Mensch wird mächtiger durch die Maschine.
Der Wissenschaftler. Die Ärztin. Der Ingenieur. Der Unternehmer. Der Lehrer. Der Geheimdienst. Der Betrüger. Der Diktator. Der Idiot. Alle bekommen Zugriff auf ein kognitives Werkzeug, das Fähigkeiten vervielfachen kann. Das Gute wird billiger. Leider wird das Schlechte ebenfalls billiger. Und beides wird skalierbar. Das ist vielleicht die eigentliche Explosion. Keine plötzlich auftauchende zweite Spezies. Sondern eine alte Spezies mit einem verdammt leistungsfähigen kognitiven Exoskelett. Der Zauberer
Damit wäre es allerdings zu einfach, am Ende wieder mit dem Finger auf den Menschen zu zeigen. Haltet den Dieb! Die künstliche Intelligenz kann nichts dafür. So einfach ist es nicht. Denn wir bauen diese Maschinen nach unseren Bedürfnissen und unseren Anreizstrukturen. Dann verändern die Maschinen unsere Möglichkeiten. Die veränderten Möglichkeiten verändern unser Verhalten. Unser verändertes Verhalten erzeugt neue Konkurrenz. Die Konkurrenz beschleunigt die technische Entwicklung. Und die leistungsfähigeren Maschinen verändern wiederum unsere Möglichkeiten. Eine Rückkopplung. Mensch und Maschine beginnen, sich gegenseitig zu verändern. Vielleicht ist deshalb die interessanteste Frage gar nicht: Wie verhindern wir, dass künstliche Intelligenz außer Kontrolle gerät?
Vielleicht lautet sie: Wie verhindern wir, dass Menschen mit immer mächtigeren Maschinen ihre uralten Kooperationsprobleme immer wirkungsvoller austragen?
Das ist weniger Hollywood. Wir suchen gerade gegen eine möglicherweise außer Kontrolle geratende Maschine fieberhaft nach einem Ausschalter.
Bei uns Menschen versuchen wir das schon seit ein paar tausend Jahren. Genau das ist der Punkt, der mir Gedanken macht.