Diener oder Herrscher ?

Joseph Weizenbaum wurde 1923 in Berlin geboren. Mit der Familie kam er 1936 in die USA. Nach dem Krieg arbeitete er in der Industrie und als Professor für Informatik. Später lebte er wieder in Berlin; er starb 2008. Vor vierzig Jahren erschien sein Buch „Die Macht der Computer und die Ohnmacht der Vernunft“ auf Deutsch.

„Der Titel dieses Buches ist irreführend, weil falsch übersetzt.“ So begann eine Kritik, die am 27. Mai 1977 in der ZEIT stand. Das Buch, um das es ging, kam 1976 in den USA heraus und hieß dort „Computer Power and Human Reason – From Judgement to Calculation“. Was man am besten so übersetzt: Rechenleistung oder Vernunft – vom menschlichen Urteil zum maschinellen Algorithmus.

Hierzulande wurde aus dem Originaltitel „Die Macht der Computer und die Ohnmacht der Vernunft“. Was wirklich in die Irre führt, aber den Verkauf des Buches förderte. Vierzig Jahre nach der deutschen Ausgabe gilt es als Klassiker der Computerkritik. Seinem Autor Joseph Weizenbaum bescherte es eine zweite Karriere als Technikdenker und –deuter und einen Platz in der Wall of Fame des HNF. In der Kategorie Philosophie belegt er den ersten Rang vor Marshall McLuhan, Max Bense und Gotthard Günther.

Geboren wurde Joseph Weizenbaum 1923 als Sohn eines jüdischen Kürschners in Berlin. Mit seinem älteren Bruder und den Eltern gelangte er 1936 – man kann sich denken warum – in die Vereinigten Staaten. Die Familie lebte in Detroit. Nach Kriegsdienst und Studium der Mathematik arbeitete er in den Firmen Bendix Aviation und General Electric. Hier wirkte er vor allem am Bau des Bankcomputers ERMA mit. Im Jahr 1963 wechselte Weizenbaum an das Massachusetts Institute of Technology; ab 1967 war er Professor für Informatik.

1966 erfand er mit der Software ELIZA den Chatbot. Das Programm zählt zu den Großtaten der Künstlichen Intelligenz, seine begeisterte Aufnahme in der Öffentlichkeit machte Joseph Weizenbaum aber zum Kritiker jener Forschungsrichtung. Er sah den Einsatz von Computern in Militär und Verwaltung immer skeptischer. Ihn bestürzte das Vertrauen, das viele Menschen Elektronenrechnern entgegenbrachten. 1972 machte er in einem Artikel der ZEIT eine schwere geistige Krise in der Gesellschaft aus.

Joseph Weizenbaum (rechts) 1968 mit Claude Shannon, KI-Guru John McCarthy und dem Physiker und Informatiker Edward Fredkin (Foto Il Mare Film)

1976 folgt das oben erwähnte Buch. Darin attackierte Weizenbaum die Erwartungen aus der Frühzeit der Künstlichen Intelligenz, die sich etwa mit dem Problemlösungsprogramm GPS verbanden. Einige Polemik richtete er gegen die „Künstliche Intelligentsia“, die solche Erwartungen am Leben hielt. Er äußerte aber auch eine tiefer gehende philosophische Kritik. Das Denken eines Menschen orientiert sich, so Weizenbaum, an seiner Lebenswelt und ihren Herausforderungen. Diese lassen sich aber niemals mit Software erfassen.

„Die Macht der Computer und die Ohnmacht der Vernunft“ entstand in der Ära der großen Computer und ihrer akademischen Priester, die längst Geschichte ist. Wer die Argumentation des Buchs verstehen will, kann das aber ganz gut anhand einer Besprechung von 2009 tun. Wir empfehlen auch die Rezension (ab pdf-Seite 15) des Originals durch den Geheimdienst NSA. Höchst lesenswert ist ein Streitgespräch, das der SPIEGEL im Jahr 1987 mit Joseph Weizenbaum und dem Bremer Informatiker Klaus Haefner führte.

Nach Erscheinen seines Buches war Weizenbaum in der amerikanischen KI-Szene wenig geschätzt. Umso populärer wurde er in Deutschland, wo er oft auf Kongressen auftrat, viele Vorträge hielt und weitere Texte veröffentlichte. 2005 besuchte er das HNF, siehe das obere Foto (Foto: Jan Braun, HNF). Ab 1996 lebte der zornige alte Mann der Informatik, wie ihn der SPIEGEL nannte, in Berlin. 2008 ist er hier gestorben. Ein Jahr zuvor entstand der biographische Film Rebel at Work. Posthum war Joseph Weizenbaum 2010 in der Dokumentation Plug & Pray zu sehen.

Angesichts des Hypes um die Künstliche Intelligenz ist Weizenbaums Fundamentalkritik noch aktuell. Im Detail hat sich die wissenschaftliche Diskussion weiterentwickelt, vor allem durch die Unterscheidung zwischen starker und schwacher KI. Die starke Form behauptet, dass Computer irgendwann Fähigkeiten entwickeln, die menschlichem Denken ähneln. Die schwache billigt ihnen das Vermögen zu, bestimmte fest umrissene Aufgaben zu lösen. Werden sie uns also beherrschen oder nur bedienen? Lassen wir uns überraschen!