Der Erfinder der Information

Am 30. April feiern wir den 100. Geburtstag von Claude Shannon. Der amerikanische Mathematiker, Ingenieur, Dichter und Artist schuf die grundlegenden Theorien der Kommunikation, der Verschlüsselung und des Computerschachs. Er baute Kleinrechner aller Art und erforschte die Kunst des Jonglierens ebenso wie das Einrad-Fahren. Er fand auch eine zuverlässige Methode, um beim Roulette zu gewinnen.

„Was blieb vom Leben beim Leben? Wo ist die Weisheit, die im Wissen verschwand? Und wo das Wissen, das wir in der Information verloren?“ Diese Fragen stellte einst der berühmte Dichter T. S. Eliot. Beantworten können wir sie nicht, doch zumindest die Information lässt sich erforschen, messen und nützlich anwenden. Und das verdanken wir Claude Shannon.

Claude Elwood Shannon wurde am 30. April 1916 im US-Bundesstaat Michigan geboren. Er wuchs im Städtchen Gaylord auf und interessierte sich bereits als Schüler für Modellbau, Telegrafie und Fernsteuerung. Das Grundstudium an der Universität von Michigan beendete er mit einem Bachelor in Mathematik und einem zweiten in Elektrotechnik. Seine Masterarbeit am Massachusetts Institute of Technology in Boston schrieb er 1937 über das, was hierzulande Schaltalgebra genannt wird.

Automat Hoax für das Denkspiel Hex. (Foto: Jan Braun, HNF)

Die enge Beziehung zwischen Aussagenlogik und elektrischen Schaltkreisen war schon vorher entdeckt worden, zuerst 1919 vom österreichischen Physiker Paul Ehrenfest. Später stießen Forscher in der Sowjetunion und in Japan darauf sowie Konrad Zuse in Berlin, der seine allgemeine Dyadik zeitgleich zu Shannons Theorie entwickelte. Diese verbreitete sich schnell unter den Fernmelde-Spezialisten der USA, vor allem in den Bell Laboratories, dem Forschungsinstitut der gleichnamigen Telefongesellschaft im Bundesstaat New Jersey.

Am MIT betreute Claude Shannon den Differentialanalysator, den mechanischen Analogrechner, den der Ingenieurprofessor Vannevar Bush konstruierte. Außerdem arbeitete er an Bushs „Rapid Selector“ mit, einer Art Datenbank auf Mikrofilmbasis. 1939 und 1940 erstellte Shannon dann seine Promotion am Cold Spring Harbor Laboratory in der Nähe von New York. Sie behandelte mathematische Genetik. Kurz darauf ging er für ein Jahr an das Institute for Advanced Study in Princeton.

Von 1941 bis 1956 war Claude Shannon in der mathematischen Abteilung der Bell Labs tätig. Während des Krieges befasste er sich mit Systemen zur Feuerleitung und zur geheimen Kommunikation, nach 1945 mit der Steuerung von Flugabwehrraketen. 1948 veröffentliche er seine grundlegende und einflussreiche Studie zur mathematischen Theorie der Kommunikation. Aus ihr ergab sich unter anderem der Informationsgehalt I(x) eines Zeichens x in einer längeren Zeichenkette: I(x) = – lb(p(x))

Spielcomputer NIMWIT für (klar) Nim. (Foto: Jan Braun, HNF)

Hier bezeichnet p(x) die Wahrscheinlichkeit, mit dem x in der Kette auftritt, und lb den Logarithmus zur Basis 2. Da Wahrscheinlichkeiten stets zwischen 0 und 1 liegen, ist I(x) positiv oder null für den Fall p(x) = 1. Der Informationsgehalt ist also umso höher, je seltener ein Zeichen erscheint. Kommt ein Zeichen mit absoluter Sicherheit, dann besitzt es keinerlei Information. Jener Gehalt ist in der Regel eine Dezimalzahl mit Komma. Als Maßeinheit schlug Shannon das kleine bit vor.

1949 publizierte Shannon seine Kommunikationstheorie für geheime Systeme, die Verschlüsselungen streng mathematisch analysierte. Eine wichtige Erkenntnis war, dass mit einem One-Time-Pad oder Einmalschlüssel chiffrierte Texte vor unbefugtem Dechiffrieren sicher sind. Seine Ideen konnte Shannon auch praktisch einsetzen. In den frühen 1950er-Jahren gehörte er einer Gruppe von Forschern an, die die Armed Forces Security Agency beriet, eine Vorläuferin der NSA. Vermutlich ging es um das Brechen sowjetischer Geheimcodes.

Seine dritte Großtat aus jener Zeit war der Algorithmus für Schachcomputer. In einem Vortrag von 1949, der ein Jahr später gedruckt wurde, gab Shannon das Minimax-Verfahren an, das bis heute Programme für anspruchsvolle Brettspiele verwenden. Dabei schaut der Computer eine Anzahl von Zügen voraus und betrachtet die Stellungen, die sich theoretisch entwickeln können. Danach wählt er einen Zug, der zu einer möglichst guten Stellung führt, und zwar unter der Annahme, dass auch der Gegner stets eine optimale Position auf dem Brett anstrebt.

Theseus, die Maus im Labyrinth (Foto Bell Laboratories)

Shannon baute auch eine Rechenmaschine namens Throbac, die mit römischen Zahlen operierte, und den Schachcomputer Caissac. Der kühlschrankgroße Relaisrechner bewältigte aber nur Situationen mit wenigen Figuren. Darüber hinaus bastelte er Maschinen für Hex und Nim, eine „gedankenlesende“ Maschine für 0-1-Entscheidungen und ein Gerät, das Rubik-Würfel drehte. Shannons tiefsinnigste Kreation ist die sich ausknipsende ultimative Maschine, die auf einer Idee von Marvin Minsky beruht.

Daneben half der Mathematiker bei der Entwicklung frei programmierbarer Logikautomaten mit. Zu nennen sind hier der „3-Relay Kit“ (nicht mit drei, sondern mit acht Relais) und das „elektrische Gehirn“ Geniac. Last not least schuf er die Maus Theseus, die seit 1952 versucht, durch ihr Labyrinth zu laufen. Shannons Anlage, die er hier in einem Video erklärt, ist ein frühes Beispiel für maschinelles Lernen und etablierte ihn endgültig als einen der Begründer der Künstlichen Intelligenz.

Einen eigenen Blogbeitrag hätten seine Aktivitäten auf dem Einrad und mit fliegenden Bällen und Keulen verdient. Halten wir fest, dass Shannon ein neues Gebiet der Informationstechnik inspirierte, die Erforschung und Konstruktion von jonglierenden Robotern. Er jonglierte aber auch mit Worten. Schon in seiner Kommunikationstheorie von 1948 beschrieb er die Produktion von Zufallstexten. Später schrieb er dann humoristische Gedichte, zum Beispiel über den oben erwähnten Rubik-Würfel.

Shannons Jongleure wurden etwas aufgehellt, um die Mechanik zu zeigen. (Foto: Jan Braun, HNF)

Von 1956 bis 1978 lehrte Claude Shannon am Massachusetts Institute of Technology. Hier heckte er mit dem jungen Mathematiker Edward Thorp einen kleinen tragbaren Analogrechner aus, der es möglich machte, beim Roulette zu gewinnen. Der Rechner sagte nach dem Einwurf der Kugel den Abschnitt voraus, in dem sie im Roulette-Kessel landen würde. Der Spieler konnte auf passende Zahlen setzen, noch ehe der Croupier das „Nichts geht mehr“ verkündete. Shannon befasste sich auch mit Finanzmathematik und erzielte schöne Gewinne an der Börse.

Vom 6. November 2009 bis 25. April 2010 zeigte das HNF zu Claude Shannon die Sonderausstellung Codes und Clowns, über die auch ein Video abrufbar ist. Am 3. und 4. Mai 2016 findet dort die große Konferenz zum 100. Geburtstag des Forschers statt. Allen, die nicht nach Paderborn fahren können, empfehlen wir den Aufsatz von Claude Shannon über die wissenschaftlichen Aspekte des Jonglierens. Viel Spaß und viel Erfolg!

Eingangsfoto: Bell Laboratories