DIE COMPUTER LERNEN UNS KENNEN

eute nehmen uns Computer nicht nur Entscheidungen ab, sie formulieren auch auf Antworten, die wir irgendwann, irgendwo im Datenuniversum gegeben haben, neue Fragen.

Irgendwann haben Sie vielleicht irgendwo an irgendwen geschrieben, dass Sie die Farbe Rot mögen, und woanders, dass Sie unter der Großstadt leiden. In einer E-Mail, die Sie verfassten, erzählten Sie vielleicht von Ihrem Garten, und dann haben Sie sich auch einmal eine Datei über Hybridantriebe heruntergeladen.

Und aus all diesen Antworten kann der Computer eine neue Frage formulieren. Zum Beispiel, weil er weiß, dass die Mehrheit der Menschen, die einen Garten haben und Rot lieben, auch Tulpen lieben. Und wenn Sie dann auch noch umweltbewusst sind, wofür Ihr Garten und Ihr Interesse für den Hybridantrieb spricht, lehnen Sie höchstwahrscheinlich auch Fernreisen ab.⁶¹ Also fragt der Computer Sie vielleicht schon bei der nächstbesten Gelegenheit, ob Sie nicht Urlaub auf einem ökologischen Bauernhof in Holland machen wollen.

Jeder erlebt das. Ständig macht uns der Computer Vorschläge. Und den wenigsten fällt auf, dass sich hier bereits die ersten Verlagerungen des Denkens abspielen. Die Rechner stellen Zusammenhänge her, auf die wir selbst noch gar nicht gekommen sind, die sich aber aus den Inhalten unserer E-Mails, Suchanfra-gen, Blog- oder Facebookeinträge und vermutlich bald auch unserer SMS ergeben. Der Informatiker Daniel Hillis antwortet auf die Frage, welchen Preis wir denn nun eigentlich für diese Verlagerung und Ausbeutung unserer Aufmerksamkeit zahlen müssen: »Computer brauchen den Menschen gar nicht zu manipulieren. Sie können die Ideen selbst manipulieren… Auf längere Sicht wird das Internet eine so reiche Infrastruktur aufweisen, dass Ideen sich außerhalb des menschlichen Kopfes entwickeln.«⁶²

Da die Informationsfülle so gewaltig ist und täglich gewaltiger wird, werden bald nicht nur Suchroboter, sondern eine ganze Armada von Hilfsprogrammen für uns das übernehmen, was bisher unsere neuronalen Netze im Hirn geleistet haben.

Deshalb spricht vieles dafür, dass unsere Aufmerksamkeit und unsere Assoziationskraft in absehbarer Zeit immer häufiger in eine Art Leerlauf versetzt werden. Es ist wie bei der Selffulfilling Prophecy: Wenn der Kopf immer überforderter und unselbstständiger wird, ist es doch geradezu segensreich, wenn der Online-Buchhändler ein Buch empfiehlt.

Erst waren es nur Taschenrechner, die uns das Kopfrechnen abnahmen.Von der ersten Sekunde ihrer Existenz an waren die Computer beim Rechnen unendlich viel schneller als der Mensch. Keiner von uns trauert wohl dem Kopfrechnen nach. Allerdings beginnen in der Mathematik, dort wo die Revolution mit dem Taschenrechner einst begann, sich jetzt auch die ersten Folgen dieser Auslagerung des Denkens zu zeigen. Zwar können im Bereich der angewandten Mathematik die Mathematiker bei besonderen Beweisführungen noch feststellen, ob die Ergebnisse stimmen oder nicht, aber sie können nicht mehr verstehen, warum das so ist. »Kein Mensch kann die Beweisführungen der Computer in der Grundlagen-Mathematik mehr nachvollziehen, und selbst wenn es einer könnte, wie sollten wir ihm glauben?«, schreibt der preisgekrönte Mathematiker Steven Strogatz in einer beunruhigenden Analyse.⁶³ Strogatz warnt vor dem »Ende der Einsicht«. Man sollte sich nicht vom Wort »Mathematik« abschrecken lassen; das, was er über sein Fachgebiet sagt, ist nur ein Beispiel für unser aller Verhältnis zur Welt. Mathematik, so Strogatz, wird zu einem reinen »Zuschauer-Sport«: selbst der klügste Mathematiker kann nur noch beobachten, was der Computer berechnet, und sich seinen Resultaten anschließen.

Das wird nicht auf die Mathematik beschränkt sein, es hat dort nur zuerst begonnen. Der Verlust an Einsicht, der uns zwingt, die Wahrheiten der Computer anzuerkennen, ohne sie selbst überprüfen zu können, wird in die Physik und Biologie und von dort, so Strogatz' Befürchtung, in die Sozialwissenschaften und in unser Verständnis vom Leben wandern. »Wenn das Ende der Einsicht kommt, wird sich die Art, wie wir die Welt erklären, für immer ändern. Wir werden in einer Welt des Autoritarismus feststecken, nur dass die Diktatur nicht mehr aus der Politik oder von religiösen Dogmen kommt, sondern aus der Wissenschaft selbst.«⁶⁴

Babyboomer, die Geburtsjahrgänge zwischen 1955 und 1964, erinnern sich noch, wie besorgte Eltern und Lehrer »Micky Maus« verbieten wollten, weil Comics angeblich dumm machten. Die späteren Geburtsjahrgänge haben das mit Walkman, Fernsehen und MTV erlebt. Und hätten sie ihre Ururgroßeltern gesprochen, so hätten die ihnen gesagt, dass das Lesen von Romanen dem Gehirn schade. Alle diese händeringenden Sorgen sind heute widerlegt, und sie werden gern als Gegenbeweis angeführt, wenn neue Medien neue Befürchtungen auslösen.

Doch der Computer ist kein Medium. Er ist ein Akteur.

Der kanadische Philosoph Marshall McLuhan, der bis heute mit seinem Satz »Das Medium ist die Botschaft« zitiert wird, hat in den sechziger Jahren bemerkt, dass jede technische Revolution paradoxerweise auch eine Selbst-Amputation des Menschen ist. Das bezog sich auf Autos, die uns das Laufen, und auf Fernseher, die uns das Erleben abnehmen. Doch jetzt gibt es sogenannte »intelligente Agenten«, jene Computer-Codes, die Ihre Vorliebe für Rot mit Tulpen verbinden, und die uns zunehmend Denken und Entscheidungen abnehmen sollen - sie markieren das mögliche »Ende der Einsicht« im Alltag unserer Sucht nach Informationen. Es sind kleine Roboter, die uns wie digitale Butler das Denken und Vergleichen abnehmen sollen. Unsere Naivität behandelt sie wie Masochisten, die jeden Auftrag gern ausführen. In Wahrheit ist ihr Wesen, wie das der Computer, sadistisch.⁶⁵ Als die Informatikerin Pattie Maes im Gefolge der Romes den ersten dieser »intelligenten Agenten« für den Online-Handel entwickelte - unter großem Protest von Informatikern, die das Ende des freien Willens am Horizont auftauchen sahen -, beschrieb sie ganz offen, wie sehr die Selbst-Amputation zu den Nebenkosten der neuen Technologien gehört:

»Das ist der Preis jeder Technologie, die irgendetwas für uns automatisiert. Denken Sie an den Taschenrechner. Wir haben die Aufgabe des Rechnens an den Computer übertragen, und das ist ohne Frage eine Amputation, denn vor 20 oder 30 Jahren konnten die Menschen diese Aufgaben im Kopf lösen.«

Das klingt schon wieder nach dem üblichen Jammer über die Verblödung der Welt, aber Maes ist sehr viel konkreter. Was genau ist es, was wir verlieren, indem wir etwas gewinnen? »Diese Menschen hatten«, so Maes, »alle möglichen Tricks, alle möglichen Heuristiken in ihrem Kopf, die wir heute nicht einmal mehr kennen. Sie sind für die Gesellschaft verloren.«⁶⁶

»Heuristiken« sind einfache Denkstrategien, die wir alle benutzen, um unter Zeitdruck sehr schnell ein Problem zu lösen - auch beim Bombardement durch das Multitasking nutzen wir diese Methode. Jeder kennt diese Strategien aus Situationen, in denen er zum Beispiel unter Zeitdruck viele Informationen ignoriert, um mit wenigen eine Lösung zu finden. Fernsehshows wie »Wer wird Millionär« zeigen sehr gut Heuristik-in-Action, nämlich dann, wenn Kandidaten, die die Antwort nicht wissen, durch Ausschlussverfahren und Kombinationsstrategien die richtige zu finden versuchen.⁶⁷

Pattie Maes begründete ihre »intelligenten Agenten« damals damit, dass wir zwar noch im Kopf rechnen können, aber dass wir dabei die Tricks, wie man selbstständig sein Ziel findet, immer weniger kennen. Jeder Autofahrer, der ein Navigationssystem hat, kennt das Gefühl der Hilflosigkeit, wenn er sich, beispielsweise im Ausland, den Weg durch den Verkehrsdschungel plötzlich wieder selbst suchen muss. Und ohne Zweifel gibt es bereits viele Rettungswege des Denkens, von denen wir gar nicht mehr wissen, dass wir sie verlernt haben, weil wir sie schlichtweg vergessen haben.

Wie lernten beispielsweise unsere Vorfahren, wie man Zahlen, die auf 5 enden, schnell und sicher mit sich selber multipliziert? Was ist zum Beispiel 35 zum Quadrat, also 35 mal 35? Nimm die erste Ziffer (3) und multipliziere diese mit der nächsthöheren (4), das ergibt hier 12. Dann hänge immer die Ziffern-folge 25 an, was 1225 ergibt. Mit diesem Shortcut kann man im Nu 45, 55 oder 65 zum Quadrat berechnen - im Kopf, wohlgemerkt.⁶⁸

Wir können mit dem Verlernen solcher Tricks leben, wenn es ums Rechnen geht. Wie aber steht es mit all den anderen Dingen, mit Gelesenem und Erlerntem und schließlich mit unseren Erfahrungen?

• Wohin wird es führen, wenn Computer uns dauernd zeigen, dass sie das, was sie einem abverlangen, viel besser können?
• Wie werden wir uns künftig selbst einschätzen, unsere Erfolge und Misserfolge? Wie werden wir mit dem eigenen Inneren reden, wenn wir den Sinn für Kontinuität und Identität verloren haben?
• Welche Amputation hat dazu geführt, dass sämtliche Banker, Notenbankpräsidenten und Finanzminister der Welt die Finanzprodukte nicht mehr verstehen, die sie zusammenbauen lassen, ja wochenlang weder Soll und Haben kennen und nicht einmal mehr Größenordnungen abschätzen können, weil das, was man dazu braucht - eben jene oben genannten »approximativen Heuristiken« -, verlernt wurde?
• Genügt eine Koexistenz zwischen Mensch und Maschine, die uns zu ewigen Konsumenten macht?
• Oder ist jetzt der Zeitpunkt gekommen, wo Menschen ihren Führungsanspruch gegenüber den Computern anmelden sollten?
• Nehmen wir den maschinenzentrierten Blick auf die Welt ein oder den menschenorientierten Blick?

Der Kognitionswissenschaftler Donald A. Norman, der bereits vor dem Durchbruch des Internets den Computerhersteller Apple beriet, hat den Unterschied in einer Tabelle präsentiert.

Auf die letzte Frage lautet die Antwort eindeutig: Ja. Denn in der nächsten Entwicklungsstufe des Internets wird uns der Prozess des Abwägens und Gewichtens möglicherweise vollends aus der Hand genommen, so sehr, dass auch sehr viel gewichtigere Fragen, nämlich danach, was wir wollen und welche Ergebnisse aus welchen Gedanken folgen, an die Maschinen delegiert werden. Es geschieht das, was Strogatz bereits in der Mathematik beobachtet: Denken wird zum Zuschauer-Sport und ordnet sich der Autorität von Maschinen unter.

Dieses »Könnte man nicht?«, »Sollte man nicht?«, »Wäre das nichts?« reicht uns von Link zu Link, von Gedanken zu Gedanken weiter. »Im Laufe des einundzwanzigsten Jahrhun-

MASCHINENZENTRIERTER BLICK

MENSCHENORIENTIERTER BLICK

aus: Norman, D.: Things that make us smart. New York 1993, 224.

derts«, schreibt der junge Neurowissenschaftler und Erinnerungsforscher Sam Cooke, »wird sich wahrscheinlich die Qualität der inneren Selbsterfahrung des Menschen fundamental verändern.«⁶⁹

Das Denken wandert nach außen, heißt: Die innere Stimme wird eine äußere, und zwar in einem Umfang, der noch vor wenigen Jahren unvorstellbar gewesen wäre. Schon heute erleben viele Menschen, die im Netz kommentieren, bloggen, in sozialen Netzwerken kommunizieren, wie Katie Hafner in der »New York Times« schreibt, eine sonderbare Abkoppelung von sich selbst. Aufmerksamkeit, Zeit und Konzentration reichen nicht aus, die eigenen Äußerungen gleichermaßen innerlich zu verarbeiten.

Die unmittelbare Folge ist, dass Menschen von den Maschinen nicht mehr loskommen. Sie kleben mit ihren Wünschen an ihnen fest.

Schon jetzt kann man in unserem Informationsverhalten lesen wie in einem offenen Buch. Das weiß jeder, der seinen Buchgeschmack von Amazon oder seinen Musikgeschmack von Apples Genius lesen lässt oder einmal wie durch Zauberhand von Link durch Link durchs Internet gereicht wurde.

Wir haben längst widerspruchslos akzeptiert, dass wir bei Büchern offenbar den gleichen Geschmack haben wie ein Kunde aus Kansas und dass der Computer jetzt schon weiß, welche Musik uns morgen gefällt.Vermutlich nehmen die meisten Menschen nur unbewusst wahr, wie sehr sie bereits von Vorformen künstlicher Intelligenz geprägt werden.

Die »intelligenten Agenten«, eben jene Software, die uns liest und steuert, haben schon seit Längerem eine hitzige Debatte ausgelöst. Aber erst in den letzten zwei Jahren haben sie sich aufgrund besserer Computerleistung und größerer Datenmengen von winzigen Souffleuren zu mächtigen Intelligenz-Organisationen entwickelt. Oft stecken hinter den Code-Entwicklern fast kindliche Geister, und in den seltensten Fällen sind sie von bösen Absichten getrieben: Im Gegenteil, die Informationsflut zwingt sie zu immer präziseren Analysen unseres Verhaltens. Manche wie Google, die Organisation, die heute wahrscheinlich mehr über menschliches Verhalten weiß, als alle Verhaltensforscher der Welt zusammen, scheinen sich der Gefahr bewusst zu sein. Andere, von denen wir später mehr erfahren werden, sind aber bereits dabei, Menschen in Roboter zu verwandeln.