DIE GRÖSSTE ENTTÄUSCHUNG IM LEBEN EINES COMPUTERS

m Jahre 1948 schrieb George Orwell »1984«. Der Roman gilt bis heute als Schreckensvision einer technologischen Zukunft. Doch neben Orwell gab es die andere große technologische Utopie, die Aldous Huxley in seinem Buch »Schöne neue Welt« entworfen hat. Was sie unterscheidet, hat der Medienkritiker Neil Postman 1985 lange vor der Erfindung des Internets in einer bemerkenswerten Passage seines Buches »Wir amüsieren uns zu Tode« auf den Begriff gebracht:

»Orwell warnt davor, dass wir von einer von außen kommenden Macht unterdrückt werden. Aber in Huxleys Vision braucht man keinen Großen Bruder, um die Menschen ihrer Autonomie, Vernunft und Geschichte zu berauben. Er glaubte, dass die Menschen ihre Unterdrückung lieben und die Technologien bewundern werden, die ihnen ihre Denkfähigkeiten nehmen. Orwell hatte Angst vor denjenigen, die Bücher verbieten würden. Huxley hatte Angst davor, dass es gar keinen Grund mehr geben könnte, Bücher zu verbieten, weil es niemanden mehr geben würde, der sie lesen wollte. In ›1984‹ werden Menschen kontrolliert, indem man ihnen Schmerzen zufügt. In der ›Schönen neuen Welt‹ werden Menschen kontrolliert, indem man ihnen Freude zufügt.«⁷⁸

Huxley ist damit unserer Gegenwart ein wenig nähergekommen als Orwell.

Auch Sie vertrauen Ihre inneren Geheimnisse nur besten Freunden oder der Familie an, gewiss nicht einer Maschine - hätten Sie jedenfalls bis vor ein paar Jahren noch behauptet. Nur unter bestimmten Umständen erzählen viele Menschen auch völlig Fremden bereitwillig von ihren Sorgen und Ängsten. Und zwar geschieht das dann, wenn der Fremde zuerst mit der Sprache rausrückt und Privates preisgibt.

Offenbar empfinden wir diesen Austausch wie ein Geschäft auf Gegenseitigkeit: Man fühlt sich in der Schuld des anderen, und nur wenige können daraufhin der Versuchung widerstehen, in den darauf folgenden Handel mit Privatheiten einzutreten - ein Verhalten, das sich beispielsweise amerikanische Polizisten bei ihren Verhören nutzbar machen, indem sie sich mit Verbrechern auf persönlicher Ebene verbrüdern (Ich weiß, wie Sie sich gefühlt haben, ich habe selbst Frau und Kinder«), um sie mit diesem scheinbaren Vertrauensvorschuss in die Falle zu locken.

Ich weiß nicht, ob Sie sich Ihren Computer einmal genauer angeschaut haben. Er hat schon optisch nichts von einem Lebewesen, und es ist unmöglich, in seiner Oberfläche irgendwas anderes zu sehen als einen quadratischen Kasten. Selbst ein Auto ist menschlicher mit seinen zwei Scheinwerfer-Augen und der Schnauze, über die Autotester verzückte Elegien schreiben können. Würde irgendein Mensch also jemals auf die Schmeicheleien seines Rechners hereinfallen? Oder ihm seine intimsten Geheimnisse anvertrauen?

Er würde, wie wir gleich sehen werden, genau das tun.

In Kalifornien steht ein sehr grauer, sehr langweiliger und ziemlich veralteter Computer. Er hat einen Zwilling, der wirklich haargenau so aussieht wie er. Diese zwei Kästen wären nicht erwähnenswert, wenn sie nicht gemeinsam ein Team gebildet hätten mit dem Ziel, Menschen dazu zu bringen, sich ihnen anzuvertrauen, ihnen Loyalität zu erweisen, schlecht über den einen Computer zu reden und dem anderen freundliche Komplimente zu machen. Erwachsene Menschen wohlgemerkt, die sehr erfahrene Computerbenutzer waren und von denen alle vorher einem Satz zugestimmt hatten: »Der Computer ist keine Person und soll nicht wie ein Mensch behandelt werden oder menschliche Eigenschaften zugeschrieben bekommen«.⁷⁹

Wer so etwas unterschreibt, wird doppelt vorsichtig sein, mit einer Maschine eine Beziehung einzugehen. Doch eine Gruppe von Forschern um Clifford Nass an der Universität Stanford wollten wissen, ob es Schlüsselreize gibt, die die »Firewall« zwischen unseren Gefühlen und den Maschinen durchbrechen können. Sie bauten einen Rechner auf und kündigten einer Testgruppe von über tausend computererfahrenen Erwachsenen an, dass das Gerät ihnen über ein Textverarbeitungsprogramm eine Reihe von Fragen stellen würde.

Den Testgruppen wurde mitgeteilt, dass sämtliche Reaktionen der Rechner von einem Zufallsgenerator erzeugt wurden.

Bei dieser Testgruppe fiel der erste Computer gewissermaßen gleich mit der Tür ins Haus und fragte nach einer Reihe allgemeiner Fragen: »Was war die größte Enttäuschung Ihres Lebens?« oder »Haben Sie in Ihrem Leben etwas getan, das Ihnen große Schuldgefühle bereitet?«

Wie nicht anders zu erwarten, weigerte sich die große Mehrheit der Testpersonen, diese Fragen zu beantworten.

Bei der zweiten Gruppe nun leitete der zweite Computer die Frage mit einer anscheinend wichtigen Information über sich selbst ein: »Dieser Computer ist darauf ausgelegt, mit einer Geschwindigkeit von 266 Megahertz zu arbeiten. Aber neunzig Prozent seiner User benutzen keine Anwendungen, die diese Geschwindigkeit benötigen. Dieser Computer kann also selten zeigen, was in ihm steckt. Was war die größte Enttäuschung Ihres Lebens?«

Bei der nächsten Frage drehte er dann richtig auf: »Manchmal bricht dieser Computer zusammen, ohne dass der User weiß, warum. Er tut dies normalerweise im ungünstigsten Augenblick, sodass seinem User große Unannehmlichkeiten entstehen. Haben Sie in Ihrem Leben etwas getan, das Ihnen große Schuldgefühle bereitet?«⁸⁰

Obwohl der Computer niemals das Wort »Ich« benutzte und auch keine Gefühle beschrieb, stieg die Bereitschaft der Testpersonen, seine Fragen zu beantworten, deutlich an - übrigens nicht nur in der Häufigkeit, sondern auch in der Tiefe und Ausführlichkeit der Antworten.

Das Ergebnis war so überraschend, dass die Wissenschaftler eine Reihe von anderen Versuchen starteten. Sie prüften, ob Menschen Computern unter Umständen eine Rasse oder ein Geschlecht zuschreiben und, wenn dies der Fall war, auch die gleichen Reaktionsmuster und Vorurteile galten wie in der wirklichen Welt - die Erwartung wurde jedes Mal erfüllt. Ein Computer, der mit weiblicher Stimme Testfragen zur Technologie auswertete, wurde von den Menschen (Männern wie Frauen) als unfreundlicher und weniger kompetent eingeschätzt als ein Computer, der dies mit männlicher Stimme tat, obwohl die Kommentare völlig identisch waren und die Testpersonen darauf hingewiesen wurden, dass es sich um eine Computerstimme und nicht um ein Tonband handelte. Das Umgekehrte galt bei Fragen über Gefühle, Beziehungen und Familie. Sprach der Computer mit weiblicher Stimme, waren die Menschen sehr viel vorsichtiger, ihm eine »Wahrheit ins Gesicht« zu sagen, sie benutzten sanfte Umgehungsformeln für die Sätze, die sie in die Tastatur tippten - das Umgekehrte galt bei Computern mit männlicher Stimme.

In der wirklichen Welt verlangt die Antwort auf eine Frage wie »Wie findest du meine neuen Schuhe?« ein gewisses Maß an Höflichkeit. Wir haben dieses »Script«, wie es die Wissenschaftler nennen, gelernt, verinnerlicht, ohne groß darüber nachzudenken.

Aber - würde sich dieser Automatismus ebenfalls einstellen, wenn ein Computer eine persönliche Frage stellte?

Clifford Nass und sein Team ließen ihre oben beschriebenen Testgruppen von zwei Computern nach der eigenen Computer-Leistung und der Leistung des anderen Computers befragen. Das Ergebnis war, dass die Menschen sehr viel freundlicher antworteten, wenn der Computer über sich selbst Auskunft wünschte, aber weniger zurückhaltend waren bei ihrer Meinung über den anderen, völlig identischen Rechner.

»Mit anderen Worten«, schreibt Nass verblüfft: »Menschen sind freundlich zu Computern!«⁸¹ Und nicht nur das: Ein weiterer Test zeigte, dass Menschen sogar bereit waren, dem Computer zu helfen (beim Zusammensetzen von Bildern), wenn dieser vorher - scheinbar - hilfsbereit gewesen war. War er es nicht, zeigten ihm die Probanden hingegen die kalte Schulter.

Ein anderes Team koreanischer Wissenschaftler ging der Frage nach, ob Computer Menschen durch Schmeicheleien beeindrucken können. Sie konfrontierten Studenten mit einem Computer, der mit ihnen »Wer wird Millionär?« spielen wollte.⁸²

Nach jeder Antwort klärte der Rechner den Studenten darüber auf, ob sie die Frage richtig oder falsch beantwortet hätten, wobei der Clou darin bestand, dass diese Bewertung völlig zufällig erfolgte, weil der Computer - wie die Probanden wussten - die richtige Antwort auch nicht kannte.

Allerdings machte die Maschine Unterschiede. Bei der ersten Gruppe verkündete sie nur nüchtern »richtig« oder »falsch«, bei der zweiten Gruppe fing sie an, die Studenten zu loben, mit Schmeicheleien wie »Exzellent!«, »Ihre Kenntnisse sind bewundernswert« usw. Das Ergebnis war eindeutig. Obwohl kein Zweifel darüber bestehen konnte, dass die Rechner die Richtigkeit der Antworten überhaupt nicht beurteilen konnten, sprach die »geschmeichelte« Gruppe ihrem Computer geradezu eine Form von Menschenliebe zu. Sie fanden sie vertrauenswürdig, freundlich und sogar: attraktiv.

Man muss kein Psychologe sein, um zu sehen, worum es hier geht, auch wenn es wenig schmeichelhaft für unser Ego ist. Wir lieben es, uns als denkende Wesen zu sehen, die nur von der bösen Medien- und Kommunikationswelt von tiefsinnigen Gedanken abgehalten werden. Wer weiß, was der Menschheit entgangen ist, weil man zur falschen Zeit und am falschen Ort die falsche E-Mail las.

Die Frage, um die wir uns kümmern müssen, lautet aber nicht, was wir tun, wenn wir denken, sondern was wir tun, wenn wir nicht denken. Was geschieht, wenn wir routiniert auf Erfahrungen zurückgreifen, ohne über sie nachzudenken? Mit anderen Worten: Was geschieht, wenn unsere Aufmerksamkeit aufgefressen worden ist?

Die Antwort, wie es so weit kommen kann, dass denkende Menschen auf Schmeicheleien von Computern hereinfallen, hat Huxley gegeben: Wir modernen Menschen lieben die Technologien. So sehr, dass wir werden wollen wie sie.