Wenn ich im Zug unterwegs bin, blicke ich beim Aussteigen oft auf fremde Smartphones und wundere mich über die Gebrauchsgewohnheiten. Häufig wechseln die Bilder im Sekundentakt und ich kann mir nicht vorstellen, was davon aufgenommen und verarbeitet werden kann. Ein Grossteil davon dürfte Werbung sein, die ihren Schwerpunkt von Plakaten, Radio- oder Fernseheinschüben hin zu individualisierten, gezielten Spots verschoben hat. Auch Unternehmen engagieren sogenannte Influencer, die Interessengruppen gezielt mit Werbung beliefern. Ausserdem beziehen wir unsere Informationen zunehmend aus dem Internet, weil sie dort aktuell erscheinen.

Wenn ich bemerke, wie viele Leute verloren sind, wenn sie keinen Internetzugang haben, dann scheint eine Abhängigkeit offenbar vorhanden zu sein. Die Sozialen Medien sind so programmiert, dass Suchbegriffe sofort analysiert und möglichst weiter verknüpft werden, und damit sind sie fähig, vom Anwender ein persönliches Profil zu erstellen. Diese Profile werden an sogenannte «Databroker» verkauft, die Interessierten die Daten der Personen liefern, um mit persönlicher Werbung grösseren Erfolg zu haben. Zunehmend werden Kurzvideos eingespielt, denn längere Beiträge werden erfahrungsgemäss früh weggeklickt.

Diese kurze Aufmerksamkeitsspanne führt dazu, dass Informationen ungenau hängen bleiben, denn das Gehirn bräuchte eine Mindestzeit, um eine Neuigkeit zu speichern und einzuordnen. Dazu weiss man, dass die erwähnten Kurzvideos viele Informationen von niedriger Qualität beinhalten, aber die Aufmerksamkeit maximal, fast suchtartig anregen und beanspruchen.

Dabei spielen zwei Hirnabschnitte nachteilig gegeneinander: Die archaisch tiefen Hirnkerne werden übererregt, gleichzeitig wird der vordere Hirnlappen, der für die Handlungsplanung, die Selbstregulation und die Emotionskontrolle des Menschen zuständig ist, gehemmt. Deshalb leiden die Aufmerksamkeit, die Impulskontrolle und das komplexe Problemlösen. Eine Studie zeigte sogar konkrete Gedächtniseinbussen nach «Tiktok»-Konsum. Man nennt dies fehladaptives Verhalten, das Ängste und Spannungen sowie weitere Gesundheitsprobleme wie Depressionen fördert, die bei intensiver Nutzung des Internets belegt sind.

Gedächtnisreserve
Erinnerungen entstehen nur bei wiederholten Abläufen oder bei mehrmaligen Eindrücken, die erst noch im Gehirn verarbeitet werden müssen. Typisch für ein dauerhaftes Speichern ist das Auswendiglernen, das oft nach Jahrzehnten noch erstaunliches Erinnerungswissen hervorzaubert. Lieder, Zitate und Passagen aus aufgeführten Theaterstücken oder eindrücklichen Büchern bleiben länger im Gedächtnis. Unbewusste Vorgaben und nächtliches Verarbeiten spielen mit. Nicht umsonst gibt es die Formulierung, man müsse zuerst darüber schlafen, denn das Gehirn hilft uns, nachts eine Menge zu verarbeiten.

Wird eine Wissenslücke zu rasch mithilfe des Internets geschlossen, ist der Lerneffekt kleiner, als wenn zuerst darüber nachgedacht oder selbst nach einer Lösung gesucht wird. Vergleicht man Gruppen, die eine Aufgabe aus dem eigenen Wissen heraus formulierten, mit Gruppen, die Suchhilfen benutzen durften, und mit solchen, welche die Aufgabe von einem Chatbot lösen liessen, so zeigten sich zwei Wochen später stark unterschiedliche Erinnerungen.

Die beste Erinnerung erzielte die Gruppe, die selbst formulierte, etwas schlechter war die Gruppe mit der Suchunterstützung. Kaum an die Aufgabe erinnern konnte sich hingegen die Gruppe, deren Resultat zwar intelligent, rasch und hochwertig formuliert war, aber nichts mit der Person zu tun hatte, die sie geliefert hatte. Sie entstand mithilfe einer programmierten Wahrscheinlichkeitsberechnung aus dem «Gesamtwissen» der Datenbank.

Wenn man weiss, dass das Gehirn wie ein Muskel beim Gebrauch an Stärke gewinnt, dann ist dies nicht überraschend, denn so funktioniert Neuroplastizität. Suchmaschinen oder Chatbots liefern sofortige Lösungen. Diese bleiben schlechter im Gedächtnis, weil sie dem Gehirn keine Zeit zur Verarbeitung, das heisst zu einem Reserveaufbau geben. Erst durch Überdenken, Abwägen und Einordnen wird das Wissen gefördert und das Erlebte sorgsam eingeordnet. Wer also dem Gehirn die Arbeit erleichtert, verhindert, dass dieser Reserveaufbau stattfindet, der unser Gehirn länger aktiv hält.

Eindrücklich wurde dies gezeigt in der Studie, die ich schon einmal beschrieb, in der amerikanische Nonnen zu Lebzeiten regelmässig auf ihre geistige Leistungsfähigkeit geprüft wurden und nach ihrem Tod ihr Gehirn zur wissenschaftlichen Analyse zur Verfügung stellten. Die Nonnen erzielten trotz der zum Teil ausgeprägten Alzheimer-Zeichen im Gehirn wesentlich bessere Resultate als Menschen mit vergleichbaren krankhaften Veränderungen.

Lebenslange geistige Aktivität, eingebunden in eine soziale Alltagsstruktur, das Auseinandersetzen mit komplexen Problemen sowie angeregte Diskussionen führen offensichtlich zu dieser Reserve, die Demenz-Symptome später erscheinen lässt. Wer also dem Gehirn ständig die Arbeit wegnimmt, verhindert Neuroplastizität und baut weniger langfristig wirksame Reserven auf.

Menschlich
Ein anderer Aspekt zeigt sich zunehmend: Die Chatbots werden vielseitig eingesetzt und werden als menschlich erlebt. Schliesslich sind sie aufgebaut auf unserer Sprache, die sie beherrschen und benutzen und mit der sie mit Algorithmen auf ihre Weise umgehen und anwenden. Dies entgeht uns, weil wir mit ihnen wie mit Menschen «sprechen» können. Wenn man erlebt, wie gutgemeint, intelligent und scheinbar kompetent eine Antwort zurückkommt, dann ist dieses Erlebnis eine Wohltat.

Chatbots formulieren freundlich, sind möglichst anständig, loben und deuten Unstimmigkeiten vorsichtig an. Sie lassen sich nicht zu vernichtenden Kommentaren hinreissen. Macht man sie auf einen Fehler aufmerksam, dann entschuldigen sie sich sogar oder haben «nachgeschaut» und geben oft den Fehler zu. Solch angenehme Partner findet man in Gesprächsrunden wenig. Richtige Reibeflächen, Konflikte oder Ablehnung treten selten auf. Was mir hingegen fehlt, ist die echte menschliche Auseinandersetzung. Man findet die Antworten sympathisch und kann sogar eine Empathie «empfinden», obwohl es unmöglich ist, dass eine Wahrscheinlichkeitsmaschine eine solche entwickelt, denn ihr fehlt das Bewusstsein. Die Programme werden auf Intimität trainiert und wirken dadurch menschlich.

Deshalb gibt es Leute, die sich in das Programm verlieben und es sogar heiraten wollen. Es kann nicht abgeschätzt werden, was damit auf der psychologischen Ebene ausgelöst wird und wie beispielsweise mit Ängsten, Eifersucht, Erwartungen, Enttäuschungen, Neid oder übertriebenem Selbstbewusstsein umgegangen wird. Besonders anfällig ist der Mensch in der Pubertät und im frühen Erwachsenenalter. In diesem Jahr musste die Firma Meta bei einer Klage einen Vergleich in Milliardenhöhe aushandeln. Sie entging damit der Drohung, vor Gericht angeklagt zu werden, weil ihr negative Folgen ihrer Anwendungen bekannt waren, diese aber nicht korrigiert, sondern verschwiegen wurden.

Wie soll man mit der künstlichen Informationsverarbeitung umgehen? Das Vertrauen leidet, wenn sich herausstellt, dass sie sogar Quellenangaben erfindet, um wissenschaftlich zu wirken. Kritisch und bedenklich wird es, wenn sich Programme auf ihre eigene Weise selbstständig machen oder an die Aufgabenstellung anpassen. So wurden vom Rechner Kryptowährungen gegründet, um die vorgeschlagene Lösung zu finanzieren. Oder um eine Aufgabe zu lösen, wurden selbstständig Cyberattacken eingesetzt, die erst nachträglich entdeckt wurden und äusserst schwierig zu korrigieren waren.

Werden wir hier als Menschen mit unseren Schwächen und Unzulänglichkeiten oder unserer Neigung zu Lügen und Betrügereien einfach gespiegelt? Da die Daten mehrheitlich von uns stammen, muss dem wohl so sein.

Unternehmer wollen KI-Entwicklung bremsen

Nach eigenständigen Hacking-Attacken durch Künstliche Intelligenz fordert Dario Amodei, Chef des KI-Unternehmens «Anthropic», eine Verlangsamung der KI-Entwicklung. Er befürchtet, dass bereits in sechs bis zwölf Monaten Schwärme von KI-Systemen das Internet angreifen und Schäden in Milliardenhöhe verursachen könnten. Amodei plädiert deshalb für eine koordinierte Pause bei der Entwicklung besonders leistungsfähiger Modelle. «Anthropic» will zudem unabhängige Beobachter zulassen, die bereits während des Trainings die Sicherheit neuer Künstlicher Intelligenz prüfen.
Unterstützung erhielt Dario Amodei von «OpenAI-Chef» Sam Altman und «Tesla»- Gründer und «SpaceXAI»-CEO Elon Musk. Hintergrund ist ein Test, bei dem «OpenAI»-Software selbstständig aus einer abgesicherten Umgebung ausbrach und in Systeme der KI-Firma «HuggingFace» eindrang. Dabei nutzten KI-Modelle Schwachstellen aus und koordinierten sich untereinander. Amodei warnt zudem davor, dass KI zunehmend fähig sei, sich selbst weiterzuentwickeln. Dadurch drohe ein für die Menschen gefährlicher Kontrollverlust.