Die Manipulationsmaschine.

FUCILE: Was auch immer zweckmässig ist. Es herrscht ein ständiger Krieg um die Kontrolle darüber, was Wahrheit und Realität ist. Je mehr man Meinungen formen kann, desto mehr Kontrolle hat man darüber, was real ist. Und das ist problematisch: Sie können sich vorstellen, dass bestimmte Organisationen das für ihre Zwecke nützlich finden.

UNI NOVA: Was können wir dagegen tun?

FUCILE: Wir müssen diese Technologien, etwa lernende Algorithmen, öffentlich zugänglich machen, auch in dem Sinne, dass die Menschen verstehen, was diese Technologien tatsächlich tun. Das ist eine Möglichkeit, diese dezentrale Vorstellung von Wahrheit und Realität aufrechtzuerhalten, die das Herzstück der Zivilgesellschaft ist.

UNI NOVA: Ist es realistisch, zu hoffen, dass alle diese Technologien verstehen lernen? Wenn man über maschinelles Lernen spricht, wird es schnell sehr kompliziert.

FUCILE: Es ist leicht, pessimistisch zu sein und zu sagen, es sei hoffnungslos. Aber es ist nicht unmöglich. Es gibt zwei grosse Diskrepanzen: Einerseits hinkt die Entwicklung der Gesetzgebung dem Tempo des technologischen Fortschritts hinterher, andererseits passen sich unsere Bildungssysteme nicht schnell genug an. Es ist unfair, zu erwarten, dass die Leute die Auswirkungen dieser fortschrittlichen Technologien verstehen, wenn sie nie eine Ausbildung in Informatik erhalten haben.

UNI NOVA: Wie sollten wir also diese Lücken schliessen?

FUCILE: Die wissenschaftliche Gemeinschaft muss wirklich ihren Austausch mit der Öffentlichkeit verstärken. Wenn wir Forschenden wollen, dass Menschen Technologien verantwortungsvoll nutzen, müssen sie sie verstehen. Und als Entwicklerinnen und Entwickler dieser Technologien ist es unsere Aufgabe, diese Lücken zu schliessen. Hier sind auch staatliche Einrichtungen auf allen Ebenen gefordert.

UNI NOVA: Sie erwähnen das Tempo der technologischen Entwicklung. Wenn Sie an die letzten zehn Jahre denken, welche Entwicklungen im Bereich der künstlichen Intelligenz hatten die stärksten Auswirkungen auf die Nutzenden von sozialen Medien?

FUCILE: Die zunehmende Verbreitung von Fehlinformationen ist ganz offensichtlich, und die Spaltung der Gesellschaft ist grösstenteils darauf zurückzuführen, wie KI-basierte Empfehlungssysteme funktionieren. Das Ziel ist es, die Nutzenden bei der Stange zu halten, und das funktioniert besonders gut, wenn man unsere grundlegenden, primitiven Emotionen wie Angst oder Wut anspielt, um uns in einem erregten Zustand zu halten. Die Empfehlungssysteme sagen voraus, was Sie interessieren oder aufregen wird, und wollen, dass Sie in diesem Zustand der Aufregung hängen bleiben. Zwietracht zu säen und zu spalten ist derzeit leider der Hauptanreiz.

UNI NOVA: Wie steht es mit den Fortschritten zum Beispiel bei der Spracherkennung?

FUCILE: Den Empfehlungssystemen liegen Sprachmodelle zugrunde: Sie werden verwendet, um die Gefühle der Menschen zu erfassen und zu erkennen, wie sie auf das reagieren, was sie sehen und lesen. Diese Modelle können auch zum Verfassen von Texten verwendet werden. Einige sind nicht mehr von solchen zu unterscheiden, die von Menschen geschrieben wurden. Es gibt Sprachmodelle, die ihren eigenen Code schreiben.

UNI NOVA: Können Bots also bereits andere Bots erstellen?

FUCILE: Es gibt Programme, die andere Programme schreiben, die reaktionsfähig sind. Das ist also bereits möglich. Viele sind sich wahrscheinlich nicht bewusst, in welchem Ausmass Bots mit uns Menschen interagieren. Inzwischen ermöglichen Deep Fakes für Sprache und Video, echte oder fiktive Personen bei jeder möglichen Aktivität nachzubilden. Hier sehen wir das Resultat vieler mathematischer Modelle, die zusammenarbeiten. Ich glaube nicht, dass den Menschen klar ist, wie schnell sich diese Dinge ändern und wie sehr sie uns beeinflussen – und wie sehr wir in bestimmte Richtungen manipuliert werden.

UNI NOVA: Donald Trump sagte einmal zu seinen Anhängern: «Was Sie sehen und was Sie lesen, ist nicht das, was passiert.» Hatte er angesichts solch überzeugender Fälschungen recht?

FUCILE: In gewisser Weise schon. Meine Hoffnung ist, dass es uns möglich sein wird, uns darauf zu einigen, was authentisch ist – und was konstruiert und künstlich. Es herrscht ja immer eine Art Wettrüsten oder vielmehr ein Wechselspiel: Je raffinierter die Fälschungen werden, desto besser werden die Methoden, um zu prüfen, ob etwas authentisch ist.

UNI NOVA: Welche Entwicklungen können die Social-Media-Nutzenden in den nächsten Jahren erwarten?

FUCILE: Es gibt einige wichtige, noch unbeantwortete Fragen zum Eigentum an Inhalten, zur fairen Nutzung und zum Datenschutz. Generell gehe ich davon aus, dass sich die aktuelle Entwicklung noch beschleunigen wird. Die Bots werden immer überzeugender und die Manipulationsmaschinerie immer effektiver. Schwer zu sagen bleibt, ob sich bestimmte Technologieunternehmen durchsetzen werden oder nicht. Ich weiss nicht, ob die virtuelle Welt, die Facebook/Meta zu konstruieren versucht, tatsächlich von einer grossen Mehrheit genutzt werden wird. Aber an der allgemeinen Idee ist etwas dran. Es werden riesige Summen für Videospiele und VR-Ausrüstung ausgegeben, und bereits verbringen manche Menschen einen Grossteil ihres Lebens in der digitalen Welt.

UNI NOVA: Bots, die uns manipulieren, virtuelle Realitäten, die Menschen in ihren Bann schlagen, gibt es irgendetwas Positives an den KI-Innovationen?

FUCILE: Es ist nicht alles negativ. Es gibt sicherlich sehr nützliche Entwicklungen in der KI für die naturwissenschaftliche Grundlagenforschung, zudem allgemein gebräuchliche Tools wie Übersetzungsdienste oder einzelne Empfehlungssysteme. Diese Modelle können uns auch helfen, zu erkennen, in welche Richtung wir manipuliert werden. Es bleibt zu hoffen, dass diese Dinge zugänglicher werden. Wir sollten uns nicht zu sehr von den Unkenrufen ablenken lassen, denn Innovationen eröffnen auch neue Chancen.