Interview mit dem KI-Ethiker Dr. Benjamin Lange
EUvsDisinfo: Sie sind Ethiker und arbeiten unter anderem an KI und Desinformation. Was bedeutet das in der Praxis? Was macht ein Ethiker, der sich mit diesen Themen beschäftigt?
Dr. Benjamin Lange: Als Ethiker habe ich zwei Rollen. Erstens habe ich eine akademische Rolle. Meine Forschung als Philosoph konzentriert sich auf Desinformation und KI. Ich untersuche zum Beispiel die verschiedenen Risiken, die die Bekämpfung von Desinformation mit sich bringen kann. Obwohl sich natürlich alle einig sind, dass Desinformation, insbesondere auf der Ebene größerer staatlicher Akteure, eingedämmt und abgeschwächt werden muss, gibt es aus ethischer Sicht bessere und schlechtere Wege, dies zu tun.
In einem anderen Forschungsbereich untersuche ich, wie wir am besten konzeptualisieren können, was Desinformation ist, insbesondere mit Blick auf die praktische Umsetzung unserer Erkennungsmechanismen. Hier kann das philosophische Werkzeug der Begriffsanalyse sehr nützlich sein und etwas zu unserem Verständnis beitragen.
Meine zweite Rolle ist eher anwendungsorientiert. In meiner Funktion als Ethikberater habe ich Organisationen, die sich mit der Aufdeckung, Eindämmung oder Bekämpfung von Desinformation befassen, dabei unterstützt, dies auf der Grundlage solider ethischer Prinzipien zu tun und Analysten bei der Bearbeitung von Grauzonen, in denen ein hohes Maß an kritischem Urteilsvermögen erforderlich ist, wirksam zu unterstützen. Dazu könnte die Entwicklung von Entscheidungsfindungs- oder Beratungsrahmen und Toolkits gehören, um knifflige Fälle zu bearbeiten, sowie die Unterstützung bei der Konzeptualisierung von Desinformation und ihre Integration in Aufdeckungsketten oder die Entwicklung eines Prozesses, der es uns besser ermöglicht, die Verhältnismäßigkeit der zur Bekämpfung von Desinformation eingesetzten Maßnahmen zu beurteilen.
EUvsDisinfo: Die KI wird in den kommenden Jahren alle möglichen Auswirkungen auf unsere Gesellschaft haben. Einige dieser Auswirkungen erleben wir bereits – zum Beispiel die Verwendung von KI-Text- oder Bildgeneratoren in der kreativen Arbeit und anderswo – aber viele von ihnen, insbesondere die grundlegenderen, können wir nur erahnen. Hier bei EUvsDisinfo interessieren wir uns vor allem für das Zusammenspiel von KI und Informationsmanipulation. Könnten Sie unseren Lesern einen kurzen Überblick über die neuesten Überlegungen zu diesem Thema geben? Worüber sollten wir uns Sorgen machen? Worauf sollten wir achten?
BL: Wie bereits von Ihnen erwähnt, stehen die Auswirkungen der generativen KI, sei es in Form von Text-zu-Text- oder Text-zu-Bild-Generatoren, in diesem Jahr stark im Fokus. Es handelt sich hierbei um ein noch junges Feld mit vielen beweglichen Komponenten, aber eine der größten Sorgen ist sicherlich die katalysierende Wirkung, die generative KI auf die massenhafte Verbreitung von Falsch- und Desinformationen haben kann, sei es in Bild- oder Textform.
Dies ist also sicherlich ein Bereich, auf den man sich konzentrieren sollte. Insbesondere würde ich jeden dazu ermutigen, darauf zu achten, die Funktionsweise einiger dieser Modelle besser zu verstehen, wie sie z.B. Text oder Bilder generieren, und wie man besser lernen kann, Ergebnisse der generativen KI zu identifizieren. Es gibt Anhaltspunkte, die uns bei diesem Vorhaben unterstützen, beispielsweise syntaktische Muster von Texten (d. h. akzeptable Wortfolgen innerhalb von Sätzen und die Struktur der Sätze selbst) oder bestimmte Elemente von Bildern, die die KI noch nicht so gut erzeugen kann (z. B. Hände, logische Proportionen, relative Proportionen zwischen einigen Elementen, detaillierte Hintergründe). Das bedeutet auch, dass bewährte Techniken zur Faktenüberprüfung, wie z.B. die Verifizierung von Quellenmaterial, umso wichtiger werden.
Es gibt auch eine gute Nachricht: Mit der Zunahme unserer technischen Möglichkeiten nehmen auch unsere Fähigkeiten zur Erkennung von Desinformationen durch KI zu, wie beispielsweise bei der Erkennung von Deepfakes. Dennoch gibt es einige alarmierende Hinweise darauf, dass aktuelle Modelle mit KI-generierten Fehlinformationen Schwierigkeiten haben. Aber ob wir bald mit Desinformation durch generative KI überflutet werden, bleibt zu diesem Zeitpunkt abzuwarten.
EUvsDisinfo: Was sind Ihrer Meinung nach einige der unmittelbaren Möglichkeiten, um die von der KI ausgehenden Bedrohungen für unser Informationsumfeld abzuschwächen? Sehen Sie auch irgendwelche „Moonshot“-Ideen, die möglicherweise mehr Zeit und Geld erfordern könnten, sich aber langfristig stark auszahlen würden?
BL: Dies ist Teil einer umfassenderen Debatte über verantwortungsvolle KI-Governance, aber wir brauchen eine ganzheitliche Antwort, die von allen relevanten Akteuren, einschließlich der Politik, der Industrie, der Forschung und der breiteren Gesellschaft, gemeinsam erarbeitet wird. Da wir insbesondere über die Bedrohungen besorgt sind, die von der KI für unser Informationsumfeld ausgehen, müssen wir sicherstellen, dass wir über angemessene Schutzmechanismen für die Nutzung dieser Technologien verfügen, sowohl durch Selbstregulierung als auch durch strenge Gesetze. Dazu könnte auch gehören, dass die in KI-gesteuerter Software verwendeten Anwendungsprogrammierschnittstellen (APIs) mit technischen Schutzmechanismen, z. B. digitalen Wasserzeichen, versehen werden, die das Risiko des Missbrauchs und der Informationsmanipulation mindern.
Zusätzlich dazu und möglicherweise im Bereich der „Moonshot“-Ideen könnten wir uns von reaktiver Bedrohungsbegrenzung entfernen, die nach wie vor notwendig ist, und unsere Aufklärungsbemühungen für die breite Öffentlichkeit in Bezug auf KI und ihre Verbindung zu unseren Gewohnheiten beim Konsumieren und Erstellen von Informationen erheblich verstärken, angefangen in den Schulen. Der Förderung von Resilienz und kritischem Scharfsinn in großem Maßstab, um in unserer Informationslandschaft im Zeitalter der KI zu navigieren, erscheint mir weitaus vielversprechender, als sich ausschließlich auf reaktive Maßnahmen zu verlassen.
EUvsDisinfo: Was sind einige der möglichen positiven Anwendungsfälle von KI bei der Arbeit gegen Informationsmanipulation?
BL: Ich denke, bei den positiven Anwendungsfällen geht es um die Aufdeckung von einfachen Fällen der Informationsmanipulation. Wie ich bereits erwähnt habe, deuten aktuelle Untersuchungen darauf hin, dass generative KI diese automatisierten Erkennungsbemühungen erschweren könnte. Dazu könnte die Identifizierung von Fake- oder Bot-Accounts gehören, die bestimmte Geschichten massenhaft verbreiten, sowie die automatisierte Erkennung von Videos, Texten und Bildern, die zuvor als Falsch- oder Desinformation identifiziert und nur geringfügig verändert wurden. So können in einigen Fällen leichte syntaktische Änderungen im Textmuster, die zuvor von einem menschlichen Analysten als Desinformation eingestuft wurden, nach wie vor erfolgreich erkannt werden. Ähnliche Techniken werden auch für Deepfakes oder bildbasierte Desinformationen eingesetzt, die einen beträchtlichen Anteil der Fälle von Informationsmanipulation ausmachen – denken Sie an manipulierte Infografiken, Fotos und Satellitenbilder. Variationen und Modifikationen davon können bis zu einem gewissen Grad ebenfalls automatisch erkannt werden.
