Spätestens seit dem Release von Chat-GPT im Jahr 2022 ist die Nutzung von sogenannten künstlichen Intelligenzen für viele alltäglich geworden. Dabei beschränkt sich der Zugriff nicht mehr nur noch auf textbasierte Kommunikation – Mittlerweile können durch Prompt-Eingabe auch künstlich generierte Bilder und Videos erschaffen werden. Doch was passiert, wenn diese Technologie zum Fälschen von Kulturerbe-Objekten genutzt wird? Wie können wir Vertrauen und Gewissheit der Wahrhaftigkeit in Institutionen, Artefakte und Objekte bewahren – besonders in einer Zeit, in der das Internet von generierten Inhalten überflutet wird? Mit dieser Frage hat sich Susanne Kurz, wissenschaftliche Mitarbeiterin am Institut für Digital Humanities und Leiterin des IT-Zertifikats der Philosophischen Fakultät, beschäftigt. Susanne Kurz doziert seit 2003 an der Universität zu Köln und hat das Langzeitprojekt der IT-Zertifikate 2008 gegründet und stetig erweitert. Außerdem ist sie zurzeit im ARTEST Projekt tätig. Ihr Vortrag “Vertrauen in die Wirklichkeit -AI, Trust und Reliability in den DH” wurde im Rahmen des Kolloquiums “Digital Humanities – Aktuelle Forschungsthemen 2024” gehalten.

Über künstliche Intelligenz

Allein schon Assoziationen mit sogenannter KI lösen bei vielen ein allgemeines Unbehagen aus. Dabei ist künstliche Intelligenz nicht einfach wie eine unkontrollierbare Naturkatastrophe erschienen – stattdessen handelt es sich um ein von Menschen geschaffenes Phänomen. Dementsprechend liegt es auch an den Menschen, den Einfluss, die Nutzung und die Art der Verbreitung zu gestalten und zu beeinflussen. Daher ist es umso wichtiger, mit dem Anstieg von generierten Inhalten eine Komponente des Vertrauens in digitalen Räumen zu verankern, um damit dessen Einfluss proaktiv mitzugestalten.

Fälschungen von Kulturerbe-Objekten

Fälschungen von Kulturerbe-Objekten sind kein Phänomen der Neuzeit. Schon früher wurden Kulturerbe-Objekte von Menschen auf unterschiedlichste Art und Weise aus verschiedensten Motiven gefälscht. Dazu gab es neben Ruhm, Ehre und Reichtum auch damals schon politische Motive, um Agenden und Einflüsse zu kontrollieren und in eine bestimmte Richtung zu lenken. Ein Beispiel ist das Protokoll der Weisen von Zion um 1903 (siehe Abb.1). Faktoren wie historische Ungenauigkeit, Widersprüchlichkeiten und sprachliche/stilistische Unterschiede führten hier zu einer Überführung der Fälschung. Weitere typische Indikatoren für Fälschungen sind neben den Stilvergleichen auch die Provenienzforschung. Währenddessen zählen mündliche Überlieferungen, Befragungen von Zeugen und offizielle Bestätigungen von führenden Persönlichkeiten und Institutionen als Anzeichen der Verlässlichkeit einer Quelle. Gerade hier spielt auch das von den Institutionen erwartete Vertrauen in Quellen eine Rolle. Es ist Aufgabe der geisteswissenschaftlichen Forschung, Kulturerbe-Objekte zu interpretieren und zu kontextualisieren, weshalb allgemein Vertrauen in die Institutionen herrschte, keine Fälschungen zu verteilen und zu verbreiten.

Nachweis an Fälschungen von digitalen Editionen

Generierte Inhalte müssen in diesem Zusammenhang von digitalen Verfälschungen unterschieden werden. Im Rahmen der Digital Humanities wird bei digitalen Objekten zwischen “born digital Data” und retrodigitalisierten Objekten unterschieden. Bei “born digital data” handelt es sich hierbei um Objekt, welches direkt im digitalen Raum entsteht. Währenddessen handelt es sich bei retrodigitalisierten Objekten um digitale Editionen physischer Werke. Teilweise sind in diesem Kontext Objekte auch nur noch als digitale Edition verfügbar, da das physische Original aus natürlichen Gründen (wie materieller Verfall) verloren ging. In diesem Kontext kann man auch von digitalen Abbildern sprechen.

Wurden diese digitalen Editionen nun durch Pixelmanipulation (siehe Abb. 2) oder ähnliche Verfahren verändert, spricht man von einer digitalen Verfälschung. Dabei liegt das Vertrauen in den Institutionen, Digitalisierungen ordnungsgemäß vorzunehmen und digitale Verfälschungen aufzudecken und nicht zu verbreiten. Zentral ist hierbei außerdem, dass digitale Verfälschung durch Faktoren der Veränderung, wie in diesem Fall der Pixelmanipulation anhand der gespeicherten Daten durch Testverfahren, nachgewiesen werden kann.

Problem des Nachweises von generierten Inhalten

Während digitale Verfälschungen durch ihren Grad der Bearbeitung auf Datenebene nachgewiesen werden können, stellt sich bei generierten Inhalten ein neues Problem in den Weg.

Durch generierende Software entsteht eine Realisation einer Imagination, welche das Abbild einer Vorstellung ist. Für den Betrachtenden ist hierbei problematisch, dass das entstandene Objekt echt aussieht und auch auf Datenebene echt wirkt – da durch die Generierung ein komplett neues Objekt (in Form einer Fälschung oder Variation) entstanden ist, bei dem keine Verfahren wie Pixelmanipulation zur Verfälschung angewandt werden mussten. Dadurch entsteht ein Problem der Unterscheidung. Handelt es sich um ein Originalobjekt oder handelt es sich um eine generierte Version, die jenseits der digitalen (Neu)Generierung nicht existiert hat?

Daneben führen weitere Faktoren zu einer allgemeinen Unsicherheit. Zum einen stellt sich die hohe Skalierbarkeit als seht problematisch heraus. Im Zeitraum vor generierender Software waren für die Erstellung einer realistischen digitalen Verfälschung zum einen technische Skills, aber auch ein hoher Zeitaufwand notwendig. Gegenwärtig können durch generierende Software in kurzer Zeit hunderte Inhalte erzeugt werden, so dass die Skalierung des Verhältnisses an Inhalten immer weiter kippt.

Zudem können auch der Kontext und damit die Kontextanalyse immer weiter in Frage gestellt werden. Schließlich ist es nicht nur möglich, ein allein stehendes generiertes Objekt zu erzeugen – zusätzlich können dazu auch plausible Kontexte generiert werden. Dabei kann es sich nicht nur um Texte, sondern auch um Videos und Stimmen handeln. Zentral hierbei zu erwähnen sind sogenannte “Deepfakes”, durch welche realistische Video- und Sprachaufnahmen generiert werden, indem Bilder, Gesichter, Stimmen und Bewegungen manipuliert werden. Auch bei Deepfakes stößt man auf Identifikationsprobleme aufgrund des generativen Verfahrens. Kontexte werden dadurch ungewiss und stehen nicht mehr als Identifikationsoption bereit.

Ein weiteres Risiko stellen sogenannte Scheinsicherheiten da. Zum Schutz vor Fälschungen werden zurzeit Sicherheitsmaßnahmen wie elektronische Signaturen, Siegel, Wasserzeichen und Blockchain-Lösungen verwendet. Diese Maßnahmen sollen für Vertrauen und Authentizität sorgen – sind jedoch keine Identifikationsmöglichkeit für artifizielle Objekte. Nicht nur können Siegel etc. mit generiert werden – durch die erschwerte Identifikation von generierten Inhalten können Signale des Vertrauens auf generierte Inhalte gesetzt werden.

Vertrauen und Verantwortung

Nachdem sie die Gefahren von generierten Inhalten etabliert hat, kontextualisiert Susanne Kurz diese im Bereich der Digital Humanities. Hier existiert nämlich ein Urvertrauen in Kulturerbe-Institutionen, die Forschungsdaten zur Verfügung stellen. Wissenschaftler*innen vertrauen darauf, dass Institute ihnen wahre Daten geben, mit denen sie dann Forschung betreiben können. Dieses Vertrauen ist auch durchaus verständlich und wichtig, da wir Vertrauen laut Luhmann als Kulturtechnik verwenden, die menschliches Zusammenleben ermöglicht (vgl. Luhmann, 1968). Wenn wir kein Vertrauen in unsere Mitmenschen hätten, könnten wir nicht mit Unsicherheiten in unserem Alltag umgehen, was eine funktionierende Gesellschaft unmöglich machen würde.

Bruce Schneier unterscheidet hierbei allerdings nochmal zwischen zwei Kategorien des Vertrauens, nämlich zwischenmenschliches Vertrauen, das Vertrauen in Menschen, die wir kennen, und soziales Vertrauen, das Vertrauen in Menschen, die wir nicht kennen (vgl. Schneier, 2023). Diese beiden Kategorien wird Susanne Kurz später noch tiefer einführen. Hier ist jedoch erstmal relevant, dass das Vertrauen in Institute ein soziales Vertrauen ist. Dieses Vertrauen wird jedoch immer schwieriger aufrecht zu erhalten, da wir uns alle immer mehr in digitalen Räumen bewegen.

Laut Susanne Kurz gibt es mehrere Gründe, warum Vertrauen in digitalen Räumen schwieriger aufzubauen ist. Erst einmal können wir nur bedingt auf unsere Erfahrung mit Vertraulichkeit in der analogen Welt zurückgreifen, da die Vertrauenssubjekte, also die Personen, die einander vertrauen sollen, nicht mehr nur menschlich sind. Stattdessen sind sie mit Technologien wie Accounts und Chat-Interfaces vermischt, was es schwerer macht, eine wissensbasierte Einschätzung zu treffen. Hierfür ist eine hohe Kompetenz im Umgang mit digitalen Technologien nötig, aber selbst diese ist keine Garantie für eine richtige Einschätzung. Ein weiteres Problem bilden die Vertrauensobjekte, also Objekte oder Daten, mit denen wir im digitalen Raum interagieren und dessen Vertraulichkeit wir einschätzen wollen. Diese sind im Gegensatz zu analogen Vertrauensobjekten wesentlich abstrakter. Wir können sie nicht in die Hand nehmen oder mit Werkzeugen untersuchen, sondern müssen auf digitale Nachweise vertrauen. Diese Nachweise (englisch proof) können jedoch ebenfalls kein Vertrauen garantieren, sondern sammeln sich lediglich auf der Waagschale der Vertrauenssubjekte an, wenn sie eine Entscheidung treffen müssen.

Die Unsicherheit, die hier entsteht, ist ein großes Problem für verlässliche Forschung und Susanne Kurz sieht die Verantwortung, diesem Umstand entgegenzuwirken, bei den existenten Instituten. Da diese, wie bereits etabliert, die Vorteile des Urvertrauens genießen, müssen sie auch gewährleisten, dass ihre digitalen Objekte authentische Abbilder sind, also das Ergebnis korrekter Transformationsprozesse vom Analogen zum Digitalen. Kurz fordert hier vor allem die Kenntlichmachung von ordnungsgemäßen Objekten, was im Gegensatz zur momentanen Umgangsweise steht: Bisher werden ausschließlich generierte Objekte gekennzeichnet (und selbst das hauptsächlich auf freiwilliger Basis), wodurch man nur nicht-vertrauenswürdige Objekte identifizieren kann. Wissenschaftler*innen brauchen stattdessen jedoch ein Zeichen, dass Objekte vertrauenswürdig sind, wobei jedoch immer noch das Restrisiko bleibt, dass generierte Inhalte fälschlicherweise ebenfalls das Siegel bekommen.

Es gibt jedoch zumindest schon Ansätze, um der gesamten Problematik entgegenzuwirken. Das NIST (US National Institute of Standards and Technology) hat den CIA-Triade definiert, an der Informationssicherheit gemessen wird (siehe Abb. 6). Das C steht dabei für Confidentiality, im Deutschen Vertraulichkeit, was die Idee beschreibt, dass nur befugte Personen Zugriff auf Informationen haben. Dies wird durch Verschlüsselungstechnologie wie Zugriffskontrollen mit Passwörtern und biometrischen Daten bewerkstelligt. Das I steht für Integrity, also Integrität auf Deutsch. Hier wird bei Speicher und Transfer überprüft, ob Daten unverändert sind, was allerdings kein wirklicher Schutzmechanismus ist. Technisch wird dies durch Hashing und digitale Signaturen umgesetzt, wobei die Zugriffskontrolle natürlich auch eine große Rolle spielt, damit Unbefugte nichts an diesen Dingen ändern können. Das A steht schließlich für Availability, also Verfügbarkeit, was bedeutet, dass die Daten trotz Sicherheitsvorkehrungen zugänglich genug sein müssen, um vernünftig mit ihnen arbeiten zu können, aber auch, dass sie nicht verloren gehen können. Hierfür können redundante Systeme und Backups verwendet werden, die Teil von Disaster-Recovery-Strategien sind. Diese Aspekte geben zwar ein grobes Bild davon, wie Daten vertrauenswürdig verarbeitet werden können, Frau Kurz erweitert diese Liste jedoch noch um zwei weitere “Friends”. Der erste dieser Freunde ist das Konzept von Authentizität, also die Bestätigung von Identitäten (sowohl von Personen als auch von Institutionen), die ebenfalls durch Passwörter oder 2FA (Two-Factor-Authentication) durchgeführt werden kann. Der zweite Freund ist die Nicht-Abstreitbarkeit, was bedeutet, dass Aktionen so durchgeführt werden müssen, dass diese im Nachhinein nicht geleugnet werden können. Dies kann mithilfe von digitalen Signaturen oder Blockchain-Technologien erreicht werden, die Transaktionen speichern. Frau Kurz sieht all diese Aspekte in Zertifikaten vertreten. Diese können authentische Identitäten nachweisen, zusammen mit Verschlüsselungen Vertraulichkeit gewährleisten, sicherstellen, woher Daten kommen und garantieren, dass die Institutionen, die das Zertifikat erstellt haben, für das angehängte Objekt bürgen. All diese Aspekte helfen dabei ein Objekt tatsächlich vertrauenswürdig wirken zu lassen, lösen aber ein großes Problem nicht: Sie werden erst im Nachhinein auf ein Objekt angewandt, was es möglich macht sie auf generierte Objekte zu packen und einfach anzugeben, dass es sich um echte Daten handelt. Dies wirft die Frage auf, ob man überhaupt Vertrauen im digitalen Raum aufbauen kann, doch auch hier gibt es bereits erste Ansätze.

Technische Lösungen und fatale Fehlinterpretationen

Wie können wir feststellen, wie ein Objekt generiert wurde? Dies ist die große Frage, der sich Frau Kurz im letzten Teil ihres Vortrags stellt. Um sie zu beantworten, verweist sie auf zwei relativ neue Institutionen, die CAI (Content Authenticity Initiative), und die C2PA (Coalition for Content Provenance and Authenticity), die offene Standards für die Vertrauenswürdigkeit von digitalen Objekten publizieren.

Die CAI fokussiert sich dabei auf die Definition von neuen Metadaten zu Provenienz und Herkunft von Objekten sowie die Einbindung und Darstellung dieser Metadaten in Plattformen. Diese Metadaten haben auch einen kryptografischen Anteil, da sie fälschungssicher sind und unkonforme Änderungen an Objekten oder Metadaten anzeigen. Die vorhandenen Metadaten (Content Credentials genannt) werden über ein Symbol angezeigt, und sind auch schon in einen eigenen Browser namens Verify (https://contentcredentials.org/verify) und Adobe Firefly eingearbeitet. Die zweite Einbindung lässt sich dadurch erklären, dass Adobe eines der Hauptmitglieder sowohl der CAI als auch der C2PA ist und auch das Meiste an Entwicklungsressourcen bereitstellt. Dieser Umstand ist natürlich kritisch zu betrachten, was Frau Kurz in ihrem Vortrag auch mehrfach betont. Aber da die Standards der Organisation offen geteilt werden und erweiterbar sind, können Adobes wirtschaftliche und Publicity-Interessen, die sie mit dieser Involvierung eindeutig verfolgen, fürs Erste ignoriert werden.

Die C2PA entwickelt den tatsächlichen Metadatenstandard, der in Anwendungen implementiert und auf Objekte angewandt werden kann. In diesem besteht ein Objekt aus dem Foto/Video/Text etc. an sich, den Provenienz-Informationen (woher stammt das Objekt, welcher Nutzer der Software hat es erstellt) und einer digitalen Signatur, die die Identität des Objekts abbildet. Diese drei Einzelteile bilden insgesamt ein Manifest, das die Gesamtheit des digitalen Objekts darstellt. Wird das Objekt nun bearbeitet, beispielsweise ein neuer Satz in den Text eingefügt oder das Bild mit einem KI-Tool verändert, so wird diese Änderung (auch Assertion genannt) als neuer Teil der Metainformationen im Manifest gespeichert. Wird sie das nicht, so zeigt das Objekt in einem C2PA-konformen Browser an, dass die Daten unvollständig sind. Dies sendet bestimmte Vertrauensignale, aber keine Werteinschätzung des Objekts. Die Entscheidung liegt im Endeffekt immer noch beim Konsumenten, dem Vertrauenssubjekt, und die C2PA ist sich dieses Umstandes auch durchaus bewusst. Dieses neue Metadaten-Konzept ist also keine einfache Lösung für das Problem, sondern ein Faktor, den Endnutzer verwenden können, um informierte Entscheidungen im digitalen Raum zu treffen.

Susanne Kurz sieht hierin den Beginn eines (fast) neuen Feldes, nämlich des Trustmanagements. Ihrer Meinung nach müssen Institutionen anfangen, ihr momentan noch existentes Urvertrauen abzusichern, wofür der C2PA-Standard ein mögliches Werkzeug sein kann. Diese Idee des Vertrauens als eigene Ebene im digitalen Raum wurde tatsächlich schon während der Entwicklung des Semantic Webs 2001 in den Raum geworfen, aber nicht weiter verfolgt. Kurz sieht jetzt den Moment gekommen, diese Idee wieder aufzugreifen, da laut ihr die Institutionen vor einer Existenz-Frage stehen. Es ist durchaus möglich, artifizielle Objekte und Informationen in die Speichersysteme der Institutionen einzuschleusen und es gibt keine Möglichkeiten diese zu detektieren, nachdem dies passiert ist. Kurz verweist auf eine Reihe von IT-Angriffen auf öffentliche Institute im Jahr 2023, um zu illustrieren, wie real diese Bedrohung ist. Hierbei betont sie noch zusätzlich, dass dies nur die Angriffe sind, von denen wir wissen, dass es sie gegeben hat, weil sie fehlgeschlagen sind und die Institutionen dies öffentlich bekannt gegeben haben. Wir haben also keine wirklichen Informationen darüber, in welchem Rahmen solche Angriffe stattfinden, oder ob es schon artifizielle Informationen in den Datenbanken gibt. Frau Kurz sieht dies als dringenden Anlass, so schnell wie möglich verlässliche Informationen kenntlich zu machen, bevor möglicherweise nur noch mehr artifizielle Daten eingeschleust werden.

Die Problemsituation ist also Folgende: Personen und Organisationen können gezielt und in großen Mengen Desinformationen produzieren, die politische und wirtschaftliche Beweggründe haben können. Diese artifiziellen Daten können sowohl für die Konstruktion von Fake History und Fake News als auch für Verbrechen genutzt werden und sie können mit dem momentanen Wissensstand nicht detektiert werden. Wie begegnen wir dieser zugegeben fatalen Lage? Frau Kurz will sich der Herausforderung stellen und schlägt mehrere Ansätze vor: Vertrauensmodelle müssen besser erforscht werden und Vertrauensarten modelliert werden, damit Institutionen wissen, wie sie am Besten Vertrauenssignale produzieren können. Trust-Leveling-Engines müssen entwickelt werden, die ein einfach lesbares Rating der Vertrauenssignale einer Institution oder Person geben können. Dies kann mithilfe von C2PA-Metadaten, den erforschten Vertrauensmodellen und Vertrauenssignalen realisiert werden. All diese Entwicklungen benötigen jedoch monetäre Förderung und ein Bewusstsein des Staates und der Institutionen über die Dringlichkeit der Situation, und keiner dieser Ansätze kann jemals eine wirkliche Garantie liefern, dass ein Objekt sicher vertrauenswürdig ist. Die Entscheidung wird immer bei den Forscher*innen und Konsument*innen liegen, man kann und sollte ihnen jedoch möglichst viele Hilfsmittel zur Verfügung stellen.

Dies führt Susanne Kurz zu einem finalen Exkurs, der sich auf die beiden Arten von Vertrauen zurückbesinnt. Zur Erinnerung, wir unterscheiden zwischen zwischenmenschlichen und sozialen Vertrauen und Menschen haben ein allgemeines Vertrauen in ihre Mitmenschen, das notwendig ist, damit eine Gesellschaft funktionieren kann. Zwischenmenschliches Vertrauen basiert dabei auf Moral und Ansehen. Wir wollen, dass uns unsere Freunde und Familie respektieren, also verhalten wir uns angemessen und vertrauenswürdig. Soziales Vertrauen dagegen basiert auf Gesetzen und existenten Sicherheitstechnologien und bezieht sich mehr auf Systeme als Einzelpersonen. So vertrauen wir, wenn wir in einem Flugzeug fliegen, weniger dem Piloten als Individuum, sondern mehr der Fluggesellschaft, die den Piloten in das Cockpit gesetzt hat. Problematisch wird es laut Frau Kurz allerdings, wenn Menschen diese beiden Vertrauensarten verwechseln. Regierungen, Organisationen und vor allem Unternehmen wollen zwischenmenschliches Vertrauen zwischen ihnen und Privatpersonen aufbauen, damit diese ihnen besser gesinnt sind und ihnen mehr Fehler zugestehen. Dies geschieht vornehmlich in den sozialen Medien, wo selbst große Unternehmen einen sehr familiären Schreibstil wählen, Witze oder Memes posten oder Einzelpersonen in den Vordergrund stellen. Dies ist natürlich trügerisch, denn Unternehmen sind, in Frau Kurz Worten, “genau so unmoralisch, wie Gesetze es zulassen”. Die gleiche Logik lässt sich auch auf KIs anwenden. Diese versuchen ebenfalls so persönlich und menschlich wie möglich zu wirken, werden aber von Frau Kurz schlichtweg als Spione für Unternehmen bezeichnet. KIs sammeln Nutzerdaten, lernen aus unseren Fragen und nutzen unseren Hang zur Anthropomorphisierung aus, um Informationen für Unternehmen zu sammeln. Die Macht liegt somit bei diesen Unternehmen, wo demnach laut Frau Kurz auch die Gesetze ansetzen sollten. Es bringt nichts, die KIs zu reglementieren, solange die Unternehmen, die sie produzieren, nicht haftbar sind. Daher endet Susanne Kurz ihren Vortrag auch mit der Erinnerung: “Unternehmen sind keine Freunde, KIs sind keine Freunde.”

Quellenverzeichnis:

Schneier, Bruce. 27. November 2023. AI and Trust. Belfer Center for Science and International Affairs, Harvard Kennedy School. https://www.belfercenter.org/publication/ai-and-trust 21.12.2023

Luhmann, Niklas. 1968. Vertrauen – ein Mechanismus der Reduktion sozialer Komplexität. Enke, Stuttgart.

Über die Autor:innen

Julia Victoria Haschke studierte im Verbundbachelor Medieninformatik an der Universität zu Köln. Anschließend absolviert sie nun ihr Masterstudium im Fach Informationsverarbeitung, ebenfalls an der Universität zu Köln. Darüber hinaus ist sie als Werkstudentin am Institut für Digital Humanities tätig und ist dort Mitarbeitende des Projekts “Virtueller Campus”.

Lukas Wilkens studiert derzeit im 1-Fach Master Informationsverarbeitung, nachdem er seinen B.A. in Medienwissenschaften und Medieninformatik abgeschlossen hat. Nebenbei arbeitet er im Projekt “Virtueller Campus”, entwickelt Indie-Videospiele und ist leidenschaftlicher D&D-Spielleiter.

(Wir bitten, den unten stehenden automatisch generierten Zitierhinweis von OpenEdition zu ignorieren und die Beitragsautorinnen bei Bezugnahme korrekt anzugeben.)