Digitale Archivbestände durch Natural Language Processing (NLP) erkunden?

Das Löschen, Speichern und Kopieren einer Datei wurde durch die rasante technologische Entwicklung der letzten Jahrzehnte nicht nur immer einfacher, sondern vielmehr zum Automatismus. Wir schicken jetzt E-Mails statt Briefe oder scannen Dokumente, anstatt Akten abzuheften. Bisher analoge Prozesse verlagerten sich in den digitalen Raum. Davon sind nicht nur Privatpersonen betroffen, sondern nun auch die öffentliche Verwaltung. Um eben diesen Prozess der Digitalisierung voranzutreiben, stehen verschiedene Softwareanwendungen und Dateimanagementsysteme zur Verfügung. Aber was passiert mit Archivbeständen? Hier handelt es sich um den deutschen Archivgesetzen unterliegendes Verwaltungsschriftgut. Nasrin Saef hat sich mit diesem Thema in ihrer Masterarbeit beschäftigt. Der Titel der Masterarbeit lautet “Digitale Archivbestände mit NLP erkunden? Zur Anwendbarkeit computerlinguistischer Methoden im Archivsektor”. 

Ziele und Vorstellung

Ist es möglich, Methoden aus dem Bereich der maschinellen Sprachverarbeitung, dem Text Mining und dem Information Retrieval auf Archivbestände anzuwenden und wenn ja, unter welchen Bedingungen? Nasrin hat sich in ihrer Arbeit dieser Aufgabe gestellt.

Die Dateien werden von beispielsweise Schulen, Theaterhäusern oder Staatsanwälten an öffentliche Archive übergeben. Oft besteht eine Verpflichtung zu Archivierung, doch sind die Mittel, welche den Archivaren zur Verfügung stehen, nicht wirklich an die neuen Herausforderungen angepasst worden und so ist es oft schwierig, einen Überblick über die Dateisammlungen, die oft sehr groß sind, zu bekommen. Nasrin hat versucht, herauszufinden, ob die Methoden aus der maschinellen Sprachverarbeitung sich auf diese Quellen anwenden lassen. Dafür hat sie eine Softwareanwendung als Prototyp gebaut, mit dem Ziel, die Dateisammlungen zu verwalten und zu analysieren.

Bei den Sammlungen, die sie in ihrer Arbeit benutzt hat, handelt es sich konkret um fünf Testbestände (siehe Abb. 1). Der Erste ist eine Mischung von unterschiedlichen Artikeln aus deutschen Wikipedia-Einträgen, die weiteren stammen aus Beständen des Landes Hessen. Der Umfang und die Sprache der Testbestände spielen eine wichtige Rolle in der Analyse. Ebenfalls wichtig: Die Bestände unterliegen Datenschutzrichtlinien, da es sich beispielsweise um persönliche Datensätze von Schülern und Lehrern handelt, und müssen dementsprechend entsprechend der Datenschutzrichtlinien verwendet werden.

Abbildung 1: Textbestände, die für die Analyse verwendet wurden (alle Bilder aus der Präsentation von Nasrin Saef)

Probleme der Dateisammlungen

Die Dateisammlungen sind oft zu groß – es handelt sich um mehr als 100.000 Dateien, die teilweise redundant sind. Es werden oft Backups gemacht, aber die Dateien sind oft (Teil-)Kopien voneinander und in verschiedene Ordnungsstrukturen verzweigt. Sie sind außerdem oft sehr individuell. In eine Firma etwa wird sich die Struktur der Dokumente je nach Abteilung oder je nach Personen ändern.

Dies alles sind echte Probleme für Archivare und Archivarinnen. Eine ihrer Aufgaben ist die Bewertung, denn sie sollen entscheiden, was bewahrt wird und was nicht. Normalerweise wird nicht viel behalten, nur etwa 5% – 10%. Auf den ersten Blick erscheint dies gering, aber man sollte auch bedenken, dass alles digital zu speichern teurer wäre, als die Papierdokumente aufzubewahren. Es handelt sich schließlich um digitale Dokumente aus Jahrhunderten und nicht nur aus wenigen Jahren.

Normale Hilfsmittel zur Bewertung funktionieren in diesen Fall nicht. Jetzt stellt man sich die Frage: Kann Software die archivische Bewertung unterstützen? Falls ja, mit welchen Technologien und unter welchen Bedingungen? Nasrin widmet sich in ihrer Arbeit der Lösung diese Fragen und stellt die verwendeten Methoden vor.

Vorbereitung

Im ersten Schritt müssen die Dokumente eingelesen werden. Digitale Volltexte eignen sich dafür im Gegensatz zu OCR (Optical Character Recognition), HTR oder Audio-Transkriptionen, da in der prototypischen Arbeit keine Ressourcen zur Qualitätssicherung bestehen. Es werden ausschließlich lesbare Daten ausgewertet und überliefert. Außerdem zu beachten sind Metadaten, Container, in denen sich die Dokumente befinden (wie etwa .rar) sowie Format und Encoding der Einzeldokumente.

Abbildung 2: Verwendete Methoden

Sind die Dokumente eingelesen, beginnt die Vorverarbeitung, welche sich in diesem Fall in 7 Schritte aufteilt. Zuerst werden drei Korpora gebildet. Eines enthält alle Texte der Dokumente aneinandergereiht und zwei weitere sind tokenisiert, einmal ohne Stopwords und einmal vollständig. Anschließend werden auf Basis des vollständigen und tokenisierten Korpus‘ Vektor-Repräsentationen der häufigsten Worte gebildet. Zuletzt werden ein Volltext-Index für die Volltext-Suche und ein Sprachmodell gebildet. Die Index-basierte Volltext-Suche bietet die Möglichkeit, alle Texte entweder nach einzelnen oder mehreren verknüpften Schlagworten zu durchsuchen.

Die Versions- und Duplikaterkennung gestaltet sich da schon etwas komplexer. Statt einfach nur absolute Übereinstimmungen miteinander zu vergleichen, entschied sich Nasrin dafür, dies mit Hilfe von Bigrammen zu tun. Im Beispielsatz „Das ist ein Text“ wären jeweils „Das ist“, „ist ein“, und „ein Text“ Bigramme. Mithilfe der Software datasketch werden Überschneidungen dieser Bigramme mittels des Jaccard-Koeffizienten berechnet. Dieser Vorgang ist relativ langsam und komplex, funktioniert dafür aber zuverlässig. Zu beachten sind hierbei noch stark unterschiedlich lange Versionen. Gemäß dem Fall, dass zwei Dokumente absolut übereinstimmen, eines jedoch noch über etliche weitere Seiten verfügt, erfolgt nach dieser Methode keine hohe Übereinstimmung.

Quantitative Methoden

Als erste quantitative Methode werden Worthäufigkeiten und N-gramme gezählt. In Nasrins Fall wurden N-Gramme bis zu Trigrammen, also einer Kombination aus maximal 3 Wörtern, bewertet. „Während die Ermittlung der häufigsten Kombinationen zwar korrekt erscheint, erwies sie sich genauso wenig wie die Betrachtung der signifikantesten N-Gramme als hilfreich. Ein signifikantes N-Gramm besitzt eine erhöhte Wahrscheinlichkeit, in Kombination aufzutreten. Problematisch waren hierbei Begriffe aus Fremdsprachen, wie beispielsweise „chili con carne“, die in den Speiseplänen von Schulen auftauchen und zwar sehr signifikant sind, weil sie immer in Kombination auftreten, dabei aber wieder wenig Aufschluss über den Inhalt des Textes liefern.

Bei der zweiten quantitativen Methode, der Named-Entity-Recognition, geht es um die Erkennung von Eigennamen und deren Einteilung in Kategorien. Dabei werden die prominentesten Akteure im Bestand identifiziert. Jedoch werden zusammenstehende Namen als zwei unterschiedliche Entitäten erkannt, weshalb Nasrin bei ausbleibendem Satzzeichen zwei Entitäten als eine erkannt hat.

Clustering-Verfahren

Unter dem Begriff der Clusteranalyse versteht man die Analyse der Ähnlichkeit von Objekten. Im Bereich des unüberwachten maschinellen Lernens eingeordnet fehlen hier vordefinierte Kategorien und Testdaten zum Abgleich. Für die Analyse werden zunächst die geeigneten Variablen ausgewählt, die anschließend in eine Proximitätmatrix überführt werden . Diese Matrix enthält die Abstandsvektoren zwischen den einzelnen Variablen. An der Distanz zwischen den Vektoren zueinander kann man eine Ähnlichkeit messen oder die Vektoren verschiedenen thematischen Gruppen zuordnen. Bei Sprache gibt es jedoch so viele Dimensionen, dass die größte vorhandene Distanz zweier Punkte im Vergleich zur gesamten Matrix relativ gering ausfällt. Dementsprechend wird die Euklidische Distanz wenig aussagekräftig, was berücksichtigt werden sollte.

Abbildung 3: Dokumentenmatrix des Clusteringverfahrens

Das erste verwendete Verfahren, auf dessen Grundlage die Dokumente geclustert wurden, nennt sich Termfrequenz / inverse Dokumentfrequenz oder kurz: Tf-idf. Der Grundgedanke davon ist, dass Wörter, die in allen Dokumenten häufig vorkommen, wahrscheinlich nicht sehr signifikant für den Inhalt dieser sind. Andersherum sind selten vorkommende Wörter wahrscheinlich signifikant. Es werden so thematisch sinnvolle Gruppierungen erzeugt. Voraussetzung für den Erfolg dieser Methode ist das Vorhandensein einiger tausend Dokumente.

Abbildung 4: Das Tf-idf-Verfahren

Topic Modelling stellt das zweite Verfahren dar, mit welchem die signifikantesten Wörter ermittelt werden, die im gleichen Kontext auftreten. Diese funktionieren dann als eine Art Label, die darstellen, was vom Text zu erwarten ist. Auch hier konnten sinnvolle Gruppierungen nur erzeugt werden, wenn mehrere tausend Dokumente vorlagen.

Das letzte benutzte Verfahren nennt sich Doc2Vec. Hierbei handelt es sich um ein Verfahren, das auf einem neuronalen Netz beruht und aus Wortkontexten lernt. Da für diese Methode viele tausend Dokumente benötigt werden, um den Algorithmus ausreichend zu trainieren, hat sie mit den Datensätzen von Nasrin nicht funktioniert.

Fazit

Zwei wichtige Faktoren bei der Arbeit mit NLP und Texten sind Korpusgröße und Homogenität der Dokumentsprachen. Bei der Analyse von ausschließlich deutsch- oder englischsprachigen Dokumenten konnte Nasrin Erfolge vorweisen. Waren Dokumente mehrerer Sprachen vorhanden, blieben sie aus. Arbeitet man also mit verschiedensprachigen Dokumenten, sollte eine Spracherkennung implementiert werden. Und wie schon bei den Methoden erwähnt, funktionieren die angewendeten Verfahren nicht sehr effektiv ohne große Datensätze.

Abschließend und als Antwort auf die Frage, inwiefern Natural Language Processing (NLP) das Arbeiten mit Archivbeständen verbessern kann: Man beschränkt sich nicht nur auf die Bewertung dieser, sondern kann viel mehr Rechercheoberfläche bauen. Weiterhin kann ebenfalls mit Audiotranskription oder Videos gearbeitet werden und Objekterkennung für Bildbeschreibungen sind ebenfalls denkbar.

Wie häufig zu beobachten in Zeiten der Digitalisierung, kann NLP Archivaren und Archivarinnen zwar bei der Arbeit helfen, sie aber sicherlich nicht ersetzen.

Zu Autor und Autorin:

Monica Zanetta hat einen BSc.-Abschluss in Computerlinguistik (LMU München) und studiert zurzeit im 1-Fach Master Informationsverarbeitung an der Universität zu Köln.

Riccardo Fuda hat einen B.A. in Medienkulturwissenschaften/ Medieninformatik (Universität zu Köln) und studiert derzeit im konsekutiven Masterstudiengang ebenfalls an der Universität zu Köln.


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.