Am 12.01.2022 besuchte uns Dr. Iris Kramer von dem Startup ArchAI Ltd. um im Kolloquium für Digital Cultural Heritage, um von Ihren Entwicklungen automatisierter Verfahren zur Erkennung von archäologischen Ausgrabungsstätten mit LiDAR und Deep Learning zu erzählen. Kramer begann damit, die Entwicklung der Anwendung von Deep Learning in der Archäologie zu erklären und präsentierte im Anschluss die damit verbundenen Möglichkeiten und Zukunftsaussichten der Automatisierung und Unterstützung von archäologischer Forschung mit Deep Learning.
Von der Idee zu den ersten Schritt
In der Archäologie ist es bereits üblich, Luftbildaufnahmen aus der Luft und LiDAR-Daten auf übliche Strukturen und Muster in der Landschaft zu untersuchen. LiDAR-Daten werden erstellt, indem die Erdoberfläche mit Laserlicht abgetastet wird und die X-, Y- und Z-Messwerte zu Punktwolken zusammengetragen werden. Diese Punktwolken-Datasets, beispielhaft in Abbildung 1 dargestellt, können weiter verarbeitet und analysiert werden. LiDAR bietet sich insbesondere als kostengünstige Vermessungsmethode an. Gräben haben beispielsweise eine andere Vegetation im Vergleich zu den umliegenden Gebieten, was in Luftbildaufnahmen erkennbar ist. Alte Strukturen, wie Erdarbeiten und Felder können anhand von Mustern erkannt werden.
Kramer entwickelte in ihrer Masterarbeit an der Universität Southhampton die Idee, dass diese manuell ermittelten Muster auch automatisch erkannt werden können. In ihrem Forschungsumfeld wurde die Idee zunächst skeptisch aufgenommen, weshalb sie sich zunächst auf die einfachen Muster von Grabhügeln beschränkte und diese mithilfe der Software eCognition in drei Typen klassifizierte. Als Feature wurden dabei unter anderem die Helligkeit und Größe der Gebiete herausgearbeitet. Trotz guter Ergebnisse musste Kramer feststellen, dass die Umsetzung mit eCognition an ihre Grenzen stieß. Ein Problem war die Skalierbarkeit, da mit dem Programm nur eine kleine Menge an Daten für eine sehr spezifische Aufgabe verarbeitet werden kann. Dies drückten sich darin aus, dass nur kleine Gebiete als Input gewählt werden konnten und für eine verbesserte Analyse weitere Charakteristiken, wie die Bodenbeschaffenheit, Gebrauch oder Vegetation herangezogen werden müssen, um aussagekräftigere Ergebnisse zu erzielen. Auch der geologische, menschliche und technische Bias spielte in der Problematik eine große Rolle. Die Input-Daten sind beispielsweise abhängig vom menschlichen Bias, da die Art, wie eine Aufnahme aufgenommen wurde, bewirken kann, dass Charakteristiken mehr oder weniger erkennbar werden.

Quelle: http://blogs.ubc.ca/forests/2014/02/24/processing-lidar-data/
Nach Abschluss ihres Masters beschloss Kramer, dass das Potential der Methode durch weiterführende Forschung und Entwicklung ausgebaut werden könnte. Dem widmete sie die Forschung in ihrem anschließenden Ph.D. an der Universität Southhampton. Die Skalierbarkeit adressierte sie, in dem sie die Programmierung in Python fortführte. Das bot außerdem den Vorteil, dass die Hyperparameter besser angepasst werden können, eine umfangreichere Dokumentation möglich ist und die Möglichkeit für Open-Source-Programmierung die Kosteneffizienz verbessert. Um die Skepsis in der Archäologie zu adressieren, widmete sie sich ebenfalls der Aufgabe, Konferenzen zu organisieren und zu besuchen. Bei den Konferenzen ging es für sie darum, einen Fachaustausch anzustoßen und das Bewusstsein für digitale Möglichkeiten zu stärken, aber auch darum, ihre Methoden vorzustellen.
Lösungsansatz Deep Learning
Anwendungsbezogene Schwierigkeiten bildeten dabei zusätzlich die manuelle Datenanalyse, die geringe Datenmenge und spärlich besiedelte Gebiete. Um diese Probleme anzugehen, wurden verschiedene Maßnahmen angewandt, wie die Verwendung von einzelnen Bildausschnitten und eine Vergrößerung der Datenmenge, indem diese Fotodaten beispielsweise gedreht wurden, um mehr Input zu generieren. Die Lernrate des Algorithmus wurde durch die Anwendung von Transferlernen verbessert. Mit anderen Datenquellen vortrainierte Modelle wurden in den ersten Layern des Neuronalen Netzes verwendet. Je ähnlicher die Daten, wie beispielsweise ein Modell trainiert auf Mondkratern, desto einfacher ließen sich diese integrieren.
Ein weiterer wichtiger Schritt war die Nutzung von RGB-Aufnahmen, die ermöglichen verschiedene Features herauszuheben, auf die das Modell trainiert werden kann. Die RGB-Aufnahmen wurden aus drei Digital Terrain Model(DTM)-Schicht-Derivaten zusammengesetzt. Die Verwendung von mehr als drei Schichten ist theoretisch möglich, wurde aber zur Vereinfachung des Prozesses nicht angewandt. Wenn möglich wurde auf vorhandene Ressourcen, wie „state-of-the-art“-Modelle von Google und Facebook zurückgegriffen. In der Zusammenstellung wurden die Vorhersagen von verschiedenen Modellen zusammengetragen, um einen Durchschnitt zu erhalten. Als Neuronales Netz wurde RetinaNet ausgewählt, da es sich zur Bilderkennung eignet und große Datenmengen verarbeiten kann. RetinaNet ist ein Modell, dass von Facebook AI Research (FAIR) entwickelt wurde, und auf ResNet von Microsoft für die Bilderkennung und FPN von Facebook AI Research (FAIR) für die Feature Extraction basiert.

Quelle: https://archaeology.co.uk/articles/sciencenotes/science-notes-survey-on-the-isle-of-arran.htm
Proof of Technology mit der Fallstudie in Arran
Um die Ergebnisse auf den Prüfstand zu stellen, wurde eine Fallstudie anhand von Daten aus Arran, Irland durchgeführt. Die Arran Archaeological Study bot sich dafür an, da die Insel eine vielfältige Geschichte hat, die bis heute viele Nachweise und Materialen für geologische und archäologische Studien bietet. Entsprechend werden in Arran bereits umfangreiche archäologische Studien betrieben, auf die Kramer zurückgreifen konnte. Dazu gehörten die Datensammlung und manuelle Klassifizierungen, die unter anderem von der schottischen Regierung und Fugro betrieben wurde. Die daraus entstandenen Airborne Laser Scanning (ALS) Daten, wurden von Žiga Kokalj weiterverarbeitet, um das bereits erwähnte Digital Terrain Model (DTM) zu erstellen, dass Kramer verwendete. Die Ergebnisse der automatisierten Erkennung wurden verglichen mit den manuell klassifizierten Gebieten. Die Fallstudie produzierte insgesamt sehr viele gute Resultate mit ein paar wenigen falsch-positiven Fehlern. Im Vergleich der Ergebnisse wurde nicht nur festgestellt, dass ein Großteil der richtigen Ergebnisse übereinstimmen, sondern auch, dass die automatisierte Klassifikation richtige Ergebnisse erkannt hatte, die bei der manuellen Klassifikation übersehen wurden.
Da das Modell sich als sehr erfolgreich herausstellte, beschloss Kramer im letzten Jahr ihres PhDs weitere Nutzungsmöglichkeiten zu suchen und gründete das Startup ArchAI Ltd.. Das Startup richtet sich an ein kommerzielles Interesse, indem es Analysen und Services für Bauunternehmen in frühen Entwicklungsstadien von Bauprojekten bietet. Die Unternehmen können mit den Ergebnisse der Analyse abschätzen, ob es profitabel ist, in bestimmten Bereichen zu bauen, da mögliche archäologische Ausgrabungsstätten vermieden, die Planung angepasst und Zeit und Kosten eingespart werden können. Das Startup wird zukünftig Genauigkeit und die Anzahl der erkannten Typen ausbauen. Außerdem sollen auch die Eingabeformattypen erweitert werden. Unter der Anwendung von Crowdsourcing arbeitet das Start-Up aktuell an einer Segmentations-Klassifikation für das Arran-Projekt. Die Segmentation soll größere Gebiete als Eingabedaten übernehmen und diese in verschiedene Areale, wie Laufwege oder Felder unterteilen.

Quelle: https://archaeology.co.uk/articles/sciencenotes/science-notes-survey-on-the-isle-of-arran.htm
In ihrem Vortrag stellte Dr. Iris Kramer die Möglichkeiten, Archäologie und Computer-basierte Forschungsmethoden zu vereinen, vor. Dabei hat sie nicht nur die Skepsis innerhalb des Forschungsumfeldes abbauen können, sondern auch weiterführende Aussichten für die Zukunft entwickelt. Das Ergebnis der Fallstudie in Arran zeigt auf, dass maschinell ähnliche Ergebnisse wie in der manuellen Analyse erzeugt werden können. Als solches stellt ihr Modell eine wertvolle Ergänzung zum bisherigen Forschungsprozess oder als kosteneffizientes Tool für die kommerzielle Nutzung dar.
Zur Autorin: Teresa Johnsen hat im Bachelor Angewandte Informationswissenschaften studiert. Aktuell studiert sie Informationsverarbeitung im Master an der Universität zu Köln.
Literaturverzeichnis
arcgis 2022. . [Online] [Zitat vom: 02. 02 2022.] https://desktop.arcgis.com/de/arcmap/10.3/manage-data/las-dataset/what-is-lidar-data-htm.
Dr. MacGregor, Gavin. [Online] Arran Geopark.[Zitat vom: 02. 02 2022.] https://www.arrangeopark.co.uk/archaeology/.
Erickson, Adam. 2014. [Online] 24. 02 2014. [Zitat vom: 02. 02 2022.] http://blogs.ubc.ca/forests/2014/02/24/processing-lidar-data/.
Current Archaeology 2019. [Online] Current Archaeology, 17. 12 2019. [Zitat vom: 02. 02 2022.] https://archaeology.co.uk/articles/sciencenotes/science-notes-survey-on-the-isle-of-arran.htm.
CANMORE 2019. [Online] CANMORE (National Record of the historic environment), 09. 10 2019. [Zitat vom: 02. 02 2022.] https://canmore.org.uk/project/1036806.
Tsang, Sik-Ho. 2019. [Online] 24. 01 2019. [Zitat vom: 02. 02 2022.] https://towardsdatascience.com/review-retinanet-focal-loss-object-detection-38fba6afabe4.