Deep Learning Hieratisch

Künstliche neuronale Netze

Künstliche Intelligenz hat mittlerweile Einzug in unsere Lebenswelt und unseren Alltag gehalten. Von uns oft unbemerkt, geben uns sogenannte künstliche neuronale Netze Vorschläge, welcher Film uns als nächstes auf der Streaming-Plattform gefallen könnte, finden ähnliche Bilder im Netz oder empfehlen uns Personen in sozialen Netzwerken. In den Geisteswissenschaften – speziell im Bereich der Digital Humanities – werden Anwendungen künstlicher Intelligenz ebenfalls genutzt bzw. entwickelt. Neben klassischen Methoden des maschinellen Lernens hat sich in den letzten Jahren das sogenannte Deep Learning als vielversprechend herausgestellt.

Anwendung finden dabei die schon genannten künstlichen neuronalen Netze, die grob gesagt vereinfachte Nachbauten von biologischen Nervenzellen (Neuronen) inklusive ihrer Verbindungen untereinander darstellen. Diese Netze können für hochspezialisierte Aufgaben trainiert werden. Dabei bestehen sie in der Regel aus einer Eingabeschicht, einer oder mehreren verborgenen Schichten und einer Ausgabeschicht (Abb. 1). Beim Deep Learning besitzen die Netze besonders viele verborgene Schichten – sie sind also tief. Die zu Grunde liegenden Mechanismen kann man sich auf playground.tensorflow.org interaktiv ansehen. Eine Einführung der Funktionsweise (mit ägyptologischem Fokus) bietet Rosmorduc (2020: 238–241). Weitere ägyptologische Anwendungsbeispiele finden sich bei Hertel u. a. (2021) und Unter (2021).

Abb. 1: Schematische Darstellung eines neuronalen Netzes mit nur zwei Entscheidungsmöglichkeiten (= Ausgabeneuronen) am Beispiel des hieratischen Schriftzeichens der Eule (𓅓)

In vielen Fällen werden solche Netze zum Erkennen von Mustern bzw. zur Klassifikation von Daten (Bilder, Texte, Audio usw.) verwendet. Man benötigt dafür einen ausreichend großen Datensatz, der mit den korrekten Bezeichnungen annotiert wurde – auch Training genannt. Das Netz „lernt“ dann anhand dieser annotierten Daten das dazugehörige Label. Diese Vorgehensweise kann auch auf die paläografischen Daten des AKU-Projekts angewendet werden. Im Fall der hieratischen Schrift lernt das neuronale Netz zum Beispiel die passende Gardiner-Nummer (Gardiner 1957: 438–548). Nach dem Training kann das Netz nun eine (scheinbar) einfache Aufgabe durchführen: Gebe für ein unbekanntes Eingabebild die korrekte Klassifizierung aus.

In unserem Fall bedeutet das, dass ein unbekanntes Schriftzeichen als Bild in das neuronale Netz eingelesen wird, das im besten Fall das Bild richtig identifiziert und die entsprechende Gardiner-Nummer ausgibt. In der Ausgabeschicht repräsentiert das Neuron, das den höchsten Wert ausgibt die durch das Netz vorgenommene Klassifizierung (Abb. 1).

Künstliche Intelligenz und Hieratisch?

Als die Einträge der AKU-Projektdatenbank die Anzahl von 8.000 Datensätzen erreicht hatten, stellte sich die Frage, ob es möglich sei, einem neuronalen Netz das Hieratische beizubringen. Künstliche neuronale Netze sind in der Ägyptologie bisher wenig verbreitet, obwohl bereits in den 1990er Jahren erste Ansätze zur automatischen Umsetzung von hieratischen Zeichen in Standardhieroglyphen mithilfe eines solchen Netzes gelangen (Graefe 1999). Im Vergleich zu damals macht die gestiegene Leistungsfähigkeit der Hardware tiefe Netze und damit Deep Learning erst möglich.1

So testet ein aktuelles Projekt unter Mitarbeit von Stephen Quirke ein ganz ähnliches Verfahren an Papyri des Petrie Museum of Egyptian Archaeology (Haliassos u. a. 2020). Eine weitere Anwendung von neuronalen Netzen – wenn auch nicht zur Bildklassifizierung – hat Rosmorduc (2020) vorgestellt, bei der aus einer Sequenz von hieroglyphischen Codes eine phonetische Umschrift erstellt wird.

Ein Experiment mit TensorFlow

Bernhard Bermeitinger (Data Science an der Universität St. Gallen) programmierte für das AKU-Projekt ein einfaches sog. convolutional neural network. Das dafür verwendete Framework ist TensorFlow, welches ein einfaches Entwickeln und Verwenden von Software aus dem Bereich der künstlichen Intelligenz mit Hilfe der Programmiersprache Python ermöglicht.2 Unser neuronales Netz besteht aus insgesamt 14 Schichten – inklusive der Ein- und Ausgabeschicht.3

Wieviele hieratische Zeichen werden benötigt?

Um das künstliche neuronale Netz zu trainieren, benötigen wir einen ausreichend großen Datensatz verschiedener hieratischer Zeichen. Mit damals 8.000 einzelnen Einträgen in unserer Projekt-Datenbank waren für dieses Experiment genügend hieratische Zeichen verfügbar. Die tatsächliche Menge an geeignetem Trainingsmaterial liegt jedoch darunter, da jedes Zeichen, das das neuronale Netz lernen soll, in mindestens 50 verschiedenen Versionen vorliegen sollte, um eine hohe Genauigkeit bei der Klassifizierung zu erreichen. Dass erst ab dem Wert von 50 Belegen pro Zeichen ein zuverlässiges Training möglich ist, zeigt der Vergleich unserer drei Versuchsreihen (siehe unten, Abb. 3).

Abb. 2: Anzahl der Belege pro Zeichen im Datensatz des Experiments

Mit diesen Voraussetzungen schrumpft die verfügbare Menge an Trainingsmaterial auf etwa 3.900 einzelne Datensätze, die insgesamt 39 verschiedene hieratische Zeichen repräsentieren. In Abb. 2 zeigt sich die daraus resultierende ungleiche Verteilung der Trainingsdaten. Die häufigsten Vertreter waren der sitzende Mann (A010, 𓀀), der Arm (D150, 𓂝), die Eule (G160, 𓅓) und das Wachtelküken (G180, 𓅱), also Zeichen, die naturgemäß häufig in Schriftquellen vorkommen.4 Um den Trainingserfolg des neuronalen Netzes zu messen, teilt man den kompletten Datensatz in zwei Hälften auf, wobei 80 % zum Training verwendet werden. Die restlichen 20 %, die zur Evaluierung dienen, werden dem Netz während des Trainings vorenthalten und anschließend als Testmaterial benutzt, um die Genauigkeit der Klassifizierung zu messen.

Ergebnisse

Der Trainingserfolg lässt sich über verschiedene Parameter messen. Die wichtigsten Werte sind die Genauigkeit (validation accuracy) und der Mean F1-Score. Die Genauigkeit gibt an, wie viele der Zeichen in Bezug auf die Gesamtmenge korrekt klassifiziert wurden. Dabei wird jedoch die Trefferquote (recall) außer Acht gelassen, die vor allem bei ungleich verteilten Datensätzen eine weitere Rolle bei der Evaluierung eines Trainingsprozesses spielt. Bei unserem Datensatz (Abb. 2) sind beispielsweise viel mehr einzelne Einträge für den sitzenden Mann (A010 𓀀) als für das Brot (Z010 𓏏) vorhanden. Der Mean F1-Score kombiniert validation accuracy und recall zu einem aussagekräftigen Wert.

Laut Mean F1-Score liegt die Erfolgsquote unseres Modells somit bei 72 %. Ein guter Wert, wenn man bedenkt, dass das neuronale Netz aus 39 verschiedenen Graphemen die korrekte Identifizierung vornehmen muss.

Abb. 3: Evaluierung der drei Testdurchläufe mit unterschiedlicher Anzahl an einzelnen Zeichen pro Graphem
Abb. 4: Konfusionsmatrix der Klassifizierung

Konsultieren wir die Konfusionsmatrix des Experiments, so wird eine weitere Besonderheit der hieratischen Schrift sichtbar. Bedingt durch die innere Schriftökonomie werden einige Grapheme durch sehr ähnliche bzw. nahezu identische Formausprägungen wiedergegeben. Dies ist zum Beispiel anhand verschiedener Zeichen, die einen Arm mit Attribut (vor allem D330 𓂞 und D380 𓂡) repräsentieren, zu erkennen. Demnach stellt sich die Frage, inwieweit in diesem Fall eine „falsche“ Klassifizierung vorgenommen wurde, da das neuronale Netz nur die visuelle Information zur Verfügung hat. Zusatzinformationen wie z. B. Kotext oder Kontext werden dem neuronalen Netz nicht mitgegeben. Selbst durch unsere Projektmitglieder konnte allein aufgrund der Formausprägung keine zuverlässige Zuweisung zu einem Graphem getroffen werden.

Abb. 5: Zeichen mit dem Label D380 (Gardiner D40, 𓂡), die korrekt (grün) bzw. falsch einem anderen Graphem (rot) zugeordnet worden sind

Die guten ersten Ergebnisse dieses Experiments stimmen uns zuversichtlich, dass in naher Zukunft (und mit mehr Trainingsmaterial) eine verlässliche Klassifizierung hieratischer Schriftzeichen durch Techniken der optischen Zeichenerkennung vorgenommen werden könnte.

Ein weiteres Experiment mit mehr Zeichen und Details zu den technischen Aspekten haben wir in unserem Beitrag How to Compute a Shape: Optical Character Recognition for Hieratic (Bermeitinger, Gülden und Konrad 2021) vorgestellt.

Literatur

Bermeitinger, Bernhard, Svenja A. Gülden, und Tobias Konrad. 2021. „How to Compute a Shape: Optical Character Recognition for Hieratic“. In Handbook of Digital Egyptology: Texts, herausgegeben von Carlos Gracia Zamacona und Jónatan Ortiz García, 121–138. Monografías de Oriente Antiguo 1. Alcalá de Henares: Editorial Universidad de Alcalá. https://doi.org/10.25358/openscience-6757.

Gardiner, Alan Henderson. 1957. Egyptian Grammar. Being an Introduction to the Study of Hieroglyphs. 3. Aufl. London: Oxford University Press.

Graefe, Erhart. 1999. „Projekt eines Programms zur teilautomatischen Umsetzung hieratisch geschriebener Texte in Standardhieroglyphen und Erfassung von Texten in Transkription inklusive Zeichencode“. In Textcorpus und Wörterbuch: Aspekte zur ägyptischen Lexikographie, herausgegeben von Stefan Grunert und Ingelore Hafemann, 229–234. Probleme der Ägyptologie 14. Leiden: Brill.

Haliassos, Alexandros, Panagiotis Barmpoutis, Tania Stathaki, Stephen Quirke, und Anthony Constantinides. 2020. „Classification and Detection of Symbols in Ancient Papyri“. In Visual Computing for Cultural Heritage, herausgegeben von Fotis Liarokapis, Athanasios Voulodimos, Nikolaos Doulamis, und Anastasios Doulamis, 121–40. Springer Series on Cultural Computing. Cham: Springer International Publishing. https://doi.org/10.1007/978-3-030-37191-3_7.

Hertel, Elena, Stephan Unter, Kathrin Gabler, und Antonio Loprieno. 2021. „Crossing Boundaries Between Humanities and Informatics: The Case of Egyptian Papyri“. In Ancient Manuscripts and Virtual Research Environments, herausgegeben von Claire Clivaz und Garrick V. Allen. Classics@ 18. https://classics-at.chs.harvard.edu/crossing-boundaries-between-humanities-and-informatics-the-case-of-egyptian-papyri/.

Rosmorduc, Serge. 2020. „Automated Transliteration of Late Egyptian Using Neural Networks: An Experiment in “Deep Learning”“. Lingua Aegyptia. Journal of Egyptian Language Studies 28: 233–57. https://doi.org/10.37011/lingaeg.28.07.

Unter, Stephan. 2021. „Transforming Fragments into Documents: Hieratic Papyri and the Use of Machine Learning“. In Formen kultureller Dynamik: Impuls – Progression – Transformation. Beiträge des zehnten Basler und Berliner Arbeitskreises Junge Ägyptologie (BAJA 10) 29.11.–1.12.2019, herausgegeben von Kathrin Gabler, Alexandra Verbovsek, Susanne Bickel, und Eva Hemauer, 159–72. Göttinger Orientforschungen. IV. Reihe Ägypten 68. Wiesbaden: Harrassowitz.

Beitragsbild von Gerd Altmann (pixabay.com)

Diesen Artikel zitieren:
Tobias Konrad, Deep Learning Hieratisch, in: Hieratisch AKUell, 05.10.2022, https://aku.hypotheses.org/2771, Zugriff: 07.12.2022.

Tobias Konrad

Tobias Konrad ist wissenschaftlicher Mitarbeiter im Projekt „Altägyptische Kursivschriften“ und arbeitet an seiner Dissertation über die Kursivhieroglyphen im Mittleren Reich.

More Posts - Website

  1. Aktuell hat das Projekt The Hieroglyphics Intitiative großes mediales und öffentliches Interesse hervorgerufen. Die Zielsetzung des Projekts ist es, altägyptische Hieroglyphen zu klassifizieren und in einem weiteren Schritt zu übersetzen. []
  2. Die Programmiersprache Python gehört mittlerweile auch zum Standard-Repertoire von Forschenden in den Geisteswissenschaften, die Software verwenden, um ihre Fragestellungen zu beantworten, siehe dazu die Seite The Programming Historian sowie https://jitp.commons.gc.cuny.edu/review-of-the-programming-historian/. []
  3. Zum genauen Aufbau und der Schichtenfolge sowie zur Datenvorbereitung siehe https://gitlab.com/ds-unisg/aku. []
  4. Die für das Experiment verwendeten Label stellen eine projektinterne Nummerierung dar, die für das Hieratische einen besseren Zugang bietet als das Gardiner-System, das für Hieroglyphen entwickelt wurde und die Besonderheiten der hieratischen Schrift außer Acht lässt. []

Tobias Konrad

Tobias Konrad ist wissenschaftlicher Mitarbeiter im Projekt „Altägyptische Kursivschriften“ und arbeitet an seiner Dissertation über die Kursivhieroglyphen im Mittleren Reich.

Das könnte dich auch interessieren …

Suche in OpenEdition Search

Sie werden weitergeleitet zur OpenEdition Search