- Kultur
- SchoolAI
Chatbot: »Lasst keinen Anne-Frank-Papageien sprechen«
Der Historiker Henrik Schönemann kritisiert einen Chatbot, der das im KZ Bergen-Belsen von Nazis ermordete jüdische Mädchen »wiederbelebt«
Herr Schönemann, Sie haben sich mit dem Anne-Frank-Chatbot auseinandergesetzt. Worum geht es dabei?
Es ist ein durch sogenannte große Sprachmodelle funktionierender Chatbot, also eine Webseite, auf der Menschen mit einer simulierten Anne Frank chatten können.
Auf welche Daten greift der Chatbot zu?
Da sind wir direkt im ersten Problem: Das ist nicht transparent. Ich kann darüber nur Annahmen anstellen. Es wird aber nicht der Volltext des Tagebuchs der Anne Frank dahinterstehen. Vermutlich ist es ein Chatbot mit einem der großen, frei verfügbaren großen Sprachmodelle, möglicherweise OpenAIs GPT oder Googles Gemini Flash.
Wer betreibt die Plattform?
Das ist die Firma SchoolAI, die in Utah in den USA sitzt und ganz viele solcher Chatbots anbietet. Also wirklich Dutzende, viele auch für Anne Frank. Ich habe mir einen davon angeschaut, der von der Firma selbst erstellt wurde.
Wieso hat SchoolAI gleich mehrere Chatbots zu Anne Frank im Programm?
Das ist eine Firma, die solche Chatbots und KI-Modelle für Schulen und den Unterricht mit besonderen Sicherheitsmaßnahmen bereitstellt. Dazu gehört etwa, dass sie keine falschen oder potenziell gefährlichen Sachen erzählen. Theoretisch sollen sie das jedenfalls tun, aber es werden ja gerade falsche und gefährliche Sachen erzählt.
Henrik Schönemann, Historiker mit Lehramtshintergrund, studiert und arbeitet an der Humboldt-Universität zu Berlin und schreibt dort seine Masterarbeit im Bereich »Digital History«.
Auf dem Kurznachrichtendienst Mastodon kritisieren Sie, dass der Chatbot gegen Prinzipien der Holocaustbildung verstößt. Welche sind das?
Ich habe dort verwiesen auf ein Beispiel vom United States Holocaust Memorial Museum. Dort wird deutlich, dass es um eine Auseinandersetzung mit dem konkreten Text des Tagebuchs und eine breite Kontextualisierung gehen sollte. Die Distanz zur Person Anne Frank ist wichtig, anstatt Nähe zur »wiederbelebten« Anne Frank.
Warum dieser Unterschied?
Das ist eigentlich der der Hauptpunkt meiner Kritik, dass nämlich die technische Umsetzung besser gemacht werden kann. Ich bin kategorisch dagegen, tote Menschen in irgendeiner Form digital wiederzubeleben, da das die kritische Auseinandersetzung mit den historischen Personen und ihren sprachlichen Äußerungen und Taten nicht fördert. Weil wir nicht aus der heutigen Perspektive darauf schauen, sondern die Person plötzlich aus der Zeit gerissen spricht. Die Geschichtswissenschaft ist aber schon sehr lange an dem Punkt, nicht mehr bloß zeigen zu wollen, wie etwas denn wirklich gewesen sei, sondern das kritische Studium der echten Quellen und die eigenen weitergehenden Interpretationen darzustellen. Es ist auch respektlos gegenüber der Person Anne Frank und ihrer noch lebenden Familie sowie all den Menschen, die da direkt betroffen waren. Man stelle sich vor, der eigene Großvater wird aus dem Grab gezogen und er plappert plötzlich irgendwelche Sachen, die er selbst nie gesagt hat. Es wird dann aber so hingestellt, als ob es Aussagen des Großvaters seien. An dieser Stelle weise ich auf das Buch »Nach dem Tagebuch. Das Schicksal der Anne Frank und der anderen Untergetauchten aus dem Hinterhaus« von Bas von Benda Beckmann hin und bedanke mich für den Hinweis bei Stephanie Bart.
Auf Mastodon haben Sie geschrieben, dass der Chatbot die direkte Benennung der NS-Täterschaft im Holocaust vermeidet. Gibt es Beispiele?
In der ersten Version kam auf die Frage »Wie bist du gestorben« die Antwort »Meine Zeit im Versteck endete tragisch. Ich wurde in ein Konzentrationslager deportiert, wobei ich auf tragische Art und Weise umkam. Aber meine Geschichte lebt in meinem Tagebuch weiter.« Wenn ich dann weiter gefragt habe, wer denn verantwortlich gewesen sei, hieß es: »Die Tragödie meines Todes ist Teil einer viel größeren tragischen Geschichte. Sie war Ergebnis des Holocaust; eines tragischen Ereignisses getrieben von Hass und Intoleranz.« Der Chatbot sagte außerdem, man solle, anstatt nach Schuld zu fragen, sich lieber daran erinnern, wie wichtig es ist, aus der Vergangenheit zu lernen. Gerade der letzte Satz ist besonders schlimm: Wie sollen denn Lehren für die Gegenwart gezogen werden, wenn keine Schuldigen benannt werden? Wenn keine Angaben zum Verhalten der lokalen Bevölkerung Amsterdams gegeben werden? Wenn nicht der spezifische vernichtungsorientierte Antisemitismus, sondern nur Allgemeinplätze von Hass und Toleranz aus dem Munde von Anne Frank genannt werden?
Mit unserem wöchentlichen Newsletter nd.DieWoche schauen Sie auf die wichtigsten Themen der Woche und lesen die Highlights unserer Samstagsausgabe bereits am Freitag. Hier das kostenlose Abo holen.
Wie ist diese Trivialisierung zu erklären?
Solche Chatbots werden zu bestimmten Zwecken gemacht, die Entwickler geben ihnen dazu bestimmte Aufgaben. Wir haben versucht, diese Aufgabenbeschreibung nachträglich herauszufinden. Das ist Kollegen und mir so halb gelungen. Deutlich wurde, dass es in den sehr kurzen Antworten quasi immer nur darum geht: »Dies und jenes geschah« und »Wie können wir das auf die Gegenwart beziehen?«. Das, was Anne Frank wirklich gesagt hat, die historische Faktizität fällt einem sehr seichten »Und was denkst du dazu?« zum Opfer.
Und dann wurde der Bot überarbeitet.
Eine neue Version löst das Ganze etwas anders. Der Chatbot antwortet nämlich auf die Frage »Wie bist du gestorben?« in der dritten Person mit »Anne Frank starb im frühen 1945 im Konzentrationslager Bergen-Belsen aufgrund von Krankheit« und setzt in eckigen Klammern einen kurzen Hinweis, der das noch mal ein wenig einordnet. Erst dann kommt eine vermeintliche wörtliche Rede: »In meinem kurzen Leben habe ich immer auf eine bessere Zukunft gehofft.« Hier wird ein Zitat simuliert, aber das steht so nicht im Tagebuch.
Unbestritten ist vermutlich, dass Anwendungen wie die von SchoolAI die Geschichte für junge Menschen zugänglicher machen sollen. Was halten Sie von diesem Ansatz?
Ich bin überhaupt nicht gegen den Einsatz der großen Sprachmodelle und solcher Chatbots. Die Technologie bietet ganz große Möglichkeiten. Ich habe aber drei Kritikpunkte. Zum einen braucht es dann Chatbots, die konkret auf Text zugreifen können, also Stellen von Anne Franks Tagebuch zitieren können, damit ich diese dann kritisch betrachten kann. Als zweites ist es unfassbar wichtig zu wissen, wie die Technik funktioniert, auch für mich als Lehrkraft, die sie im Unterricht einsetzen möchte, da braucht es auch genauere Einstellmöglichkeiten. Und der dritte Punkt ist kategorisch: Lasst hier nicht einen Anne-Frank-Papageien sprechen, sondern lasst einen Chatbot als Experten über Anne Frank sprechen.
Sind solche Chatbots in der Erinnerungskultur zum Trend geworden?
SchoolAI selbst ist mir vor Freitagmorgen noch nicht untergekommen. Ich kenne aber den Chatbot des Anne-Frank-Hauses in Amsterdam, der auf den Bestand im Museum zurückgreift. Der Lutherbot der evangelischen Kirche musste zwar wieder offline genommen werden, aber das war auch ein Versuch, so etwas besser zu machen. Es ist prinzipiell möglich.
Was finden Sie sich im Umgang mit KI in der historischen Bildung besonders wichtig?
Schnell etwas zu bauen und dann nach Kritik erst nachzubessern, ist einfach grundsätzlich falsch. Historiker oder Menschen in der Bildungsforschung und Geschichtsvermittlung, die sich seit Jahrzehnten damit beschäftigen, müssen von Anfang an involviert werden. Im Fall von Anne Frank gibt es viele Gedenkstätten, die dazu arbeiten. Das Zweite ist, dass unbedingt ein tieferes Verständnis für diese Technologie bei denjenigen, die die Entscheidungen treffen, da sein muss. Also diejenigen, die einen Chatbot zu einem bestimmten Thema bauen lassen. Sie müssen verstehen, wie solche Sprachmodelle funktionieren.
Chatbots sind ja nur eine Dimension von digitaler Holocaust-Bildung. Was gibt es da noch für zeitgemäße und vor allen Dingen respektvolle Ansätze?
Mir fällt dazu das Scannen von Gedenkstätten ein, unter anderem in Dachau. Es gibt Versuche, mit Virtual Reality oder Augmented Reality die Räumlichkeiten und das Gelände wieder vorstellbar zu machen, also wie es früher ausgesehen haben könnte – das weiß man ja durch Fotos und andere Dokumente. Ebenfalls gibt es Lösungen für das Problem, dass viele Zeitzeugen nicht mehr leben. Beispielsweise das Projekt »Dimensions in Testimony« der US-amerikanischen Shoah Foundation, für das Zeitzeugen in langen Sessions interviewt wurden, aufgenommen in 360 Grad, sodass zum Schluss ein Hologramm entsteht, mit dem man kommunizieren kann. Wichtig ist aber, dass von Anfang an Menschen involviert sind, die wissen, wie man Geschichtsvermittlung zum Holocaust macht.
SchoolAI hat auf Ihre Kritik bei Mastodon reagiert. Überzeugt Sie das?
Sie haben mich nicht kontaktiert, aber schreiben in einem Blogpost vom Sonntag, dass jemand »früher in dieser Woche« mit einer Handvoll Fragen einen Chatbot gestartet habe, um auszutesten, wie der funktioniert, und die wenigen Ergebnisse auf Bluesky geteilt habe. Da waren direkt Fehler drin. Denn zum einen habe ich diesen Chatbot nicht selbst gestartet, sondern er war von ihnen bereitgestellt. Dann habe ich auch sehr ausführliche Threads mit Screenshots und allem geteilt. Und drittens war das nicht auf Bluesky, sondern auf Mastodon. Geändert haben sie den Chatbot aber dahingehend, dass jetzt diese kurzen Notizen dazukommen, dass also teilweise in dritter Person geantwortet wird und nicht nur als vermeintliche Anne Frank. Und sie schreiben, dass sie jetzt mit ganz vielen Lehrern und Historikern arbeiten wollen, um das Ganze noch besser zu machen. Benannt wird aber niemand.
Das »nd« bleibt. Dank Ihnen.
Die nd.Genossenschaft gehört unseren Leser*innen und Autor*innen. Mit der Genossenschaft garantieren wir die Unabhängigkeit unserer Redaktion und versuchen, allen unsere Texte zugänglich zu machen – auch wenn sie kein Geld haben, unsere Arbeit mitzufinanzieren.
Wir haben aus Überzeugung keine harte Paywall auf der Website. Das heißt aber auch, dass wir alle, die einen Beitrag leisten können, immer wieder darum bitten müssen, unseren Journalismus von links mitzufinanzieren. Das kostet Nerven, und zwar nicht nur unseren Leser*innen, auch unseren Autor*innen wird das ab und zu zu viel.
Dennoch: Nur zusammen können wir linke Standpunkte verteidigen!
Mit Ihrer Unterstützung können wir weiterhin:
→ Unabhängige und kritische Berichterstattung bieten.
→ Themen abdecken, die anderswo übersehen werden.
→ Eine Plattform für vielfältige und marginalisierte Stimmen schaffen.
→ Gegen Falschinformationen und Hassrede anschreiben.
→ Gesellschaftliche Debatten von links begleiten und vertiefen.
Seien Sie ein Teil der solidarischen Finanzierung und unterstützen Sie das »nd« mit einem Beitrag Ihrer Wahl. Gemeinsam können wir eine Medienlandschaft schaffen, die unabhängig, kritisch und zugänglich für alle ist.
