vertrauen ki_detektoren texte doschu

Schreib- & Vertrauens-Krise durch KI-Detektoren?

Posted on by Doris Schuppe

Denkst du manchmal, vielleicht sollte ich das anders formulieren, damit niemand auf die Idee kommt, eine KI schreibe deine Texte? Ist es in Ordnung, dass ein Text abgelehnt wird, wenn jemand KI als Formulierungs- oder Übersetzungshilfe nutzt? Hier wird gerade anderen Menschen gegenüber viel Vertrauen verspielt, und gleichzeitig den Ergebnissen der KI-Detektoren zum Aufspüren maschinengeschriebener Texte zu viel Vertrauensvorschuss gewährt. Wir müssen reden!

Doris Schuppe • Der Beitrag Schreib- & Vertrauens-Krise durch KI-Detektoren? erschien zuerst im Blog DoSchu.Com.

Hey Doris, schreibst du jetzt anders, weil es aussehen könnte wie ein KI-generierter Text?, wurde ich gefragt.

Uh oh, gute Frage! Denn ja: Ich gebe zu, ich ertappe mich dabei, wie ich meinen geliebten Gedankenstrich lösche. Den Satz umformuliere. Satzlängen variiere. Dann doch den einen oder anderen Schachtelsatz zulasse.

Im Zuge der Kennzeichnungsvorgaben des EU AI ACT und damit verbundener Einsatz von Tools zur Überprüfung von KI-Beteiligung an einem Text müssen wir darüber reden!

KI-Detektoren: Soll KI doch KI erkennen!

Verschiedene Studien haben aufgezeigt, dass es für Menschen nahezu unmöglich ist, klar zu erkennen, ob ein Text von einem anderen Menschen oder von einer KI verfasst wurde. Durch die ab August in Kraft getretenen Kennzeichnungspflichten im EU AI Act gewinnt das Thema neue Brisanz. Der Gedanke liegt nahe, die KI dafür einzuspannen, mit KI generierte Texte, Fotos, Audioinhalte oder Videos zu erkennen.

Auf den Zug sind viele aufgesprungen. Denn Lehrkräfte, Medien und die akademische Welt möchten Qualität sichern und Lernergebnisse oder wissenschaftliche Erkenntnisse dokumentieren. Da greifen sie erfreut zu Tools wie copyleaks, GPTzero, Originality, Pangram, Turnitin oder ZeroGPT.

  • Mit solchen KI-Detektoren hoffen Lehrkräfte, Studierenden auf die Schliche zu kommen, die außer einem guten (kopierten) Prompt kaum etwas zum lernenden Themengebiet an Kenntnissen oder Kompetenzen gewonnen haben.
  • Genauso sind seriöse Medien daran interessiert, keine Fehlinformationen zu verbreiten oder so genannten ‚KI Slop‘ zu veröffentlichen: Texte, die ohne menschliches Zutun mit vielen Worten kaum etwas oder gar Falsches aussagen, wenig durchdachte ‚Info‘-Grafiken oder erfundene Fotos.
  • Verlage wollen Buchmanuskripte erkennen, die mit KI erstellt wurden, um diese für eine Veröffentlichung abzulehnen.

Das Problem an den KI-Detektoren

Erinnern wir uns an die ersten Detektoren für KI-generierte Texte. Da kamen diese spezialisierten Tools zu oft fälschlicherweise auf die Idee, den Text als überwiegend als von einer KI formuliert zu bewerten. OpenAI hat seinen eigenen Detektor namens AI Classifier rasch wieder eingestampft.

Doch die Schwierigkeit der Erkennung KI-generierter Texte besteht weiterhin:

»Unsere Stichproben zeigen jedoch, dass die Ergebnisse weder zuverlässig reproduzierbar noch als Beleg für eine KI-Nutzung belastbar sind.«
– Hartmut Gieselmann, heise.de zur neuesten Version von Pangram

Wir kennen die Herausforderung, dass ein gleich geprompteter KI-Chat von gestern heute ein anderes Ergebnis bringt. Im Artikel von Gieselmann beschreibt er, dass selbst die neueste Version von Pangram für den gleichen Text einmal so und einmal so entscheidet. Das ist jetzt nicht etwas, auf das Verlass ist.

Bewertungsergebnisse haben schwerwiegende Folgen, wie inzwischen an vielen Stellen beklagt wird:

»While scholars are dedicated to maintaining integrity in their writing, AI detection tools may tarnish their reputations by labeling them as cheaters or frauds based on some flawed AI detection results.«
– Louie Giray (Studie)

In der Studie zählt Giray so viele nachgewiesene Beispiele auf, die eine schwindlig machen. Lies sie dir durch, um ein Gefühl dafür zu bekommen, wie krass die Situation schon ist.

‚False Positive‘ ist keine Lappalie

Falsch-positive Ergebnisse bedrängen diejenigen, die eigene Inhalte einreichen, dafür jedoch den KI-Stempel aufgedrückt bekommen. Tools stufen einen Text als KI-generiert ein – und dann ist es an dir zum Beispiel als Autorin, Schüler, Studentin, Doktorandin, Texter, Journalistin, deine Originalität am Text nachzuweisen.

Der Fehler: Der Hinweis auf eine KI-Beteiligung bei der Texterstellung durch diese Tools wird von den Menschen, die sie nutzen, mit einem Beweis oder Beleg der KI-Textgenerierung gleichgesetzt. Das ist fatal.

»Selbst sehr niedrige Fehlerraten können bei großem Einsatz problematisch werden. Eine False-Positive-Rate von 0,01% klingt verschwindend gering, bedeutet aber bei einer Million geprüfter menschlicher Texte immer noch rund 100 fälschlich verdächtigte Texte. Bei höheren False-Positive-Raten, wie sie in einzelnen Genres oder unabhängigen Tests durchaus auftreten, wird das Problem entsprechend größer. Besonders gefährlich wird es, wenn positive Treffer als Beweis statt als Anlass für eine genauere Prüfung behandelt werden.« – Kai Spriestersbach, AFAIK

Der lange Beitrag von Spriestersbach ist für eine weitergehende Beschäftigung sehr lesenswert.

Exkurs: Honorierung im akademischen Bereich

So ein Tool ist besonders im Bildungsbereich sehr praktisch. Ich denke da an meine Zeit als Dozentin zurück, als ich mit viel Enthusiasmus in der akademischen Bildung tätig war. Was viele nicht wissen: Als Honorarkraft ist in der Vergütung der Lehrstunden die Bewertung der teilnehmenden Studierenden enthalten. Die Auswertung eines Multiple-Choice-Test ist da von großem Vorteil.

Blöderweise hatte ich in einer Lehrtätigkeit die Abprüfung des wissenschaftlichen Arbeitens in einer individuellen Projektarbeit als Vorgabe. Und die Korrekturen, die von den Studierenden leider nur auf Antrag – also so gut wie nie – zu sehen sind, müssen selbsterklärend sein, falls es eine Nachfrage zu einer Bewertung gibt.

Leute, was hatte ich da in der ersten Gruppe an Korrekturen zu schreiben! Meine rote Tinte ging nur so dahin. Es ist überhaupt nicht lustig, in einer Ausarbeitung 100 mal anzumerken, dass „wikipedia.de“ (ja!) oder „facebook.com“ keine hinreichende Quellenangabe ist. In den Folgesemestern habe ich die gängigen Maßstäbe im Rahmen des Unterrichts noch mal wiederholt, bevor es an die Projektarbeiten ging. Das schonte mein Zeitbudget und meine Nerven.

Wenn mir die KI bei der Korrektur geholfen hätte, die angegebenen Quellen zu checken – ach, das wäre schon cool gewesen. Heute könnte ich mit dem KI-Detektor prüfen, ob die Arbeit selbstverfasst oder maschinengeschrieben daher kommt. Dann wäre bei einer KI-Vermutung die Projektarbeit erst mal wieder von meinem Tisch. Zeit gespart.

Nur: Ist das sinnvoll?

Schreibassistenz ist nicht neu

Selbst wenn eine Wahrscheinlichkeit besteht, dass KI zum Einsatz kam – was im Übrigen scheinbar schon auf der Verwendung von Übersetzungs-Lösungen basieren kann –, warum sollen Menschen keine Formulierungshilfe suchen?

Warum sollen sich Menschen, die mit der Verschriftlichung ihrer Ideen und Erkenntnisse herausgefordert sind, keine Hilfe heranziehen?

Ich bin Naturwissenschaftlerin und kann schreiben. Das ist keine allzu häufige Kombination, wie ich lernte. Im Studium schrieb ich viele Exkursionsberichte oder Laborprotokolle für die jeweiligen Teams, weil es mir leicht fällt. Wenn in der Forschungsgruppe später englische Fachartikel eingereicht werden sollten, wurde immer ein fachlich kompetenter Muttersprachler gebeten, die Sprache zu überarbeiten. Doktorarbeiten werden häufig mit der Unterstützung eines fachlichen Ghostwriters angefertigt.

Es geht doch in den meisten Fällen um keinen Schreibwettbewerb! Und wenn sich die Studierenden, Diplomand:innen und Doktorand:innen heute modern von KI unter die Arme greifen lassen, warum denn nicht?

Schau, ich hatte in einem Kurs einmal den Fall, eine Bienenlaus zu untersuchen. Die einzige, damals verfügbare wissenschaftliche Quelle zu diesem Parasiten der Bienen war nur in französischer Sprache verfügbar! Zum Glück war ich super in der Sprache, jemand anderes hätte extrem viel Mühe gehabt, und heute würde auch ich meine Übersetzung mit einem Tool wie DeepL absichern. Das ist doch völlig in Ordnung, würde heute unter Umständen einen Nachteil in der Bewertung eines KI-Detektors nach sich ziehen.

Du siehst, diese Bienenlaus habe ich bis heute nicht vergessen. Deshalb ist diese intensive, eigene Beschäftigung gerade dann wichtig, wenn es ums Lernen geht. Daher rät auch die von mir sehr geschätzte Hilge Kohler, das Schreiben als Denkprozess zu nutzen anstatt es auszulagern.

Ähnlich wie ich es jüngst im Blogbeitrag erklärte, warum ich schreibe:

»Lernen, also der Erwerb neuer Fähigkeiten oder das Durchdringen neuer Themen beginnt mit dem Zuschauen oder Lesen. Tiefer verankert wird das Gelernte, wenn wir es selber umsetzen und anwenden. Richtig verankern wir eine neue Materie, wenn wir sie weitergeben und anderen erklären.«
– DoSchu, Blog

Hilge Kohler empfiehlt als Autorin und Dozentin für Kommunikation und Rhetorik in ihrem Blogbeitrag vom Juli:

»Lasst euch vom Sprachmodell Rohmaterial liefern, keine fertigen Ergebnisse! Rohmaterial müsst ihr weiter bearbeiten, und dabei bringt ihr eure persönliche Note in den Text.«
– Hilge Kohler, Blog

Und irgendwie weiss ich jetzt auch, warum ich die eher stichwortartige Impuls-Kommunikation von Gemini bevorzuge. ChatGPT und auch Claude liefern mir viel zu viel auf den ersten Blick gut lesbares ‚Geschnatter‘. In der Nachbearbeitung ist es harte Arbeit, wieder den wesentlichen Kern herauszuarbeiten.

Auf Buchmanuskripte bezogen: Dürfen Autor:innen ihre Ideen nicht mit KI als Sparringspartnerin diskutieren, wenn gerade kein Mensch ein Ohr für sie haben? Dürfen sie keine Hilfe für Formulierungen bei der KI holen? Das müssen wir anders klären als mit einem Detektor-Ergebnis.

In der Kürze … ach!

Zum Teil hieß es, dass kurze Sätze gleich zu dem Schluss führen: Aha, da ist doch eine KI am Werk gewesen! Beweis da mal als Mensch mit Lesbarkeits-Fokus, Barrierefreiheit im Sinn oder mit ausländischen Wurzeln die Wahrhaftigkeit deiner eigenen Formulierungen …

In meinem Spanisch beispielsweise sind meine Sätze als Expat auch eher kurz und übersichtlich. Und aus der akademischen Welt berichtet Louie Giray von der Abwertung als KI-generierte Texte im Falle ausländischer Wissenschaftler:innen aufgrund deren Sprachstil mit eher gleichlangen, kurzen Sätzen.

Als Bloggerin, die sich früh damit beschäftigt hat, dass Texte auch online gut lesbar und verständlich sind, breche ich meine durch die wissenschaftliche Ausbildung geprägten Schachtelsätze auf. Schreibe aktiver mit Verben als mit Substantiven. Dazu lese ich meine Texte zum Beispiel selber laut vor, um lange Wortsammlungen in Sätzen besser zu erkennen. Jetzt lasse ich solche Sätze dann doch einfach mal im Text drin.

Und zum Thema Kürze angemerkt: Inzwischen ist wichtig, keine isolierte Prüfung eines Absatzes aus einem Text oder eines sehr kurzen Beitrags wie eine Nachrichtenmeldung oder ein Abstract mit KI-Detektoren durchzuführen. Das wird kaum ein belastbares Ergebnisse liefern, da muss schon mehr Textfutter angeliefert werden.

Geht dir das auch gegen den Strich?

Ich meine den Gedankenstrich. Wie eingangs beschrieben, vermeide ich ihn inzwischen. Denn ja, es mir durchaus aufgefallen: In den Textvorschlägen machen die KI-Generatoren überaus gerne Gebrauch davon. Es macht längere Sätze so schön klar. Tja, bitten wir in unseren Prompts die KI nicht, klar und deutlich zu formulieren, was uns vielleicht gerade eher nebulös im Kopf herum geht?

Wer sich ein bisschen mit Typografie und länger mit Originaltexten aus den USA vertraut ist, weiß: Es geht da besonders auch um einen doppeltlangen Gedankenstrich, der in den USA üblich, im deutschsprachigen Raum jedoch unbekannt ist.

  • Im Deutschen unterscheiden zwischen dem Bindestrich ‚-‚ für Kopplungen und dem Gedankenstrich ‚–‘ (Halbgeviertstrich in der Typografie) für Einschübe oder Satzteile, die wir als flüchtigen Gedanken hinzufügen möchten, abgetrennt mit Leerzeichen.
  • Im British English wird es ähnlich wie im Deutschen gehalten; der Gedankenstrich ‚–‘ dient der Unterbrechung, wird aber ohne Leerzeichen direkt angeschlossen und heisst dort ‚en dash‘.
  • Die KI nutzt den Bindestrich ‚-‚ für Kopplungen wie wir, setzt aber für Einschübe auf den in den USA gebräuchlichen sehr langen Gedankenstrich ‚—‘, genannt ‚em dash‘, dem Geviertstrich in der Typografie. Der ‚en dash‘ wird hier für Angaben mit Zahlen und Daten genutzt, wie in ‚July–August 2026‘.

Du siehst also, wer die längeren – und im Deutschen ungebräuchlichen – Gedankenstriche aus einem KI-Text nutzt, signalisiert: Die Formulierung ist nicht von mir.

Nur wissen es viele auch schlicht und ergreifend nicht! Ihnen gefällt der längere und damit prägnantere Gedankenstrich zur Unterbrechung, sagten sie mir strahlend. Leute, da wäre ich nicht drauf gekommen! Es steckt im Vergleich zu anderen sehr viel Lektorat-/Korrektorat-Erfahrung in mir aus der Zeit als Redakteurin und aus zwei intensiven Buchüberarbeitungen im Sinne der deutschen Rechtschreibung. Wer also aus kosmetischen Gründen den langen Gedankenstrich verwendet, sendet so versehentlich mit dem eigens formulierten Satz flankiert von den so schön übersichtlichen Satzzeichen ein falsches Signal an die Content-Checker.

Ewiger Wettlauf …

Mit ein wenig Verständnis von Künstlicher Intelligenz und mit Blick auf die langjährigen, frustrierenden Erfahrungen mit Cybersicherheit wird klar, dass das für die Anbieter solcher Detektoren ein nicht endender Wettlauf ist. Wenn jemand analysiert, wie eine Lösung zum Aufspüren von mit KI erstellten Inhalten arbeitet, dann kann – und wird – dies manipuliert werden.

Das führt dann zu den false positive-Ergebnissen: Texte, die tatsächlich ohne großartiges menschliches Zutun von einer KI verfasst werden, dabei aber nicht als KI-generiert erkannt werden.

Was also tun?

Klare Regelungen

Heute fehlen an vielen Stellen zeitgemäße Vorgaben, was an KI-Beteiligung erlaubt ist bei der Erstellung von Texten, die als Buchmanuskript, als journalistischer Text, als Schulaufgabe, als akademische Arbeit, Dissertation angefertigt werden.

Persönliche digitale Arbeitsumgebungen

Eine Lösung im Bildungsbereich wäre es, ähnlich NotebookLM individuell abgesicherte Bereiche für den akademischen Nachwuchs einzurichten, in denen sie ihre Quellen, Ideen, Erkenntnisse und Gedanken sammeln, ihre Entwürfe schreiben, die sie dann schlussendlich von der KI auf der Basis des dort befindlichen Materials schönschreiben lassen. Die zuständigen Prüfer:innen haben hier Zugang.

Aktiv bleiben statt an KI-Detektor delegieren

Viele vergessen, dass ein Tool zur Prüfung von Texten auf deren KI-Beteiligung selber eine KI-Anwendung ist. Einerseits predigen die Lehrkräfte, glaub nicht ungeprüft, was dir eine KI erzählt, sie könnte halluzinieren. Und selber schicken sie diese gesunde Skepsis gerne mal in die Ferien, wenn es um die Ergebnisse der KI-Detektoren geht.

Daher: Kopf einschalten anstatt einem KI-Detektor alles erst mal zu glauben.

»4 mal D: 
DAVOR denken,
DABEI denken,
DANACH
DENKEN 
in der Zusammenarbeit mit KI.«
– Birgit

Dieses »4 D-Mantra« aus meinem Blog können wir auch hier entsprechend einsetzen:

  • Davor denken und prüfen,
    • ob der Text überhaupt lang genug ist für eine tragfähgie Analyse (mehr als 100 Wörter),
    • ob die Sprache zum Tool passt (akademische Sprache, Fremdsprachen-Mix),
    • ob es von der Autorin / dem Verfasser des Textes Material aus der Zeit vor 2022 zum Vergleich gibt.
  • Dabei denken und
    • aufmerksam sein, auf welchen Elementen die jeweilige Beurteilung der Prüf-KI abhebt,
    • im Sinn haben, dass die Überprüfung nach der Wahrscheinlichkeit fahndet, dass KI in bei der Erstellung des Textes im weitesten Sinn assistiert hat,
    • im Sinn haben, dass ein positives Ergebnis nur besagt, dass KI in irgendeiner Weise zur Texterzeugung verwendet wurde wie zum Beispiel ein KI-basiertes Tool zur Rechtschreibkorrektur oder Stilverbesserung.
  • Danach denken und
    • das Ergebnis lediglich als Hinweis, als Möglichkeit, als Vermutung, als Fingerzeig anzusehen,
    • das Prüfergebnis allein nie als Beweis verwenden,
    • das Gespräch mit dem Autor / der Verfasserin des Textes suchen.
  • Denken anstatt
    • blind auf die Bewertung eines Tools zu vertrauen,
    • Vorverurteilungen auszusprechen,
    • das Vertrauensverhältnis zu dem jeweiligen Menschen zu zerstören.

Eigentlich doch gar nicht so schwer, wenn wir uns die Zeit nehmen, anstatt mit Vorverurteilung den ’schwarzen Peter‘ an die Verfasser:innen des Textes zu senden.

Und jetzt du: Wie gehst du mit dem Thema um?

Schreibst du anders?
Was hast du vielleicht an deinem Schreibstil verändert?
Prüfst du und hast für dich eine Strategie entwickelt, wie du mit dem Ergebnis umgehst?
Schreib es mir gerne in den Kommentaren!

Illustrationen: DoSchu mit Canva.com • Transparenzhinweis: Zu den typographischen Binde- und Gedankenstrichen habe ich mich mit Perplexity unterhalten.

Sharing is caring!

Tags:
Category: KI smart nutzen

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Spam-Schutz * Das Zeitlimit ist abgelaufen.

Diese Website benutzt Cookies lediglich um die Nutzerfreundlichkeit der Webseite zu verbessen. Wenn das ok für Dich ist, herzlich willkommen!
ok! >Datenschutzerklärung