Es wird zunehmend schwieriger, den Einsatz künstlicher Intelligenz in wissenschaftlichen Publikationen und akademischen Texten zu erkennen. Eine aktuelle von dem Computerlinguisten Fırat Mıhcı durchgeführte Studie hat gezeigt, dass KI-Modelle Erkennungssysteme vollständig umgehen können, indem sie die von ihnen selbst erstellten Entwürfe neu schreiben. Die Genehmigung dieser Texte durch menschliche Redakteure und ihre Veröffentlichung unter echten Namen führen dazu, dass von Maschinen erzeugte Sprachmuster mit der Zeit als Teil des allgemeinen menschlichen Wortschatzes übernommen werden.
In der Studie wurden 18 tausend 989 wissenschaftliche Abstracts untersucht
In der Studie wurden 18 tausend 989 wissenschaftliche Abstracts, die zwischen 2019 und 2026 in drei verschiedenen Disziplinen veröffentlicht wurden, eingehend untersucht. Beim Vergleich der Zeiträume vor und nach dem Beginn des Einsatzes von KI-Tools, die Ende 2022 Verbreitung fanden, stieg der Anteil der mit künstlicher Intelligenz in Verbindung gebrachten Wörter in Abstracts aus dem Bereich der Computerlinguistik von 1,9 auf 14,0 pro 10 tausend Wörter. Dieser Anstieg wurde mit ungefähr dem Siebenfachen angegeben.
Auch in den neurowissenschaftlichen Abstracts war eine ähnliche Entwicklung zu beobachten. Der Anteil stieg in diesem Bereich von 1,7 auf 8,7 pro 10 tausend Wörter und nahm damit um ungefähr das Fünffache zu. In mathematischen Abstracts stieg der Anteil von 0,9 auf 1,3. Die Forschenden behandelten diese statistisch unklare Veränderung als Kontrollgruppe.
Arbeiten wie der MIT-Bericht, der gezeigt hatte, dass Bachelorarbeiten an Bildungseinrichtungen bereits zuvor automatisiert worden waren, hatten auf die Auswirkungen künstlicher Intelligenz auf die akademische Produktion aufmerksam gemacht. Die neue Studie zeigt anhand konkreter Daten, in welchem Ausmaß sich diese Auswirkungen in der veröffentlichten Literatur widerspiegeln.
Veränderungen bei häufig verwendeten Wörtern
In der Frequenzanalyse wurde festgestellt, dass sich die im Output künstlicher Intelligenz häufig verwendeten Wörter im Laufe der Zeit verändert haben. In den untersuchten Abstracts sank die Häufigkeit des im Jahr 2024 mit einem Anteil von 2,75 % verwendeten Wortes „delve“ (etwas eingehend untersuchen) im noch nicht abgeschlossenen Datensatz des Jahres 2026 auf 0,12 %. Gleichzeitig wurde festgestellt, dass sich häufig von künstlicher Intelligenz verwendete Begriffe wie „intricate“, „showcase“, „nuanced“ und „underscore“ in der Literatur etabliert haben.
Es wurde festgestellt, dass Gutachter und Redakteure vor der Veröffentlichung dieser Texte keinen Hinweis darauf vermerkten, dass sie künstlichen Ursprungs waren.
Die Endlosschleife in Erkennungssystemen
Dass von künstlicher Intelligenz erzeugte Texte sich selbst korrigieren und dadurch dem Erscheinungsbild menschlicher Texte annähern, stellt für bestehende Erkennungssoftware ein doppeltes Risiko dar. Erkennungssysteme, die mit älteren Texten trainiert wurden, können die originären Texte echter menschlicher Autoren, die von künstlicher Intelligenz beeinflusst wurden, versehentlich als von künstlicher Intelligenz erzeugt markieren. Dagegen sind neue Modelle, die anhand aktueller Artikel trainiert wurden, bei der Erkennung künftig erstellter Texte künstlicher Intelligenz unzureichend, da sie die von künstlicher Intelligenz geprägte Sprache als normale Grundlage akzeptieren.
Die Forschenden weisen darauf hin, dass textbasierte Prüfmechanismen an Zuverlässigkeit verloren haben. Sie stellen fest, dass sich das Konzept menschlicher Texte im Laufe der Zeit verändert hat, und betonen, dass zum Schutz der akademischen Integrität Methoden erforderlich sind, die über eine Stilprüfung hinausgehen.