zum Inhalt springen

Versteckte KI-Prompts in wissenschaftlicher Forschung: Manipulation im Peer Review

Datum: 31. Juli 2025
Autor: Erwin König
Kategorien: Kurz notiert

In wissenschaftlichen Arbeiten mehrerer internationaler Universitäten sind versteckte Prompts entdeckt worden, die offenbar darauf abzielen, KI-gestützte Peer-Review-Prozesse zu manipulieren. Zu den betroffenen Institutionen zählt auch die renommierte Waseda-Universität in Tokio. Insgesamt wurden in 17 Arbeiten aus 14 Universitäten in acht Ländern sogenannte Prompt Injections gefunden, etwa in weißer Schrift oder mikroskopisch kleiner Schriftgröße, sodass sie für menschliche Lesende unsichtbar bleiben. 

...

Um den Artikel in voller Länge lesen zu können, benötigen Sie ein Abo. Jetzt Abo abschließen oder mit bestehendem Konto anmelden!

Mehr zum Thema:

Europas Bibliotheken im Visier von Kunstraub

Zwischen 2022 und 2023 verschwanden in ganz Europa bis zu 170 seltene Erstausgaben russischer Klassiker, vor allem von Alexander Puschkin. Die Täter:innen agierten mit falschen Identitäten, ersetzten Originale durch einfache Attrappen und nutzten Sicherheitslücken in...

Wenn die KI-Suche blockiert

Die Integration von KI-gestützten Assistenten in Suchen von Bibliothekskatalogen verspricht bessere Rechercheergebnisse durch semantisches Verstehen und automatische Suchstrategien. Ein aktueller Beitrag von Aaron Tay macht jedoch deutlich, dass diese Technik neue...