Diese Woche sorgt das Aufkommen von Produkten, die durch künstliche Intelligenz geschaffen werden, für Aufruhr in der wissenschaftlichen Verlagsbranche und lässt die Alarmglocken hinsichtlich der Gefahr von Fehlinformationen schrillen.

Die beiden Philosophieprofessoren Tomasz Żuradzk und Leszek Wroński entdeckten unter Addleton Academic Publishers drei Zeitschriften, deren Inhalte offenbar größtenteils mit generativer KI (Gen AI) erstellt wurden. Dies wird durch die Tatsache bestätigt, dass die Artikel in diesen Zeitschriften einem gemeinsamen Muster folgen und häufig gemeinsame Begriffe verwenden, und die Redaktionsgremien aller drei Zeitschriften identisch sind und aus zehn verstorbenen Mitgliedern bestehen, die dieselbe unbekannte Adresse in Queens, New, verwenden York.

Die Existenz dieser „Geisterzeitschriften“ beeinträchtigt nicht nur den Ruf der Verlage, sondern deckt auch Mängel im System zur Bewertung der Forschungskapazität auf. Das CiteScore-System, eine der angesehensten Messgrößen, zählt diese Zeitschriften zu den Top 10 für philosophische Forschung, da sie sich regelmäßig gegenseitig zitieren. Dies zeigt, wie einfach es ist, das Forschungsbewertungssystem für Beförderung und Einstellung zu nutzen, was möglicherweise zu ähnlichen Risiken in anderen Wissensberufen führt.

Laut den Professoren Żuradzk und Wroński wird der Ruf des gesamten wissenschaftlichen Forschungssystems erschüttert, wenn „Geisterzeitschriften“ und gefälschte Informationen weit verbreitet sind. Denn Rankings wie CiteScore dienen der Bewertung der Forschungsqualität und spielen eine wichtige Rolle bei Entscheidungen über akademische Auszeichnungen, Rekrutierung und Beförderung.

Mithilfe dieser Technologie können raffinierte Fake-Artikel erstellt werden, die sich negativ auf den Ruf seriöser Forscher auswirken und zu Ungerechtigkeiten bei der Kapazitätsbeurteilung führen. Dies erfordert eine umfassende Umstrukturierung der Forschungsbewertungssysteme, um sicherzustellen, dass sie die tatsächliche Forschungsqualität genauer widerspiegeln und nicht durch künstliche Inhalte ausgenutzt werden.

Um diesem Risiko zu begegnen, müssen synchrone Lösungen vorhanden sein, um Fälle von KI-Missbrauch in der wissenschaftlichen Forschung zu verhindern und zu bewältigen. Organisationen und Behörden müssen das Bewusstsein für dieses Problem schärfen und strengere Kontrollmechanismen für wissenschaftliche Veröffentlichungen aufbauen, um Transparenz und Ehrlichkeit in der Forschung sicherzustellen. Langfristig müssen wirksamere Instrumente zur Erkennung und Verhinderung gefälschter Artikel erforscht und entwickelt werden, um den Ruf der wissenschaftlichen Forschungsbranche zu schützen.

Dies ist auch eine Warnung an die wissenschaftliche Forschungsgemeinschaft vor den potenziellen Risiken künstlicher KI. Die Gewährleistung der Integrität und des Rufs des Forschungssystems ist von entscheidender Bedeutung für die nachhaltige Entwicklung der Wissenschaft in der Zukunft.