KI-Policy

Richtlinien für die Verwendung generativer Künstlicher Intelligenz im Rahmen der Publikation bei German Medical Science/PUBLISSO

Die folgenden Richtlinien basieren auf den Empfehlungen des Committee on Publication Ethics (COPE) [1], des International Committee of Journal Editors (ICJE) [2], der International Association of Scientific, Technical & Medical Publishers (STM) [3] sowie der Europäischen Kommission [4].

Verwendung generativer Künstlicher Intelligenz (KI) bei der Erstellung von Manuskripten

KI-Tools dürfen den eigentlichen Schreibprozess nicht ersetzen, sondern nur als Hilfsmittel, etwa bei der Ideenfindung, Recherche oder Verbesserung des Textes, verwendet werden. Die Autor:innen sind verantwortlich für die inhaltliche und formale Richtigkeit ihres Manuskripts. Dies gilt auch für die von einer KI generierten Aspekte. Eine sorgfältige Prüfung aller mithilfe einer generativen KI erstellten Inhalte ist daher unerlässlich. Die Autor:innen sind verpflichtet sicherzustellen, dass die KI-generierten Aussagen ausreichend mit passenden Literaturverweisen belegt sind und die Originalquellen, auf denen der Output basiert, zitiert werden. KI-generierter Output selbst ist nicht urheberrechtlich geschützt. Urheberrechtlichen Schutz erlangen die Autor:innen erst durch eine signifikante Überarbeitung, Weiterentwicklung und Ergänzung des Outputs.

Jegliche Nutzung generativer KI bei der Erstellung von Manuskripten ist offenzulegen. Hierzu zählen sowohl die Nutzung während des Forschungsprozesses, etwa bei der Datenanalyse, als auch die Verwendung generativer KI als Hilfsmittel während des Schreibprozesses. Je nach Art und Umfang der Verwendung ist die Nutzungserklärung im Methodenteil oder als Anmerkung am Ende des Manuskripts einzufügen. Hierbei ist transparent und detailliert darzulegen, auf welche Art und zu welchem Zweck generative KI genutzt wurde.

In der Erklärung über die Nutzung generativer KI sind folgende Informationen anzugeben:

Name der KI-gestützten Software
Version
Datum der Nutzung
Umfang bzw. Art der Nutzung
Ggf. Prompts

Folgende Besonderheiten sind außerdem zu beachten:

Grafische Darstellungen eigener Forschungsprozesse und -ergebnisse dürfen mithilfe generativer KI erstellt werden. Im Abbildungstitel sind der Name der verwendeten KI-Software, die Version und das Nutzungsdatum anzugeben. Jegliche darüber hinaus-gehende Nutzung generativer KI zur Erstellung von Abbildungen oder Videos ist untersagt. In allen Fällen ist sicherzustellen, dass die Nutzungsbedingungen der generativen KI eine Veröffentlichung als Teil des Artikels erlauben.
Wenn eine Übersetzung des Manuskripts mithilfe generativer KI erstellt wurde, ist dies in Form einer Anmerkung anzugeben.
Die Verwendung von generativer KI als Hilfsmittel für die Rechtschreib- und Grammatikprüfung sowie als Formatierungs- oder Zitationstool ist ohne Erklärung gestattet.

Neben der sorgfältigen Kontrolle und der transparenten Erklärung der Nutzung generativer KI sind ein kritischer Umgang mit dem Output der generativen KI und ein Bewusstsein für die Einschränkungen bzw. Schwachpunkte dieser Art von Software essenziell. Dazu zählen laut der Europäischen Kommission ein möglicher Bias in den Daten, die zum Training der generativen KI verwendet wurden, ein möglicher Bias im Prompt, Ungenauigkeiten oder sogenannte Halluzinationen der generativen KI, d.h. die Generation falscher Informationen, erfundene Zitationen und nicht existente Literaturverweise, sowie die fehlende Nachvollzieh-barkeit des Prozesses hinter dem Ergebnis, das ausgegeben wird (generative KI als „Black Box“) [4].

Bei der Eingabe von Daten in eine generative KI ist sicherzustellen, dass keine Datenschutz- oder Urheberrechtsverletzungen begangen werden, etwa beim Upload von Forschungsdaten oder Zitaten. Vertrauliche und personenbezogene Daten sind nicht in öffentlich zugängliche KI-Systeme einzugeben. Die Autor:innen sind darüber hinaus verpflichtet, sich vor Verwen-dung einer KI mit deren Nutzungsbedingungen und Datenschutzrichtlinien auseinanderzu-setzen. Auch von der Eingabe des eigenen Manuskripts in ein generatives KI-Tool, das die Daten für Trainings speichert und nachnutzt, ist abzuraten. Das Anvertrauen der eigenen Forschung an die KI kann zu einem Verlust von Reputation und der Anerkennung der eigenen Forschungsleistung führen.

Generative Künstliche Intelligenz erfüllt nicht die Kriterien für Autor:innenschaft, die in der Zeitschriften-Policy (https://www.publisso.de/open-access-publizieren/zeitschriften-artikel/zeitschriften-policy) festgelegt sind, und kann daher nicht als Autor:in aufgeführt werden. Insbesondere kann eine generative KI als Maschine keine Verantwortung für die Inhalte und die Forschungsmethodik der Veröffentlichung tragen. Deshalb darf weder der Output einer generativen KI als Quelle referenziert werden noch sind Verweise auf Quellen zulässig, bei denen eine generative KI als Autor:in gelistet wird.

Werden diese Richtlinien nicht eingehalten, kann dies zur Ablehnung des Manuskripts führen.

Verwendung generativer KI im Review-Prozess

Gutachter:innen und Editor:innen dürfen eingereichte Manuskripte oder Teile von Manuskripten nicht bei einer generativen KI hochladen, da die Vertraulichkeit des Review-Prozesses so kompromittiert oder Datenschutz und Urheberrecht verletzt werden könnten. Diese Regelung gilt auch für Verdachtsfälle, bei denen eine nicht deklarierte KI-Nutzung vermutet wird.
Auch bei der Erstellung des Reviews darf keine generative KI verwendet werden. Der Review-Prozess ist eine wichtige Maßnahme der Qualitätssicherung, die auf menschlicher Expertise zu beruhen hat.
Aus Gründen der Vertraulichkeit ist es Autor:innen untersagt, das von den Reviewer:innen erstellte Gutachten in eine generative KI einzugeben. Die Überarbeitung des Manuskripts ist Aufgabe der Autor:innen und darf nicht mithilfe generativer KI erstellt werden.

Verwendung generativer KI durch GMS/PUBLISSO

Derzeit verwendet GMS/PUBLISSO keine generative KI als Hilfsmittel, weder bei der Vorbereitung der Manuskripte für den Review-Prozess, während der redaktionellen Bearbeitung akzeptierter Manuskripte noch im Rahmen des technischen Umsetzung der Publikation. Sollte sich dies ändern, verpflichtet GMS/PUBLISSO sich, das bekanntzugeben.

Literatur

[1] Committee on Publication Ethics (COPE). COPE Focus on artificial intelligence. Verfügbar unter: https://publicationethics.org/cope-focus/artificial-intelligence

[2] International Committee of Journal Editors (ICJE). V. Use of Artificial Intelligence in Publishing. In: Recommendations for the Conduct, Reporting, Editing, and Publication of Scholarly Work in Medical Journals. 2026 Jan. Verfügbar unter: https://www.icmje.org/recommendations/browse/artificial-intelligence/

[3] International Association of Scientific, Technical & Medical Publishers (STM). Generative AI In Scholarly Communications. 2023. Verfügbar unter: https://stm-assoc.org/document/stm-generative-ai-paper-2023/

[4] European Commission. Living guidelines on the responsible use of generative AI in research. Brüssel: 2025 Apr 15. Verfügbar unter: https://research-and-innovation.ec.europa.eu/news/all-research-and-innovation-news/guidelines-responsible-use-generative-ai-research-developed-european-research-area-forum-2024-03-20_en

ZB MED ist Mitglied von DataCite e.V.

DataCite ist eine internationale Non-Profit-Vereinigung, die Services und Know How rund um das Management und die Referenzierung von Forschungsdaten bietet.

ZB MED setzt sich für Chancengleichheit ein

TOTAL E-QUALITY Deutschland e. V. zeichnet ZB MED 2024 bereits zum fünften Mal mit seinem Zertifikat für das Engagement aus.

ZB MED steht für Open Access

ZB MED setzt sich für einen freien Zugang zu Wissenschaft und Forschung ein – beispielsweise mit dem Publikationsportal PUBLISSO.

Das Land NRW fördert ZB MED

ZB MED ist eine gemeinnützige Stiftung des öffentlichen Rechts, die vom Ministerium für Kultur und Wissenschaft des Landes NRW finanziert wird.

ZB MED kooperiert mit der AWMF

Die Arbeitsgemeinschaft der Wissenschaftlichen medizinischen Fachgesellschaften (AWMF) bündelt die Interessen der medizinischen Wissenschaft und trägt sie nach außen. Sie handelt dabei im Auftrag ihrer mehr als 180 medizinisch-wissenschaftlichen Fachgesellschaften.