国际出版机构使用人工智能工具的出版伦理政策分析

摘要/Abstract

摘要： 从科学网（Web of Science）的期刊引证报告（Journal Citation Reports）数据库排名前 70 的出版机构中筛选出 23 家，分析其人工智能（AI）出版伦理政策。在作者使用 AI 方面，出版机构主要从署名、AI 使用边界、披露形式进行了规范。出版机构对 AI 身份问题已达成共识，即 AI 不能成为署名作者；出版机构允许在研究和写作中使用 AI，但使用者需要对内容负责且充分披露，而目前只有少数（26.1%）机构明确规定了作者的 AI 使用边界，且各机构之间对于如何披露的规定存在差异。关于审稿者使用 AI 的政策，鉴于保密性要求，机构一般不允许审稿者将稿件上传至无法保证安全性的 AI 工具，但关于如何披露和违反 AI 使用政策的惩罚措施还有待完善。针对上述问题，建议出版机构从伦理、技术和法律三个层面，以及协同治理的角度，与学术共同体和管理部门合作，共同制定学术出版中 AI 使用的伦理规范，以营造健康的学术生态环境。

Abstract:

The article selectes 23 publishing institutions from the top 70 in the Journal Citation Reports database of Web of Science and analyzes their artificial intelligence（AI）publishing ethics policies. In terms of the author’ s use of AI，publishing institutions have mainly standardized the authorship， AI usage boundaries and disclosure forms. Publishing institutions have reached a consensus on the issue of AI identity. That is， AI cannot become a coauthor. Publishing institutions allow the use of AI in research and writing， but require authors’ responsibility and full disclosure. Currently only a few institutions（26.1%） have clearly deﬁned the boundaries of authors’ AI usage，and there are differences among institutions on how to disclose them. Regarding the policy on the use of AI by reviewers，due to confidentiality requirements， institutions generally do not allow reviewers to upload manuscripts to AI tools that cannot guarantee security. However， there is still room for improvement on how to disclose and punish violations of AI usage policies. In response to the above issues， it is suggested that publishing institutions collaborate with academic communities and management departments from the perspectives of ethics， technology and law， as well as collaborative governance， to jointly develop ethical standards for AI applications in academic publishing， in order to create a healthy academic ecosystem.

中图分类号:

G237

董敏　刘雪梅　杜亮　雷芳. 国际出版机构使用人工智能工具的出版伦理政策分析[J]. 出版科学, 2024, 32(06): 15-25.

Dong Min　Liu Xuemei　Du Liang　Lei Fang. Analysis on Publishing Ethics Policies of International Publishers for the Use of Artiffcial Intelligence Tools[J]. Publishing Journal, 2024, 32(06): 15-25.

参考文献

[1] Lambert J， Stevens M. ChatGPT and generative AI technology ： a mixed bag of concerns and
new opportunities [J]. Computers in the Schools， 2023 ：1-25
[2] Sedaghat S. Early applications of ChatGPT in medical practice， education and research [J].
Clinical Medicine（Lond）， 2023， 23（3）： 278
[3] Rahimi F， Talebi Bezmin Abadi A. ChatGPT and publication ethics [J]. Archives of Medical Research，
2023， 54（3）： 272
[4] ChatGPT helps radiologist churn out 16 papers in 4 months [EB/OL]. [2024-01-17]. https ：//
healthimaging.com/topics/artificial-intelligence/chatgpt-helps-radiologist-churn-out-16-papers-4-
months
[5][30] Donker T. The dangers of using large language models for peer review[J]. The Lancet
Infectious Diseases， 2023， 23（7）： 781
[6][31] Hosseini M， Horbach SPJM. Fighting reviewer fatigue or amplifying bias? Considerations and
recommendations for use of ChatGPT and other large language models in scholarly peer review [J].
Research Square， 2023， rs.3.rs-2587766
[7] Ali MJ， Singh S. ChatGPT and scientiffc abstract writing ： pitfalls and caution [J]. Graefes Archive
for Clinical and Experimental Ophthalmology， 2023， 261（11）： 3205
[8] 华劼 . 合理使用制度运用于人工智能创作的两难及出路 [J]. 电子知识产权，2019（4）：28-39
[9] 英伦阁 . 人工智能在研究与出版业的应用 [EB/OL]. [2024-01-16]. https ：//www.enago.cn/academy/
ren-gong-zhi-neng-zai-yan-jiu-yu-chu-ban-ye-de-ying-yong
[10] Khalifa M， Albadawy M. Using artiffcial intelligence in academic writing and research ： An essential
productivity tool [J]. Computer Methods and Programs in Biomedicine Update， 2024（ 5）： 100145
[11][14] 任安麒 . 数字出版领域智能语言模型的应用、风险与治理：基于 ChatGPT 技术特征的分析 [J]. 出版
科学，2023，31（3）：94-102
[12][17] 宋时磊，杨逸云 . 应用场景、风险与前景：ChatGPT 类大语言模型时代的学术出版 [J]. 出版科学，
2023，31（5）：76-84
[13] COPE. Discussion document ：Artiffcial intelligence（AI）in decision making[EB/OL]. [2024-01-17]. https://
publicationethics.org/sites/default/ffles/ai-in-decision-making-discussion-doc.pdf
[15][22] 方卿，丁靖佳 . 人工智能生成内容（AIGC）的三个出版学议题 [J]. 出版科学，2023，31（2）：5-10
[16] Stokel-Walker C. ChatGPT listed as author on research papers ：Many scientists disapprove[J].
Nature， 2023， 613（7945）： 620-621
[18] COPE. COPE position statement（ 2023） In ： Authorship and AI tools[EB/OL]. [2024-01-16]. https ：//
publicationethics.org/cope-position-statements/ai-author
[19][32][41] ICMJE. Recommendations for the conduct， reporting， editing， and publication of
scholarly work in medical journals[EB/OL]. [2024-01-17]. https ：//icmje.org/recommendations
[20] Zielinski C， Winker MA， Aggarwal R， et al. Chatbots， Generative AI， and Scholarly Manuscripts.
WAME Recommendations on Chatbots and Generative Artiffcial Intelligence in Relation to Scholarly

Publications[EB/OL]. [2024-01-17]. https ：//wame.org/pdf/Chatbots-Generative-AI-and-ScholarlyManuscripts.pdf

[21] Lund B D， Naheem K T. Can ChatGPT be an author? A study of artiffcial intelligence authorship
policies in top academic journals [J]. Learned Publishing， 2024， 37（1）： 13-21
[23] 范心悦 . 从算法认知看人工智能的责任主体问题 [D]. 甘肃：兰州大学，2023 ：7
[24] OpenAI. Terms of use [EB/OL]. [2024-02-17]. https ：//openai.com/policies/terms-of-use
[25][39][43][44] 程睿 . ChatGPT 介入学术论文透明度义务的可视正义功能 [J]. 科学学研究，2023，41（12）：
2138-2146
[26] Fujimoto S， Takemoto K. Revisiting the political biases of ChatGPT [J]. Frontiers in Artiffcial Intelligence，
2023（12）：2138-2146
[27] Alawida M， Mejri S， Mehmood A， et al. A comprehensive study of ChatGPT ： Advancements，
limitations， and ethical considerations in natural language processing and cybersecurity[J]. Information，
2023， 14（8）： 462
[28] Yuan WZ， Liu PF， Neubig G. Can we automate scientiffc reviewing [J].2021， arXiv ：2102.00176
[29] Graf A， Bernardi RE. ChatGPT in research： Balancing ethics， transparency and advancement [J].
Neuroscience，2023， 515 ： 71
[33] 李志祥 . 伦理学视域下的人工智能发展 [EB/OL]. [2024-01-17]. https ：//news.gmw.cn/2024-02/19/
content_37150949.htm
[34] 韩旭至 . 生成式人工智能治理的逻辑更新与路径优化 [J]. 行政法学研究， 2023（6）： 30-42
[35] 蒋雪颖，刘欣 . 生成式人工智能技术下的学术生产与出版：变革、失范与路径 [J]. 数字图书馆论坛， 2023，
19（5）： 64-71
[36] 邓若玉 . 人工智能发展的科技伦理反思 [J]. 广西社会科学， 2020（10）： 93-97
[37] 吉林大学学报工学版 .《学术出版中 AIGC 使用边界指南》正式发布 [OL].[2024-01-17]. https ：//
mp.weixin.qq.com/s?biz=MzI2MjUzMDUwOQ==&mid=2247489029&idx=2&sn=ee1c3984ba809ee8
a522e7e52360ad4a&chksm=ea48e2a7dd3f6bb1eeefc99a401efd33b230b7c98963a29a741b98026
ca6ad48f98f4b389c4c&scene=27
[38] 中华口腔医学杂志 . 中华医学会杂志社关于在论文写作和评审过程中使用生成式人工智能技术的有关规定
[OL]. https ：//mp.weixin.qq.com/s?__biz=MzA5Nzc2MjE5NQ==&mid=2653558636&idx=1&sn=370aaf
b6456cb83191f104c612d88b95&chksm=8b455990bc32d0862170c5ded1d019c3c642e7e70bd148ca
937c3618274047cd448c80fec9ec&scene=27
[40] Gaggioli A. Ethics ： Disclose use of AI in scientiffc manuscripts [J]. Nature， 2023， 614（7948）： 413
[42] Hosseini M， Resnik DB， Holmes K. The ethics of disclosing the use of artiffcial intelligence tools in
writing scholarly manuscripts [J]. Research Ethics， 2023， 19（4）：449-465
[45] Bauchner H， Rivara FP. Use of artificial intelligence and the future of peer review [J]. Health
Affairs Scholar， 2024， 2（5）： qxae058