当前位置:首页|资讯|AIGC|人工智能

AIGC专题:学术出版中AIGC使用边界指南(附下载)

作者:烟树晚雁发布时间:2024-03-01

原标题:AIGC专题:学术出版中AIGC使用边界指南(附下载)

今天分享的是AIGC专题系列深度研究报告:《AIGC专题:学术出版中AIGC使用边界指南》。

(报告出品方:中国科学技术信息研究所)

报告共计:12

海量/完整电子版/报告下载方式:公众号《人工智能学派》

背景

近年来,随着人工智能技术的迅速发展,特 别是2022年11月人工智能聊天机器人ChatGPT的 发布,人工智能内容生成(Artificial Intelligence Generated Content,简称AIGC)已经走进公众 视野,并被广泛利用。人们清楚地认识到人工智 能(AI)正在获得产生流利语言的能力,产生的 大量语句越来越难与人写的文本区分开来。一些 科学家已经在使用聊天机器人作为研究助手,帮 助其组织思维,对他们的工作产生反馈,协助其 编写代码并总结研究文献。AI在研究论文写作、 创作等方面的影响不断增强,但是对学术研究的 透明性、完整性产生重要影响,引起学术界的广泛关注。

学术界最担忧的是科学家、研究人员、学生 等可能会欺骗性地将AIGC生成的文本作为自己的 文本,或者简单使用AIGC并产生不可靠的研究成 果。LLMs(Large Language Models)通过学习 大量在线文本数据库中的语言统计模式来工作, 很容易产生错误和误导性信息,且无法显示其信 息的来源。如果没有输出控制,AIGC很容易被用 来产生不当言论或不可靠的研究结果,影响科研 生态环境。同时,使用AIGC还可能增加学术不端 检测的难度(例如抄袭和图像操纵检测)。因 此,如何使用AIGC,设定界限并提供可参考的指 南至关重要。

原则

透明度和问责制:透明度和问责制是学术出版中AIGC使用最基 本的原则。在学术研究到出版发行的过程中,所有参与者(包括研究人员、作者、同行评议人和 读者)都应该了解并明确披露AIGC的使用情 况,透明度应该包括数据透明度(包括底层数据 集、数据来源和数据处理方法),以及知识产权 和版权材料的使用情况。问责制则是关键利益相 关者应共同承担的责任,包括研究人员、资助 者、政策制定者和出版商,应建立问责标准和相 关信息。

质量和诚信:确保质量和诚信是在学术研究中AIGC应用建 立信任的基础。从算法的设计和构建,到用于训 练AIGC的输入,再到实际应用中使用的输入,应坚持问责和透明原则,并通过标识符或反馈等手 段表明AIGC的使用,保证学术研究的质量和诚信 不受AIGC技术使用的影响。

可持续发展:AI系统的多学科性质使其非常适合解决全球 关注的领域,如联合国可持续发展目标、碳中和 等。它还为公共和私营组织提供了提高效率的机 会,以实现更大的生态可持续性和责任。AI系统 承载着造福全人类,包括子孙后代的承诺。为高质量输入数据的供应商提供资金和其他奖励措 施,如出版商创建的出版物和数据库,有助于提 取重要的可采取行动的知识。可持续发展应是AIGC本身的核心原则。为减 少重复和浪费,使用AIGC应避免过度依赖可能暂 时或永久不可用的数据,同时工具的功能模块应 基于公认标准和指南,以确保数据可查找、可访问、可互操作和可重复使用。

行为框架/实践指导

AIGC可在研究开展及学术出版的各个阶段提 供辅助作用(服务)。为了营造良好的科研氛 围,防患于未然,避免/减少不当使用AIGC行为 的发生,本部分提供一个符合道德行为的框架, 以帮助作者、研究机构、学术期刊出版单位等就 如何合规合理地使用AIGC做出指导。

某些情况下,研究人员已经收集了数据,但 不确定用何种最佳的统计分析来验证其假设。研 究人员可使用AIGC来选择最合适的分析方法或 进行统计分析,但所用的数据必须是研究人员进 行实验并收集的,并且研究人员需要对AIGC所 提供的统计分析结果进行验证,确保统计结果可 靠性。

当涉及AIGC推荐的任何内容时,“引用相关 性”至关重要。研究人员需确保引用的内容与论文 切实相关,包括引文和被引内容的真实性。在没有人类研究人员指导的情况下,AIGC不 能独立发起一项原创性研究,也不能对已发表的作 品或研究设计负责。同样,它在绝大多数国家也没 有法律地位或持有或转让版权的能力,而这些责任 和能力是对作者身份的基本要求。因此,根据 COPE对人工智能工具的立场声明,AIGC不能履 行文章作者的角色,也不能被列为文章作者。

报告共计:12页

海量/完整电子版/报告下载方式:公众号《人工智能学派》


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1