AI生成内容可以检测！准确率超90％
国内首个AI生成内容检测工具——AIGC-X官网截图。
人民网北京3月1日电 (记者申佳平)从AI绘画、AI作曲到虚拟人，再到近期爆火的ChatGPT， 伴随人工智能生成内容(AIGC)技术发展加速，内容生产方式迎来巨大变革。与此同时，在不断“生长”的互联网内容世界，找到一把明晰虚实、分辨真假的技术标尺，也成为关乎行业长远健康发展的关键。
今日，AIGC-X正式开始全网公测。据悉，这是由人民日报社主管、依托人民网建设的传播内容认知全国重点实验室，中国科学技术大学，合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具。试用入口为http://ai.sklccc.com/AIGC-X/#/。
据介绍，AIGC-X可快速区分机器生成文本与人工生成文本，目前对中文文本检测的准确率已超过90%。
传播内容认知全国重点实验室首席科学家张勇东表示，因具有对话咨询、文章写作、内容润色等广泛的应用场景，以ChatGPT为代表的AIGC技术迎来发展新阶段。随之而来的伦理规范、内容侵权、信息造假等风险挑战同样不容忽视，迫切需要推出针对性的检测产品，提升对内容生产新范式的监管治理技术能力。
他介绍，通过采用算法融合与知识驱动的人工智能框架，使用深度建模来捕捉困惑度、突现频次等隐式特征，AIGC-X可对AI技术生成的假新闻、内容抄袭、垃圾邮件进行检测，在内容版权、网络钓鱼、虚假信息和学术造假检测等内容安全、内容风控方面有广阔的应用前景。未来，AIGC-X还会扩展为对人工智能生成文本、图像乃至视频的通用智能识别模型。
“AIGC迫切需要适当的引导和规范。”传播内容认知全国重点实验室研究员靳国庆特别强调，要重视防范AIGC在虚假信息、学术造假、网络钓鱼等灰色领域的滥用。“AIGC-X将推动AI风险管理、安全评测技术的发展，为建立安全可控的AIGC生态提供技术支撑。”
据介绍，在此次发布AIGC-X之前，传播内容认知全国重点实验室已推出基于人工智能开发的“智晓助”和“白泽”两个内容风控系统，并在百余家机构使用。专注于内容风控业务的人民网信息技术公司已基于AIGC-X开发了“捕获AIGC”产品，通过“人民审校”微信公众号对外发布。
工业和信息化部公布的数据显示，我国AI核心产业规模目前已超过4000亿元，企业数量接近4000家，带动相关产业规模超数万亿元，并将持续快速增加。行业专家预测，作为数字经济和实体经济深度融合的新模式，AIGC将在赋能产业创新发展方面大有作为。
张勇东表示，“AIGC-X不是一个静态的技术，而是随着AIGC的发展而发展的。”目前受限于时间和资源，AIGC-X对非常规问题和场景的支持还有待完善。例如，AIGC-X目前只支持中文内容的检测，对英文的支持有待提高；还需要进一步完善对图像、音视频等内容的检测能力，支持全媒体的内容检测，为AIGC的健康发展保驾护航。