为了让AI更靠谱，华为和知网联手了

如何让AI生成的内容更靠谱？怎样检测文章中的“含AI量”有多少？生成式AI给出版传媒行业带来了哪些机遇和挑战？4月25日，“人工智能+”产业发展论坛暨“人工智能+”出版传媒融合发展研讨会在深圳举行。会议上，基于华知大模型的腾云全流程数字出版平台发布，来自出版传媒行业的专家学者们就AI浪潮对行业的影响发表了观点。该会议由中国期刊协会和同方知网数字出版技术股份有限公司共同举办。

打造真实可信的AI大模型

“一本正经地胡说八道”是许多人在使用AI生成专业内容时遇到的问题。如何让AI大模型更加真实可信？同方知网数字出版技术股份有限公司副总经理肖宏介绍，知网与华为合作，基于知网海量的高质量资源，以及华为的盘古大模型，共同开发了内容权威可信的中华知识大模型，简称“华知大模型”。

“华知大模型重点解决了现有通用基础大模型知识记忆错误、信息时效性不足、逻辑推理错乱、缺乏专业知识等问题，突出专业、安全、可信的优势。”据肖宏介绍，目前华知大模型已在教育、科研、出版、政务等多领域落地。

基于华知大模型的腾云全流程数字出版平台发布。

面向出版传媒行业痛点，知网基于华知大模型开发了腾云全流程数字出版平台。据介绍，该平台将AI技术融入选题策划、内容写作、智能审校、出版印刷、发布传播等出版全流程。例如，帮助编辑挖掘热点，协助完成稿件创作，对导向观点涉政、涉恐、涉暴、编校差错等内容进行审校。

值得一提的是，知网还同时推出了AIGC检测工具。“我们找到了机器写作的一些根本规律，通过AIGC检测工具，能够识别出哪些内容是人类创作的，哪些是机器生成的。”肖宏说道。据透露，知网抽取近两年175万余篇论文进行AI检测后发现，疑似AI生成文字占比30%以上的论文达到2248篇。

警惕AI导致的认知陷阱

在报告分享环节，多位专家谈到了人工智能技术对出版传媒行业的积极影响。中国期刊协会会长吴尚之表示，AI能够提高内容生产速度和规模，提供个性化的推荐和分析，有助于出版传媒工作者更好地了解市场和拓展需求，提高资源配置效率、传播力和影响力。

中国新闻出版传媒集团编委会主任丁以绣认为，AI技术全面、迅速、深度地影响了出版业态，多媒体出版、跨媒体出版、云出版、大数据出版、元宇宙出版等新兴概念不断涌现。

会议现场。

另一方面，生成式AI也带来诸多问题。中国新闻出版研究院产业发展咨询中心主任林晓芳提出，目前AI存在数据可靠性、内容失真性、情感缺失性和产品同质性等问题。她建议加快AIGC相关的政策规划、引导与监管，制定人工智能在出版业应用的系列标准。

高度依赖AI会对人类认知产生哪些负面影响？北京师范大学出版集团总编辑助理姜钰认为，人类可以将部分认知任务“外包”给AI，比如计算、记忆、存储、识别等。但如果将大脑对意义的理解和生成全都“外包”给AI，可能会产生思维懒惰、遮蔽效应、认知固化等问题，导致人类丧失认知主体的主导地位，成为机器的附庸。

（文中图片由主办方提供）

编辑 黄力雯 审读 张蕾 二审 关越 三审 刘思敏