CQ9电子人工智能与网络辟谣：做的守护者本系列第二期访谈——《人工智能与网络辟谣：做的守护者》，针对人工智能科技在辟谣工作中的创新应用主要内容，邀请新华网AIGC-Safe平台首席技术专家、中国科学院计算所数字内容合成与伪造检测实验室主任曹娟接受专访，就AI生成信息鉴别、伪造检测系统应用技术等问题，提供专业解答。人工智能技术，特别是近期GPT-4等生成式人工智能的爆炸式发展，将带领人类进入人工智能生成内容（AIGC）时代，未来AIGC数据将成为新增数据主流。但技术的快速发展也带来了新的未知安全风险。这些AI安全问题目前尚无定论。我们需要在技术研发、产业应用、制度设计等各方面加强合作，打出AI安全防护的组合拳。当前数字合成内容很多已经超过了人眼的辨识能力，多数人无法靠肉眼判断一段视频、一张照片或一段语音是否来自真人。要检测和鉴别这些伪造内容，核心是要回归技术。我们构建了训练数据自动生成平台作为数据底座，能够快速生成TB级的训练数据，支撑检测技术迭代，同时基于“生成—检测—对抗”的模型自进化流程，构建了十亿量级的多模态生成模型和检测模型底座CQ9电子，在攻防演练中提升检测水平。最后，针对具体应用，通过快速微调实现了多个行业场景高精度的伪造检测服务。以AI生成文本为例，随着ChatGPT类模型服务的普及，自媒体创作者开始使用AI生成文本大批量制作内容。其中，以博眼球、赚流量为目的，利用ChatGPT杜撰虚假新闻的情况越来越多。由于AI生成虚假新闻的文风非常贴近正规报道CQ9电子，因此既有审核能力很难及时发现并开展辟谣。AI生成文本检测技术及时填补了这一缺陷，保障了对这种新型伪造内容的快速有效识别。目前人工智能在网络谣言发现、查证工作中面临两大挑战。第一，新型伪造技术与传统伪造技术差异较大，造成传统检测模型大范围失效，例如传统检测模型多数无法识别出基于扩散模型生成的人物图像；第二，AI生成技术的普及降低了信息伪造的门槛，需要审核的AIGC数据越来越多，计算速度瓶颈日渐显现。面对这些挑战，关键是要提高检测模型的通用性，通过软硬件协同优化，满足高通量高并发需求。辟谣是消除虚假信息中的重要一环，如果人不能理解“为什么假”，就很难消除因虚假信息造成的错误认识。基于AIGC技术，我们有望提供更个性化CQ9电子、更易懂的自动化辟谣解释，这个解释可能是一份造假痕迹的分析报告，也可能是一段符合目标受众认知偏好的辟谣短文。AIGC-Safe将推动“识谣-辟谣”全链条智能化，用AIGC守护AIGC安全，用技术让世界更可信。新华网AIGC-Safe平台首席技术专家、中国科学院计算所数字内容合成与伪造检测实验室主任