2 月 24 日 , 今日头条平台治理开放日在京举办。此次活动旨在与学界专家及各方媒体一同聚焦网络虚假谣言、同质化发文等领域问题 , 并分享今日头条在内容生态、平台安全等方面的成功治理经验。

不久前 , 今日头条发布了《2024 年度治理报告》, 报告统计 : 过去一年中借助科普传播、反诈宣传 , 以及一系列安全治理措施 , 平台累计拦截不实信息超 500 万条 , 处理低质 AI 内容超 93 万条 , 处罚同质化发文超 781 万篇 , 为涤清网络虚假信息和安全隐患 , 提供了可靠的行业治理范本。

开放日上 , 今日头条平台针对 AI 谣言与同质化发文等现象所采取的积极应对策略 , 成为现场专家、行业人士与媒体热议的焦点。

清华大学新闻与传播学院副教授陆洪磊在发言中 , 首先系统分析了 AI 谣言在生成式 AI 技术的加持下 , 呈现出的强 " 说服性 "、虚假性与传播性等特点 , 使得传统辟谣手段难以招架。陆洪磊教授认为 , 今日头条近年来所采取的四位一体防御工事 , 即将 " 内容治理制度、内容审核、辟谣教育、内外联动 " 一并纳入 AI 谣言的识别及治理当中 , 为 AI 谣言的治理提供了一条具有可行性的发展之路。

清华大学新闻与传播学院副教授陆洪磊

在关注 AI 谣言治理的同时 , 到场媒体也就如何正确引导 AI 内容创作 , 并与低质 AI 内容做区分等问题 , 在现场向今日头条生态治理运营负责人韩雨桐进行了提问。韩雨桐表示 , 今日头条非常支持创作者合理运用 AI 技术以提升创作效率 , 但对于通过 AI 技术生成的低质内容 , 平台始终采取明确且坚决的治理态度 , 一直以来平台都在通过技术手段监控 AI 内容的整体流量占比 , 从而使平台内容生态维持在健康占比之上 , 在保护原创作者的同时 , 也欢迎新技术在平台良性发展。

今日头条生态治理运营负责人韩雨桐

AI 技术既是治理核心 , 也是监管利刃。对今日头条如何以 AI 技术应对同质化发文等问题 , 媒体对相关业务负责人进行了提问。

对此 , 今日头条安全运营负责人闫梦茹解释说 , 在同质化发文治理方面 , 今日头条同样采取了富有针对性的解决思路。过去一年 , 今日头条安全运营部门陆续建立起完善的 " 风险发现→风险识别→风险处置 " 全流程治理体系 , 对以同质化发文为代表的网络乱象进行持续治理打击 , 其中就包括在审核团队和审核机制中融入 AI 能力 , 从而实现对海量信息的甄别和提取。未来 , 今日头条也将把更多精力投入模型能力的提升之上 , 以期更好发挥 " 早识别、多拦截、多提示、快速干预 " 的网络不良信息治理经验 , 这一举措和思路也得到了开放日现场各学界专家及媒体的认可。

今日头条安全运营负责人闫梦茹

以此次 " 平台治理开放日 " 为契机 , 未来 , 今日头条将持续强化在平台安全与生态治理方面的探索及投入 , 为社会和用户营造更加绿色、健康、优质的互联网环境。