小红书积极响应中央网信办相关工作部署,积极参与上海市委网信办“清朗·整治AI应用乱象”专项行动,落实网站平台主体责任,深入清理AI类违规信息,治理AI违规账号,营造良好的网络环境,推动AI应用规范有序发展。本次专项行动将集中围绕AI内容标识、AI违规运营、AI数据安全、AI侵权造假等方向开展治理。 一、AI内容标识:这是每位创作者的义务 所有AI参与创作的内容,均须主动标识,这是平台规范,也是法定义务。 ✅ 哪些内容需要标识? 1.由AI生成的图文、音视频内容 2.经AI润色、修图配音等处理的再创作内容 3.使用AI合成换脸变声等视频内容 ✅ 如何标识? 在笔记发布页面,找到「笔记内容声明」功能,选择「AI生成」或「AI辅助创作」即可完成标识。 ❌ 以下行为严格禁止: 1.故意隐瞒AI生成属性,不添加标识或标识不规范 2.刻意消除、破坏AI生成内容的已有标识 3.在平台内传授「去除AI标识」的教程或工具 4.向他人提供去标识服务或兜售相关工具 对于未主动标注的AI内容,平台识别后将统一添加AI标识;如对标识结果有异议,可通过申诉通道反馈。 二、平台严厉打击的违规行为 1.AI全自动托管账号、无真实人类参与的机器人账号 2.AI造假:仿冒名人、虚构人设、伪造信息、制造谣言 3.AI侵权:未授权换脸换声、侵犯肖像权著作权 4.AI低质:批量同质化灌水、猎奇博眼球等违规内容 5.去标识:故意消除AI标识、传授去标识教程 三、平台治理常态化 今年以来,平台已累计处置各类AI不良行为超百万例,后续平台持续开展治理,视违规情节对笔记和账号采取对应处置措施。