11月21日，小红书副总裁许磊出席2024乌镇世界互联网大会“人工智能技术创新与治理”论坛，并发表主旨演讲。许磊指出，AIGC大幅降低内容创作门槛的同时，也对平台治理带来了新挑战。小红书已初步完成AIGC治理体系建设，将持续治理工作推进，守好“真实”的平台生命线。
随着生成式人工智能技术的兴起，算法从分发领域进入到内容生产领域，对内容平台带来了全新的机遇与挑战。AI辅助工具提升了用户创作的积极性，同时也降低了恶意仿冒的门槛，增加了虚构新闻、假冒真人引流和虚假营销的风险。
许磊表示，小红书为“真诚分享”而生，真实是小红书平台的生命线。为此，小红书在 2023 年就启动应对AIGC的治理体系建设，并在公司层面成立了专项组，加快治理工作推进。
首先，加大AI识别模型的研发投入，基于“分类器”技术的识别模型，平台对识别为疑似AI生成的内容进行显著标识，提醒用户注意甄别内容真实性。同时，平台设置了机器识别+人工识别的双重屏障，以减少AI生成低质内容的曝光，针对其中侵权、假冒、诱导等内容第一时间下架处理。
对于创作者，平台要求主动对AI生成内容进行显著标识，并持续简化打标流程，鼓励创作者利用新技术进行内容创新的同时，也积极参与到生态建设中。
“小红书将创新与治理两手抓，迎接好新一波人工智能技术浪潮带来的机遇与挑战。”许磊表示。