12月27日，抖音发布2024年直播治理报告，全面阐释抖音直播过去一年的治理理念、技术及最新成果。
报告称，抖音在过去一年持续迭代主播“健康分”，通过加减分定级定档的长效管理机制引导主播“向善”，获得显著成效。此外，抖音利用AI技术不断提升治理速度和精度，有效解决风险曝光时长的痛点。升级未成年人保护机制，并积极探索“城市+平台”治理模式，完善综合治理体系。抖音直播还配合相关部门打击黄赌毒诈黑色产业链，捣毁百余个犯罪窝点，从源头消除违法犯罪分子对直播行业的污染，全力维护行业的健康发展。
主播管理精细化运营 机构需承担管理责任
2024年1月3日，抖音直播新版“健康分”管理机制正式生效，该机制是在针对直播间违规内容做单次处罚的基础上，平台根据主播日常直播增减账号“健康分”，并依据分值对账号分级定档，对应不同的长效管理措施。这也意味着，抖音的主播管理进入精细化运营阶段。
报告介绍，“健康分”低于70的主播，会被减少推荐、限制单日PK次数，甚至限制违规场次收益提现、关闭礼物收入功能等，0分主播则永久回收直播权限。主播的长期表现和收益绑定后，大量主播开始主动修正内容。至2024年底，共有100万主播被扣除过健康分，76%的低分主播主动调整内容后不再违规，直播间违规率明显下降。
同时，抖音直播制定了将“主播健康分”与机构进行关联的管理规则，如主播内容违规，机构需要承担对应的管理责任，并持续开展机构安全培训，2024年，机构主播的重复违规率下降10%。
引入音频审核大模型，强化违规内容治理
直播的魅力在于“所见即所得”，这决定了直播治理的关键在于最短时间识别、定位并处置违规直播，尽可能缩短违规内容曝光时长。
抖音直播在原有的AI应用基础上引入音频审核大模型，通过大量预训练，使其逐步掌握直播场景中的常用表达方式，并具备基本的逻辑推理能力，还能在分析文本内容的同时，兼顾环境音、氛围音等信号特征，感知音频包含的情绪，辅助判断语义。AI 技术的深度应用，将有效改善违规内容曝光时长的核心痛点，未来大量风险内容的识别、研判将逐渐由人审处置转移为机器自动识别 + 处置。
2024 年，随着 AI 大模型在直播审核、处置上的广泛应用，抖音直播着重加强对各类违规内容的治理，开展二十余次专项行动，共无限期回收直播权限账号32万个，清退直播机构526家。
升级重点人群保护机制 探索“城市+平台”联动治理模式
同时，抖音也在持续完善综合治理体系，结合城市、人群特点，探索不同的治理模式。2024年，抖音直播升级未成年人保护机制，推广“青少年模式”应用。“青少年模式”不提供打赏消费服务，可从源头阻断未成年人直播消费，平台也同步加强对未成年人绕过青少年模式消费等行为的监督。
未经监护人允许的未成年人打赏消费，一经核实，抖音直播将先行全额垫付退赔，平均21小时可完成退款，2024年共帮助9.5万个未成年人所在家庭快速退款。对于这些退款账号，平台将关闭其充值消费功能，预防再次消费。
另一方面，抖音直播在网红城市爆火的背景下，积极探索“城市+平台”治理模式。2024年，抖音直播联动长沙、沈阳等城市的相关部门，结合直播特点针对性建立“快速预防+高效处置”的联动机制，对反复违规的账号升级处置力度、对涉及线下违规的行为共同打击，违规行为大幅减少，并在多部门协同下，与直播机构、主播代表等发起文明直播的行业倡议。
加强与警方配合，严厉打击线下违法犯罪行为
平台在治理中还发现，大部分严重违规的直播间，如低俗色情、诈骗导流等，都来自线下违法甚至犯罪行为，仅靠线上治理无法真正解决问题。即便在单个平台防范住某个黑产团伙，他们仍可以利用其他平台进行违法犯罪行为，严重阻碍行业健康发展。
在此背景下，过去一年抖音直播成立专项团队，分级分类摸排违规线索，深入研判账号信息特征后上报公安机关，并紧密配合相关部门对黑灰产的查处；上线多个针对性内容检测能力，前置打击企图在直播前利用头像、背景图、评论等信息进行色情引流的账号；直播中对暴露色情二维码等内容实现快速断播，色情黑产重复违规率减少30%，无限期回收7.4万个涉色情导流、15万个涉嫌导流欺诈黑灰产账号的直播权限。一年来，抖音直播主动向相关部门上报黑产线索300余条，配合公安机关捣毁犯罪窝点100余个，抓捕犯罪嫌疑人361名。
12月27日，抖音发布2024年直播治理报告，全面阐释抖音直播过去一年的治理理念、技术及最新成果。
报告称，抖音在过去一年持续迭代主播“健康分”，通过加减分定级定档的长效管理机制引导主播“向善”，获得显著成效。此外，抖音利用AI技术不断提升治理速度和精度，有效解决风险曝光时长的痛点。升级未成年人保护机制，并积极探索“城市+平台”治理模式，完善综合治理体系。抖音直播还配合相关部门打击黄赌毒诈黑色产业链，捣毁百余个犯罪窝点，从源头消除违法犯罪分子对直播行业的污染，全力维护行业的健康发展。
主播管理精细化运营 机构需承担管理责任
2024年1月3日，抖音直播新版“健康分”管理机制正式生效，该机制是在针对直播间违规内容做单次处罚的基础上，平台根据主播日常直播增减账号“健康分”，并依据分值对账号分级定档，对应不同的长效管理措施。这也意味着，抖音的主播管理进入精细化运营阶段。
报告介绍，“健康分”低于70的主播，会被减少推荐、限制单日PK次数，甚至限制违规场次收益提现、关闭礼物收入功能等，0分主播则永久回收直播权限。主播的长期表现和收益绑定后，大量主播开始主动修正内容。至2024年底，共有100万主播被扣除过健康分，76%的低分主播主动调整内容后不再违规，直播间违规率明显下降。
同时，抖音直播制定了将“主播健康分”与机构进行关联的管理规则，如主播内容违规，机构需要承担对应的管理责任，并持续开展机构安全培训，2024年，机构主播的重复违规率下降10%。
引入音频审核大模型，强化违规内容治理
直播的魅力在于“所见即所得”，这决定了直播治理的关键在于最短时间识别、定位并处置违规直播，尽可能缩短违规内容曝光时长。
抖音直播在原有的AI应用基础上引入音频审核大模型，通过大量预训练，使其逐步掌握直播场景中的常用表达方式，并具备基本的逻辑推理能力，还能在分析文本内容的同时，兼顾环境音、氛围音等信号特征，感知音频包含的情绪，辅助判断语义。AI 技术的深度应用，将有效改善违规内容曝光时长的核心痛点，未来大量风险内容的识别、研判将逐渐由人审处置转移为机器自动识别 + 处置。
2024 年，随着 AI 大模型在直播审核、处置上的广泛应用，抖音直播着重加强对各类违规内容的治理，开展二十余次专项行动，共无限期回收直播权限账号32万个，清退直播机构526家。
升级重点人群保护机制 探索“城市+平台”联动治理模式
同时，抖音也在持续完善综合治理体系，结合城市、人群特点，探索不同的治理模式。2024年，抖音直播升级未成年人保护机制，推广“青少年模式”应用。“青少年模式”不提供打赏消费服务，可从源头阻断未成年人直播消费，平台也同步加强对未成年人绕过青少年模式消费等行为的监督。
未经监护人允许的未成年人打赏消费，一经核实，抖音直播将先行全额垫付退赔，平均21小时可完成退款，2024年共帮助9.5万个未成年人所在家庭快速退款。对于这些退款账号，平台将关闭其充值消费功能，预防再次消费。
另一方面，抖音直播在网红城市爆火的背景下，积极探索“城市+平台”治理模式。2024年，抖音直播联动长沙、沈阳等城市的相关部门，结合直播特点针对性建立“快速预防+高效处置”的联动机制，对反复违规的账号升级处置力度、对涉及线下违规的行为共同打击，违规行为大幅减少，并在多部门协同下，与直播机构、主播代表等发起文明直播的行业倡议。
加强与警方配合，严厉打击线下违法犯罪行为
平台在治理中还发现，大部分严重违规的直播间，如低俗色情、诈骗导流等，都来自线下违法甚至犯罪行为，仅靠线上治理无法真正解决问题。即便在单个平台防范住某个黑产团伙，他们仍可以利用其他平台进行违法犯罪行为，严重阻碍行业健康发展。
在此背景下，过去一年抖音直播成立专项团队，分级分类摸排违规线索，深入研判账号信息特征后上报公安机关，并紧密配合相关部门对黑灰产的查处；上线多个针对性内容检测能力，前置打击企图在直播前利用头像、背景图、评论等信息进行色情引流的账号；直播中对暴露色情二维码等内容实现快速断播，色情黑产重复违规率减少30%，无限期回收7.4万个涉色情导流、15万个涉嫌导流欺诈黑灰产账号的直播权限。一年来，抖音直播主动向相关部门上报黑产线索300余条，配合公安机关捣毁犯罪窝点100余个，抓捕犯罪嫌疑人361名。
