跳到内容
返回

注释和指南

印度严厉打击社交媒体上的AI生成内容

使用 AI 总结
印度严厉打击社交媒体上的AI生成内容

印度新IT规则针对AI内容和深度伪造

印度已采取果断措施,打击日益猖獗的AI生成虚假信息和深度伪造。2026年2月10日,电子和信息技术部(MeitY)通报了2021年《信息技术(中介指南和数字媒体道德规范)规则》的修正案。这些变更自2026年2月20日起生效,在该国引入了首个针对合成生成信息(SGI)的正式监管框架。规则要求社交媒体平台对AI生成内容进行标注、嵌入可追溯元数据,并迅速处理下架请求。此举旨在让用户能够区分真实内容和机器生成内容,同时让平台对有害合成媒体的传播负责。

修正案将SGI定义为使用计算机资源创建或修改的任何音频、视觉或视听内容,这些内容看起来真实,可能被误认为真实内容。色彩校正、降噪或翻译等常规编辑可获豁免,只要不扭曲原意。研究论文、培训材料和假设性草稿也被排除在外。规则特别针对深度伪造视频、AI生成配音和换脸图像等欺骗性内容。这种明确性确保日常编辑不会负担过重,同时聚焦于可能造成伤害的恶意用途。

社交媒体平台的主要义务

根据新的第4(1A)条规则,Instagram、YouTube和Facebook等重要社交媒体中介必须实施多项措施。在任何上传之前,它们必须要求用户声明内容是否为AI生成。平台随后需要部署自动化工具来验证这些声明,检查格式、来源和性质。如果确认为合成内容,必须带有清晰、醒目的标签。此外,平台必须嵌入持久元数据和唯一标识符,以追溯内容来源,并且不能允许这些标签被移除或压制。不遵守规定可能导致失去《IT法》第79条下的安全港保护。

规则还要求平台主动屏蔽违反法律的SGI,包括儿童性虐待材料、淫秽内容、虚假电子记录和爆炸物相关材料。歪曲真实人物身份或声音的深度伪造也在覆盖范围内。平台必须至少每三个月以英语或任何第八附表语言警告用户滥用AI内容的处罚。这些义务旨在阻止恶意创建和分享合成媒体,同时促进透明度。

验证和标注流程

验证过程涉及两步方法:用户声明和自动交叉检查。平台必须整合技术措施来验证声明,如果内容被标记为合成内容,则在发布前应用可见的披露标签。该标签必须清晰明确,确保用户能立即识别AI生成材料。规则还禁止平台允许移除或篡改标签。这种端到端的问责制旨在建立信任并减少虚假信息的传播。

下架时限大幅缩短

最显著的变化之一是下架时限的压缩。平台现在只有三个小时来对政府或法院当局针对某些违规行为的合法命令采取行动,从36小时缩短。其他时限也被削减:15天窗口现在为7天,24小时截止时间减半至12小时。申诉处理流程也已加快,投诉需要在24小时内确认。沉默或自动不回应将被视为申诉机制失败。这些更紧的截止日期反映了遏制有害AI内容病毒式传播的紧迫性。

申诉处理和用户投诉

用户可以期待对其关于AI生成内容的投诉得到更快回应。平台必须在24小时内确认投诉,并在15天内解决,解释所采取的任何行动或未采取行动的原因。如果发现违规,平台必须采取纠正措施,包括内容删除、账户暂停或限制可见性。屡次违规者或造成严重伤害者可能面临更严厉的处罚。这一简化流程旨在为用户提供可靠的渠道来报告深度伪造和其他有害合成媒体。

新规则对用户意味着什么

对于普通社交媒体用户来说,最明显的变化将是AI生成帖子、Reels、视频和音频剪辑上的标签。这些披露标签将在用户与内容互动之前出现,帮助他们识别什么是真实的,什么是机器生成的。这使用户能够就点赞、分享或转发内容做出明智决定。此外,用户将被要求声明其上传内容是否为AI生成,促进负责任的发布。规则还警告,滥用AI内容可能导致账户暂停、内容删除,甚至根据《印度新刑法典》和《保护儿童免受性犯罪法》等法律承担法律责任。

用户还可以期待看到平台定期警告分享有害AI内容的后果。这些警告将至少每三个月以多种语言出现。这一教育组件旨在培养问责和谨慎的文化。随着深度伪造变得越来越复杂,此类措施对于保护个人免受声誉伤害和虚假信息至关重要。

法律影响和处罚

规则在合成内容和刑法之间划定了直接界限。涉及儿童性虐待材料、淫秽内容、虚假电子记录、爆炸物相关材料或歪曲真实人物身份或声音的深度伪造的SGI,现在属于《印度新刑法典》、《保护儿童免受性犯罪法》和《爆炸性物质法》的管辖范围。平台必须向执法部门报告此类内容,并在某些情况下可能向受害者披露用户身份。平台不合规可能导致失去安全港保护,使其直接对用户内容负责。这一法律框架向潜在违法者发出了强烈的威慑信息。

安全港和平台责任

《IT法》第79条下的安全港保护中介免受用户生成内容的责任。然而,新规则规定,如果平台明知故犯地允许、推广或未能对违规合成内容采取行动,将被视为未能履行尽职调查。这可能导致失去安全港,使平台面临诉讼和起诉。政府已保证,对合成内容采取行动不会剥夺其保护,但不合规将会。这种平衡旨在鼓励主动审核,同时让平台对疏忽负责。

行业和公众反应

新规则引发了不同反应。隐私倡导者和数字权利组织对潜在过度干预和对言论自由的影响表示担忧。他们认为自动化验证工具可能导致误报和审查。另一方面,许多人欢迎此举,认为这是打击困扰印度社交媒体的深度伪造和虚假信息的必要步骤。平台仍在评估在紧迫期限内实施这些规则的运营挑战。政府已保证将与利益相关者合作,确保顺利合规。随着2月20日截止日期临近,所有目光都集中在这些规则的有效执行上。

这些法规的成功将取决于强有力的实施和持续适应。随着AI技术快速发展,规则可能需要定期更新以保持相关性。政府的积极立场为其他面临类似挑战的国家树立了先例。最终目标是创建一个更安全、更透明的数字生态系统,让用户可以信任他们消费和分享的内容。

继续探索

继续阅读

在博客上浏览更多指南、文章和更新。

返回

查找下一页

Tab 选择 · Enter 打开 · Esc 关闭