Índia toma medidas rigorosas contra conteúdo gerado por IA nas redes sociais

Novas regras de TI da Índia visam conteúdo de IA e deepfakes

A Índia deu um passo decisivo para combater a crescente onda de desinformação gerada por IA e deepfakes. Em 10 de fevereiro de 2026, o Ministério de Eletrônica e Tecnologia da Informação (MeitY) notificou emendas às Regras de Tecnologia da Informação (Diretrizes para Intermediários e Código de Ética para Mídia Digital), de 2021. Essas mudanças, em vigor a partir de 20 de fevereiro de 2026, introduzem o primeiro arcabouço regulatório formal para informações geradas sinteticamente (SGI) no país. As regras obrigam as plataformas de redes sociais a rotular conteúdo gerado por IA, incorporar metadados rastreáveis e agir rapidamente em solicitações de remoção. Essa medida visa capacitar os usuários a distinguir entre conteúdo real e feito por máquina, ao mesmo tempo em que responsabiliza as plataformas pela disseminação de mídia sintética prejudicial.

As emendas definem SGI como qualquer conteúdo de áudio, visual ou audiovisual criado ou alterado usando um recurso computacional que pareça real e possa ser confundido com genuíno. Edições rotineiras como correção de cor, redução de ruído ou tradução são isentas, desde que não distorçam o significado original. Artigos de pesquisa, materiais de treinamento e rascunhos hipotéticos também são excluídos. As regras visam especificamente conteúdo enganoso, como vídeos deepfake, narrações geradas por IA e imagens com troca de rosto. Essa clareza garante que a edição cotidiana não seja sobrecarregada, enquanto foca em usos maliciosos que podem causar danos.

Obrigações principais para plataformas de redes sociais

Sob a nova Regra 4(1A), intermediários significativos de redes sociais como Instagram, YouTube e Facebook devem implementar várias medidas. Antes de qualquer upload, devem solicitar que os usuários declarem se o conteúdo é gerado por IA. As plataformas então precisam implantar ferramentas automatizadas para verificar essas declarações, checando formato, origem e natureza. Se confirmado como sintético, o conteúdo deve carregar um rótulo claro e proeminente. Além disso, as plataformas devem incorporar metadados persistentes e identificadores únicos para rastrear o conteúdo até sua origem, e não podem permitir que esses rótulos sejam removidos ou suprimidos. O descumprimento pode resultar na perda da proteção de porto seguro sob a Seção 79 da Lei de TI.

As regras também exigem que as plataformas bloqueiem ativamente SGI que viole a lei, incluindo material de abuso sexual infantil, conteúdo obsceno, registros eletrônicos falsos e material relacionado a explosivos. Deepfakes que deturpam a identidade ou voz de pessoas reais também são cobertos. As plataformas devem alertar os usuários pelo menos uma vez a cada três meses sobre penalidades por uso indevido de conteúdo de IA, em inglês ou qualquer idioma da Oitava Lista. Essas obrigações visam dissuadir a criação e o compartilhamento maliciosos de mídia sintética, ao mesmo tempo em que promovem a transparência.

Processo de verificação e rotulagem

O processo de verificação envolve uma abordagem em duas etapas: declaração do usuário e verificação cruzada automatizada. As plataformas devem integrar medidas técnicas para verificar declarações e, se o conteúdo for sinalizado como sintético, uma etiqueta de divulgação visível é aplicada antes da publicação. Essa etiqueta deve ser clara e inequívoca, garantindo que os usuários possam reconhecer instantaneamente material gerado por IA. As regras também proíbem as plataformas de permitir a remoção ou adulteração de rótulos. Essa responsabilidade de ponta a ponta é projetada para construir confiança e reduzir a disseminação de desinformação.

Redução drástica nos prazos de remoção

Uma das mudanças mais marcantes é a compressão dos prazos de remoção. As plataformas agora têm apenas três horas para agir sobre ordens legais de autoridades governamentais ou judiciais para certas violações, reduzido de 36 horas. Outros prazos foram cortados: a janela de 15 dias agora é de sete dias, e o prazo de 24 horas foi reduzido pela metade para 12. Os processos de resolução de reclamações também foram acelerados, com reclamações exigindo confirmação em até 24 horas. Silêncio ou não resposta automatizada será tratado como falha do mecanismo de reclamações. Esses prazos mais apertados refletem a urgência de conter a propagação viral de conteúdo de IA prejudicial.

Resolução de reclamações e queixas de usuários

Os usuários podem esperar respostas mais rápidas às suas reclamações sobre conteúdo gerado por IA. As plataformas devem confirmar o recebimento de reclamações em até 24 horas e resolvê-las em até 15 dias, explicando qualquer ação tomada ou a falta dela. Se uma violação for encontrada, as plataformas devem tomar medidas corretivas, incluindo remoção de conteúdo, suspensão de conta ou limitação de visibilidade. Infratores reincidentes ou que causem danos graves podem enfrentar penalidades mais rigorosas. Esse processo simplificado visa fornecer aos usuários um canal confiável para denunciar deepfakes e outras mídias sintéticas prejudiciais.

O que as novas regras significam para os usuários

Para o usuário médio de redes sociais, a mudança mais visível serão os rótulos em postagens, reels, vídeos e clipes de áudio gerados por IA. Essas etiquetas de divulgação aparecerão antes que os usuários interajam com o conteúdo, ajudando-os a identificar o que é real e o que é feito por máquina. Isso capacita os usuários a tomar decisões informadas sobre curtir, compartilhar ou encaminhar conteúdo. Além disso, os usuários serão solicitados a declarar se seus uploads são gerados por IA, promovendo postagens responsáveis. As regras também alertam que o uso indevido de conteúdo de IA pode levar à suspensão de conta, remoção de conteúdo e até responsabilidade legal sob leis como a Bharatiya Nyaya Sanhita e a Lei POCSO.

Os usuários também podem esperar ver avisos periódicos das plataformas sobre as consequências de compartilhar conteúdo de IA prejudicial. Esses avisos aparecerão pelo menos uma vez a cada três meses, em vários idiomas. Esse componente educacional visa fomentar uma cultura de responsabilidade e cautela. Com deepfakes se tornando cada vez mais sofisticados, tais medidas são cruciais para proteger indivíduos de danos à reputação e desinformação.

Implicações legais e penalidades

As regras traçam uma linha direta entre conteúdo sintético e direito penal. SGI envolvendo material de abuso sexual infantil, conteúdo obsceno, registros eletrônicos falsos, material relacionado a explosivos ou deepfakes que deturpam a identidade ou voz de uma pessoa real agora se enquadram na Bharatiya Nyaya Sanhita, na Lei POCSO e na Lei de Substâncias Explosivas. As plataformas devem reportar esse conteúdo às autoridades policiais e podem divulgar identidades de usuários às vítimas em alguns casos. O descumprimento pelas plataformas pode resultar na perda da proteção de porto seguro, tornando-as diretamente responsáveis pelo conteúdo do usuário. Esse arcabouço legal envia uma forte mensagem dissuasória a potenciais infratores.

Porto seguro e responsabilidade da plataforma

O porto seguro sob a Seção 79 da Lei de TI protege intermediários de responsabilidade por conteúdo gerado pelo usuário. No entanto, as novas regras estipulam que, se uma plataforma permitir conscientemente, promover ou deixar de agir sobre conteúdo sintético violador, será considerada como tendo falhado em sua devida diligência. Isso pode levar à perda do porto seguro, expondo as plataformas a ações judiciais e processos. O governo garantiu que agir contra conteúdo sintético não as privará de proteção, mas o descumprimento sim. Esse equilíbrio visa incentivar a moderação proativa enquanto responsabiliza as plataformas por negligência.

Resposta da indústria e do público

As novas regras provocaram reações mistas. Defensores da privacidade e grupos de direitos digitais levantaram preocupações sobre possível excesso e o impacto na liberdade de expressão. Eles argumentam que ferramentas de verificação automatizadas podem levar a falsos positivos e censura. Por outro lado, muitos recebem a medida como um passo necessário para combater deepfakes e desinformação que têm assolado as redes sociais indianas. As plataformas ainda estão avaliando os desafios operacionais de implementar essas regras dentro dos prazos apertados. O governo garantiu que trabalhará com as partes interessadas para garantir conformidade tranquila. À medida que o prazo de 20 de fevereiro se aproxima, todos os olhos estão em quão efetivamente essas regras são aplicadas.

O sucesso dessas regulamentações dependerá de implementação robusta e adaptação contínua. Com a tecnologia de IA evoluindo rapidamente, as regras podem precisar de atualizações periódicas para se manterem relevantes. A postura proativa do governo estabelece um precedente para outras nações que enfrentam desafios semelhantes. Em última análise, o objetivo é criar um ecossistema digital mais seguro e transparente, onde os usuários possam confiar no conteúdo que consomem e compartilham.