Saltar al contenido
Atrás

Notas y guías

India toma medidas drásticas contra el contenido generado por IA en redes sociales

Resumir con IA
India toma medidas drásticas contra el contenido generado por IA en redes sociales

Las nuevas normas de TI de India apuntan al contenido de IA y a los deepfakes

India ha dado un paso decisivo para combatir la creciente ola de desinformación generada por IA y deepfakes. El 10 de febrero de 2026, el Ministerio de Electrónica y Tecnología de la Información (MeitY) notificó enmiendas a las Normas de Tecnología de la Información (Directrices para Intermediarios y Código de Ética para Medios Digitales), 2021. Estos cambios, vigentes desde el 20 de febrero de 2026, introducen el primer marco regulatorio formal para la información generada sintéticamente (SGI) en el país. Las normas obligan a las plataformas de redes sociales a etiquetar el contenido generado por IA, incrustar metadatos rastreables y actuar con rapidez ante las solicitudes de retirada. Esta medida tiene como objetivo capacitar a los usuarios para distinguir entre contenido real y creado por máquinas, al tiempo que responsabiliza a las plataformas por la difusión de medios sintéticos dañinos.

Las enmiendas definen SGI como cualquier contenido de audio, visual o audiovisual creado o alterado mediante un recurso informático que parece real y podría confundirse con genuino. La edición rutinaria como corrección de color, reducción de ruido o traducción está exenta, siempre que no distorsione el significado original. Los artículos de investigación, materiales de capacitación y borradores hipotéticos también están excluidos. Las normas se dirigen específicamente a contenido engañoso como videos deepfake, locuciones generadas por IA e imágenes con intercambio de rostros. Esta claridad asegura que la edición cotidiana no se vea sobrecargada, mientras se enfoca en usos maliciosos que pueden causar daño.

Obligaciones clave para las plataformas de redes sociales

Según la nueva Regla 4(1A), los intermediarios significativos de redes sociales como Instagram, YouTube y Facebook deben implementar varias medidas. Antes de cualquier carga, deben pedir a los usuarios que declaren si el contenido es generado por IA. Luego, las plataformas deben implementar herramientas automatizadas para verificar estas declaraciones, comprobando formato, fuente y naturaleza. Si se confirma como sintético, el contenido debe llevar una etiqueta clara y prominente. Además, las plataformas deben incrustar metadatos persistentes e identificadores únicos para rastrear el contenido hasta su origen, y no pueden permitir que estas etiquetas se eliminen o supriman. El incumplimiento podría resultar en la pérdida de la protección de puerto seguro bajo la Sección 79 de la Ley de TI.

Las normas también exigen que las plataformas bloqueen activamente el SGI que viola la ley, incluido material de abuso sexual infantil, contenido obsceno, registros electrónicos falsos y material relacionado con explosivos. Los deepfakes que tergiversan la identidad o la voz de personas reales también están cubiertos. Las plataformas deben advertir a los usuarios al menos una vez cada tres meses sobre las sanciones por el uso indebido de contenido de IA, en inglés o en cualquier idioma de la Octava Lista. Estas obligaciones tienen como objetivo disuadir la creación y el intercambio maliciosos de medios sintéticos mientras promueven la transparencia.

Proceso de verificación y etiquetado

El proceso de verificación implica un enfoque de dos pasos: declaración del usuario y verificación cruzada automatizada. Las plataformas deben integrar medidas técnicas para verificar las declaraciones, y si el contenido se marca como sintético, se aplica una etiqueta de divulgación visible antes de la publicación. Esta etiqueta debe ser clara e inequívoca, asegurando que los usuarios puedan reconocer instantáneamente el material generado por IA. Las normas también prohíben que las plataformas permitan la eliminación o manipulación de las etiquetas. Esta responsabilidad de extremo a extremo está diseñada para generar confianza y reducir la propagación de desinformación.

Reducción drástica en los plazos de retirada

Uno de los cambios más llamativos es la compresión de los plazos de retirada. Las plataformas ahora tienen solo tres horas para actuar ante órdenes legales de autoridades gubernamentales o judiciales por ciertas violaciones, reducido de 36 horas. Otras ventanas se han recortado: la ventana de 15 días ahora es de siete días, y el plazo de 24 horas se ha reducido a la mitad, a 12. Los procesos de resolución de quejas también se han acelerado, con quejas que requieren acuse de recibo dentro de 24 horas. El silencio o la falta de respuesta automatizada se tratará como un fallo del mecanismo de quejas. Estos plazos más ajustados reflejan la urgencia de frenar la propagación viral de contenido de IA dañino.

Resolución de quejas y reclamaciones de usuarios

Los usuarios pueden esperar respuestas más rápidas a sus quejas sobre contenido generado por IA. Las plataformas deben acusar recibo de las quejas dentro de 24 horas y resolverlas dentro de 15 días, explicando cualquier acción tomada o la falta de ella. Si se encuentra una violación, las plataformas deben tomar medidas correctivas, incluida la eliminación de contenido, la suspensión de cuentas o la limitación de visibilidad. Los reincidentes o aquellos que causen daños graves pueden enfrentar sanciones más estrictas. Este proceso simplificado tiene como objetivo proporcionar a los usuarios un canal confiable para reportar deepfakes y otros medios sintéticos dañinos.

Qué significan las nuevas normas para los usuarios

Para el usuario promedio de redes sociales, el cambio más visible serán las etiquetas en publicaciones, reels, videos y clips de audio generados por IA. Estas etiquetas de divulgación aparecerán antes de que los usuarios interactúen con el contenido, ayudándoles a identificar qué es real y qué está hecho por máquinas. Esto capacita a los usuarios para tomar decisiones informadas sobre dar me gusta, compartir o reenviar contenido. Además, se pedirá a los usuarios que declaren si sus cargas son generadas por IA, promoviendo una publicación responsable. Las normas también advierten que el uso indebido de contenido de IA puede llevar a la suspensión de cuentas, eliminación de contenido e incluso responsabilidad legal bajo leyes como la Bharatiya Nyaya Sanhita y la Ley POCSO.

Los usuarios también pueden esperar ver advertencias periódicas de las plataformas sobre las consecuencias de compartir contenido de IA dañino. Estas advertencias aparecerán al menos una vez cada tres meses, en varios idiomas. Este componente educativo tiene como objetivo fomentar una cultura de responsabilidad y precaución. Con los deepfakes volviéndose cada vez más sofisticados, tales medidas son cruciales para proteger a las personas del daño reputacional y la desinformación.

Implicaciones legales y sanciones

Las normas trazan una línea directa entre el contenido sintético y el derecho penal. El SGI que involucra material de abuso sexual infantil, contenido obsceno, registros electrónicos falsos, material relacionado con explosivos o deepfakes que tergiversan la identidad o la voz de una persona real ahora cae bajo la Bharatiya Nyaya Sanhita, la Ley POCSO y la Ley de Sustancias Explosivas. Las plataformas deben reportar dicho contenido a las autoridades y pueden divulgar identidades de usuarios a las víctimas en algunos casos. El incumplimiento por parte de las plataformas puede resultar en la pérdida de la protección de puerto seguro, haciéndolas directamente responsables del contenido del usuario. Este marco legal envía un fuerte mensaje disuasorio a posibles infractores.

Puerto seguro y responsabilidad de la plataforma

El puerto seguro bajo la Sección 79 de la Ley de TI protege a los intermediarios de la responsabilidad por el contenido generado por el usuario. Sin embargo, las nuevas normas estipulan que si una plataforma permite a sabiendas, promueve o no actúa sobre contenido sintético violatorio, se considerará que ha fallado en su debida diligencia. Esto podría llevar a la pérdida del puerto seguro, exponiendo a las plataformas a demandas y procesamientos. El gobierno ha asegurado que actuar contra el contenido sintético no les quitará la protección, pero el incumplimiento sí. Este equilibrio tiene como objetivo fomentar la moderación proactiva mientras se responsabiliza a las plataformas por negligencia.

Respuesta de la industria y del público

Las nuevas normas han provocado reacciones mixtas. Los defensores de la privacidad y los grupos de derechos digitales han planteado preocupaciones sobre una posible extralimitación y el impacto en la libertad de expresión. Argumentan que las herramientas de verificación automatizadas pueden llevar a falsos positivos y censura. Por otro lado, muchos acogen con beneplácito la medida como un paso necesario para combatir los deepfakes y la desinformación que han plagado las redes sociales indias. Las plataformas aún están evaluando los desafíos operativos de implementar estas normas dentro de los ajustados plazos. El gobierno ha asegurado que trabajará con las partes interesadas para garantizar un cumplimiento fluido. A medida que se acerca la fecha límite del 20 de febrero, todas las miradas están puestas en la eficacia con que se apliquen estas normas.

El éxito de estas regulaciones dependerá de una implementación sólida y una adaptación continua. Con la tecnología de IA evolucionando rápidamente, las normas pueden necesitar actualizaciones periódicas para mantenerse relevantes. La postura proactiva del gobierno establece un precedente para otras naciones que enfrentan desafíos similares. En última instancia, el objetivo es crear un ecosistema digital más seguro y transparente donde los usuarios puedan confiar en el contenido que consumen y comparten.

Sigue explorando

Continuar leyendo

Explore más guías, artículos y actualizaciones en el blog.

Atrás

Encuentra tu siguiente página

Tab para seleccionar · Enter para abrir · Esc para cerrar