Quy định IT mới của Ấn Độ nhắm vào nội dung AI và deepfake
Ấn Độ đã thực hiện một bước quyết định để chống lại làn sóng thông tin sai lệch do AI tạo ra và deepfake đang gia tăng. Vào ngày 10 tháng 2 năm 2026, Bộ Điện tử và Công nghệ Thông tin (MeitY) đã thông báo sửa đổi Quy tắc Công nghệ Thông tin (Hướng dẫn Trung gian và Quy tắc Đạo đức Truyền thông Kỹ thuật số), 2021. Những thay đổi này, có hiệu lực từ ngày 20 tháng 2 năm 2026, giới thiệu khung pháp lý chính thức đầu tiên cho thông tin được tạo tổng hợp (SGI) tại nước này. Các quy tắc yêu cầu các nền tảng mạng xã hội dán nhãn nội dung do AI tạo ra, nhúng siêu dữ liệu có thể truy xuất nguồn gốc và hành động nhanh chóng đối với các yêu cầu gỡ bỏ. Động thái này nhằm trao quyền cho người dùng phân biệt giữa nội dung thật và nội dung do máy tạo ra, đồng thời buộc các nền tảng phải chịu trách nhiệm về sự lan truyền của phương tiện tổng hợp có hại.
Các sửa đổi định nghĩa SGI là bất kỳ nội dung âm thanh, hình ảnh hoặc âm thanh-hình ảnh nào được tạo hoặc thay đổi bằng tài nguyên máy tính trông có vẻ thật và có thể bị nhầm với nội dung thật. Các chỉnh sửa thông thường như chỉnh màu, giảm nhiễu hoặc dịch thuật được miễn trừ, miễn là không làm sai lệch ý nghĩa gốc. Các bài báo nghiên cứu, tài liệu đào tạo và bản nháp giả định cũng được loại trừ. Các quy tắc nhắm cụ thể vào nội dung gây nhầm lẫn như video deepfake, lồng tiếng do AI tạo ra và hình ảnh hoán đổi khuôn mặt. Sự rõ ràng này đảm bảo rằng việc chỉnh sửa hàng ngày không bị quá tải, đồng thời tập trung vào các mục đích sử dụng độc hại có thể gây hại.
Nghĩa vụ chính đối với các nền tảng mạng xã hội
Theo Quy tắc 4(1A) mới, các trung gian mạng xã hội quan trọng như Instagram, YouTube và Facebook phải thực hiện một số biện pháp. Trước khi tải lên bất kỳ nội dung nào, họ phải yêu cầu người dùng khai báo liệu nội dung có phải do AI tạo ra hay không. Sau đó, các nền tảng cần triển khai công cụ tự động để xác minh các khai báo này, kiểm tra định dạng, nguồn và bản chất. Nếu được xác nhận là tổng hợp, nội dung phải mang nhãn rõ ràng, nổi bật. Hơn nữa, các nền tảng phải nhúng siêu dữ liệu liên tục và mã định danh duy nhất để truy xuất nguồn gốc nội dung, và họ không được phép để các nhãn này bị xóa hoặc che giấu. Việc không tuân thủ có thể dẫn đến mất bảo vệ an toàn theo Mục 79 của Đạo luật IT.
Các quy tắc cũng yêu cầu các nền tảng chủ động chặn SGI vi phạm pháp luật, bao gồm tài liệu lạm dụng tình dục trẻ em, nội dung khiêu dâm, hồ sơ điện tử sai lệch và tài liệu liên quan đến chất nổ. Deepfake xuyên tạc danh tính hoặc giọng nói của người thật cũng được đề cập. Các nền tảng phải cảnh báo người dùng ít nhất một lần mỗi ba tháng về hình phạt đối với việc lạm dụng nội dung AI, bằng tiếng Anh hoặc bất kỳ ngôn ngữ nào trong Danh mục thứ tám. Những nghĩa vụ này nhằm ngăn chặn việc tạo và chia sẻ độc hại phương tiện tổng hợp đồng thời thúc đẩy tính minh bạch.
Quy trình xác minh và dán nhãn
Quy trình xác minh bao gồm cách tiếp cận hai bước: khai báo của người dùng và kiểm tra chéo tự động. Các nền tảng phải tích hợp biện pháp kỹ thuật để xác minh khai báo, và nếu nội dung bị gắn cờ là tổng hợp, thẻ tiết lộ hiển thị sẽ được áp dụng trước khi xuất bản. Thẻ này phải rõ ràng và không mơ hồ, đảm bảo người dùng có thể nhận ra ngay nội dung do AI tạo ra. Các quy tắc cũng cấm các nền tảng cho phép xóa hoặc can thiệp vào nhãn. Trách nhiệm giải trình từ đầu đến cuối này được thiết kế để xây dựng niềm tin và giảm sự lan truyền thông tin sai lệch.
Giảm mạnh thời hạn gỡ bỏ
Một trong những thay đổi đáng chú ý nhất là việc rút ngắn thời hạn gỡ bỏ. Các nền tảng hiện chỉ có ba giờ để hành động theo lệnh hợp pháp từ chính phủ hoặc tòa án đối với một số vi phạm nhất định, giảm từ 36 giờ. Các khung thời gian khác cũng bị cắt giảm: khung 15 ngày nay là bảy ngày, và thời hạn 24 giờ đã giảm một nửa xuống còn 12. Quy trình giải quyết khiếu nại cũng được đẩy nhanh, với các khiếu nại yêu cầu xác nhận trong vòng 24 giờ. Im lặng hoặc không phản hồi tự động sẽ được coi là thất bại của cơ chế khiếu nại. Những thời hạn chặt chẽ hơn này phản ánh sự cấp bách trong việc hạn chế sự lan truyền nhanh chóng của nội dung AI có hại.
Giải quyết khiếu nại và phàn nàn của người dùng
Người dùng có thể mong đợi phản hồi nhanh hơn đối với khiếu nại của họ về nội dung do AI tạo ra. Các nền tảng phải xác nhận khiếu nại trong vòng 24 giờ và giải quyết trong vòng 15 ngày, giải thích bất kỳ hành động nào đã thực hiện hoặc không. Nếu phát hiện vi phạm, các nền tảng phải thực hiện các bước khắc phục, bao gồm xóa nội dung, đình chỉ tài khoản hoặc hạn chế hiển thị. Người tái phạm hoặc gây hại nghiêm trọng có thể đối mặt với hình phạt nghiêm khắc hơn. Quy trình hợp lý này nhằm cung cấp cho người dùng kênh đáng tin cậy để báo cáo deepfake và phương tiện tổng hợp có hại khác.
Quy tắc mới có ý nghĩa gì đối với người dùng
Đối với người dùng mạng xã hội trung bình, thay đổi dễ thấy nhất sẽ là nhãn trên các bài đăng, reel, video và clip âm thanh do AI tạo ra. Các thẻ tiết lộ này sẽ xuất hiện trước khi người dùng tương tác với nội dung, giúp họ xác định đâu là thật và đâu là do máy tạo ra. Điều này trao quyền cho người dùng đưa ra quyết định sáng suốt về việc thích, chia sẻ hoặc chuyển tiếp nội dung. Ngoài ra, người dùng sẽ được yêu cầu khai báo liệu nội dung tải lên của họ có phải do AI tạo ra hay không, thúc đẩy việc đăng tải có trách nhiệm. Các quy tắc cũng cảnh báo rằng việc lạm dụng nội dung AI có thể dẫn đến đình chỉ tài khoản, xóa nội dung và thậm chí trách nhiệm pháp lý theo các luật như Bharatiya Nyaya Sanhita và Đạo luật POCSO.
Người dùng cũng có thể mong đợi thấy cảnh báo định kỳ từ các nền tảng về hậu quả của việc chia sẻ nội dung AI có hại. Những cảnh báo này sẽ xuất hiện ít nhất một lần mỗi ba tháng, bằng nhiều ngôn ngữ. Thành phần giáo dục này nhằm thúc đẩy văn hóa trách nhiệm và thận trọng. Với deepfake ngày càng tinh vi, các biện pháp như vậy rất quan trọng để bảo vệ cá nhân khỏi tổn hại danh tiếng và thông tin sai lệch.
Hàm ý pháp lý và hình phạt
Các quy tắc vẽ đường thẳng trực tiếp giữa nội dung tổng hợp và luật hình sự. SGI liên quan đến tài liệu lạm dụng tình dục trẻ em, nội dung khiêu dâm, hồ sơ điện tử sai lệch, tài liệu liên quan đến chất nổ hoặc deepfake xuyên tạc danh tính hoặc giọng nói của người thật giờ đây thuộc Bharatiya Nyaya Sanhita, Đạo luật POCSO và Đạo luật Chất nổ. Các nền tảng phải báo cáo nội dung như vậy cho cơ quan thực thi pháp luật và có thể tiết lộ danh tính người dùng cho nạn nhân trong một số trường hợp. Việc không tuân thủ của các nền tảng có thể dẫn đến mất bảo vệ an toàn, khiến họ chịu trách nhiệm trực tiếp về nội dung của người dùng. Khung pháp lý này gửi thông điệp răn đe mạnh mẽ đến những kẻ có ý định vi phạm.
Bảo vệ an toàn và trách nhiệm của nền tảng
Bảo vệ an toàn theo Mục 79 của Đạo luật IT bảo vệ các trung gian khỏi trách nhiệm đối với nội dung do người dùng tạo. Tuy nhiên, các quy tắc mới quy định rằng nếu một nền tảng biết mà cho phép, quảng bá hoặc không hành động đối với nội dung tổng hợp vi phạm, nó sẽ được coi là đã thất bại trong thẩm định. Điều này có thể dẫn đến mất bảo vệ an toàn, khiến các nền tảng phải đối mặt với kiện tụng và truy tố. Chính phủ đã đảm bảo rằng hành động chống lại nội dung tổng hợp sẽ không tước đi sự bảo vệ của họ, nhưng việc không tuân thủ sẽ làm điều đó. Sự cân bằng này nhằm khuyến khích kiểm duyệt chủ động đồng thời buộc các nền tảng chịu trách nhiệm về sự cẩu thả.
Phản ứng của ngành và công chúng
Các quy tắc mới đã gây ra phản ứng trái chiều. Những người ủng hộ quyền riêng tư và nhóm quyền kỹ thuật số đã nêu lo ngại về khả năng vượt quá thẩm quyền và tác động đến tự do biểu đạt. Họ lập luận rằng công cụ xác minh tự động có thể dẫn đến dương tính giả và kiểm duyệt. Mặt khác, nhiều người hoan nghênh động thái này như một bước cần thiết để chống lại deepfake và thông tin sai lệch đã hoành hành trên mạng xã hội Ấn Độ. Các nền tảng vẫn đang đánh giá những thách thức vận hành khi thực hiện các quy tắc này trong thời hạn chặt chẽ. Chính phủ đã đảm bảo rằng họ sẽ làm việc với các bên liên quan để đảm bảo tuân thủ suôn sẻ. Khi thời hạn ngày 20 tháng 2 đến gần, mọi con mắt đổ dồn vào việc các quy tắc này được thực thi hiệu quả như thế nào.
Sự thành công của các quy định này sẽ phụ thuộc vào việc thực hiện mạnh mẽ và thích ứng liên tục. Với công nghệ AI phát triển nhanh chóng, các quy tắc có thể cần cập nhật định kỳ để duy trì tính phù hợp. Lập trường chủ động của chính phủ đặt tiền lệ cho các quốc gia khác đang vật lộn với những thách thức tương tự. Cuối cùng, mục tiêu là tạo ra một hệ sinh thái kỹ thuật số an toàn hơn, minh bạch hơn, nơi người dùng có thể tin tưởng vào nội dung họ tiêu thụ và chia sẻ.
