Giám đốc Instagram vạch ra những thách thức của nội dung AI

Instagram và cuộc đối đầu với AI: Tính xác thực trong thời đại sao chép vô hạn

Người đứng đầu Instagram, Adam Mosseri, gần đây đã đăng một loạt ảnh 10 slide đọc lên không giống như một bản cập nhật sản phẩm mà giống như một tuyên ngôn triết học. Luận điểm cốt lõi của ông? Tính xác thực đang trở nên có thể sao chép vô hạn. Nói cách khác, AI giờ đây có thể bắt chước vẻ ngoài thô ráp, không qua chỉnh sửa mà các nhà sáng tạo từ lâu đã dùng làm bằng chứng về tính người—và đó là vấn đề cho tất cả mọi người. Bài đăng của Mosseri không chỉ là một lời cảnh báo; đó là một phát súng cảnh cáo nhắm vào một ngành công nghiệp được xây dựng trên niềm tin, sự sáng tạo và ảo tưởng mong manh rằng những gì bạn thấy là những gì thực sự đã xảy ra.

Nhưng trong khi Mosseri coi đây là một thách thức tất yếu đòi hỏi các nhà sáng tạo phải thích nghi, phản hồi từ cộng đồng Instagram lại cho thấy một rạn nứt sâu sắc hơn. Nhiều nhà sáng tạo cảm thấy nền tảng này đang biện minh cho các khoản đầu tư AI của chính mình thay vì bảo vệ những người đã xây dựng nên đế chế của nó. Hãy cùng phân tích những căng thẳng chính, mớ hỗn độn kỹ thuật của việc dán nhãn AI và ý nghĩa của tất cả những điều này đối với tương lai của mạng xã hội.

Tiền đề cốt lõi: Khi AI sao chép những kẻ sao chép

Luận điểm trung tâm của Mosseri thoạt nghe có vẻ đơn giản: các công cụ AI giờ đây cho phép bất kỳ ai sao chép tác phẩm của nhà sáng tạo, và kết quả đang được cải thiện nhanh chóng. Chẳng bao lâu nữa, nội dung do AI tạo ra sẽ không thể phân biệt được với nội dung do con người tạo ra—không chỉ ở độ bóng bẩy mà còn ở chính những khiếm khuyết mà các nhà sáng tạo dùng để báo hiệu tính xác thực.

Điều này tạo ra một nghịch lý. Các nhà sáng tạo đã phản ứng với hàng giả AI bằng cách nghiêng về sự thô ráp—quay phim rung lắc, âm thanh không chỉnh sửa, nền lộn xộn—như một hình thức chứng minh. Nhưng Mosseri cảnh báo rằng AI sẽ sớm sao chép cả thẩm mỹ đó, dẫn đến sự hoài nghi gia tăng về mọi thứ. Nếu sự thô ráp có thể bị làm giả, thì còn lại gì? Câu trả lời, theo Instagram, là xác minh và dán nhãn. Nhưng như chúng ta sẽ thấy, điều đó dễ nói hơn làm.

Vấn đề dán nhãn: Ý định tốt, thực thi lộn xộn

Kế hoạch của Instagram nhằm làm nổi bật nội dung AI thông qua nhãn nghe có vẻ đơn giản. Trên thực tế, đó là một thảm họa. Trong vài tuần qua, người dùng đã báo cáo rằng hệ thống tự động của Meta đang dán nhãn 'Nội dung AI' lên những hình ảnh chưa từng bị AI tạo sinh chạm vào. Những chỉnh sửa đơn giản như xóa nền trong Canva hoặc sửa một khuyết điểm nhỏ đã kích hoạt nhãn, trong khi những hình ảnh thực sự do AI tạo ra lại lọt qua kẽ hở.

Nguyên nhân gốc rễ? Meta quét siêu dữ liệu IPTC và C2PA, nhưng phương pháp của nó vẫn còn mơ hồ. Một số nhãn có vẻ là lỗi của Canva, trong khi những nhãn khác xuất phát từ những điểm kỳ quặc trong khả năng phát hiện của chính Meta. Kết quả là một hệ thống dán nhãn có vẻ tùy tiện và càng làm xói mòn niềm tin. Như một người dùng đã nói, "Nếu tôi không thể biết cái gì là thật, tôi sẽ ngừng chia sẻ hoàn toàn." Và đó chính xác là những gì đang diễn ra—tương tác trên nội dung cá nhân đang giảm khi mọi người rút lui vào tin nhắn riêng.

Tại sao phát hiện AI chính xác lại khó đến vậy

Một phần của vấn đề là kỹ thuật. AI tạo sinh và AI hỗ trợ (như xóa đối tượng của Photoshop) đều sử dụng học máy, nhưng chúng về cơ bản là khác nhau. Đánh đồng chúng dẫn đến dương tính giả. Trong khi đó, những kẻ xấu có thể xóa siêu dữ liệu hoặc sử dụng các công cụ không nhúng tín hiệu C2PA, biến việc phát hiện thành một trò chơi mèo vờn chuột. Instagram thừa nhận rằng họ sẽ không thể dán nhãn mọi thứ, điều này đặt ra một câu hỏi đáng lo ngại: nếu việc dán nhãn không đáng tin cậy, thì mục đích là gì?

Phản ứng dữ dội từ nhà sáng tạo: Tiếp cận, thuật toán và những lời hứa bị phá vỡ

Phản hồi của cộng đồng nhà sáng tạo đối với bài đăng của Mosseri cho thấy những bức xúc vượt xa việc dán nhãn AI. Nhiều nhà sáng tạo báo cáo rằng lượng tiếp cận người theo dõi giảm xuống còn 2% sau những thay đổi thuật toán gần đây, với các tài khoản lâu năm bỗng chốc trở nên vô hình sau nhiều năm phát triển. Một nhiếp ảnh gia lưu ý rằng lượng tiếp cận của họ sụp đổ vào năm 2025 mặc dù đã xây dựng cộng đồng trong một thập kỷ thông qua tương tác chân thực.

Lời chỉ trích không chỉ về AI. Đó là về một nền tảng mà các nhà sáng tạo cảm thấy đã từ bỏ nguồn gốc xã hội của nó. "Bạn điều hành một nền tảng tích cực khuyến khích AI, phủ nhận điều đó là vô nghĩa," một phản hồi tuyên bố, chỉ ra việc Meta tích hợp mạnh mẽ các công cụ tạo AI. Những người khác mô tả sự chuyển dịch từ kết nối chân thực sang các chỉ số hiệu suất, nơi ngay cả những người theo dõi đã cố ý chọn xem nội dung cũng bị thuật toán chặn xem bài đăng. Căng thẳng giữa kinh tế nền tảng và sự bền vững của nhà sáng tạo chưa bao giờ gay gắt đến thế.

AI rác và hình phạt tương tác

Chiến dịch của Instagram chống lại AI rác—nội dung AI chất lượng thấp, sản xuất hàng loạt—bao gồm việc giảm lượng tiếp cận của các bài đăng từ những nhà sáng tạo AI không áp dụng nhãn 'hồ sơ do AI tạo' mới. Đây là một bước đi đúng hướng, nhưng nó cũng là một sự thừa nhận ngầm rằng nội dung AI đang tràn ngập nền tảng.

Các nghiên cứu cho thấy 10% tổng nội dung web và một trong bốn bài đăng mạng xã hội hiện được hỗ trợ bởi AI. Khối lượng khổng lồ khiến việc dán nhãn thủ công là không thể. Trong khi đó, các hình phạt thuật toán đối với nội dung AI không được dán nhãn dao động từ giảm 15-50% tương tác, với việc shadowban trở thành rủi ro thực sự đối với các tài khoản đột ngột chuyển sang sử dụng AI nhiều. Thông điệp rất rõ ràng: minh bạch là bắt buộc, nhưng các công cụ để thực hiện vẫn còn hỏng.

Bước chuyển hướng xác minh: Động thái tiếp theo của Instagram

Như một biện pháp đối phó, Mosseri nói rằng Instagram sẽ tìm cách xác minh nội dung xác thực và làm nổi bật những nhà sáng tạo nguyên bản. Nó cũng sẽ hiển thị thêm thông tin về ai đứng sau mỗi tài khoản. Điều này nghe có vẻ hứa hẹn, nhưng nó đặt ra câu hỏi về việc kiểm soát cổng thông tin. Ai quyết định cái gì là xác thực? Liệu xác minh có ưu tiên các nhà sáng tạo lâu năm hơn những người mới? Và Instagram sẽ mở rộng quy mô này như thế nào mà không tạo ra một hệ thống hai tầng?

Việc nền tảng thúc đẩy các nhà sáng tạo áp dụng Meta Verified để cải thiện lượng tiếp cận đã được một số người coi là một giải pháp chủ yếu mang lại lợi ích cho mô hình kinh doanh của Meta. Nếu xác minh trở thành trả tiền để chơi, nó có thể làm sâu sắc thêm sự chia rẽ giữa các nhà sáng tạo có khả năng chi trả và những người không thể. Thách thức là cân bằng giữa niềm tin và khả năng tiếp cận—một sợi chỉ mà Instagram vẫn chưa xâu được.

Điều này có ý nghĩa gì cho tương lai của mạng xã hội

Vấn đề nội dung AI không chỉ riêng Instagram. Mọi nền tảng đều đang vật lộn với cách xử lý dòng phương tiện tổng hợp tràn vào trong khi vẫn giữ người dùng tương tác. Nhưng cách tiếp cận của Instagram—dán nhãn, xác minh và hình phạt tiếp cận—đưa ra một bản xem trước về những gì sắp tới.

Đối với các nhà sáng tạo, bài học rất rõ ràng: thích nghi là không thể thương lượng, nhưng vận động cũng vậy. Đẩy lùi những thay đổi thuật toán ưu tiên AI hơn kết nối con người là điều thiết yếu. Đối với các thương hiệu, bài học là kết hợp hiệu quả AI với kể chuyện của con người, duy trì tính minh bạch và tập trung vào nội dung nguyên bản, hấp dẫn. Đối với người dùng, hy vọng là các nền tảng cuối cùng sẽ dán nhãn đúng—hoặc ít nhất là làm cho việc phân biệt cái gì là thật trở nên dễ dàng hơn.

Cuối cùng, thách thức của nội dung AI là thách thức về niềm tin. Giám đốc Instagram đã vạch ra vấn đề, nhưng giải pháp sẽ đòi hỏi nhiều hơn nhãn và thuật toán. Nó sẽ đòi hỏi một cam kết cơ bản để bảo tồn các kết nối xã hội đã khiến những nền tảng này đáng tham gia ngay từ đầu. Như chính Mosseri đã lưu ý, tính xác thực đang trở nên có thể sao chép vô hạn—nhưng điều đó không có nghĩa là chúng ta nên ngừng cố gắng tìm kiếm nó.