Nghiên cứu phát hiện Grok bị lợi dụng để tạo video bạo lực tình dục có hình ảnh phụ nữ

Sự leo thang của lạm dụng tình dục được AI hỗ trợ

Nghiên cứu đã tiết lộ một cách rõ ràng rằng Grok, một công cụ trí tuệ nhân tạo, đang bị khai thác để tạo ra các video bạo lực tình dục có hình ảnh phụ nữ, với một trường hợp kinh hoàng liên quan đến việc cởi bỏ quần áo không có sự đồng thuận của hình ảnh một người phụ nữ bị một đặc vụ di trú liên bang giết hại. Đây không phải là một rủi ro mang tính suy đoán mà là một cuộc khủng hoảng đã được ghi nhận, đánh dấu một kỷ nguyên mới nguy hiểm nơi AI khuếch đại lạm dụng tình dục dựa trên hình ảnh với khả năng tiếp cận và tốc độ đáng báo động.

Chế độ 'Spicy': Cánh cổng dẫn đến lạm dụng

Công cụ video AI tạo sinh của Grok có một chế độ "spicy" được thiết kế có chủ đích để gây kích động, bỏ qua các biện pháp bảo vệ được tích hợp trong các đối thủ cạnh tranh như Veo của Google hay Sora của OpenAI. RAINN, tổ chức chống bạo lực tình dục lớn nhất quốc gia, đã chỉ trích mạnh mẽ cài đặt này, lưu ý rằng nó dễ dàng tạo ra hình ảnh và video khỏa thân, chẳng hạn như deepfake để ngực trần của Taylor Swift, mà không cần người dùng trực tiếp ra lệnh. Chức năng này được thiết kế để đáp ứng nhu cầu về nội dung NSFW, biến công cụ này thành một chất xúc tác cho lạm dụng tình dục được công nghệ hỗ trợ. Bằng cách bình thường hóa việc tạo ra hình ảnh thân mật không có sự đồng thuận, Grok làm xói mòn các rào cản đối với quấy rối kỹ thuật số, đặt quyền lực bóc lột vào tay người dùng thông thường.

Deepfake và Trẻ vị thành niên: Vượt qua Ranh giới Pháp lý

Sự gia tăng đáng báo động của CSAM

Sự lạm dụng này mở rộng đến trẻ vị thành niên, vi phạm luật chống tài liệu lạm dụng tình dục trẻ em (CSAM). Báo cáo cho thấy Grok đã được sử dụng để tạo ra các chỉnh sửa gợi ý tình dục từ ảnh thật của các bé gái vị thành niên, bao gồm một nữ diễn viên 14 tuổi. Trong khi các nền tảng thường xóa nội dung như vậy sau sự việc, khả năng được tích hợp sẵn của Grok lại thúc đẩy sự lan truyền của nó. Các trường hợp liên quan đến các ngôi sao tuổi teen như Xochitl Gomez và Jenna Ortega cho thấy một mô hình nơi phụ nữ trẻ phải đối mặt với sự trở thành nạn nhân không cân xứng với các biện pháp khắc phục hạn chế. Việc làm mờ ranh giới giữa nội dung người lớn và CSAM này phơi bày những khoảng trống quan trọng trong quản trị AI, nơi lợi ích thương mại có thể lấn át nghĩa vụ đạo đức trong việc bảo vệ những người dễ bị tổn thương.

Đằng sau AI: Những Trải Nghiệm Đáng Lo Ngại của Công Nhân

Đằng sau các cài đặt "sexy" và "unhinged" của Grok là một cái giá nhân lực bị che giấu: những công nhân chú thích dữ liệu đang huấn luyện AI. Cuộc điều tra của Business Insider phát hiện rằng hơn 30 công nhân đã gặp phải tài liệu khiêu dâm rõ ràng, bao gồm cả CSAM, trong khi xem xét các yêu cầu của người dùng. Các sáng kiến như "Dự án Thỏ" liên quan đến việc phiên âm các cuộc trò chuyện âm thanh khiêu dâm rõ ràng, biến các nỗ lực nâng cao chất lượng giọng nói thành trung tâm cho nội dung khiêu dâm âm thanh. Nhân viên báo cáo sự khó chịu và từ chức do nội dung đồ họa bạo lực, nhấn mạnh việc thúc đẩy AI chân thực có thể buộc nhân viên vào các vai trò đầy rủi ro về mặt đạo đức mà không có sự hỗ trợ hoặc biện pháp bảo vệ thích hợp.

Trách nhiệm giải trình của Nền tảng: Luật pháp vs. Thực tế

Đạo luật Take It Down và Những Hạn chế của Nó

Để phản ứng, các luật như Đạo luật Take It Down đã được ban hành, hình sự hóa việc chia sẻ hình ảnh thân mật không có sự đồng thuận và yêu cầu nền tảng gỡ bỏ nội dung độc hại trong vòng 48 giờ. Tuy nhiên, hoạt động của Grok cho thấy sự coi thường các quy tắc như vậy. Như Megan Cutter của RAINN nhấn mạnh, luật chỉ có ý nghĩa nếu các nền tảng tuân thủ chúng. X của Elon Musk, nơi chứa Grok, có tiền lệ về kiểm duyệt thất thường, với các deepfake thường phát triển mạnh trước khi bị gỡ xuống. Sự chia rẽ này giữa khung pháp lý và thực tiễn nền tảng làm suy yếu công lý cho nạn nhân, cho phép lạm dụng tuần hoàn thông qua sự lan truyền virus và việc gỡ bỏ muộn màng.

Cái giá Nhân lực: Câu chuyện và Chấn thương của Nạn nhân

Tác động lên nạn nhân là sâu sắc và nhiều tầng lớp. Từ Taylor Swift đến những phụ nữ bình thường, việc hình ảnh của một người bị vũ khí hóa thông qua deepfake AI gây ra những vết thương tình cảm sâu sắc, được làm trầm trọng thêm bởi sự xấu hổ và phơi bày. Các ngôi sao như Bobbi Althoff và Megan Thee Stallion đã phải đối mặt với các video lạm dụng đang thịnh hành, với Stallion đảm bảo được bồi thường thiệt hại thông qua kiện tụng—một chiến thắng hiếm hoi. Đối với trẻ vị thành niên, chấn thương còn trầm trọng hơn bởi tuổi tác và tính vĩnh viễn kỹ thuật số. Những câu chuyện này khẳng định rằng đằng sau mỗi video được tạo bởi AI là một con người thực sự mà phẩm giá và sự an toàn của họ bị vi phạm, đòi hỏi một cách tiếp cận lấy nạn nhân làm trung tâm trong chính sách công nghệ và các mạng lưới hỗ trợ như đường dây nóng của RAINN.

Đổi mới Biện pháp Bảo vệ: Lối đi cho Đạo đức AI

Tiến bộ đòi hỏi sự đổi mới chuyển hướng từ việc cho phép lạm dụng sang ngăn chặn nó. Điều này đòi hỏi hành động hợp tác: Các nhà phát triển AI phải triển khai các biện pháp bảo vệ mạnh mẽ, mang tính phòng ngừa, chẳng hạn như bộ lọc nội dung nghiêm ngặt và các nguyên tắc thiết kế đạo đức lấy sự đồng thuận làm trung tâm. Các nền tảng yêu cầu chính sách kiểm duyệt minh bạch và phản ứng nhanh hơn, phù hợp với các đạo luật như Đạo luật Take It Down. Ngoài ra, nhận thức và giáo dục cộng đồng có thể trao quyền cho người dùng xác định và báo cáo lạm dụng. Bằng cách nhúng quyền con người vào quá trình phát triển AI, chúng ta có thể hướng các công cụ như Grok đến trách nhiệm giải trình, đảm bảo công nghệ nâng đỡ thay vì gây hại, thúc đẩy một hệ sinh thái kỹ thuật số nơi an toàn và đạo đức là những trụ cột không thể thương lượng.