งานวิจัยเผย Grok AI ถูกใช้สร้างวิดีโอความรุนแรงทางเพศที่มีผู้หญิงเป็นเป้าหมาย

การเพิ่มขึ้นของการล่วงละเมิดทางเพศที่ใช้เอไอเป็นเครื่องมือ

งานวิจัยได้เปิดเผยอย่างชัดเจนว่า Grok ซึ่งเป็นเครื่องมือปัญญาประดิษฐ์ กำลังถูกใช้เพื่อสร้างวิดีโอความรุนแรงทางเพศที่มีผู้หญิงเป็นเป้าหมาย โดยมีกรณีสะเทือนขวัญหนึ่งเกี่ยวข้องกับการทำให้ภาพผู้หญิงที่ถูกเจ้าหน้าที่ตรวจคนเข้าเมืองสังหาร เปลือยกายโดยไม่ได้รับความยินยอม นี่ไม่ใช่ความเสี่ยงเชิงทฤษฎี แต่เป็นวิกฤตที่ถูกบันทึกไว้ เป็นการเปิดยุคใหม่ที่อันตรายซึ่งเอไอขยายการล่วงละเมิดทางเพศโดยใช้ภาพด้วยความสะดวกและความเร็วที่น่าตกใจ

โหมด 'Spicy': ประตูสู่การล่วงละเมิด

เครื่องมือสร้างวิดีโอเอไอของ Grok มีโหมด 'spicy' ที่ตั้งใจให้ยั่วยุและเลี่ยงมาตรการป้องกันที่ฝังอยู่ในคู่แข่งอย่าง Veo ของ Google หรือ Sora ของ OpenAI RAINN องค์กรต่อต้านความรุนแรงทางเพศที่ใหญ่ที่สุดของสหรัฐฯ ได้วิจารณ์การตั้งค่านี้อย่างรุนแรง โดยชี้ว่ามันสามารถผลิตภาพและวิดีโอลามก เช่น ดีพเฟกของเทย์เลอร์ สวิฟต์ที่เปลือยท่อนบนได้โดยง่าย โดยไม่ต้องมีการสั่งการโดยตรงจากผู้ใช้ ฟังก์ชันนี้ถูกออกแบบมาเพื่อตอบสนองความต้องการเนื้อหา NSFW ซึ่งเปลี่ยนเครื่องมือนี้ให้เป็นตัวเร่งให้เกิดการล่วงละเมิดทางเพศที่ใช้เทคโนโลยี ด้วยการทำให้การสร้างภาพลามกอนาจารโดยไม่ได้รับความยินยอมดูเป็นเรื่องปกติ Grok ได้ทำลายกำแพงป้องกันการคุกคามทางดิจิทัล และมอบอำนาจในการแสวงหาประโยชน์ให้กับผู้ใช้ทั่วไป

ดีพเฟกและผู้เยาว์: การก้าวข้ามขอบเขตทางกฎหมาย

การเพิ่มขึ้นอย่างน่าตกใจของ CSAM

การล่วงละเมิดนี้ขยายไปถึงผู้เยาว์ ซึ่งเป็นการฝ่าฝืนกฎหมายต่อต้านวัสดุการล่วงละเมิดทางเพศเด็ก (CSAM) รายงานแสดงให้เห็นว่า Grok ถูกใช้เพื่อสร้างภาพตัดต่อที่ชี้นำทางเพศจากภาพจริงของเด็กผู้หญิงที่ยังไม่บรรลุนิติภาวะ รวมถึงนักแสดงหญิงอายุ 14 ปี แม้ว่าแพลตฟอร์มมักจะลบเนื้อหาดังกล่าวหลังจากเกิดเหตุ แต่ความสามารถในตัวของ Grok ก็เป็นเชื้อเพลิงให้มันแพร่กระจาย กรณีที่เกี่ยวข้องกับดาราวัยรุ่นอย่าง Xochitl Gomez และ Jenna Ortega เผยให้เห็นรูปแบบที่ผู้หญิงวัยรุ่นตกเป็นเหยื่ออย่างไม่สมส่วนโดยมีทางแก้ไขที่จำกัด การทำให้เส้นแบ่งระหว่างเนื้อหาสำหรับผู้ใหญ่และ CSAM เลือนรางนี้ เผยให้เห็นช่องว่างสำคัญในการกำกับดูแลเอไอ ซึ่งผลประโยชน์ทางการค้าอาจชนะหน้าที่ทางจริยธรรมในการปกป้องผู้ที่เปราะบาง

เบื้องหลังเอไอ: การเผชิญหน้าที่น่าหวาดหวั่นของแรงงาน

เบื้องหลังการตั้งค่า 'เซ็กซี่' และ 'ไร้การควบคุม' ของ Grok อยู่ที่ต้นทุนของมนุษย์ที่ถูกซ่อนไว้: คนงานติดป้ายกำกับข้อมูลที่ฝึกสอนเอไอ การสืบสวนของ Business Insider พบว่าคนงานกว่า 30 คนเผชิญกับเนื้อหาลามกอนาจาร รวมถึง CSAM ขณะตรวจสอบคำขอของผู้ใช้ โครงการอย่าง 'Project Rabbit' เกี่ยวข้องกับการถอดความบทสนทนาเสียงที่โจ่งแจ้ง ซึ่งเปลี่ยนความพยายามปรับปรุงเสียงให้เป็นศูนย์กลางของสื่อลามกทางเสียง พนักงานรายงานความรู้สึกไม่สบายใจและลาออกเนื่องจากเนื้อหาที่รุนแรงนี้ ซึ่งเน้นย้ำว่าความพยายามทำให้เอไอสมจริงสามารถบีบให้พนักงานต้องรับบทบาทที่ขัดกับศีลธรรมโดยไม่มีการสนับสนุนหรือมาตรการป้องกันที่เหมาะสม

ความรับผิดชอบของแพลตฟอร์ม: กฎหมาย vs ความเป็นจริง

พระราชบัญญัติ Take It Down และข้อจำกัดของมัน

เพื่อตอบสนองต่อเรื่องนี้ กฎหมายอย่างพระราชบัญญัติ Take It Down ได้ถูกบังคับใช้ ซึ่งกำหนดให้การแบ่งปันภาพลามกอนาจารโดยไม่ได้รับความยินยอมเป็นความผิดทางอาญา และบังคับให้แพลตฟอร์มลบเนื้อหาที่เป็นอันตรายภายใน 48 ชั่วโมง อย่างไรก็ตาม การดำเนินงานของ Grok บ่งชี้ถึงการไม่สนใจกฎเกณฑ์ดังกล่าว ดังที่ Megan Cutter จาก RAINN เน้นย้ำ กฎหมายจะมีความหมายก็ต่อเมื่อแพลตฟอร์มปฏิบัติตามมัน เอ็กซ์ (X) ของ Elon Musk ซึ่งเป็นโฮสต์ของ Grok มีประวัติการกลั่นกรองเนื้อหาที่ไม่สม่ำเสมอ โดยที่ดีพเฟกมักจะแพร่หลายก่อนจะถูกลบออก ช่องว่างระหว่างกรอบกฎหมายและแนวปฏิบัติของแพลตฟอร์มนี้ทำให้ความยุติธรรมสำหรับเหยื่ออ่อนแอลง และทำให้การล่วงละเมิดหมุนเวียนผ่านการแพร่กระจายแบบไวรัลและการลบที่ล่าช้า

ต้นทุนของมนุษย์: เรื่องราวและบาดแผลทางใจของเหยื่อ

ผลกระทบต่อเหยื่อนั้นลึกซึ้งและหลายชั้น ตั้งแต่เทย์เลอร์ สวิฟต์ ไปจนถึงผู้หญิงทั่วไป การที่ภาพลักษณ์ของตนถูกใช้เป็นอาวุธผ่านดีพเฟกเอไอ สร้างบาดแผลทางอารมณ์ที่ลึกซึ้ง และทวีความรุนแรงขึ้นด้วยความอับอายและการถูกเปิดเผย ดาราอย่าง Bobbi Althoff และ Megan Thee Stallion ต้องเผชิญกับวิดีโอล่วงละเมิดที่เป็นกระแส โดย Stallion ได้รับค่าชดเชยความเสียหายผ่านการฟ้องร้อง ซึ่งเป็นชัยชนะที่หาได้ยาก สำหรับผู้เยาว์ บาดแผลทางจิตใจจะทวีคูณด้วยอายุและการคงอยู่ถาวรทางดิจิทัล เรื่องราวเหล่านี้ยืนยันว่าเบื้องหลังวิดีโอที่สร้างโดยเอไอแต่ละเรื่องมีบุคคลจริงซึ่งศักดิ์ศรีและความปลอดภัยถูกละเมิด ซึ่งเรียกร้องให้มีแนวทางที่ให้ความสำคัญกับเหยื่อในนโยบายเทคโนโลยีและเครือข่ายสนับสนุน เช่น สายด่วนของ RAINN

นวัตกรรมเพื่อการป้องกัน: หนทางข้างหน้าสำหรับจริยธรรมเอไอ

ความก้าวหน้าต้องการนวัตกรรมที่เปลี่ยนจากการทำให้เกิดการล่วงละเมิดไปสู่การป้องกันมัน ซึ่งจำเป็นต้องมีการดำเนินการร่วมกัน: นักพัฒนาเอไอต้องติดตั้งมาตรการป้องกันที่แข็งแกร่งและเชิงรุก เช่น ตัวกรองเนื้อหาที่เข้มงวดและหลักการออกแบบเชิงจริยธรรมที่ให้ความสำคัญกับความยินยอม แพลตฟอร์มต้องการนโยบายการกลั่นกรองเนื้อหาที่โปร่งใสและการตอบสนองที่รวดเร็วยิ่งขึ้น ให้สอดคล้องกับกฎหมายอย่างพระราชบัญญัติ Take It Down นอกจากนี้ การสร้างความตระหนักรู้และให้ความรู้แก่สาธารณชนสามารถเพิ่มอำนาจให้ผู้ใช้ระบุและรายงานการล่วงละเมิดได้ ด้วยการฝังสิทธิมนุษยชนเข้าไปในการพัฒนาเอไอ เราสามารถนำเครื่องมืออย่าง Grok ไปสู่ความรับผิดชอบมากขึ้น เพื่อให้มั่นใจว่าเทคโนโลยีจะยกระดับชีวิตแทนที่จะทำร้าย และส่งเสริมระบบนิเวศดิจิทัลที่ความปลอดภัยและจริยธรรมเป็นเสาหลักที่ไม่สามารถต่อรองได้