مدیر اینستاگرام چالش‌های محتوای هوش مصنوعی را تشریح می‌کند

محاسبه هوش مصنوعی اینستاگرام: اصالت در عصر بازتولید بی‌نهایت

آدام موسری، رئیس اینستاگرام، اخیراً یک کاروسل ۲۰ اسلایدی منتشر کرد که کمتر شبیه به‌روزرسانی محصول و بیشتر شبیه یک مانیفست فلسفی بود. استدلال اصلی او؟ اصالت در حال تبدیل شدن به چیزی بی‌نهایت قابل بازتولید است. به عبارت دیگر، هوش مصنوعی اکنون می‌تواند زیبایی‌شناسی خام و فیلترنشده‌ای را که سازندگان مدت‌ها به عنوان مدرکی بر انسان‌بودن خود استفاده می‌کردند، تقلید کند—و این برای همه یک مشکل است. پست موسری فقط یک هشدار نبود؛ یک گلوله اخطار به سمت صنعتی بود که بر پایه اعتماد، خلاقیت و توهم شکننده «آنچه می‌بینید همان است که واقعاً اتفاق افتاده» بنا شده است.

اما در حالی که موسری این را به عنوان چالشی اجتناب‌ناپذیر که نیازمند سازگاری سازندگان است معرفی می‌کند، واکنش جامعه اینستاگرام شکاف عمیق‌تری را نشان می‌دهد. بسیاری از سازندگان احساس می‌کنند که پلتفرم در حال توجیه سرمایه‌گذاری‌های خود در هوش مصنوعی است، نه محافظت از افرادی که امپراتوری آن را ساخته‌اند. بیایید تنش‌های کلیدی، آشفتگی فنی برچسب‌گذاری هوش مصنوعی و معنای همه اینها برای آینده رسانه‌های اجتماعی را بررسی کنیم.

فرض اصلی: وقتی هوش مصنوعی از تقلیدکنندگان تقلید می‌کند

تز اصلی موسری به‌طور فریبنده‌ای ساده است: ابزارهای هوش مصنوعی اکنون به هر کسی امکان می‌دهند کار سازندگان را تکرار کند، و خروجی به سرعت بهتر می‌شود. به زودی، محتوای تولیدشده توسط هوش مصنوعی از محتوای انسانی قابل تشخیص نخواهد بود—نه فقط در صیقل‌خوردگی، بلکه در همان نقص‌هایی که سازندگان برای نشان دادن اصالت استفاده می‌کنند.

این یک پارادوکس ایجاد می‌کند. سازندگان در پاسخ به جعل‌های هوش مصنوعی به سمت خامی روی آورده‌اند—فیلم‌برداری لرزان، صدای ویرایش‌نشده، پس‌زمینه‌های شلوغ—به عنوان نوعی مدرک. اما موسری هشدار می‌دهد که هوش مصنوعی به زودی آن زیبایی‌شناسی را نیز تقلید خواهد کرد و منجر به افزایش بدبینی نسبت به همه چیز می‌شود. اگر خامی را بتوان جعل کرد، چه چیزی باقی می‌ماند؟ پاسخ، به گفته اینستاگرام، تأیید و برچسب‌گذاری است. اما همانطور که خواهیم دید، گفتنش آسان‌تر از انجامش است.

معضل برچسب‌گذاری: نیت‌های خوب، اجرای آشفته

طرح اینستاگرام برای برجسته‌سازی محتوای هوش مصنوعی از طریق برچسب‌ها ساده به نظر می‌رسد. در عمل، یک فاجعه بوده است. در چند هفته گذشته، کاربران گزارش داده‌اند که سیستم خودکار متا برچسب «محتوای هوش مصنوعی» را روی تصاویری می‌زند که هرگز توسط هوش مصنوعی مولد لمس نشده‌اند. ویرایش‌های ساده مانند حذف پس‌زمینه در Canva یا اصلاح جزئی یک لکه، برچسب را فعال کرده، در حالی که تصاویر واقعاً تولیدشده توسط هوش مصنوعی از لابه‌لای شکاف‌ها عبور می‌کنند.

علت اصلی؟ متا متادیتای IPTC و C2PA را اسکن می‌کند، اما روش‌های آن مبهم باقی مانده است. برخی برچسب‌ها به نظر می‌رسد تقصیر Canva باشد، در حالی که برخی دیگر از عجیب‌وغریب‌های تشخیص خود متا ناشی می‌شوند. نتیجه یک سیستم برچسب‌گذاری است که خودسرانه به نظر می‌رسد و اعتماد را بیشتر فرسایش می‌دهد. همانطور که یک کاربر گفت: «اگر نتوانم تشخیص دهم چه چیزی واقعی است، اشتراک‌گذاری را کاملاً متوقف می‌کنم.» و دقیقاً همین اتفاق در حال رخ دادن است—تعامل با محتوای شخصی کاهش می‌یابد زیرا مردم به دایرکت‌ها پناه می‌برند.

چرا تشخیص دقیق هوش مصنوعی اینقدر سخت است

بخشی از مشکل فنی است. هوش مصنوعی مولد و هوش مصنوعی کمکی (مانند حذف اشیاء در فتوشاپ) هر دو از یادگیری ماشین استفاده می‌کنند، اما اساساً متفاوت هستند. یکی گرفتن آن‌ها منجر به مثبت‌های کاذب می‌شود. در همین حال، بازیگران بد می‌توانند متادیتا را حذف کنند یا از ابزارهایی استفاده کنند که سیگنال‌های C2PA را جاسازی نمی‌کنند و تشخیص را به یک بازی موش و گربه تبدیل می‌کنند. اینستاگرام اعتراف می‌کند که نمی‌تواند همه چیز را برچسب‌گذاری کند، که سؤال نگران‌کننده‌ای را مطرح می‌کند: اگر برچسب‌گذاری غیرقابل اعتماد باشد، چه فایده‌ای دارد؟

واکنش سازندگان: دسترسی، الگوریتم‌ها و وعده‌های شکسته

واکنش جامعه سازندگان به پست موسری نارضایتی‌هایی را آشکار می‌کند که فراتر از برچسب‌گذاری هوش مصنوعی است. چندین سازنده گزارش دادند که دسترسی دنبال‌کنندگان پس از تغییرات اخیر الگوریتم به ۲٪ کاهش یافته است، و حساب‌های تثبیت‌شده پس از سال‌ها رشد، ناگهان نامرئی شده‌اند. یک عکاس اشاره کرد که دسترسی‌اش در سال ۲۰۲۵ با وجود یک دهه ساختن جامعه از طریق تعامل اصیل، فروپاشیده است.

انتقاد فقط درباره هوش مصنوعی نیست. درباره پلتفرمی است که سازندگان احساس می‌کنند ریشه‌های اجتماعی خود را رها کرده است. «شما پلتفرمی را اداره می‌کنید که فعالانه هوش مصنوعی را تشویق می‌کند، انکار این بی‌معنی است،» یکی از پاسخ‌ها گفت و به ادغام تهاجمی ابزارهای ایجاد هوش مصنوعی توسط متا اشاره کرد. دیگران از تغییر از ارتباط واقعی به معیارهای عملکرد توصیف می‌کنند، جایی که حتی دنبال‌کنندگانی که آگاهانه انتخاب کرده‌اند محتوا را ببینند، به‌طور الگوریتمی از مشاهده پست‌ها مسدود می‌شوند. تنش بین اقتصاد پلتفرم و پایداری سازنده هرگز تیزتر نبوده است.

آشغال هوش مصنوعی و جریمه تعامل

برخورد اینستاگرام با آشغال هوش مصنوعی—محتوای بی‌کیفیت و انبوه تولیدشده توسط هوش مصنوعی—شامل کاهش دسترسی پست‌های سازندگان هوش مصنوعی است که برچسب جدید «پروفایل تولیدشده توسط هوش مصنوعی» را اعمال نمی‌کنند. این گامی در جهت درست است، اما همچنین اعتراف ضمنی به این است که محتوای هوش مصنوعی پلتفرم را سیل‌آسا کرده است.

مطالعات نشان می‌دهد که ۱۰٪ از کل محتوای وب و یک‌چهارم پست‌های رسانه‌های اجتماعی اکنون با کمک هوش مصنوعی تولید می‌شوند. حجم زیاد، برچسب‌گذاری دستی را غیرممکن می‌کند. در همین حال، جریمه‌های الگوریتمی برای محتوای هوش مصنوعی برچسب‌نخورده از ۱۵ تا ۵۰ درصد کاهش تعامل متغیر است، و سایه‌بان شدن به یک خطر واقعی برای حساب‌هایی تبدیل می‌شود که ناگهان به استفاده سنگین از هوش مصنوعی روی می‌آورند. پیام واضح است: شفافیت اجباری است، اما ابزارهای آن هنوز خراب هستند.

چرخش به تأیید: حرکت بعدی اینستاگرام

به عنوان یک اقدام متقابل، موسری می‌گوید اینستاگرام به دنبال تأیید محتوای اصیل و برجسته‌سازی سازندگان اصلی خواهد بود. همچنین اطلاعات بیشتری درباره اینکه چه کسی پشت هر حساب است نمایش خواهد داد. این امیدوارکننده به نظر می‌رسد، اما سؤالاتی درباره دروازه‌بانی ایجاد می‌کند. چه کسی تصمیم می‌گیرد چه چیزی اصیل است؟ آیا تأیید به نفع سازندگان تثبیت‌شده در برابر تازه‌واردان خواهد بود؟ و اینستاگرام چگونه این را بدون ایجاد یک سیستم دوطبقه مقیاس‌پذیر می‌کند؟

فشار پلتفرم برای پذیرش Meta Verified توسط سازندگان برای بهبود دسترسی، قبلاً توسط برخی به عنوان راه‌حلی دیده می‌شود که عمدتاً به مدل کسب‌وکار متا سود می‌رساند. اگر تأیید به صورت پرداخت‌به‌بازی شود، می‌تواند شکاف بین سازندگانی که توانایی مالی دارند و آنهایی که ندارند را عمیق‌تر کند. چالش متعادل کردن اعتماد و دسترسی است—سوزنی که اینستاگرام هنوز نتوانسته آن را نخ کند.

معنای این برای آینده رسانه‌های اجتماعی

معضل محتوای هوش مصنوعی منحصر به اینستاگرام نیست. هر پلتفرمی درگیر چگونگی مدیریت سیل رسانه‌های مصنوعی و در عین حال حفظ تعامل کاربران است. اما رویکرد اینستاگرام—برچسب‌گذاری، تأیید و جریمه‌های دسترسی—پیش‌نمایشی از آنچه در راه است ارائه می‌دهد.

برای سازندگان، نتیجه واضح است: سازگاری غیرقابل مذاکره است، اما حمایت نیز همینطور. عقب راندن تغییرات الگوریتمی که هوش مصنوعی را بر ارتباط انسانی ترجیح می‌دهند ضروری است. برای برندها، درس این است که کارایی هوش مصنوعی را با داستان‌سرایی انسانی ترکیب کنند، شفافیت را حفظ کنند و بر محتوای اصیل و جذاب تمرکز کنند. برای کاربران، امید این است که پلتفرم‌ها در نهایت برچسب‌گذاری را درست انجام دهند—یا حداقل تشخیص واقعی را آسان‌تر کنند.

در نهایت، چالش محتوای هوش مصنوعی چالشی از اعتماد است. رئیس اینستاگرام مشکل را ترسیم کرده است، اما راه‌حل به چیزی بیش از برچسب‌ها و الگوریتم‌ها نیاز دارد. به تعهدی بنیادین برای حفظ ارتباطات اجتماعی نیاز دارد که این پلتفرم‌ها را در وهله اول ارزشمند کرده است. همانطور که خود موسری اشاره کرد، اصالت در حال تبدیل شدن به چیزی بی‌نهایت قابل بازتولید است—اما این به معنای آن نیست که باید تلاش برای یافتن آن را متوقف کنیم.