فیسبوک روز جمعه بیش از ۹۰۰ حساب کاربری، صفحه و گروه جعلی روی پتلفرم فیسبوک و اینستاگرام را حذف کرد. هدف این حساب‌های کاربری و صفحات جعلی تبلیغ روایت‌های طرفدار ترامپ برای نزدیک به ۵۵ میلیون کاربر بود. این شبکه از حساب‌های کاربری جعلی، تکثیر مصنوعی و میزان قابل توجهی از تصاویر پروفایل (نمایه) ساختگی مبتنی بر هوش مصنوعی استفاده کرده است. این نمایه‌های جعلی با استفاده از هوش مصنوعی خلق شده‌اند و به‌منظور اشاعه‌ی محتوای جهت‌دار به‌سود جناح سیاسی راست در سطح وب از جمله شبکه‌های اجتماعی توییتر و یوتیوب مورد استفاده قرار گرفته‌اند.
این حقیقت نشان‌دهنده‌ی پیشرفت جدید و نگران‌کننده‌ی جنگ‌های اطلاعاتی و سایبری در اینترنت است؛ زیرا به‌نظر می‌رسد برای اولین‌بار است که در این وسعت از هوش مصنوعی برای تولید عکس‌های پروفایل جعلی ولی بسیار شبیه به کاربران وب در یک شبکه‌ی اجتماعی استفاده شده است. محققان گروه‌های اطلاعاتی Graphika و DFRLab در گزارشی درباره‌ی عملیات نفوذ و عملکرد تأثیرگذاری چنین اقدامی خاطرنشان کردند که این اولین‌بار است که با فناوری‌ای مواجه شدند که برای پشتیبانی از کمپینی غیرمجاز در رسانه‌های اجتماعی استفاده می‌شود؛ چراکه تاکنون هیچ‌گاه هوش مصنوعی در این حد به خدمت یک جنگ رسانه‌ای غیرمجاز و جعلی درنیامده بود.
تصاویر ساختگی ادمین گروه‌های شبکه‌ی The BL
این شبکه برای صحت اعتبار و اصالت تصاویر کاربران و حساب‌های کاربری آن‌ها از هوش مصنوعی استفاده کرده است. فیسبوک تاکنون موفق به کشف و شناسایی ۶۱۰ حساب‌کاربری در خود شبکه‌ی اجتماعی فیسبوک، ۱۵۶ گروه، ۸۹ صفحه و ۷۲ حساب کاربری اینستاگرام شده است که وابسته به رسانه‌ای طرفدار ترامپ به‌نام «The BL» بوده است. The BL (مخفف زیبایی زندگی یا Beauty of Life)، یک پایگاه خبری دیجیتال است که خود را باعنوان شعار «همچون نسیم بهاری کوهستان، به قلب هر خواننده‌ای طراوت می‌بخشد» قبل از حذف شدن از فیسبوک معرفی کرده بود. تحقیقات فیسبوک از پایگاه خبری دیجیتال حوزه‌ی زیبایی The BL نشان می‌دهد، این پایگاه به اپک تایمز (The Epoch Times) وابسته است. اپک تایمز، سازمان رسانه‌ای خبری محافظه‌کار با پیوندهایی با گروه چینی فالون گونگ (Falun Gong) و سابقه‌ی حمایت شدید از دونالد ترامپ است.
ظاهرا سازمان رسانه‌ای مستقر در ایالات متحده که مسئول صفحات شبکه‌ی The BL بوده است، توسط کاربرانی از ویتنام و ایالات متحده اداره می‌شده و به‌گفته‌ی فیسبوک، ایجاد حساب‌های کاربری جعلی گسترده برعهده آن‌ها بوده تا برخی از ترافیک خود را از کشورهای دیگر هدایت کنند تا کمتر شکی برانگیخته شود و شناسایی نشوند. گزارش محققان Graphika و DFRLab نشان می‌دهد که بیشتر حساب‌های جعلی شبکه‌ی The BL برای حفظ مجموعه‌ای با بیش از ۸۰ گروه و صفحه‌ی ترویج ترامپ مورد استفاده قرار گرفته است. حساب‌های کاربری که به‌عنوان سرپرست این صفحات بودند با جملاتی مشابه چون «آمریکا به رئیس جمهور ترامپ نیاز دارد»، «ترامپ برای رئیس جمهوری آمریکا» و «ما با ترامپ و پنس ایستاده‌ایم!»؛ نه از داخل خاک کشور ایالات متحده بلکه از ویتنام مدیریت می‌شدند که عمدتاً جعلی بودند.
در این گزارش آمده است:
حساب‌های کاربری جعلی ادمین‌های گروه‌های فیسبوک بودند که تعداد عضویت در این گروه‌ها را افزایش می‌دادند، مطالب صفحات را لایک می‌کردند و محتوای بسیار زیادی از دارایی‌های مربوط به The BL را پست می‌کردند. این ساختار، کارخانه‌ی تکثیر مصنوعی در مقیاس بزرگ را تشکیل می‌داد که تنها عملکرد قابل مشاهده‌ی آن افزایش بسیار زیاد محتوای شبکه‌ی The BL و تاحدودی کمتر اپک تایمز بود.
به‌گفته‌ی محققان، در بسیاری از این حساب‌های کاربری از تصاویر نمایه‌ای استفاده شده است که بااستفاده از شبکه‌های عصبی آموزش دیده روی عکس‌های واقعی انسان‌ها و دستکاری تصاویر ایجاد شده بودند که تصاویری از افرادی خلق کرده بود که درواقع هرگز وجود نداشتند. همچنین، محققان Graphika و DFRLab، هجده عکس چهره در تصاویر نمایه یافتند که احتمالا با استفاده از شبکه‌های مولد تخاصمی (GAN) ایجاد شده بودند و در شبکه‌ی The BL مورد استفاده قرار گرفتند.
درحالی‌که این فناوری قادر است چهره‌های جعلی قابل قبول و بسیار واقعی ایجاد کند، چندین نکته‌ی آشکار در این تصاویر جعلی وجود دارد که از چشم محققان دور نمانده است. این کار عمدتا با تقلید از الگوهای بصری انجام می‌شود، اما آناتومی انسان را درک نمی‌کند و با پیش‌زمینه‌ها و ویژگی‌های متقارن مانند عینک یا گوشواره به مشکل می‌خورد، برای نمونه عینک و گوشواره آن‌ها تقارن ندارد.
تصویر نمایه‌ی آلفونزو ماسیاس، سرپرست یکی از گروه‌های شبکه‌ی The BL
براساس گزارش Graphika، تصویر بالا، تصویر نمایه‌ی «آلفونزو ماسیاس» (Alfonzo Macias)، سرپرست یکی از گروه‌های شبکه‌ی The BL بوده است. در گزارش آمده است:
به عدم تقارن موجود در عینک و همچنین پیش‌زمینه‌ی بی‌کیفیت توجه کنید. محققان این تصاویر را با همکاری متخصصان دانشگاه فدریکو دوم ناپل مورد بررسی قرار داده و تقریبا (۹۹ درصد) مطمئن هستند از الگوریتم‌های هوش مصنوعی GAN برای تولید عکس‌ها استفاده شده است.
ورود به سایت