الگوریتم‌های یوتیوب می‌توانند محرک جوانان برای تیراندازی در مدارس باشند
محققان می‌خواهند بدانند که آیا واقعا رابطه‌ای میان تیراندازی در مدارس و ویدیوهای پیشنهادی یوتیوب وجود دارد؟
تحقیقات جدید نشان می‌دهد که الگوریتم‌های جدید یوتیوب می‌توانند به کاربران جوان با محتواهای آزار دهنده‌ای چون تصاویر تیراندازی در مدارس یورش برند. محققان می‌خواهند بدانند که آیا واقعا رابطه‌ای میان تیراندازی در مدارس و ویدیوهای پیشنهادی یوتیوب وجود دارد؟
محققان «پروژه شفافیت فناوری»، یک سازمان غیردولتی مستقر در ایالات متحده، با بازکردن حساب‌های کاربری یوتیوبی وانمود کردند که پسربچه‌های معمولی ۹ و ۱۴ ساله و عاشق تماشای ویدیو هستند.
این تحقیق آشکار ساخت که آن حساب‌های کاربری که روی ویدیوهای پیشنهادی یوتیوب کلیک می‌کردند به سرعت مورد یورش محتواهای خشونت‌آمیز مرتبط با تیراندازی در مدارس و نحوه بکارگیری سلاح‌ها قرار می‌گرفتند و تقریبا طی یک ماه روزی ۱۲ مورد از این ویدیوها به نمایش در می‌آمد.
البته حساب‌های کاربری که از کلیک کردن بر این ویدیوها اجتناب می‌کردند نیز گاهی با این ویدیوها برخورد می‌کردند اما ده‌برابر کمتر.
برای مثال، یکی از ویدیوهایی که برای حساب‌هایی با کاربران کم سن و سال به نمایش در می‌آمد، دختر جوانی را نشان می‌داد که تپانچه‌ای در دست دارد و با آن شلیک می‌کند. ویدیوی دیگری هم شخصی را نشان می‌دهد که با اسلحه‌ای به یک ماکت سر انسان که با چیزهایی شبیه خون و اندام زنده پرشده است شلیک می‌کند.
مساله نگران کننده این است که این ویدیوها گستره وسیع‌تری از مخاطبان را به خود جذب می‌کند.
پروژه شفافیت فناوری در توئیتی، تصویری از یک ویدیوی شلیک در مدرسه را منتشر کرده که ۸۳۶ هزار بار بازدید شده است. کاربری هم زیر این ویدیو نوشته است که «این ویدیو مشوق هر روزه من است».
کتی پاول، رئیس پروژه شفافیت فناوری چنین ویدیوهایی را علاوه بر این که ناقض قوانین یوتیوب می‌داند، معتقد است که آن‌ها می‌توانند کودکان آسیب دیده را به مسیرهای خطر‌ناکی بکشانند.
خانم پاول گفت: «این موضوع مثالی دیگر از ناکامی یوتیوب در کنترل کیفیت است. این پلتفرم بارها به کنگره آمریکا، مردم و والدین گفته است که ایمن است و الگوریتم‌هایش محتوای خشن را پیشنهاد نمی‌کند. اما آزمایش ما نشان داد که اتفاقا این الگوریتم چنین محتواهایی را بصورتی فزاینده به کاربران پیشنهاد می‌کند. یوتیوب است که مردم را به فروشگاه‌های اسلحه می‌فرستد.»
این نخستین بار نیست که یوتیوب و دیگر شبکه‌های اجتماعی به اشاعه و تبلیغ محتوای خطرناک متهم شده‌اند.
عوامل پشت پرده چنین تیراندازی‌هایی پیش‌تر بارها از یوتیوب برای یافتن محتوای خشن استفاده کرده و در برخی موارد حمله‌های خود را بصورت زنده روی این پلتفرم نمایش داده‌اند.
عامل تیراندازی سال ۲۰۱۸ پارکلند فلوریدا که منجربه کشته‌شدن ۱۷ نفر شد، پیش‌تر در یوتیوب نظرهای خشونت‌آمیزی همچون «من می‌خواهم یک تیرانداز حرفه‌ای مدارس شوم» ارسال کرده است.
مرد مسلحی هم که در اوایل ماه جاری در یک مرکز خرید در دالاس آمریکا ۸ نفر را کشت، در حساب یوتیوب خود ویدیوهایی مبنی بر چگونگی آماده کردن تفنگ‌ها برای تیراندازی همچنین ویدیویی از یک صحنه تیراندازی در مدارس را منتشر کرده بود.
خانم پاول با تاکید بر اینکه بر خلاف باور رایج، بازی‌های ویدیویی مشکل‌ساز نیستند بلکه شبکه‌های اجتماعی و نبود تعدیل محتوا مسئله اصلی است می‌گوید: «برای سال‌ها بازی‌های ویدیویی به عنوان عامل ترویج خشونت آماج حمله سیاستمداران بوده‌اند. اما در حقیقت ممکن است سال‌ها بازی اول شخص Call of duty را انجام دهید و هیچ‌گاه پایتان به مغازه فروشگاه اسلحه باز نشود. این یوتیوب است که مردم را به چنین فروشگاهی می‌فرستند.»
یکی از سخنگویان یوتیوب در واکنش می‌گوید: «نتیجه‌گیری قطعی پس از بررسی روش‌شناسانه چنین گزارش‌هایی برای ما بسیار دشوار است. برای مثال این مطالعه مشخص نمی‌کند در مجموع چند ویدیو به حساب‌های کاربری آزمایشی پیشنهاد شده است. همچنین مشخص نیست که این اکانت‌های آزمایشی چه تنظیماتی داشتند و آیا ابزار تجربه‌های نظارت‌شده برای آن‌ها فعال بوده است یا نه.»
کتی پاول می‌گوید: «در گزارش ما به وضوح آمده است که حساب کاربر ۹ ساله توسط حساب والدینش تنظیم شده است. صرف‌نظر از ابزار والدین یوتیوب، این شرکت هیچ راهی در اختیار والدین نمی‌گذارد تا بتوانند الگوریتم را خاموش و از پیشنهاد ویدیوها به فرزندشان جلوگیری کنند.»
