افشای تجارت غیرقانونی تصاویر سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید شده

بی‌بی‌سی دریافته است که سوءاستفاده کنندگان جنسی از کودکان از فناوری هوش مصنوعی برای تولید و فروش تصاویر واقعی‌نما از آزار کودکان استفاده می‌کنند.

برخی با پرداخت اشتراک در حساب‌های موجود در سایت‌های اشتراک‌گذاری محتوای اصلی مانند پاترئون ( Patreon) به تصاویر دسترسی پیدا می‌کنند.

پاترئون در واکنش گفته که سیاست «تحمل صفر» در مورد چنین تصاویری در سایت خود دارد.

شورای رئیس پلیس ملی گفت که این «تکان‌دهنده» است که برخی پلتفرم‌ها «سودهای کلان» به دست می‌آورند اما «مسئولیت اخلاقی» آن را بر عهده نمی‌گیرند.

آژانس اطلاعاتی، امنیتی و سایبری دولت (جی‌سی‌اچ‌کیو) هم در واکنش به این گزارش گفته است: «مجرمین سوءاستفاده جنسی از کودکان همه فناوری‌ها را به کار می‌گیرند و برخی معتقدند آینده مواد حاوی سوءاستفاده جنسی از کودکان در محتوای تولید شده توسط هوش مصنوعی نهفته است.»

سازندگان تصاویر سوءاستفاده از کودکان از یک نرم‌افزار هوش مصنوعی به نام استِیبل دیفیوژن (Stable Diffusion) استفاده می‌کنند که برای تولید تصاویر هنری یا طراحی گرافیک از آن استفاده می‌شود.

هوش مصنوعی به کامپیوتر امکان کارهایی را می‌دهد که انجام آنها معمولا نیازمند هوش انسانی است.

نرم‌افزار استِیبل دیفیوژن به کاربران اجازه می‌دهد هر تصویری را که می‌خواهند با کلمات توصیف کنند و این برنامه تصویر مورد نظر آنها را تولید می‌کند.

اما بی‌بی‌سی دریافته است که از آن برای ایجاد تصاویری شبیه به تصاویر واقعی از سوءاستفاده جنسی از کودکان، از جمله تجاوز جنسی به نوزادان و کودکان نوپا، استفاده می‌شود.

تیم‌های تحقیقات آنلاین پلیس بریتانیا در زمینه سوءاستفاده از کودکان هم می‌گویند که آنها هم با چنین محتوایی مواجه شده‌اند.

اوکتاویا شیپ‌شَنکس، محقق و روزنامه‌نگار آزاد چندین ماه است که این موضوع را بررسی کرده است. او از طریق موسسه خیریه کودکان ان‌اس‌پی‌سی‌سی با بی‌بی‌سی تماس گرفت تا یافته‌های خود را مورد توجه قرار دهد.

او گفت: «از زمانی که تصاویر تولید شده توسط هوش مصنوعی ممکن شده، سیل عظیمی از این تصاویر تولید شده... و این فقط مربوط به دختران خیلی کم سن و سال نیست، بلکه [پدوفیل‌ها] در مورد کودکان نوپا صحبت می‌کنند.»

در بریتانیا با «شبه تصاویر» تولید شده توسط کامپیوتر که سوءاستفاده جنسی از کودکان را نشان می‌دهد، مثل یک تصویر واقعی برخورد می‌شود و در اختیار داشتن، انتشار یا انتقال آنها در بریتانیا غیرقانونی است.

ایان کریچلی، رئیس شورای پلیس ملی بریتانیا برای حفاظت از کودکان (ان‌پی‌سی‌سی)، گفت که این استدلال اشتباه است که چون هیچ کودک واقعی در چنین تصاویر «مصنوعی» به تصویر کشیده نشده پس به کسی آسیب نرسیده است.

او هشدار داد که یک آزارگر می‌تواند «از آزار در عالم ذهن، به سوی آزار از طریق تصاویر مصنوعی و در نهایت به سوی آزار یک کودک در عالم واقعی سوق پیدا کند.»

 

اوکتاویا شیپ‌شَنکس، محقق و روزنامه‌نگار آزاد چندین ماه است که این موضوع را بررسی کرده است

______________________________________________________________

تصاویر سوءاستفاده جنسی از کودکان در یک فرآیند سه مرحله‌ای به اشتراک گذاشته می‌شود:

• پدوفیل‌ها با استفاده از نرم‌افزار هوش مصنوعی تصاویر را می‌سازند
• تصاویر را در سکوهایی مانند وب سایت اشتراک‌گذاری تصویر ژاپنی به نام پیکسیو(Pixiv) تبلیغ می‌کنند
• این حساب‌ها دارای لینک‌هایی برای هدایت مشتریان به سوی تصاویر عیان‌تر خود هستند، که افراد می‌توانند برای مشاهده آن در حساب‌های موجود در سایت‌هایی مانند پاترئون پول پرداخت کنند

______________________________________________________________

برخی از سازندگان این تصاویر آنها را در پیکسیو، شبکه اجتماعی پرطرفدار ژاپنی، پست می‌کنند که عمدتاً هنرمندانی که مانگا (کتاب‌های مصور ژاپنی) و انیمه (کارتون‌های چاپی و متحرک) را به اشتراک می‌گذارند از آن استفاده می‌کنند.

اما از آنجا که این سایت در ژاپن میزبانی می‌شود، جایی که اشتراک‌گذاری کارتون‌ها و نقاشی‌های کودکانه غیرقانونی نیست، سازندگان از آن برای تبلیغ کار خود در گروه‌ها و از طریق هشتگ‌ها استفاده می‌کنند و موضوعات خود را با استفاده از کلمات کلیدی مشخص می‌کنند.

سخنگوی پیکسیو گفت که این شبکه اجتماعی تاکید زیادی بر رسیدگی سریع به این موضوع دارد. این شرکت روز ۳۱ ماه مه اعلام کرد که تمام تصاویر واقع‌گرایانه از محتوای جنسی را که شامل خردسالان می‌شود، ممنوع کرده است.

پیکسیو گفت که سیستم‌های نظارتی خود را با جدیت تقویت کرده و منابع قابل توجهی را برای مقابله با مشکلات مربوط به پیشرفت‌های هوش مصنوعی اختصاص داده است.

خانم شیپ‌شنکس به بی‌بی‌سی گفت که تحقیقات او نشان می‌دهد که گویی کاربران تصاویر کودک آزاری را در مقیاس صنعتی تولید می‌کنند.

او گفت: «حجم این تصاویر بسیار زیاد است، بنابراین افراد [سازندگان] خواهند گفت که 'ما قصد داریم حداقل هزار تصویر در ماه بسازیم'.»

نظرات کاربران در مورد تصاویر منفرد در پیکسیو نشان می‌دهد که آنها به کودکان علاقه جنسی دارند، به طوری که برخی از آنها پیشنهاد ارائه تصاویر و ویدیوهایی از سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید نشده را می‌دهند.

خانم شیپ‌شنکس برخی از گروه‌ها را در این شبکه اجتماعی زیر نظر داشته است.

او می‌گوید: «در این گروه‌ها، که صد عضو خواهند داشت، آنها تصاویر را به اشتراک می‌گذارند و می‌گویند 'اوه اینجا یک لینک به تصاویر واقعی وجود دارد'.»

سطوح مختلف قیمت‌گذاری

بسیاری از حساب‌های موجود در پیکسیو لینک‌هایی در بیوگرافی خود دارند که افراد را به آنچه که «محتوای سانسور نشده» خود در پاترئون می‌خوانند هدایت می‌کنند. سایت اشتراک‌گذاری پاترئون در آمریکا قرار دارد.

ارزش پاترئون تقریباً ۴ میلیارد دلار است و ادعا می‌کند که بیش از ۲۵۰ هزار سازنده دارد که اکثر آنها اکانت‌های قانونی متعلق به افراد مشهور، روزنامه نگاران و نویسندگان هستند.

طرفداران آنها می‌توانند با گرفتن اشتراک ماهانه برای دسترسی به وبلاگ‌ها، پادکست‌ها، ویدیوها و تصاویر از سازندگان حمایت کنند؛ با پرداخت حداقل ۳.۸۵ دلار در ماه.

اما بررسی‌های ما نشان داد که حساب‌های پاترئون تصاویری از کودکان را که توسط هوش مصنوعی تولید می‌شود و همچنین عکس‌های واقعی را برای فروش ارائه می‌دهند. قیمت‌ آنها بسته به نوع مواد درخواستی متغیر است.

یکی در حساب کاربری خود نوشت: «من دخترانم را در کامپیوتر شخصی‌ام آموزش می‌دهم» و اضافه کرد که آنها «تسلیم» می‌شوند. در ازای ۸.۳۰ دلار در ماه، کاربر دیگری پیشنهاد ارائه «هنر انحصاری بدون سانسور» را داد.

بی‌بی‌سی یک نمونه برای پاترئون فرستاد و این شبکه تأیید کرد که این تصاویر «نیمه واقعی است و سیاست‌های ما را نقض می‌کند». پاترئون گفت که این اکانت فورا حذف شده است.