هوش مصنوعی و فقه اسلامی؛ آیا می‌توان برای ربات‌ها حد تعیین کرد؟

در این مطلب، چالش‌های فقهی و حقوقی مجازات ربات‌ها را بررسی می‌کنیم.

بنابر روایت حوزه، برنامه فقه پویای رادیو معارف در ۹ جلسه با حضور حجج اسلام والمسلمین سخاوتیان و عندلیب به بررسی فقهی و حقوقی ابعاد گوناگون هوش مصنوعی پرداخته که رسانه رسمی حوزه به انتشار محتوای این برنامه‌ها در شماره های گوناگون پرداخته و در این مطلب به انتشار جلسه نهم خواهیم پرداخت.

مجری: بسم الله الرحمن الرحیم. عرض سلام و ادب دارم.

از جناب آقای دکتر عندلیب این سؤال را می‌پرسم که چه مجازات‌هایی برای جرایم هوش مصنوعی در حقوق متصور هستیم؟

- آقای عندلیب

مجازات‌هایی که تا کنون در سیستم‌های حقوقی شناخته شده یک مجازات سلب حیات است، یک مجازات حبس است، یک مجازات خدمات عمومی رایگان است و بعدی هم مجازات جزای نقدی است. البته قوانین یک‌سری مجازات‌های تکمیلی هم بیان کرده و سیستم قانون‌گذاری ما هم در قانون مجازات اسلامی ۱۳۹۲ مجازات‌های تکمیلی را هم اضافه کرده است که علاوه بر مجازات اصلی می‌توان این مجازات‌ها را هم در نظر گرفت.

اولاً قبل از این‌که بخواهیم نوع مجازات را تعیین کنیم، باید جهات تخفیف مجازات را در نظر بگیریم. یعنی قاضی صادر کننده‌ی رأی باید جهات تخفیف را در نظر بگیرد. چون ممکن است که یکی از این جهات تخفیف وجود داشته باشد و قاضی ملزم به این تخفیف هست. یعنی الان در یکی از دو مرحله‌ی دادگاه بدوی و دادگاه تجدید نظر باید این تخفیف‌ها لحاظ شود که اگر قاضی بدوی این تخفیف‌ها را لحاظ نکند، معمولاً دادگاه‌های تجدیدنظر این تخفیف‌ها را لحاظ می‌کنند. چرا؟ چون ماده‌ی ۳۷ قانون مجازات اسلامی ۱۳۹۲ می‌گوید در صورت وجود یک یا چند جهت از جهات تخفیف، دادگاه می‌تواند مجازات تعزیری را به نحوی که به حال متهم مناسب‌تر باشد به شرح ذیل تقلیل یا تبدیل کند. دادگاه «می‌تواند» و گاهی اوقات هم دادگاه بدوی می‌خواهد از این توان استفاده کند و گاهی اوقات هم نمی‌خواهد استفاده کند و این اختیار را دارد ولی معمولاً دادگاه‌های تجدیدنظر سعی می‌کنند از این‌ها استفاده کنند، مگر ممنوعیت‌هایی که خود قانون‌گذار گذاشته است. چون باز ما در مواد جلوتر داریم که یک‌سری ممنوعیت‌ها را خود قانون‌گذار اعمال کرده که نمی‌توان در آنجاها تخفیف داد.

به‌هرحال در ماده‌ی ۳۸ جهات تخفیف را گفته که در همین سیستم‌های دارای هوش مصنوعی هم اگر این جهات تخفیف باشد، باید در مجازاتی که تعیین می‌کنیم تخفیف دهیم. یکی که گذشت شاکی یا مدعی خصوصی است.

دومی همکاری مؤثر متهم در شناسایی شرکا یا معاونان، تحصیل ادله یا کشف اموال و اشیاء حاصله از جرم و یا به کار رفته برای ارتکاب. تصور کنید که خود این سیستم دارای هوش مصنوعی به بازپرس و به نیروهای نظامی و انتظامی و ضابطین برای کشف جرم کمک کرد.

اوضاع و احوال خاص مؤثر در ارتکاب جرم از قبیل رفتار یا گفتار تحریک‌آمیز بزه‌دیده. مثلاً سیستم دارای هوش مصنوعی و ربات هوش مصنوعی در دفاعیات خودش گفت: این کسی که من به او ضربه زدم و یا اصطلاحاً جنایتی را نسبت به او انجام دادم، او رفتار تحریک‌آمیزی نسبت به من داشت و من را تحریک به ارتکاب جرم کرد و مجبور شدم این کار را انجام دهم. این هم جزء دفاعیات او می‌شود.

وجود انگیزه‌ی شرافتمندانه در ارتکاب جرم. مثلاً یک سیستم دارای هوش مصنوعی بگوید که این فردی که الان خودش آسیب دیده، برای همسایه‌ی من، برای یک شهروند دیگر، برای یک زن و کودکی مزاحمت ایجاد کرده بود و من برای نجات آن‌ها با او برخورد فیزیکی کردم که منجر به شکستگی، ضرب و جرح و یا هر چیز دیگری شد که جرم باشد.

اعلام متهم قبل از تعقیب یا اقرار مؤثر وی در حین تحقیق و رسیدگی. مثل این‌که خودش گفت این جرمی که اتفاق افتاده را من انجام دادم و یا اقرار کرد. این خودش از جهات تخفیف می‌شود.

ندامت، حسن سابقه و یا وضع خاص متهم. خودش اظهار و ابراز پشیمانی کرد و گفت که من اشتباه کردم.

کوشش متهم به منظور تخفیف آثار جرم. گفت که من این جرم را مرتکب شدم ولی خودم هفته‌ای دو بار به منزل این‌ها می‌روم و برای آن‌ها خدمت می‌کنم و خدماتی را به این‌ها ارائه می‌دهم. این هم تخفیف آثار جرم می‌شود.

خفیف بودن زیان وارده یا نتایج زیان‌بار. این جرمی که ارتکاب پیدا کرده، جرم کم‌اهمیت و دست‌پایین است.

مداخله‌ی ضعیف شریک یا معاون در وقوع جرم. اگر شرکا یا معاونینی دارد که آن‌ها یک مداخله‌ی ضعیف داشتند و به آن نحو به صورت تام ورود نکرده‌اند.

در اینجا گفته است که ما می‌توانیم این جهات را درنظر بگیریم. قانون‌گذار در ماده‌ی ۳۹ گفته که در جرایم تعزیر درجه‌ی ۷ و ۸ اگر سابقه‌ی کیفری ندارد واگر قاضی می‌تواند این را احراز کند که او قابل اصلاح است، کلاً از مجازات معاف کند. یعنی کلاً او را از مجازات معاف کند، نه این‌که تخفیف دهد. تخفیف یعنی این‌که تبدیل کند و یا یک درجه مجازاتش را کمتر کند، ولی این می‌گوید که کلاً او را معاف از کیفر کند، یعنی کلاً او را تبرئه کند. این هم موضوعی است که داریم.

یکی دیگر از نهادهایی که باز باید در نظر بگیریم... . چون من عرض کردم که ما در سیستم‌های هوش مصنوعی فعلاً قانونی نداریم و چاره‌ای نیست جز این‌که با کلیات قانون مجازات و آیین دادرسی کیفری فعلاً تکلیف را مشخص کنیم و از همین‌ها هم بهره ببریم. چون در تبیین و تفسیری که ما داشتیم و همین‌طور که آقای دکتر سخاوتیان هم فرمودند، ما چاره‌ای جز این‌که از همین اصول و کلیات مجازات و قواعد جزایی استفاده کنیم، نداریم. هر چند که ما به ضرورت تقنین مستقل برای هوش مصنوعی به عمق باورمان و به شدت معتقدیم. باید یک تقنین باشد هر چند که از این اصول نمی‌توان چشم‌پوشی کرد.

نکته‌ی دیگری که قانون‌گذار ما گفته بحث تعویق صدور حکم است. قانون‌گذار گفته که می‌توان در یک‌سری شرایط به مدت ۶ ماه تا ۲ سال صدور حکم را به تعویق بیاندازیم. بگوییم که ما فعلاً به مدت ۶ ماه تا ۲ سال تو را مجازات نمی‌کنیم تا ببینیم که چه می‌کنی. معمولاً این تعویق‌ها همراه با یک‌سری دستورات هم هست. البته دو مدل است؛ یا تعویق به شکل ساده است که می‌گوییم فعلاً مجازات نمی‌کنیم و فقط جرمی را مرتکب نشو. یا این‌که تعویق به صورت مراقبتی است، یعنی به همراه آن یک دستوراتی می‌دهیم که من توضیح می‌دهم که آن دستورات چیست. پس ما برای سیستم‌های هوش مصنوعی می‌توانیم از این نهادها استفاده کنیم. مستقیماً آن را مجازات نکنیم و به سمت تعویق صدور حکم برویم.

چند مورد هست که این چند مورد را می‌گویم تا در تایم بعدی بتوانم در مورد آن‌ها صحبت کنم. یکی وجود جهات تخفیف بود که جهات تخفیف را عرض کردیم، مورد بعدی هم پیش‌بینی اصلاح مرتکب بود، جبران ضرر و زیان و فقدان سابقه‌ی کیفری هم موارد بعدی هستند. چهار تا شرط دارد. اگر این چهار شرط باشد، می‌توان به مدت ۶ ماه تا ۲ سال حکم محکومیت را به تعویق انداخت. بقیه‌ی شرایط را بعداً عرض می‌کنم.

مجری: متشکرم. جناب آقای دکتر سخاوتیان، اگر فرض کنیم که جرایم توسط هوش مصنوعی اعمال و انجام شود، در فقه اسلامی چه مجازات‌هایی برای آن متصور است؟

- آقای سخاوتیان

قبل از این‌که به اصل مطلب بپردازم، یک نکته‌ای را عرض کنم. تمام مطالبی که جناب استاد دکتر عندلیب فرمودند و ما هم واقعاً استفاده کردیم و فایده‌ی خیلی زیادی برای ما داشت، با این پیش‌فرض است که هوش مصنوعی آمده و مانند یک انسان در بیرون تحقق دارد و دارد فعالیت می‌کند که همان اصطلاح هوش مصنوعی قوی است. در این صورت چه اتفاقی می‌افتد؟ خب ما اصلاً نیازی به وضع قانون جدید نداریم. این هم مثل یک انسان در بیرون است که یک ظرفیت‌هایی دارد و بر اساس آن ظرفیت‌ها هم حقوق و تکالیفی دارد و نسبت به این حقوق و تکالیف هم ممکن است جرمی برای او صورت بگیرد. پس ما نیازی نداریم که قانون جدید برای آن بنویسیم. اگر بخواهیم قانون جدید بنویسیم، در حقیقت همان قوانین خودمان را به صورت مصداقی بیان می‌کنیم. می‌گوییم همان قوانین مدنی و قوانین کیفری که داشتیم، حالا این‌ها را به صورت مصداق بر هوش مصنوعی این‌گونه اعمال می‌کنیم.

مجری: نمی‌توان گفت که ظرف وجودی آن متفاوت است؟ مثلاً شما نمی‌توانید همین قوانین حقوقی را بر روی کودک انجام دهید.

آنجا موضوع عوض می‌شود. اما اگر ما بگوییم که هوش مصنوعی موجود جدیدی است که به نظام اجتماعی ما آمده است، آن زمان باید موضوع‌شناسی کنیم و وقتی که موضوع‌شناسی می‌کنیم، با توجه به تمام ظرفیت‌هایی که دارد، یک مجموعه حقوق و تکالیفی پیدا می‌کند، یک موجود جدیدی آمده که من باید موضوع‌شناسی کنم. در این صورت شاید من در این موضوع‌شناسی‌ام به یک مسائلی بربخورم که اصلاً حقوق مدنی یا حقوق کیفری من در آنجا جوابگو نیست و باید یک فضای دیگری را بیان کنم. باید به این موضوع دقت داشته باشیم، ولی چون الان موضوع‌شناسی دقیق صورت نگرفته است، چون در تمام مباحث حقوقی و فقهی حرف اول موضوع‌شناسی است و بعد از آن هم مسئله‌شناسی است. چون موضوع‌شناسی دقیق نسبت به پدیده‌ی هوش مصنوعی صورت نگرفته است... . من نمی‌خواهم از واژه‌ی فناوری استفاده کنم و پدیده می‌گویم. چون ما با یک پدیده‌ای مواجه هستیم که صرفاً فناوری نیست. چون این پدیده را به درستی موضوع‌شناسی نکرده‌ایم، با این چالش‌ها روبه‌رو هستیم. چه بسا فردا که دقیق بشناسیم ببینیم که خیلی از این مباحث ما در آنجا جواب نمی‌دهد.

اما ما در مقام بحث‌های فقهی - چون بحث قانون مصوب نیست و بحث پژوهش است - حالت‌های مختلف را بیان می‌کنیم و می‌گوییم که اگر این حالت باشد این می‌شود و اگر این حالت باشد، جواب این می‌شود. یعنی ما پیش‌فرض‌های مختلف موضوعی را در نظر می‌گیریم. ما با این پیش‌فرض و نه با مصوبات قانونی صحبت می‌کنیم. ما وقتی که در فضای اسلام نگاه می‌کنیم می‌بینیم که مجازات‌ها به دو دسته‌ی اصلی تقسیم می‌شوند: حدود - تعزیر. حدود چیست؟ حدود به مجازات‌هایی گفته می‌شود که دقیقاً در آیات و روایات به آن‌ها تصریح شده است. مثل چه چیزی؟ سارق آمده دزدی کرده است. اگر آن شرایط خاص - یعنی سرقت شرایط خاص دارد - باشد، حد سرقت جاری می‌شود و اگر نباشد به تعزیرات می‌رود. مثلاً شخص کالایی را در خانه‌اش مخفی کرد و او گشت و پیدا کرد. یکی از شرایط این است. اما اگر شما کالا را روی طاقچه گذاشته بودید و مخفی نکرده بودید و دزد هم برد، در اینجا دیگر معلوم نیست آن حد جاری شود. یعنی باز هم در این میان بحث‌های فقهی وجود دارد. خواستم مثال بزنم که حد سرقت که قطع کردن انگشتان دست و این‌ها است، این حد سرقت شرایط دارد و در هر جایی جاری نمی‌شود. حالا سرقت با شرایطش صورت گرفته است، حد سرقت جاری می‌شود. این حد سرقت را از کجا می‌گوییم؟ در آیات و روایات با صراحت آمده است.

یا حد زنا را در نظر بگیرید. اگر زنا شرایطش را داشته، حد زنا جاری می‌شود. حالا ممکن است زنای محصنه و یا غیرمحصنه باشد. هر کدام از این‌ها حدودی دارند که حدش در آیات و روایات ذکر شده است. به آن مجازات‌هایی که در آیات و روایات ذکر شده است، حد می‌گویند. حالا سؤال اینجا است؛ ما باید موضوع‌شناسی کنیم. اگر هوش مصنوعی دقیقاً مثل انسان باشد - حالا در قسمت بعدی صحبت بیشتر تفصیلی بحث می‌کنیم - یک بحث است و ممکن است حد برای آن بیاید و اگر دقیقاً مثل انسان نباشد باید موضوع‌شناسی کنیم که آیا برای این موضوع جدید هم حدی قابل تصور هست یا نیست و اصلاً موضوع دیگری است؟ در قسمت بعدی بحث می‌کنیم.

یک قسمت دیگر هم تعزیرات است. تعزیر هم به مجموعه مجازات‌هایی گفته می‌شود که برای جرایم خاصی بیان می‌شود ولی در آیات و روایات برای آن مجازات صریح تعیین نشده و در تعزیر هم بیشتر رویکرد، رویکرد اصلاح فرد است. مثلاً در جایی می‌بینید که اگر یک تعهد کتبی از شخص بگیرید، او اصلاح می‌شود، قاضی در این حد می‌ماند، یک جایی هم می‌بینید که حتماً باید تنبیه شود، یک جایی می‌بینید که حتماً باید در جامعه بیاید و آبروی او برده شود، مثل این‌که می‌بینید می‌آیند و پشت وانت می‌گذارند و جابه‌جا می‌کنند و مردم این‌ها را به عنوان مجرم می‌بینند. خلاصه قاضی می‌بیند که چه چیزی در اینجا در اصلاح، پیشگیری و بازدارندگی نقش فعال خواهد داشت و در نتیجه مجازات را متناسب با آن در نظر می‌گیرید. پس در همه جا یکسان نیست. در حدود دست قاضی باز نیست، اما در تعزیر دست قاضی باز است.

حالا ما در فضای فقهی می‌گوییم که قاضی باید مجتهد باشد و بر اساس اجتهادش با توجه به آیات و روایات و آن فضای تربیتی که از آیات و روایات می‌فهمد، تعزیر را بگوید. در فضای حقوقی مجازات‌های تعزیری تقریباً مشخص شده هست. لذا می‌گویند که قاضی متناسب با این احکامی که مشخص شده است تعزیر را انجام دهد. این تفاوت‌ها بین ما و برادران حقوقی هست.

مجری: متشکرم. جناب آقای دکتر عندلیب، از آن مجازات‌های پنج‌گانه مجازات سلب حیات برای هوش مصنوعی ممکن نیست، این چطور متصور است؟

- آقای عندلیب

در تکمیل فرمایشات جناب آقای دکتر سخاوتیان، این‌که ما چه نوع مجازات حدی یا تعزیری را انتخاب کنیم، این هم یک نکته‌ای است که باید توضیح دهم. در خصوص مجازات‌های حدی خب موضوع حدود انسان بالغ مختار عاقل است. بنابراین ما در مجازات‌های حدی دچار یک تضییق و محدودیت هستیم، نمی‌توان این را بر غیرانسان بار کرد. پدیده‌های نوپیدا مثل هوش مصنوعی را باید در باب تعزیرات مطرح کرد. چون این‌ها قطعاً انسان نیستند. در باب تعزیرات هم قانون‌گذار ما در سال ۹۲ به این نتیجه رسید که تعزیرات را به دو قسمتِ تعزیرات منصوص شرعی و تعزیرات غیرمنصوص تقسیم کند. یعنی تعزیراتی که مجازات آن‌ها در روایات ما تعیین شده است که به این‌ها تعزیرات منصوص شرعی می‌گویند. قانون‌گذار برای اولین بار در سال ۹۲ این را آورد و گفت که نهادهای تخفیفی در تعزیرات منصوص شرعی جاری نمی‌شود. یعنی شبیه به حد کرده است و متأسفانه در مصادیقش برداشت‌های متفاوتی هست و البته از نظر فقهی، فقها دیدگاه‌های متفاوتی دارد. بین ۳ تا ۲۴ مصداق را برای تعزیرات منصوص شرعی بیان کرده‌اند.

این‌که «متأسفانه» گفتم، تأسف من از این بابت بود که متأسفانه این در قانون بیان نشده است. یعنی قانون‌گذار در سال ۹۲ کلمه‌ی تعزیرات منصوص شرعی را آورده ولی مصادیق را نگفته است و اکثر قریب به اتفاق قضات ما هم که الان مجتهد نیستند و نمی‌توانند تعزیرات منصوص شرعی را به طور دقیق مشخص کنند. این یکی از معضلات قانون ما است. به‌هرحال حالا این‌که تعزیرات منصوص شرعی هست یا نیست هم خودش محل بحث است. چون بعضی معتقدند که ما تعزیر منصوص شرعی نداریم و این‌ها احکام حکومتی بوده است که ائمه(ع) به فراخور حال این میزان مجازات را تعیین کرده‌اند. من یک مقاله‌ای هم در همین زمینه دارم که در آنجا هم توضیح داده‌ام.

- آقای سخاوتیان

صاحب عروه هم در بحث صوم مطرح می‌کند، ولی در حقیقت آن هم منصوص شرعی نیست، بله، اتفاق افتاد ولی... .

- آقای عندلیب

قانون‌گذار فعلاً این را پذیرفته است ولی برخی از حقوقدانان و برخی از فقها می‌گویند که ما تعزیر منصوص شرعی نداریم و بلکه احکام حکومتی است. من در یک مقاله‌ای این را توضیح داده‌ام که درست است که امام مجازات را گفته است، ولی در همان جرم یک مجازات دیگر گفته است. پس همین مثال نقض است که این منصوص شرعی نیست و احکام حکومتی است. حالا این بماند، چون این اختلاف فتوا و اختلاف نگاه فقهی است.

از این بگذریم، در تعزیرات دیگر باید قانون‌گذاری داشته باشیم، چون مجتهد نداریم، به معنای این‌که قاضی مجتهد الان بسیار کم یا اندک است و بنابراین باید قانون بگذاریم. ابتدای انقلاب هم چون «التعزیر بما یریه الحاکم» بود، اختلاف نظرات زیاد شد و سیستم تقنینی ما به این فکر افتاد که ما قانون تعزیرات برای ایجاد وحدت رویه بین قضات بنویسیم.

از این‌ها بگذریم که نیاز بود توضیح دهم. مجازاتی که فرمودید سلب حیات بود. ما این قاعده را داریم که «کل شیءٍ بحسبه». سلب حیات یعنی ما سیستم زنده را از فعالیت بازداریم، حالا این هم یک زمانی انسان است که از فعالیت بازمی‌داریم و ازهاق نفس می‌کنیم. زمانی در مورد سیستم هوش مصنوعی است، ما این را به صورت دائمی خاموش کنیم که این دیگر آف شود و اصطلاحاً کاری نکند. این یک نوع سلب حیات برای سیستم‌های دارای هوش مصنوعی می‌شود.

مجری: یا حتی به طور کامل از بین ببریم.

بله، سیستم دارای هوش مصنوعی کلاً از بین برود و دیگر نتواند کاری کند. دومین موضوع هم حبس است. خب یک بار می‌گوییم که زندانی کنیم. بله، ممکن است در آینده زندان‌های مخصوص ربات‌های هوش مصنوعی داشته باشیم، چیز بعیدی هم نیست. اما زمانی هم می‌گوییم که حبس به معنای ایجاد محدودیت برای آزادی‌های فرد است. آن را حبس خانگی می‌کنیم، محدود می‌کنیم. مثل این‌که الان در نظام جدید قضایی ما پایبند الکترونیک داده‌ایم. گفته‌ایم که تو تا شعاع هزار متر می‌توانی رفت‌وآمد کنی و بیش از هزار متر از محل سکونت نمی‌توانی رفت‌وآمد کنی. این یک نوع حبس است. آزادی‌هایش را محدود کرده‌ایم.

بنابراین در سیستم‌های هوش مصنوعی هم می‌توانیم این حبس و یا این محدودیت را برای آن ایجاد کنیم و آن را تحت نظارت سامانه‌های رایانه‌ای قرار دهیم و آن را کنترل کنیم.

یک بحث هم که من عرض کردم بحث تعویق بود که گفتم قانون‌گذار آن را گفته است که یک تعویق ساده است که ما از این سیستم‌های هوش مصنوعی تعهد بگیریم که دیگر ارتکاب جرمی نداشته باشد و به درستی رفتار کند. یک مدل هم تعویق مراقبتی است که باید به این سیستم‌های دارای هوش مصنوعی یک‌سری دستورات را بدهیم که قانون‌گذار در ماده‌ی ۴۲ قانون مجازات اسلامی می‌گوید تعویق مراقبتی باید همراه با تدابیر زیر باشد: حضور به موقع در زمان و مکان تعیین شده توسط مقام قضایی و یا مددکار اجتماعی ناظر. بگوییم که آقای ربات هوش مصنوعی، شما هر روز ساعت ۱۰ صبح باید خودت را به کلانتری محل معرفی کنی و یا در مرکز مشاوره حاضر شوی که در آنجا اقدامات تربیتی، کنترلی، مهارتی و هر چه که تشخیص داده شود، انجام شود.

ارائه‌ی اطلاعات، اسناد و مدارک تسهیل‌کننده‌ی نظارت بر اجرای تعهدات محکومٌ‌به به مددکار اجتماعی. اعلام هرگونه تغییر شغل، اقامت‌گاه یا جابه‌جایی که اگر تغییر کرد باید اطلاع دهد. کسب اجازه از مقام قضایی به منظور مسافرت و خارج شدن از آن حوزه‌ای که در آنجا بوده است.

در ماده‌ی ۴۳ می‌گوید قاضی می‌تواند علاوه بر این برای او یک‌سری دستورات دیگر بدهد. این دیگر اختیاری است. برای این‌که چه کند؟ بگوید که؛ تو برو یک حرفه‌ای را آموزش ببین. اقامت یا عدم‌اقامت در یک مکان معین، درمان بیماری یا ترک اعتیاد که باید ببینیم سیستم‌های دارای هوش مصنوعی اصلاً می‌توانند معتاد شوند یا نه؟ خودداری از تصدی کلیه یا برخی از وسائط نقلیه‌ی موتوری. بگوییم که آقای هوش مصنوعی، شما به مدت ۶ ماه، یک سال یا هر مقداری که تعیین شود، نباید رانندگی کنی. خودداری از فعالیت‌های حرفه‌ای، خودداری از ارتباط و معاشرت با شرکا، گذراندن دوره‌های آموزشی تربیتی، اخلاقی و مذهبی که در قانون ما به این هم اشاره شده است.

پس ما می‌توانیم برای سیستم‌های هوش مصنوعی این تعلیق را هم در نظر بگیریم و در یک فرآیندی آن‌ها را بازپروری کنیم.

مدل دیگر از مجازات‌ها بحث خدمات عمومی رایگان بود. اگر در خاطر شریف‌تان باشد گفتیم که ممکن است ما ربات‌هایی را بسازیم و الان هم محقق شده که ربات‌های خدمت‌گزار هستند که در رستوران یا جاهای مختلف باشند و یا دستیار پزشکان شوند.

- آقای سخاوتیان

این دیگر هوش مصنوعی خبره می‌شود و هوش مصنوعی قوی نیست.

- آقای عندلیب

اگر این هوش مصنوعی خبره مرتکب جرمی شد، به آن بگوییم برای مجازات ملزم هستید که ۶ ماه خدمات رایگان بدهید. فایده‌ی این کار این است که در حقیقت یک طیف زیادی از بیماران یا مراجعه‌کنندگان را به صورت رایگان درمان می‌کند و یا به صورت رایگان خدمات می‌دهد. این هم قابل امکان هست و می‌توان این را ارجاع داد. یکی هم جزای نقدی است. این‌که ما، او را جریمه کنیم. حالا بحث اول پیش می‌آید که آیا هوش مصنوعی مالک است و مالی دارد که او را مجازات کنیم؟ چطور مجازات کنیم؟ اگر با این توسعه پیش برویم که احتمال دارد در یک فصل دیگری از مباحث فقهی - حقوقی ما که بحث‌های حقوق مدنی این‌ها را می‌خواهیم مطرح کنیم، ببینیم که اصلاً سیستم‌های هوش مصنوعی مالک می‌شوند یا نه؟ اهلیت مالک شدن دارند یا ندارند؟ این‌ها بحث‌هایی می‌طلبد که باید بعداً انجام شود. اما ما می‌گوییم که با همین محاسبات خدمات عمومی، در مقابل آن پول حساب کنیم. بگوییم که اگر شما به عنوان هوش مصنوعی در اینجا کار می‌کردید، چقدر دستمزد می‌گرفتید؟ ساعتی ۱۰۰ هزار تومان.

مجری: یعنی تبدیل شود.

بله، تبدیل کنیم. بگوییم که خدمات عمومی رایگان بده، n ساعت تبدیل به مجازات نقدی می‌شود و یا مدیران، سازندگان و شرکت‌های آن‌ها را مجازات نقدی کنیم. بر فرض این‌که خود هوش مصنوعی هم قابل مجازات نقدی نباشد، سازندگان و شرکت‌ها را مجازات نقدی کنیم.

مجری: متشکرم. جناب آقای دکتر سخاوتیان، از نظر فقه اسلامی چه مجازات‌هایی را می‌توان برای جرایم هوش مصنوعی در نظر گرفت؟ با آن پیش‌شرطی که شما همیشه می‌فرمایید.

- آقای سخاوتیان

قبل از این‌که به این مطلب بپردازیم، باید به مطلب مهم‌تری دقت کنیم. وقتی صحبت از مجازات‌ها می‌کنیم، چیزهایی است که تا الان جرم‌انگاری شده و روش‌های مواجهه‌ی آن هم از آیات و روایات استنباط شده است. این روش‌های مواجهه هم در اسلام روش فعال است، روش منفعل نیست. چرا؟ چون به دنبال جامعه‌سازی است. به این شکل نیست که حتماً جرمی اتفاق بیافتد و منفعل برخورد کند، نه، می‌خواهد یک جامعه‌ی صالحه بسازد. نکته اینجا است؛ آیا همان جرایمی که تا الان بود، در این پدیده‌ی جدید هوش مصنوعی کفایت می‌کند یا نه؟ با موجود جدیدی روبه‌رو هستم که باید به سراغ استنباط‌های جدیدتر بروم؟

توضیحی که برادر عزیزمان، جناب استاد عندلیب دادند این بود که هوش مصنوعی را به عنوان یک انسان در خارج تصور کردند و جرایمی که در قانون مصوب شده را بر این موجود جدیدی که در خارج هست تطبیق دادند. ولی ما با یک سؤال به میدان می‌آییم: هوش مصنوعی کدام است؟ این ربات هوش مصنوعی است؟ یا آن یک فرآیند شکل گرفته‌ی حاصل از اطلاعات، دیتاها و الگوریتم‌ها است. نه اطلاعات و نه الگوریتم‌ها هوش مصنوعی نیستند، بلکه بین این‌ها یک حقیقت بسیطی شکل می‌گیرد که تشکیل‌دهنده‌ها خروجی آن حقیقت بسیط... . ببینید خود این‌ها مرکب هستند، ولی خروجی آن یک حقیقت بسیط است. یا هوش مصنوعی آن فرآیند حاصل شده از این‌ها است؟ کدام است؟ اگر بگوییم هوش مصنوعی ربات است، بله، تمام این جرایمی که برای آن تعریف کرده‌ایم، در آنجا می‌توان حل کرد و با همین روش‌ها مجازاتش کرد. مثلاً سلب حیات کنیم. چه می‌کنیم؟ دکمه می‌زنیم و خاموشش می‌کنیم و یا اصلاً به کوره‌ی ذوب آهن می‌اندازیم و کلاً ذوب می‌کنیم و تمام می‌شود. این یک فضا است.

اما اگر بگوییم که هوش مصنوعی آن ربات نیست، آن اطلاعات، داده‌ها و دیتاها و آن الگوریتم‌ها هستند که اگر دست به دست هم بدهند یک حقیقتی شکل می‌گیرد که ما به آن حقیقت هوش مصنوعی می‌گوییم. اگر این باشد با ذوب کردن ربات از بین نخواهد رفت. شاید شما بگویید که تمام اجزاء از بین رفته‌اند، پس اطلاعات داخل آن‌ها هم از بین رفته‌اند.

نه، این درباره‌ی معرفت‌شناسی اطلاعات و داده‌ها، یک ساده‌انگاری محض است. چون اطلاعات و داده‌ها به وسیله‌ی ذوب‌آهن از بین نخواهند رفت و به اطلاعات جدید تبدیل خواهند شد. یعنی ما فکر می‌کنیم که از بین می‌رود در حالی که از بین نخواهد رفت. درست است که ما این مجرم را از این حالت به حالت دیگر می‌بریم، ولی معلوم نیست که اتفاق بعدی که می‌افتد چیست؟ ما باید حقیقت هوش مصنوعی را دقیق بشناسیم. لذا بنده معتقدم که حقوق فعلی جوابگو نیست. بله، اگر ما به این شکل بخواهیم حقوق فعلی را بیاوریم، هوش مصنوعی را تقلیل داده‌ایم، چون اصلاً هوش مصنوعی را نشناخته‌ایم. اگر ما به درستی حقیقت را بشناسیم، یک موضوع جدید می‌شود و از دل آن مسئله‌ی جدید درمی‌آید و حالا باید برای استنباط جواب این مسائل جدید به سراغ فقه برویم.

اگر با این دقت بیاییم، خب در قسمت قبلی صحبت بیان شد که گفتیم ما دو نوع مجازات حد و تعزیر داریم. موضوع حدود انسان است، مجازات‌هایی برای انسان است که در آیات و روایات تصریح شده است. موضوع تعزیر هم باز انسان است، اما در آیات و روایات تصریح نشده است و عملاً هیچ‌کدام از این‌هایی که ما تا الان دیده‌ایم، خب ربات یا هوش مصنوعی که انسان نیست، انسان‌واره است. پس ما نمی‌توانیم این دو را بیاوریم. اما اگر بگوییم که موضوع حدود انسان نیست، مجرم بما هو مجرم است که تا الان بر این انسان تطبیق پیدا کرده است. موضوع تعزیر هم مجرم بما هو مجرم است که تا الان بر انسان تطبیق پیدا کرده است.

آن زمان می‌توانیم هر دو را سرایت دهیم. یا این‌که بگوییم جرایمی که حدی هستند انسان هستند و تعزیر برای اعم از انسان و غیرانسان است. کمااین‌که ما در برخی از مباحث فقهی داریم که حتی برخی از حیوانات هم مجازات‌هایی را خواهند داشت. در شرایط خاص دیده‌اید و بعضی از آن‌ها در کتاب لمعه مطرح است. این مجازات برای آن چیست؟ آن حیوان را می‌خواهد تربیت کند که ساختار خاص پیدا کند.

حالا سؤال این است که؛ آیا موضوع تعزیر این یا آن است؟ آن زمان می‌توانیم این سرایت‌ها را مطرح کنیم. پژوهش‌های خود ما تا الان این را نشان می‌دهد که حدود برای هوش مصنوعی امکان‌پذیر نیست، اما ساختار تعزیری قابل تعریف است. ساختار تعزیری هم که می‌خواهیم بیاوریم، موضوع ما کیست؟ آیا ربات است یا آن فناوری و فرآیند حاصل از دیتاها، اطلاعات و الگوریتم‌ها است؟ اگر آن باشد، آیا باز هم همین ساختار مجازات تعزیری جواب می‌دهد؟ یا این‌که من باید ساختار جدیدی از مجازات‌ها را برای این پدیده‌ی خاص تعریف کنم؟ ظاهراً این ساختاری که در مجازات‌ها تعریف شد و این فضایی که ما تا الان استنباط کردیم نسبت به هوش مصنوعی که به کلان‌داده‌ها دسترسی دارد، جوابگو نیست و باید مسائل مربوط به مجازات‌های هوش مصنوعی در ساختار دیتاها و الگوریتم‌ها به طور دقیق شناخته شود و متناسب با تک تک آن‌ها دوباره جرم‌انگاری شود و هر یک از آن‌ها دوباره در پاسخ از منابع شرعی قرآن، سنت، عقل و اجماع و این مجموعه‌ی کلان میراث و تراثی که از گذشتگان داریم، پاسخ تک تک این‌ها را به صورت مستقل پیدا کنیم.

مجری: آقای دکتر، مگر مجازات مبتنی بر تکلیف نیست؟ ما اگر برای هوش مصنوعی هیچ تکلیفی در نظر نگیریم، چطور می‌توانیم حدود یا تعزیرات را برای آن در نظر بگیریم؟ البته فرمودید که حدود اصلاً قابل تطبیق نیست، اما چطور می‌توان تعزیرات را با توجه به موضوع‌شناسی که شما فرمودید بر آن منطق کرد؟

تقریباً در جلسه‌ی دوم یا سوم صحبت کردیم که شخصیت هوش مصنوعی چیست؟ در شخصیت هم بیان کردیم که شخصیت شیء به حقوق و تکالیف است. اگر شما بگویید که تکالیفی برای آن در نظر نگرفته‌اید و خودبه‌خود حقوقی ندارد، وقتی که حقوق و تکالیف باشد، شخصیت ندارد و وقتی که شخصیت نداشته باشد دقیقاً مثل چاقویی است که بیرون است و هیچ‌گونه حقوق و تکالیفی ندارد. یعنی تمام این بحث‌هایی هم که ما کردیم اصلاً نیازی نبود. یعنی به همان حرفی برمی‌گردیم که در مبنای اصلی خودمان داریم که ما در اینجا گفتیم با این فرض که اگر اتفاق بیافتد چه می‌شود صحبت می‌کنیم.

مجری: متشکرم. بحث خیلی خوبی بود.

ما در این برنامه پیرامون مجازات‌هایی که برای جرایم هوش مصنوعی متصور هست صحبت کردیم و گفتیم که از نظر حقوقی مجازات‌های پنج‌گانه‌ای مانند سلب حیات، مجازات حبس، خدمات عمومی رایگان، جزای نقدی و مجازات‌های تکمیلی را در نظر گرفتیم، اما از نظر فقهی مجازات‌ها را به دو دسته‌ی حدود و تعزیر تقسیم کردیم و گفتیم که حدود برای هوش مصنوعی قابل تطبیق نیست ولی در تعزیرات می‌توان برای اعم از هوش مصنوعی و انسان در نظر گرفت.