رُبات با اخلاق سگی
آیا می توان روبات ها را طوری ساخت که بر اساس وجدان و اخلاقیات، وظیفه خود را تشخیص و آن را به درستی انجام دهند؟
کارگران مصنوعی بااحساس هم اکنون وجود ندارند، ولی به راحتی می توان آنها را تصور کرد: قطارهای بدون راننده ای که به طور خودکار از ریلی که روی آن ۵ نفر مهندس مشغول کار هستند، تغییر مسیر می دهند؛ یا هواپیماهای نظامی تهاجمی بدون سرنشین که می توانند اهداف مجاز نظامی را از اماکن غیر نظامی که نباید به آنها آسیبی برسد، تشخیص دهند. در کتاب «ماشین های بااخلاق»، وندل والاچ اخلاق شناس و کالین آلن فیلسوف، سه سوال را مطرح می کنند: «آیا دنیا به کارگران مصنوعی بااحساس نیاز دارد؟ آیا مردم می خواهند که کامپیوترها بتوانند تصمیمات اخلاقی بگیرند؟ و این که مهندسان و فیلسوفان برای طراحی و ساخت چنین کارگرانی چگونه باید اقدام کنند؟»
کتاب «ماشین های بااخلاق» برخلاف داستان های تخیلی هالیوود در مورد ماشین های هوشمند ولی بدطینت و رویای پژوهشگران در مورد برتری ماشین ها و تمدن با محوریت ماشین، دقیق، متعادل و آموزنده است. نویسندگان این کتاب بی هیچ اشاره ای به مسائل مرتبط با فناوری، پاره ای از موضوعات پایه ای اخلاقی و فلسفی را در ارتباط با ماشین ها جمع آوری کرده اند. آنها برای بررسی این که آیا ماشین های غیرهوشمند می توانند کارگران با احساس واقعی باشند، روی «اخلاقیات کاربردی» تمرکز کرده اند.
«کارگران بااحساس، رفتارشان را با توجه موارد زیر بررسی و تنظیم می کنند: آسیب هایی که ممکن است در نتیجه کارهایشان وارد شود و یا وظایفی که ممکن است نادیده گرفته شوند».
کتاب، گستره وسیعی از دیدگاه ها را پوشش می دهد؛ پژوهش های در حال انجام کنونی را از بالا به پایین و بر مبنای انطباق با نظریه های معمول و متعارف اخلاقی دسته بندی می کند؛ و از پایین به بالا، استراتژی های تکاملی یا آموزشی این دستگاه ها را طبقه بندی می کند و کارهای انجام شده روی پیاده سازی احساسات در کامپیوترها را ذکر می کند.
از آنجاکه در زمان کنونی هیچ روباتی به درک اخلاقیات کاربردی نزدیک نشده، ممکن است بحث های کتاب پیش از موعد به نظر برسند. نویسندگان کتاب این را صرفا شروع بحث می دانند، ولی این خطر وجود دارد که بیان زودهنگام چنین مباحثی، تمام کارها را در آینده تحت الشعاع قرار دهد. تاثیر قوانین سه گانه آیزاک آسیموف روی روباتیک، مثالی واضح از اخلاقیات سلسله مراتبی بر پایه اصول برای روبات ها است. هدف بیان شده نویسندگان این کتاب، بیان مباحث به طریقی است که مهندسان را در فرایند طراحی کارگران مصنوعی بااحساس راهنمایی کند. ولی سه مشکل اساسی در ارتباط با نحوه بیان مساله این دو نفر وجود دارد.
اول، نویسندگان مورد خاص خود را هم بر حسب نیاز به تکامل اخلاقی و هم بر حسب سیستم هایی که مورد تحلیل قرار می دهند، بسط داده اند. در پاسخ به این سوال که آیا دنیا نیاز به چنین کارگران مصنوعی بااحساسی دارد یا نه، آنها به مثال قطعی گسترده برق در ایالات شمالی آمریکا در سال ۲۰۰۳ اشاره می کنند که در آن، «نرم افزارها و سیستم های کنترل نیروگاه ها فرایند خاموشی را فعال کردند، و تقریبا هیچ زمانی را برای مداخله انسانی باقی نگذاشتند». در پی آن، آنها چنین استدلال کردند که «لازم است که سیستم های خودکار بتوانند محاسبه ای از مخاطرات در مقابل نتایج داشته باشند».
مثال آنها تعجب برانگیز است: زیرساخت های شبکه بسیار بزرگ برق خیلی با جارو برقی های روباتی و پرستارانی که ممکن است نیاز به احساس داشته باشند، متفاوت است. به رغم این که کتاب عمدتا روی روبات های واقعی و شبیه سازی های کامپیوتری مورد نیاز برای طراحی آنها متمرکز شده، نویسندگان کتاب تعمدا گستره مبحث را وسعت می دهند تا بتواند نرم افزارهای کنترل سیستم ها و روبات های نرم افزاری را نیز شامل شود. ولی آنها به مباحث اخلاقی مرتبط با آنها نمی پردازند که شامل مواردی مانند حریم خصوصی می شود که توسط نرم افزارهایی مانند «روبات های نرم افزاری جستجوی اطلاعات که در شبکه پرسه می زنند» تهدید می شود. این که از مردم بپرسید آیا می خواهند که کامپیوترها بتوانند تصمیمات اخلاقی بگیرند، احتمالا به پاسخ متفاوتی منجر می شود تا این که از آنها همین سوال را در مورد روبات های فیزیکی بپرسید، که در آنها مسائل کنترل و مسئولیت پذیری راحت تر هستند و علت آن هم محلی بودن این روبات هاست.
مورد دوم این است که تمرکز روی خودکار بودن در تعریف نویسندگان از روبات با تاکید بر «استقلال از نظارت مستقیم انسانی»، روبات های بسیار مهمی را که با نظارت مستقیم انسانی و با کنترل از راه دور کار می کنند، از حوزه بحث خارج می کند. نمونه ای از این روبات ها جراحی از راه دور است، چیزی که فواید بسیار زیادتری دارد، ولی درگیر مباحث اخلاقی و فلسفی کمتری نسبت به دیگر ابزارها است.
نمونه دیگر، هواپیماهای نظامی تهاجمی بدون سرنشین هستند که هیچ مبحث جدید اخلاقی را در بر نمی گیرند. در این موارد می شد پافشاری کرد و فناوری های بهتری برای نظارت و کنترل از راه دور طراحی کرد. برای مثال، در پی حادثه قطار لوس آنجلس در کالیفرنیا که سپتامبر ۲۰۰۸ اتفاق افتاد، منتقدان گفتند که نصب دوربین های مراقبت در کابین قطارها (به جای آموزش های اخلاقی بیشتر به رانندگان) می توانست از حوادثی که ناشی از این عملکردها است، بکاهد. در این مورد نیز گزارش شده که راننده از خواندن پیغام های متعدد سیستم گیج شده بود. بدین ترتیب، نباید در تعریف فناوری های هدف روی عملکرد خودکار تاکید کرد: «آیا یک دستگاه خودکار باید در صورتی که نمی تواند بدون آسیب زدن به انسان ها کاری را انجام دهد، به ناظر انسانی هشدار دهد؟ (و اگر چنین باشد، آیا به اندازه کافی خودکار است؟)»
سوم، این که کتاب از پیاده سازی اخلاقیات انسانی حمایت می کند؛ چراکه این تنها چیزی است که ما در مورد آن می دانیم. این انتخاب خیلی قطعی نیست. چون برای آینده قابل پیش بینی، روبات ها از نظر ظرفیت تصمیم گیری اخلاقی، در مقایسه با انسان ها در جایگاه پایین تری قرار خواهند داشت. در نتیجه اخلاقیات سلسه مراتبی آسیموف، در مقایسه با اخلاقیات انسانی که بر برابری و تساوی تمام عوامل اخلاقی تاکید دارد، نیاز به بازنگری خواهد داشت.
اخلاقیات سگ ها می تواند جایگزین مناسبی باشد. روبات ها همانند سگ ها، توانایی متفاوتی برای اتخاذ تصمیمات اخلاقی مناسب دارند. بعضی خانواده ها، سگ های تربیت شده خوبی دارند که می توان آنها را بدون قلاده نگاه داشت، اما سگ های دیگری هم هستند که تنها زمانی می شد به آنها اعتماد کرد که عوامل تحریک کننده ای مانند گربه ها و سنجاب ها حضور نداشته باشند؛ و البته سگ های دیگری نیز یافت می شوند که برای آرام نگاه داشتن آنها نه تنها به قلاده، که به پوزه بند نیز نیاز است. توجه داشته باشید که همه آنها حیوانات اهلی هستند و بر یک راهنما متمرکزند.
یک هدف با ارزش برای اخلاقیات روبات ها در آینده نزدیک، می تواند ماشین هایی باشد که ما می توانیم به این ترتیب طبقه بندی کنیم، در نتیجه می توانیم هر یک از آنها را بر اساس میزان قابلیت اعتماد و کنترل طبقه بندی کنیم که به آنها اجازه می دهد که به بهترین وجه خدمت کنند.
«ماشین های بااخلاق» در مورد اخلاقیات روبات های آینده بحث می کند، ولی قضاوت در مورد این کتاب هنگامی امکان پذیر خواهد شد که ببینیم آیا خواهد توانست قواعد خود را تحمیل کند و یا این که بیش از حد زود منتشر شده است.
