برای عصر روبات‌های خودمختار آماده‌اید؟

دانش  - ماشین‌ها تاکنون فواید زیادی در زندگی ما داشته‌اند، ‌اما اگر قرار باشد خودمختار تصمیم بگیرند،‌ چه مشکلاتی خواهیم داشت؟ چه کسی مسئول خواهد بود؟

بهنوش خرم‌روز: دفعه بعدی که از پله برقی استفاده می‌کنید،‌ به یاد بامپر هریس،‌ مرد جوانی که تنها یک پا داشت، بیفتید که در سال 1911 / 1290 توسط شرکت متروی لندن استخدام شد تا تمام روز را روی پله‌های برقی جدید بگذراند و به رهگذران عصبی نشان بدهد که آن‌ها امن هستند. امروزه ما ماشینی شدن را بیشتر مفید می‌دانیم تا تهدیدکننده. اما اگر این ماشین‌های برنامه‌ریزی‌شده برای اطاعت از فرمان انسان‌ها تغییر رویه دهند و به سیستم‌هایی خودمختار با قابلیت یادگیری، تصمیم‌گیری و اقدامات خودسرانه تبدیل شوند، همه ناراضی خواهند بود.

به گزارش نیوساینتیست، آکادمی سلطنتی مهندسی بریتانیا در گزارش این هفته خود، از رسانه‌ها و دولت خواسته است آگاهی عمومی را نسبت به سوالات پیچیده‌ اجتماعی، اخلاقی و قانونی که سیستم‌های خودمختار به بار می‌آورند، افزایش دهند. اما آیا واقعا به چنین بحثی نیاز داریم؟ یا با این کار صرفا پدیدار شدن فناوری پیشرفته‌ای را به عقب می‌اندازیم که فواید بسیاری برای عرضه خواهد داشت؟

اخراج راننده
دو بخش از این گزارش ممکن است برای شما آشنا به نظر برسند: خودرو‌هایی که خودشان می‌رانند،‌ مسیریابی می‌کنند، پارک می‌کنند؛ و خانه‌ای هوشمند که با کنترل روبات‌های سالم و مفید، فضای مناسبی برای زندگی ایجاد می‌کنند. هر دوی این موارد فواید قابل توجهی دارند. سیستم حمل و نقل خودمختار می‌تواند جاده‌ها را امن‌تر، ‌سبزتر،‌ خلوت‌تر و راحت‌تر سازد. خانه‌های هوشمند نیز به سلامت و همیاران مصنوعی، اطمینان می‌دهند که هیچ بیماری بدون خدمات پزشکی نخواهد ماند،‌ یا همه کسی را برای حرف زدن خواهند داشت،‌ مواردی که به کشورهای توسعه یافته کمک می‌کنند با جمعیتی که به سرعت در حال پیر شدن است بهتر کنار بیایند.

اما به گفته ویل استوارت، استاد دانشگاه لندن، با وجود این که قرار است این سیستم‌ها از معادل‌های انسانی‌شان مطمئن‌تر باشند،‌ قرار نیست مردم خطاهای نادر آن‌ها را ببخشند. وقتی خطایی اتفاق بیافتد،‌ عاملی ناخوشایند خواهد بود. برای مثال اگر خطا در اعمال جراحی توسط یک عامل غیرانسانی باشد،‌ به گونه‌ای متفاوت از زمانی که یک خطای انسانی باشد با آن برخورد می‌شود.

قانون‌گزاری برای ماشین
سیستم‌های خودمختار می‌توانند دردسرهای قانونی هم ایجاد نمایند. کریس الیوت از مشاورین پیت‌چیل می‌گوید: « قانون حول علت‌ها ساخته شده و با سیستم‌ها مسئله خواهد داشت.» قانونی که آلان هم بر سر این که چه بخش‌هایی بالاخره مسئول پیچیده‌ترین مسایل روز، مثل سقوط هواپیماها، هستند، مشکل دارد، در موارد نامعلومی که سیستم‌های خودمختار ایجاد خواهند کرد،‌حتی ضعیف‌تر هم خواهد بود.

اکر یک کامیون بدون راننده با خودرویی که راننده‌اش انسان است تصادف کند،‌ چه کسی مقصر خواهد بود؟ طراح، برنامه‌نویس یا سازنده؟ یا حتی سایر ماشین‌هایی که به کامیون اطلاعات می‌رساندند؟

به اعتقاد الیوت،‌ تلاش برای مقصر دانستن افراد یا حتی فرایندها به طور تکی،‌ به همان اندازه بی‌معنی است که بخواهید تعیین کنید در دست زدن،‌ کدام دستتان، چپ یا راست، ‌تولید صدا می‌کند.

معمای خودمختارها
ممکن است مثال‌هایی که زدیم چندان خوشایند به نظر نرسند. اما به قول استوارت، این موقعیتی تازه و نه یک موقعیت خطرناک تازه است. وقتی از قبل بسیاری از سیستم‌های خودمختار اولیه را به زندگی خود راه داده‌ایم و نتایج آن را پذیرفته‌ایم، چرا بحث می‌کنیم و بالقوه ایجاد تغییرات فناوری را کند می‌سازیم؟

عده بسیار کمی از ما با این فکر که ماشین‌ها تا به حال به نفع ما بوده‌اند، مخالفیم. به علاوه پیشرفت‌های بیشتر باعث می‌شوند که آن‌ها امن و مفید به نظر بیایند و ممکن است بی هیچ اعتراضی پذیرفته شوند،‌ اما بازاری که ابداعات و موارد قانونی را هدایت می‌کند،‌ وقتی مشکلی پیش بیاید،‌ محو خواهد شد.

از سوی دیگر،‌ هشیار ساختن عموم تنها می‌تواند به حرکات بی‌معنا یا ضد تولیدی منجر شود. آن‌گاه اشخاصی مانند بامپر لازم خواهند بود تا آن‌ها را بازگرداند.

رویکرد اقتصاد آزاد ممکن است خیلی بی‌نهایت به نظر برسد؛ اما اینترنت مثالی است از این‌که چه‌طور یک نوآوری که تمامی افکار معمول راجع به مسئولیت،‌ عدالت، وجدان و اخلاقیات را تغییر داد،‌ می‌تواند بدون بحث عمومی پدرسالارانه مدیریت شود. آیا می‌توانیم به سیستم‌های خودمختار هم چنین فرصت و آزادی بدهیم یا آن‌ها نمایانگر نیاز به تغییری مهم در رفتار ما خواهند بود؟