پایگاه خبری تحلیلی اخبار محرمانه

آخرين مطالب

جایگاه اخلاق در هوش مصنوعی اخبار محرمانه از منابع دیگر

جایگاه اخلاق در هوش مصنوعی

  بزرگنمايي:

اخبار محرمانه - به گزارش گرداب ، فناوری اطلاعات دیجیتال دسترسی همه‌گیر به اطلاعات را در هر زمان و هر نقطه‌ای آسان کرده است. این روند تأثیر چشمگیری بر شکل‌گیری تمام ابعاد جامعه از تولید تا توزیع صنعتی تا مصرف کالاها و خدمات گذاشته است. تأثیر فناوری اطلاعات دیجیتال مانند تحولات فناوری در گذشته بسیار فراگیر است؛ به‌ طوری‌ که انسان نه‌تنها خود را با آن تطبیق می‌دهد؛ بلکه رفتار خود را هم منطبق با آن تغییر می‌دهد.
امروزه، فناوری اطلاعات دیجیتال نحوه‌ی تعامل افراد با یکدیگر در جامعه و حتی شراکت با دیگران را هم تعریف می‌کند. روابط بازتعریف بین مصرف‌کنندگان و تولیدکنندگان و تأمین‌کنندگان؛ و صنایع و نیروهای کار؛ و ارائه‌دهندگان خدمات و مشتریان؛ و دوستان و شرکا به تغییرات چشمگیری در جوامع منجر شده است که می‌تواند هشداری برای نتیجه‌گیری‌های اخلاقی باشد. خیلی زود انسان امروزی با موج بعدی تحولات فناوری روبه‌رو خواهد شد: هوش مصنوعی. انقلاب دیجیتال اواخر قرن بیستم دسترسی به اطلاعات را بسیار ساده کرده است و امکان تصمیم‌گیری سریع را فراهم می‌کند؛ به‌ طوری‌ که برای مثال، سازمان‌ها صرفا به اتخاذ تصمیم‌های بنیادی اکتفا می‌کنند و سایر تصمیم‌ها را واگذار می‌کنند.
هوش مصنوعی در حال تغییر است و با خودکارسازی فرایند تصمیم‌گیری، نویدبخش نتایج باکیفیت‌تر و بهبود بازدهی است. موفقیت‌های سیستم‌های بازی هوش مصنوعی در شکست قهرمان شطرنج گری کاسپاروف و قهرمان Go، کی جای، ابعاد کیفی هوش مصنوعی و برتری آن بر انسان در محاسباتی مثل تأثیر تصمیم‌گیری لحظه‌ای بر حرکت‌های احتمالی آینده را ثابت می‌کنند. متأسفانه هوش مصنوعی در فرایند تصمیم‌گیری، شفافیت، قابلیت توصیف، قابلیت پیش‌گویی، قابلیت آموزش، قابلیت محاسبه‌ی حرکت انسانی را حذف کرده و ابهام را جایگزین آن‌ها می‌کند. منطق حرکت نه‌تنها برای بازیکنان، بلکه برای خالق برنامه هم مجهول است. در چنین شرایطی، وقتی هوش مصنوعی شروع به تصمیم‌گیری می‌کند، دیگر اثری از شفافیت و قابلیت پیش‌گویی دیده نمی‌شود.
حالا فرض کنید کودکی از والدین خود برای تماشای فیلم با دوستانش اجازه بخواهد و والدین موافقت می‌کنند، یک هفته بعد، کودک دیگر همان درخواست را می‌کند؛ اما این‌بار والدین رد می‌کنند. این داستان ساده، مسئله‌ی نابرابری و سلیقه‌محوری را مطرح می‌کند. برای اجتناب از اتهام سلیقه‌محوری، والدین به کودک خود توضیح می‌دهند که قبل از دریافت پول‌توجیبی باید تکالیف خود را انجام دهد. در صورتی‌ که والدین به کودک خود دلیل این کار را توضیح ندهند، احتمال شدت‌گرفتن تنش در خانواده وجود دارد. حالا فرض کنید سیستم هوش مصنوعی چنین نقشی را ایفا کند که از هزاران خانواده در موقعیت‌های مختلف داده جمع‌آوری کرده است. سیستم با بررسی پیامد اجازه‌دادن در خانواده‌ها می‌تواند این‌ طور نتیجه بگیرد که یکی از بچه‌ها می‌تواند پول‌توجیبی بگیرد؛ در حالی‌ که دیگری مجاز به دریافت پول نیست.
با این حال، سیستم هوش مصنوعی نمی‌تواند دلیل کار خود را توضیح دهد؛ بلکه فقط می‌تواند با وزن‌دهی به معیارهایی مثل رنگ مو، وزن، قد و دیگر مشخصات کودک، بهترین تصمیم ممکن را برای خانواده‌های دیگر هم اتخاذ کند. این سیستم چگونه کار می‌کند؟ در دادگاه‌های قدیم، حتی در صورت یکسان‌نبودن شرایط و شباهت تقریبی آن‌ها، تصمیم‌گیری نهایی براساس ترکیبی از حکم‌ها اتخاذ می‌شد. این در حالی است که هوش مصنوعی به رأی بر مبنای سابقه یا قاعده‌ی سابقه نیازی ندارد. تصمیم‌های هوش مصنوعی می‌توانند برای انسان‌ها ساختگی به نظر برسند؛ زیرا معمولا انسان‌ها به مجموعه‌ی محدودی از تجربه‌های مستقیم و غیرمستقیم تمایل دارند؛ در حالی‌ که ماشین‌ها به مجموعه‌ی گسترده‌ای از داده‌ها دسترسی دارند.
انسان‌ها نمی‌توانند با دقت زیاد تجربیات خود را در بازه‌ی زمانی طولانی‌مدت جست‌وجو کنند؛ در حالی‌ که این کار برای ماشین بسیار ساده است. انسان‌ها معمولا معیارهایی را حذف می‌کنند که به نظر غیرمرتبط یا غیرمنطقی می‌رسند؛ در حالی‌ که ماشین معمولا چیزی را حذف نمی‌کند. درنتیجه، ماشین ممکن است تصمیم‌های غیرمرتبط باسابقه را اتخاذ کند که در مقیاس درک‌پذیر انسان قرار ندارد. با حرکت سریع کسب‌وکارها و جوامع به‌سمت هوش مصنوعی و بهبود تصمیم‌گیری در افق زمانی طولانی‌تر، انسان به‌ دلیل چشم‌انداز محدود عقب‌نشینی می‌کند و ناامید می‌شود و تنها ارزش برای عملکرد صحیح جامعه، یعنی اعتماد، هم به‌ مرور کاهش پیدا می‌کند.
برای درک میزان ساختگی‌بودن تصمیم‌های هوش مصنوعی، باید روش تصمیم‌گیری انسان را بررسی کرد. انسان‌ها معمولا براساس مجموعه‌ای از قوانین آشکار یا روابط مبتنی بر پیامدگرایی و ترکیب تصمیم می‌گیرند. انسان‌ها در برابر اطلاعات مرتبط برای تصمیم‌گیری گزینشی عمل می‌کنند؛ اما ماشین‌ها به‌صورت غیرگزینشی عمل می‌کنند و حتی معیارهایی را در نظر می‌گیرند که در روند تصمیم‌گیری برای انسان اهمیتی ندارند. مثال‌های بی‌شماری از این نمونه وجود دارد که می‌توان به غیرفعال‌سازی ربات چت مایکروسافت پس از ارسال متن‌های ضدیهودی در توییتر یا بررسی دانشگاه بوتسون اشاره کرد که رابطه‌ی جنسیتی کلماتی مثل Boss و Architect و Financier با مردان و رابطه‌ی جنسیتی کلماتی مثل Nurse و Receptionist با زنان را آشکار کرد. این خروجی‌ها را احتمالا داده‌ها تولید می‌کنند؛ اما در تضاد با ارزش‌های آشکار انسانی هستند. اگر فرایندهای داده‌محور به خروجی الگوریتم‌های هوش مصنوعی وابسته باشند، تصمیم‌های انحرافی را به بار خواهند آورد که اغلب اوقات در تضاد با ارزش‌های اخلاقی هستند.
نفوذناپذیری هوش مصنوعی مانع از تصمیم‌گیری صحیح می‌شود
در سال 2016، ProPublica شواهد چشمگیری از این‌ دست را ارائه داد. برای مثال، دادگاه‌های ایالات‌ متحده از برنامه‌ای کامپیوتری استفاده کرده بودند که به‌اشتباه متهمان سیاه‌پوست را که در بازه‌‌ای دوساله مرتکب جرمی نشده بودند، به‌عنوان مجرم با نرخ دوبرابر متهمان سیاه‌پوست بار دیگر پرچم‌گذاری کرده بود (45 در مقایسه با 23 درصد). این در حالی است که اگر انسانی این کار را انجام می‌داد، لقب نژادپرست به او داده می‌شد.
هوش مصنوعی می‌تواند بین تجربیات جمعی و ارزش‌های آشکار جدایی بیندازد. تجربه‌های جمعی ایستا نیستند؛ بلکه براساس تصمیم‌های مهم اجتماعی شکل می‌گیرند. تصمیم‌های اجتماعی هم براساس ارزش‌های اخلاقی اتخاذ می‌شوند؛ بنابراین، آیا فرایند تصمیم‌گیری به ماشینی واگذار می‌شود که صرفا درباره‌ی گذشته به یادگیری می‌پردازد نه آینده؟ با توجه به مقیاس کاربردهای هوش مصنوعی در زمینه‌هایی مثل تشخیص پزشکی، خدمات مالی و نظارت بر کارمند، حتی تغییرات کوچک هم پیامدهای شدید خواهند داشت. از آنجا که روزبه‌روز عملکرد الگوریتم‌ها در زمینه‌ی پیش‌گویی بهبود پیدا می‌کند، منطق ناظر بر چنین تصمیم‌هایی هم نفوذ‌ناپذیر خواهند شد.
بر همین اساس، انسان دیدگاه جامع تصمیم‌گیری را از دست می‌دهد و تمام اصول گذشته را کنار می‌گذارد. در بعضی نمونه‌ها، این مسئله می‌تواند غیراخلاقی و غیرقانونی و حتی کوته‌بینانه باشد. برای مثال، الگوریتم تکرار جرم اصولی مثل سابقه‌ی بی‌گناهی و برابری فرصت‌ها را نادیده گرفته است. سازگاری یکی از پیش‌نیازهای لازم اخلاق و یکپارچه‌سازی است. تصمیم‌ها باید به استاندارد‌هایی بیشتر از دقت آماری وابسته باشند. قرن‌ها است که فضیلت‌های مشترکی مثل اعتماد متقابل، کاهش آسیب، برابری و عدالت خود را به‌عنوان شاخص‌های بقای هرگونه‌ سیستم استنتاجی ثابت کرده‌اند.
بدون سازگاری منطقی، سیستم‌های هوش مصنوعی از ثبات و پاسخ‌گویی محروم می‌شوند. ثبات و پاسخ‌گویی دو عامل اساسی برای اعتمادسازی در طبیعت به شمار می‌روند. نفوذناپذیری تصمیم‌های داده‌محور با ایجاد شکاف بین تمایل‌های اخلاقی و استدلال‌های منطقی، مانع از دخالت در فرایندهای تصمیم‌گیری می‌شود. دنیای جدید انسان این‌گونه است؛ جایی که تصمیم‌های پیچیده به انتخاب‌های انعکاسی تقلیل می‌یابند و براساس خروجی‌های نظارت‌شده اعمال می‌شوند؛ جایی که پیچیدگی به‌سادگی تبدیل می‌شود و فناپذیری به کاربردپذیری. امروزه، ادراک انسان از اخلاق به‌ منزله‌ی چارچوبی برای تصمیم‌گیری در نظر گرفته می‌شود. مدت زیادی نیست که تصمیم‌گیری‌های انسان، سایه‌ی شک را بر اخلاق انداخته است.
منبع: زومیت




نظرات شما

ارسال دیدگاه

Protected by FormShield

ساير مطالب

ترامپ انگلیس

«همدلی» یا خودزنی رسانه ای؟!

انگیزه های حضور امریکایی ها در عربستان

حرف روز/ مدعیان تغییر قانون

گزارش روز/ چه کسی نرمال رفتار می‌کند؟

نشریه اخبار و تحلیل‌ها چهارشنبه 2 مرداد

نویسنده ترکیه‌ای:آیت‌الله خامنه‌ای، ایران را مانند قلعه‌ای تسخیرناپذیر حفظ کرده است

گاردین: انگلیس طعمه شد؛ ایران قدرت برتر خلیج فارس

گاف ایوانکا هنگام تبریک به جانسون

بحران نفتکش‌ها: توقیف کشتی ایرانی کبریت‌زدن به بنزین بود

وزارت ارتباطات سرور تخصیص یافته به پیام رسان های بومی را پس گرفت

برابری‌ اجتماعی‌ مبتنی‌ بر دسترسی‌ برابر به‌ رسانه‌ها

قانونی برای اشتراک اطلاعات نداریم

حمله پهپادی جدید یمن به پایگاه هوایی «ملک خالد» عربستان

انتقاد مطبوعات از آمار اجاره‌ای روحانی(خبر ویژه)

پنج‌گانه‌ای در باب بدهی بابک زنجانی

شکایت از «فلاحت‌پیشه» بخاطر یک ماجرای جنجالی

آیت‌الله جنتی دبیر شورای نگهبان ماند

دوگانه فیلترینگ و آزادی یا مدیریت بومی در مقابل مدیریت بیگانه؟/ مردم سالیانه 4 هزار میلیارد تومان پول اینترنت می‌دهند/ اگر شبکه ملی اطلاعات محقق شود، اینترنت تقریبا رایگان خواهد شد

جریان فتنه به اردوکشی علیه قانون معتاد شده است/ شورای نگهبان با دقت نمایندگان حامی «دروغ تقلب» و تحریک کنندگان آنها را رصد کند

انتصاب نماینده ولی‌فقیه در هرمزگان و امام جمعه بندرعباس

رئیسی: نظام پولی و بانکی باید اصلاح شود

آشوب طلبان؛ در تدارک یک فتنه ی دیگر هستند

حسن روحانی بودجه صداوسیما را صفر کرد/ بردن نام گاندو در تلویزیون ممنوع شد/ افق و جهان‌آرا؛ هدف جدید فشارهای دولت/ مجلس و قوه قضائیه در برابر دیکتاتوری دولت بایستند

جنگی که برای صهیونیست‌ها گران تمام شد/ دکتر اسداللهی: اگر حزب الله در جنگ33 روزه از بین می‌رفت بلافاصله ایران مورد هدف قرار می‌گرفت/ با قدرتی که حزب‌الله پیدا کرده اسرائیل نمی‌تواند به حزب‌الله حمله کند

افشای اسناد جدید قتل عام شیعیان نیجریه از تلویزیون

وزیر صنعت امشب در تلویزیون

دلایل مخالفت مراکز پژوهشی و تولیدکنندگان با تأسیس وزارت بازرگانی/ چرا لاریجانی و روحانی به دنبال تحمیل نظر خود به نمایندگان هستند؟

5 دلیل ناتوانی لندن در واکنش به توقیف نفتکش در تنگه هرمز

از تحریم انتخابات تا حضور مشروط و مشارکت حداکثری/ تهدید به شورش توسط اصلاح طلبان چند سال بعد از فتح دولت و مجلس و شورای شهر!

فرزندانم در رفاه و علوی درس خوانده‌اند/ خاتمی را از سران فتنه نمی‌دانم/ از لاریجانی بهتر نداریم/ با شفافیت آرای نمایندگان مخالفم/ طراحی جمنا مهندسی شده بود/ دست‌های پشت پرده را از خود قالیباف بپرسید/ در بسیاری مسائل با اصلاح‌طلبان تفاهم داریم

مصادره به مطلوب دستاوردهای انقلاب توسط دولتی‌ها/ آقای ربیعی سیاه‌نمایی‌های قدیم‌تان را باور کنیم یا تمجید‌های امروزتان را؟

صدای سیلی ایران به انگلیس به گوش جهانیان رسید/ از اعتراف ساکنان کاخ باکینگهام به تحقیر شدن تا خوشحالی مسلمانان منطقه/ روزنامه رأی‌الیوم: این همان قدرت اسلامی است که می‌خواهیم

نماینده هتاکی که دست از حاشیه‌سازی برنمی‌دارد/ از تکرار شایعات ضدانقلاب تا صحبت‌های نژادپرستانه توسط نماینده تربت‌جام/ بررسی سابقه هتاکی‌های متعدد یک اصلاح‌طلب به مردم + فیلم

اعتراف ظریف به شکست گفتمان دولت: تعامل با غرب اعتبارش را در ایران از دست داده است و من هم بی اعتبار شده‌ام/ آیا با یک ندامتنامه چند جمله‌ای، صنعت هسته‌ای باز می‌گردد؟

ما در قضیه فلسطین با هیچ کشوری در دنیا رودربایستی نداریم/ اگر دنیای اسلام بر موضوع فلسطین ایستادگی می‌کرد، اکنون شرایط بهتری داشت/ اینکه آقای سیدحسن نصرالله می‌گوید انشاءالله در مسجدالاقصی نماز می‌خوانم، یک امید کاملاً عملی و قابل تحقق است

شناسایی 17 جاسوس در مراکز حساس کشور

رؤسای بنیاد مستضعفان و کمیته امداد امام خمینی منصوب شدند

اعلام فساد امیدآفرین نیست؛ اقدام علیه فساد امیدآفرین است/ در دست اندازی به منابع طبیعی، ردپای صاحبان قدرت و ثروت دیده می شود

تشکر دکتر جلیلی از مجلس شورای اسلامی در پی تصویب طرح توسعه پالایشگاه‌های کشور/ کمک به دولت برای جلوگیری از خام فروشی و هدایت نقدینگی در نشست دولت سایه با نمایندگان و کارشناسان

سردار فدوی: سپاه بیش از هر زمان دیگری مقتدرتر است

چرا وزارت خارجه همچنان در زمین آمریکا بازی می‌کند؟/ ترامپ: بولتون را به عنوان برگ چانه‌زنی در برابر ایران می‌خواهم/ ظریف: بولتون دنبال جنگ است اما ترامپ نه!

دولت، صنعت بیت کوین را به رسمیت شناخته است

نظارت بانک مرکزی، نیاز رمز ارز ها در حوزه پرداخت

واکاوی پیدایش فساد بزرگ در وزارت بهداشت

افزایش خطر ابتلا به افسردگی برای نوجوانان معتاد به اینترنت

شروط موافقیت با استخراج ارز دیجیتال اعلام شد

معماری شبکه ملی اطلاعات، کار وزارت ارتباطات است

هشدار پلیس در مورد پیامدهای ناخواسته استفاده از Faceapp

اتصال مدارس به شبکه ملی اطلاعات تا پایان سال