به کارگیری مسئولیت اجتماعی و اخلاق در محاسبات

سمپوزیوم افتتاحیه SERC کارشناسانی را از رشته‌های مختلف گرد هم آورد تا چالش‌ها و فرصت‌هایی را که با کاربرد گسترده محاسبات در بسیاری از جنبه‌های جامعه به وجود می‌آیند، بررسی کنند.

تری پارک | کالج محاسباتی شوارتزمن MIT

افزایش قابل توجهی در استفاده از الگوریتم ها و هوش مصنوعی برای رسیدگی به طیف گسترده ای از مشکلات و چالش ها وجود داشته است. در حالی که پذیرش آنها، به ویژه با ظهور هوش مصنوعی، تقریباً هر بخش صنعتی، رشته و حوزه تحقیقاتی را تغییر می‌دهد، چنین نوآوری‌هایی اغلب پیامدهای غیرمنتظره‌ای را نشان می‌دهند که شامل هنجارهای جدید، انتظارات جدید و قوانین و قوانین جدید است.

برای تسهیل درک عمیق‌تر، مسئولیت‌های اجتماعی و اخلاقی محاسبات (SERC)، یک ابتکار فرابخشی در کالج محاسباتی شوارتزمن MIT، اخیراً دانشمندان علوم اجتماعی و انسان‌شناسان را با دانشمندان کامپیوتر، مهندسان و سایر دانشکده‌های محاسبات گرد هم آورده است. روش هایی که در آن کاربرد گسترده الگوریتم ها و هوش مصنوعی فرصت ها و چالش هایی را در بسیاری از جنبه های جامعه ارائه کرده است.

ماهیت واقعیت ما در حال تغییر است. دانیل هاتنلوچر، رئیس کالج محاسباتی MIT شوارتزمن، در سخنرانی افتتاحیه خود گفت:

«هوش مصنوعی توانایی انجام کارهایی را دارد که تا همین اواخر فقط قلمرو هوش انسانی بود – چیزهایی که می توانند درک ما از معنای انسان بودن را به چالش بکشند. در افتتاحیه سمپوزیوم SERC. این پرسش‌های فلسفی، مفهومی و عملی را در مقیاسی مطرح می‌کند که از آغاز عصر روشنگری تجربه نشده است. در مواجهه با چنین تغییرات عمیقی، ما به نقشه‌های مفهومی جدیدی برای پیمایش تغییرات نیاز داریم.»

دانیل هاتنلوچر، رئیس کالج محاسباتی MIT شوارتزمن

این سمپوزیوم نگاهی اجمالی به چشم انداز و فعالیت های SERC در زمینه تحقیقات و آموزش ارائه کرد. جورجیا پراکیس، استاد مدیریت ویلیام اف. پاوندز در دانشکده مدیریت اسلون MIT، گفت:

«ما معتقدیم مسئولیت ما با SERC آموزش و تجهیز دانش آموزان است و اعضای هیئت علمی ما را قادر می سازد تا در توسعه و استقرار فناوری مسئولانه مشارکت کنند.” معاون رئیس SERC و برگزارکننده اصلی سمپوزیوم. ما از نقاط قوت و تنوع بسیاری از رشته‌ها در سراسر MIT و فراتر از آن استفاده می‌کنیم و آنها را برای به دست آوردن دیدگاه‌های متعدد گرد هم می‌آوریم.»

جورجیا پراکیس، استاد مدیریت ویلیام اف. پاوندز در دانشکده مدیریت اسلون MIT

این سمپوزیوم از طریق پانل ها و جلسات متوالی به موضوعات مختلف مرتبط با ابعاد اجتماعی و اخلاقی محاسبات پرداخت. همچنین 37 دانشجوی کارشناسی و کارشناسی ارشد از رشته‌های مختلف از جمله مطالعات و برنامه‌ریزی شهری، علوم سیاسی، ریاضی، زیست‌شناسی، مهندسی برق و علوم کامپیوتر و علوم مغز و علوم شناختی در یک جلسه پوستر شرکت کردند تا تحقیقات خود را در این زمینه به نمایش بگذارند. فضا، پوشش موضوعاتی مانند اخلاق کوانتومی، تبانی هوش مصنوعی در بازارهای ذخیره سازی، ضایعات محاسباتی، و توانمندسازی کاربران در پلتفرم های اجتماعی برای اعتبار بهتر محتوا.

نمایش تنوع کار

سمپوزیوم SERC در سه جلسه که به موضوعات محاسبات مفید و منصفانه، سلامت عادلانه و شخصی‌شده، و الگوریتم‌ها و انسان‌ها اختصاص داشت، کار 12 عضو هیئت علمی را در این حوزه‌ها به نمایش گذاشت.

یکی از این پروژه ها از یک تیم چند رشته ای متشکل از باستان شناسان، معماران، هنرمندان دیجیتال و دانشمندان علوم اجتماعی محاسباتی با هدف حفظ مکان های میراث در خطر انقراض در افغانستان با دوقلوهای دیجیتالی انجام شد. تیم پروژه مدل‌های سه‌بعدی قابل بازجویی بسیار دقیقی از سایت‌های میراث، علاوه بر تجربیات واقعیت و واقعیت مجازی گسترده، به عنوان منابع یادگیری برای مخاطبانی که نمی‌توانند به این سایت‌ها دسترسی داشته باشند، تولید کردند.

در پروژه ای برای شبکه متحد برای به اشتراک گذاری اعضا، محققان نشان دادند که چگونه از تجزیه و تحلیل کاربردی برای بهینه سازی جنبه های مختلف یک سیستم تخصیص اندام در ایالات متحده استفاده می کنند که در حال حاضر در حال بازسازی اساسی است تا آن را کارآمدتر، عادلانه تر و فراگیرتر کند. برای گروه‌های مختلف نژادی، سنی و جنسیتی، از جمله.

بحث دیگری درباره حوزه‌ای بحث می‌کند که هنوز توجه عمومی کافی را به خود جلب نکرده است: پیامدهای گسترده‌تر برای برابری که داده‌های حسگر مغرضانه برای نسل بعدی مدل‌ها در محاسبات و مراقبت‌های بهداشتی دارند.

بحث در مورد سوگیری در الگوریتم‌ها هم سوگیری انسانی و هم سوگیری الگوریتمی و پتانسیل بهبود نتایج را با در نظر گرفتن تفاوت‌ها در ماهیت این دو نوع سوگیری در نظر می‌گیرد.

دیگر تحقیقات برجسته شامل تعامل بین سیستم عامل های آنلاین و روانشناسی انسان است. مطالعه ای در مورد اینکه آیا تصمیم گیرندگان اشتباهات پیش بینی سیستماتیک در اطلاعات موجود انجام می دهند یا خیر. و تصویری از چگونگی استفاده از تجزیه و تحلیل و محاسبات پیشرفته برای اطلاع رسانی مدیریت زنجیره تامین، عملیات و کارهای نظارتی در صنایع غذایی و دارویی.

بهبود الگوریتم های آینده

آسو اوزداگلار، معاون دانشکده محاسبات شوارتزمن MIT و رئیس دپارتمان مهندسی برق و علوم کامپیوتر، در آغاز پانلی که مدیریت آن را بر عهده داشت، گفت: «الگوریتم‌ها بدون شک بر هر جنبه از زندگی ما تأثیر می‌گذارند. مفاهیم داده ها و الگوریتم ها

اوزداگلار می‌گوید: «چه در زمینه رسانه‌های اجتماعی، تجارت آنلاین، وظایف خودکار، و اکنون طیف وسیع‌تری از تعاملات خلاقانه با ظهور ابزارهای مولد هوش مصنوعی و مدل‌های زبانی بزرگ، تردیدی وجود ندارد که چیزهای بیشتری در راه است. . «در حالی که این وعده برای همه ما آشکار است، جای نگرانی زیادی نیز وجود دارد. اکنون زمان بسیار زیادی برای تفکر تخیلی و بررسی دقیق برای بهبود الگوریتم های فردا است.

اوزداگلار با مراجعه به این پنل، از متخصصان محاسبات، علوم اجتماعی و علوم داده‌ها خواست تا در مورد چگونگی درک آنچه قرار است بیایند و آن را برای غنی‌سازی نتایج برای اکثریت بشریت شکل دهند.

سارا ویلیامز، دانشیار فناوری و برنامه‌ریزی شهری در MIT، بر اهمیت حیاتی درک فرآیند نحوه جمع‌آوری مجموعه‌های داده تأکید کرد، زیرا داده‌ها پایه و اساس همه مدل‌ها هستند. او همچنین بر نیاز به تحقیق برای پرداختن به پیامدهای بالقوه سوگیری ها در الگوریتم هایی تاکید کرد که اغلب از طریق سازندگان و داده های مورد استفاده در توسعه آنها راه خود را پیدا می کنند. او گفت: «این به ما بستگی دارد که به راه حل های اخلاقی خود برای این مشکلات فکر کنیم. همانطور که پیشرفت در فناوری مهم است، ما باید زمینه بررسی این سؤالات را آغاز کنیم که کدام سوگیری ها در الگوریتم ها وجود دارد؟ چه سوگیری هایی در داده ها یا در سفر آن داده ها وجود دارد؟

با تغییر تمرکز به مدل‌های مولد و اینکه آیا توسعه و استفاده از این فناوری‌ها باید تنظیم شود یا خیر، اعضای پانل – که شامل سرینی دواداس، استاد مهندسی برق و علوم کامپیوتر از MIT، جان هورتون، استاد فناوری اطلاعات، و سایمون جانسون، استاد کارآفرینی – همه موافق بودند که تنظیم الگوریتم‌های منبع باز، که برای عموم قابل دسترسی هستند، با توجه به اینکه تنظیم‌کننده‌ها هنوز در حال عقب‌نشینی هستند و حتی برای ایجاد حفاظ برای فناوری که اکنون 20 سال از عمر آن می‌گذرد، دشوار است.

جانسون با بازگشت به این سوال که چگونه می توان به طور موثر استفاده از این فناوری ها را تنظیم کرد، یک سیستم مالیاتی شرکتی مترقی را به عنوان یک راه حل بالقوه پیشنهاد کرد. او توصیه می‌کند که پرداخت‌های مالیاتی شرکت‌ها بر اساس سودشان باشد، به‌ویژه برای شرکت‌های بزرگی که درآمدهای کلان آن‌ها به دلیل بانکداری خارج از کشور تا حد زیادی از مالیات خارج می‌شود. با انجام این کار، جانسون گفت که این رویکرد می‌تواند به عنوان یک مکانیسم نظارتی عمل کند که شرکت‌ها را از تلاش برای «مالکیت کل جهان» با تحمیل عوامل بازدارنده بازدارد.

نقش اخلاق در آموزش محاسباتی

از آنجایی که محاسبات بدون هیچ نشانه‌ای از کند شدن به پیشرفت خود ادامه می‌دهد، آموزش دانش‌آموزان به منظور عمدی در تأثیر اجتماعی فناوری‌هایی که در حال توسعه و استقرار در جهان خواهند بود، بسیار مهم است. اما آیا واقعاً می توان چنین چیزهایی را به فرد آموخت؟ اگر چنین است، چگونه؟

کاسپار هیر، استاد فلسفه در MIT و معاون رئیس دانشگاه SERC، این سوال را به اعضای هیئت علمی در پانلی که او در مورد نقش اخلاق در آموزش محاسبات نظارت داشت، مطرح کرد . هر یک از اعضای پانل با تجربه در آموزش اخلاق و تفکر در مورد پیامدهای اجتماعی محاسبات، دیدگاه و رویکرد خود را به اشتراک گذاشتند.

ادن مدینا، استادیار علوم، فناوری و جامعه در MIT، یکی از مدافعان جدی اهمیت یادگیری از تاریخ، گفت:

«اغلب روشی که ما محاسبات را چارچوب بندی می کنیم این است که همه چیز جدید است. یکی از کارهایی که من در تدریس خود انجام می‌دهم این است که به نحوه مواجهه مردم با این مسائل در گذشته نگاه می‌کنم و سعی می‌کنم از آنها به عنوان راهی برای فکر کردن به راه‌های پیش رو استفاده کنم.» 

ادن مدینا، استادیار علوم، فناوری و جامعه در MIT

مدینه مرتباً از مطالعات موردی در کلاس‌های خود استفاده می‌کند و به مقاله‌ای که توسط مورخ علم دانشگاه ییل، جوانا رادین در مورد مجموعه داده‌های دیابت هندی پیما نوشته شده است، اشاره می‌کند که مسائل اخلاقی را در مورد تاریخچه آن مجموعه خاص از داده‌ها مطرح می‌کند که بسیاری آن را نمونه‌ای از آن نمی‌دانند. چگونه تصمیمات پیرامون فناوری و داده ها می توانند از زمینه های بسیار خاص رشد کنند.

میلو فیلیپس-براون، دانشیار فلسفه در دانشگاه آکسفورد، در مورد پروتکل محاسباتی اخلاقی صحبت کرد که در زمانی که دکترای ارشد SERC در MIT بود، ایجاد کرد. این پروتکل، یک رویکرد چهار مرحله‌ای برای ایجاد مسئولیت‌پذیر فناوری، برای آموزش دانشجویان علوم کامپیوتر طراحی شده است تا با تقسیم کردن فرآیند به مراحل قابل مدیریت‌تر، به شیوه‌ای بهتر و دقیق‌تر درباره پیامدهای اجتماعی فناوری فکر کنند. او گفت: «رویکرد اساسی که ما از آن استفاده می‌کنیم، بسیار بر حوزه‌های طراحی حساس به ارزش، تحقیق و نوآوری مسئولانه، طراحی مشارکتی به‌عنوان بینش‌های راهنما استوار است و سپس اساساً بین‌رشته‌ای است».

رشته هایی مانند زیست پزشکی و حقوق دارای اکوسیستم اخلاقی هستند که کارکرد استدلال اخلاقی را در این زمینه ها توزیع می کند. نظارت و مقررات برای راهنمایی ذینفعان و تصمیم گیرندگان خط مقدم در هنگام بروز مسائل، و همچنین برنامه های آموزشی و دسترسی به تخصص بین رشته ای که می توانند از آن استفاده کنند، ارائه می شود. جان باسل، استادیار فلسفه در دانشگاه نورث ایسترن، گفت: «در این فضا، ما هیچ کدام از اینها را نداریم. برای نسل‌های کنونی دانشمندان کامپیوتر و سایر تصمیم‌گیرندگان، ما در واقع آنها را وادار می‌کنیم که استدلال اخلاقی را خودشان انجام دهند.» باسل همچنین اظهار داشت که آموزش مهارت‌های استدلال اخلاقی اصلی در سراسر برنامه درسی، نه فقط در کلاس‌های فلسفه، ضروری است، و هدف نباید این باشد که هر دانشمند کامپیوتر یک متخصص اخلاق حرفه‌ای باشد.

پس از جلسه پایانی، گروه‌های بین‌رشته‌ای از اساتید، دانشجویان و پژوهشگران به بحث‌های متحرک مرتبط با موضوعات تحت پوشش در طول روز طی پذیرایی که پایان سمپوزیوم بود، پرداختند