در سال 2016، اتومبیل های خودران وارد جریان اصلی زندگی شدند. وسایل نقلیه خودکار اوبر در محله هایی که من در پیتسبورگ زندگی می کنم و به طور خلاصه در سانفرانسیسکو، همه جا حاضر می شوند. وزارت حمل و نقل ایالات متحده، راهنمایی های قانونی جدیدی را برای آنها صادر کرد.
فناوری های خودکار به سرعت در حال پیشروی از بخش حمل و نقل به مراقبت های بهداشتی، دفاع سایبری پیشرفته و حتی سلاح های خودکار هستند. در سال 2017 ، ما باید تصمیم بگیریم که آیا می توانیم به این فن آوری ها اعتماد کنیم و این موضوع بسیار دشوارتر از آنچه که انتظار داریم خواهد بود.
اعتماد حالتی پیچیده و متنوع است، اما همچنین بخشی اساسی از زندگی ما است. ما اغلب به فناوری مبتنی بر قابلیت پیش بینی، اعتماد می کنیم. مثلن به چیزی اعتماد می کنیم که بدانیم در شرایطی خاص چه کاری انجام خواهد داد، حتی اگر دلیل آن را نمی دانیم. به عنوان مثال، به رایانه خود اعتماد داریم، زیرا می دانیم که عملکرد آن از جمله زمان خرابی آن چیست. اگر اتفاقی متفاوت یا تعجب آور رخ دهد، دیگر اعتماد نمی کنیم.
طبق تحقیقات، ما مبانی احتمالی اعتماد به اتومبیل های خودران و سایر فناوری های خودکار را از دو نظر اخلاقی و روانشناختی، بررسی کردیم. اینها همچون دستگاه هستند، بنابراین ممکن است که پیش بینی مهم باشد. با این حال، به دلیل خودکار بودن آنها، ما باید اهمیت و ارزش - و چالش - یادگیری اعتماد به آنها را در شیوه اعتماد به انسانهای دیگر نیز در نظر بگیریم.
خودکار و قابل پیش بینی بودن
ما می خواهیم فناوری ها، از جمله اتومبیل های خودران، به روشی رفتار کنند که می توانیم پیش بینی و انتظار داشته باشیم. البته، این سیستم ها می توانند کاملاً حساس به زمینه باشند، از جمله وسایل نقلیه دیگر، عابران پیاده، شرایط آب و هوایی و غیره. به طور کلی، هرچند ممکن است انتظار داشته باشیم که یک ماشین خودران که بارها و بارها در یک محیط قرار می گیرد و احتمالاً هر بار رفتار مشابهی داشته باشد، اما از چه لحاظ این اتومبیل های کاملاً قابل پیش بینی به جای صرفاً اتوماتیک بودن، خودکار خواهند بود؟
تلاش های مختلفی برای تعریف خودکار بودن صورت گرفته است، اما همه آنها این وجه مشترک را دارند: سیستم های خودکار می توانند تصمیمات و برنامه های اساسی را خود بگیرند و بدین ترتیب می توانند متفاوت از آنچه انتظار می رود، عمل کنند.
در حقیقت، یک دلیل برای به کارگیری این فناوری خودکار (متمایز از اتوماسیون) دقیقاً این است که این سیستم ها می توانند اقدامات عملی غیرمنتظره و شگفت آور، هرچند قابل توجیه را دنبال کنند. به عنوان مثال، “DeepMind’s AlphaGo” به دلیل حرکتی که هیچ بازیکن انسانی هرگز انجام نخواهد داد، در دومین بازی از سری اخیر Go مقابل “Lee Sedol” پیروز شد، با این وجود حرکت درستی بود. اما همین شگفتی ها ایجاد اعتماد مبتنی بر پیش بینی را دشوار می کند. مطمئناً اعتماد قوی صرفاً بر اساس پیش بینی فقط برای سیستم های خودکار یا اتوماتیک امکان پذیر است، دقیقاً به دلیل قابل پیش بینی بودن آنها (با فرض عملکرد عادی سیستم).
پذیرش سورپرایزها
البته، افراد دیگر مرتباً ما را غافلگیر می کنند و با این وجود می توانیم به آنها تا حدی چشمگیری اعتماد کنیم، حتی به آنها، قدرت مرگ و زندگی را بر خودشان بدهیم. سربازان در محیط های پیچیده و خصمانه به همرزمان خود اعتماد می کنند. یک بیمار به جراح خود اعتماد می کند تا تومور را جدا کند و به روشی پیش پا افتاده تر، همسرم به من اعتماد می کند تا با خیال راحت رانندگی کنم. این اعتماد بین فردی ما را قادر می سازد تا موارد غافل گیرکننده را بپذیریم، بنابراین شاید بتوانیم چیزی مانند اعتماد بین فردی در اتومبیل های خودران را توسعه دهیم؟
به طور کلی، اعتماد بین فردی، مستلزم درک این موضوع است که چرا شخصی به روشی خاص عمل کرده است، حتی اگر شما نتوانید تصمیم دقیق را پیش بینی کنید. همسرم ممکن است دقیقاً نداند که چگونه رانندگی خواهم کرد، اما او انواع استدلالهایی را که هنگام رانندگی استفاده می کنم را می داند و در واقع درک اینکه چرا شخص دیگری کاری را انجام می دهد، نسبتاً آسان است، دقیقاً به این دلیل که همه ما تقریباً به طور یکسان فکر می کنیم و استدلال می کنیم، هرچند با "مواد اولیه" متفاوت - اعتقادات، خواسته ها و تجربیات ما، مواجه هستیم.
در حقیقت، ما به طور مستمر و ناخودآگاه براساس اعمال آنها، عقاید و خواسته های دیگران را استنباط می کنیم، تا حد زیادی با این فرض که آنها مانند ما فکر می کنند، استدلال می کنند و تصمیم گیری می کنند. همه این استنباط ها و استدلال ها براساس شناخت مشترک ما (انسانی) ما را قادر می سازد تا دلایل شخص دیگری را درک کنیم و بدین ترتیب با گذشت زمان، اعتماد بین فردی ایجاد کنیم.
آیا فناوری های خودکار مانند انسان فکر می کنند؟
فن آوری های خودکار- به ویژه اتومبیل های خودران - مانند مردم فکر نمی کنند و تصمیم نمی گیرند. تلاش هایی چه در گذشته و چه در سالهای اخیر، برای توسعه سیستم های رایانه ای صورت گرفته که مانند انسان فکر و تعقل کنند. با این حال، یک موضوع ثابت یادگیری ماشینی در طی دو دهه گذشته، دستاوردهای عظیم دقیقاً ناشی از عدم نیاز به سیستم های هوش مصنوعی ما، برای کارکرد به روش های انسانی بوده است. در عوض، الگوریتم ها و سیستم های یادگیری ماشینی مانند “AlphaGo” اغلب با تمرکز روی مشکلات خاص و موضعی و سپس حل آنها کاملاً متفاوت از انسان ها که توانسته اند از متخصصان انسانی پیشی بگیرند.
در نتیجه، تلاش برای تفسیر یک فناوری خودکار براساس اعتقادات و خواسته های شبه انسانی، می تواند به طرز چشمگیری نیز گمراه شود. وقتی راننده ای یک توپ را در جاده می بیند، بیشتر ما به طور خودکار سرعت خود را به میزان قابل توجهی کاهش می دهیم تا از برخورد کودکی که ممکن است بدنبال آن باشد، جلوگیری کنیم. اگر ما سوار اتومبیلی خودکار هستیم و می بینیم که یک توپ به خیابان می غلتد، انتظار داریم ماشین آن را تشخیص دهد و آماده توقف برای کودکان در حال دویدن باشد. با این وجود ممکن است خودرو فقط مانعی را برای جلوگیری از آن ببیند. اگر بدون کند شدن، بچرخد، ممکن است انسان های داخل هواپیما نگران شوند و ممکن است یک کودک در معرض خطر باشد.
استنباط ما در مورد "اعتقادات" و "خواسته های" اتومبیل خودران تقریباً از جهات مهم اشتباه است، دقیقاً به این دلیل که اتومبیل هیچ عقیده و خواسته ای شبیه انسان ندارد. ما نمی توانیم اعتماد بین فردی به یک ماشین خودران را فقط با تماشای رانندگی در آن رشد دهیم، زیرا به درستی نتیجه عملکردهای آن را مشاهده نخواهیم کرد.
البته، مشتریان جامعه یا بازار می توانند به طور دسته جمعی اصرار داشته باشند که اتومبیل های خودران دارای ویژگی های انسان مانند (روانشناختی) هستند، بنابراین ما می توانیم اعتماد بین فردی به آنها را درک و توسعه دهیم. این استراتژی معنای کاملاً جدیدی به "طراحی انسان محور" می بخشد، زیرا این سیستم ها به طور خاص طراحی می شوند تا اقدامات آنها توسط انسان قابل تفسیر باشد. اما این امر همچنین مستلزم گنجاندن الگوریتم ها و تکنیک های جدید در اتومبیل خودران است که همگی نشان دهنده یک تغییر گسترده نسبت به استراتژی های تحقیق و توسعه فعلی برای اتومبیل های خودران و سایر فن آوری های خودکار است.
اتومبیل های خودران این پتانسیل را دارند که با استفاده از روش های مفید، زیرساخت های حمل و نقل ما را کاملاً تغییر شکل دهند، اما تنها در صورت اعتماد کافی به آنها، برای استفاده واقعی از آنها کاربردی خواهند بود. از قضا، همین ویژگی که اتومبیل های خودران را با ارزش می کند - تصمیم گیری انعطاف پذیر و خودکار در موقعیت های مختلف - دقیقاً همان چیزی است که اعتماد به آنها را دشوار می کند.
منبع
The Conversation
