فصل اول: هوش مصنوعی چیست؟ کتاب نقطه عطف: خط مشی گذاری در عصر هوش مصنوعی
آنچه که در مجموعه دانش نامه وب سایت بنی اسد مطالعه می کنید ترجمه فصل اول با عنوان هوش مصنوعی چیست؟ از کتاب نقطه عطف: سیاست گذاری در عصر هوش مصنوعی است که در سال 2020 از سوی وست و آلن نگارش شده است و موسسه معروف بروکینگز آن را به چاپ رسانده است.
DARRELL M. WEST, JOHN R. ALLEN(2020), TURNING POINT: Policymaking in the Era of Artificial Intelligence, BROOKINGS INSTITUTION PRESS, Washington, D.C.
ترجمه این کتاب بزودی در سایت انتشارات مدیران هزاره برای خرید و دانلود در دسترس خواهد بود. اما در این مجموعه نوشته های سایت به ترتیب و فصل به فصل محتوای ترجمه شده کتاب در اختیار علاقه مندان قرار می گیرد.
خوانندگان محترم به این مهم توجه داشته باشند که این محتواها ترجمه هست و محتواهای بیان شده نظر اینجانب بنی اسد نیست و تمامی حقوق آن برای دانشنامه هوش مصنوعی وبگاه بنی اسد محفوظ است و نقل آن صرفاً با ذکر نشانی صفحه به صورت قابل انتقال مجاز است.
راهنمای مطالعه
- فصل اول: هوش مصنوعی چیست؟
- خاستگاه هوش مصنوعی
- تعریف هوش مصنوعی
- انتخابپذیری
- هوش
- انعطافپذیری
- استقرار هوش مصنوعی در صنایع و بخش ها
- هوش مصنوعی در صنعت خدمات مالی
- خرید
- شهرهای هوشمند
- انرژی و تغییرات آب و هوایی
- حقوق و عدالت کیفری
- مسائل حکمرانی، اخلاقی، سیاستی، حقوقی و ژئوپلیتیکی
- حکمرانی
- اخلاق و شفافیت
- تعصبات در دادهها و الگوریتمها
- حریم خصوصی و امنیت سایبری
- کاربردهای توهینآمیز
- مسئولیت حقوقی
- ملاحظات ژئوپلیتیکی
- تولید ناخالص داخلی حاصل از هوش مصنوعی 15.7 تریلیون دلار
- سرمایه گذاری فرانسه در هوش مصنوعی در صنایع دفاعی به میزان 1.83 میلیارد دلار
- سرمایه گذاری آلمان در کاربردهای صنعتی هوش مصنوعی به میزان 3.66 میلیارد دلار
- سرمایه گذاری انگلیس در هوش مصنوعی صنایع دفاعی و بخش خصوصی به میزان 196 میلیون دلار
- سرمایه گذاری رژیم صهیونیستی در هوش مصنوعی
- سرمایه گذاری هند در هوش مصنوعی برای توسعه اقتصادی
- سرمایه گذاری روسیه در هوش مصنوعی
- سرمایه گذاری چین در حوزه هوش مصنوعی
- کنترل انسانی
فصل اول: هوش مصنوعی چیست؟
هوش مصنوعی مفهومی است که درک آن دشوار است. به عنوان نمونه، فقط 17 درصد از 1500 رهبران کسب و کار آمریکایی در سال 2017 گفتهاند که با نحوه تأثیر هوش مصنوعی بر شرکتهای خود آشنا هستند. این مدیران اجرایی درک کردند که پتانسیل قابل توجهی برای ایجاد تحول و انقلاب در فرآیندهای کسبوکار وجود دارد اما مطمئن نبودند که چگونه هوش مصنوعی در سازمانهای خودشان مستقر میشود یا چگونه صنایع آنها را تغییر خواهد داد.
هالیوود کمک چندانی در بهبود درک مردم از فناوریهای پیشرفته انجام نمیدهد. بسیاری از فیلمها، هوش مصنوعی را با رباتهای شرور یا موجودات هایپرهوشمندی مانند ترمیناتور (Terminator) یا HAL شرور (evil HAL) نوشته آرتور سی. کلارک در سال 2001 (C. Clarke’s 2001: A Space Odyssey) یکسان فرض می کنند.
در تصویرسازیهای حاصل از اینگونه فیلم ها، موجودات فوقالعاده قدرتمند حتماً هوش انسانمانند به دست میآورند، رویه خودسرانه در پیش میگیرند و به جمعیت انسانی آسیب شدید وارد میکنند. پیام ترسناک در این نمایشهای سینمایی این است که هوش مصنوعی خطرناک است زیرا در نهایت انسانها را به بردگی خواهد کشید.
یکی از دشواریها در درک هوش مصنوعی نبود تعریف یکپارچه است. مردم اغلب چیزهای زیادی را در مفاهیم خود در هم میآمیزند و سپس بدترین نتایج ممکن را تصور میکنند. آنها فرض میکنند فناوریهای پیشرفته تواناییهای همهدانی، انگیزههای مخرب و نظارت انسانی محدودی خواهند داشت و کنترل آنها غیرممکن خواهد بود. به همین دلایل، مهم است که ما معنای دقیق هوش مصنوعی را روشن کنیم، نمونههای قابل فهمی از نحوه استفاده آن ارائه دهیم و خطرات اصلی آن را ترسیم کنیم.
خاستگاه هوش مصنوعی
آلن تورینگ معمولاً به خاطر مفهومسازی ایده هوش مصنوعی در سال 1950 مورد تقدیر قرار میگیرد، زمانی که او درباره «ماشینهای فکرکننده» که میتوانند در سطح یک انسان استدلال کنند، تأمل کرد. «آزمون تورینگ» شناختهشده او مشخص میکند که کامپیوترها باید «معماهای استدلالی» را به اندازه انسانها به طور مؤثری حل کنند تا به عنوان خودمختار در نظر گرفته شوند.
چند سال بعد از تورینگ، چشمانداز جان مککارتی آغاز شد. در سال 1956، او اولین دانشمندی بود که اصطلاح «هوش مصنوعی» را برای نشان دادن ماشینهایی که میتوانند به صورت مستقل فکر کنند و عمل کنند، بکار برد. او هوش مصنوعی را به عنوان «به دست آوردن توانایی کامپیوتر برای انجام کارهایی که وقتی بوسیله انسانها انجام میشود، گفته میشود شامل هوش است» تعریف کرد.
از آن زمان به بعد، دانشمندان بر سر اینکه چه چیزی شامل «فکر کردن»، «هوش» و «خودمختاری» در سختافزارها و نرمافزارها میشود، بحث کردهاند. کامپیوترهای پیشرفته مانند واتسون IBM قبلاً انسانها را در شطرنج و پوکر شکست دادهاند و قادر به پردازش فوری مقادیر عظیمی از اطلاعات هستند دیپ مایند AlphaGo و AlphaGo Master حتی پیشرفتهای بیشتری داشته و با استفاده از هوش مصنوعی موفق به شکست دادن بازیکنان حرفهای بازی تختهای گو (board game Go) شدهاند. با یادگیری از یک سری مسابقات، این سیستمهای مبتنی بر هوش مصنوعی نحوه انجام حرکات پیچیده و توسعه استراتژیهایی که هرگز بوسیله انسانها مد نظر قرار نگرفته بود را فرا گرفتند.
اخیراً، آیندهنگر ری کورزویل با پیشبینی یک «تکامل» سطح مفهوم هوش مصنوعی را به سطح جدیدی برد، یعنی «هوش برتر ماشینی که از هوش انسانی بیشتر است». با پیشرفتها در هوش مصنوعی، تحلیل دادهها و یادگیری ماشین، دیگر دور از ذهن نیست که ماشینهای دارای حس به کارکردهای پیشرفته روی آورند. با رشد قدرت محاسباتی، کورزویل باور دارد که همگرایی بین انسانها و کامپیوترها رخ خواهد داد.
گستردگی دیدگاههای مردم در تعریف هوش مصنوعی به خودی خود به طیف وسیعی از تفسیرها در مورد تأثیر آن بر جامعه منجر میشود. کسانی که نگران از دست دادن انسانیت هستند میتوانند به سناریوهای معقولی اشاره کنند که در آن رباتها همه چیز را تولید میکنند و ماشینهای جنگی شبیه به ترمیناتور به طور مستقل از کنترل انسان عمل میکنند. در مقابل، افرادی که خوشبینتر هستند میتوانند به راههایی اشاره کنند که ماشینهای خودکار ممکن است راحتی را گسترش دهند، انسانها را از وظایف خستهکننده یا خطرناک رها کنند و کیفیت زندگی را به طور کلی بهبود بخشند. دقیق بودن در مورد آنچه که منظورمان از هوش مصنوعی است برای نحوه ارزیابی ناظران از طیف ممکن فرصتها و خطرات مهم است.
تعریف هوش مصنوعی
مهندسان شوکلا شوبندو و جیسوال ویجای هوش مصنوعی را به عنوان «ماشینهایی که به تحریکات واکنش نشان میدهند که سازگار با واکنشهای سنتی انسانها است، با توجه به توانایی انسان برای تفکر، قضاوت و نیت» تعریف میکنند. این تفسیر مفید است زیرا چندین ویژگی را نشان میدهد که هوش مصنوعی را از دستگاههای مکانیکی یا نرمافزارهای کامپیوتری سنتی جدا میکند: انتخاب، هوش و انعطافپذیری. این ویژگیها به الگوریتمهای هوش مصنوعی این امکان را میدهند تا الگوها یا ارتباطات را از طریق «شبکههای عصبی» که دادهها را بر اساس شباهتهای مشترک گروهبندی میکنند، پیدا کنند (به فرهنگ تعاریف اصطلاحات کلیدی مراجعه کنید). علاوه بر این، سیستمهای مبتنی بر هوش مصنوعی از بینشهای به دست آمده از طریق تکنیکهای «یادگیری عمیق» که از آمار برای شناسایی روندها یا الگوهای زیرین در دادهها استفاده میکنند و دانش خود را به شرایط در حال تغییر اعمال میکنند، یاد میگیرند. و فقط اعداد نیستند که میتوانند استخراج شوند، زیرا هوش مصنوعی میتواند از «پردازش زبان طبیعی» استفاده کند که اطلاعات متنی را برای درک معنای آن تجزیه و تحلیل کند. همانطور که در ادامه توضیح میدهیم، هوش مصنوعی از تعدادی ویژگیهای پیچیده برای به کارگیری قدرتهای محاسباتی قوی در طیف گستردهای از فعالیت ها استفاده میکند.
انتخابپذیری
الگوریتمهای هوش مصنوعی طراحی شدهاند تا با استفاده از دادههای زمان واقعی اقداماتی انجام دهند یا تصمیمگیری کنند. آنها با ماشینهای غیرفعال که تنها قادر به پاسخهای ثابت یا مکانیکی هستند، متفاوتاند. آنها با استفاده از حسگرها، دادههای دیجیتال یا ورودیهای از راه دور، الگوریتمهای پیشرفته اطلاعات را از منابع مختلف ترکیب میکنند، مواد را بلافاصله تجزیه و تحلیل میکنند و بر اساس بینشهای حاصل از آن دادهها عمل میکنند.
با بهبودهای عظیم در سیستمهای ذخیرهسازی، سرعتهای پردازش و تکنیکهای تحلیلی، الگوریتمهای هوش مصنوعی قادر به تجزیه و تحلیل و تصمیمگیری فوقالعاده پیچیده هستند. برای مثال، الگوریتمهای مالی میتوانند اختلافات دقیقهای در ارزیابیهای سهام را شناسایی کرده و بر اساس آن اطلاعات معاملات بازار را انجام دهند. به همین ترتیب، حسگرهای مصنوعی هوشمند بر روی سیستمهای پویا مانند ژنراتورهای برق یا موتورهای توربین هواپیما میتوانند ناهنجاریهای عملیاتی را خیلی زودتر از ابزارهای قبلی تشخیص دهند و در نتیجه با نشان دادن نیاز به تعمیر و نگهداری پیشگیرانه، میلیونها دلار صرفهجویی کنند. همین منطق در سیستمهای پایداری محیطی که از حسگرها برای تعیین اینکه آیا کسی در یک اتاق است استفاده میکنند و با استفاده از این ورودی حسی، گرمایش، سرمایش و روشنایی را به طور خودکار تنظیم میکنند، اعمال میشود.
تا زمانی که این سیستمها با ارزشهای مبتنی بر انسان هماهنگ باشند، خطر کمی از هوش مصنوعی برای به خطر انداختن انسانها وجود دارد. الگوریتمهای پیچیده میتوانند با تجزیه و تحلیل اطلاعات به شیوههایی که عملکرد و درک انسان را ارتقا میدهند، انتخابپذیر باشند. با این حال، اگر نرمافزار به طور ناقص طراحی شده یا بر اساس اطلاعات ناقص یا متعصبانه باشد، ممکن است تصمیمهایی بگیرد که ناعادلانه یا تبعیضآمیز باشند و در نتیجه آسیبهای عمدی یا غیرعمدی ایجاد کنند.
هوش
هوش مصنوعی در یافتن ارتباطات آماری از طریق تکنیکهای یادگیری عمیق ماهر است. با استفاده از تحلیل دادههای پیچیده، طراحان نرمافزار میتوانند الگوریتمهایی توسعه دهند که الگوهای دادهها را شناسایی کرده و از این دانش برای اتخاذ تصمیمهای خاص استفاده کنند.
همانطور که در فصل 3 بحث میکنیم، سیستمهای هوش مصنوعی برای مدیریت ثبتنامهای مدرسه وجود دارد. این سیستمها اطلاعات مربوط به موقعیت محله، مدارس مورد نظر و ترجیحات ثبتنام را جمعآوری کرده و دانشآموزان را بر اساس این اطلاعات تجمیعشده اختصاص میدهند. تا زمانی که اختلاف نظر کمی در مورد معیارهای اصلی وجود دارد، این سیستمها میتوانند به طور هوشمندانه و مؤثر کار کنند.
البته، این استاندارد اغلب در بسیاری از حوزههای سیاستی صدق نمیکند. با توجه به اهمیت آموزش برای نتایج زندگی، والدین، معلمان و مدیران مدرسه بر سنجش وزن مختلف عوامل بحث میکنند. آیا دانشآموزان باید در مدرسه محله خود جایابی شوند یا معیارهای دیگری مانند تمایل به غلبه بر جدایی مسکونی و تنوع بخشیدن به مدارس، باید ملاحظات مکانی را نادیده بگیرند؟ این معیارها مهم هستند زیرا در شهری با جدایی نژادی و نابرابریهای اقتصادی گسترده، تأکید بر اختصاص دانشآموزان به مدارس محله به طور حتم نابرابری را تشدید میکند و جدایی نژادی را افزایش میدهد.
این نکته مهمی است زیرا اتخاذ این نوع تصمیمات به طور فزایندهای به برنامهنویسان کامپیوتر میافتد، که بسیاری از آنها تجربه کمی در حل اختلافات اخلاقی یا اختلاف نظرهای مبتنی بر ارزشها دارند. برنامهنویسان در ساختن الگوریتمهای هوشمند ماهر هستند که اطلاعات را بر اساس ملاحظات مشخص جمعآوری میکنند، اما چگونگی آشتی دادن ارزشهای متضاد چیزی نیست که اکثر آنها برای آن آموزش دیده باشند. تخصص برنامهنویسان کامپیوتر در تجزیه و تحلیل دادهها و نوشتن کد است، نه حل اختلافات جامعه در مورد اهداف اساسی.
انعطافپذیری
آخرین ویژگی که سیستمهای هوش مصنوعی را متمایز میکند، توانایی یادگیری و سازگاری با تغییرات، هنگام جمعآوری اطلاعات و اتخاذ تصمیمات است. هوش مصنوعی مؤثر با تغییر شرایط یا موقعیتها تنظیم میشود. این ممکن است شامل تغییرات در شرایط مالی، وضعیت جادهها، ملاحظات زیستمحیطی یا شرایط نظامی مربوط به سیستم هوش مصنوعی باشد. در هر یک از این حوزهها، هوش مصنوعی باید به سرعت اطلاعات جدید را در الگوریتمهای خود ادغام کند و بر اساس دادههای مرتبط تغییراتی ایجاد کند.
انعطافپذیری یک ویژگی ارزشمند برای هوش مصنوعی است زیرا شرایط به سرعت در بسیاری از زمینهها تغییر میکند و سازمانها به توانایی ارزیابی نیازها و الزامات برای سازگاری و اتخاذ تصمیمات مرتبط نیاز دارند که میتواند به طور قابل توجهی با استفاده از الگوریتمهای آموزش دیده کمک شود و حتی تسریع شود. این چابکی یک مزیت مهم برای الگوریتمهای خودمختار نسبت به سیستمهای قبلی است که تنها روندهای گذشته را به آینده به شکل خطی پیشبینی میکنند.
حمل و نقل نمونهای است که نشان میدهد چگونه این انعطافپذیری و چابکی میتواند رخ دهد. وسایل نقلیه خودران از ارتباطات ماشین به ماشین برای هشدار دادن به سایر خودروها در جاده در مورد ترافیک پیش رو، چالههای جاده، ساخت و ساز بزرگراه یا موانع ترافیکی استفاده میکنند. وسایل نقلیه میتوانند از تجربه جادهای سایر وسایل نقلیه بدون دخالت انسانی استفاده کنند. هر چیزی که یاد گرفته شده، به طور فوری و کاملاً قابل انتقال به سایر وسایل نقلیه متصل است. الگوریتمهای پیشرفته، حسگرها و دوربینهای آنها تجربیات زمان واقعی را یکپارچه کرده و از داشبوردها و نمایشگرهای بصری برای کمک به مردم در درک شرایط جاری ترافیک و وسایل نقلیه استفاده میکنند. این امر با پیشرفتهای قدرت محاسباتی ممکن شده است.
قابلیتهای مشابه در نرمافزار برای برنامهریزی قرارهای ملاقات نیز گنجانده شدهاند. دستیارهای دیجیتالی شخصی میتوانند ترجیحات یک فرد را دریابند و به درخواستهای ایمیلی برای تعیین وقت قرارها به شیوهای پویا پاسخ دهند. بدون هرگونه دخالت انسانی، دستیار دیجیتالی میتواند قرارهای ملاقات بگذارد، برنامهها را تنظیم کند و ترجیحات را به افراد دیگر ارتباط دهد.
به طور فزایندهای، تعاملات انسانی با کامپیوترها از طریق مکالمه کلامی در حال وقوع است. به جای تکنیک سنتی نقطه و کلیک بر اساس ناوبری ماوس، افراد میتوانند با کامپیوترها صحبت کنند و دستورات شفاهی در مورد آنچه میخواهند انجام دهند، ارائه دهند. از طریق «چتباتها» که در دستگاههایی مانند آمازون الکسا و اپل سیری تعبیه شدهاند، افراد میتوانند پیتزا سفارش دهند، قبوض خود را پرداخت کنند یا از طریق رابطهای مکالمهای موسیقی درخواست کنند.
سادگی این ابزارها امکانات برای هوش مصنوعی و تعاملات انسان-ماشین را به شدت گسترش میدهد. قابلیتهای فعالشده بوسیله صدا میتوانند آنچه که روزی رابطهای پیچیده بودند را به دستگاههای مصرفکننده آسان برای استفاده تبدیل کنند. افراد دیگر نیازی نیست که دانشمندان کامپیوتر یا مهندسان باشند تا از سیستمهای پیچیده استفاده کنند یا محصولات پیشرفته را عملیاتی کنند. آنها میتوانند از هوش مصنوعی استفاده کنند بدون اینکه حتی بدانند با یک الگوریتم پیشرفته تعامل دارند. کد نرمافزار ممکن است میلیونها خط برنامهنویسی در خود داشته باشد، اما فقط نیاز به دستورات شفاهی برای عملیات دارد.
استقرار هوش مصنوعی در صنایع و بخش ها
با رشد قابلیتهای خود، هوش مصنوعی در تعدادی از بخشها مورد استفاده قرار میگیرد. زمینههای متنوعی از جمله مالی و خرید، شهرهای هوشمند، مدیریت انرژی و عدالت کیفری در حال گنجاندن هوش مصنوعی، تحلیل دادهها و یادگیری ماشین هستند. با انگیزههایی برای ایجاد کارایی و بهبود اثربخشی، الگوریتمها روش تصمیمگیری بسیاری از رهبران و عملکرد سازمانها را تغییر دادهاند. در زیر شرح مختصری از برخی روشهایی که الگوریتمها مورد استفاده قرار میگیرند، ارائه شده است.
هوش مصنوعی در صنعت خدمات مالی
صنعت خدمات مالی از بسیاری از کاربردهای هوش مصنوعی استفاده میکند. بر اساس نظر مشاهدات صنعتی، «تصمیمات در مورد وامها اکنون توسط نرمافزارهایی اتخاذ میشوند که میتوانند دادههای متنوع و دقیقی را درباره یک وامگیرنده در نظر بگیرند، نه فقط امتیاز اعتباری و بررسی پیشینه.» علاوه بر این، مشاوران رباتیک وجود دارند که «سبدهای سرمایهگذاری شخصیسازی شده ایجاد میکنند، که نیاز به کارگزاران بورس و مشاوران مالی را از بین میبرد.» این پیشرفتها هیجان را از سرمایهگذاری خارج کرده و تصمیمات را بر اساس ملاحظات تحلیلی اتخاذ میکنند.
یک مثال برجسته از این موضوع، بورسهای سهام است، جایی که معاملات خودکار با فرکانس بالا بسیاری از تصمیمگیریهای انسانی را جایگزین کرده است. سیستمها دستورات خرید و فروش را بر اساس تجزیه و تحلیل ناکارآمدیهای معاملاتی یا اختلافات مالی صادر میکنند. در برخی موارد با استفاده از محاسبات پیشرفته، این ابزارها ظرفیتهای بسیار بیشتری برای ذخیرهسازی اطلاعات و پردازش دادهها دارند.
تشخیص تقلب یکی دیگر از زمینههایی است که هوش مصنوعی در سیستمهای مالی کمککننده است. گاهی اوقات تشخیص فعالیتهای تقلبی در سازمانهای بزرگ دشوار است، اما هوش مصنوعی میتواند ناهنجاریهای اولیه یا نشانههای تقلبی، نقاط خارج از محدوده یا موارد منحرف را شناسایی کند. این سیستمهای تشخیص به مدیران انسانی کمک میکنند تا مشکلات را پیش از رسیدن به سطوح خطرناک پیدا کنند.
برای برخی افراد، با این حال، هوش مصنوعی مشکلات حفاظت مالی مصرفکننده ایجاد میکند. ابزارهای دیجیتال تجربه خردهفروشی را تغییر میدهند و ممکن است مصرفکنندگان را در معرض استراتژیهای بازاریابی فریبنده یا شیوههای تقلبی قرار دهند. تبلیغات پیشرفتهی فناوری ممکن است افرادی را با سواد مالی محدود هدف قرار دهند و آنها را تشویق کنند تا محصولاتی را خریداری کنند که برای آنها مناسب نیست. بر اساس گفتههای مکادا هنری-نیکی، دانشمند مؤسسه بروکینگز، «هوش مصنوعی»میتواند به یک افزایش از مشکلات خبیث و میراثی منجر شود: هدایت محصول، قیمتگذاری تبعیضآمیز، توزیع ناعادلانه اعتبار، فیلتر کردن انحصاری و خطکشی دیجیتالی.» تمام این رویهها به رفاه مصرفکننده آسیب میزنند و مشکلات شامل مالی را تشدید میکنند.
علاوه بر این، هوش مصنوعی راههایی را فراهم میکند که موسسات مالی بتوانند از قوانین سنتی ضد تبعیض عبور کنند. برای مثال، آرون کلاین، دانشمند مؤسسه بروکینگز، اشاره میکند که بانکها از در نظر گرفتن وضعیت تأهل در تصمیمات وام دهی منع شدهاند. با این حال، الگوریتمها میتوانند احتمال بروز مشکلات زناشویی را از طریق معیارهای جایگزین که سفرها، هتلها، هدایا و صورتحسابهای رستوران را بررسی میکنند، ارزیابی کرده و بنابراین احتمال طلاقهای پیشرو را که میتواند توانایی بازپرداخت وامها را تحت تأثیر قرار دهد، تخمین بزنند. وقتی هوش مصنوعی توانایی ارزیابی مشکلات روابط را از طریق وسایل غیرمستقیم دارد، کلاین استدلال میکند که باید به همان شکلی که تصمیمات مبتنی بر وضعیت تأهل در تصمیمات وام دهی محدود میشوند، محدود شود.
خرید
بسیاری از مؤسسات خردهفروشی فناوریهایی را پیشگام کردهاند که طراحی شدهاند تا تجربه مصرفکننده را بهبود بخشند. آمازون، برای مثال، فروشگاههای راحتی بدون فروشنده باز کرده است. مصرفکننده اپلیکیشن تلفن همراه شرکت را دانلود کرده، از طریق دروازهها وارد فروشگاه میشود، اقلام مورد نظر را انتخاب کرده و از طریق دروازههایی که کارت اعتباری یا سیستم پرداخت موبایلی فرد را شارژ میکنند، خارج میشود.
فروشگاههای غولآسای فود استورز رباتهای مجهز به هوش مصنوعی را معرفی کردهاند که با دوربینها و تواناییهای صفحهبندی صوتی تجهیز شدهاند و میتوانند ریزش مواد غذایی و قفسههای خالی را شناسایی کنند. این دستگاهها کارکنان انسانی را دسته بندی میکنند تا از مشکل آگاه شوند تا زبالهها تمیز شوند و اقلام مجدداً در قفسهها قرار گیرند. رباتها همچنین میتوانند بررسیهای قیمت انجام دهند و از طریق رابطهای صوتی به سؤالات مشتریان پاسخ دهند. مدیران شرکت امیدوارند که فناوریهای نوظهور کار خریداران را برای پیدا کردن آنچه میخواهند آسانتر کرده و فرآیند پرداخت را تسریع کنند. علاوه بر این، چنین سیستمهایی ترجیحات بهروزرسانیهای لحظهای بر کنترل موجودی و نقاط سفارش مجدد را ارائه میدهند، که به این ترتیب بازگرداندن قفسهها را تسهیل میکند.
والمارت در حال افزودن 3,900 ربات پیشرفته به فروشگاههای خردهفروشی خود است. این دستگاهها با هدف بهبود عملیات تجاری، به دنبال قفسههایی هستند که نیاز به پر شدن دارند، کامیونهایی که میتوانند تخلیه شوند، یا کف فروشگاههایی که نیاز به تمیز کردن دارند،. این رباتها در سراسر 4,700 فروشگاه شرکت پخش شدهاند تا خرید مشتری را بهبود بخشیده و اطمینان حاصل کنند که موانع کمتری برای خرید مردم وجود دارد.
با این حال، نگرانیهایی وجود دارد که این رباتها شغلهای انسانی را از بین ببرند و حریم خصوصی فردی را نقض کنند. برای مثال، برخی شرکتها از تلفنهای هوشمند برای ردیابی حرکات مصرفکننده و ترجیحات خرید آنها در حین حضور در فروشگاه استفاده میکنند. آنها میتوانند از این اطلاعات برای هدفگذاری تبلیغات برای افراد خاص یا یادگیری در مورد محصولاتی که بیشترین علاقه را برای خریداران دارند، استفاده کنند. این شیوهها چندین سؤال را در مورد اخلاق هدفگیری تبلیغات و ایجاد سابقه سازی برای خریداران مطرح میکنند.
شهرهای هوشمند
دولتهای شهری، از هوش مصنوعی برای بهبود ارائه خدمات شهری استفاده میکنند. بر اساس مطالعات نویسندگان مؤسسه بروکینگز، کوین دسوزا، راشمی کریشنامورتی و گرگوری داوسون، «اداره آتشنشانی سینسیناتی از تحلیل دادهها برای بهینهسازی پاسخهای اورژانسی پزشکی استفاده میکند. سیستم تحلیل جدید به دیسپچر توصیه میکند که به یک تماس اورژانسی پزشکی چگونه پاسخ دهد؛ آیا بیمار میتواند با در نظر گرفتن چندین عامل، مانند نوع تماس، موقعیت، آب و هوا و تماسهای مشابه، در محل درمان شود یا نیاز به انتقال به بیمارستان دارد.
از آنجایی که اداره آتشنشانی سینسیناتی سالانه 80,000 درخواست دریافت میکند، مقامات شهری از این فناوری برای اولویتبندی پاسخها و تعیین بهترین روشها برای اورژانسها استفاده میکنند. آنها هوش مصنوعی را به عنوان راهی برای رسیدگی به حجم زیادی از دادهها و پیدا کردن روشهای کارآمد برای پاسخگویی به درخواستهای عمومی میبینند. به جای رسیدگی به مسائل خدماتی به شیوهای سریع و غیرسیستماتیک، مقامات در تلاشند تا به شکلی پیشگیرانه و سیستماتیک در ارائه خدمات شهری عمل کنند. تاکنون، مقامات شهری از استقرار آن راضی بودهاند و احساس میکنند که این کار، آنها را در موقعیت بهتری برای مدیریت خدمات اورژانسی قرار داده است.
تعدادی از مناطق متروپلیتن در حال پذیرش برنامههای شهر هوشمند هستند که از هوش مصنوعی برای بهبود برنامهریزی محیطزیست، مدیریت منابع، استفاده از انرژی و پیشگیری از جرم، در میان دیگر موارد، استفاده میکنند. برای شاخص شهرهای هوشمند، مجله Fast Company مناطق آمریکایی را رتبهبندی کرده و سیاتل، بوستون، سان فرانسیسکو، واشنگتن دی.سی. و نیویورک سیتی را به عنوان برترین پذیرندگان راهحلهای شهر هوشمند معرفی کرده است. سیاتل، برای مثال، پایداری را در آغوش کشیده و از هوش مصنوعی برای مدیریت استفاده از انرژی و مدیریت منابع استفاده میکند. بوستون “City Hall to Go”، یک برنامه موبایلی را راهاندازی کرده است که اطمینان حاصل میکند جوامع کمبرخوردار خدمات عمومی مورد نیاز خود را دریافت میکنند. همچنین «دوربینها و حلقههای القایی برای مدیریت ترافیک و حسگرهای صوتی برای شناسایی شلیکهای گلوله» را به کار گرفته است.
از طریق این روشها، مناطق متروپلیتن در کشور پیشرو در استقرار راهحلهای هوش مصنوعی هستند. بر اساس گزارش اتحادیه شهرهای ملی، 66 درصد از شهرهای آمریکایی در فناوری شهر هوشمند سرمایهگذاری میکنند. در میان برترین کاربردها میتوان به «کنتورهای هوشمند برای ابزارهای کاربردی، چراغهای ترافیکی هوشمند، برنامههای حکومت الکترونیک، کیوسکهای Wi-Fi و حسگرهای شناسایی فرکانس رادیویی در آسفالت» اشاره کرد.
اما در برخی مکانها، این نوآوریها نگرانیهایی را در مورد جمعآوری اطلاعات شخصی و نحوه استفاده مقامات شهری از فناوری ایجاد کردهاند. بدتر از آن ترسهایی است که فناوری به «شکنندگی شهری» کمک میکند. همانطور که کوین دسوزا و دیوید سلبی اشاره کردهاند، نوآوریهای دیجیتال گاهی میتوانند ایمنی مالی، ارتباطات اجتماعی را تضعیف کرده و در نتیجه توانایی جوامع را برای مقابله با مشکلات خدشهدار کنند.
انرژی و تغییرات آب و هوایی
یکی از روشهای مهمی که هوش مصنوعی کمک میکند، از طریق تحلیل بهبود یافته منابع انرژی و تغییرات آب و هوایی است. برآورد تقاضای مصرفکنندگان و کسبوکارها برای انرژی همیشه چالشبرانگیز بوده است و این محدودیت، چالشهای بزرگی برای بخش ها ایجاد میکند. تحلیلهای پیشرفته امکان مدلسازی عرضه و تقاضا به شیوهای دقیق را فراهم میکنند و بنابراین نیازها و پیامدها را به شکلی روشنتر پیشبینی میکنند.
همین مسئله در مورد تغییرات آب و هوایی صادق است. عوامل بسیاری به تغییرات آب و هوایی کمک میکنند و هوش مصنوعی به دانشمندان این امکان را میدهد تا این پویاییها را به شکل بسیار مؤثری تحلیل کنند. برای مثال، آنها میتوانند منابع اصلی سطوح انتشار را بررسی کنند و تأثیرات احتمالی را برای چندین دهه آینده پیشبینی کنند. ممکن است جلوگیری از گرم شدن کره زمین غیرممکن باشد، اما هوش مصنوعی انسانها را در موقعیت بهتری برای مدیریت و کاهش برخی از پیامدهای منفی تغییرات آب و هوایی قرار میدهد.
به گفته دیوید ویکتور از دانشگاه کالیفرنیا در سن دیگو، «هوش مصنوعی به بازارها کمک میکند تا کارآمدتر بوده و برای تحلیلگران و شرکتکنندگان بازار آسانتر خواهد بود تا بتوانند پدیدههای بسیار پیچیده را از رفتار شبکههای برق الکتریکی تا تغییرات آب و هوایی درک کنند. اما خود هوش مصنوعی بدون انگیزههای سیاستی واضح نمیتواند اطمینان دهد که این نتیجه حاصل شود.» برای استفاده از مزایای احتمالی، ضروری است که اطلاعات مرتبط را در اختیار مصرفکنندگان و کسبوکارها قرار دهیم و به این ترتیب آنها را قادر سازیم تا تصمیمات کارآمد انرژی اتخاذ کنند. ویکتور استدلال میکند که تغییرات سیاستی نسبتاً کوچک میتوانند صرفهجوییهای قابل توجهی در هزینهها و منابع ایجاد کنند. درک اینکه چگونه مدیریت انتشار کلیدی برای کاهش پیامدهای آنها است.
حقوق و عدالت کیفری
در بسیاری از مکانها، هوش مصنوعی در حوزه حقوق و عدالت کیفری مورد استفاده قرار میگیرد. برای مثال، شهر شیکاگو یک «لیست موضوعات استراتژیک» مبتنی بر هوش مصنوعی را توسعه داده است که افرادی را که دستگیر شدهاند برای ارزیابی خطر تبدیل شدن به عاملان آینده تجزیه و تحلیل میکند. این سیستم 400,000 نفر را بر اساس معیارهایی مانند سن، فعالیتهای جنایی، قربانی شدن، سوابق دستگیری به دلیل مواد مخدر و وابستگی به باندها، در مقیاس 0 تا 500 رتبهبندی میکند. تحلیلگران دریافتهاند که جوانی یک پیشبینیکننده قوی برای خشونت است و قربانی شدن در یک تیراندازی با تبدیل شدن به عامل آینده ارتباط دارد.
کارشناسان قضایی ادعا میکنند که هوش مصنوعی و برنامههای تحلیل دادهها تعصبات انسانی در اجرای قانون را کاهش میدهند و منجر به یک سیستم صدور حکم عادلانهتر میشوند. برای مثال، کالب واتنی، همکار مؤسسه R Street، مینویسد که «سوالات مبتنی بر شواهد در مورد تحلیل خطر پیشبینی به نقاط قوت یادگیری ماشین، استدلال خودکار و سایر اشکال هوش مصنوعی برمیگردد. یک شبیهسازی سیاست یادگیری ماشین نتیجهگیری کرده است که چنین برنامههایی میتوانند برای کاهش جرم تا 24.8 درصد بدون تغییر در نرخهای زندان یا کاهش جمعیت زندان تا 42 درصد بدون افزایش نرخ جرم مورد استفاده قرار گیرند»
دیگران امیدوارند که هوش مصنوعی بتواند نتایج دادگاه را از طریق پردازش زبان طبیعی مواد پرونده، شواهد، نظرات حقوقی و حکمهای قضایی بهبود بخشد. قضات میتوانند از بینشهای حاصل از تحلیل دادههای بزرگ برای تعیین خطر فرار، تنظیم وثیقه منطقی، پیدا کردن سوابق قانونی برای جرایم مشابه، کمک به تصمیمگیریهای مجازات، کاهش تبعیض نژادی و ارائه دستورالعملهای گسترده برای صدور حکمها استفاده کنند.
با این حال، منتقدان ادعا میکنند که الگوریتمهای هوش مصنوعی نمایانگر «یک سیستم مخفی برای مجازات شهروندان به خاطر جرایمی که هنوز مرتکب نشدهاند، هستند. امتیازات ریسک بارها برای راهنمایی دستگیریها در مقیاس بالا استفاده شدهاند.» دیگران نگران یک «صنعت پیچیده پلیسی (police industrial complex)» هستند که ابزارهایی را به کار میگیرد که به طور ناعادلانه افراد رنگینپوست را هدف قرار میدهد و به شهرها برای کاهش نرخهای جرم کمک نمیکند. برخی تحلیلگران، مانند رشیدا ریچاردسون، جیسون شولتز و کیت کرافورد از موسسه هوش مصنوعی Now، حتی فراتر رفته و استدلال میکنند که دادههای نامناسب جرم و جنایت پیشبینیهای نادرستی را به بار میآورند و در نهایت منجر به نقض حقوق مدنی میشوند.
مسائل حکمرانی، اخلاقی، سیاستی، حقوقی و ژئوپلیتیکی
نفوذ فزاینده هوش مصنوعی در بسیاری از جنبههای زندگی فرصتهای شگرفی برای پیشرفت و نوآوری ایجاد میکند. با این حال، الگوریتمهای آن نیز چالشهای مهمی در زمینه حکمرانی، اخلاق، سیاست، حقوق و ژئوپلیتیک به وجود میآورند. برای مثال، چه کسی باید در مورد فناوریهای نوظهور تصمیمگیری کند: طراحان نرمافزار، مدیران اجرایی شرکتها، سیاستگذاران یا مصرفکنندگان؟ چه نوع مشکلات اخلاقی از طریق برنامهنویسی نرمافزار ایجاد میشوند و توسعهدهندگان تا چه اندازه باید در مورد انتخابهای کدنویسی خود شفاف باشند؟
چگونه میتوانیم از استفاده از دادههای مغرضانه یا ناعادلانه در الگوریتمها جلوگیری کنیم؟ چگونه میتوانیم حریم خصوصی و امنیت فردی را حفظ کنیم و از مواد توهینآمیز جلوگیری کنیم؟ در مورد مسائل مسئولیت قانونی در مواردی که الگوریتمها آسیب ایجاد میکنند چطور؟ هوش مصنوعی چگونه بر روابط ژئوپلیتیکی در سراسر جهان و توانایی مقابله با تغییرات مقیاس بزرگ ناشی از همهگیریها، نابرابری درآمد و تغییرات آب و هوایی تأثیر میگذارد؟ چگونه میتوانیم کنترل انسانی را بر فناوریهای پیشرفته حفظ کنیم؟
حکمرانی
فناوریهای نوظهور، سؤال های حکمرانی را در مورد اینکه چه کسی باید در مورد مسائل نوآوری، استقرار و جبران خسارت در صورت آسیب به مصرفکننده تصمیمگیری کند، مطرح میکنند. در نظام قدیمی، دولتهای ملی تصمیمگیرندگان مرتبط برای سوالات اساسی در مورد سیاست عمومی و جامعه بودند. رهبران قوانین را تصویب و مقرراتی را وضع میکردند که برای رسیدگی به نحوه مدیریت نوآوریها از تلگراف و تلفن تا تلویزیون و انرژی هستهای طراحی شده بود. کشورها در یک سیستم وستفالیایی محور اصلی بحث و تأمل عمومی بودند.
امروزه، با این حال، این سیستم در حال افول است. بسیاری از تصمیمات فناوری از دنیای دولت به شرکتهای خصوصی مهاجرت کردهاند که در برخی موارد خود به عنوان دولتهای اولیه عمل میکنند. برای مثال، اکنون میتوان فیسبوک را به عنوان یک ملت دیجیتال حاکم با بیش از 2 میلیارد نفر در نظر گرفت. همین مسئله برای شرکتهای بزرگ با قدرت غالب بر حوزههای خاص صادق است. برنامهنویسان، مهندسان و دانشمندان کامپیوتر، دائماً تصمیماتی میگیرند که بر نحوه ارتباط مردم، اطلاعات در دسترس آنها، نحوه خرید محصولات و شیوه عملکرد دموکراسی تأثیر میگذارد. انتخابهای کمی از آنها تحت نظارت دولتی دقیق قرار دارند، زیرا اخیراً بسیاری از کشورها نسبت به نوآوری فناوری بخش خصوصی موضع بیطرفی داشتهاند.
با این حال، اکنون بحثهای شدیدی در مورد اینکه آیا کشورها باید نسبت به فناوریهای جدید موضع بیطرفی حفظ کنند، وجود دارد. آیا باید سکوهای دیجیتالی برتر مشمول قوانین و مقررات دولتی شوند، مشابه با نحوه برخورد با شرکتها در سایر بخشها؟ آیا شرکتهای خصوصی باید استقلال قابل توجهی که اکنون دارند، حفظ کنند؟ تا چه حد باید نگرانیهای عمومی بر رویههای شرکتی محدودیت ایجاد کنند؟
با پیشرفت هوش مصنوعی، این نوع مسائل حکمرانی باید حل و فصل شوند. با تسریع نوآوری فناوری، مردم باید تعیین کنند که چه کسی قوانین اجتماعی را تعیین میکند و آیا قانونگذاران، مقامات نظارتی و مصرفکنندگان باید موضعگیریهای مثبتتری در مورد نحوه تأثیر فناوری بر افراد فردی و رفاه اجتماعی داشته باشند. همانطور که برد اسمیت، رئیس مایکروسافت، در کتاب خود با کارول آن برون اشاره میکند، «به جای نگرانی بیش از حد در مورد خطرات تنظیم مقررات بیش از حد، بخش فناوری اطلاعات بهتر است با فکر کردن در مورد اینکه چه شکلی از تنظیم مقررات هوشمند باید باشد، خدمت بهتری انجام دهد.»
اخلاق و شفافیت
الگوریتمها انتخابهای ارزشی را در طراحی برنامه تعبیه میکنند و بنابراین سوالاتی را در مورد معیارهای استفاده شده در تصمیمگیری خودکار مطرح میکنند. سوزان اتلینگر از گروه آلتیمتر این نکته را مورد توجه قرار داده است که «الگوریتمها خنثی نیستند؛ آنها تعصب و اطلاعات نادرست را تکرار و تقویت میکنند.» با توجه به این وضعیت، داشتن درک بهتری از نحوه عملکرد نرمافزار و انتخابهایی که انجام میشوند، مهم است.
بسته به نحوه تنظیم سیستمهای هوش مصنوعی، آنها میتوانند در خطکشی قرمز درخواستهای وام مسکن، کمک به افراد برای تبعیض علیه افرادی که دوست ندارند، و اجازه دادن به رتبهبندی اعتبار افراد بر اساس معیارهای ناعادلانه کمک کنند. نوع ملاحظاتی که در تصمیمگیری برنامهنویسی وارد میشوند، در نحوه عملکرد سازمانها و شیوهای که نرمافزار بر مشتریان تأثیر میگذارد، بسیار مهم است.
داشتن دادههایی که «برای بررسی در دسترس» در جامعه تحقیقاتی باشند، میتوانند ویژگیهای مشکلساز را شناسایی کرده و منجر به نرمافزاری شوند که قابل اعتماد بوده و خدمت به خیر عمومی کند. بر اساس یک مطالعه از مؤسسه جهانی مکینزی، کشورهایی که منابع دادههای باز و به اشتراکگذاری دادهها را ترویج میکنند، بیشترین احتمال را برای پیشرفت هوش مصنوعی دارند. در این رابطه، ایالات متحده برتری قابل توجهی نسبت به سایر کشورها دارد. رتبهبندیهای جهانی در مورد باز بودن دادهها نشان میدهد که ایالات متحده در مجموع در جهان رتبه 8 را دارد، در مقایسه با رتبه 93 برای چین.
تعصبات در دادهها و الگوریتمها
در برخی موارد، سیستمهای خاص هوش مصنوعی باعث شدهاند که اقدامات تبعیضآمیز یا مغرضانه انجام شود. برای مثال، از هوش مصنوعیrbnb به دلیل داشتن مالکانی در پلتفرم خود که علیه اقلیتهای نژادی تبعیض میکنند، انتقاد شده است. یک پروژه تحقیقاتی که بوسیله دانشمندان در مدرسه کسبوکار هاروارد انجام شد، نشان داد که «کاربران هوش مصنوعیrbnb با نامهای به وضوح آفریقایی-آمریکایی تقریباً 16 درصد کمتر احتمال داشتند به عنوان مهمان پذیرفته شوند تا کسانی که نامهای به وضوح سفید داشتند.» این نشان میدهد چگونه تعصب میتواند بر سکوهای دیجیتال تأثیر بگذارد و اقدامات تبعیضآمیز را از طرف کاربران آنلاین ممکن سازد.
مسائل تبعیض نژادی همچنین در مورد نرمافزار تشخیص چهره مطرح شده است. بیشتر این سیستمها با مقایسه چهره فرد با تصاویر موجود در یک پایگاه داده عمل میکنند. همانطور که توسط جوی بولاموینی از لیگ عدالت الگوریتمی اشاره شده است، «اگر دادههای تشخیص چهره شما بیشتر شامل چهرههای کوکازیایی باشد، همین چیزی است که برنامه شما یاد میگیرد تشخیص دهد.» مگر اینکه پایگاههای داده به دادههای متنوع دسترسی داشته باشند، این برنامهها هنگام تلاش برای شناسایی ویژگیهای آفریقایی-آمریکایی یا آسیایی-آمریکایی عملکرد ضعیفی دارند.
یک مطالعه تحقیقاتی که توسط مؤسسه ملی استانداردها و فناوری ایالات متحده انجام شده است، نشان داده است که «اکثریت سیستمهای تشخیص چهره تجاری دارای تعصب هستند.» با بررسی تفاوتها بر اساس نژاد، جنسیت و سن، تحلیلگران کشف کردند که الگوریتمها چهرههای آفریقایی-آمریکایی و آسیایی-آمریکایی را «10 تا 100 برابر بیشتر از چهرههای کوکازیایی» به اشتباه شناسایی کردند، خطاهای بیشتری برای زنان نسبت به مردان داشتند و «بزرگسالان مسن را تا 10 برابر بیشتر نسبت به بزرگسالان میانسال به اشتباه شناسایی کردند.»
مشکل نادرست بودن بازتاب دهنده این واقعیت است که بسیاری از مجموعههای دادههای تاریخی اغلب تنوع جمعیتی کنونی را نمایش نمیدهند. همانطور که بولاموینی اشاره میکند، چنین رویکردی خطر تکرار نابرابریهای گذشته را دارد: «افزایش خودکارسازی و اتکا بیشتر بر الگوریتمها برای تصمیمگیریهای پراهمیت مانند اینکه آیا کسی بیمه میگیرد یا نه، احتمال پیشفرض در وام یا خطر بروز جرم فرد به این معنی است که این مسئله نیاز به رسیدگی دارد. حتی تصمیمات پذیرش نیز به طور فزایندهای خودکار شدهاند – اینکه فرزندان ما به کدام مدرسه میروند و چه فرصتهایی دارند. ما نیازی نداریم که نابرابریهای ساختاری گذشته را به آیندهای که میسازیم وارد کنیم.»
حریم خصوصی و امنیت سایبری
با اینکه فعالیتهای انسانی به فضای آنلاین منتقل میشوند، شرکتها در حال جمعآوری اطلاعات فوقالعادهای در مورد مصرفکنندگان هستند که سوالات مهمی را در مورد نحوه حفظ حریم خصوصی فردی ایجاد میکند. مردم نگران هستند که شرکتها و شرکتهای خارجی اطلاعات محرمانه زیادی دارند، مواد در معرض خطر هک شدن هستند و سازمانها از این دادهها برای اهداف خود مانند تبلیغات، بازاریابی، تجارت الکترونیکی، ترغیب سیاسی یا نظارت عمومی استفاده میکنند.
برای مثال، Axios در سال 2019 یک سری مقالاتی در مورد اطلاعاتی که شرکتهای مختلف در مورد کاربران آنلاین خود میدانند، منتشر کرد. گزارشگران اطلاعاتی را که به طور معمول توسط شرکتهایی مانند آمازون، گوگل، فیسبوک، تسلا، بیمارستانها و اینترنت به طور کلی جمعآوری میشوند، در بر گرفتند. هنگامی که این اطلاعات در هر یک از این حوزهها نمایش داده میشود، دامنه جمعآوری دادهها بسیار خارقالعاده است.
برای آمازون، لیست شامل موارد زیر است: § “هر چیزی که شما [در Amazon.com] خریدهاید، به علاوه چیزهایی که فقط در سبد خرید خود قرار دادهاید، یا جستجو کردهاید، یا به لیست آرزوهای خود اضافه کردهاید. و همه آدرسهای شما، و نامها و آدرسهای هر کسی که شما تا به حال چیزی برای او فرستادهاید.
تمام کتابهایی که خواندهاید [از طریق کیندل یا آدیبل]، به علاوه تا چه میزانی از کتاب پیش رفتهاید. آمازون همچنین میداند که کدام کتابها را مرور یا نمونهبرداری کردهاید، و چه بخشهایی را در کیندل برجسته کردهاید. § چیزهایی که تماشا کردهاید، جستجو کردهاید و مرور کردهاید [در پرایم ویدیو]. چیزهایی که تماشا کردهاید، جستجو کردهاید و مرور کردهاید [در توییچ]. § برای مشتریانی که طرح ضبط پرداختی دارند [از طریق رینگ]، آمازون ویدیوها را برای 30 تا 120 روز بسته به موقعیت ذخیره میکند، یا تا زمانی که یک مشتری به صورت دستی ویدیو را حذف کند. § اگر در اینجا خرید میکنید [در وول فودز]، آمازون لیست خرید مواد غذایی شما را میداند. § الکسا همه چیزهایی را که از آن میپرسید میداند.»
برای گوگل، اطلاعات بسیار گستردهای وجود دارد: § “عباراتی که برای جستجو استفاده میکنید. § ویدیوهایی که تماشا میکنید. § اطلاعات صوتی و صدا زمانی که از ویژگیهای صوتی استفاده میکنید.
- فعالیت خرید. § افرادی که با آنها ارتباط برقرار میکنید یا محتوا را به اشتراک میگذارید. § فعالیت در سایتها و برنامههای شخص ثالث که از خدمات گوگل استفاده میکنند. § تبلیغات و محتوایی که در سایتهای گوگل مشاهده میکنید، همچنین تعاملات با آن محتوا. § تاریخچه مرورگر کروم که با حساب گوگل خود همگامسازی کردهاید. § دادههای مکانی، که گوگل میتواند به طور مستقیم از طریق دادههای GPS جمعآوری کند یا از سنسورهای دیگر و دادهها، از جمله آدرسهای IP، روترهای Wi-Fi نزدیک، و بیکنهای بلوتوث، استنباط کند.»
فیسبوک نیز مقادیر قابل توجهی مواد را جمعآوری میکند: § “زمانی که حسابی ایجاد میکنید، فیسبوک نام و تاریخ تولد شما را درخواست میکند، به همراه شماره تلفن یا ایمیل. § سپس تمام اطلاعاتی که به فیسبوک میدهید زمانی که پروفایل خود را پر میکنید، که ممکن است شامل مدارس، شغلهای کنونی و گذشته، وضعیت رابطه، شهر محل تولد و شهر کنونی، همچنین آدرس فیزیکی، نام تولد، وبسایت و سایر لینکهای اجتماعی باشد.
- وقتی وارد سیستم میشوید، چه مدت آنلاین میمانید و از کجا وارد میشوید – بنابراین میتواند شما را در شهرهای جدید خوش آمد بگوید و مکانهایی برای بازدید و خوردن پیشنهاد دهد (و همچنین تبلیغات محلی را ارائه دهد). § مکانهایی که در آنها چک این میکنید. § صفحات، حسابها و هشتگهایی که در فیسبوک با آنها ارتباط برقرار میکنید – و نه فقط با چه کسانی ارتباط دارید، بلکه چقدر طولانی تعامل دارید و چه مدت زمانی. § مخاطبین شما، اگر تصمیم بگیرید دفترچه تلفن یا تاریخچه تماس خود را آپلود کنید. § چیزهایی که مستقیماً از طریق فیسبوک خریداری میکنید، اما همچنین چیزهایی که ممکن است به آن فکر نکنید، مانند متادادههای موجود در عکسهایی که آپلود میکنید. § دوستان شما میتوانند شما را در پستها و عکسها تگ کنند که اطلاعات بیشتری به فیسبوک میدهد. § مسنجر میتواند اطلاعاتی در مورد با چه کسی صحبت میکنید، چقدر اغلب و چه مدت زمانی جمعآوری کند، همچنین تاریخچه تماس اگر کاربران تصمیم به اشتراکگذاری داشته باشند. § فیسبوک ابزارهایی دارد که وبسایتهای شریک برای ادغام با فیسبوک استفاده میکنند، از جمله وجود دکمههای ‘Like’ و ‘Share’، همچنین یک کوکی ردیابی به نام Facebook Pixel.
- فیسبوک موقعیت شما را میداند، حتی اگر به طور مستقیم به آن اجازه دسترسی به GPS تلفن شما را نداده باشید، با ردیابی آدرس IP تلفنها، کامپیوترها و دیگر دستگاههایی که شما برای دسترسی به سرورهای آن استفاده میکنید. § فیسبوک همچنین حق خود را برای افزایش دادههای خود با اضافه کردن اطلاعات از ارائهدهندگان خارجی محفوظ میداند.
تسلا (و سایر شرکتهای خودروسازی) مقدار زیادی مواد را از طریق خودروهای خود جمعآوری میکند: § “سرعت، میلیج و زمان و مکان شارژ باتری شما را میداند. § همچنین انفجار کیسههای هوا، ترمز و شتاب را نظارت میکند، که در تحقیقات تصادف کمک میکند. § و میداند چه زمانی Autopilot، ویژگی رانندگی کمکی تسلا، فعال یا غیرفعال شده است، و آیا دستان شما بر روی فرمان است همانطور که باید باشد. § تسلاها به طور مداوم در حالت ضبط هستند، از دوربینها و سایر حسگرها برای ثبت هر جزئیاتی که هنگام رانندگی با آنها مواجه میشوند استفاده میکنند، حتی زمانی که Autopilot خاموش است.
- این شامل کلیپهای ویدئویی کوتاه از دوربینهای خارجی خودرو برای یادگیری نحوه تشخیص خطوط مسیر، علائم خیابان و موقعیت چراغهای راهنمایی است.
بیمارستانها پایگاههای دادههای دقیقی را در مورد علائم پزشکی، سلامتی روانی، درمانها، ادعاهای بیمه و نسخههای پزشکی حفظ میکنند. § “سوابق پزشکی اطلاعات بیشتری از آنچه بیشتر مردم ممکن است تصور کنند، در خود جای دادهاند. § آنها شامل تمام موارد واضح هستند: قد، وزن و سن؛ هر وقت ملاقات، نشانههای حیاتی، آزمایش حساسیت، جراحی، روش و اسکن؛ و هر داروی تجویزی که مصرف میکنید، یا در گذشته مصرف کردهاید. § هر چیز دیگری که شما، خانوادهتان یا دوستانتان به پزشکان افشا میکنند نیز ثبت میشود. این میتواند شامل توصیف عادتهای نوشیدنی شما، پذیرش مسئولیت در یک تصادف رانندگی، به اشتراک گذاشتن مشکلات زناشویی، یا حتی فرستادن یک کارت کریسمس باشد. § هر چیزی که به آنها میگویید ممکن است در پرونده شما قرار گیرد.”
اینترنت حاوی گنجینهای عظیم از اطلاعات از طریق موتورهای جستجو، جمعآورندگان داده و سایتهای یافتن افراد است: § “آدرس منزل § شمارههای تلفن § اطلاعات وسیله نقلیه § سوابق دادگاه (مانند ازدواج، طلاق یا سوابق بازداشت) § محدوده درآمد § وابستگیهای سیاسی § خویشاوندان (بر اساس نامهای خانوادگی مشترک) و اطلاعات آنها § همخانهها (بر اساس آدرسهای مشترک) و اطلاعات آنها”
فهرست شرکتها میتواند شامل بانکها، شرکتهای کارت اعتباری، سایتهای تجارت الکترونیک، شرکتهای مسافرتی، هتلها، رستورانها، ایرلاینها، سایتهای رسانهای، مدارس، دانشگاهها، ارائهدهندگان خدمات بهداشتی، سازمانهای دولتی و مانند آنها باشد. اما نکته واضح است: در جهانی که تحت سلطه هوش مصنوعی و تحلیل دادهها قرار دارد و با تعداد زیادی فعالیتهای آنلاین مردم، امکان نقض حریم خصوصی، سوءاستفاده از دادهها، حملات سایبری و تبعیض یا تعصب آشکار بسیار بالاست. چگونگی مقابله با این مسائل یک چالش بزرگ برای مصرفکنندگان، کسبوکارها و مقامات دولتی است.
کاربردهای توهینآمیز
تبعیض و نقض حریم خصوصی تنها خطرات در دنیای دیجیتال نیستند. «جعل های عمیق (=دیپفیکها)» وجود دارند، ویدئوها یا مواد دیجیتال مصنوعی که بوسیله کامپیوتر ایجاد شدهاند و افراد شناخته شده را در حال گفتن یا انجام دادن چیزی بسیار توهینآمیز نشان میدهند که هرگز واقعاً اتفاق نیفتاده است. این میتواند شامل سیاستمداران برجستهای باشد که به نظر میرسد علل یا افرادی را تأیید میکنند، حتی اگر این کار را نکرده باشند، یا رهبران تجاری در موقعیتهای تناقضآمیز که در واقع جعلی یا نادرست هستند.
یک طراح هوش مصنوعی به نام **** هنگامی که اپلیکیشنی به نام **** را طراحی کرد که میتوانست «زنان را در عکسها به صورت دیجیتالی برهنه کند»، نگرانی شدیدی ایجاد کرد. این نرمافزار «از هوش مصنوعی برای ایجاد تصاویر دیپفیک استفاده میکرد و تقریبهای واقعگرایانهای از آنچه یک زن – که برای کار بر روی مردان طراحی نشده بود – بدون لباسهای خود به نظر میرسید ارائه میداد.» تصاویر به قدری واقعگرایانه بودند که برای بسیاری از بینندگان واقعی به نظر میرسیدند. واکنش شدیدی که از این برنامه ایجاد شد به حدی بود که وی اپلیکیشن را چند روز پس از شروع به فروش آن با قیمت 50 دلار برداشت.
این نوع اختراعات نشان میدهند که فناوری چقدر پیشرفت کرده است و چه خطرات اخلاقی وجود دارند. امکان توسعه هوش مصنوعی که بسیار توهینآمیز و سوءاستفادهگر است، از طریق نرمافزارهای کنونی وجود دارد. این سیستمها خیلی فراتر از آنچه تقریباً همه مردم آن را مشروع تلقی میکنند میروند، اما تحت بیشتر قوانین فعلی کاملاً قانونی است.
یکی از اولین ایالتهایی که مشکلات این نوع تصاویر تولید شده توسط هوش مصنوعی را شناسایی کرد، ویرجینیا است. در سال 2019، این ایالت قانونی را به تصویب رساند که توزیع تصاویر ویدئویی یا عکسهای جعلی برهنه از افراد واقعی بدون رضایت آنها را غیرقانونی اعلام کرد. امید بر این بود که جریمههای روشن باعث کاهش رفتارهای شرورانه یا سوء استفادهگرانه از طریق فناوری مجازی شود. حوزههای قضایی دیگر نیز در حال بررسی قانونگذاری مشابه برای اعمال جریمهها بر کسانی هستند که این نوع تصاویر دیجیتال سوءاستفادهگرانه را منتقل میکنند.
مسئولیت حقوقی
در دنیای جدیداً ظهور یافته هوش مصنوعی، سوالاتی در مورد مسئولیت حقوقی نرمافزارها وجود دارد. اگر آسیبها یا تخلفاتی (یا در مورد خودروهای بدون راننده، تلفات) رخ دهد، اپراتورهای الگوریتم احتمالاً تحت قوانین مسئولیت محصول قرار خواهند گرفت. یک سری از قوانین پرونده از واقعیتها و شرایط موقعیت برای تعیین مسئولیت استفاده میکند و اینها بر نوع جریمههایی که وضع میشوند تأثیر میگذارد، از جریمههای مدنی گرفته تا حبس برای آسیبهای اصلی.
برای مثال، یک مورد مرگ مرتبط با اوبر در آریزونا نمونه مهمی برای مسئولیت حقوقی است. ایالت آریزونا فعالانه اوبر را برای آزمایش وسایل نقلیه خودران خود جذب کرد و اختیارات قابل توجهی را در آزمایش روی جاده به این شرکت داد. با این حال، در مورد تصادفات، مشخص نیست که چه کسی مورد شکایت قرار میگیرد: راننده پشتیبان انسانی، ایالت آریزونا، حومه فینیکس که تصادف در آنجا رخ داد، اوبر، توسعهدهندگان نرمافزار، متخصصان تحلیل دادهها، یا سازنده خودرو. با توجه به تعداد زیاد افراد و سازمانهای درگیر در وسایل نقلیه خودران، سوالات حقوقی بسیاری برای حل کردن در مورد آسیبهای رهبری شده توسط هوش مصنوعی وجود دارد.
در بسیاری از زمینهها، سکوهای دیجیتال به دلیل مقررات قانون مخابرات 1996، مسئولیت محدودی برای اتفاقاتی که در سایتهای آنها رخ میدهد دارند. این قانون برجسته، که خیلی قبل از رشد اینترنت، تلفنهای همراه و سکوهای دیجیتال تصویب شده بود، محدودیتهای عمدهای را بر توانایی مصرفکنندگان برای شکایت از شرکتهای اینترنتی بر اساس اتفاقاتی که در سکوهای آنها رخ میدهد، اعمال کرد. ایده این بود که شرکتها در بخش نوپا نباید مسئول اعمال دیگران در سایتهای خود باشند. امید بر این بود که این آزادی نوآوری را تشویق کند و محصولات و خدمات مفیدی ارائه دهد.
از آن زمان، برخی از شرکتهای دیجیتال محدودیتهای اضافی را بر توانایی افراد برای شکایت اعمال کردهاند. برای مثال، هوش مصنوعیrbnb «از افراد میخواهد که با انصراف از حق شکایت کردن، یا پیوستن به هر نوع دعوی دادگاه گروهی یا داوری گروهی، برای استفاده از سرویس خود موافقت کنند.» با این که از کاربران خود میخواهد حقوق قانونی خود را فدا کنند، این شرکت حفاظتهای مصرفکننده را محدود میکند و بنابراین توانایی مردم برای مبارزه با تبعیض یا سایر مشکلات ناشی از الگوریتمهای ناعادلانه را کاهش میدهد.
ملاحظات ژئوپلیتیکی
بحثها در مورد آینده هوش مصنوعی در یک چشمانداز سریعاً در حال تغییر در حال انجام است. همزمان با تغییر روابط منطقهای، تعدادی از کشورها در حال سرمایهگذاری در هوش مصنوعی، یادگیری ماشین و تحلیل دادهها هستند با امید به کسب مزایایی در توسعه اقتصادی، رقابت بینالمللی و امنیت ملی. همچنین همهگیریها، سطوح بالای نابرابری، تغییرات آب و هوایی، تغییرات جمعیتی و جابجایی مردم به مناطق شهری وجود دارند، همه اینها تأثیر بر نحوه استفاده و دیدگاه عمومی نسبت به هوش مصنوعی دارند.
تولید ناخالص داخلی حاصل از هوش مصنوعی 15.7 تریلیون دلار
در میان این توسعههای مقیاس بزرگ، یک پروژه تحقیقاتی که توسط پرایسواترهاوسکوپرز انجام شد، تخمین زد که «فناوریهای هوش مصنوعی میتوانند تولید ناخالص داخلی جهانی را تا 15.7 تریلیون دلار، معادل 14٪، تا سال 2030 افزایش دهند.» اما این سودها به طور یکنواخت در سراسر جهان پخش نمیشوند و احتمالاً نابرابری را افزایش میدهند. گزارش توجه دارد که بهبودها شامل 7 تریلیون دلار برای چین، 3.7 تریلیون دلار در آمریکای شمالی، 1.8 تریلیون دلار در شمال اروپا، 1.2 تریلیون دلار برای آفریقا و اقیانوسیه، 0.9 تریلیون دلار در بقیه آسیا خارج از چین، 0.7 تریلیون دلار در جنوب اروپا و 0.5 تریلیون دلار در آمریکای لاتین است.
سرمایه گذاری فرانسه در هوش مصنوعی در صنایع دفاعی به میزان 1.83 میلیارد دلار
برای حداکثر کردن پتانسیل رشد، چندین کشور در حال انجام سرمایهگذاریهای قابل توجه هستند. فلورانس پارلی، وزیر ارتش فرانسه، در سال 2019 اعلام کرد که کشورش سرمایهگذاری دفاعی هوش مصنوعی خود را تا سال 2022 به 1.5 میلیارد یورو (حدود 1.83 میلیارد دلار آمریکا) افزایش میدهد. این کشور امیدوار است الگوریتمهایی را توسعه دهد که قادر به انجام «جنگ الکترونیک و جمعآوری اطلاعات؛ شناسایی خودکار تصویر؛ جنگ همکاری روی زمین و در هوا؛ رباتهای ناوبری خودکار؛ امنیت سایبری؛ نگهداری پیشبینی تجهیزات؛ جنگ ضد مین؛ و پشتیبانی تصمیم و فرماندهی» باشند.
سرمایه گذاری آلمان در کاربردهای صنعتی هوش مصنوعی به میزان 3.66 میلیارد دلار
در همین حال، آلمان در حال سرمایهگذاری 3 میلیارد یورو (یا 3.66 میلیارد دلار آمریکا) در هوش مصنوعی است که بر کاربردهای صنعتی متمرکز است. این کشور به دنبال استفاده از قدرت خود در تولید و تجارت برای توسعه سیستمهای مبتنی بر هوش مصنوعی است که کارایی و سرعت عملیات را بهبود میبخشند. آلمان برنامهریزی کرده است تا مقررات را سست کرده و دادههایی را فراهم کند که به محققان و کسبوکارها در توسعه برنامههای جدید کمک کند. این کشور فرصتهایی را برای تقویت تولید هوشمند و شرکتهای خودروسازی، در میان سایر بخشها، میبیند.
سرمایه گذاری انگلیس در هوش مصنوعی صنایع دفاعی و بخش خصوصی به میزان 196 میلیون دلار
بریتانیا یک صندوق دفاعی 160 میلیون پوندی (حدود 196 میلیون دلار آمریکا) تأسیس کرده است که بودجه برنامههای جدید در «تهدیدات زیرسطحی زیردریایی، قابلیتهای نظارت و شناسایی، و فرماندهی و کنترل در عملیات زمینی» را تأمین میکند. بخش خصوصی آن نیز به طور گستردهای در فناوریهای بهداشتی و پزشکی سرمایهگذاری میکند. بر اساس مؤسسه جهانی مکینزی، بریتانیاییها به دنبال «پژوهشهای پزشکی بهتر و بهبود تشخیص، پیشگیری و درمان بیماریها» هستند.
سرمایه گذاری رژیم صهیونیستی در هوش مصنوعی
{به باور نویسندگان این کتاب در سال 2020} رژیم صهیونیستی به یک رهبر جهانی در امنیت سایبری و تجهیزات نظارتی تبدیل شده است. این کشور راهحلهای هوش مصنوعی را توسعه داده است که دادهها را یکپارچه سازی کرده، بینایی کامپیوتری را اعمال کرده، دادههای تصویربرداری ماهوارهای را یکپارچه سازی کرده و این مواد را به صورت زمان واقعی ارزیابی میکند. علاوه بر این، رژیم صهیونیستی در فناوری پیشرفته برای وسایل نقلیه خودران، فناوری اطلاعات بهداشتی و پایداری محیط زیست پیشتاز است.
سرمایه گذاری هند در هوش مصنوعی برای توسعه اقتصادی
هند در امید به پیشبرد توسعه اقتصادی خود، هوش مصنوعی را در اولویت قرار میدهد. یک برنامه استراتژیک تدوین شده از سوی National Institution for Transforming India (NITI) Aayog think tank به این نتیجه رسید که این کشور باید بر بهداشت، آموزش، کشاورزی، شهرهای هوشمند و حمل و نقل متمرکز شود. بر اساس برنامهریزان، این حوزهها پتانسیل «تأثیر اجتماعی بالا» داشتند و بنابراین سزاوار سرمایهگذاری ملی بودند.
سرمایه گذاری روسیه در هوش مصنوعی
روسیه بخش داخلی زیادی در هوش مصنوعی ندارد و محققان آن را «در رتبه 20 جهان از نظر تعداد استارتاپهای هوش مصنوعی» قرار دادهاند، که این امر چشمانداز رشد آن را محدود میکند. با این حال، دولت به دنبال غلبه بر این کمبودها است. در بحث در مورد فناوری، رئیسجمهور پوتین توجه داشت که «هوش مصنوعی آینده نه تنها برای روسیه بلکه برای تمام بشریت است. … هر کسی که رهبر این حوزه شود، حاکم جهان خواهد شد.» برای پیشبرد توسعه خود در این زمینه، مقامات روسی «یک دستور کار 10 مادهای هوش مصنوعی منتشر کردهاند که خواستار تأسیس یک کنسرسیوم هوش مصنوعی و کلان داده، یک صندوق برای الگوریتمها و برنامههای تحلیلی، یک برنامه آموزشی و آموزشی هوش مصنوعی تحت حمایت دولت، یک آزمایشگاه اختصاصی هوش مصنوعی و یک مرکز ملی برای هوش مصنوعی است».
سرمایه گذاری چین در حوزه هوش مصنوعی
در همین حال، چین در حال سرمایهگذاری منابع عظیمی در هوش مصنوعی است. همانطور که نویسنده، کای-فو لی، اشاره کرده است، چین به دلیل تعیین هدف ملی برای تبدیل شدن به رهبر جهانی در این حوزه تا سال 2030، پیشرفتهای سریعی داشته است. با جمعیت بزرگ و محدودیتهای اندک حریم خصوصی، این کشور توانایی آموزش دادههای هوش مصنوعی در مقیاس وسیعی را دارد. این امر به آن امکان میدهد نوآوریها را به سرعت و به طور مؤثر، هم در امور داخلی و هم نظامی، مقیاسبندی کند. در سالهای اخیر، چین حمایت مالی خود از تحقیقات هوش مصنوعی افزایش داده است. برای مثال، در سال 2017، شورای دولتی چین یک طرح برای ساخت یک صنعت داخلی به ارزش تقریبا 150 میلیارد دلار آمریکا تا سال 2030 صادر کرد. شهرهایی مانند شنژن تا 1 میلیون دلار آمریکا برای حمایت از آزمایشگاههای هوش مصنوعی ارائه میدهند. چین امیدوار است که هوش مصنوعی در امنیت، مبارزه با تروریسم و بهبود برنامههای شناسایی گفتار کمک کند.
اینها حرکات بیهدف، از سوی چینیها نیستند. تفسیر سنتی که چین از نوآوری آمریکایی عقب است، باید با توجه به پیشرفتهای علمی اخیر بهروزرسانی شود. چین دومین استخر بزرگ استعدادهای هوش مصنوعی در جهان را دارد. در حالی که ایالات متحده 13.9 درصد از محققان هوش مصنوعی را دارد، چین اکنون 8.9 درصد را دارد. دانشمندان چینی نیز در دهه گذشته پیشرفتهای قابل توجهی در هوش مصنوعی داشتهاند. طبق گزارش سال 2018 دانشگاه تسینگهوا، «چین در مقالات هوش مصنوعی و مقالات هوش مصنوعی با استناد بالا در جهان پیشتاز است.» و دارای «پتنتهای بیشتری در هوش مصنوعی نسبت به ایالات متحده و ژاپن است.»
یک گزارش از مؤسسه فناوری اطلاعات و نوآوری، پیشرفتهای چین را مستند کرده است. محققان راب اتکینسون و کیلب فوت، سی و شش شاخص نوآوری علم و فناوری بین چین و ایالات متحده را بررسی کرده و یافتند که «در تمام شاخصها، چین شکاف را به حداقل رسانده یا در برخی موارد برتری خود را نسبت به ایالات متحده گسترش داده است.» برای مثال، آنها به سرمایهگذاریهای تحقیق و توسعه، توسعه نیروی کار، تعداد مقالات علمی، پتنتها، تجارت و تولید نگاه کردند و یافتند که چینیها در هر زمینه به سرعت پیشرفت کردهاند. چین دیگر کشوری نیست که برای موفقیت از محصولات دیگران کپی برداری کند؛ بلکه دارای نیروی کار ماهر با تخصص فناوری بزرگ است.
مطالعهای از مؤسسه جهانی مکینزی وجود دارد که بیان می کند «خودکارسازی رهبری شده توسط هوش مصنوعی میتواند به اقتصاد چین بهرهوری را تزریق کند که بسته به سرعت پذیرش، 0.8 تا 1.4 درصد امتیاز به رشد سالانه تولید ناخالص داخلی اضافه میکند.» با اینکه نویسندگان بر این باورند که در حال حاضر چین در استقرار هوش مصنوعی از ایالات متحده و بریتانیا عقب است، اما اندازه بزرگ بازار هوش مصنوعی چین به این کشور فرصتهای ارزشمندی برای آزمایشهای آزمایشی و توسعه آتی میدهد. به همراه ایالات متحده، ظرفیت بزرگی برای استقرار هوش مصنوعی دارد و به سرعت در بسیاری از جبههها پیش میرود.
کنترل انسانی
مسئله نهایی هوش مصنوعی در عصر تغییرات بزرگ، چگونگی حفظ کنترل انسانی در برابر فناوریهای دیجیتالی است که به سرعت در نیتداری، هوشمندی و قابلیت انطباق خود پیشرفت میکنند. فراتر از تمام مسائل حریم خصوصی، امنیت، عدالت و ژئوپلیتیک، نگرانی اساسی این است که جهان در یک نقطه عطف مهم قرار دارد که در آن ماشینها در توانایی تصمیمگیری خود بالا میروند و انسانها کنترل خود را از دست میدهند. با پیشرفت هوش مصنوعی، ترس این است که الگوریتمها تصمیمگیریهای زیادی انجام دهند که افراد توسط کد پنهان یا ناخوانا جایگزین شوند.
نویسنده یووال نوح هراری آن را به صورت بیپروا ترین از طریق یک معادله که به عنوان B C D = HH نامیده میشود، بیان میکند. از طریق این فرمولبندی ریاضی، او هشدار میدهد که «دانش بیولوژیکی ضرب در قدرت محاسباتی، ضرب در دادهها برابر با توانایی هک کردن انسانها است.» ترس او این است که «توانایی هک کردن انسانها: ایجاد یک الگوریتم که من را بهتر از خودم میفهمد و بنابراین میتواند من را دستکاری کند، بهبود بخشد یا جایگزین کند. و این چیزی است که بار فلسفی ما و تمام باورهایمان به، میدانید، اقتدار انسانی و اراده آزاد، و مشتری همیشه حق دارد، و رأیدهنده بهترین است، فقط فرو میریزد وقتی چنین تواناییای دارید».
نکته مترجم: این نکات از سوی متخصصان مورد نقد قرار گرفته است
با توجه به این نوع نگرانیها، مهم است که به موارد عینی استقرار هوش مصنوعی بپردازیم تا ببینیم آیا امکان حفظ استقلال انسانی در دوره معاصر وجود دارد یا خیر. ما در فصلهای آتی به تفصیل در مورد ارزیابی خود از فرصتها و خطرات فناوریهای اطلاعات بهداشتی، هوش مصنوعی برای مدرسه، وسایل نقلیه خودران، تجارت الکترونیکی و سیستمهای سلاح خودکار توضیح خواهیم داد. مشکلات حکمرانی و اخلاقی از بخشی به بخش دیگر متفاوت است، بنابراین مهم است که خصوصیات هر کاربرد را درک کنیم.
اما یک نکته حیاتی که باید در تمام این حوزهها به یاد داشت، این است که راههای خاصی وجود دارد که افراد میتوانند کنترل را حفظ کنند و احتمالاً در آینده نیز این کار را انجام خواهند داد. این شامل تصمیمات سیاستگذاری، اقدامات نظارتی، مسئولیت قانونی، خودکنترلی شرکتها و نظر عمومی که خواهان تدابیر ایمنی معقول است، میشود. اگر از ابزارهای سیاستگذاری، قانونی، نظارتی، خودنظارتی و مصرفکننده استفاده کنیم، دلیل کمی برای ترس از فناوریهایی که با سرعت کامل پیش میروند، وجود ندارد. در نهایت، وقتی HAL در 2001: A Space Odyssey به یک قاتل تبدیل شد، دیو او را غیرفعال کرد. حتی با وجود ابررایانه های قدرتمند، انسانها راههای بسیاری برای کنترل فناوری دارند. وظیفه ما این است که درک کنیم چگونه میتوانیم از مزایای دیجیتال بهرهمند شویم در حالی که ویژگیهای مضر، تبعیضآمیز یا خطرناک هوش مصنوعی را به حداقل برسانیم.
دیدگاهتان را بنویسید