[ad_1]

ما هرگز یک شبه از شر همه تعصبات خلاص نخواهیم شد. اما ما می توانیم میراثی را در هوش مصنوعی منتقل کنیم که از گذشته به اندازه کافی آگاه باشد و جامعه ای عادلانه و منصفانه را ارتقا دهد.

Enterprise AI به طور سنتی تمام داده ها را به عنوان داده های خوب تلقی می کند. اما این همیشه درست نیست. در حالی که سرمایه گذاران از طریق IPO و استراتژی های فناوری فکر می کنند ، ما باید بی عدالتی ذاتی هوش مصنوعی را جدی بگیریم.

هوش مصنوعی از انبوه داده های موجود از طریق شبکه های اجتماعی ، تلفن های هوشمند و سایر فناوری های آنلاین بسیار بهره می برد. توانایی ما در بازیابی ، ذخیره و محاسبه داده ها – به ویژه داده های غیر ساختاری – تغییر در بازی است. جستجوها ، کلیک ها ، عکس ها ، فیلم ها و سایر دستگاه های آموزش داده برای یادگیری نحوه توجه ، کسب دانش ، هزینه و سرمایه گذاری ، بازی های ویدیویی و بیان روش های دیگر توسط مردم.

تصویر: momius - stock.adobe.com

تصویر: momius – stock.adobe.com

هر جنبه از تجربه فناوری دارای یک م componentلفه تعصب است. جوامع به دلیل سنت و تاریخ محلی ، کنار گذاشتن دیگران را مسلم می دانند. میراث نژادپرستی ساختاری خیلی زیر سطح سیاست ، امور مالی و املاک و مستغلات نیست. هرگز تعصب را احساس یا رعایت نکنید ، اگر حتی ممکن است ، این خود نوعی امتیاز است. بیایید چنین تعصبی ، بیایید آن را نژادپرستی بنامیم ، اجتناب ناپذیر است.

برای از بین بردن تعصبات آشکار بیش از 70 سال قوانین وجود داشته است. قانون فرصت برابر وام در سال 1974 و قانون مسکن عادلانه در سال 1968 برای اطمینان از دسترسی و فرصت های برابر برای همه آمریکایی ها اساسی است. از نظر تئوری ، فناوری باید برابری را افزایش دهد ، زیرا برنامه و الگوریتم ها کور رنگ هستند.

تقریباً 7 میلیون رهن 30 ساله که توسط دانشگاه کالیفرنیا ، برکلی تجزیه و تحلیل شد ، نشان داد که وام گیرندگان لاتینکس و آفریقایی-آمریکایی به دلیل تبعیض ، به ترتیب 7.9 و 3.6 امتیاز پایه بیشتر در خرید خانه و بازپرداخت وام مسکن بهره بیشتری پرداخت می کنند. در حال حاضر ، تبعیض در مورد وام ها سالانه 765 میلیون دلار برای وام گیرندگان آفریقایی-آمریکایی و لاتینکس هزینه اضافی دارد.

الگوریتم های فین تک 40٪ کمتر از وام دهندگان رو در رو تبعیض قائل می شوند. Latinx و آمریکایی های آفریقایی تبار 5.3 امتیاز پایه برای وام های مسکن و 2.0 امتیاز پایه برای وام های بازپرداخت ایجاد شده در سیستم عامل های FinTech بیشتر پرداخت می کنند. علی رغم کاهش تبعیض ، یافته ای که حتی FinTech ها نیز تبعیض قائل می شوند مهم است

شخصی که از مدل های پیشرفته ریاضی برای جستجوی داده استفاده می کند ، داده ها و پیش بینی ها و توصیه هایی که AI ارائه می دهد ، مغرضانه است. نیکول ترنر لی ، از موسسه بروکینگز ، در تحقیقات خود دریافت که عدم تنوع نژادی و جنسی در برنامه نویسان طراحی کننده نمونه آموزش ، منجر به سوگیری شد.

سیب AI از درخت دور نمی شود

مدل های هوش مصنوعی در خدمات مالی عمدتا تصمیم گیری خودکار است ، جایی که داده های آموزش در زمینه الگوریتم تصمیم گیری مدیریت شده استفاده می شود. استفاده از داده های گذشته برای تصمیم گیری در آینده اغلب تعصب موجود را حفظ می کند.

در سال 2016 ، Microsoft Tay chatbot قول داد که مانند یک نوجوان لگن رفتار کند ، اما به سرعت یاد گرفت که سخنان نفرت انگیز نژادپرستانه را بیان کند. ترول های وب سایت شیوع زبان 4chan اندکی پس از راه اندازی چت بات ، پیام های نفرت انگیز نژادپرستانه ، زن ستیز و ضد یهود را پر از Tay کرد. هجوم دیدگاه chatbot در مورد جهان را تحریف کرد.

برچسب ها و برچسب های نژادپرستانه ، به عنوان مثال ، در پایگاه های اطلاعاتی عظیم با عکس AI وجود دارد. بولتن دانشمندان هسته ای اخیراً در مورد شرکت کنندگان مخربی که مجموعه داده های بیشتری را در آینده مسموم می کنند هشدار داده است. الگوریتم های نژادپرستانه سیستم های تشخیص چهره را که مجبور به شناسایی مجرمان بودند ، بی اعتبار می کند. حتی اینترنت اشیا نیز از این مصونیت برخوردار نیست. گزارش شده است که یک دستگاه صابون دستی دیجیتال فقط روی دستهای سفید پاشیده می شود. سنسورهای آن هرگز برای پوست های تیره کالیبره نشده اند.

خبر خوب این است که ممکن است افراد سعی کنند مانع ورود بیش از حد سایر مواد نامناسب به هوش مصنوعی در افراد دیگر شوند. اکنون توسعه هوش مصنوعی بدون ایجاد موانعی برای جلوگیری از دستکاری این فناوری توسط بازیگران مخرب – نژادپرستان ، هکرها یا هر کس دیگر غیر واقعی است. با این حال ، ما می توانیم کارهای بیشتری انجام دهیم. به طور فعال ، توسعه دهندگان هوش مصنوعی می توانند با دانشمندان ، برنامه ریزان شهر ، فعالان جامعه و رهبران گروه های حاشیه ای صحبت کنند تا عدالت اجتماعی را در فن آوری های خود بگنجانند.

داده ها را مرور کنید

با استفاده از هر دو روش میان رشته ای برای بررسی داده ها با استفاده از معیارهای عدالت اجتماعی و نیز عقل سلیم ذهن بازتر برای حسابرسی مجموعه داده ها می توان عناصر نژادپرستی ظریف را در مجموعه داده های AI نشان داد. تغییر این داده ها می تواند تأثیر قابل توجهی داشته باشد: بهبود آموزش ، مراقبت های بهداشتی ، سطح درآمد ، پلیس ، مالکیت خانه ، فرصت های شغلی و سایر مزایای یک شرایط بازی برابر. این عناصر ممکن است برای توسعه دهندگان هوش مصنوعی ناخودآگاه باشد ، اما برای هر یک از جوامع خارج از زمینه توسعه دهندگان واضح است.

اعضای سیاه پوستان و سایر جوامع اقلیت ، از جمله کارگران هوش مصنوعی ، اکنون مشتاق بحث و گفتگو در مورد چنین موضوعاتی هستند. خبر بهتر این است که در میان افرادی که در این جوامع با آنها درگیر هستیم ، مشتریان بالقوه ای هستند که رشد را نشان می دهند.

تعصب انسانی است. اما ما می توانیم بهتر عمل کنیم

تلاش برای غلبه بر سوگیری در هوش مصنوعی یک کار احمقانه است زیرا مردم همیشه به نوعی مغرضانه عمل کرده اند. تعصب می تواند ابزاری برای بقا باشد ، نوعی یادگیری و قضاوت سریع بر اساس سابقه. تعصب در برابر حشرات ، حیوانات و مکان های خاص می تواند دانش عمیق عمومی را منعکس کند. متأسفانه ، تعصب همچنین می تواند داستان های نژادپرستانه را تقویت کند که به ازای حقوق بشر مردم ، از انسانیت خارج می شوند. آنهایی که می توانیم ریشه کن کنیم.

ما هرگز یک شبه از شر همه تعصبات خلاص نخواهیم شد. اما ما می توانیم میراثی را در هوش مصنوعی منتقل کنیم که از گذشته به اندازه کافی آگاه باشد و جامعه ای عادلانه و منصفانه را ارتقا دهد.

ایشان ماناکتالا در یک صندوق سهام خصوصی و یک شرکت عامل شریک است SymphonyAI نمونه کارها آنها شامل Symphony MediaAI ، Symphony AyasdiAI و Symphony RetailAI است. وی مدیر عامل سابق Markit و CoreOne Technologies است و در Deutsche Bank Ishan وی رئیس جهانی تجزیه و تحلیل برای بستر تجارت الکترونیکی است.

انجمن هفته اطلاعات متخصصان فناوری اطلاعات و متخصصان صنعت را با مشاوره ، آموزش و نظرات فناوری اطلاعات گرد هم آورده است. ما تلاش می کنیم تا رهبران فن آوری و متخصصان موضوع را برجسته کنیم و از دانش و تجربه آنها برای کمک به مخاطبان IT خود استفاده کنیم … رزومه کامل را مشاهده کنید

ما از نظرات شما در مورد این موضوع در کانال های رسانه های اجتماعی خود استقبال می کنیم [contact us directly] با س questionsالات در مورد سایت.

بینش بیشتر



[ad_2]

منبع: tasiveh-news.ir