وقتی پای سیاه و سفید به فناوری باز می‌شود/ تبعیض نژادی در دنیای تکنولوژی
تاریخ انتشار: ۵ شهریور ۱۳۹۹ | کد خبر: ۲۹۰۹۷۸۲۶
بسیاری از فناوری‌های امروزی مانند سیستم‌های تشخیص چهره و الگوریتم‌های هوش مصنوعی دچار سوگیری نژادی هستند. اگر این رفتارهای تبعیضی در دنیای فناوری به زودی حل نشود چالش‌های بسیاری را در آینده ایجاد خواهد کرد.
گروه دانشگاه خبرگزاری آنا-هانا حیدری؛ 100 سال قبل تبعیض نژادی در بسیاری از کشورهای جهان شایع بود، حال این نوع تفکر کمتر مورد پذیرش جوامع است؛ اگرچه بشر هنوز راه طولانی برای از بین بردن کامل تفکرات نژادپرستانه دارد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
برای مثال فناوری هوش مصنوعی چهره‌های افراد سیاه‌پوست را به درستی تشخیص نمی‌دهد. این امر باتوجه به گسترش روزافزون هوش مصنوعی در ابعاد مختلف زندگی بشر می‌تواند در آینده چالش‌های بسیاری را ایجاد کند. واقعیت عجیب نژادپرستی در دنیای فناوری نیاز به بررسی دقیقی دارد تا مشخص شود که منبع این سوگیری ابزارها و گجت‌ها چیست.
نژادپرستی در ابزارهای فناورانه
نمونه‌های بسیاری از تبعیض نژادی تکنولوژی در صنایع مختلف پیدا می‌شود. نرم‌افزارها و محصولاتی که به صورت روزانه استفاده می‌کنیم در خصوص نژاد پیش‌داورانه تصمیم‌گیری می‌کنند. حتی لوازم بهداشتی ساده نیز سوگیری نژادی دارند، برا مثال شیرها و ظرف مایع دستشویی اتوماتیک قادر به تشخیص پوست‌های تیره‌رنگ نیستند. به نظر می‌رسد در هنگام طراحی و ساخت این محصولات بهداشتی رایج به پوست‌های تیره‌تر توجهی نشده است.
سوگیری نژادی در دوربین‌ها نیز به چشم می‌خورد. فیلم‌های رنگی مخصوص دوربین‌های خانگی به نحوی طراحی شده بودند که افراد سفیدپوست را زیباتر نشان دهند. همراه این دوربین‌ها کارت‌های درجه‌بندی معروفی به نام کارت‌های شرلی وجود داشت که کیفیت تصاویر را تضمین می‌کرد. این کارت‌ها باعث می‌شد که تصاویر افراد با پوست‌های روشن جلوه زیباتری داشته باشد.
دوربین‌های امروزی نیز دست کمی از نمونه‌های قدیمی ندارند و حساسیت‌های نژادی در عملکرد آنها نیز دیده می‌شود. برای مثال برخی از دوربین‌های نیکون در هنگام عکسبرداری از افراد آسیایی خندان، پیام‌هایی از جمله «آیا کسی پلک زد؟» ارسال می‌کند. در واقع این پیام به چشمان بادامی و کشیده مردم برخی از کشورهای آسیایی اشاره دارد. در این دوربین‌ها همچنین فیلتری برای جذابیت بیشتر وجود دارد که با فعال کردن آن، پوست افراد روشن‌تر می‌شود تا زیباتر به نظر برسند.
الگوریتم‌های نژادپرست
سوگیری نژادی تنها به دوربین‌ها و شیرآلات اتوماتیک ختم نمی‌شود. تبعیض نژادی در الگوریتم‌ها و هوش مصنوعی نیز رویت می‌شود. فیس‌بوک، یوتیوب و گوگل با استفاده از الگوریتم‌ها اطلاعات که کاربران می‌بینند را کنترل می‌کنند. این الگوریتم‌ها حباب فیلتری ایجاد می‌کنند.
این امر بدین معناست که کاربر بیشتر اطلاعاتی را می‌بیند که مطابق میل‌اش باشد و به ندرت با اطلاعاتی روبه‌رو می‌شود که برخلاف نظرش باشد. درواقع حباب فیلتری براساس رفتارهای آنلاین قبلی کاربر ایجاد می‌شود. بدین ترتیب احتمال ارائه محتوای افراطی توسط الگوریتم‌ها به کاربران افزایش می‌یابد که این امر باعث ترویج دیدگاه‌های تبعیضی می‌شود.
خطوط قرمز یکی دیگر از مشکلات سوگیری نژادی در دنیای تکنولوژی است. در اپلیکیشن‌هایی مانند «پوکمن گو» یا الگوریتم‌های ارسال و دریافت مرسولات محله‌ها و مناطقی که تراکم جمعیتی اقلیت‌ها در آن زیاد است را به عنوان خطوط قرمز در نظر می‌گیرند که نمونه بارزی از تبعیض نژادی در فناوری‌های امروزی به شمار می‌رود.
وقتی هوش مصنوعی نژادپرست می‌شود
بارزترین و نگران‌کننده‌ترین سوگیری نژادی در هوش مصنوعی دیده می‌شود. باتوجه به گسترش این فناوری در تمام ابعاد زندگی بشر، تبعیض نژادی هوش مصنوعی می‌تواند باعث مشکلات بسیاری را در آینده ایجاد کند. سوگیری نژادی هوش مصنوعی در سیستم‌های تشخیص چهره به وضوح دیده می‌شود.
سیستم‌های تشخیص چهره قادر به تشخیص صورت افرادی که پوست‌های تیره‌تری دارند، نیست. وب‌کم‌ها نمی‌توانند صورت افراد غیرسفیدپوست را ردیابی کنند. ناگفته نماند یک بار هوش مصنوعی یک زوج آفریقایی آمریکایی را به عنوان «گوریل» برچسب‌گذاری کرده است. البته این تبعیض نژادی تنها در تشخیص چهره هوش مصنوعی نیست. به طور کلی یادگیری ماشینی استعداد شگرفی در بروز نتایج نژادپرستانه دارد.
نژادپرستی چگونه به دنیای فناوری راه یافته است؟
منشأ بسیاری از سوگیری‌های نژادی ابزارها، گجت‌ها و فناوری‌های امروزی بی‌توجهی انسان است. درواقع افرادی که این این ابزارها را می‌سازنند متهمان ردیف اول به شمار می‌رود. به نظر می‌رسد محققان و مهندسان در پروسه تربیت، کدنویسی و آموزش هوش مصنوعی فراموش می‌کنند که انسان‌هایی با رنگ پوست‌های تیره‌تر نیز در دنیا وجود دارند.
برای حل تبعیض نژادی در دنیای فناوری چه کاری باید انجام شود؟
گام اول در رفع سوگیری‌های نژادی ابزارها و فناوری‌ها آگاهی از وجود آن است. پژوهشگران و مهندسان در هنگام توسعه و تربیت هوش مصنوعی باید از پایگاه‌های اطلاعاتی وسیع‌تری استفاده کنند که شامل تمام نژادهای بشری از سیاه‌پوست و زردپوست گرفته تا سرخ‌پوست و سفیدپوست شود. رفع و حذف سوگیری‌های نژادی فعلی در دنیای فناوری می‌تواند مانع از وقوع چالش‌های نژادپرستانه در آینده شود.
انتهای پیام/4021/
منبع: آنا
کلیدواژه: نژادپرستی هوش مصنوعی یادگیری ماشینی الگوریتم تبعیض نژادی سیاه پوست آفریقایی آمریکایی دنیای فناوری تبعیض نژادی پوست های تیره الگوریتم ها تشخیص چهره هوش مصنوعی فناوری ها دوربین ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۲۹۰۹۷۸۲۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
اقدامی غیرقانونی علیه کسب‌وکارهای آنلاین ایرانی/ پای رانت به فضای مجازی کشیده شد!
نگار علی- تنها چند ماه تا دو ساله شدن فیلترینگ در ایران فاصله است. البته فیلترینگ در ابعادی گسترده که از واتساپ گرفته تا اینستاگرام و گوگل‌پلی را گردن زد؛ پیش از آن نیز بودند پلتفرم‌هایی که در بازه‌های زمانی قبل‌تر فیلتر شده بودند، از میان آنها می‌توان به توییتر، تلگرام و یوتیوب اشاره کرد، گویا موتور فیلترینگ در ایران به سرعت تولید پلتفرم‌های جدید، در حال کار است و یکی پس از دیگری به سینه آنها دست رد می‌زند.
کوچ اجباری کاربران ایرانیکاربران ایرانی همواره به‌اجبار در حال کوچ بودند؛ کوچ از لاین به وایبر، از وایبر به تلگرام، از تلگرام به واتساپ و حالا از واتساپ به پلتفرم‌های بومی. گفتنی است که در برهه‌ای از زمان و پس از فیلتر شدن پیام‌رسان تلگرام در ایران کاربران ایرانی به سمت اپلیکیشن‌هایی مانند تلگرام طلایی، هاتگرام و ویسپی نیز کوچ کردند که باعث شد برای مثال تلگرام طلایی بیش از ۳۰ میلیون کاربر را در مدت کوتاهی جذب کند.
آنچه از این کوچ اجباری نصیب کاربران شده است اما از دست دادن کسب‌وکار خود با هر فیلترینگ بوده است؛ در مهرماه سال ۱۴۰۱ بلافاصله پس از گذشت یک ماه از فیلترینگ، گزارشی از شرکت پادرو که در حوزه کسب‌وکارهای آنلاین فعالیت می‌کند، منتشر شد؛ در این گزارش آمده بود که در کشور یک‌میلیون شغل مستقیم و معاش ۹ میلیون نفر از کسب‌وکارهای موجود در اینستاگرام متأثر می‌شود که هم‌زمان با فیلترینگ در شهریور، ۸۵ تا صد درصد از فروش فروشگاه‌ها افت کرد».
از طرف دیگر انجمن تجارت الکترونیک ایران نیز در دومین گزارش خود به فیلترینگ به‌عنوان مانعی برای توسعه کسب‌وکار کارآفرینان ایرانی اشاره کرد؛ در این گزارش آمده است که نیمی از فعالان کسب‌وکارهای اینترنتی به مهاجرت فکر می‌کنند و بدون فیلترشکن، استفاده از اینترنت برای ایرانی‌ها ممکن نیست و این سیاست اشتباه حتی هزینه سنگینی بر روی دوش اپراتورها برای ارائه اینترنت گذاشته است.
با وجود آنکه این سیاست اشتباه تاکنون کاربران ایرانی، فعالان حوزه کسب‌وکار و پیکره کم‌جان اقتصاد ایران را مورد هدف قرار داده اما همچنان پرقدرت در حال اجرا است. خبرآنلاین در گفت‌وگویی که با کامبیز نوروزی، حقوقدان، داشته است، به بررسی ابعاد حقوقی فیلترینگ پرداخته است:
فیلترینگ در نظام حقوقی ایران غیرقانونی استکامبیز نوروزی، حقوقدان، در گفت‌وگو با خبرآنلاین گفت: «قوانین ما در این بخش ناقص است اما از نظر حقوقی این موضوع غیرقابل‌بررسی نیست؛ چه از نظر حقوقی و چه از نظر فقهی، اصل بر آزادی است. در فقه اصلی وجود دارد به نام اصل اباحه، به این معنا که هر آن چیزی که ممنوع نشده باشد، مجاز است. کسب‌وکارهای مشروع و قانونی مجاز هستند و کسب‌وکارهایی که موضوع کار آنها مشروع و قانونی نیست، مانند خریدوفروش مواد مخدر، خریدوفروش اسلحه گرم و یا تجارت سکس طبق قوانین ایران مجاز نیستند، چراکه کالا و خدمات غیرقانونی است.»
او در ادامه گفت: «افرادی که کسب‌وکاری را با خدمات و کالاهای مجاز راه می‌اندازند، هیچ ممنوعیت قانونی برای فعالیت ندارند؛ درنتیجه صاحبان کسب‌وکار درصورتی‌که این کسب‌وکارها در محیط آنلاین اداره می‌شوند، حق دارند که به فعالیت خود ادامه دهند؛ ممانعت در روند کار این کسب‌وکارها از طرق مختلف مانند فیلترینگ، تضییع حق این افراد است، به‌خصوص که فیلترینگ در نظام حقوقی ایران غیرقانونی است و تمام اقداماتی که تا به امروز برای فیلترینگ انجام گرفته است نیز، غیرقانونی است و هیچ قانونی وجود ندارد که اجازه فیلترینگ را صادر کرده باشد.»
شورای عالی فضای مجازی و کمیته تشخیص مصادیق مجرمانه هیچ‌یک پایه‌های قانونی ندارنداین حقوقدان در ادامه گفت: « تنها چیزی که می‌تواند اختیاری را به دولت و نهادهای حاکمیتی بدهد، قانون است. هیچ‌چیزی غیر از قانون اجازه نمی‌دهد، حقوق مشروع ملت سلب شود. در حوزه اینترنت نیز به همین شکل است؛ در مسئله اینترنت بسیاری از رفتارهایی که اتفاق می‌افتد، غیرقانونی است. شورای عالی فضای مجازی و یا کمیته تشخیص مصادیق مجرمانه هیچ‌یک پایه‌های قانونی ندارند اما محیط اینترنت را با محدودیت‌های گسترده‌ای مواجه کردند.»
طرحی برای تبعیض ناروا در فضای آنلایندرحالیکه فیلترینگ در ابعاد گسترده، روزی قشر عظیمی از مردم را هدف قرار داده است اما هم‌زمان طرح اینترنت طبقاتی و تخصیص اینترنت آزاد به اقشار خاصی از جامعه در حال جریان است؛ نوروزی در ادامه در واکنش به این موضوع گفت: «این اقدام تبعیض ناروا است؛ عده‌ای بدون فیلترینگ به شکل نامحدود به اینترنت دسترسی داشته باشند و اکثریت مردم محروم از حق اساسی باشند، یک تبعیض ناروا است که از این قبیل تبعیض‌ها کم نداریم و یک نوع رانت است که به دلیل نزدیکی به قدرت به عده‌ای داده شده است و اکثریت مردم از آن حق محروم هستند و تبعیض ناروا نیز همواره نامشروع است.»
۲۲۷۲۲۷
برای دسترسی سریع به تازه‌ترین اخبار و تحلیل رویدادهای ایران و جهان اپلیکیشن خبرآنلاین را نصب کنید. کد خبر 1900787
مدیررسانهای پرسپولیس: سپاهان به جای شکایت بیجا، عذرخواهی کند