خودروهای بدون‌ راننده در شناسایی سیاه‌پوستان و کودکان، متعصبانه عمل می‌کنند!

محققان پس‌ از بررسی سیستم‌های هوش مصنوعی تشخیص عابران پیاده متوجه تفاوت دقت تشخیص ۷٫۵۲ درصدی بین افراد روشن‌ پوست و تیره پوست شدند. طبق این تحقیقات، خطر عدم شناسایی برای افرادی که پوست تیره‌تری دارند، در مکان‌هایی که نور یا کنتراست کم باشد (مثلاً هنگام شب)، به‌طور قابل‌توجهی افزایش می‌یابد.

سیستم‌های رانندگی خودکار که با هوش مصنوعی کار می‌کنند علاوه‌بر تعصب نژادی، نقطه‌ی کور جمعی و البته بسیار نگران‌کننده‌ی دیگری هم دارند. نکته‌ی خطرناک درمورد مطالعه‌ی محققان این است که سیستم‌های مذکور در تشخیص کودکان نسبت‌ به بزرگ‌سالان حتی تا ۲۰ درصد ضعیف‌تر عمل می‌کنند.

لی ژانگ مدیر علوم کامپیوتر در کالج کینگ و یکی از نویسندگان مطالعه‌ی مذکور به نیوساینتیست گفت مدل‌هایی که شرکت‌های خودروساز از آن‌ها در سیستم‌های رانندگی خودکار استفاده می‌کنند احتمالاً چندان دور از دسترس نیستند و با توجه به اینکه وسایل نقلیه‌ی بدون راننده طی سال‌های اخیر موفقیت‌های بزرگی در بخش مقررات کسب کرده‌اند، شرایط می‌تواند بسیار ناراحت‌کننده باشد.

ژانگ می‌گوید:

بر کسی پوشیده نیست که سوگیری ماشین، مسئله‌ای بسیار جدی است و با ادغام فناوری پیشرفته‌ی هوش مصنوعی در زندگی روزمره، پیامدهای آن واضح‌تر خواهد بود.