Facebook محققان می گویند بالاتر یو پی اس را نادیده گرفته و یافته های خود را در Instagram را نژادپرستانه الگوریتم: گزارش

طی یک مطالعه در اواسط سال 2019 یک تیم از Facebook کارمندان یافت که قوانین پیشنهادی برای Instagram خودکار حساب سیستم حذف نامتناسب پرچم و ممنوع سیاه کاربران است. زمانی که تیم با نزدیک شدن مارک زوکربرگ مدیر عامل و upper echelon از دوستان با این نگران کننده اطلاعات آنها ظاهرا نادیده گرفته و گفته برای توقف هر گونه تحقیق بیشتر در مورد تعصب نژادی در شرکت اعتدال ابزار ان بی سی نیوز گزارش داد پنج شنبه.

که با توجه به هشت کنونی و سابق Facebook کارکنان که با صحبت خروجی به شرط ناشناس ماندن. تحت این قوانین پیشنهادی, سیاه, Instagram کاربران تقریبا 50% بیشتر از سفید به کاربران برای دیدن حساب خود را به طور خودکار برای ToS سنگین مانند ارسال نفرت گفتار و قلدری.

این موضوع آشکارا ناشی از تلاش Facebook که صاحب Instagram برای نگه داشتن خودکار آن اعتدال سیستم های خنثی با ایجاد الگوریتمی معادل "شما می دانید من واقعا نمی دیدن رنگ."

این شرکت بیان نفرت سیاست دارای اظهارات تحقیر در برابر گروه ممتاز (یعنی مردم سفید و مردان) به همان موشکافی به اظهارات تحقیر در برابر گروه های به حاشیه رانده شده (به عنوان مثال سیاه و زنان). در عمل این بدان معنی است که این شرکت فعال در محتوای اعتدال ابزار شناسایی گفتار نفرت کارگردانی در افراد سفید در یک نرخ بسیار بالاتر از آن نفرت سخنرانی کارگردانی در سیاه مردم در بخش های بزرگ به دلیل آن بود ضعیف دیدگاه به طور گسترده ای در نظر گرفته شده بی ضرر. برای مثال عبارت "مردم سفید زباله" نیست در هر نقطه در نزدیکی به عنوان توهین آمیز به عبارت "مردم سیاه سطل زباله"–و اگر شما مخالف من نفرت می شود یکی به شما بگویم این, اما شما ممکن است یک نژادپرست است.

"جهان رفتار مردم سیاه و سفید متفاوت از مردم سفید" یکی از کارکنان گفت: NBC. "اگر ما در حال درمان همه همان راه ما در حال حاضر در حال ساخت انتخاب در طرف اشتباه تاریخ است."

کارمند دیگری که نوشته شده در مورد تحقیقات داخلی انجمن گفت: این یافته ها نشان داد که Facebook خودکار ابزار "نامتناسب دفاع از مردان سفید." هر خروجی:

با توجه به نمودار در داخل نوشته شده در جولای 2019 و به بیرون درز به NBC News, Facebook فعالانه در زمان پایین نسبت بالاتری از گفتار نفرت علیه مردم سفید از گزارش شده توسط کاربران نشان می دهد که کاربران پیدا کند آن را توهین آمیز به اندازه کافی برای گزارش اما Facebook حذف آن به هر حال. در مقابل همان ابزار در زمان پایین نسبت پایین تر از گفتار نفرت هدف قرار دادن گروه های به حاشیه رانده شده از جمله سیاه و یهودی و فراجنسیتی کاربران از گزارش شده توسط کاربران نشان می دهد که این حملات در نظر گرفته شد برای توهین آمیز بود اما Facebook خودکار ابزار نیست تشخیص آنها.

این پیشنهاد قوانین را دیدم هرگز نور روز را به عنوان Instagram ظاهرا به پایان رسید تا با اجرای یک نسخه اصلاح شده از این خودکار اعتدال ابزار. اما کارکنان گفت: NBC آنها منع از آن را برای تست تعصب نژادی پس از آن می خواهم بهینه سازی شده است.

در پاسخ به گزارش Facebook ادعا کرد که محققان اصلی روش ناقص بود هر چند این شرکت را انکار نمی کند که آن را صادر کرده است یک مهلت قانونی برای بررسی امکان تعصب نژادی در آن اعتدال ابزار. Facebook معاونت رشد و تجزیه و تحلیل ذکر اخلاق و روش نگرانی برای تصمیم گیری در مصاحبه با ان بی سی.

این شرکت اضافه شده است که آن را در حال حاضر در حال تحقیق در مورد راه های بهتر برای آزمون تعصب نژادی در محصولات خود که می افتد در خط با Facebook اعلام اوایل این هفته که آن را مونتاژ جدید تیم به مطالعه پتانسیل نژادی اثرات بر روی آن سیستم عامل است.

"ما به طور جدی بررسی چگونه برای اندازه گیری و تجزیه و تحلیل محصولات اینترنت همراه مسابقه و خطوط قومی مسئولانه و در همکاری با دیگر شرکت های" Facebook سخنگوی کارولین Glanville در بیانیه ای گفت به چند رسانه.

در مصاحبه با NBC شولتز افزود که تعصب نژادی در Facebook سیستم عامل است "بسیار به اتهام موضوع" اما یکی که شرکت "انبوه افزایش سرمایه گذاری ما" به بررسی الگوریتم تعصب و درک اثرات آن بر تعدیل سخنرانی نفرت.

با توجه Facebook امادگی برای میزبانی نژادپرستانه transphobic جنسیتی و به طور کلی خدا-افتضاح محتوایاین واقعیت است که برخی از الگوریتمی سحر و جادو در پشت صحنه ممکن است کمک به مهر marginalized صدای است که به سختی تعجب آور است. ناامید کننده, برای, مطمئن, اما تعجب آور نیست.

[NBC]