خوارزميات الكمبيوتر يجب أن تظهر أنها خالية من العرق ، أو الجنس وغيرها من التحيزات قبل أن يتم نشرها ، الساسة في الولايات المتحدة قد اقترحت.

المشرعون مسودة قانون من شأنه أن يتطلب شركات التكنولوجيا لاختبار النموذج خوارزميات التحيز.

العديد من المنظمات تعتمد على ترميز تعليمات أو خوارزميات المهام مثل عرض المستخدمين الإعلانات ذات الصلة وتحليل السلوك أو فرز البيانات.

وقال منتقدو مشروع القانون يمكن أن تحد من فوائد آلة الاستخبارات.

القواعد من شأنها أن تؤثر على الشركات مع إيرادات سنوية تبلغ 50 مليون دولار (£38 م) في الإيرادات أو التي تنطوي على بيانات أكثر من مليون شخص.

الذكاء الاصطناعي: خوارزميات وجه التدقيق على التحيز المحتمل السباق لجعل العالم الكمبيوتر أقوى من أي وقت مضى

الديمقراطي السناتور رون وايدن ، الذي ساعد في مشروع القانون ، إن كانت هناك حاجة لأن خوارزميات الكمبيوتر “تشارك على نحو متزايد” في حياة الأميركيين.

“لكن بدلا من القضاء على التحيز أيضا في كثير من الأحيان هذه الخوارزميات تعتمد على منحازة الافتراضات أو البيانات التي يمكن في الواقع تعزز التمييز ضد المرأة والناس من اللون,” قال.

بيان بيان الحاجة إلى القانون ، باعتبارها أدلة خوارزمية أن أمازون تستخدم للمساعدة في تجنيد الموظفين التي تم العثور على أن تكون متحيزة ضد المرأة. الخوارزمية تم تفكيكها.

في الشهر الماضي ، وزارة الإسكان والتنمية الحضرية دعوى Facebook تمكن من التمييز عن طريق السماح للمعلنين تقييد الذي رأى الإعلانات للمنازل على أساس العرق أو الدين أو الجنسية.

القانون المقترح انتقادات من تكنولوجيا المعلومات والابتكار مؤسسة مجموعة الصناعة.

دانيال كاسترو ، المتحدث باسم المؤسسة إن القانون فقط “تصم” منظمة العفو الدولية وتثبيط.

“عقد الخوارزميات إلى مستوى أعلى من القرارات يعني أن الآلية القرارات هي بطبيعتها أقل جدارة بالثقة أو أكثر خطورة من تلك التي ليست القضية” ، وقال في بيان.