جدّدت شركة "مايكروسوفت" حظرها على الشرطة الأميركية استخدام الذكاء الاصطناعي التوليدي في التعرف على الوجه بواسطة خدمة "Azure OpenAI Service".

وتنصّ تعديلاتٌ جديدة، وضعتها الشركة على شروط خدمة "Azure OpenAI Service"، بشكل أوضح، على حظر دمج الخدمة مع أنظمة التعرّف على الوجه من قبل أو لصالح أقسام الشرطة الأميركية، بما في ذلك دمجها مع نماذج تحليل الصور الحالية والمستقبلية من "أوبن إيه آي".
 
وتشمل التعديلات الجديدة أيضًا بندًا منفصلًا يغطّي "أيّ جهة لإنفاذ القانون على مستوى العالم"، ويحظر صراحةً استخدام "تقنية التعرف على الوجه في الوقت الفعلي" على الكاميرات المحمولة، مثل كاميرات الأجسام والمركبات، لمحاولة تحديد هوية شخص في بيئات "غير محكومة وغير مراقبة".
 
تأتي هذه التغييرات في السياسة بعد أسبوع من إعلان شركة "أكسون"، وهي شركة تصنع منتجات التكنولوجيا والأسلحة للجيش وجهات إنفاذ القانون، عن منتج جديد يستفيد من نموذج النص التوليدي "GPT-4" من "أوبن إيه آي" لتخليص الصوت من كاميرات الجسم.
 
لكن المنتقدين سارعوا إلى الإشارة إلى المخاطر المحتملة، مثل الأخطاء (حتى أفضل نماذج الذكاء الاصطناعي التوليدي اليوم تختلق الحقائق)، والتحيّز العنصريّ الناتج عن بيانات التدريب (هو أمر مثير للقلق بشكل خاص بالنظر إلى احتمال توقيف الشرطة للأشخاص الملوّنين أكثر بكثير من نظرائهم البيض).
 
ولا يزال من غير الواضح ما إذا كانت شركة "أكسون" تستخدم نموذج "GPT-4" عبر خدمة "Azure OpenAI Service". فإن كان الأمر كذلك، فهل السياسة المحدثة تشكّل ردًا على إطلاق منتج "أكسون"؟ وذلك بعد أن سبق لشركة "أوبن إيه آي" تقييد استخدام نماذجها للتعرف على الوجه من خلال واجهات برمجة تطبيقاتها.
 
وتترك الشروط الجديدة مجالًا للمناورة لدى شركة "مايكروسوفت"، إذ يقتصر الحظر الكامل على استخدام خدمة "Azure OpenAI Service" على الشرطة الأميركية فقط، ولا يتعدّاها إلى الغير على الصعيد الدولي. كذلك لا يغطّي التعرف على الوجه، الذي يتم باستخدام كاميرات ثابتة، في بيئات محكومة، على الرغم من أن الشروط تحظر أي استخدام للتعرف على الوجه من قبل الشرطة الأميركية.
 
تجدر الإشارة إلى أن هذا الإجراء يتماشى مع نهج "مايكروسوفت" وشريكها المقرب "أوبن إيه آي" في الآونة الأخيرة في ما يتعلق بالذكاء الاصطناعي وعقود إنفاذ القانون والدفاع.