جنرال لواء

مخاوف التعرف على الوجه: المبادئ الأخلاقية الستة لمايكروسوفت


تجلب تقنية التعرف على الوجوه فوائد مجتمعية مهمة ولكن أيضًا بعض المخاوف بشأن الأمان والخصوصية. إلى جانب بعض التقنيات الناشئة الأخرى ، يجب تطوير التعرف على الوجه واعتماده واستخدامه بحذر ومسؤولية.

التعرف على الوجه وخصوصية الأشخاص

التعرف على الوجوه هو تقنية رائعة ولا خطأ. يمكن استخدامه بعدة طرق من أجل الخير.

"الشرطة في نيودلهي جربت مؤخرًا تقنية التعرف على الوجه وحددت ما يقرب من 3000 طفل مفقود في أربعة أيام." - براد سميث ، الرئيس و CLO في Microsoft

ومع ذلك ، كما يحدث أيضًا مع العديد من التقنيات الرائعة الأخرى ، فإن برودتها تعتمد على كيفية اختيار البشر لاستخدام التكنولوجيا.

يمكن أن يؤدي الاستخدام الواسع النطاق لتقنية التعرف على الوجه التي تعمل بالذكاء الاصطناعي إلى بعض التدخلات الجديدة في خصوصية الأشخاص. يحتاج العملاء إلى البقاء يقظين ويجب عليهم التأكد من نشر خدمات التعرف على الوجه التي يستخدمونها بشكل صحيح لتقليل مخاطر اختراق الخصوصية.

التعرف على الوجوه والمراقبة الحكومية الجماعية

يمكن استخدام تقنية التعرف على الوجه من قبل بعض الحكومات كأداة فعالة للمراقبة الجماعية. هذا يمكن أن يتعدى على الحريات الديمقراطية.

يجب على الحكومات وقطاع التكنولوجيا العمل معًا لضمان استخدام تقنية التعرف على الوجه لصالح المجتمع والمواطنين أثناء مراقبة المخاطر المحتملة لسوء المعاملة.

لا تزال المعرفة والخبرة في استخدام تقنية التعرف على الوجه شابة. من الأهمية بمكان أن يكون القطاع العام على دراية بالتطورات وربما يفكر في الحلول قبل ظهور المشاكل.

هل يشمل المستقبل مواطنين يرتدون أقنعة لحماية خصوصيتهم وضباط شرطة يرتدون نظارات ذكية للكشف عن هويتهم؟

هل يمكنك تصور سيناريو في المستقبل غير البعيد حيث تتم مراقبة البشر بشكل دائم بواسطة الكاميرات وتتبعها طائرات بدون طيار صغيرة ترسل موقعك وتستخدم التحليلات التنبؤية لتوقع خطوتك التالية؟

ربما تعتقد أن هذا غير ممكن بعد. ومع ذلك ، فإن التكنولوجيا الخاصة بهذا وأكثر جاهزة ومتاحة. هل يجب أن تجهز قناع البندقية المفضل لديك؟

يرتدي ضباط الشرطة الصينية الآن نظارات ذكية عالية التقنية مزودة بنظام التعرف على الوجه الذي يمكنه اكتشاف المشتبه بهم في الأماكن العامة المزدحمة. في الصين ، يتم مراقبة المواطنين باستمرار إما عن طريق الدوائر التلفزيونية المغلقة أو النظارات الذكية المعتمدة حديثًا والتي ترتديها الشرطة ليس فقط لتبدو رائعة ولكن لرؤية ما وراء العين المجردة.

تعتمد الشرطة في الصين على قاعدة بيانات تتضمن العادات والائتمان الاجتماعي وحتى أصدقاء الأشخاص واتصالاتهم. عندما يرتدي ضباط الشرطة النظارات الذكية ، يمكنهم تسجيل الدخول إلى قاعدة البيانات التي ستطابق وجه المشتبه به مع المعلومات الموجودة في السجلات.

كان هذا الاستخدام الجديد لتقنية التعرف على الوجه موضوع نقاش وقلق بين مجموعات حقوق الإنسان وغيرهم من المعنيين بقضايا الخصوصية. تنشأ بعض الأسئلة من استخدام هذه التكنولوجيا.

عندما تكون المراقبة أكثر من اللازم؟ ما هي المخاطر الجديدة التي يشكلها هذا الاستخدام للتعرف على الوجه لغير المشتبه بهم الذين تصادف تواجدهم في مسرح الجريمة ، إذا جاز التعبير ، ولديهم سمات وجه معينة تشبه تلك الخاصة بالمشتبه به؟

هل الوضع الحالي لتطور الذكاء الاصطناعي ذكي بما يكفي لتجنب أدنى خطأ يمكن أن يحدثه نظام التعرف على الوجه؟

التعرف على الوجوه في البيئات المدرسية

تختبر المدارس الصينية أنظمة التعرف على الوجه التي يمكنها مراقبة أداء الطلاب. ثم يتم استخدام الخوارزميات لتحليل وتخزين تعابير وجه الطلاب. يمكن للنظام تحديد ما إذا كان الطلاب ينتبهون في الفصل أم لا.

قد يبدو هذا جيدًا للبعض. ومع ذلك ، هل هي جيدة حقًا أم أنها تهديد للقدرة على التعبير عن المشاعر من خلال تعبيرات الوجه بحرية والحق المطلق للإنسان في امتلاك أفكار خاصة؟

يجادل البعض فيما إذا كان من الأخلاقي السماح للخوارزمية بالحكم وتقرير مقدار الاهتمام الذي يجب أن يولى لموضوعات معينة. تنشأ بعض الأسئلة الأخلاقية. كيف سيؤثر هذا على أطفال المستقبل؟ تحتاج هذه الأسئلة إلى إجابات قبل أن يصبح التعرف على الوجه تهديدًا وليس حلاً.

المدن الذكية والتعرف على الوجه

يتم بناء المدن الذكية حول العالم بهدف تعزيز الأمن العام. يتضمن ذلك اعتماد أحدث تقنيات التعرف على الوجه المضمنة في الكاميرات.

في الولايات المتحدة ، تم تركيب أنظمة التعرف على الوجه في بعض المدارس كمحاولة لمنع حوادث إطلاق النار المميتة في المدارس. ومع ذلك ، هذا ليس ما سيوقف إطلاق النار. إنه يعرض الأطفال والمعلمين فقط لأنواع أخرى من المخاطر.

مايكروسوفت تتبنى مبادئ التعرف على الوجه

وفقًا لبراد سميث من شركة Microsoft ، فقد اعتمدت الشركة ستة مبادئ لمعالجة المخاوف التي قد تحدثها إساءة استخدام التعرف على الوجه.

تعتقد Microsoft أن هذه المبادئ هي تلك التي تحتاج الحكومات العالمية إلى معالجتها أيضًا:

1. الإنصاف:

ستعمل Microsoft على تطوير ونشر تقنية التعرف على الوجه بطريقة تسعى جاهدة إلى معاملة جميع الأشخاص بإنصاف.

2. الشفافية:

ستقوم Microsoft بتوثيق وإبلاغ قدرات وقيود تقنية التعرف على الوجه بوضوح.

3. المساءلة

ستشجع Microsoft عملاءها وتساعدهم على نشر تقنية التعرف على الوجه بطريقة تضمن مستوى مناسبًا من التحكم البشري للاستخدامات التي قد تؤثر على الأشخاص بطرق تبعية.

4. عدم التمييز

تحظر Microsoft في شروط الخدمة الخاصة بها استخدام تقنية التعرف على الوجه للانخراط في تمييز غير قانوني.

5. الإشعار والموافقة

ستشجع Microsoft عملاء القطاع الخاص على تقديم إشعار والحصول على موافقة آمنة لنشر تقنيات التعرف على الوجه.

6. المراقبة القانونية

ستدافع Microsoft عن ضمانات للحريات الديمقراطية للأفراد في سيناريوهات مراقبة إنفاذ القانون ، ولن تنشر تقنية التعرف على الوجه في السيناريوهات التي تعتقد الشركة أنها ستعرض هذه الحريات للخطر.

مع القوة العظيمة تأتي المسؤولية العظيمة

يتعلق التعرف على الوجوه بخصوصية كل فرد ويجب على الجميع متابعة تطوراته ستوفر الشركات مثل Microsoft التي تأخذ زمام المبادرة بإطلاق هذه المبادئ في هذه المرحلة المبكرة خبرة قيمة من عملية التعلم الخاصة بهم.

تلتزم Microsoft بمشاركة رحلة التعلم مع العملاء من خلال الدورات التدريبية. ستصل هذه المعرفة أيضًا إلى أصحاب المصلحة وعامة الناس. من المهم أن نتذكر ، مع ذلك ، أن التعرف على الوجه يمثل قوة عظمى ، وكما قال عم سبايدرمان بن ذات مرة ، مع القوة العظيمة تأتي مسؤولية كبيرة.


شاهد الفيديو: مرة اخرى: خصوصية لبرامج الاوفس المعروفة كالوورد في التيمز (سبتمبر 2021).