خبير يحذر من "كارثة محتملة" لتحيز الذكاء الاصطناعي

حذَّر أحد الخبراء من أن أنظمة الذكاء الاصطناعي "AI" تواجه تهديدا أساسيا بسبب تأثير التحيز المتأصل، وعُرّفت الأنظمة هذه على أنها محاكاة الذكاء البشري بواسطة الآلات، وتتراوح أمثلة الذكاء الاصطناعي اليومية من "أليكسا" التابعة لأمازون، إلى ردود Gmail الذكية على عمليات البحث المتوقعة على "غوغل". وعلى الرغم من أن الفوائد الأساسية للذكاء الاصطناعي لا جدال فيها، إلا أن التكنولوجيا المتطورة تحتوي على تحذير خطير - تحيز متأصل.

والآن، حذر خبير في الذكاء الاصطناعي من أن هذه مشكلة تحتاج إلى معالجة عاجلة، وقال بيتر فان دير بوتن، الأستاذ المساعد في الذكاء الاصطناعي بجامعة "ليدن"، لـ "إكسبريس": "إن التحيز يمثل "كارثة محتملة. وأن الذكاء الاصطناعي بحكم تعريفه تقنية شريرة، فهو ليس جيدا ولا سيئا. لكنه ليس محايدا أيضا، لأنه مبني على البيانات والمنطق الموجود في العالم الحقيقي. وبهذا المعنى، يمكن أيضا أن يديم التحيز الموجود في العالم الحقيقي".

ومضى يشرح سبب تأثر التكنولوجيا الناشئة بالتحيز، قائلا: "ربما هناك تقريبا ثلاث طرق يمكن أن يتسلل بها التحيز. وعندما تفكر في الذكاء الاصطناعي، يمكن أن يكون لديك أنظمة تعليمية تتعلم كيف تصبح ذكية، وأنظمة منطقية تستخدم المنطق. لذا، في كلا الاتجاهين، يمكننا استخدام البيانات المتحيزة لتدريب الذكاء الاصطناعي لدينا على البيانات التي تُستخدم لكي يصبح ذكيا، ويمكن بالطبع أن تحتوي هذه القواعد على تحيز فيها، ثم علاوة على ذلك، يمكن أن تكون مشكلات بيانات بسيطة تحدث غالبا عندما تبدأ، بعد تطوير الذكاء الاصطناعي، فأنت تستخدمه بالفعل ثم، يمكن أن تتسلل جميع أنواع التحيز بسبب البيانات التي يتم إدخالها في هذه القرارات الآلية".

وانتشرت تقارير حول كيفية تقديم بطاقة ائتمان آبل، حدودا مختلفة للرجال والنساء، وفي الواقع، حتى المؤسس المشارك لشركة آب ، ستيف وزنياك، أعرب عن مخاوفه من أن الخوارزميات المستخدمة لوضع حدود قد تكون متحيزة بطبيعتها ضد النساء.

وقال مدير اتخاذ القرار في Pegasystems: "الذكاء الاصطناعي متحيز مثل البيانات المستخدمة في إنشائه. وحتى لو كان لدى المصممين أفضل النوايا، فقد تتسلل الأخطاء من خلال اختيار البيانات المتحيزة لنماذج التعلم الآلي، وكذلك التحيز والافتراضات في المنطق المدمج. لذا، تحتاج المؤسسات المالية إلى التأكد من أن البيانات المستخدمة لإنشاء الخوارزميات الخاصة بها، تفتقر إلى التحيز قدر الإمكان. وبالإضافة إلى ذلك، يجب على المرء أن يدرك أن القرارات البشرية يمكن أن تكون أيضا ذاتية ومعيبة، لذلك يجب علينا التعامل معها بتدقيق أيضا".

وحذر خبير الذكاء الاصطناعي من أنه على الأرجح لا يمكن القضاء على التحيز المتأصل في الذكاء الاصطناعي. وقال: "التحيز نفسه لا يمكن استئصاله بالكامل. إنها ليست مشكلة ثنائية حيث تقول إنها مشكلة "نعم" أو "لا"، فهناك تحيز أو لا يوجد تحيز. هناك دائما تحيز إلى حد ما، لذا فإن ما تفعله هو الاحتفاظ به ضمن الحدود المقبولة. أعتقد أن هذا ما يجب أن تحاول القيام به، لمحاولة القضاء عليه قدر الإمكان".

وعلى سبيل المثال، إذا حاولت إصلاح التحيز لمجموعة واحدة محرومة من الخدمات، فقد يؤدي ذلك إلى تحيز لمجموعة أخرى. وهناك أيضا مفاضلة بين إصلاح التحيز في النظام ومدى دقة الذكاء الاصطناعي. وستحتاج إلى التضحية بالدقة لإصلاح التحيز. لهذا السبب لا يمكنك حلها بالكامل، ولكن الاحتفاظ بها ضمن الحدود ممكن.

قد يهمك ايضا 

اكتشاف مثير لغاز تطلقه كائنات حية في الغلاف الجوي لكوكب الزهرة

"مايكروسوفت" تعلن فشل المفاوضات للاستحواذ على "تيك توك" في أميركا