استكمالاً للجهود الحكومية المميزة لتبني أنظمة الذكاء الاصطناعيّ، أطلقت هيئة الخدمات الصحية الوطنية في المملكة المتحدة برنامجاً مصمماً لرصد تحيُّزات الأنظمة الذكية في القطاع الصحي وإنشاء مجموعات بيانات شاملة ومتنوّعة بمشاركة المرضى ومقدِّمي الرعاية المتخصصين.

رغم ما حقّقته نداءات المساواة من إنجازات، ما يزال الكثيرون عرضةً لظاهرة “التحيُّز الضمنيّ”، وهي الصور النمطية عن الآخرين التي تؤثر على فهمنا وأفعالنا دون وعي. وفي حين أن ممارسات البشر قد ولدت تحيُّزات عديدة عبر الزمن، يبقى مُستهجناً أن تبديها الآلة أو البرمجيات الذكية.

في المملكة المتحدة، تُستخدم أنظمة الذكاء الاصطناعيّ على نطاق واسع في المجالات الحيوية والخدمات العامة، إذ تستخدم هذه الأنظمة الخوارزميات لتقييم بياناتٍ جُمعت عن الأرض وإنشاء تمثيلاتٍ لها، ومن ثم بناء الاستنتاجات بالاستناد إليها.

في القطاع الصحيّ مثلاً، تنجز هذه الأنظمة العديد من مهام الإدارة والتشخيص، ما يدعم جهود الطواقم الصحية ويجعل العلاج أسرع وأكثر فاعلية. إلّا أنّ هذه الأنظمة قد تعود بنتائج عكسية إن لم يُراعِ مطوِّروها التحيُّزات في الخوارزميات التي سبّبت حالات من التفاوت على مرّ سنوات، فقد ثَبت أنّ قواعد التنبؤ الخاصة بأمراض القلب، والتي استخدمها أطباء البلدان الصناعية لعقود، اتّسمت بتحيُّزٍ مَرَدُّه الدراسات التي بُنيت عليها تلك القواعد في بادئ الأمر. بطبيعة الحال، حين تشكِّل فئة عِرقيةٌ معيّنة معظمَ الحالات التي جُمعت بياناتُها، فمن المُرجَّح أنّ النتيجة ستنطبق عليها أكثرَ من المجموعات الأخرى ذات التمثيل الناقص أو الأقلّويّ.  وقد يظهر التحيّز في أي مرحلة أخرى من عملية إنشاء الخوارزميات كاختيار النموذج أو تطبيق النتائج.

ولأنَّ التأثير التدريجيّ يتطلّب معالجة تدريجية، تعمل هيئة الخدمات الصحية الوطنية بالتعاون مع معهد “آدا لوف ليس” المستقلّ للأبحاث على إطلاق نهج رائد عالمياً لتحسين التبنّي الأخلاقيّ للذكاء الاصطناعيّ في المنظومة الصحية.

تأتي هذه الجهود لتكمِّلَ عملَ فريق الأخلاقيات في مختبر الذكاء الاصطناعيّ التابع لهيئة الخدمات الصحية، والذي يركِّز على دعم الباحثين والمطوِّرين في إنشاء مجموعات بيانات متنوعة وشاملة لتدريب أنظمة الذكاء الاصطناعي واختبارها، حيث ينبغي أن تتضمن طواقم علوم البيانات متخصصين من خلفيات متنوعة.

تقوم التجربة على استخدام تقييمات الأثر الحسابيّ لتحليل القرارات التي يتخذها الذكاء الاصطناعيّ والتي قد تؤدي إلى نتائج صحية دون المستوى المطلوب بناء على خلفيات المرضى وملفاتهم الشخصية. وهذه التقييمات عبارة عن استبيانات تستعرض عمليات منشأة ما وبياناتِها وتصميمَ نظامِها، بهدف المساعدة في تقييم الآثار والمخاطر التي قد تصاحب اعتمادَ نظام آليّ لاتخاذ القرارات.

وقد نشرَ معهد “آدا لوف ليس” أوراقاً بحثيةً تستكشف تأثيرات الذكاء الاصطناعيّ على المجتمع والبيئة، وتقدِّم عمليةً مفصّلة خطوة بخطوة لتوظيف تقييمات الأثر الحسابيّ على أرض الواقع. وفي ضوئِها، سيتم اختبارُ هذه التقييمات على مجموعة من مبادرات المختبر، حيث ستكون جزءاً من عملية الوصول إلى المنصة الوطنية المقترحة للتصوير الطبي وإلى قاعدة البيانات الوطنية لصور الصدر الخاصة بجائحة كوفيد-19، والتي تساعد الباحثين لفهم الفيروس أكثر وتطوير آليات رعاية المرضى الذين يعانون حالات حرجة. تضمّنت هذه القاعدة أكثر من 60 ألف صورة شعاعية من 27 مؤسسة صحية موثوقة، ما جعلها نموذجاً ملائماً للتحقق من أداء النظام ورصدِ أي خلل أو تحيّز. فخلال انتشار الجائحة، ومع تنامي الاهتمام باستخدام الأنظمة الذكية لتحسين الخدمات وتمكين الرعاية المنزلية، اختبر الفريق مدى دقة الخوارزميات في تشخيص حالات الإصابة ومستوى أدائِها مع المرضى من أعمار وأجناس وأعراق مختلفة.

ولِما تتسم به مراحل التطوير الأولى من مرونة، فقد سعى الفريق لتحقيق الاستفادة القصوى من ذلك، وعمل على إشراك المرضى والمتخصصين وجمع ملاحظاتهم ورؤاهم لإدخال التعديلات اللازمة.

تجدر الإشارة إلى أنّ التجربة الوحيدة القائمة لتطبيق تقييمات الأثر الحسابيّ تمّت في كندا، حيث اعتمدها مجلس الخزانة لإدارة معايير الشراء الحكومي لأنظمة الذكاء الصناعيّ، وذلك عبر استبيانٍ متعدد الأقسام يطرح 60 سؤالاً حول السمات التقنية للأنظمة والبيانات التي تعتمِدها وكيفية اتخاذها للقرار. بعدئذٍ، يتم تصنيف التأثيرات على مقياسٍ متدرِّج بدءاً من فئة “التأثير الضئيل إلى المعدوم” وانتهاءً بـ “التأثير العميق”. تُحَدَّد هذه التأثيرات وفق عدة اعتبارات كالحقوق الفردية والصحة والرفاهية والمصالح الاقتصادية والنظام البيئي. وأخيراً، تُعرض التقييمات على موقعٍ إلكترونيّ خاص.

وقد أصدرت هيئة الخدمات الصحية تقريراً يستعرض المخاوف التي تواجهها هذه التقنية، ويوضح أنّ الهدف ليس استبدالَ أدوات المساءلة والأُطُر التنظيمية القائمة بل دعمَها، وهي ترمي لتوفير إطارٍ معياريٍّ لتقييم آثار الذكاء الاصطناعيّ على الناس والمجتمعات.

في السياق نفسِه، أكّدت الهيئة للمرضى أنّ بياناتهم ستُستخدم بمسؤولية وأمان، وبالشكل الذي ينعكس مباشرة عليهم ويخدم الصالح العام.

ولم تنكر الهيئة أنّ تقنية تقييمات الأثر الحسابيّ مُقبلةٌ على تحديات كثيرة قبل أن تكون جاهزةً للتطبيق في مجالات أخرى لتقدِّم قيمةً حقيقية، وهو ما يتطلّب تعديلَها لتوائِمَ المشهد الحالي.

ستضمن العملية الجديدة منعَ تحيُّزات الخوارزميات قبل وصولِها إلى بيانات هيئة الخدمات الصحية، ما يعني الوقاية من المخاطر المحتملة لذلك، كما سيدعم البرنامج التجريبيّ الباحثين والمطوّرين بمعلوماتٍ دقيقة لما يجري على الأرض لتوجيه جهودِهم. 

حين يكون المرضى وذووهم جزءاً من مساعي التطوير، فهذا يعني تقديم تجربة أفضل وتحقيقَ تكاملٍ حقيقيّ للذكاء الاصطناعيّ، ما سيحقق نتائج صحية أفضل للجميع، ولا سيما للأقليات والفئات الأكثر عرضة للخطر.

عبر استكشافِ الآثار القانونية والاجتماعية والأخلاقية للأنظمة الذكية المقترحة، تتطلّع الهيئة إلى منظومة تعزِّز الشفافية والمساءلة وشرعيةَ استخدام الذكاء الاصطناعيّ في الرعاية الصحية.

المراجع:

• https://www.gov.uk/government/news/uk-to-pilot-world-leading-approach-to-improve-ethical-adoption-of-ai-in-healthcare
• https://www.globalgovernmentforum.com/uk-nhs-to-test-ai-systems-for-biases-in-healthcare/ 
• https://www.hsph.harvard.edu/ecpe/how-to-prevent-algorithmic-bias-in-health-care/ 
• https://www.healthcareitnews.com/news/emea/nhs-creates-blueprint-testing-bias-ai-models#:~:text=Researchers%20used%20COVID%2D19%20chest,of%20health%20and%20care%20algorithms.&text=The%20NHS%20AI%20LAB%20has,adoption%20in%20health%20and%20care.