من الذى أصدر إرشادات جديدة بشأن أخلاقيات وحوكمة النماذج الكبيرة متعددة الوسائط (LMMs) لاستخدامها المناسب لتعزيز وحماية صحة السكان. LMMs هو نوع من التوليد سريع النمو الذكاء الاصطناعي تكنولوجيا (الذكاء الاصطناعي) لها خمسة تطبيقات واسعة النطاق في مجال الصحة in
1. التشخيص والرعاية السريرية، مثل الرد على استفسارات المرضى المكتوبة.
2. الاستخدام الموجه للمريض، مثل فحص الأعراض والعلاج؛
3. المهام الكتابية والإدارية، مثل توثيق وتلخيص زيارات المرضى ضمن السجلات الصحية الإلكترونية.
4. التعليم الطبي والتمريضي، بما في ذلك تزويد المتدربين بمحاكاة لقاءات المرضى، و؛
5. البحث العلمي وتطوير الأدوية بما في ذلك التعرف على المركبات الجديدة.
ومع ذلك، فإن هذه التطبيقات في مجال الرعاية الصحية تواجه مخاطر إنتاج بيانات كاذبة أو غير دقيقة أو متحيزة أو غير كاملة، مما قد يضر الأشخاص الذين يستخدمون هذه المعلومات في اتخاذ القرارات الصحية. علاوة على ذلك، قد يتم تدريب LMMs على البيانات ذات الجودة الرديئة أو المتحيزة، سواء حسب العرق أو الأصل العرقي أو النسب أو الجنس أو الهوية الجنسية أو العمر. هناك أيضًا مخاطر أوسع نطاقًا تواجه الأنظمة الصحية، مثل إمكانية الوصول إلى أفضل الأنظمة الصحية ذات الأداء المنخفض والقدرة على تحمل تكاليفها. يمكن أن تشجع LMMs أيضًا "تحيز الأتمتة" من قبل متخصصي الرعاية الصحية والمرضى، حيث يتم التغاضي عن الأخطاء التي كان من الممكن تحديدها أو يتم تفويض الاختيارات الصعبة بشكل غير صحيح إلى LMM. LMMs، مثل الأشكال الأخرى من AI، معرضون أيضًا لمخاطر الأمن السيبراني التي قد تعرض معلومات المرضى أو مصداقية هذه الخوارزميات للخطر وتوفير الرعاية الصحية على نطاق أوسع.
لذلك، لإنشاء نماذج LMM آمنة وفعالة، قدمت منظمة الصحة العالمية توصيات للحكومات ومطوري LMMs.
وتتحمل الحكومات المسؤولية الأساسية عن وضع معايير لتطوير ونشر LMMs، وتكاملها واستخدامها لأغراض الصحة العامة والأغراض الطبية. يجب على الحكومات الاستثمار في البنية التحتية العامة أو غير الهادفة للربح أو توفيرها، بما في ذلك القدرة الحاسوبية ومجموعات البيانات العامة، التي يمكن للمطورين الوصول إليها في القطاعات العامة والخاصة وغير الهادفة للربح، والتي تتطلب من المستخدمين الالتزام بالمبادئ والقيم الأخلاقية في تبادل للوصول.
· استخدام القوانين والسياسات واللوائح للتأكد من أن LMMs والتطبيقات المستخدمة في الرعاية الصحية والطب، بغض النظر عن المخاطر أو الفوائد المرتبطة بها AI التكنولوجيا، والوفاء بالالتزامات الأخلاقية ومعايير حقوق الإنسان التي تؤثر، على سبيل المثال، على كرامة الشخص أو استقلاله الذاتي أو خصوصيته.
· تعيين وكالة تنظيمية حالية أو جديدة لتقييم واعتماد LMMs والتطبيقات المعدة للاستخدام في الرعاية الصحية أو الطب - حسب ما تسمح به الموارد.
· تقديم تدقيق إلزامي بعد الإصدار وتقييمات الأثر، بما في ذلك حماية البيانات وحقوق الإنسان، من قبل أطراف ثالثة مستقلة عندما يتم نشر LMM على نطاق واسع. وينبغي نشر عمليات التدقيق وتقييمات الأثر
ويجب أن تتضمن النتائج والتأثيرات مصنفة حسب نوع المستخدم، بما في ذلك على سبيل المثال حسب العمر أو العرق أو الإعاقة.
· لم يتم تصميم أجهزة LMMs بواسطة العلماء والمهندسين فقط. وينبغي إشراك المستخدمين المحتملين وجميع أصحاب المصلحة المباشرين وغير المباشرين، بما في ذلك مقدمو الخدمات الطبية والباحثون العلميون ومتخصصو الرعاية الصحية والمرضى، منذ المراحل الأولى AI التطوير في تصميم منظم وشامل وشفاف وإتاحة الفرص لإثارة القضايا الأخلاقية والتعبير عن المخاوف وتقديم مدخلات للمجتمع AI التطبيق قيد النظر.
تم تصميم LMMs لأداء مهام محددة جيدًا بالدقة والموثوقية اللازمة لتحسين قدرة الأنظمة الصحية وتعزيز مصالح المرضى. يجب أن يكون المطورون أيضًا قادرين على التنبؤ بالنتائج الثانوية المحتملة وفهمها.
***
المصدر
منظمة الصحة العالمية 2024. أخلاقيات الذكاء الاصطناعي وإدارته من أجل الصحة: إرشادات بشأن النماذج الكبيرة متعددة الوسائط. متواجد في https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
