من الذى أصدر إرشادات جديدة بشأن أخلاقيات وحوكمة النماذج الكبيرة متعددة الوسائط (LMMs) لاستخدامها المناسب لتعزيز وحماية صحة السكان. LMMs هو نوع من التوليد سريع النمو الذكاء الاصطناعي تكنولوجيا (الذكاء الاصطناعي) لها خمسة تطبيقات واسعة النطاق في مجال الصحة in
1. التشخيص والرعاية السريرية، مثل الرد على استفسارات المرضى المكتوبة.
2. الاستخدام الموجه للمريض، مثل فحص الأعراض والعلاج؛
3. المهام الكتابية والإدارية، مثل توثيق وتلخيص زيارات المرضى ضمن السجلات الصحية الإلكترونية.
4. التعليم الطبي والتمريضي، بما في ذلك تزويد المتدربين بمحاكاة لقاءات المرضى، و؛
5. البحث العلمي وتطوير الأدوية بما في ذلك التعرف على المركبات الجديدة.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
لذلك، لإنشاء نماذج LMM آمنة وفعالة، قدمت منظمة الصحة العالمية توصيات للحكومات ومطوري LMMs.
وتتحمل الحكومات المسؤولية الأساسية عن وضع معايير لتطوير ونشر LMMs، وتكاملها واستخدامها لأغراض الصحة العامة والأغراض الطبية. يجب على الحكومات الاستثمار في البنية التحتية العامة أو غير الهادفة للربح أو توفيرها، بما في ذلك القدرة الحاسوبية ومجموعات البيانات العامة، التي يمكن للمطورين الوصول إليها في القطاعات العامة والخاصة وغير الهادفة للربح، والتي تتطلب من المستخدمين الالتزام بالمبادئ والقيم الأخلاقية في تبادل للوصول.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· تعيين وكالة تنظيمية حالية أو جديدة لتقييم واعتماد LMMs والتطبيقات المعدة للاستخدام في الرعاية الصحية أو الطب - حسب ما تسمح به الموارد.
· تقديم تدقيق إلزامي بعد الإصدار وتقييمات الأثر، بما في ذلك حماية البيانات وحقوق الإنسان، من قبل أطراف ثالثة مستقلة عندما يتم نشر LMM على نطاق واسع. وينبغي نشر عمليات التدقيق وتقييمات الأثر
ويجب أن تتضمن النتائج والتأثيرات مصنفة حسب نوع المستخدم، بما في ذلك على سبيل المثال حسب العمر أو العرق أو الإعاقة.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
تم تصميم LMMs لأداء مهام محددة جيدًا بالدقة والموثوقية اللازمة لتحسين قدرة الأنظمة الصحية وتعزيز مصالح المرضى. يجب أن يكون المطورون أيضًا قادرين على التنبؤ بالنتائج الثانوية المحتملة وفهمها.
***
المصدر
منظمة الصحة العالمية 2024. أخلاقيات الذكاء الاصطناعي وإدارته من أجل الصحة: إرشادات بشأن النماذج الكبيرة متعددة الوسائط. متواجد في https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
