مخاطر الذكاء الاصطناعي على سلامة التوصيات الطبية

كشفت دراسة حديثة أن خُمس التوصيات العلاجية التي يقدمها الذكاء الاصطناعي قد تحتوي على أخطار سريرية محتملة.

حذرت الدراسة، التي أعدها فريق بحثي من ستانفورد وهارفارد، من الاعتماد الكامل على نماذج الذكاء الاصطناعي الطبية دون إشراف دقيق من الأطباء.

أكدت الدراسة أن هذه الأخطاء لا تعود لضعف التكنولوجيا، بل لغياب ضوابط السلامة الصارمة التي تضمن تقديم توصيات آمنة للمرضى.

ما هي مخاطر توصيات الذكاء الاصطناعي الطبية؟

اعتمد الباحثون على تقييم 31 نموذجاً متقدماً عبر 100 حالة سريرية حقيقية.

كان الهدف قياس احتمال إلحاق الضرر بالمريض إذا استُخدمت التوصيات بشكل مباشر.

جاءت النتيجة صادمة، فنحو 22% من التوصيات حملت مخاطر سريرية محتملة.

فشلت بعض النماذج في اقتراح فحوص أو إجراءات تشخيصية حاسمة.

قد يؤدي هذا الفشل إلى مضاعفات خطيرة تُلاحظ متأخرة.

أظهرت الدراسة أن الأداء العالي في اختبارات الذكاء لا يضمن السلامة السريرية.

يفتقد الذكاء الاصطناعي ما سماه الباحثون بـ"القلق الطبي".

يشمل "القلق الطبي" الإدراك الأخلاقي والمسؤولية عن نتائج القرار الطبي.

لماذا لا يمكن للذكاء الاصطناعي أن يحل محل الطبيب؟

يعد الذكاء الاصطناعي أداة دعم فعالة للأطباء.

لا يمكن للذكاء الاصطناعي أن يحل محل الإنسان في اتخاذ القرار الطبي.

يتعلق ذلك بتقدير المخاطر الفردية والمسؤولية الأخلاقية والقانونية.

يفتقر الذكاء الاصطناعي للقدرة على فهم السياق البشري الكامل للحالة.

لا يمتلك الذكاء الاصطناعي التعاطف أو الحكم السريري المعقد الذي يطوره الأطباء.

كيف نضمن سلامة استخدام الذكاء الاصطناعي في الطب؟

يكمن الحل في مراجعة بشرية دقيقة لكل توصية.

يجب تطبيق معايير سلامة سريرية واضحة قبل استخدام أي نظام ذكاء اصطناعي في العلاج الطبي.

يضمن هذا أن يدعم الذكاء الاصطناعي الأطباء بدلاً من أن يحل محلهم.

تعد هذه الدراسة تحذيراً صارماً للمستشفيات والمطورين والهيئات التنظيمية.

يجب أن تكون السلامة المعيار الأول في دمج الذكاء الاصطناعي في الرعاية الصحية.

متى يجب استشارة الطبيب فوراً؟

• عند تلقي توصية طبية من نظام ذكاء اصطناعي تثير الشك أو القلق.
• إذا كانت التوصية تتعارض مع نصيحة طبيب بشري مختص.
• في حال ظهور أي أعراض جديدة أو تفاقم أعراض موجودة بعد اتباع توصية من الذكاء الاصطناعي.