هل يمكن الاعتماد على ChatGPT بالمشورات الطبية؟
رغم إطلاقه منذ نوفمبر الماضي، لم يتوقف الحديث عن روبوت الدردشة الشهير ChatGPT، الذي استحوذ على اهتمام كبير من عشاق أدوات الذكاء الاصطناعي.
يأتي ذلك لقدرته الهائلة على الراد على جميع الاستفسارات، وكتابة المقالات، وحل المسائل الحسابية المُعقّدة، بل وكتابة الشعر والأغاني، بالإضافة إلى إنشاء محادثات دردشة واقعية ومتماسكة.
تم تدريب ChatGPT على كمية هائلة من بيانات النص، وهو قادر على التواصل وإنشاء نص يشبه الإنسان استجابة لمجموعة واسعة من المطالبات والأسئلة.
لكن في المقابل، كانت هناك تحذيرات من استخدام ChatGPT في المشورة الطبية وعلاج الأمراض، لأنه يمكن أن يقود إلى التشخيص الخاطئ أو العلاج الخاطئ، كما أن هناك دراسة حديثة أثبتت أن روبوت الدردشة الشهير لديه أسلوب يبدو أنه يخدع الناس ليعتقدوا أنه أكثر ذكاء.
خطط علاجية خاطئة
وفي أحدث تقييم لمدى مصداقية ودقة ردود ChatGPT فيما يتعلق بالمشورة الطبية، وجدت دراسة جديد أجراها باحثون بمستشفى بريجهام والنساء، التابع لكلية الطب بجامعة هارفارد الأمريكية، أن خطط روبوت الدردشة ChatGPT لعلاج السرطان تعاني من مشكلة مألوفة.
وأوضحت الدراسة المنشورة في دورية (JAMA Oncology) التابعة للجمعية الطبية الأمريكية، أن خطط ChatGPT لعلاج السرطان مليئة بالأخطاء، واختلطت توصيات العلاج غير المناسبة بالتوصيات الصحيحة؛ ما يجعل من الصعب التمييز بينها بشكل خاص.
وأشارت الدراسة أيضًا إلى أن روبوت الدردشة لديه ميل إلى مزج المعلومات الصحيحة وغير الصحيحة معًا، بطريقة تجعل من الصعب تحديد ما هو دقيق.
ووجد الباحثون أنه من بين إجمالي 104 استفسارات، تضمنت نحو 98% من ردود ChatGPT توصية علاجية واحدة على الأقل تتوافق مع إرشادات الشبكة الوطنية الشاملة للسرطان، لكنهم وجدوا أيضًا أن نحو ثلث تلك التوصيات يحتوي على اقتراحات غير صحيحة.
علاوة على ذلك، فشل روبوت الدردشة في كثير من الأحيان في تقديم استجابات قابلة للتنفيذ.
وأشار الباحثون إلى أن نحو 12% من الإجابات تعاني من الهلوسة، وتضمنت توصيات لم ترد في إرشادات الشبكة الوطنية الشاملة للسرطان.
وأضافوا أن ChatGPT يتحدث في كثير من الأحيان بطريقة مؤكدة جدًا تبدو منطقية، وطريقة خلطه للمعلومات غير الصحيحة والصحيحة خطيرة، ومن الصعب حتى على الخبير تحديد التوصية غير الصحيحة.
وخلص الباحثون إلى أن “هذه القيود تشير إلى أنه ينبغي استخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي بشكل تكميلي وليس كمصدر أساسي للمعلومات الطبية”.
وأفادوا بأن روبوت الدردشة لا يزعم أنه جهاز طبي، لكن من المرجح أن يستخدم المرضى مثل هذه التقنيات في تعليمهم الذاتي؛ ما قد يؤثر على عملية صنع القرار المشتركة والعلاقة بين المريض والطبيب؛ لذلك يجب على المرضى والأطباء أن يكونوا على دراية بقيود هذه التقنيات.
لماذا لا يجب استخدام ChatGPT للمشورة الطبية؟
منذ ظهوره، كانت هناك تحذيرات من استخدام ChatGPT في المعلومات الطبية والأمراض. وقد أصدرت شركة OpenAI التي طورت ChatGPT، تحذيرًا من استخدامه للحصول على المشورة الطبية.
وذكرت الشركة أن روبوت الدردشة غير مرخص لتقديم المشورة الطبية، وأنه يمكن أن يؤدي استخدامه إلى التشخيص الخاطئ أو العلاج الخاطئ.
كما أصدرت جمعية القلب الأمريكية والجمعية الأمريكية للسرطان تحذيرات من استخدام ChatGPT للحصول على المشورة الطبية، لأنه يمكن أن يكون مضللًا وغير دقيق، وأن استخدامه يمكن أن يعرض المستخدمين لخطر اتخاذ قرارات طبية خاطئة.
وهناك عدة أسباب للقلق بشأن استخدام ChatGPT للحصول على المشورة الطبية.
أولا: تم تدريب ChatGPT على كمية هائلة من بيانات النص، بما في ذلك بعض البيانات الطبية. ومع ذلك، لا يتم تنظيم أو مراجعة هذه البيانات؛ ما يعني أنها قد تكون غير دقيقة أو مضللة.
ثانيًا: يمكن أن يكون ChatGPT عرضة للتحيز؛ ما يعني أنه قد يعطي معلومات غير دقيقة أو مضللة عن بعض المجموعات السكانية.
ثالثًا: لا يمكن لـ ChatGPT فهم السياق الطبي للحالة الفردية؛ ما يعني أنه قد لا يتمكن من تقديم المشورة الطبية المناسبة.
وهناك بعض الأخطاء التي يمكن أن تحدث عند استخدام ChatGPT للمشورة الطبية أبرزها:
التشخيص الخاطئ
قد يعطي ChatGPT معلومات خاطئة أو مضللة عن حالة طبية معينة، ويمكن أن يؤدي هذا إلى تشخيص خاطئ، مما قد يؤدي إلى العلاج غير المناسب.
العلاج غير المناسب
قد يوصي ChatGPT بعلاج غير مناسب لحالة طبية معينة، وذلك يمكن أن يؤدي إلى تفاقم الحالة أو حتى الموت.
العواقب المترتبة على عدم العلاج
قد يثني ChatGPT المستخدمين عن طلب المشورة الطبية المهنية، ويمكن أن يؤدي هذا إلى تأخير العلاج أو عدم تلقي العلاج على الإطلاق، مما قد يؤدي إلى مضاعفات خطيرة.
لذلك؛ إذا كنت تعاني من مرض أو إصابة، فيرجى استشارة مقدمي الرعاية الصحية، إذ يمكن للطبيب المتخصص تشخيص حالتك بشكل صحيح وتقديم أفضل علاج ممكن.
