أصبحت أنظمة الذكاء الاصطناعي مثل ChatGPT بارعة بشكل ملحوظ في توليد إجابات تبدو مقنعة لأي سؤال تقريباً. ومع ذلك، غالباً ما تفشل هذه الأنظمة في الاعتراف بحدود معرفتها أو التعبير عن عدم اليقين عند الحاجة، وهو قصور يشكل مخاطر كبيرة مع تسارع تبني الذكاء الاصطناعي في القطاعات الحيوية.
تأسست Themis AI في عام 2021 على يد باحثين من معهد MIT هم دانييلا روس وألكسندر أميني وإلهه أحمدي، وقد طورت حلاً لهذه المشكلة. حيث تتيح منصتهم كابسا (Capsa) إمكانية دمجها مع أي نموذج تعلم آلي لاكتشاف وتصحيح المخرجات غير الموثوقة خلال ثوانٍ معدودة.
يقول أميني، الشريك المؤسس في Themis AI: "جميعنا شاهدنا أمثلة على الذكاء الاصطناعي وهو يهلوس أو يرتكب أخطاء. ومع الانتشار الواسع للذكاء الاصطناعي، قد تؤدي هذه الأخطاء إلى عواقب وخيمة. Themis تتيح لأي ذكاء اصطناعي التنبؤ بأخطائه قبل وقوعها".
تعتمد التقنية على تعديل النماذج بحيث تتعرف على الأنماط في معالجة البيانات التي تشير إلى الغموض أو النقص أو التحيز. وهذا يمكّن النماذج من قياس مدى عدم يقينها في كل مخرَج والتنبيه للأخطاء المحتملة. وتتميز عملية التطبيق بالبساطة الشديدة، إذ تتطلب فقط بضعة أسطر برمجية لتحويل أي نموذج قائم إلى نموذج واعٍ بعدم اليقين.
تُستخدم كابسا بالفعل في عدة قطاعات. فشركات الأدوية تعتمد عليها لتحسين نماذج الذكاء الاصطناعي التي تحدد المرشحين للأدوية وتتنبأ بنتائج التجارب السريرية. كما بدأ مطورو نماذج اللغة الكبيرة في تطبيقها لتمكين إجابات أكثر موثوقية وتنبيه المستخدمين للمخرجات غير الموثوقة. وتخوض Themis AI أيضاً محادثات مع شركات أشباه الموصلات لتعزيز حلول الذكاء الاصطناعي في بيئات الحوسبة الطرفية.
تقول روس، مديرة مختبر علوم الحاسوب والذكاء الاصطناعي في MIT: "من خلال القياس التلقائي لعدم اليقين العشوائي والمعرفي، تُعد كابسا تقنية ثورية تمكّن من اكتشاف أخطاء النماذج قبل أن تتحول إلى أخطاء مكلفة. إنها توسع من استخدامات أنظمة الذكاء الاصطناعي في التطبيقات التي تتطلب السلامة والموثوقية مثل الروبوتات والقيادة الذاتية".
ومع استمرار تطور الذكاء الاصطناعي وانتشاره في القطاعات الحيوية، ستلعب حلول مثل كابسا دوراً محورياً في بناء أنظمة أكثر موثوقية تعترف بحدودها، وهو ما يمثل خطوة أساسية نحو نشر الذكاء الاصطناعي بشكل مسؤول في البيئات الحساسة.