في مفارقة تعكس تحديات تبني الذكاء الاصطناعي في البيئات المهنية، تسبب Claude AI التابع لشركة Anthropic بمشكلات قانونية للشركة نفسها في المحكمة.
في يوم الخميس 15 مايو 2025، قدمت المحامية إيفانا دوكانوفيتش من شركة Latham & Watkins اعتذاراً رسمياً لمحكمة فيدرالية بشمال كاليفورنيا بعد أن استخدمت Claude لإنشاء استشهاد قانوني تضمن معلومات ملفقة. ظهر الاستشهاد الوهمي في إفادة مقدمة من عالمة البيانات في Anthropic، أوليفيا تشين، والتي كانت تعمل كشاهد خبير في معركة حقوق النشر الجارية بين الشركة وناشري الموسيقى.
تتعلق الدعوى، التي رفعتها شركات Universal Music Group وConcord وABKCO، باتهام Anthropic باستخدام كلمات أغاني محمية بحقوق النشر لتدريب نموذج Claude AI الخاص بها. ويدعي الناشرون أن الذكاء الاصطناعي تم تدريبه على كلمات ما لا يقل عن 500 أغنية لفنانين مثل بيونسيه، ورولينغ ستونز، وThe Beach Boys دون الحصول على إذن مناسب.
وبحسب وثائق المحكمة، طلبت دوكانوفيتش من Claude تنسيق استشهاد لمقال أكاديمي صحيح من مجلة The American Statistician كانت تشين قد أشارت إليه. ورغم أن Claude قدم عنوان المجلة والسنة والرابط بشكل صحيح، إلا أنه اخترع أسماء مؤلفين مزيفة وعنواناً غير دقيق. ولم تتمكن مراجعة المحامية اليدوية للاستشهاد من اكتشاف هذه الأخطاء قبل تقديمها.
وأعربت القاضية الأمريكية سوزان فان كولين عن قلق بالغ إزاء الحادثة، مشيرة إلى أن هناك "فرقاً شاسعاً بين استشهاد مفقود واستشهاد وهمي أنشأه الذكاء الاصطناعي". ورداً على ذلك، قامت شركة Latham & Watkins بتطبيق "مستويات متعددة من المراجعة الإضافية" لمنع تكرار مثل هذه الحوادث.
وتنضم هذه القضية إلى قائمة متزايدة من حوادث الهلوسة التي يرتكبها الذكاء الاصطناعي في الإجراءات القانونية. ففي وقت سابق من هذا الشهر، فرض قاضٍ في كاليفورنيا عقوبات على شركتي محاماة لتقديمهما "أبحاثاً قانونية زائفة أنشأها الذكاء الاصطناعي"، وأمرهما بدفع 31,100 دولار كرسوم قانونية. وفي حادثة أخرى حديثة، تم فصل محامٍ بعد استخدامه ChatGPT لإنشاء استشهادات قانونية مزيفة. ويحذر خبراء القانون من أن أدوات الذكاء الاصطناعي قد تكون مفيدة في توليد الأفكار، لكنها لا يمكن أن تحل محل عمليات البحث القانوني والتحقق التقليدية.
ومع تسارع تبني الذكاء الاصطناعي في مختلف المجالات المهنية، تمثل هذه الحادثة درساً تحذيرياً حول حدود التقنية وأهمية الإشراف البشري، خاصة في البيئات الحساسة مثل قاعات المحاكم حيث الدقة والمصداقية أمران بالغَا الأهمية.