एक विडंबनापूर्ण मोड़ में, जो पेशेवर क्षेत्रों में एआई को अपनाने की चुनौतियों को उजागर करता है, एंथ्रॉपिक के अपने क्लॉड एआई ने कंपनी के लिए अदालत में मुश्किलें खड़ी कर दी हैं।
गुरुवार, 15 मई 2025 को, लेथम एंड वॉटकिंस की वकील इवाना डुकानोविच ने उत्तरी कैलिफोर्निया की एक संघीय अदालत में औपचारिक रूप से माफी मांगी, जब उन्होंने कानूनी संदर्भ तैयार करने के लिए क्लॉड का उपयोग किया, जिसमें मनगढ़ंत जानकारी थी। यह काल्पनिक संदर्भ एंथ्रॉपिक की डेटा साइंटिस्ट ओलिविया चेन के एक घोषणा-पत्र में शामिल था, जो कंपनी के म्यूजिक पब्लिशर्स के साथ चल रहे कॉपीराइट विवाद में विशेषज्ञ गवाह के रूप में पेश हुई थीं।
यह मुकदमा यूनिवर्सल म्यूजिक ग्रुप, कॉनकॉर्ड और एबीकेसीओ द्वारा दायर किया गया है, जिसमें आरोप है कि एंथ्रॉपिक ने अपने क्लॉड एआई मॉडल को प्रशिक्षित करने के लिए कॉपीराइट वाले गीतों के बोलों का अनुचित रूप से इस्तेमाल किया। प्रकाशकों का दावा है कि एआई को कम से कम 500 गानों के बोलों पर प्रशिक्षित किया गया, जिनमें बेयोंसे, द रोलिंग स्टोन्स और द बीच बॉयज़ जैसे कलाकारों के गाने शामिल हैं, और इसके लिए उचित अनुमति नहीं ली गई।
अदालत के दस्तावेजों के अनुसार, डुकानोविच ने क्लॉड से द अमेरिकन स्टैटिस्टिशियन नामक एक वैध अकादमिक जर्नल लेख के लिए संदर्भ को फॉर्मेट करने को कहा था, जिसका चेन ने हवाला दिया था। क्लॉड ने प्रकाशन का सही शीर्षक, वर्ष और लिंक तो दिया, लेकिन फर्जी लेखक और गलत शीर्षक गढ़ दिए। वकील की 'मैन्युअल संदर्भ जांच' में ये त्रुटियां पकड़ी नहीं जा सकीं और वे सबमिशन में चली गईं।
अमेरिकी मजिस्ट्रेट जज सुसन वैन केयूलन ने इस घटना पर गंभीर चिंता व्यक्त की और कहा कि 'एक छूटा हुआ संदर्भ और एआई द्वारा उत्पन्न कल्पना में बहुत बड़ा अंतर है।' इसके जवाब में, लेथम एंड वॉटकिंस ने भविष्य में ऐसी घटनाओं को रोकने के लिए 'अतिरिक्त समीक्षा के कई स्तर' लागू किए हैं।
यह मामला कानूनी कार्यवाहियों में एआई की कल्पनाशील गलतियों की बढ़ती सूची में शामिल हो गया है। इसी महीने की शुरुआत में, कैलिफोर्निया के एक जज ने 'फर्जी एआई-जनित शोध' जमा करने के लिए दो लॉ फर्मों पर $31,100 का जुर्माना लगाया। एक अन्य हालिया मामले में, एक वकील को चैटजीपीटी से फर्जी कानूनी संदर्भ तैयार करने के कारण नौकरी से निकाल दिया गया। कानूनी विशेषज्ञों का कहना है कि एआई टूल विचार-मंथन के लिए उपयोगी हो सकते हैं, लेकिन वे पारंपरिक कानूनी शोध और सत्यापन प्रक्रियाओं की जगह नहीं ले सकते।
जैसे-जैसे पेशेवर क्षेत्रों में एआई का उपयोग बढ़ रहा है, यह घटना इस तकनीक की सीमाओं और मानवीय निगरानी के महत्व की चेतावनी देती है, खासकर अदालत जैसे उच्च-जोखिम वाले माहौल में, जहां सटीकता और विश्वसनीयता सर्वोपरि है।