У іронічному повороті, що підкреслює виклики впровадження ШІ у професійному середовищі, власний Claude AI компанії Anthropic створив проблеми для самої компанії у суді.
У четвер, 15 травня 2025 року, адвокатка Івана Дуканович із Latham & Watkins офіційно вибачилася перед федеральним судом Північної Каліфорнії після того, як використала Claude для створення юридичної цитати, що містила вигадані дані. Ця «галюцинована» цитата з’явилася у декларації дата-сайентістки Anthropic Олівії Чен, яка виступала експертною свідкинею у триваючій справі компанії щодо авторських прав із музичними видавцями.
Позов, поданий Universal Music Group, Concord і ABKCO, стверджує, що Anthropic неправомірно використала захищені авторським правом тексти пісень для навчання своєї моделі Claude AI. Видавці заявляють, що ШІ було навчено на текстах щонайменше 500 пісень виконавців, серед яких Бейонсе, The Rolling Stones і The Beach Boys, без належного дозволу.
Згідно з судовими документами, Дуканович попросила Claude відформатувати посилання на справжню наукову статтю з журналу The American Statistician, на яку посилалася Чен. Claude правильно вказав назву видання, рік і посилання, але вигадав авторів і некоректну назву статті. «Ручна перевірка цитати» адвокатки не виявила цих помилок до подачі документів.
Суддя США Сьюзан ван Кюлен висловила серйозне занепокоєння інцидентом, зазначивши, що «існує величезна різниця між пропущеною цитатою та вигадкою, створеною ШІ». У відповідь Latham & Watkins впровадила «кілька додаткових рівнів перевірки», щоб запобігти подібним випадкам у майбутньому.
Ця справа поповнила зростаючий перелік інцидентів із «галюцинаціями» ШІ у судових процесах. Раніше цього місяця суддя у Каліфорнії оштрафував дві юридичні фірми за подання «фальшивих досліджень, згенерованих ШІ», зобов’язавши їх сплатити 31 100 доларів судових витрат. В іншому нещодавньому випадку адвоката звільнили після використання ChatGPT для створення фейкових юридичних цитат. Юридичні експерти попереджають, що ШІ може бути корисним для генерації ідей, але не здатен замінити традиційні процеси юридичних досліджень і перевірки.
У міру того, як впровадження ШІ у професійних сферах прискорюється, цей інцидент стає застереженням щодо обмежень технології та критичної важливості людського контролю, особливо у таких відповідальних сферах, як судові процеси, де точність і достовірність мають вирішальне значення.