«Галлюцинации» ИИ в судебных документах создают проблемы для юристов

Американская юридическая фирма Morgan & Morgan уведомила более тысячи своих сотрудников о том, чтобы они остерегались «галлюцинаций» инструментов искусственного интеллекта при подготовке судебных документов. Такие инструменты способны «придумывать» фальшивые судебные прецеденты, а использование выдуманной информации может привести к увольнению юристов.

Федеральный судья в Вайоминге уже пригрозил наложить санкции на двух юристов фирмы, которые включили фиктивные ссылки на дела в иск против Walmart. Один из них признал, что использовал программу ИИ, которая фактически «выдумала» несуществующие дела. Юрист принёс извинения и заявил о непреднамеренной ошибке. 

Это не первый подобный прецедент за последние пару лет. Однако дело Walmart выделяется тем, что в нём фигурируют известная юридическая фирма и крупный корпоративный ответчик. Пока судья ещё не вынес решение о том, следует ли наказывать юристов.

Несмотря на ошибки ИИ, многие юридические фирмы заключают контракты с поставщиками таких инструментов или разрабатывают собственные, чтобы сократить время на подготовку судебных документов. Согласно опросу Reuters, 63% юристов использовали ИИ для работы, а 12% отметили, что обращаются к этим инструментам регулярно.

Эксперты считают, что при работе с ИИ нужно тщательно уточнять всю предлагаемую им информацию, поскольку модели генерируют ответы на основе статистических закономерностей, полученных из больших наборов данных, а не путём проверки фактов в этих наборах.

Правила этики работы адвокатов также требуют, чтобы специалисты проверяли данные для судебных исков, иначе юристы могут быть привлечены к дисциплинарной ответственности. В прошлом году Американская ассоциация юристов сообщила своим членам, что эти обязательства