В США из-за фейков ИИ судья оштрафовал две юридические фирмы на $31000

Судья в Калифорнии оштрафовал две юридические фирмы на 31 000 долларов после того, как выяснилось, что они включили в юридическую документацию фальшивое, сгенерированное ИИ исследование, пишет The Verge.

Отмечается, что речь идет о судебном документе — заключении по гражданскому иску против страхового гиганта State Farm. После его подачи проверка заключения выявила, что оно содержало фальшивое данные, что привело к включению «многочисленных ложных, неточных и вводящих в заблуждение юридических ссылок и цитат», написал судья Майкл Уилнер в своем постановлении.

Согласно постановлению, только после того, как судья запросил дополнительную информацию об этом наполненном ошибками документе, юристы участвующих фирм признались, что использовали генеративный ИИ. И если бы это не заметили, предупредил Уилнер, этот «AI-мусор» мог бы попасть в официальное судебное постановление.

«Я прочитал их заключение, был убежден (или, по крайней мере, заинтригован) приведенными ими источниками и стал искать эти решения, чтобы узнать о них больше — только чтобы обнаружить, что они не существуют», — написал Уилнер в постановлении.

«Это почти привело к еще более пугающему результату (с моей точки зрения), — добавил он.

Адвокат из одной из вовлеченных фирм использовал Gemini от Google и несколько других ИИ-инструментов, ориентированных на юриспруденцию, чтобы подготовить первоначальный набросок. Этот набросок содержал множество ошибок, но был передан в другую юридическую фирму без каких-либо исправлений. Вторая фирма также не заметила и не исправила подделки.

«Ни один адвокат или сотрудник в обеих фирмах, по-видимому, не проверил ссылки или как-либо иначе не пересмотрел это исследование перед подачей заключения», — написал Уилнер в постановлении.

После подачи документа судебная проверка показала, что из 27 юридических ссылок в документе девять «были ошибочными в той или иной форме», и «как минимум два упомянутых источника вообще не существуют». Уилнер также установил, что цитаты, приписываемые упомянутым судебным решениям, были фальшивыми и неточно передавали суть этих материалов.

Что касается его решения наложить столь крупные штрафы, Уилнер указал на вопиющий характер допущенных ошибок, в сочетании с тем, насколько убедительными оказались вымышленные ответы ИИ.

«Необходима сильная мера устрашения, чтобы адвокаты не поддавались на этот легкий путь», — добавил Уилнер.

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.