Компания Microsoft создала в Word интеллектуального агента для юристов. Будем надеяться, что он не выйдет из-под контроля.

В Microsoft Word появится юридический агент на основе искусственного интеллекта, что звучит полезно, пока не вспомнишь, к чему это привело раньше. Новый юридический агент может проверять контракты, предлагать правки, сравнивать версии и отмечать рискованные пункты в Word. На бумаге эти функции кажутся довольно полезными и удобными, однако случаи, когда инструменты генеративного ИИ создавали целые судебные дела, цитаты и ссылки из ничего, уже приводили реальных людей к проблемам в суде.

Что может сделать юридический представитель Microsoft?

Компания Microsoft заявляет, что функция Legal Agent доступна через Copilot в Word для пользователей программы Frontier в США. В настоящее время она работает в настольной версии Word для Windows. Отдельное приложение или установка не требуются, хотя некоторым пользователям может потребоваться перезапустить Word, прежде чем агент появится.

Приложение Legal Agent предназначено для проверки контрактов и документов. Microsoft утверждает, что оно может проверять каждый пункт контракта по юридической схеме, анализировать полный текст соглашения, сравнивать различные версии, отмечать риски и обязательства, а также предлагать правки с отслеживанием изменений. При этом сохраняется исходное форматирование, таблицы, списки и история переговоров.

Компания также пытается избежать очевидного кошмарного сценария как для своих пользователей, так и для себя. Функция имеет встроенные средства защиты, такие как предоставление ссылок на исходный текст, чтобы рецензенты могли проверять предложения перед их использованием, а также четкие оговорки о том, что она не является юридической консультацией, может содержать неточный контент и требует проверки квалифицированным юристом, прежде чем на что-либо полагаться.

Почему юристам всё ещё стоит нервничать?

Уже есть прецеденты злоупотребления ИИ в юридической сфере: в 2023 году два нью-йоркских адвоката были оштрафованы на 5000 долларов за подачу в суд документов, содержащих фальшивые судебные дела, сгенерированные ChatGPT. Майкл Коэн, бывший адвокат Дональда Трампа, также признал, что неосознанно предоставил своему адвокату фальшивые ссылки на судебные дела, сгенерированные Google Bard. Хотя Коэн не был наказан, судья все же назвал этот эпизод постыдным и подчеркнул необходимость скептицизма при использовании ИИ в юридической работе.

Это не единичные случаи, поскольку судьи неоднократно допрашивали или наказывали адвокатов в ситуациях, связанных с подачей документов с помощью ИИ, а один французский специалист по анализу данных и юрист за последний год выявил сотни судебных документов, содержащих поддельные ссылки и несуществующие указания .

Более серьезная проблема заключается в том, что галлюцинации остаются неразрешенными . Чат-боты с искусственным интеллектом по-прежнему могут выдавать ответы, которые звучат уверенно, но при этом частично или полностью неверны. В юридической практике это особенно опасно, поскольку вымышленная ссылка или придуманное дело могут попасть в судебный процесс и повлечь за собой серьезные последствия.

Microsoft внедрила множество мер защиты в Legal Agent для предотвращения подобных проблем, однако уроки уже изложены в судебных протоколах. Искусственный интеллект может ускорить юридическую работу, но ответственность за проверку фактов по-прежнему лежит на юристе.