Генеративный ИИ снова галлюцинирует, на этот раз в документах федерального суда

Что произошло: Итак, это начинает происходить. Суды по всему миру получают от юристов юридические документы, полные… вернее, лжи, выдуманной искусственным интеллектом .

• Мы говорим о полностью сфабрикованных судебных делах, поддельных цитатах и ​​цитатах, которых просто не существует.
• Французский специалист по анализу данных и юрист Дэмьен Шарлотен следил за этим. За последние полгода он обнаружил как минимум 490 судебных исков, содержащих подобные «галлюцинации» ИИ.
• Большинство из них из США, где судьи вызывают (и даже штрафуют) адвокатов за передачу этой чепухи, созданной искусственным интеллектом .
• В одном крупном деле адвокат MyPillow фактически подал иск, в котором было около 30 фальшивых повесток. Ужас.

Почему это важно: Это не только проблема юристов; это огромная дилемма для всех .

• Мы все начинаем использовать эти инструменты ИИ для самых разных целей: для составления отчетов, подведения итогов совещаний, проведения исследований.
• Проблема в том, что ИИ невероятно хорошо умеет казаться уверенным, даже когда он совершенно неправ. Он даёт ответ, который кажется правдоподобным, но на самом деле… ложный.
• Как сказал Шарлотин, «ИИ может быть благом, но есть подводные камни». Даже умные и опытные люди попадаются на его уловки , и это огромный риск для любой компании, которая полагается на результаты работы ИИ, не перепроверяя их.

Почему это должно меня волновать: Послушайте, будь вы учитель, юрист или менеджер, ИИ становится частью вашей работы. Избежать этого невозможно. Но, как предупреждают эксперты, ни в коем случае нельзя использовать эти инструменты бездумно.

• Мария Флинн, генеральный директор Jobs for the Future, цитируемая в отчете AP, выразила это очень точно: относитесь к ИИ как к «помощнику, а не как к замене».
• Вам всё равно придётся быть человеком, который в курсе событий. Вам нужно проверять факты, убедиться, что вы не нарушаете законы о конфиденциальности, и, пожалуйста, не загружайте секретные данные вашей компании.
• Как сказал другой адвокат: «Люди считают, что это правильно, потому что это звучит правильно, — но это предположение может вам дорого обойтись». Оно может стоить вам репутации, работы или даже привести к юридическим проблемам.

Что дальше: Суть в том, что нам всем нужно научиться более грамотно использовать ИИ. И как можно быстрее.

• Компаниям настоятельно рекомендуется провести обучение своих сотрудников работе с этой штукой: как проверять ее работу, как ее безопасно использовать и чего не следует делать.
• Это становится базовым профессиональным навыком. Как сказал Флинн: «Самая большая проблема — вообще не научиться использовать ИИ». Будущее не в том, чтобы ИИ заменил людей, а в том, чтобы люди знали, как использовать ИИ ответственно.