«Показания умершего», созданные с помощью искусственного интеллекта, бросают вызов этическим границам суда

Человеку, который в меня стрелял, я хочу сказать: мне жаль, что мы встретились в тот день при плохих обстоятельствах. Может быть, мы сможем стать друзьями в следующей жизни… Я верю в прощение и в то, что Бог простит, и я до сих пор так считаю.

Об этом суду сообщил Крис Пелки, один из пострадавших от стрельбы.

Но это был не он. Он трагически погиб в результате стрельбы на дороге в 2021 году.

Видеоролик с использованием искусственного интеллекта, показанный на суде, был создан с использованием изображения и голоса Пелки.

Но что еще более удивительно, так это то, что произошло дальше: судья принял это заявление жертвы о воздействии, созданное с помощью искусственного интеллекта, в качестве показаний на этапе вынесения приговора.

Это был судебный процесс, который состоялся 1 мая этого года в окружном суде в Аризоне и вызвал беспрецедентный шок в уголовном суде и даже во всем англо-американском юридическом мире.

Это также создает прецедент, когда контент, созданный с помощью ИИ, может быть представлен в суд в качестве доказательства и принят судом.

Судебный процесс вызвал бурю возмущения на таких платформах, как YouTube и Reddit, причем многие пользователи сети выразили свое непонимание решения судьи принять показания искусственного интеллекта.

Некоторые считают, что дежурный судья Тодд Лэнг «глуп» и должен быть отстранен от должности судьи вышестоящими органами.

Пользователь сети, представившийся адвокатом, выразил шок: «Если бы я нанял кого-то, чтобы он сделал что-то подобное в суде, меня бы не только остановили в суде, но и коллегия адвокатов начала бы против меня расследование».

На первый взгляд кажется абсурдным и глупым, что суд принимает показания, полученные с помощью искусственного интеллекта в пользу погибшей жертвы. Оппозиционная позиция этих пользователей сети полностью оправдана.

Но учитывая, что эта видеозапись показаний была сделана семьей жертвы и не вызвала возражений со стороны ответчика и суда, ситуация действительно немного странная, и, похоже, здесь происходит что-то еще.

Давайте подробнее рассмотрим это невероятное испытание.

За свидетельством мертвого ИИ: любовь и прощение

Когда Стейси Уэйлс пришла в голову идея создания видеороликов с использованием искусственного интеллекта в качестве свидетельских показаний, она знала, что это вызовет споры.

Даже ее мужу поначалу было трудно это принять, и он подумал, что она «возможно, зашла слишком далеко».

Уэйлс — сестра Криса Пелки, жертвы по данному делу и человека, погибшего в результате стрельбы на дороге. Она и ее муж работают в сфере технологий и не понаслышке знакомы с инструментами создания искусственного интеллекта.

Обвиняемый должен понести наказание по закону, а жертвы также надеются, что суд сможет назначить максимальное наказание, чтобы утешить душу Пелки на небесах. Уэльс хочет, чтобы стрелок Габриэль Хоркаситас провел остаток своей жизни в тюрьме или, по крайней мере, был приговорен к максимальному наказанию за непредумышленное убийство.

Но она также верит, что дух ее брата на небесах может так не думать.

После двух лет раздумий и разговоров с десятками друзей брата Уэйлс снова узнал своего брата и был совершенно уверен в одном:

Сама она, возможно, не сможет простить подсудимого, но ее брат его обязательно простит.

Ничто не может вернуть Пелки к жизни. Но, по крайней мере, ИИ могла дать своему брату последний шанс выразить себя — так посчитала Уэльс и в конце концов убедила мужа.

Она понимала, что если она решится на это, ей придется быть очень осторожной и осмотрительной. Если бы сценарий видео был плох, эффект был бы далеко неудовлетворительным.

Она сделала это сразу же: отсортировала большое количество дополнительных описаний из записей интервью за эти годы, выделила то, что, по ее мнению, наиболее близко соответствовало образу ее брата и тому, что он в конечном итоге мог бы сказать в суде, и написала сценарий.

Для создания видео они использовали портретную фотографию Пелки, а также методы Stable Diffusion и LORA. В ходе процесса некоторые эффекты были искажены. Например, Уэйлс надеялся, что его брат сможет «улыбнуться» людям, которых он любил и которые любили его в последний раз на видео, но длинная борода, покрывающая его шею на фотографии, оказалась сложной задачей. Им пришлось «подстричь» его бороду и снять солнцезащитные очки, прикрепленные к его шляпе, чтобы сделать внешность и улыбку Пелки более реалистичными в сгенерированном видео.

Полученное видео не является полностью полным и связным, с очевидными прерываниями и склейками в середине. Но это не имеет значения. Уэйлс воссоздала в видеоролике голос, внешность и улыбку своего брата, и результат ее удовлетворил.

«Всем привет. Прежде всего, позвольте мне пояснить, что я Крис Пелки, который был создан искусственным интеллектом с использованием фотографий и звуковых данных. Сегодня я встречаюсь с вами в форме цифровой репродукции и надеюсь поделиться тем, какой я человек в реальной жизни», — говорит цифровой близнец Пелки в начале видео.

Из этого видео, созданного искусственным интеллектом, зрители могут увидеть более полную личность Пелки: когда-то он служил в армии США и находился в зоне боевых действий с суровыми условиями; Он увлекается рыбалкой, носит бороду, но не неряшлив и почти соответствует всем стереотипам о закаленном ветеране.

Он любит Бога, любит жизнь и любит окружающих его людей и считает веру и любовь единственным кредо в своей жизни.

«Габриэлю Хоркаситасу, человеку, который застрелил меня: мне жаль, что мы встретились в тот день при плохих обстоятельствах. Может быть, в следующей жизни мы сможем быть друзьями… Я верю в прощение, в прощение Бога, я всегда верил и верю до сих пор».

В видео цифровой двойник Пелки пошутил, как и в реальной жизни: «Старение — это роскошный дар, которым не каждый может насладиться. Сейчас у меня нет такой возможности, но эта отфильтрованная фотография позволит вам увидеть, как я буду выглядеть, когда стану старой и слабой. Вас это пугает?»

Предмет спора: следует ли и когда следует допускать показания ИИ в суде?

Идея уважения автономной воли других более популярна в западном обществе. Однако споры пользователей сети по поводу этого инцидента вызваны не тем, что видео сняла семья погибшего, а тем, что видео было передано в суд.

Более того, адвокат подсудимого и судья не высказали никаких возражений на месте происшествия.

Еще более возмутительно то, что по какой-то причине судья решил принять это видео в качестве доказательства.

Обычно считается, что заявления, сделанные человеком, который не присутствовал при этом и не руководствовался собственной волей, будь то в текстовой или видеозаписи, не могут и не должны использоваться в качестве свидетельских показаний.

Ранее не было прецедента, когда показания, полученные с помощью ИИ, принимались к рассмотрению; В некоторых других случаях аналогичный контент, созданный с помощью ИИ, был представлен в суд, но он не только не был принят в качестве доказательства, но и виновные были сурово наказаны: им либо предъявлялись обвинения в неуважении к суду, либо они были обязаны выплатить штраф.

Является ли этот случай непредумышленного убийства особенным?

Знаете что, это действительно немного другое.

В отличие от континентальной правовой системы, которая объединяет осуждение и вынесение приговора, англо-американское право принимает принцип процессуального разделения осуждения и вынесения приговора. Фаза вынесения обвинительного приговора по делу завершена, обвиняемый больше не может избежать вины, и судебный процесс вступил в фазу вынесения приговора — именно на этой фазе Уэйлс, одна из жертв, представила видео в суд.

Точнее говоря, эти сгенерированные искусственным интеллектом видеопоказания не являются «доказательствами» в уголовном смысле, поскольку они были представлены суду на этапе вынесения приговора.

На этапе вынесения приговора обвинение может искать свидетелей (например, Уэйлса, родственника покойного) для дачи показаний, которые помогут суду лучше понять вред, причиненный делом, и таким образом добиться вынесения приговора, ожидаемого обвинением. Обратное также верно: защита может также привлечь свидетелей для дачи показаний, которые рисуют более благоприятную картину характера подсудимого и тем самым смягчают наказание, — даже если эти свидетели не имеют никакого отношения к самому делу.

Короче говоря, показания на этапе вынесения приговора призваны повлиять на решение судьи о суровости наказания, которое должно быть назначено виновному лицу, что допускается судом.

Однако в этом случае большинство очевидцев могли упустить из виду ряд деталей: протоколы суда показывают, что обвинение настаивало на 9-летнем сроке лишения свободы; Уэйлс в своих показаниях просила судью назначить ей максимальное наказание в виде 10 лет и 6 месяцев; Однако из видеозаписи, снятой с помощью искусственного интеллекта и созданной Уэйлсом, следует, что цифровой двойник Пелки, по-видимому, простил подсудимого.

Возможно, именно поэтому судья Тодд Лэнг сказал, что ему понравился ИИ, и он услышал в нем намек на прощение.

Посмотрев видео, он сказал Уэйлсу: «Ваши показания показали мне, что вы были в гневе и выступали за максимальное наказание. Но даже если вы этого хотели, вы позволили Крису высказать свое мнение — свою версию истории. Я не слышал, чтобы он просил о максимальном наказании».

В итоге судья вынес максимальное наказание в виде 10 лет и 6 месяцев. Обвиняемый также обжаловал приговор.

Маура Гроссман, профессор Университета Ватерлоо и исследователь в области права в области искусственного интеллекта, отметила, что, учитывая, что это дело рассматривалось в суде без участия присяжных, а не в суде присяжных, и что представленное видео с использованием искусственного интеллекта не было «доказательством» в уголовном смысле, влияние видео на дело было относительно ограниченным и не сыграло решающей роли.

Гэри Марчант, профессор права в Университете штата Аризона, считает, что по сравнению со злонамеренными действиями по использованию ИИ для фабрикации несуществующих дел или законов, такого рода показания, генерируемые ИИ, который делает все возможное, чтобы правдиво представить голос жертвы, не содержат в себе никакого злого умысла и, следовательно, не нуждаются в противодействии.

Тем не менее, использование показаний, полученных с помощью искусственного интеллекта, в этом деле, и особенно неожиданные обстоятельства, при которых они были приняты, создали сенсационный и спорный прецедент.

Суд — серьезное место, которое крайне чувствительно к ложной информации. Англо-американское право — это правовая система, которая в большинстве случаев следует системе прецедентного права. Вопрос о том, может ли информация, полученная с помощью ИИ, быть принята в качестве действительных показаний в суде, а также когда и при каких обстоятельствах, кажется чрезвычайно сложным и трудным юридическим и этическим вопросом. Очевидцы посчитали, что решение судьи было слишком поспешным.

Но, по крайней мере, цель Уэльса была достигнута.

«Мы надеемся произвести впечатление на судью. Наша цель — показать настоящего Криса, каким человеком он был», — сказала она.

#Добро пожаловать на официальный публичный аккаунт WeChat iFanr: iFanr (WeChat ID: ifanr), где вам будет представлен еще более интересный контент как можно скорее.

iFanr | Исходная ссылка · Просмотреть комментарии · Sina Weibo