В нескольких словах
Впервые в США в суде по делу об убийстве выступил цифровой аватар жертвы, созданный с помощью искусственного интеллекта. Он обратился к осужденному с посланием о прощении, вызвав широкое обсуждение использования ИИ в судебной системе.
Письма шли потоком: от боевых товарищей, служивших вместе с Кристофером Пелки в Ираке и Афганистане, от его коллег-миссионеров и даже от партнерши по выпускному балу.
Перед судом выступили его племянница и племянник.
Тем не менее, самого важного для 47-летней Стейси Уэльс, старшей сестры Кристофера Пелки, голоса, скорее всего, никогда бы не услышали, когда пришло время судье в Аризоне выносить приговор мужчине, убившему ее брата во время ссоры на дороге в 2021 году — голоса самой жертвы.
У миссис Уэльс возникла мысль. Что если бы ее 37-летний брат, отслуживший три боевые командировки в армии США, мог высказаться сам на процессе по вынесению приговора? И что бы он сказал 54-летнему Гэбриелу Хоркаситасу, осужденному за непредумышленное убийство по его делу?
Ответ пришел 1 мая, когда миссис Уэльс нажала кнопку воспроизведения на ноутбуке в зале суда округа Марикопа, штат Аризона.
На 80-дюймовом экране телевизора, на котором до этого показывали фотографии с вскрытия мистера Пелки и записи с камер видеонаблюдения момента его смертельного выстрела на перекрестке в Чандлере, Аризона, появилось его цифровое подобие. Оно было создано с помощью искусственного интеллекта (ИИ).
«Жаль, что мы встретились в тот день при таких обстоятельствах», — произнес аватар мистера Пелки. «В другой жизни мы, вероятно, могли бы стать друзьями. Я верю в прощение и в Бога, который прощает. Я всегда верил и до сих пор верю».
В то время как использование ИИ распространилось в обществе, от текстов до мемов и дипфейков, его применение во время вынесения приговора мистеру Хоркаситасу, который получил максимальный срок — 10 с половиной лет тюрьмы, казалось беспрецедентным.
Эта новость вышла далеко за пределы зала суда, вызвав заголовки, вопросы и дебаты. Критики утверждали, что внедрение ИИ в юридические процессы может открыть двери для манипуляций и обмана, усугубляя и без того эмоциональный процесс выступления потерпевших.
Одно было ясно: почти четырехминутное видео произвело благоприятное впечатление на судью Тодда Лэнга из Высшего суда округа Марикопа, который похвалил его включение за несколько минут до вынесения приговора мистеру Хоркаситасу.
«Мне очень понравилось это ИИ-видео», — сказал судья Лэнг, описав его послание как подлинное. «Спасибо вам за это. И как бы вы ни были рассержены, и как бы справедливо ни была рассержена семья, я услышал прощение. И я знаю, что мистер Хоркаситас оценил это, но и я тоже».
Подобно тому, как приложения для социальных сетей стали помечать ИИ-генерируемый контент, видео началось с дисклеймера.
«Здравствуйте, просто чтобы было ясно для всех, кто это видит, я — версия Криса Пелки, воссозданная с помощью ИИ, использующего мою фотографию и мой голосовой профиль», — говорилось в нем. «Меня удалось цифрово регенерировать, чтобы поделиться с вами сегодня».
Хотя многие штаты предоставляют жертвам и их семьям возможность обратиться к суду во время вынесения приговора, некоторые более ограничительны в использовании видеопрезентаций и фотографий, по словам экспертов по правовым вопросам.
Но в Аризоне у потерпевших более широкие возможности. Миссис Уэльс рассказала в интервью в среду, что она узнала об этом, обсуждая идею использования ИИ с адвокатом по правам жертв, представлявшим семью мистера Пелки.
«Она сказала: 'Я не думаю, что такое когда-либо делали раньше'», — вспоминает миссис Уэльс.
Миссис Уэльс готовила свое заявление о влиянии преступления на жертву в течение двух лет, но, по ее словам, ему не хватало одного критически важного элемента.
«Я продолжала слышать, что сказал бы Крис», — сказала она.
Миссис Уэльс рассказала, что затем она обратилась за помощью к своему мужу и их давнему деловому партнеру, который использовал ИИ для помощи корпоративным клиентам с презентациями, включая одну с изображением генерального директора компании, который умер много лет назад.
Они взяли голос мистера Пелки из видео на YouTube, которое нашли, где он говорил после завершения лечения от ПТСР в учреждении для ветеранов. Для его лица и торса они использовали плакат мистера Пелки с похоронной службы, цифрово подстригли его густую бороду, удалили очки и отредактировали логотип с его кепки.
Миссис Уэльс сказала, что она написала сценарий, который был прочитан ИИ-подобием ее брата.
«Я знаю, что ИИ может быть использован в недобрых целях, и для некоторых это неудобно», — сказала миссис Уэльс. «Но это был просто еще один инструмент, чтобы рассказать историю Криса».
Ванесса Сеха-Сервантес, представитель прокурора округа Марикопа, сообщила по электронной почте, что офис не знал о случаях использования ИИ для представления заявления о влиянии преступления на жертву ранее.
Джейсон Д. Ламм, адвокат мистера Хоркаситаса, сказал в интервью, что было бы сложно запретить показ видео.
«У жертв, как правило, чрезвычайно широкие возможности выразить свое мнение при вынесении приговора, и правила доказывания не применяются на этом этапе», — сказал мистер Ламм. «Однако, возможно, это ситуация, когда они зашли слишком далеко, и апелляционный суд вполне может определить, что опора суда на ИИ-видео может представлять собой основание для отмены приговора и требовать повторного рассмотрения».
Миссис Уэльс подчеркнула, что видео с подобием ее брата было использовано только на этапе вынесения приговора, а не на любом из двух процессов мистера Хоркаситаса. Оба закончились обвинительными приговорами. Ему было предоставлено второе судебное разбирательство, поскольку прокуроры не раскрыли определенные доказательства во время первого, согласно судебным протоколам.
13 ноября 2021 года мистер Пелки остановился на красный свет в Чандлере, когда мистер Хоркаситас подъехал сзади и посигналил ему, что побудило мистера Пелки выйти из своего автомобиля и подойти к Volkswagen мистера Хоркаситаса, жестикулируя руками, как бы говоря «что, черт возьми», согласно заявлению о вероятной причине. Затем мистер Хоркаситас выстрелил в него, попав мистеру Пелки как минимум один раз в грудь.
Синтия Годсо, профессор Бруклинской школы права и бывший общественный защитник, помогающая разрабатывать лучшие практики для адвокатов Американской ассоциации адвокатов, заявила в интервью в четверг, что она обеспокоена разрешением использования ИИ при вынесении приговора.
«Это явно усилит эмоции больше, чем фотографии», — сказала миссис Годсо. «Я думаю, суды должны быть очень осторожны. Вещи могут быть изменены. Мы это знаем. Это очень скользкая дорожка».
В федеральных судах США комитет по нормотворчеству в настоящее время рассматривает стандарты доказательств для материалов, сгенерированных ИИ, когда стороны соглашаются, что они искусственно созданы, сказала Маура Р. Гроссман, адвокат из Буффало, входящая в целевую группу по ИИ Американской ассоциации адвокатов.
Миссис Гроссман, профессор Школы компьютерных наук Университета Ватерлоо, которая также преподает в Юридической школе Осгуд Холл в Канаде, не возражала против использования ИИ при вынесении приговора в Аризоне.
«Нет присяжных, на которых можно было бы оказать чрезмерное влияние», — сказала миссис Гроссман. «Я не нашла это этически или юридически проблематичным».
Затем был любопытный случай истца в недавней апелляции в штате Нью-Йорк, который попал в заголовки, когда попытался использовать ИИ-аватар для аргументации своего дела.
«Апелляционный суд ему отказал», — сказала миссис Гроссман.
