Família usa IA para reviver homem morto em briga de trânsito
Vídeo de homem foi usado em apelação para, aparentemente, diminuir a pena do julgamento. Juiz deu pena máxima. Família usa IA para reviver homem morto em briga de trânsito
Resumo
-
Uma vítima de homicídio foi revivida pela família, que utilizou IA para recriá-la em deepfake, com o objetivo de influenciar o julgamento de Gabriel Horcasitas, seu assassino.
-
O vídeo mostrava Chris Pelkey, a vítima, pedindo perdão e defendendo valores cristãos, em contraponto à possível imagem agressiva apresentada pela defesa.
-
O juiz do caso, Todd Lang, aplicou a pena máxima: dez anos e seis meses de detenção a Horcasitas.
Uma vítima de homicídio nos EUA foi “revivida” pela sua família para falar no recurso do julgamento do seu assassino. Chris Pelkey, morto por tiros em 2021 durante uma briga de trânsito, teve a voz recriada e usada em um deepfake no qual, aparentemente, perdoava Gabriel Paul Horcasitas — seu algoz. No entanto, Horcasitas saiu do tribunal com pena máxima.
A ideia de usar um deepfake partiu (veja só) da própria família de Pelkey. Sua irmã e o marido dela, que trabalham com IA, foram responsáveis por criar o vídeo e recriar a voz da vítima. A voz, como dito “pelo próprio Pelkey”, foi refeita analisando seu perfil vocal. A apresentação usada no tribunal conta com um vídeo real da vítima — a voz original não tem nada a ver com a voz gerada por IA.
O que diz o vídeo do homem revivido com IA?
No vídeo de 3 minutos e 50 segundos, Pelkey abre a apresentação explicando que ele é uma recriação de IA. Além de dizer como sua voz foi feita, ele explica que sua aparência utiliza uma foto da vítima. Fica difícil até chamar o vídeo de deepfake, pois parece mais uma edição feita em apps que animam fotos com musiquinhas.
Na sequência, um vídeo gravado quando Pelkey era vivo o mostra falando sobre perdão e Jesus Cristo. O veterano da Guerra do Iraque revela seu posicionamento cristão, argumentando que Deus e Jesus defendiam o amor ao próximo. Depois, a versão de IA retoma a apresentação.
O deepfake, então, destaca que esse era ele, e não a versão descrita no julgamento — mas aqui a coisa fica confusa. É provável que, durante o julgamento, a defesa tenha descrito Pelkey como um homem violento, na tentativa de atenuar a pena de Horcasitas. O vídeo, portanto, também seria uma forma de reconstruir a imagem da vítima.
Outra coisa “assustadora”: a IA agradece às pessoas presentes no tribunal e elogia o juiz, mencionando que ele está trabalhando mesmo durante o Spring Break (curto período de férias de primavera de universidades) da sua filha. Talvez a tentativa de humanizar o discurso tenha tido o efeito oposto ao desejado.
Depois, o deepfake de Pelkey “conversa” com Horcasitas, dizendo que, em outra vida, eles talvez pudessem ter sido amigos — e declara acreditar no perdão. Todd Lang, o juiz, acabou dando a pena máxima de dez anos e seis meses, mesmo após reconhecer o gesto e destacar que ouviu o “perdão de Pelkey”.
Gary Marchant, professor de direito da Universidade do Estado do Alabama, destacou à NBC que o vídeo, ainda que represente os sentimentos da vítima, é falso. “Você vê alguém falando, mas não é realmente quem está falando. Você vê aquela pessoa falando no tribunal, mas ela está morta e ela não está falando”, diz Marchant.
Com informações de The Guardian e NBC
Família usa IA para reviver homem morto em briga de trânsito
