“Almas digitais” e os limites da IA (por Ionara Silva)

Uma irmã enlutada decidiu recriar, digitalmente, o seu irmão falecido e trazê-lo “de volta à vida” para falar no julgamento do homem acusado de tê-lo assassinado. Durante mais de dois anos, reuniu conteúdos em vídeos, fotografias e áudios. Com a ajuda da inteligência artificial (IA), criou um vídeo e projetou-o naquele que, sem dúvida, foi um dos dias mais difíceis da sua vida.

O que poderia ser apenas mais um episódio da série britânica Black Mirror aconteceu, na verdade, na semana ada, num tribunal dos Estados Unidos. Christopher Pelkey, veterano do Exército norte-americano, assassinado num episódio de fúria no trânsito em 2021, “falou” diretamente ao seu assassino durante a audiência de sentença, por meio de um vídeo gerado por IA.

A iniciativa foi da sua irmã, Stacey Wales, que, em busca de uma forma de expressar a perda, decidiu criar uma cópia digital do irmão. Com o apoio do marido e de um amigo, produziram um vídeo em que Pelkey, na sua versão artificial, expressa perdão ao assassino, Gabriel Horcasitas, e reflete sobre a tragédia que os uniu.

No vídeo, Pelkey diz: “Noutra vida, provavelmente poderíamos ter sido amigos. Acredito no perdão e em Deus que perdoa. Sempre acreditei, e continuo a acreditar.” A apresentação emocionou o juiz Todd Lang, que afirmou: “Adorei este vídeo gerado por IA. Obrigado por isso. Senti que foi genuíno.” Em consequência, o juiz sentenciou Horcasitas a 10 anos e meio de prisão por homicídio culposo, excedendo a recomendação da promotoria, que era de nove anos e meio.

A defesa, no entanto, manifestou preocupações quanto ao uso do vídeo, argumentando que a representação digital de Pelkey poderia ter influenciado indevidamente a decisão judicial. O advogado de Horcasitas afirmou não ter sido informado previamente sobre o vídeo e que este será um dos pontos abordados no recurso, segundo reportagens publicadas pela CNN e pela BBC.

Como pesquisadora, dediquei os últimos cinco anos a estudar a intersecção entre o luto, a morte e as tecnologias digitais. Na minha tese de doutorado, analisei os impactos e os riscos do uso de tecnologias emergentes para recriar a identidade de pessoas falecidas. Entrevistei pessoas em processo de luto e perguntei-lhes se aceitariam conversar com um ente querido já falecido por meio de IA. Surpreendentemente, os entrevistados responderam afirmativamente, mesmo que com alguma relutância inicial.

Segundo o filósofo italiano Luciano Floridi, professor na Universidade de Oxford, os dados digitais são como órgãos informativos, uma extensão do nosso corpo biológico. Ou seja, fotografias, vídeos, áudios e todos os dados que produzimos são parte da nossa existência e devem ser preservados mesmo após a morte. E não devem ser alterados, duplicados ou distribuídos sem o nosso consentimento. Para Floridi, infringir a privacidade informativa de uma pessoa é uma violação da sua dignidade humana. Tal como os vivos, também os mortos têm direito à propriedade e ao controle da sua “viagem ao mundo”.

Sob uma perspectiva filosófica, ninguém tem o direito de recriar a identidade digital de alguém que já morreu. Delegar a uma IA o poder de falar em nosso nome representa um risco grave de distorção da nossa narrativa de vida. Por mais fiel que seja a reprodução da voz, imagem, gestos ou palavras, nunca será realmente a pessoa. A existência online após a morte levanta questões antigas sobre a busca pela imortalidade, quando, através de avatares e mind s, é nos dada a possibilidade de ser imortais. No entanto, nenhuma tecnologia conseguirá (ainda) representar genuinamente a “alma e a essência”, ou que a sua crença vai determinar como norma.

Só quem perdeu alguém sabe o quão doloroso é lidar com a ausência de quem amamos. Ainda assim, o uso de tecnologias para recriar identidades digitais póstumas deve ser tratado com extrema cautela e requer reflexão profunda. A inovação tecnológica pode oferecer consolo, como a possibilidade de “falar” com um ente querido falecido, mas os seus impactos ainda estão a ser investigados pela ciência, desde a psicologia ao direito.

Vivemos em um cenário de incerteza. E mesmo gestos aparentemente inofensivos, como publicar imagens de um ente querido nas redes sociais, podem ir contra a vontade da própria pessoa, se ela estivesse viva. Talvez não gostasse daquela imagem, talvez nunca quisesse ser exposta. Qual é, afinal, o limite do direito das pessoas em luto ao gerirem os legados digitais de quem partiu?

Por outro lado, o caso de Christopher Pelkey levanta sérias questões éticas e legais quanto ao uso de tecnologias emergentes no sistema judicial. Especialistas alertam para o risco de manipulação emocional e desigualdades, sobretudo, se tais ferramentas estiverem íveis apenas a quem tem mais recursos.

E eu iria mais longe: será que o verdadeiro Pelkey perdoaria o seu assassino? O que ele sentiria? Ou aquele vídeo refletia apenas o desejo da sua família? Nunca saberemos.

Por mais mórbido ou desconfortável que seja falar sobre a morte nas culturas ocidentais, é cada vez mais importante que deixemos claro, junto dos nossos familiares e amigos, o que desejamos que seja feito com os nossos legados digitais depois da nossa partida. É uma conversa que nunca queremos ter, mas de todos os seres vivos, nós, seres humanos, são os únicos que sabem que vão morrer.

 

(Transcrito do PÚBLICO)