Prática de recriar entes queridos falecidos usando IA gera dilemas sobre identidade, consentimento e no papel da memória no processo de luto e o mundo digital.

Um episódio de um programa de televisão provocou um amplo debate público e profissional há alguns meses. Nesse programa, várias pessoas foram expostas a recriações digitais das vozes de seus parentes falecidos geradas por inteligência artificial (IA) a partir de áudios reais. Essas recriações não apenas imitavam as vozes, mas também faziam perguntas sugestivas, provocando reações emocionais intensas nos participantes. 

O fenômeno, que pode ser chamado de “ressurreição digital”, envolve a recriação de aspectos de pessoas falecidas usando tecnologias avançadas. Embora possa oferecer um consolo momentâneo, essa prática abre um profundo debate sobre suas implicações éticas, filosóficas e legais.

Risco de criar falsas memórias

O que realmente significa “ser”? Ao recriar a voz ou a imagem de alguém que já faleceu, nos perguntamos se estamos prolongando sua existência de alguma forma ou simplesmente criando uma sombra sem substância. A essência de um ser humano é, sem dúvida, mais do que um conjunto de respostas programadas ou uma imagem projetada. A singularidade da experiência vivida, das emoções, dos pensamentos, tudo isso parece inatingível para uma mera simulação digital.

Então, qual é o papel da memória nesse processo? A ressurreição digital pode ser vista como uma tentativa de preservar a memória, de manter viva a presença daqueles que perdemos. Mas é ético apegar-se a uma representação artificial em vez de permitir que a memória evolua e se transforme ao longo do tempo?

A memória humana não é estática: ela é seletiva, muda e se adapta. Ao recriar digitalmente uma pessoa, corremos o risco de alterar nossas próprias lembranças autênticas dela?

Identidade verdadeira

Além disso, surge a questão da identidade. A identidade de uma pessoa é uma rede complexa de experiências e relacionamentos. Quando tentamos recriar alguém, podemos realmente capturar sua identidade ou estamos simplesmente criando uma versão idealizada, que se ajusta às nossas próprias expectativas e desejos?

Esses avanços tecnológicos também nos levam a pensar sobre o luto. A morte é uma parte natural da vida, e o luto um processo necessário para lidar com essa perda. Ao tentar manter uma conexão com o falecido por meio da ressurreição digital, estamos interferindo nesse processo vital e isso poderia nos impedir de seguir em frente e encontrar paz na aceitação da perda?

Por fim, a ressurreição digital levanta questões sobre consentimento e propriedade. Quem tem o direito de decidir se uma pessoa deve ser recriada digitalmente? E como lidar com o consentimento de alguém que não pode mais expressar sua vontade?

A perspectiva de fazer negócios com algo tão profundamente humano e doloroso como a morte e a perda de um ente querido levanta uma série de questões nos campos da filosofia, da ética e da moralidade.

Do ponto de vista ético, essa prática parece transgredir os princípios fundamentais de respeito e dignidade que devem orientar nossas interações humanas. O luto é um processo íntimo e sagrado, um caminho para a aceitação e a paz interior após uma perda significativa. A intrusão comercial nesse processo pode ser vista como uma forma de exploração emocional, tirando proveito daqueles que estão passando por um momento particularmente vulnerável.

E quanto ao processo natural de luto?

Além disso, esse tipo de negócio pode distorcer o processo natural de luto. O luto e a perda são experiências essenciais da condição humana, e lidar com elas faz parte do nosso crescimento pessoal. Se a comercialização da ressurreição digital impedir que as pessoas passem por esses estágios de forma saudável, oferecendo uma ilusão de presença em vez de ajudá-las a aceitar a realidade da ausência, isso pode não ser benéfico para elas.

Por outro lado, de uma perspectiva moral, vale a pena questionar a intenção e o objetivo por trás desses negócios. Em princípio, isso parece ser justificado pelo objetivo de proporcionar conforto e uma forma de lembrar os entes queridos. No entanto, onde está o limite entre proporcionar conforto e explorar o luto para obter lucro?

No centro da “ressurreição digital” está um paradoxo profundo e perturbador: a tecnologia, em sua tentativa de nos aproximar daqueles que perdemos, nos confronta com a realidade inescapável de sua ausência. Esse paradoxo nos leva a questionar não apenas a natureza da existência, mas também a essência do que significa ser humano.

Essas tecnologias, na tentativa de compensar a falta ou preencher o vazio deixado por um ente querido, não apenas destacam nosso desejo de nos apegarmos ao que perdemos, mas também nossa dificuldade de enfrentar e processar o luto diante da realidade inevitável da morte.

O paradoxo se amplia ainda mais quando consideramos que, em nosso esforço para preservar a memória e a essência dos entes queridos, recorremos a simulações que, por sua natureza artificial, nunca podem capturar totalmente a complexidade e a profundidade da experiência humana real. Assim, nos deparamos com o dilema de aceitar uma representação imperfeita e digitalizada que, embora reconfortante em alguns aspectos, pode não fazer jus à verdadeira essência do ente querido.

Este artigo foi originalmente publicado em espanhol

Fonte: The Conversation

Para ficar por dentro de todas as notícias, acompanhe o blog da Democratizando.