Deepfake: Adolescentes tem pornografias geradas por IA espalhadas na internet

Na sociedade conectada de hoje, a tecnologia desempenha um papel fundamental na vida cotidiana de todos, incluindo os adolescentes. Entretanto, o mesmo avanço tecnológico que possibilita a construção e o fortalecimento de laços virtuais pode, infelizmente, ser usado de forma catastrófica para a privacidade e a segurança dos jovens.

Esta foi precisamente a experiência de Ellis, uma adolescente de 14 anos do Texas, que acordou em uma manhã de outubro para uma enxurrada de mensagens e chamadas por causa de imagens dela nua circulando na internet.

O pior de tudo era que as imagens eram falsas, uma fusão do seu rosto real com um corpo nu sobreposto. Esta prática cada vez mais prevalente, conhecida como “deepfake“, tornou-se infame pela forma convincente com que imita a aparência e os sons de uma pessoa. Infelizmente, Ellis não foi a única vítima, pois fotos originais dela e de sua amiga tiradas do Instagram foram usadas nessa cruel armadilha digital.

Leia mais:

Inteligência Artificial: Arma poderosa nas eleições argentinas agita cenário político

Juíza é suspensa após gritar e exigir título de ‘excelência’ de testemunha

Como os Deepfakes são Utilizados para Assédio?

Por mais surpreendente que pareça, a tecnologia Deepfake, uma consequência da evolução da Inteligência Artificial (IA), tem sido utilizada para criar pornografia muito realista com um mínimo esforço e dinheiro. Isto gerou casos de assédio em diversas escolas dos Estados Unidos, onde os perpetradores, muitas vezes anônimos, compartilham as imagens deepfaked por meio de aplicativos como o Snapchat.

Em um relato angustiante, Anna McAdams, mãe de Ellis, disse: “As meninas não paravam de chorar. Estão muito envergonhadas. Não querem ir para a escola”. Dolorosamente, a prática tem se espalhado a níveis alarmantes, com relatos de incidentes aumentando em várias áreas, incluindo Nova Jersey.

As Leis Atuais São Suficientes para Lidar com Deepfakes?

A coisa mais inquietante sobre essa situação macabra é a inadequação da lei atual para lidar com ela. Apesar das versões mais grosseiras de pornografia falsa existirem há anos, a lei ainda não alcançou o ritmo da tecnologia, especialmente quando se trata de deepfakes.

Em muitos casos, é extremamente difícil localizar os autores, mas isso não deveria impedir que as empresas de IA e as plataformas de mídia social sejam responsabilizadas, de acordo com vários especialistas. Contudo, a falta uma legislação federal restritiva sobre pornografia deepfake tem representado um enorme desafio.

Enquanto o debate sobre a eficácia das políticas e regras atuais e a demanda por mais medidas de controle continua, a vida de inúmeras jovens como Ellis continua a ser despedaçada, com vítimas sofrendo de ansiedade, depressão e transtorno de estresse pós-traumático.

Até que medidas legislativas abrangentes sejam implementadas para coibir esta conduta perniciosa, a conscientização, a precaução e a vigilância são as melhores defesas. Afinal, na era da IA e dos deepfakes, a invasão da privacidade se tornou uma ameaça muito real à integridade e dignidade humana.