O
avanço da tecnologia trouxe uma série de benefícios, mas também desafios
consideráveis, especialmente no âmbito da identificação e autenticação de
informações e pessoas. Um dos desafios contemporâneos mais significativos é a
proliferação dos deep fakes, que consistem em manipulações digitais avançadas
capazes de criar mídias falsas extremamente convincentes, como vídeos, áudios e
imagens, com o potencial de ludibriar até mesmo observadores atentos. Este
artigo explora os desafios enfrentados na identificação em um cenário onde os
deep fakes estão se tornando cada vez mais prevalentes.
Mas
afinal, o que são Deep Fakes?
Deep
fake é um termo derivado da combinação das palavras “deep learning”
(aprendizado profundo) e “fake” (falso). Refere-se a uma técnica na qual
algoritmos de inteligência artificial, particularmente aqueles baseados em
redes neurais profundas, são empregados para criar ou alterar conteúdos de
mídia de maneira que aparentem autenticidade, mas que, na realidade, são
fabricados.
Essas
criações podem ser utilizadas para diversos fins, tais como campanhas de
desinformação e fraudes sofisticadas. Até mesmo campanhas publicitárias se
aproveitam do potencial da IA, como por exemplo, a utilização de figuras que já
faleceram em campanhas atuais.
Como
então confiar no que estamos vendo, especialmente quando é possível criar
imagens realistas de qualquer pessoa, mesmo aquelas que já faleceram?
O
que impulsiona os Deep Fakes?
Desconfiança
na Autenticidade: a disseminação de deep fakes gera um clima de desconfiança
em relação à autenticidade de qualquer conteúdo de mídia. Agora é necessário
avaliar cuidadosamente os vídeos, fotos e áudios que recebemos, uma vez que
podem ter sido manipulados para representar eventos ou declarações que nunca
ocorreram.
Difusão
de Desinformação e Manipulação Política: existe um enorme potencial de
utilização dos deep fakes como ferramenta para criar conteúdos falsos e
disseminar desinformação. Por isso, é fundamental verificar cuidadosamente a
fonte e pesquisar se o que foi recebido reflete de fato a realidade.
Já
parou para refletir sobre como os Deep Fakes podem abalar nossas relações de
confiança com as pessoas? A capacidade de criar vídeos com a utilização de
qualquer pessoa coloca em dúvida se estamos realmente interagindo com aquela
pessoa e se as informações são verdadeiras. Basta pesquisar no YouTube para
encontrar uma série de vídeos com o Silvio Santos cantando diversas músicas,
inclusive internacionais. Isso impacta a confiança em relação aos outros, mesmo
que sejam nossos melhores amigos.
Tudo
isso apresenta enormes desafios na verificação de identidade e destaca a
necessidade de soluções e tecnologias avançadas para a verificação de
identidade, tanto em ambientes online quanto offline. Essas soluções e
tecnologias devem ser capazes de identificar sinais de manipulação no conteúdo
de mídia, funcionando essencialmente como uma perícia online que distingue
mídias autênticas de manipuladas.
Podemos
concluir que os deep fakes representam um desafio significativo para a identificação
e autenticação em um mundo cada vez mais digitalizado. A disseminação dessas
manipulações digitais levanta preocupações sobre a confiabilidade das
informações, a estabilidade das instituições e a integridade das relações
sociais. Para enfrentar esses desafios, é crucial investir em tecnologias de
detecção avançadas, promover a alfabetização digital e desenvolver políticas e
regulamentações que abordem o uso malicioso dos deep fakes. Somente com
esforços coordenados e colaborativos podemos mitigar os impactos negativos dos
deep fakes e preservar a integridade da identificação e autenticação em nosso
mundo digital em constante evolução
(*) Bruno
César Teixeira de Oliveira, com uma carreira sólida na gestão de riscos,
compliance e prevenção a fraudes em instituições financeiras e colunista de O Boletim.
AVISO: Os
comentários são de responsabilidade dos autores e não representam a opinião do
Blog do professor Taciano Medrado. Qualquer reclamação ou
reparação é de inteira responsabilidade do comentador. É vetada a postagem
de conteúdos que violem a lei e/ ou direitos de terceiros. Comentários postados
que não respeitem os critérios serão excluídos sem prévio aviso.
Postar um comentário