Deepfake vai dar cadeia? O desafio de responsabilizar o uso criminoso da IA

Por Max Kolbe* — A inteligência artificial deixou de ser uma tecnologia restrita a laboratórios, universidades e grandes empresas. Hoje, qualquer pessoa com um celular e acesso à internet consegue criar imagens, vídeos e áudios extremamente realistas em poucos minutos.

Essa democratização trouxe avanços importantes para a educação, comunicação, saúde e diversos setores da economia. Ao mesmo tempo, abriu espaço para um fenômeno que preocupa autoridades, especialistas e a sociedade: a utilização de deepfakes para aplicar golpes, disseminar desinformação e violar direitos fundamentais.

Nos últimos meses, o tema ganhou ainda mais relevância com a tramitação, no Congresso Nacional, de propostas legislativas que pretendem estabelecer regras específicas para o uso da inteligência artificial na criação de conteúdos falsificados. O debate é oportuno porque a legislação brasileira ainda enfrenta dificuldades para acompanhar a velocidade com que essas tecnologias evoluem.

É importante compreender que um deepfake não é apenas uma montagem comum. Trata-se de um conteúdo produzido por inteligência artificial capaz de reproduzir com impressionante fidelidade a imagem, a voz, os gestos e até as expressões faciais de uma pessoa. Em muitos casos, o resultado é tão convincente que se torna praticamente impossível para o público identificar, sem auxílio técnico, que aquele material foi manipulado.

Esse avanço tecnológico trouxe benefícios inegáveis. Empresas utilizam inteligência artificial para automatizar processos, melhorar o atendimento ao consumidor e aumentar a produtividade. Na medicina, algoritmos auxiliam em diagnósticos mais rápidos. Na educação, ferramentas inteligentes personalizam o aprendizado. No Direito, já existem sistemas capazes de auxiliar pesquisas jurídicas e organizar grandes volumes de informações.

Entretanto, a mesma tecnologia que impulsiona a inovação também passou a ser utilizada para finalidades ilícitas. Hoje já existem registros de criminosos utilizando vozes clonadas para solicitar transferências bancárias, vídeos manipulados para aplicar golpes financeiros, falsificação de declarações atribuídas a autoridades públicas, criação de conteúdos íntimos falsos e campanhas de desinformação que atingem diretamente a honra e a credibilidade das vítimas.

Diante desse cenário, cresce a discussão sobre a necessidade de criar mecanismos específicos de responsabilização. A intenção não é impedir o desenvolvimento tecnológico nem limitar a utilização legítima da inteligência artificial. O objetivo é estabelecer parâmetros claros para identificar quando a tecnologia deixa de ser uma ferramenta de inovação e passa a ser utilizada como instrumento para a prática de ilícitos.

Esse talvez seja o maior desafio do legislador. Não basta simplesmente criar novos tipos penais. É preciso construir normas que protejam direitos fundamentais sem inviabilizar pesquisas, investimentos e soluções inovadoras desenvolvidas por empresas, universidades e centros de tecnologia. Uma legislação excessivamente restritiva pode comprometer a competitividade do país em um setor estratégico para a economia global.

Ao mesmo tempo, ignorar os riscos também não é uma opção. A facilidade com que conteúdos manipulados são produzidos e compartilhados exige respostas jurídicas proporcionais aos danos que podem causar. A imagem, a honra, a identidade e até a confiança nas informações circuladas na internet passaram a depender de mecanismos de proteção compatíveis com essa nova realidade digital.

Outro ponto que merece atenção é a falsa sensação de anonimato proporcionada pelo ambiente virtual. Muitas pessoas acreditam que, por utilizar uma plataforma de inteligência artificial, deixam de ser responsáveis pelos conteúdos que produzem ou compartilham. Esse entendimento está equivocado. A tecnologia não substitui a responsabilidade humana. Quem cria, divulga ou utiliza um deepfake para enganar terceiros, causar prejuízos ou violar direitos pode responder civilmente e, dependendo da legislação aplicável e das circunstâncias do caso, também na esfera penal.

É igualmente importante compreender que nem todo conteúdo produzido com inteligência artificial representa uma conduta ilícita. Existem aplicações legítimas para entretenimento, publicidade, produção audiovisual, educação e criação artística. A análise jurídica dependerá sempre da finalidade do conteúdo, da existência de consentimento da pessoa retratada, do potencial de induzir terceiros ao erro e dos prejuízos efetivamente causados.

Além da legislação, outro fator será determinante para enfrentar esse desafio: a educação digital. A sociedade precisará desenvolver um olhar cada vez mais crítico sobre os conteúdos consumidos nas redes sociais e plataformas digitais. Durante décadas, aprendemos que uma fotografia ou um vídeo representavam uma prova confiável da realidade. Hoje, essa premissa deixou de ser absoluta. A inteligência artificial tornou possível criar situações que jamais aconteceram, utilizando a imagem e a voz de pessoas reais com elevado grau de realismo.

Isso exige uma mudança cultural. Verificar a origem da informação, desconfiar de conteúdos sensacionalistas, confirmar fontes e compreender o funcionamento básico dessas tecnologias serão atitudes cada vez mais importantes para reduzir os impactos da desinformação e dos golpes digitais.

A inteligência artificial continuará transformando profundamente a sociedade, os negócios e as relações humanas. Essa evolução não deve ser encarada como uma ameaça, mas como uma oportunidade de desenvolvimento. Para que isso aconteça de forma segura, será indispensável construir um ambiente em que inovação, responsabilidade e proteção de direitos caminhem lado a lado.

O futuro não será definido apenas pela capacidade das máquinas de gerar conteúdos cada vez mais sofisticados, mas pela capacidade das pessoas e das instituições de utilizar essa tecnologia com ética, transparência e responsabilidade.

*Max Kolbe é advogado especialista em concurso público e em Direito Constitucional e Administrativo. É professor de Direito Constitucional, membro da Associação Brasileira dos Advogados (ABA)