Quem alimenta a IA? A caixa-preta dos dados e a erosão da transparência

A promessa de uma inteligência artificial eficiente, precisa e imparcial esbarra cada vez mais em uma barreira crítica: o segredo em torno dos dados. À medida que os modelos generativos avançam em poder computacional e presença nas decisões corporativas, os critérios que definem quais dados alimentam essas tecnologias tornam-se menos acessíveis ao público e aos próprios contratantes dos serviços.

O retrocesso é mensurado em números. O AI Index Report 2026, elaborado pelo Stanford Institute for Human-Centered Artificial Intelligence (HAI), revelou que a transparência média das empresas desenvolvedoras de modelos caiu de 58 pontos (em 2024) para 40 pontos (em 2025), em uma escala de 0 a 100. O cenário assume contornos ainda mais críticos ao analisar especificamente a divulgação sobre o treinamento e a origem das bases de dados: nesse quesito, o índice médio despencou para escassos 15%.

A falta de clareza sobre o insumo que alimenta os algoritmos afeta o desempenho tecnológico e expõe organizações a passivos jurídicos, violações de direitos autorais, descumprimento da Lei Geral de Proteção de Dados (LGPD) e falhas operacionais decorrentes de alucinações e vieses.

Para examinar as camadas jurídicas, regulatórias e tecnológicas dessa “caixa-preta”, a reportagem entrevistou Giovanni La Porta, CEO da Vórtice.ai — startup brasileira dedicada à pesquisa e desenvolvimento de inteligência artificial.

O segredo industrial como escudo e a ilusão da terceirização de responsabilidades

Para La Porta, o fechamento das informações pelas gigantes de tecnologia decorre de uma disputa de mercado acirrada. “Esse movimento resulta de uma combinação de três fatores fundamentais: competição estratégica, proteção da propriedade intelectual e concentração de poder tecnológico. As Big Techs investem bilhões de dólares em infraestrutura, processamento e desenvolvimento. Seus dados de treinamento, métodos de seleção, ajustes de pesos e processos de otimização representam seus ativos mais importantes”, analisa.

Contudo, o especialista pontua que a linha entre a proteção do segredo de negócio e o comprometimento da segurança jurídica foi ultrapassada. O problema central emerge quando companhias tomam decisões financeiras, comerciais ou jurídicas guiadas por ferramentas de funcionamento pouco claro.

Segundo Giovanni La Porta, “uma empresa pode estar tomando decisões com base em um modelo cujos critérios de formação não são transparentes. Quando uma empresa terceiriza sua inteligência para uma IA, ela não pode terceirizar também sua responsabilidade. Isso gera riscos jurídicos relacionados ao uso indevido de dados e conteúdos protegidos, dificuldades de compliance com a LGPD, vulnerabilidades operacionais decorrentes de alucinações e vieses e riscos estratégicos associados à dependência de fornecedores sem transparência sobre suas limitações”.

Governança na engenharia: rastreabilidade contra a coleta indiscriminada

Superar os entraves de propriedade intelectual e privacidade (como as exigências do AI Act europeu e da legislação brasileira) exige mudar a lógica de desenvolvimento. Em vez do raspamento indiscriminado de dados da internet (web scraping), a saída tecnológica aponta para a curadoria, a utilização de dados sintéticos e a rastreabilidade.

Na visão do executivo da Vórtice.ai, a conformidade jurídica não pode ser tratada como uma etapa cartorária posterior ao desenvolvimento da ferramenta, devendo estar integrada à arquitetura de dados desde a origem. “A governança precisa deixar de ser uma preocupação exclusivamente jurídica e passar a fazer parte da própria engenharia da IA desde a concepção. Não devemos pensar apenas em coletar cada vez mais dados, mas em construir uma base de conhecimento com referências, qualidade, legitimidade e finalidades claramente definidas”, afirma La Porta.

Para a estruturação de ambientes corporativos seguros, o CEO destaca a substituição da dependência cega dos grandes modelos de linguagem (Large Language Models — LLMs) por arquiteturas focadas em contexto e domínio restrito:

Modelos Menores (Small Language Models — SLMs): Utilização de modelos mais enxutos, treinados ou ajustados para tarefas específicas, reduzindo a exposição a dados ilegítimos.

Geração Aumentada por Recuperação (Retrieval-Augmented Generation — RAG): Conexão do modelo de IA a uma base de dados proprietária, auditável e previamente checada, garantindo que a resposta do algoritmo seja fundamentada em documentos internos autorizados.

Privacidade por Design: Emprego de técnicas de anonimização de informações sensíveis e uso de dados sintéticos para proteger informações pessoais sem perder a utilidade estatística.

Limites tecnológicos, alucinações e a condução consciente da IA

Além da insegurança jurídica, a ausência de auditoria nos dados de treinamento afeta diretamente a assertividade das respostas geradas. Dados enviesados ou de baixa qualidade alimentam o fenômeno das “alucinações” — situações em que o modelo inventa fatos, jurisprudências ou dados numéricos com aparência de verossimilhança.

La Porta defende que a sociedade e o mercado jurídico precisam abandonar a expectativa de infalibilidade das ferramentas generativas e focar na compreensão dos seus limites estruturais. “Todo modelo vai apresentar alucinações e vieses em algum nível. O importante é promover uma conscientização social de que as IAs generativas não fazem mágica. Assim como um motorista deve conhecer os fundamentos do motor e os limites de um veículo antes de dirigi-lo, quem utiliza uma IA precisa compreender minimamente a tecnologia que está conduzindo”, compara o executivo, citando a constatação de Stanford de que a segurança dos sistemas é gravemente afetada pelo uso imprudente ou negligente.

O futuro da IA corporativa: da corrida pela potência ao uso estratégico

A superação do cenário crítico apontado pelo AI Index Report 2026 não exige necessariamente que corporações ou escritórios de advocacia desenvolvam seus próprios modelos do zero, mas sim que adotem postura crítica e camadas de controle sobre as soluções contratadas.

“Não basta simplesmente acessar uma IA generativa disponível no mercado, inserir as planilhas da empresa ou os dados de pacientes em um modelo, criar meia dúzia de agentes e esperar que tudo funcione corretamente. Não acredito que todas as empresas precisem desenvolver seus próprios LLMs. Na maioria dos casos, faz mais sentido utilizar modelos menores e consolidados, construindo uma camada de inteligência proprietária conectada às informações confiáveis da organização”, conclui Giovanni La Porta.