Quem fiscaliza a inteligência artificial? O desafio da transparência nas grandes empresas de tecnologia.

A inteligência artificial está cada vez mais presente no cotidiano das pessoas e nas operações das empresas. De assistentes virtuais à automação de processos complexos, a tecnologia avança rapidamente e amplia suas possibilidades de aplicação. Entretanto, à medida que esses sistemas se tornam mais sofisticados, cresce também uma preocupação: quem é responsável por verificar se essas tecnologias são realmente seguras?

Recentemente, discussões envolvendo a OpenAI, desenvolvedora do ChatGPT, e a Anthropic, responsável pelo Claude, trouxeram essa questão para o centro do debate tecnológico. Segundo informações divulgadas pela Reuters e repercutidas pelo Olhar Digital em outubro de 2026, as empresas negociam com avaliadores independentes os limites de acesso às informações e as condições de publicação dos relatórios de segurança de seus modelos de inteligência artificial.

O principal ponto de discussão envolve o equilíbrio entre a proteção de informações comerciais confidenciais e a necessidade de garantir avaliações transparentes e independentes.

Embora as empresas defendam a importância de preservar dados estratégicos, especialistas alertam que restrições excessivas podem comprometer a credibilidade das análises e dificultar a identificação de riscos associados à tecnologia.

O papel das avaliações independentes na segurança da inteligência artificial

Antes de disponibilizar um sistema de inteligência artificial ao público, é importante avaliar seu comportamento em diferentes situações, identificando possíveis falhas, vulnerabilidades e resultados inesperados.

Essas avaliações podem envolver testes de segurança, análises de comportamento, identificação de vieses e simulações de situações nas quais a tecnologia poderia apresentar riscos aos usuários ou a outros sistemas.

Parte desse trabalho é realizada pelas próprias empresas desenvolvedoras. Entretanto, as avaliações independentes acrescentam uma camada importante de fiscalização, permitindo que especialistas externos examinem aspectos que poderiam passar despercebidos durante os testes internos.

Na prática, esses profissionais podem investigar questões como:

• A possibilidade de um modelo gerar informações incorretas ou potencialmente prejudiciais.
• A existência de vulnerabilidades que permitam a manipulação do comportamento da inteligência artificial.
• Os riscos relacionados à privacidade e à exposição de informações confidenciais.
• A capacidade de sistemas autônomos executarem ações não previstas por seus desenvolvedores.
• A eficácia dos mecanismos de proteção implementados pelas empresas.

Para realizar análises aprofundadas, os avaliadores frequentemente precisam ter acesso a informações técnicas, registros de funcionamento e versões específicas dos modelos.

É justamente nesse ponto que surge um dos principais desafios: como garantir uma investigação independente quando o acesso às informações depende da própria empresa responsável pelo sistema avaliado?

Transparência e informações confidenciais: onde está o limite?

O desenvolvimento de modelos avançados de inteligência artificial envolve investimentos expressivos em pesquisa, infraestrutura e recursos computacionais. Por isso, empresas do setor procuram proteger informações que consideram estratégicas para seus negócios.

Essa preocupação é legítima. A divulgação irrestrita de determinados dados técnicos pode expor segredos comerciais, facilitar a exploração de vulnerabilidades ou comprometer a competitividade das organizações.

Por outro lado, quando as empresas possuem influência sobre o conteúdo divulgado nos relatórios de segurança, surgem questionamentos sobre a independência das avaliações.

De acordo com a reportagem publicada pelo Olhar Digital, a Anthropic afirma que os avaliadores com os quais já trabalhou mantêm autonomia sobre os métodos, critérios, conclusões e conteúdos publicados. Entretanto, nas negociações com novas equipes, a empresa prevê a possibilidade de comentar e aprovar relatórios durante o estabelecimento da relação de trabalho.

A OpenAI, por sua vez, nega buscar aprovação integral dos documentos e afirma que informações confidenciais podem ser omitidas, desde que os avaliadores tenham a possibilidade de indicar a existência de cortes significativos.

A discussão evidencia um problema que ultrapassa essas duas empresas: como assegurar que relatórios de segurança apresentem resultados confiáveis quando os desenvolvedores também participam da definição das informações que poderão ser divulgadas?

Uma alternativa está na criação de procedimentos claros para a realização de auditorias, estabelecendo critérios objetivos para o acesso aos sistemas, a proteção de informações sensíveis e a divulgação das conclusões.

Dessa forma, seria possível preservar dados comerciais legítimos sem comprometer a autonomia técnica dos profissionais responsáveis pelas avaliações.

Por que essa discussão também importa para outras empresas?

Embora o debate envolva algumas das maiores desenvolvedoras de inteligência artificial do mundo, suas consequências não se limitam ao setor de tecnologia.

Empresas de diferentes segmentos estão incorporando ferramentas de IA às suas operações, utilizando a tecnologia para automatizar atendimentos, analisar informações, produzir conteúdos e apoiar decisões.

Essa transformação oferece oportunidades importantes para aumentar a produtividade e otimizar processos. Entretanto, também exige atenção aos riscos associados à utilização desses sistemas.

Uma organização que utiliza inteligência artificial para processar informações de clientes, por exemplo, precisa considerar como esses dados são tratados, quais mecanismos de proteção estão disponíveis e quais consequências podem surgir em caso de falhas.

Da mesma forma, empresas que adotam sistemas automatizados para apoiar decisões devem compreender as limitações da tecnologia e estabelecer mecanismos de supervisão.

Nesse contexto, três conceitos ganham relevância:

Segurança: envolve a adoção de medidas para prevenir falhas, proteger informações e reduzir a possibilidade de utilização indevida dos sistemas.

Transparência: está relacionada à clareza sobre o funcionamento, as limitações e as condições de utilização das soluções tecnológicas.

Governança: compreende as políticas, responsabilidades e procedimentos estabelecidos para orientar o desenvolvimento, a implementação e o acompanhamento dessas tecnologias.

Esses princípios não devem ser considerados apenas pelas empresas que desenvolvem modelos de inteligência artificial. Organizações que contratam e utilizam soluções de terceiros também precisam avaliar os riscos envolvidos em sua adoção.

Afinal, utilizar uma tecnologia desenvolvida por outra empresa não elimina a responsabilidade sobre a maneira como ela é aplicada aos processos internos e às informações dos clientes.

O futuro da inteligência artificial depende da confiança

A inteligência artificial continuará desempenhando um papel importante na transformação digital. Com o desenvolvimento de modelos mais avançados e sistemas capazes de executar tarefas com maior autonomia, a necessidade de mecanismos confiáveis de avaliação tende a aumentar.

Nesse cenário, a confiança não depende apenas da capacidade de uma tecnologia produzir resultados eficientes. Também está relacionada à possibilidade de compreender seus riscos, identificar suas limitações e verificar se os mecanismos de segurança funcionam adequadamente.

As discussões envolvendo OpenAI e Anthropic demonstram que o avanço tecnológico precisa ser acompanhado por práticas de avaliação compatíveis com a complexidade dos sistemas desenvolvidos.

A realização de auditorias independentes, a definição de critérios transparentes e a proteção da autonomia dos avaliadores são medidas importantes para fortalecer a credibilidade dessas tecnologias.

Ao mesmo tempo, é necessário reconhecer que transparência não significa divulgar indiscriminadamente todas as informações técnicas de um sistema. O desafio está em estabelecer mecanismos que permitam avaliações confiáveis sem comprometer a segurança e a proteção de informações comerciais legítimas.

Para as empresas que desenvolvem ou utilizam inteligência artificial, a principal reflexão é que inovação e responsabilidade precisam caminhar juntas.

Mais do que desenvolver sistemas cada vez mais avançados, o futuro da inteligência artificial dependerá da capacidade de demonstrar que essas tecnologias podem ser utilizadas de maneira segura, transparente e confiável.

---

Fonte de referência: OpenAI e Anthropic querem controlar relatórios de segurança da IA, Olhar Digital, publicado em 13 de outubro de 2026, com informações da Reuters.