CONNECT
A expansão dos modelos de inteligência artificial está elevando o papel de avaliadores independentes, organizações que testam capacidades e riscos dos sistemas. O movimento pode fortalecer a segurança, mas também expõe um dilema: como preservar a autonomia de quem depende financeiramente das próprias empresas avaliadas?
O que aconteceu
Segundo a CNBC, os avaliadores independentes, em sua maioria organizações sem fins lucrativos, deixaram uma posição periférica e passaram a ocupar espaço nas discussões sobre governança de modelos avançados. Entre suas funções estão medir capacidades, identificar riscos e sinalizar comportamentos inadequados. Anthropic, OpenAI e parceiros de infraestrutura vêm definindo boa parte das práticas do setor, enquanto empresas começam a incorporar avaliadores externos em seus processos. A OpenAI afirmou manter colaboração com organizações como METR e Redwood Research. A Anthropic também informou discutir projetos-piloto de avaliação incorporada com a METR e outras entidades. O setor, porém, ainda é pequeno: a METR tem menos de 50 funcionários em tempo integral, segundo seu site.
Por que isso importa
A questão central é a independência. Avaliadores pequenos podem perder receita ou acesso caso publiquem conclusões desfavoráveis às empresas que os contratam. Também não há padrões consolidados sobre quais informações devem receber nem sobre como comunicar descobertas. A falta de uma estrutura de financiamento estável aumenta o risco de avaliações excessivamente favoráveis. Por isso, pesquisadores e executivos defendem modelos com recursos agrupados ou participação governamental. O debate já chegou à política: legisladores em Califórnia, Connecticut e Virgínia avançaram com medidas relacionadas aos chamados IVOs, enquanto Massachusetts avalia regras mais amplas.
O que deve ser observado
O próximo ponto de atenção é a forma como laboratórios e governos vão estruturar o acesso, a proteção contra retaliações e o direito de publicação dos avaliadores. Também será relevante observar se propostas de financiamento público ou agrupado avançam e se os IVOs ganham adoção em mais estados. Sem padrões comuns, a expansão das avaliações pode ocorrer de maneira desigual.
O tema revela uma camada pouco visível da corrida por inteligência artificial: a capacidade de testar sistemas pode se tornar tão estratégica quanto desenvolvê-los. Para o mercado, a qualidade dessas avaliações dependerá menos de anúncios formais e mais de incentivos verificáveis, transparência e autonomia financeira. A evolução desse ecossistema ajudará a distinguir controles efetivos de compromissos apenas declaratórios.
