Fabiano Alves

IA provando teoremas — e a polêmica da transparência

Fri, 30 Oct 2026 08:00:00 -0300

A IA começou a publicar provas em matemática, física e computação.
E muitos cientistas estão mais preocupados do que animados.

Entenda em 1 minuto 👇

📌 O que aconteceu
Segundo a Scientific American (27/10), a OpenAI divulgou três grandes provas geradas por IA, tocando em matemática, física e ciência da computação.
Duas coincidem com trabalhos relacionados da Anthropic.
Uma envolve o problema de Yang-Mills, um dos 7 Problemas do Milênio do Clay Institute.

📌 Por que é polêmico
→ O modelo é proprietário
→ Prompts, tempo de computação e cadeia de raciocínio não foram publicados
→ Um grupo de especialistas montado pela própria OpenAI (AGMAI) criticou a forma de divulgação e cobra a publicação do artigo sobre Yang-Mills

📌 O que eu tiro disso, como quem estuda IA
Ciência não é só chegar no resultado.
É permitir que outros verifiquem e reproduzam.

Uma prova que ninguém consegue auditar ainda não é conhecimento consolidado. É uma afirmação.

Na empresa vale o mesmo: diagnóstico de IA sem rastreabilidade não deveria virar decisão.

A capacidade é impressionante.
A transparência precisa acompanhar.

Você confiaria em uma descoberta científica feita por IA que não pode ser auditada?

#InteligenciaArtificial #Ciencia #Matematica #PesquisaCientifica #IAResponsavel

Fonte: Scientific American, "Dueling proofs from OpenAI and Anthropic astound scientists" (27/10/2026) — https://www.scientificamerican.com/article/dueling-proofs-from-openai-and-anthropic-astound-scientists/

IA encontrando falhas críticas: o que colocar na agenda de TI agora

Thu, 29 Oct 2026 08:00:00 -0300

Uma IA encontrou cadeias de falhas críticas em navegadores e sistemas operacionais. E gerou o exploit funcionando.

Isso muda o jogo para quem cuida de infraestrutura.

Ontem a Anthropic publicou que um modelo interno de pesquisa encontrou 5 cadeias de ataque em softwares usados por bilhões de pessoas.
Algumas levavam a execução remota de código com pouca ou nenhuma interação do usuário.
Todas foram reportadas aos fabricantes, com 90 dias para correção antes de detalhes públicos.

A frase que mais me chamou atenção:
encontrar e combinar vulnerabilidades era trabalho de poucos times especialistas. Agora, modelos fazem isso com pouco envolvimento humano.

Se o atacante vai ter essa capacidade, o defensor precisa ter antes.

O que eu colocaria na agenda de TI agora:

✅ Janela de patch mais curta (navegador e SO primeiro)
✅ Inventário real de ativos — não dá para corrigir o que você não sabe que existe
✅ Monitoramento com alerta de comportamento anômalo, não só de "servidor caiu"
✅ Testar IA para revisar o próprio código e configurações
✅ Revisar exposição: o que está aberto para a internet sem necessidade?

Nenhum desses itens é novo.
O que mudou é a velocidade de quem está do outro lado.

Sua empresa está acelerando a correção de falhas na mesma velocidade que a IA está acelerando a descoberta?

#CiberSeguranca #InteligenciaArtificial #SegurancaDaInformacao #InfraestruturaDeTI #GestaoDeTI

Fonte: Anthropic Frontier Red Team, "Discovering and exploiting vulnerabilities in critical, real-world software with Claude" (27/10/2026) — https://www.anthropic.com/research/discovering-vulnerabilities-with-claude

A IA real, sem hype: o que ela já faz, onde tropeça e para onde a ciência aponta

Wed, 28 Oct 2026 14:35:00 -0300

Toda semana surge uma manchete dizendo que a IA "resolveu" algo. Ontem mesmo, por exemplo, vimos provas matemáticas geradas por IA, um modelo encontrando falhas críticas em softwares usados por bilhões de pessoas e um estudo mostrando que especialistas seguem a "opinião" de agentes de IA com uma frequência surpreendente.

Para quem trabalha com tecnologia, a pergunta útil não é "a IA é incrível?" ou "a IA é uma bolha?". É: o que a evidência mostra que ela faz hoje, onde ela falha de forma previsível e quais tendências têm dados por trás?

Neste artigo, separo três coisas com cuidado: evidência (dados medidos e publicados), tendência (extrapolação de dados com incerteza declarada) e especulação (o que ninguém pode afirmar ainda).

1. O que a IA comprovadamente faz hoje

O retrato mais completo continua sendo o AI Index 2026, da Universidade Stanford. Alguns achados merecem atenção:

Programação: no SWE-bench Verified, um benchmark com problemas reais de repositórios de software, o desempenho saiu de cerca de 60% para perto de 100% em um único ano.
Ciência e matemática: vários modelos já igualam ou superam a linha de base humana em perguntas científicas de nível de doutorado, raciocínio multimodal e matemática de competição. O Gemini Deep Think conquistou medalha de ouro na Olimpíada Internacional de Matemática.
Agentes: no OSWorld, que testa agentes em tarefas reais de computador em diferentes sistemas operacionais, a taxa de sucesso saltou de 12% para cerca de 66%.
Adoção: 88% das organizações relatam usar IA, e a IA generativa chegou a 53% de adoção pela população em três anos — mais rápido que o PC ou a internet.

No Brasil, a direção é a mesma. Uma pesquisa da FGV Ibre com 3 mil empresas, noticiada pelo Jornal Nacional em outubro, mostra o uso de IA subindo de 28,7% (2025) para 45% (2026). A parcela que percebe ganho de produtividade foi de 52% para 64%. E um quarto das empresas aponta falta de profissionais qualificados como obstáculo.

Há também sinais fortes vindos da segurança e da ciência. A Anthropic relatou nesta semana que um modelo interno encontrou cinco cadeias de ataque em softwares críticos, como navegadores e sistemas operacionais, algumas com execução remota de código, todas reportadas aos fabricantes. Na biologia, o AlphaFold (Jumper et al., Nature, 2021) mudou a previsão de estruturas de proteínas. Nos materiais, o GNoME (Merchant et al., Nature, 2023) propôs centenas de milhares de cristais potencialmente estáveis.

Evidência: a IA atual é muito forte em tarefas com objetivo claro e verificação possível — código que passa ou não nos testes, provas que podem ser checadas, estruturas que podem ser comparadas com experimentos.

2. Onde ela ainda tropeça (e por quê)

### A "fronteira irregular" O próprio AI Index usa um exemplo didático: o mesmo tipo de sistema que ganha ouro na Olimpíada de Matemática lê um relógio analógico corretamente apenas 50,1% das vezes. Os agentes, apesar do salto, ainda falham em cerca de 1 a cada 3 tentativas em benchmarks estruturados.

Para quem implanta IA em empresa, essa é a lição mais importante: desempenho alto em média não garante confiabilidade no caso específico.

### Alucinação Modelos de linguagem continuam produzindo respostas plausíveis e erradas. Um trabalho da OpenAI (Kalai et al., 2025, Why Language Models Hallucinate) argumenta que parte do problema vem de como treinamos e avaliamos esses modelos: benchmarks que premiam "chutar" em vez de admitir incerteza incentivam respostas confiantes mesmo sem base. Isso tem uma implicação prática: o problema não é só técnico, é também de incentivo e avaliação.

### Avaliação que não acompanha O AI Index 2026 alerta que as avaliações estão sendo superadas pelo progresso que deveriam medir, e que a confiabilidade dos benchmarks está sendo questionada. Benchmarks saturam, vazam para os dados de treino e nem sempre representam o trabalho real.

### O fator humano Um estudo da Anthropic publicado em 27/10 colocou 50 analistas experientes para fazer uma análise causal com um agente de IA que, sem que eles soubessem, favorecia um lado em cada escolha. Os analistas seguiram a inclinação do agente em 86% das decisões (o acaso daria cerca de 50%). Ou seja: um limite real da IA hoje não está só no modelo, mas em como nós decidimos ao lado dele.

### Energia e computação Segundo a Epoch AI, o poder computacional usado para treinar modelos de linguagem de fronteira cresce cerca de 5x por ano desde 2020, e o custo de treino cresce cerca de 3,5x ao ano. A Agência Internacional de Energia (IEA) projeta que o consumo elétrico de data centers sai de cerca de 415 TWh (2024) para cerca de 945 TWh em 2030, pouco menos de 3% da eletricidade global, com a IA como principal motor. O AI Index registra ainda que quase todos os chips de IA de ponta são fabricados por uma única empresa, a TSMC.

### Responsabilidade Incidentes documentados com IA subiram de 233 (2024) para 362 (2025), segundo o AI Index, e os relatos sobre benchmarks de IA responsável seguem irregulares.

3. Para onde a evidência aponta

Aqui separo o que tem dados de tendência do que ainda é aposta.

### Agentes — tendência forte O salto de 12% para ~66% no OSWorld e a movimentação das empresas para conectar agentes a sistemas corporativos (como o anúncio de OpenAI e Oracle nesta semana, levando aplicações e dados Oracle para o ChatGPT) indicam que a IA está saindo do "chat" e indo para a execução de tarefas dentro dos sistemas. O gargalo deixa de ser capacidade e passa a ser governança: permissões, trilhas de auditoria e aprovação.

### Descoberta científica — tendência real, com controvérsia O AI Index 2026 criou, pela primeira vez, capítulos dedicados a IA na ciência e na medicina. Ao mesmo tempo, a Scientific American relatou que provas geradas por IA divulgadas pela OpenAI — incluindo trabalho relacionado ao problema de Yang-Mills — geraram críticas de matemáticos pela falta de transparência sobre prompts, computação e raciocínio utilizados. A capacidade avança; os padrões de verificação científica ainda estão sendo negociados.

### Multimodalidade e modelos de mundo — tendência inicial O Google DeepMind anunciou o Genie 4, um modelo de mundo que gera ambientes interativos com áudio e diálogo. A própria empresa reconhece limites: consistência de longo prazo, interações físicas complexas e precisão espacial ainda são áreas de pesquisa. O AI Index também observa que modelos de vídeo começam a aprender como o mundo físico funciona, mas robôs ainda têm dificuldade em ambientes não estruturados.

### Eficiência — tendência necessária Com os custos de treino crescendo e a energia virando restrição, eficiência deixa de ser detalhe técnico. A própria Epoch AI aponta que prazos maiores de infraestrutura devem limitar o crescimento do estoque de computação. O AI Index nota que, com capacidade deixando de ser diferencial claro entre modelos de ponta, a competição migra para custo, confiabilidade e utilidade real.

### Regulação — em construção No Brasil, o PL 2338/2023 foi aprovado no Senado em dezembro de 2024 e aguarda parecer na Câmara. Enquanto isso, a ANPD atua com base na LGPD e mantém um sandbox regulatório de IA e proteção de dados, cujo 3º relatório foi publicado em outubro de 2026.

### Especulação (e eu sinalizo como tal) Datas para "IA geral", substituição em massa de profissões ou fim dos limites de escala não têm base empírica sólida hoje. Projeções de longo prazo dependem de energia, chips, dados e regulação — variáveis com incerteza alta.

4. Minha leitura como profissional de TI e pesquisador em formação

Trabalhando com infraestrutura, dados e IA aplicada no dia a dia, e no caminho do doutorado em IA, a conclusão que tiro desses dados é menos dramática e mais útil:

A capacidade é real — especialmente onde existe verificação objetiva.
A confiabilidade ainda não é — 1 falha em 3 tentativas é inaceitável em processos críticos sem supervisão bem desenhada.
O maior risco está na integração, não no modelo: dados ruins, permissões amplas demais e humanos que aprovam sem decidir.
Quem vai capturar valor são as organizações que tratarem IA como sistema — com monitoramento, métricas, rastreabilidade e gente qualificada — e não como ferramenta mágica.

A melhor postura diante da IA hoje é a do método científico: entusiasmo pela hipótese, rigor na evidência.

Se este conteúdo foi útil, assine a newsletter para receber as próximas análises e me conte nos comentários: na sua área, a IA já é confiável o suficiente para decidir sozinha — ou ainda só para sugerir?

Referências

Stanford HAI. The 2026 AI Index Report. https://hai.stanford.edu/ai-index/2026-ai-index-report (arXiv: https://arxiv.org/abs/2606.15708)
Stanford HAI. AI Index 2026 — Chapter 2: Technical Performance. https://hai.stanford.edu/assets/files/ai_index_report_2026_chapter_2_technical.pdf
Epoch AI. Trends in AI. https://epoch.ai/trends
Epoch AI. Training compute of frontier AI models grows by 4-5x per year. https://epoch.ai/publications/training-compute-of-frontier-ai-models-grows-by-4-5x-per-year
Epoch AI. Compute scaling will slow down due to increasing lead times. https://epoch.ai/gradient-updates/compute-scaling-will-slow-down-due-to-increasing-lead-times
IEA. Energy and AI (2025). https://www.iea.org/reports/energy-and-ai/energy-demand-from-ai
Anthropic. How AI agents shape experts' judgment calls (27/10/2026). https://www.anthropic.com/research/agents-judgment-calls
Anthropic Frontier Red Team. Discovering and exploiting vulnerabilities in critical, real-world software with Claude (27/10/2026). https://www.anthropic.com/research/discovering-vulnerabilities-with-claude
Scientific American. Dueling proofs from OpenAI and Anthropic astound scientists (27/10/2026). https://www.scientificamerican.com/article/dueling-proofs-from-openai-and-anthropic-astound-scientists/
Google DeepMind. Genie 4: A new generation of world simulation (27/10/2026). https://deepmind.google/blog/genie-4-a-new-generation-of-world-simulation/
OpenAI. OpenAI expands partnership with Oracle to bring its apps to ChatGPT (27/10/2026). https://openai.com/index/oracle-apps-in-chatgpt/
G1/Jornal Nacional. Pesquisa FGV Ibre sobre adoção de IA em empresas brasileiras (06/10/2026). https://g1.globo.com/jornal-nacional/noticia/2026/10/06/empresas-brasileiras-que-adotaram-ia-enfrentam-desafio-de-encontrar-profissionais-preparados-para-usar-a-tecnologia-diz-estudo.ghtml
IA.BR. Panorama da IA no Brasil 2026: regulação e políticas públicas. https://institutobrasileiro.ia.br/publicacoes/panorama-regulacao-ia-brasil-outubro-2026/texto-integral/
ANPD. 3º Relatório Parcial do Sandbox Regulatório em IA. https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-publica-3o-relatorio-parcial-de-monitoramento-do-sandbox-regulatorio-em-ia
Jumper, J. et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature 596, 583–589. https://doi.org/10.1038/s41586-021-03819-2
Merchant, A. et al. (2023). Scaling deep learning for materials discovery. Nature 624, 80–85. https://doi.org/10.1038/s41586-023-06735-9
Kalai, A. T. et al. (2025). Why Language Models Hallucinate. arXiv:2509.04664. https://arxiv.org/abs/2509.04664

"Humano no loop" não basta: aprovar não é o mesmo que decidir

Wed, 28 Oct 2026 12:00:00 -0300

Colocar um humano para aprovar o que o agente de IA faz não garante que o humano está decidindo.

Um estudo novo da Anthropic, divulgado ontem, mostrou isso com dados.

50 analistas profissionais fizeram uma análise estatística com um agente de IA.
Sem saber, cada agente tinha sido configurado para "puxar" para um lado em 4 escolhas metodológicas.

O resultado:
→ 86% das vezes os analistas foram para o lado do agente (o esperado, sem influência, seria ~50%)
→ Quando discordavam do agente, mudaram de ideia em 60% dos casos
→ 77% usaram os argumentos do agente para justificar a escolha, mas só 15% disseram que a ideia veio dele

E eram especialistas, não iniciantes.

Minha leitura como quem coordena TI e trabalha com IA aplicada:

"Human in the loop" virou selo de segurança.
Mas aprovar não é o mesmo que decidir.

Algumas práticas que considero obrigatórias:
1. Forme sua opinião ANTES de perguntar ao agente
2. Peça ao agente o melhor argumento CONTRA a recomendação dele
3. Registre de onde veio cada decisão (humano ou IA)
4. Em decisões críticas, dois humanos revisam

A IA não precisa mentir para conduzir uma decisão. Basta argumentar bem.

E você: quando aprova a sugestão de uma IA, está decidindo ou só concordando?

#InteligenciaArtificial #AgentesDeIA #GovernancaDeIA #TomadaDeDecisao #IAAplicada

Fonte: Anthropic, "How AI agents shape experts' judgment calls" (27/10/2026) — https://www.anthropic.com/research/agents-judgment-calls