A inteligência artificial vive seu momento de glória midiática, mas um grupo crescente de especialistas acaba de jogar água fria no entusiasmo desmedido. Vários cientistas, empresários e ex-altos executivos de empresas de IA, incluindo um ex-diretor da Anthropic (a empresa por trás do Claude), subscreveram uma carta pública alertando que o mundo enfrenta múltiplas crises interconectadas, desigualdade econômica, conflitos geopolíticos, colapso climático, e que a IA por si só não vai "salvar" nada sem a sabedoria social adequada para gestioná-la. A mensagem é clara: a tecnologia é uma ferramenta, não uma solução mágica, e pode amplificar problemas tanto quanto resolvê-los.

A carta, que circula entre círculos acadêmicos e tech há dias, argumenta que a narrativa dominante de "a IA nos salvará" é perigosamente ingênua. Os signatários sustentam que sem marcos regulatórios sólidos, distribuição equitativa de benefícios e considerações éticas profundas, a inteligência artificial pode se converter em acelerador de desigualdade, ferramenta de vigilância massiva ou arma em conflitos futuros. Nenhum dos signatários nega o potencial transformador da tecnologia, mas todos insistem que o otimismo tecnológico sem supervisão humana é uma receita para o desastre.

O notável desta carta é que vários de seus signatários provêm do coração da indústria de IA. Não são críticos externos nem luditas tecnofóbicos: são pessoas que construíram, financiaram ou gerenciaram sistemas de inteligência artificial em grande escala. Um ex-alto executivo da Anthropic (cujo nome não foi divulgado publicamente na carta) figura entre os signatários, o que adiciona peso institucional ao documento. "Não estamos dizendo que a IA é ruim. Estamos dizendo que é poderosa, e poder sem responsabilidade termina mal", declarou um porta-voz não identificado associado ao grupo de signatários. A carta enumera riscos específicos: algoritmos que perpetuam vieses raciais, de gênero ou econômicos; sistemas de recomendação que polarizam sociedades e alimentam desinformação; automação laboral sem redes de segurança social; uso militar de IA sem tratados internacionais que limitem seu desdobramento. Os signatários não propõem soluções únicas, mas demandam diálogo multissetorial, regulação internacional coordenada e transparência empresarial.

Em paralelo à carta pública, um estudo publicado na Nature Medicine joga lenha no fogo do debate sobre confiabilidade da IA. Os pesquisadores analisaram as respostas médicas de modelos de linguagem como o ChatGPT ante consultas de saúde comuns e descobriram que esses sistemas podem oferecer conselhos imprecisos ou diretamente perigosos. Em alguns casos, os chatbots recomendaram tratamentos obsoletos, minimizaram sintomas graves ou sugeriram autodiagnósticos que poderiam atrasar atendimento médico profissional urgente.

O estudo, que revisou milhares de interações simuladas entre pacientes e modelos de IA, encontrou que os chatbots tendem a oferecer respostas confiantes mesmo quando carecem de dados suficientes. "O problema não é apenas que erram. É que erram com tanta segurança que os usuários confiam cegamente", explicou um dos autores principais no paper publicado. Os pesquisadores advertem que os modelos de linguagem não devem ser utilizados para diagnóstico médico sem verificação profissional, e recomendam que as plataformas incluam avisos mais proeminentes sobre limitações médicas.

Um dos exemplos mais preocupantes do estudo envolve interações medicamentosas. Vários modelos de IA recomendaram combinações de fármacos que médicos qualificaram como potencialmente perigosas, especialmente em pacientes com condições preexistentes. Em outro caso, um chatbot minimizou sintomas de infarto cardíaco em uma mulher de 45 anos, sugerindo "estresse e ansiedade" quando os sintomas descritos eram indicadores clássicos de emergência cardiovascular. Os pesquisadores enfatizam que esses não são erros anedóticos: são padrões sistemáticos derivados de como os modelos geram texto baseando-se em probabilidades estatísticas, não em conhecimento médico verificado.

A Nature Medicine também assinala que os usuários tendem a supervalorizar a precisão de respostas de IA em temas médicos porque os chatbots "soam profissionais". A linguagem técnica, a estrutura coerente e a ausência de dúvidas verbais criam uma falsa sensação de autoridade. Os pesquisadores propõem que as empresas de IA implementem sistemas de verificação médica externa antes de permitir que seus modelos respondam consultas de saúde, algo que nenhuma empresa adotou sistematicamente até agora.

A carta pública e o estudo médico representam duas faces da mesma moeda: a IA está avançando mais rápido que nossa capacidade coletiva de entender seus riscos. As empresas tech priorizam velocidade e adoção massiva; os reguladores vão três passos atrás; os usuários confiam por padrão. Esta combinação gera condições perfeitas para desastres evitáveis. Os signatários da carta não pedem para parar o desenvolvimento de IA, mas insistem que o ritmo de inovação deve ser acompanhado de investimento equivalente em segurança, ética e governança. "Não se pode lançar sistemas que afetam milhões de vidas e resolver os problemas depois. Isso é engenharia irresponsável", assinalou um ex-executivo da Anthropic citado indiretamente em documentos relacionados à carta. A indústria responde que a regulação excessiva pode sufocar a inovação, mas os críticos argumentam que a alternativa, IA sem freios, é pior.

O debate está longe de se resolver. Governos começam a legislar (a União Europeia lidera com seu AI Act, os Estados Unidos discutem marcos federais, a China implementa controles estatais estritos), mas as empresas operam globalmente e as regulações nacionais são fáceis de contornar. Enquanto isso, a IA segue integrando-se em educação, saúde, finanças, justiça e defesa, com consequências que só entenderemos completamente quando for tarde demais para revertê-las. A carta pública não oferece respostas definitivas, mas coloca as perguntas corretas: Quem controla a IA? Para que a usamos? E o que fazemos quando ela falha espetacularmente?