La inteligencia artificial vive su momento de gloria mediática, pero un grupo creciente de expertos acaba de tirar agua fría sobre el entusiasmo desmedido. Varios científicos, empresarios y ex altos ejecutivos de compañías de IA, incluido un ex directivo de Anthropic (la empresa detrás de Claude), suscribieron una carta pública alertando que el mundo enfrenta múltiples crisis interconectadas, desigualdad económica, conflictos geopolíticos, colapso climático, y que la IA por sí sola no va a "salvar" nada sin la sabiduría social adecuada para gestionarla. El mensaje es claro: la tecnología es una herramienta, no una solución mágica, y puede amplificar problemas tanto como resolverlos.

La carta, que circula entre círculos académicos y tech desde hace días, argumenta que la narrativa dominante de "la IA nos salvará" es peligrosamente ingenua. Los firmantes sostienen que sin marcos regulatorios sólidos, distribución equitativa de beneficios y consideraciones éticas profundas, la inteligencia artificial puede convertirse en acelerador de desigualdad, herramienta de vigilancia masiva o arma en conflictos futuros. Ninguno de los firmantes niega el potencial transformador de la tecnología, pero todos insisten en que el optimismo tecnológico sin supervisión humana es una receta para el desastre.

Lo notable de esta carta es que varios de sus firmantes provienen del corazón de la industria de IA. No son críticos externos ni luditas tecnofóbicos: son personas que han construido, financiado o gestionado sistemas de inteligencia artificial a gran escala. Un ex alto ejecutivo de Anthropic (cuyo nombre no ha sido divulgado públicamente en la carta) figura entre los firmantes, lo que añade peso institucional al documento. "No estamos diciendo que la IA sea mala. Estamos diciendo que es poderosa, y el poder sin responsabilidad termina mal", declaró un vocero no identificado asociado al grupo de firmantes. La carta enumera riesgos específicos: algoritmos que perpetúan sesgos raciales, de género o económicos; sistemas de recomendación que polarizan sociedades y alimentan desinformación; automatización laboral sin redes de seguridad social; uso militar de IA sin tratados internacionales que limiten su despliegue. Los firmantes no proponen soluciones únicas, pero demandan diálogo multisectorial, regulación internacional coordinada y transparencia empresarial.

En paralelo a la carta pública, un estudio publicado en Nature Medicine arroja leña al fuego del debate sobre confiabilidad de IA. Los investigadores analizaron las respuestas médicas de modelos de lenguaje como ChatGPT ante consultas de salud comunes y descubrieron que estos sistemas pueden ofrecer consejos inexactos o directamente peligrosos. En algunos casos, los chatbots recomendaron tratamientos obsoletos, minimizaron síntomas graves o sugirieron autodiagnósticos que podrían retrasar atención médica profesional urgente.

El estudio, que revisó miles de interacciones simuladas entre pacientes y modelos de IA, encontró que los chatbots tienden a ofrecer respuestas confiadas incluso cuando carecen de datos suficientes. "El problema no es solo que se equivoquen. Es que se equivocan con tanta seguridad que los usuarios confían ciegamente", explicó uno de los autores principales en el paper publicado. Los investigadores advierten que los modelos de lenguaje no deben ser utilizados para diagnóstico médico sin verificación profesional, y recomiendan que las plataformas incluyan descargos de responsabilidad más prominentes sobre limitaciones médicas.

Uno de los ejemplos más preocupantes del estudio involucra interacciones medicamentosas. Varios modelos de IA recomendaron combinaciones de fármacos que médicos calificaron como potencialmente peligrosas, especialmente en pacientes con condiciones preexistentes. En otro caso, un chatbot minimizó síntomas de infarto cardíaco en una mujer de 45 años, sugiriendo "estrés y ansiedad" cuando los síntomas descritos eran indicadores clásicos de emergencia cardiovascular. Los investigadores enfatizan que estos no son errores anecdóticos: son patrones sistemáticos derivados de cómo los modelos generan texto basándose en probabilidades estadísticas, no en conocimiento médico verificado.

Nature Medicine también señala que los usuarios tienden a sobrevalorar la precisión de respuestas de IA en temas médicos porque los chatbots "suenan profesionales". El lenguaje técnico, la estructura coherente y la ausencia de dudas verbales crean una falsa sensación de autoridad. Los investigadores proponen que las empresas de IA implementen sistemas de verificación médica externa antes de permitir que sus modelos respondan consultas de salud, algo que ninguna empresa ha adoptado sistemáticamente hasta ahora.

La carta pública y el estudio médico representan dos caras de la misma moneda: la IA está avanzando más rápido que nuestra capacidad colectiva de entender sus riesgos. Las empresas tech priorizan velocidad y adopción masiva; los reguladores van tres pasos atrás; los usuarios confían por defecto. Esta combinación genera condiciones perfectas para desastres evitables. Los firmantes de la carta no piden detener el desarrollo de IA, pero sí insisten en que el ritmo de innovación debe acompañarse de inversión equivalente en seguridad, ética y gobernanza. "No puedes lanzar sistemas que afectan millones de vidas y resolver los problemas después. Eso es ingeniería irresponsable", señaló un ex ejecutivo de Anthropic citado indirectamente en documentos relacionados con la carta. La industria responde que la regulación excesiva puede sofocar innovación, pero los críticos argumentan que la alternativa, IA sin frenos, es peor.

El debate está lejos de resolverse. Gobiernos comienzan a legislar (la Unión Europea lidera con su AI Act, Estados Unidos discute marcos federales, China implementa controles estatales estrictos), pero las empresas operan globalmente y las regulaciones nacionales son fáciles de evadir. Mientras tanto, la IA sigue integrándose en educación, salud, finanzas, justicia y defensa, con consecuencias que solo entenderemos completamente cuando sea demasiado tarde para revertirlas. La carta pública no ofrece respuestas definitivas, pero plantea las preguntas correctas: ¿Quién controla la IA? ¿Para qué la usamos? ¿Y qué hacemos cuando falla espectacularmente?