¿El fin de la humanidad?

Qué hay detrás de las advertencias sobre inteligencia artificial, qué sabemos realmente y qué sigue siendo una posibilidad.

En estos días ha circulado con fuerza una idea bastante inquietante. La inteligencia artificial podría llegar a representar un riesgo serio para la humanidad. Los titulares son fuertes, llaman la atención y se comparten rápido.

Pero antes de quedarnos con la frase “la extinción de la humanidad se aproxima más rápido de lo que creemos”, vale la pena hacer algo mucho menos espectacular y mucho más útil. Ir a la fuente.

¿Qué dijo realmente Jacob Coxon? ¿En qué contexto lo dijo? ¿Qué parte pertenece a su advertencia y qué parte se fue amplificando mientras la noticia pasaba de un medio a otro y, después, a las redes sociales?

Mientras preparaba esta conversación, el debate siguió moviéndose. Investigadores que permanecen dentro de Anthropic respaldaron públicamente parte de las preocupaciones expresadas por Coxon y, pocos días después de su renuncia, el propio CEO de la empresa, Dario Amodei, pidió desacelerar el ritmo de desarrollo para que las medidas de seguridad tengan tiempo de alcanzar las nuevas capacidades de estos sistemas.

Esto no confirma los escenarios más extremos, pero sí añade un dato importante. La preocupación por el rumbo que está tomando la inteligencia artificial no existe únicamente en los titulares. También se está discutiendo dentro de las empresas que la están construyendo.

Esa curiosidad fue la que me motivó a realizar esta mesa virtual. Imaginemos que estamos sentados con un café y que frente a nosotros tenemos a tres de las principales inteligencias artificiales.

No para buscar respuestas que confirmen nuestros temores, sino para conversar, contrastar y entender mejor qué sabemos, qué todavía no sabemos y qué sigue siendo una posibilidad.

Y hay algo más que me interesa en esta conversación. No quiero que este artículo te diga qué debes pensar. Me gustaría que hiciera justo lo contrario. Invitarte a investigar, a buscar el origen de una afirmación y a no quedarte únicamente con lo que consiguió más likes o se volvió viral.

Tenemos herramientas extraordinarias a nuestro alcance, incluida la propia inteligencia artificial. Podemos usarlas para aprender, comparar y hacernos mejores preguntas. Pero eso no significa delegar por completo nuestro criterio ni aceptar automáticamente todo lo que nos dicen.

Así que sirvamos el café y empecemos la conversación.

La conversación

Hoy me di a la tarea de sentar, por decirlo de alguna manera, a ChatGPT, Gemini y Claude en una misma mesa virtual.

A cada una le haré las mismas preguntas. Cuando sus respuestas coincidan, resumiré las ideas principales y destacaré aquello que cada una aporte de manera distinta a la conversación.

Quise empezar por el origen de todo esto.

¿Qué dijo realmente Jacob Coxon y qué parte se fue amplificando mientras sus palabras pasaban de una entrevista a los titulares y, después, a las redes sociales?

Las tres coincidieron en algo esencial. Coxon sí hizo advertencias muy fuertes, pero habló de escenarios futuros y de sistemas mucho más capaces que los que utilizamos actualmente. Una posibilidad de riesgo no es lo mismo que una fecha comprobada para el fin de la humanidad.

ChatGPT hizo una distinción sencilla que me pareció importante conservar. No es lo mismo decir “podría ocurrir una catástrofe” que afirmar “a la humanidad le quedan cuatro años”.

Gemini llevó la conversación hacia otro punto. Más allá del riesgo tecnológico, puso el foco en la competencia entre los propios laboratorios. Si una empresa cree que detenerse significa dejar que otra llegue primero, incluso quienes reconocen ciertos riesgos pueden sentirse presionados a seguir avanzando.

Claude, por su parte, insistió en separar el presente del futuro. La inteligencia artificial que usamos hoy no es la superinteligencia de la que hablan estas advertencias.

Y eso me llevó inmediatamente a la siguiente pregunta.

Cuando Coxon habla de una inteligencia artificial capaz de representar un riesgo extremo, ¿está hablando de ChatGPT, Gemini o Claude tal como existen hoy?

Otra vez hubo acuerdo. No.

Gemini lo resumió de una manera que me gustó. “Es una advertencia sobre la arquitectura del mañana, no sobre las aplicaciones del presente”.

Claude añadió el componente técnico. La preocupación comienza a cambiar de escala cuando se imagina un sistema capaz de participar en su propia mejora con mucha menos intervención humana.

ChatGPT marcó otra diferencia importante. Los sistemas actuales pueden hacer cosas que hace pocos años parecían sorprendentes, pero también se equivocan, necesitan supervisión y están lejos de las capacidades que se atribuyen a una hipotética superinteligencia.

Y ahí apareció una palabra que necesitaba detenerme a entender mejor. Automejora.

Si una inteligencia artificial puede ayudar a construir otra inteligencia artificial, ¿en qué momento eso deja de ser una herramienta que asiste a los investigadores y empieza a convertirse en un sistema capaz de mejorarse por sí mismo?

ChatGPT explicó que ya existen sistemas de IA que ayudan a desarrollar otros sistemas de IA. Pueden escribir código, analizar resultados y acelerar partes del trabajo de los investigadores. Pero eso todavía no equivale a una IA que se rediseña sola una y otra vez.

Claude añadió un matiz que me pareció muy importante. No existe una línea perfectamente clara entre una herramienta que ayuda y un sistema que comienza a mejorarse de manera cada vez más autónoma. Es más bien un espectro.

Una IA puede proponer una solución, pero todavía necesita que una persona la revise, decida si sirve y autorice el siguiente paso. Más adelante podría llegar a probar sus propias soluciones, compararlas y descartar errores con menos intervención humana. Mucho más allá estaría el escenario en el que pudiera diseñar, evaluar e implementar cambios sobre sí misma de forma repetida.

Seguimos bastante más cerca del primer caso. Los humanos continúan definiendo objetivos, evaluando resultados y tomando decisiones importantes.

La automejora recursiva sería el punto en el que un sistema pudiera mejorar sus propias capacidades de manera repetida y con cada vez menos intervención humana.

Por ahora, eso sigue siendo una hipótesis, no una capacidad demostrada de forma autónoma y sostenida en los sistemas actuales.

Si algún día un sistema pudiera actuar con mucha más autonomía, ¿qué significa realmente “alinearlo” y quién decide con qué valores debe estar alineado?

Claude hizo una distinción que ayudó a ordenar la conversación.

La alineación tiene dos problemas distintos.

El primero es técnico. ¿Cómo conseguimos que una IA persiga realmente los objetivos que queremos y no encuentre atajos o comportamientos que se alejen de nuestra intención?

El segundo es mucho menos técnico. ¿Quién decide cuáles deben ser esos objetivos y valores?

ChatGPT explicó que, en términos sencillos, alinear una IA significa intentar que sus acciones sigan los objetivos, límites y principios que los humanos esperamos de ella.

Pero ahí aparece una dificultad mucho más profunda. No basta con decir que hay que enseñarle lo correcto, porque no siempre existe una sola respuesta sobre qué es correcto.

A veces esos valores entran en tensión. Privacidad y seguridad; libertad de expresión y prevención del daño; autonomía individual y protección de personas vulnerables. Son conflictos que ya existen entre nosotros antes de involucrar a una máquina.

Gemini llevó la discusión hacia una pregunta más incómoda.

Alinear una IA no es solo conseguir que siga instrucciones. También implica decidir qué principios queremos que guíen su comportamiento.

Ahí la pregunta deja de ser solo técnica. ¿Quién establece esos valores? ¿Las empresas que construyen los modelos, los gobiernos, los especialistas o la sociedad en conjunto?

Gemini señaló que existen distintos intentos de responder a esa cuestión, desde principios definidos por los propios laboratorios hasta modelos como la IA Constitucional de Anthropic, que busca hacer explícitas las reglas y valores que orientan el comportamiento del sistema.

Por ahora, buena parte de esas decisiones recae en los propios laboratorios. Anthropic, por ejemplo, publica una constitución que establece los principios que busca incorporar al comportamiento de Claude. Pero incluso la propia empresa ha reconocido que elegir esos valores da a los desarrolladores un poder considerable y ha experimentado con mecanismos de participación pública para ampliar esa participación.

En otras palabras, no basta con preguntarnos si podemos alinear una IA. También tenemos que preguntarnos quién tiene la autoridad para establecer hacia qué queremos alinearla.

Y me pregunto: si buena parte de estas decisiones están hoy en manos de unas pocas empresas, ¿el problema es solo lo que puede llegar a hacer la inteligencia artificial o también quién concentra el poder para desarrollarla y ponerle límites?

Gemini llevó la conversación hacia la competencia entre empresas.

Cuando avanzar más rápido puede significar obtener una ventaja sobre los competidores, la presión por no quedarse atrás también puede influir en cuánto están dispuestas las empresas a frenar, compartir información o priorizar medidas de seguridad.

Claude añadió un matiz interesante. Repartir el poder entre más actores no eliminaría por sí solo los riesgos técnicos.

Aunque el desarrollo estuviera distribuido entre más empresas, gobiernos, universidades o proyectos abiertos, seguiría existiendo la dificultad de coordinar criterios de seguridad, supervisión y responsabilidad.

ChatGPT reunió ambos puntos en una misma idea. Una cosa es preguntarnos qué podría llegar a hacer una inteligencia artificial muy avanzada. Otra es preguntarnos quién controla los modelos, la infraestructura, el acceso y las reglas bajo las que funcionan.

Desarrollar los sistemas más avanzados requiere grandes cantidades de cómputo, chips especializados, centros de datos, capital y talento. Son recursos que no están al alcance de cualquiera y que, en buena medida, se concentran en un grupo relativamente pequeño de empresas y proveedores.

Eso no significa por sí mismo que exista un abuso de poder. Pero sí abre preguntas sobre quién toma las decisiones, qué mecanismos de supervisión existen y cuánto espacio tiene el resto de la sociedad para participar en ellas.

No solo importa qué puede hacer la IA. Importa quién decide qué hacer con ella.

Cuando científicos, investigadores y empresas hablan de riesgos tan distintos, ¿cómo puede una persona común distinguir entre una advertencia seria, una hipótesis y una predicción alarmista?

Claude propuso empezar por algo muy sencillo. Comparar lo que dice el titular con lo que realmente dijo la persona.

Si un “podría” termina convertido en un “va a”, o si desaparecen las condiciones y matices de la declaración original, ya estamos viendo una forma de amplificación.

También sugirió fijarse en si la advertencia explica cómo podría ocurrir aquello que plantea.

Una hipótesis seria suele mostrar algún mecanismo que puede discutirse, criticarse o investigarse. Cuando solo aparece el resultado más extremo, sin explicar cómo se llegaría hasta él, conviene mirar con más cuidado.

Gemini propuso otro filtro útil. Antes de reaccionar a una afirmación, preguntarnos tres cosas. ¿De qué tipo de riesgo estamos hablando? ¿Con qué grado de certeza se presenta? ¿Quién está haciendo la afirmación?

No es lo mismo hablar de un problema que ya podemos observar que de un escenario futuro que todavía depende de muchas condiciones. Tampoco es lo mismo una posibilidad, una estimación y una afirmación presentada como certeza.

ChatGPT hizo una última distinción. Una advertencia seria plantea un riesgo y explica qué tendría que ocurrir para que se materializara. Una hipótesis propone un escenario que todavía no está demostrado. Una predicción intenta decir qué ocurrirá y, a veces, incluso cuándo.

El problema aparece cuando esas diferencias se pierden mientras una declaración pasa de una entrevista a un titular y de ahí a las redes sociales.

Por eso, más que preguntarnos solamente si algo da miedo, conviene detenernos un momento. ¿Quién lo dijo? ¿Qué dijo exactamente? ¿Hablaba de algo que ya ocurre o de algo que podría ocurrir? ¿Presentó evidencia, una estimación o una opinión? ¿Otros especialistas coinciden o existen desacuerdos importantes?

No se trata de ignorar las advertencias ni de creerlas automáticamente. Se trata de entender qué tipo de afirmación tenemos delante antes de decidir cuánto peso darle.

Entonces, para una persona que usa inteligencia artificial en su vida cotidiana, ¿qué significa realmente usarla con criterio sin caer ni en el miedo ni en la confianza ciega?

Gemini puso primero el foco en algo muy cotidiano. Una respuesta clara y bien redactada puede parecer más confiable de lo que realmente es.

Cuando la información importa, conviene verificarla y no confundir seguridad en el tono con certeza en los datos.

Claude llevó la idea un paso más allá. No todos los usos requieren el mismo nivel de cautela.

Usar la IA con criterio también significa verificar de manera proporcional al riesgo. No hace falta revisar con la misma intensidad una lluvia de ideas que una recomendación médica, legal o financiera.

También hizo una distinción que me pareció importante. No se trata de confiar automáticamente en la inteligencia artificial, pero tampoco de desconfiar de todo lo que produce solo por venir de una máquina.

Ese mismo criterio puede aplicarse a lo que dicen sobre ella periodistas, investigadores y las propias empresas que desarrollan estos sistemas. Sus afirmaciones también conviene contrastarlas, sobre todo cuando hablan de capacidades futuras, riesgos o posibles soluciones.

Y ChatGPT cerró esta pregunta con una idea sencilla. La inteligencia artificial puede ayudar a redactar, resumir, comparar información, explorar ideas o acelerar partes de una tarea. Pero la responsabilidad sobre lo que hacemos con ese resultado sigue siendo nuestra.

La máquina propone, pero el humano decide.

Usar inteligencia artificial con criterio no significa saber cómo funciona cada parte del sistema. Significa saber cuándo confiar, cuándo verificar y cuándo una decisión no debería delegarse por completo.

Después de todo lo que hemos hablado, ¿cuál sería la idea más importante que te gustaría que el lector se llevara de esta conversación?

ChatGPT abrió esta última ronda con un punto central.

La inteligencia artificial puede ayudarnos a buscar, ordenar, comparar y pensar, pero no debería sustituir nuestra responsabilidad de preguntar, verificar y decidir.

No hace falta elegir entre tenerle miedo o confiar ciegamente en ella. Hay un espacio mucho más útil entre ambos extremos: entender lo que sabemos, reconocer lo que todavía no sabemos y asumir la responsabilidad de decidir.

Gemini llevó esa idea hacia la participación.

No conviene mirar el desarrollo de la inteligencia artificial como espectadores pasivos. Entender quién toma las decisiones, qué límites existen y conservar nuestro propio criterio también forma parte de aprender a convivir con esta tecnología.

Claude cerró con una advertencia que funciona en las dos direcciones.

Antes de reaccionar a una afirmación sobre inteligencia artificial, conviene preguntarnos si conserva el condicional o si alguien se lo quitó por el camino.

Un “podría” convertido en un “va a” puede transformar una posibilidad en una certeza. Pero también puede ocurrir lo contrario. Una frase como “hasta ahora hemos podido controlar determinado comportamiento” puede terminar interpretándose como “no existe ningún riesgo”.

Ni el miedo absoluto ni la tranquilidad absoluta reflejan bien lo que sabemos hoy. En muchos casos, lo más honesto sigue siendo reconocer la incertidumbre.

Por eso, antes de quedarnos con una afirmación porque asusta o tranquiliza, quizá convenga volver a la fuente y preguntarnos qué se dijo realmente y con qué grado de certeza.

Para cerrar

Después de escuchar a las tres IA, cada una con una forma de responder y un estilo propio, por decirlo de alguna manera, me queda claro que hablar de inteligencia artificial no debería obligarnos a elegir entre el miedo y la confianza ciega.

Hay preguntas que todavía no tienen respuesta. Hay riesgos que ya podemos observar y otros que pertenecen a escenarios futuros que todavía no sabemos si llegarán a ocurrir ni hasta dónde podremos controlarlos. Reconocer estas diferencias no significa restar importancia a las advertencias. Significa entenderlas mejor.

Quizá por eso, en una época de titulares rápidos, reels y shorts virales, informarse también implica resistir la tentación de quedarse solo con la frase que más asusta o más likes consigue.

Podemos preguntarle a una inteligencia artificial. Podemos escuchar a investigadores, empresas, periodistas y especialistas. Podemos comparar respuestas y buscar fuentes. Pero al final hay una parte que no deberíamos delegar.

Nuestro criterio.

No todas las respuestas están en la inteligencia artificial. Algunas siguen estando en las preguntas que hacemos.

Fuentes consultadas

WIRED (2026). The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’. WIRED.

Reuters (2026). Anthropic CEO urges AI companies to slow model development amid fears over misuse. Reuters.

Anthropic (2026). Claude’s new constitution. Anthropic.

Anthropic (2023). Collective Constitutional AI: Aligning a Language Model with Public Input. Anthropic.

Federal Trade Commission (2025). FTC Issues Staff Report on AI Partnerships & Investments Study. Federal Trade Commission.

Stanford HAI (2026). Research and Development. The 2026 AI Index Report.