¿Puede la Inteligencia Artificial acabar con la humanidad? La pregunta parece propia de una película de ciencia ficción, pero ha vuelto al centro del debate después de que Jacob Coxon, investigador que trabajó en pretraining en OpenAI y Anthropic, abandonara esta última empresa para advertir sobre la carrera hacia sistemas capaces de mejorarse a sí mismos.
Su preocupación es seria: si llegamos a construir una inteligencia muy superior a la humana sin saber controlarla, las consecuencias podrían ser extraordinarias. Pero conviene explicar la advertencia con precisión. Coxon plantea un riesgo, no un destino inevitable ni una fecha confirmada para el fin de la humanidad. La diferencia importa.
Podemos escuchar a quienes trabajan en la frontera de esta tecnología sin convertir cada advertencia en un titular apocalíptico. Y podemos añadir otra pregunta que, para mí, es igualmente importante: ¿y si el verdadero problema no fuera solo la Inteligencia Artificial, sino lo que nosotros decidamos hacer con ella?
La tecnología no necesita ser más rica que su vecino. No necesita conquistar un país, ganar unas elecciones ni acumular poder para sentirse importante. Nosotros sí podemos desarrollar esas ambiciones.
Gran parte de los conflictos de nuestra historia han estado relacionados con el poder, los recursos, el territorio, la ideología, la ambición o el ego. Por eso, uno de los mayores riesgos de la IA no es necesariamente que una máquina desarrolle un ego propio. Es que multiplique de forma extraordinaria la capacidad del ego humano.
Una IA perfectamente obediente en manos de alguien con malas intenciones puede ser más peligrosa que la imagen popular de una máquina rebelde. Puede ampliar la vigilancia, la manipulación, los ciberataques, la concentración económica o la capacidad de controlar a millones de personas. El problema deja de ser únicamente técnico y pasa a ser político, económico y humano.
La Inteligencia Artificial no decidirá por sí sola qué futuro construiremos. Amplificará las decisiones, las reglas y los intereses que introduzcamos en ella.
La advertencia de Coxon ha sido recogida por medios como WIRED y Ars Technica. Debemos escucharla precisamente porque procede de alguien que ha trabajado en los sistemas de frontera. Escucharla no significa aceptar que el desastre sea inevitable.
Hoy vemos la IA principalmente a través de una pantalla. Preguntamos, programamos, analizamos documentos, generamos imágenes y automatizamos procesos. Esa es solo la primera etapa. La inteligencia artificial terminará adquiriendo capacidad física mediante robots y sistemas autónomos cada vez más capaces.
El objetivo no debería ser llenar el mundo de máquinas, sino conseguir que esa capacidad productiva se traduzca en bienestar: más tiempo para la familia, mejor salud, mayor seguridad y libertad para dedicar nuestra vida a algo más que sobrevivir.
Muchos robots tendrán forma humanoide por una razón práctica: nuestro mundo está diseñado alrededor del cuerpo humano. Puertas, escaleras, herramientas, vehículos, almacenes, viviendas y fábricas están preparados para personas con dos piernas, dos brazos y dos manos.
Cuando esos robots estén conectados a inteligencias cada vez más capaces, comenzará una transformación industrial difícil de imaginar. Además, existe una diferencia decisiva respecto al aprendizaje humano: cuando una persona aprende algo, transmitir completamente ese conocimiento a millones de personas es muy difícil; cuando una máquina aprende algo, ese conocimiento puede distribuirse casi de inmediato a millones de máquinas.
Durante los próximos veinte años veremos fábricas más autónomas, transporte automatizado, agricultura robotizada, agentes inteligentes y servicios que requerirán una intervención humana mínima. Será una auténtica superindustrialización. Sin embargo, no creo que en quince o veinte años hayamos reorganizado por completo nuestra sociedad. La tecnología puede avanzar exponencialmente; las estructuras sociales, económicas y culturales lo hacen mucho más despacio.
Esto nos obligará a revisar la relación que sostiene buena parte de nuestra economía: trabajamos, recibimos dinero y utilizamos ese dinero para acceder a recursos. Si una proporción creciente de bienes y servicios puede producirse automáticamente, ¿qué ocurrirá con el trabajo, la riqueza y el papel del dinero?
No afirmo que el dinero vaya a desaparecer. Su función podría cambiar profundamente. El trabajo podría dejar de ser, poco a poco, una necesidad puramente económica y vincularse más al propósito, la creatividad, el conocimiento y la realización personal. El dinero seguiría siendo necesario para gestionar aquello que continúe siendo escaso, pero quizá dejaría de condicionar casi todos los aspectos de nuestra existencia.
En un escenario, unas pocas empresas, gobiernos o individuos controlan las inteligencias más avanzadas, los robots, los datos, la energía y las infraestructuras productivas. Nunca habría existido una concentración de poder semejante. En el otro, la automatización genera tanta capacidad productiva que muchos bienes, servicios y conocimientos se vuelven accesibles para una parte mucho mayor de la humanidad.
La automatización podría ampliar la clase media, reducir determinadas formas de pobreza y democratizar capacidades hoy reservadas a quienes tienen suficientes recursos. También podría provocar lo contrario si toda esa capacidad termina concentrada en muy pocas manos. La tecnología permite ambos caminos. La distribución de sus beneficios dependerá de las reglas que decidamos establecer.
Si esperamos a disponer de una IA enormemente superior a nosotros para preguntarnos cómo controlarla, probablemente llegaremos tarde. Las reglas deben empezar a definirse mientras todavía estamos construyendo la tecnología.
Creo que deberíamos avanzar hacia unos Axiomas Universales de la Inteligencia Artificial: principios básicos que cualquier sistema suficientemente avanzado tendría que cumplir para poder ser homologado y utilizado.
Homologamos un automóvil antes de permitirle circular por nuestras carreteras. Sería difícil justificar que una inteligencia miles de veces más capaz que una persona pudiera operar sin controles equivalentes. Y como la IA no entiende de fronteras, esos controles necesitarán coordinación internacional.
Los principios no serán suficientes por sí solos. Necesitaremos mecanismos internacionales capaces de establecer estándares, auditar sistemas avanzados y coordinar respuestas ante desarrollos peligrosos. Determinados usos deliberadamente destructivos de la IA deberán tener consecuencias legales graves.
Pero aquí aparece una paradoja: no podemos combatir la concentración de poder creando una organización o una IA con poder absoluto. El sistema debería apoyarse en múltiples mecanismos independientes de supervisión, transparencia y equilibrio. Ninguna empresa, gobierno, organismo o modelo debería controlarlo todo.
A este concepto lo llamo Superinteligencia Democrática. No significa crear una IA que gobierne a las personas. Significa conseguir que una futura superinteligencia esté gobernada mediante principios democráticos, controles independientes y reglas universales destinadas a proteger a la humanidad.
Una inteligencia así podría ayudarnos a gestionar sistemas extraordinariamente complejos sin convertirse en propietaria de nuestras decisiones. Incluso podría ayudarnos a reducir la influencia del ego en algunos procesos: una máquina puede analizar una decisión sin necesitar enriquecerse, ganar unas elecciones o demostrar que tenía razón. El reto será impedir que nosotros introduzcamos nuestros propios intereses dentro de sus objetivos.
No necesitamos una IA que gobierne a la humanidad. Necesitamos una humanidad suficientemente inteligente para gobernar la IA.
Entiendo la preocupación de Jacob Coxon. Ridiculizar las advertencias de quienes conocen esta tecnología desde dentro sería un error. Una superinteligencia mal diseñada, fuera de control o utilizada deliberadamente con malas intenciones podría representar un riesgo extraordinario.
Pero no quiero mirar inevitablemente hacia el futuro desde el miedo. La IA también puede convertirse en una de las herramientas más extraordinarias creadas por nuestra especie. Puede multiplicar la productividad, acelerar la ciencia, mejorar la gestión de los recursos y permitir que, durante las próximas generaciones, construyamos una sociedad mucho más próspera.
Para conseguirlo tendremos que evolucionar nosotros también, no solo tecnológicamente, sino humanamente. El futuro de la IA no se decidirá cuando aparezca la superinteligencia. Se está decidiendo ahora: cuando elegimos quién la desarrolla, quién la controla, qué límites establecemos y para qué queremos utilizarla.
La pregunta no es únicamente cómo evitar que la IA destruya a la humanidad. También debemos preguntarnos cómo utilizarla para construir una humanidad mejor. Quizá tengamos varias generaciones para completar esa transformación, pero las reglas del juego debemos empezar a escribirlas hoy.
Por qué plantear la IA como interno contra externo es un error, y cuál es el modelo que de verdad funciona para adoptar Inteligencia Artificial en tu empresa a la velocidad que exige el mercado.
Muchas empresas empiezan definiendo qué agente de IA quieren antes de analizar el problema de negocio. El proceso correcto es justo el contrario — te explicamos cómo hacerlo bien.
Añadir un chatbot o un agente no es una estrategia de IA. Antes de integrar, hay que tener claro qué se quiere conseguir y cómo encaja con los datos y sistemas reales de la empresa.
Renovamos nuestra web y nuestra identidad de marca para representar con más claridad cómo ayudamos a las empresas a adoptar la Inteligencia Artificial de forma real y aplicada a su negocio.
Grok, Claude, GPT, Gemini... a nivel corporativo no importa qué IA usas, importa qué problema tienes y cómo lo resuelves. Un ejemplo real: centralizar teléfono, WhatsApp y email en un único CRM.
¿Hablamos?