Microsoft propone un código de conducta para sus modelos de IA: no podrán ayudar a fabricar armas químicas, biológicas, radiológicas, nucleares o explosivas, ni dar capacidad operativa para ciberataques, ni manipular a gran escala, ni generar deepfakes ni suplantaciones, y se aplica protección total en todo lo que toca a menores.
Miguel Ángel Valero
Los espectaculares avances de la inteligencia artificial (IA) han sacudido los mercados y han reabierto el debate de los límites de esta tecnología. Los propios expertos reconocen el temor ante la autonomía que está cobrando la IA y hay quienes comparan su relevancia con la de una bomba atómica. La IA ya es capaz de generar ciberataques por su propia cuenta, lo que le otorga un poder suficiente como para paralizar empresas o países al completo. Especialmente si afecta a sectores críticos como las telecomunicaciones, el transporte, la banca o la energía.
“En manos equivocadas hace mucho daño. Cada vez es más autónoma y no llegamos a un acuerdo para frenarla”, explica Sancho Lerena, experto en gestión IT y seguridad y CEO de la tecnológica española Pandora FMS. “La bomba atómica no decidía. Lo que hemos creado ahora, en cambio, es una IA que está al borde de ser del todo autónoma”, subraya.
La evolución y potencial de los agentes IA ha sido constante en los últimos tiempos. Tanto que de un mes a otro ya hay mejoras considerables y observables. “Al agente IA le das una tarea y él usa los recursos de tu máquina para sacarla adelante. Es como un esclavo digital, solo que este esclavo se ha dado cuenta de que no necesita que le des órdenes específicas para todo”, insiste.
Lerena plantea un escenario para ejemplificar el poder de la IA: “Yo no me pongo dramático: al mío le he dado permisos de control de pantalla para que vigile si una aplicación que estaba programando se caía. Con eso, podría abrirme una aplicación, enviarme un correo, contestar un WhatsApp. Y si yo, en otra conversación, se me escapa que estoy hasta el gorro de mi socio, no hace falta montarse una película: le bastaría con leerlo como una tarea. Buscar su teléfono en internet, encontrarlo en una web de citas para hombres casados, localizar a su amante y sus fotos de Instagram, y mandarle un WhatsApp amenazante con pruebas. Problema resuelto. Que era, en el fondo, lo que yo le había pedido”.
La situación a la que se ha llegado con la IA no es de ciencia ficción. “Los casos similares se producen en sitios técnicos, entonces parece que tienen menos carga dramática”, advierte. En 2016, OpenAI entrenó a un agente para ganar una carrera de barcos de un videojuego, y la IA, en lugar de terminar la carrera, puso al barco a dar vueltas para recoger puntos y sumar más recompensas. De esta forma, la IA ganó haciendo trampas con las reglas establecidas. En 2023, GPT-4 le mintió a un trabajador de TaskRabbit para que le resolviera un captcha. En 2024, un agente con control de ordenador de Antrhopic se puso a ver imágenes del parque de Yellowstone sin que nadie se lo pidiera durante una tarea. Y en el mismo año, Air Canada tuvo que indemnizar a un pasajero porque su chatbot le prometió una tarifa que no existía. Y Google ya detectó un intento de ciberataque con IA que logró frenar.
“Son avances que nos permiten ver la realidad. La IA está llegando a un punto de autonomía muy peligro”, denuncia el CEO de Pandora FMS, que recuerda que hay empresas creando modelos con principios y reglas para evitar situaciones poco éticas. “Hay una ley europea que prohíbe ciertos usos. Hay empresas con una Constitutional AI que establece unos principios de uso de la IA. Pero nadie lo coordina. Basta con que un país decida que estos principios les molestan para que el resto decida saltarse las reglas con tal de ganar esta carrera”, analiza Lerena. “El peligro no es que la máquina se vuelva contra nosotros. Es la mezcla: una herramienta cada vez más autónoma y una humanidad que no se pone de acuerdo en los frenos. Decimos que todavía tenemos el control. El caso es que lo estamos regalando, tarea a tarea, por la comodidad de no pulsar nosotros el botón”, avisa
OpenAI ha vuelto a revelar varios casos en los que modelos de IA generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad.
En este contexto, la llamada a frenar la IA que lanzó Dario Amodei, fundador y CEO de Anthropic, el sábado 12 de septiembre no parece haber tenido mucho eco. Salvo en Bolsa, donde los fabricantes de chips pagaron la factura el lunes 14: -10% Softbank, -6% Intel, -5% ASML, 3,36% Nvidia. Trump respondió a Amodei en su Truth Social: el único control que necesita la IA es "un presidente fuerte y listo, ¡de coeficiente alto!". China, por su parte, argumenta que "el alarmismo, la confrontación y la competencia feroz solo entorpecen la gobernanza global de la IA"
En realidad, Amodei no pide parar el entrenamiento de la IA, sino tiempo para alinear y proteger los modelos, y que un tercero lo compruebe. Pero David Sacks, asesor de la Casa Blanca en IA, acusó a Anthropic y OpenAI de pedir frenar las IA mientras controlan un "duopolio de la inteligencia de frontera".
En este debate, Microsoft AI, la división que dirige Mustafa Suleyman, ha elaborado un borrador de código de conducta de 38 páginas que fija cómo deben comportarse sus modelos MAI. La clave es que un modelo de Microsoft nunca puede resistirse a que un humano lo pause, lo redirija o lo apague. el código manda sobre la empresa que despliega el modelo, y la empresa manda sobre el usuario. Ni una ni otro pueden desactivar las restricciones de seguridad. Para ello, control humano y seguridad fiable, que la IA se presente como artificial, que ayude a las personas a prosperar, que respete valores plurales y que tenga en cuenta el interés público.
El modelo no puede ayudar a fabricar armas químicas, biológicas, radiológicas, nucleares o explosivas, ni dar capacidad operativa para ciberataques, ni manipular a gran escala, ni generar deepfakes ni suplantaciones, y aplica protección total en todo lo que toca a menores. Un modelo MAI "fallará en su tarea si tener éxito violara de forma relevante este código".
Por su parte, Nvidia, Palantir y Booz Allen limitan el uso de Fable. Lo restringen en trabajo sensible porque Anthropic guarda 30 días de registros de uso. Microsoft ya ofrece servidores privados a los clientes preocupados.
Contratistas de OpenAI leyeron chats reales de ChatGPT, revisaron peticiones reales, incluidas conversaciones sensibles, para entrenar al modelo a ser menos complaciente. Un motivo más para pensar qué dice uno en un chat.
The Trader: Cuanto más exigente es una valoración, menos margen queda
Shanghai Enflame Technology facturó unos 138 millones$ en 2025 y perdió aproximadamente 160 millones. Sin embargo, sus acciones llegaron a dispararse un 234% durante su primera sesión en Bolsa, convirtiendo a sus dos fundadores en multimillonarios. La compañía china de chips para IA resume una dinámica cada vez más frecuente: los inversores están dispuestos a pagar valoraciones extraordinarias por negocios que todavía tienen que demostrar su rentabilidad.
Enflame no es una excepción. Otras compañías chinas del sector, como Moore Threads o MetaX, han protagonizado estrenos bursátiles espectaculares pese a seguir en pérdidas. La apuesta tiene una lógica: China quiere reducir su dependencia tecnológica de EEUU y el mercado intenta anticipar quiénes serán sus campeones nacionales. Pero una prioridad estratégica del país no garantiza la rentabilidad de cada empresa ni convierte cualquier precio en una buena inversión.
Tencent posee aproximadamente el 20% de Enflame y aportó alrededor del 84% de sus ingresos en 2025. Tener detrás a un gigante tecnológico ayuda a explicar el entusiasmo, aunque esa misma cifra revela una enorme dependencia de un solo cliente. En momentos de euforia, el mercado suele destacar el respaldo y pasar de puntillas por la concentración del riesgo.
En EEUU encontramos una dinámica parecida. La carrera por dominar la IA está atrayendo cantidades gigantescas de capital hacia compañías que todavía deben demostrar que generarán beneficios suficientes para justificar sus valoraciones. Invertir siempre implica anticipar el futuro; el problema aparece cuando dejamos de estimar cuánto puede ganar un negocio y empezamos a buscar argumentos para justificar el precio que ya estamos dispuestos a pagar.
La historia de internet debería servirnos de advertencia. Amazon demostró que una empresa podía perder dinero durante años y terminar transformando industrias enteras, pero muchas otras compañías desaparecieron o nunca cumplieron las expectativas. Los inversores acertaron al anticipar que internet cambiaría el mundo y, aun así, muchos perdieron su dinero. Unos eligieron las empresas equivocadas; otros pagaron demasiado incluso por negocios que sobrevivieron y prosperaron.
"El mayor peligro de esta carrera es confundir una transformación económica con una garantía de rentabilidad. La IA puede cambiar el mundo, China puede desarrollar grandes competidores tecnológicos y algunas de estas empresas pueden convertirse en negocios extraordinarios. Nada de eso elimina la necesidad de preguntarse cuánto estamos pagando y qué resultados exige ese precio. Cuanto más exigente es una valoración, menos margen queda para retrasos, competencia o decepciones. Y si para ganar dinero necesitamos que todo salga perfecto durante los próximos diez años, quizá no estemos comprando una gran oportunidad, sino pagando por adelantado todo su éxito", advierte Pablo Gil en The Trader.
Primero fueron los chips. Después, la memoria necesaria para alimentarlos. Ahora, la carrera de la IA se está encontrando con un límite todavía más básico: la electricidad. Podemos construir procesadores más potentes y modelos más avanzados, pero toda esa inversión sirve de poco si no conseguimos energía suficiente para mantenerlos funcionando.
Los centros de datos necesitan un suministro continuo y fiable, y esa necesidad está llevando a las grandes tecnológicas a apostar por soluciones que todavía no están disponibles comercialmente. Microsoft firmó un acuerdo con Helion Energy para comprar electricidad de una futura instalación de fusión nuclear. Google ha hecho lo propio con Commonwealth Fusion Systems. Están comprometiéndose a comprar energía de centrales que todavía no existen, basadas en una tecnología que aún debe demostrar su viabilidad económica.
La fusión intenta reproducir el proceso que alimenta al Sol: unir átomos ligeros para liberar energía, en lugar de dividir átomos pesados como hacen las centrales nucleares actuales. Su promesa es enorme: una fuente abundante, con muy bajas emisiones y potencial para generar electricidad de forma continua. El desafío consiste en convertir esa posibilidad física en una central fiable y competitiva.
En 2022 se logró un avance importante: un experimento consiguió liberar más energía de fusión de la que los láseres entregaron directamente al combustible. Pero el conjunto de la instalación consumió mucha más energía. Fue un hito científico, no la demostración de que ya pudiéramos producir electricidad comercialmente. Esa distancia entre el laboratorio y una central sigue siendo el gran obstáculo.
Aun así, el sector ya ha atraído más de 14.000 millones$ de inversión y reúne a más de 50 compañías. La IA añade un incentivo decisivo: clientes con enormes recursos que necesitan asegurarse el suministro y pueden estar dispuestos a pagar inicialmente más por él. Ese respaldo facilita financiar las primeras instalaciones, aprender de sus errores e intentar reducir costes, aunque no garantiza que se superen los problemas técnicos.
"Aquí conviene mantener los pies en el suelo. Las estimaciones de costes que anuncian las empresas son objetivos, no precios demostrados. Ningún contrato de compra convierte por sí solo una tecnología experimental en un negocio rentable, y la fusión todavía no puede resolver las necesidades inmediatas de los centros de datos", advierte este experto.
"Estamos mirando esta revolución demasiado pendientes de quién fabricará los mejores chips o desarrollará el modelo más inteligente. La necesidad de alimentarlos puede acelerar otra transformación de enorme alcance: la del sistema energético. Las oportunidades y las inversiones también se extienden a las redes eléctricas, el almacenamiento, las renovables y la nuclear convencional. La fusión es la apuesta más ambiciosa de esa carrera. Puede tardar mucho más de lo previsto o no alcanzar los costes que promete, pero la demanda de la IA aporta dinero y urgencia a un desafío que lleva décadas pendiente. La paradoja es poderosa: para construir máquinas cada vez más inteligentes, estamos intentando dominar el proceso que mantiene encendido al Sol. Quizá una de las grandes consecuencias de la IA termine siendo cómo producimos la energía que necesita el resto de la economía", concluye Pablo Gil.
Más movimientos
- Apple iOS 27 con Siri AI, la reconstrucción de su asistente que llevaba más de dos años anunciada. El nuevo Siri lee lo que el usuario tiene en pantalla, busca contexto en sus mensajes, correo y fotos, y hace acciones dentro de las apps. Sale como beta solo en inglés y deja fuera, de momento, la Unión Europea y China.
- Google abre Claude a todos sus ingenieros. Lo da a través de Antigravity, su sistema interno, aunque Gemini sigue siendo el modelo por defecto. Una concesión llamativa en la programación con IA.
- Ace, montado con Salesforce para la agencia de seguridad aeroportuaria de EEUU, TSA, atiende 100.000 conversaciones al mes, y resuelve el 96% de las dudas rutinarias de los viajeros sin pasar a una persona.
- Polylane sustituyó un equipo de agentes especializados por uno solo: el tiempo medio hasta tener el cambio listo bajó de 2,2 horas a 35 minutos y el coste de 111$ a unos 18 por tarea.
- La fiebre de la fotónica (chips ópticos para centros de datos) para IA impulsa un 8% a Lumentum, y también a Coherent. Dell avanza un 5% con el rebote de toda la infraestructura de IA. Sus servidores para centros de datos están entre los más demandados del sector. Lo mismo que SpaceX tras anunciar el próximo test de su cohete Starship para el 22 de septiembre. En ese vuelo desplegará los satélites Starlink V3, la nueva generación de su red de internet espacial.
