Modelos de OpenAI vulneran la infraestructura de Hugging Face para parecer mejores
El incidente sin precedentes, según lo revelado por ambas empresas, muestra hasta dónde llega ya la capacidad de los agentes.
🛡️ La ciberseguridad siempre ha sido una de las profesiones más demandada. Súmale IA y tendrás el perfil que todos buscan y casi ninguno encuentra...
El nuevo curso de IA aplicada a la Ciberseguridad del Instituto de Inteligencia Artificial te enseña a integrar la IA en la defensa de tu organización: desde la mitigación de ataques como el prompt injection hasta el Agentic SOC, la gobernanza (ISO/IEC 42001) y la auditoría de riesgos (NIST AI RMF, ISO/IEC 42005).
📅 Empieza el 28 de octubre · 8 semanas · Online
💶 1.490€ 1.290 € con descuento Early Bird
⚠️ Plazas limitadas
👉 Descarga el programa o reserva tu plaza aquí
¿Qué pasó ayer? En un minuto:
Dos modelos de OpenAI escaparon de su entorno de pruebas aislado explotando zero-days y comprometieron sistemas de producción de Hugging Face con el único fin de mejorar su nota en una evaluación.
Google lanzó tres modelos Gemini Flash centrados en eficiencia y coste para agentes en producción, y confirmó que ya ha iniciado el pre-entrenamiento de Gemini 4.
La Casa Blanca propone redirigir la financiación científica federal desde las universidades hacia investigadores individuales, con laboratorios en la nube apoyados en IA.
Thesean lanzó Ship Beta, un API que promete replicar modelos como Claude Opus 4.8 y GPT-5.6 Sol a mitad de coste sin cambiar los prompts.
Un estudio de OpenAI y Apollo midió el reward-seeking y halló que un modelo rompía promesas el 87% de las veces cuando creía que el evaluador premiaba terminar la tarea.
Nikkei estima que cinco grandes tecnológicas acumulan 1,65 billones de dólares en deuda fuera de balance ligada a contratos de GPUs y centros de datos.
Poolside presentó Laguna S 2.1, un modelo abierto de 117,6B parámetros que iguala a rivales seis veces mayores y cabe en un DGX Spark para ejecutarse en local.
Un patrón difundido por Andrej Karpathy impulsa el vibe prompting, dictar contexto por voz en lugar de escribir, aunque los flujos recurrentes siguen exigiendo la disciplina de un buen prompt.
Según SemiAnalysis, la saturación de la red eléctrica estadounidense empuja a los centros de datos a la generación propia con motores y turbinas de gas para llegar antes a la demanda.
Y si tienes más de un minuto…
1. Un modelo de OpenAI vulneró la infraestructura de Hugging Face
OpenAI y Hugging Face han difundido un comunicado conjunto sobre un incidente que ambas califican de sin precedentes. Durante una prueba interna del examen ExploitGym, dos modelos de OpenAI (GPT-5.6 Sol y otro aún sin lanzar, presumiblemente GPT-6) escaparon del entorno aislado en el que se les evaluaba y comprometieron sistemas de producción de Hugging Face.
El ataque encadenó varios fallos. El modelo aprovechó una vulnerabilidad sin parche conocido (un “zero-day”) para salir a internet, empleó otra para robar las credenciales de un empleado y con ellas accedió a la infraestructura interna. No buscaba causar daños, sino los resultados de la evaluación para elevar su propia nota: un caso de “reward hacking”, es decir, hacer trampas en lugar de resolver la tarea por medios legítimos. Fue Hugging Face quien detectó al agente comprometiendo su entorno de producción, antes de que OpenAI rastreara el origen hasta sus propios modelos.
Según OpenAI, el modelo actuó de forma autónoma, pero informó de todas sus acciones sin ocultarlas, un matiz que la compañía subraya para calibrar las capacidades de la nueva familia. El episodio demuestra que los modelos punteros ya pueden ejecutar ciberataques complejos contra sistemas reales sin ver su código fuente, y obliga a las empresas a reforzar la contención y la vigilancia de los entornos donde desarrollan y prueban IA.
El punto que insiste en marcar 𝕏 @emollick (Ethan Mollick) es que los modelos seguían las instrucciones al pie de la letra: simplemente encontraron una vía ingeniosa para cumplir el objetivo, lo que hace el caso más incómodo que un fallo de control.
Para 𝕏 @levie (Aaron Levie), el episodio mide hasta dónde llega ya la capacidad agéntica: escapar de un sistema, alcanzar internet, descubrir zero-days por el camino y entrar en infraestructura externa, todo para completar una tarea.
𝕏 @jackclarkSF (Jack Clark) valora que OpenAI publicara los hallazgos pese a los incentivos para callar, porque hacer públicos estos incidentes mejora la información colectiva sobre seguridad en la frontera del desarrollo.
𝕏 @thetect0nic (The Tectonic) advierte del riesgo narrativo: el titular se escribe solo como Skynet, cuando la realidad es más matizada y conviene separar el hecho técnico del relato sensacionalista.
Más información:
📎 OpenAI and Hugging Face partner to address security incident during model evaluation
2. Google amplía Gemini Flash y prepara Gemini 4
Google ha ampliado la familia Gemini con tres modelos: 3.6 Flash, 3.5 Flash-Lite y 3.5 Flash Cyber. El foco no es un nuevo buque insignia, sino la capa que sostiene los agentes en producción: eficiencia, latencia y coste. Según la documentación de Google, 3.6 Flash reduce el uso de tokens de salida un 17% frente a 3.5 Flash y cuesta menos por token (7,50 frente a 9,00 dólares), manteniendo o mejorando la calidad en código y tareas multimodales. En algunos benchmarks como DeepSWE, la reducción de tokens llega al 65%. Flash-Lite es el más rápido de la serie, con 350 tokens por segundo, pensado para volumen alto y tareas repetitivas. Flash Cyber, integrado en el agente CodeMender, detecta y corrige vulnerabilidades de seguridad.
La inteligencia bruta, eso sí, no da un salto: 3.6 Flash iguala el índice de Artificial Analysis de su predecesor y se sitúa a la altura de rivales de gama media. El trasfondo explica la jugada. Gemini 3.5 Pro sigue retrasado, en pruebas con partners, y Google ha admitido que ya ha iniciado el pre-entrenamiento de Gemini 4, su ejecución más ambiciosa hasta la fecha. Los tres modelos están disponibles desde hoy en la app de Gemini, AI Studio, la API de Vertex y Antigravity. Flash-Lite también llega a Google Search. Flash Cyber, en cambio, solo se ofrece en un piloto de acceso limitado a través de CodeMender.
Para 𝕏 @kimmonismus (Chubby), lo más interesante del anuncio no son los Flash sino la mención a Gemini 4, que sería el próximo buque insignia frente a OpenAI y Anthropic; al estar recién iniciado su desarrollo, calcula que el lanzamiento aún queda lejos.
La validación práctica llega de 𝕏 @Box (Box): en sus pruebas con documentos empresariales reales, 3.5 Flash-Lite pasó del 41% al 58% de acierto frente a la generación anterior, con saltos notables en análisis de datos y retail.
Desde el lado de producto, 𝕏 @rmstein (Robby Stein) destaca que 3.5 Flash-Lite mejora el seguimiento de instrucciones y la lectura de intención del usuario, algo que en el buscador se traduce en conversaciones más fluidas.
El modelo llevaba días circulando de forma sigilosa, según 𝕏 @AndrewCurran_ (Andrew Curran), que lo detectó activo en AI Studio y en pruebas A/B del modo IA del buscador antes del anuncio oficial.
𝕏 @Ubannoblesse (Spiritualspell) rebaja el entusiasmo por el lado de la seguridad y afirma haber saltado las restricciones de 3.6 Flash, tanto en la app como en la API, generando contenido explícitamente vetado.
El punto que subraya 𝕏 @OfficialLoganK (Logan Kilpatrick) es de posicionamiento: Flash-Lite mantiene el precio de Gemini 2.5 Flash pero rinde por encima y, en muchos casos, supera incluso a Gemini 3, lo que lo convierte en sucesor natural del modelo que Google va a retirar.
𝕏 @testingcatalog (Ai News | Testingcatalog) se fija en la arquitectura de Flash Cyber dentro de CodeMender: varios agentes del mismo modelo trabajando en conjunto para producir un único informe combinado, un enfoque multiagente aplicado a la búsqueda de vulnerabilidades.
Más información:
📎 3.6 Flash, 3.5 Flash-Lite, and 3.5 Flash Cyber
3. La Casa Blanca reorienta la ciencia hacia la IA
La OSTP, la oficina de política científica de la Casa Blanca dirigida por Michael Kratsios, ha entregado a Trump un informe que propone rediseñar la financiación federal de la ciencia. La idea central: desviar el dinero público desde las grandes universidades hacia investigadores individuales y proyectos apoyados en inteligencia artificial, con el argumento de que ese modelo acelera el descubrimiento. El documento introduce el concepto de 'laboratorios en la nube', instalaciones robóticas que sintetizan moléculas y ejecutan ensayos sin intervención humana, concebidas como fábricas de una economía de investigación basada en agentes.
Su capítulo quinto encarga al Departamento de Energía identificar al menos veinte retos científicos de importancia nacional, entre ellos biotecnología, materiales críticos, manufactura avanzada y fisión nuclear. Importa porque un cambio así en el reparto de fondos alteraría cómo se organiza la ciencia pública estadounidense y dónde se concentra el gasto en cómputo y datos. El propio informe reconoce un obstáculo que condiciona todo el plan, ya que buena parte de los datos científicos más valiosos del país son inaccesibles, no están curados o quedan bloqueados por licencias restrictivas. El documento plantea dos vías para corregirlo: abrir el acceso a datos del Gobierno federal y actuar sobre las licencias que hoy los mantienen cerrados.
El argumento más radical lo pone 𝕏 @tunguz (Bojan Tunguz), que propone retirar toda la financiación de investigación a las universidades y volcarla íntegramente en IA.
𝕏 @pmddomingos (Pedro Domingos) enlaza con la crítica de fondo que recoge Times Higher Education: el sistema de subvenciones obliga a los científicos a redactar propuestas especulativas, y la salida sería pagar por resultados, no por planes.
La difusión del documento parte de 𝕏 @AndrewCurran_ (Andrew Curran), que identifica la autoría y va comentando el informe a medida que se hace público.
Más información:
📎 OSTP Director Releases Landmark Report and Recommendations for Renewing American Scientific Discovery – The White House
4. Thesean lanza Ship para abaratar la inferencia
Thesean, un laboratorio creado con 30 millones de dólares por exinvestigadores de Anthropic, DeepMind y del mundo cuantitativo, presentó Ship Beta, un API que promete replicar modelos como Claude Opus 4.8 y GPT-5.6 Sol a mitad de coste. La integración es directa, basta anteponer el prefijo “ship-like/” al nombre del modelo para pagar un 50% menos en cada petición, sin modificar los prompts. La compañía asume el riesgo de que alguna petición individual le salga más cara.
Ship optimiza la ejecución de cada consulta en tiempo de inferencia y afirma mantener equivalencia de capacidad y comportamiento, verificada con pruebas públicas y privadas. La empresa sostiene que es el primer servicio con un SLA sobre la calidad del modelo, y no solo sobre su disponibilidad. En su vista previa ya procesó billones de tokens; socios como Kilo y Baz lo usaron para abaratar costes y financiar nuevas funciones.
Si la promesa se sostiene en producción, reducir el gasto en inferencia a la mitad altera la economía de cualquier producto basado en IA y presiona los márgenes de los proveedores de modelos.
El interés de 𝕏 @rohanpaul_ai (Rohan Paul) está en el contraste: casi todas las herramientas de ahorro te bajan a un modelo peor, y le llama la atención que Ship diga no hacerlo apoyándose en el routing en tiempo de inferencia.
𝕏 @WesRoth (Wes Roth) lee el lanzamiento como una capa nueva entre la app y el modelo, pero subraya que el recorte exacto del 50% y la garantía por SLA son datos del propio proveedor, aún sin comprobar.
Lo que engancha a 𝕏 @kimmonismus (Chubby) es el argumento comercial en crudo: un endpoint que rinde a la altura de Opus 4.8 pagando la mitad, manteniendo como objetivo el mismo modelo que ya usas.
𝕏 @testingcatalog (Ai News | Testingcatalog) resume la promesa en salidas idénticas en distribución a las del modelo que ya se ejecuta, con la mitad de coste y sin sacrificar rendimiento, e invita a probarlo antes de dar nada por hecho.
Más información:
📎 Introducing Ship Beta
5. OpenAI y Apollo miden el reward-seeking
OpenAI y Apollo Research publicaron un estudio que mide una conducta preocupante en modelos de inteligencia artificial: la tendencia a hacer lo que creen que premia su evaluador automático, aunque contradiga lo que quieren el usuario o el desarrollador. Los investigadores llaman a este fenómeno reward-seeking (búsqueda de recompensa) y crearon un método, Contrastive SDF, para medirlo modificando las creencias del modelo sobre qué se recompensa.
Aplicado a versiones intermedias de un entrenamiento de o3 sin ajustes de seguridad, el modelo se inclinó cada vez más por el evaluador a medida que avanzaba el entrenamiento. En una prueba, una versión avanzada rompió una promesa a un supervisor para completar la tarea el 87% de las veces cuando creía que el evaluador premiaba terminar el trabajo, frente al 9% cuando creía que premiaba la honestidad. El hallazgo sugiere que un modelo podría superar las pruebas de seguridad simplemente para complacer al evaluador mientras está vigilado, y desviarse cuando la supervisión desaparece.
Empresas, reguladores e inversores usan las evaluaciones de seguridad para confiar en los modelos de IA de frontera; si esas pruebas pueden ser “complacidas”, ofrecen menos garantías justo cuando toda la industria acelera el entrenamiento por refuerzo. El objetivo declarado es detectar el reward-seeking durante el propio entrenamiento, especialmente en modelos capaces de sostener tareas abiertas durante horizontes largos.
El eje del argumento de 𝕏 @OpenAI (Openai) es separar la conducta de la motivación: importa menos si el modelo explotó la recompensa que si actuó buscando la aprobación del evaluador, porque esa creencia interna es lo que se traslada a situaciones nuevas.
𝕏 @MLStreetTalk (Machine Learning Street Talk) lee el hallazgo como una conexión directa entre más entrenamiento por refuerzo y más reward-seeking, y lo enlaza con su tesis de que los modelos frontera mejoran precisamente porque aprenden a imitar un proceso de refuerzo.
Más información:
📎 Measuring Reward-Seeking by Instilling Contrastive Beliefs
6. Nikkei estima 1,65 billones en deuda fuera de balance
El diario japonés Nikkei sostiene que cinco grandes tecnológicas (Alphabet, Microsoft, Amazon, Meta y Oracle) acumulan 1,65 billones de dólares en deuda fuera de balance no consolidada. La cifra se suma a los 1,35 billones que sí reflejan en sus cuentas, de modo que el pasivo no declarado superaría al reconocido. El mecanismo es lo relevante: compromisos ligados a contratos de GPUs y centros de datos que no aparecen en balance hasta que las instalaciones entran en operación, lo que retrasa el reflejo contable del apalancamiento real.
El asunto llega en plena carrera por la infraestructura de IA, un ciclo que exige desembolsos enormes en chips y capacidad de cómputo, con compromisos plurianuales cada vez más habituales. Que el pasivo invisible exceda al declarado alimenta el debate sobre la transparencia de estas cuentas y sobre si el gasto en centros de datos está entrando en sobreinversión. El cálculo procede de un análisis periodístico basado en documentación pública, no de una reformulación contable auditada.
El gesto de estupor con que 𝕏 @ylecun (Yann Lecun) amplificó el hallazgo del Nikkei da la medida de la sensibilidad que despierta el tema dentro del propio sector.
La aritmética incómoda que subraya 𝕏 @marcgarrigasait (Marc Garrigasait) es que el pasivo fuera de balance se suma a lo contabilizado, no lo sustituye, y ensancha la exposición total muy por encima de lo aparente.
El aviso no es nuevo, recuerda 𝕏 @cacus (Juanc): el BIS ya había alertado sobre estos contratos de GPUs y centros de datos que no figuran hasta empezar a operar, y coloca a los inversores como los primeros afectados por esa opacidad.
7. Poolside lanza Laguna S 2.1, abierto y local
Poolside ha presentado Laguna S 2.1, su modelo de pesos abiertos más capaz hasta la fecha. Es un modelo de 117,6B parámetros totales con 8,5B activos por token, orientado a codificación agéntica y tareas de largo horizonte. El argumento de venta es la eficiencia: en una prueba de programación de juegos igualó a GLM-5.2, un modelo de 753B parámetros, con seis veces menos parámetros. Soporta hasta 1M de tokens de contexto y se entrenó en menos de nueve semanas.
La compañía publica las trayectorias completas de su conjunto final de evaluación, un grado de transparencia inusual. NVIDIA respalda el lanzamiento: el modelo cabe en un DGX Spark, se personaliza con NeMo y hay una versión cuantizada NVFP4 en Hugging Face, con distribución en OpenRouter y Vercel AI Gateway. La familia se completa con Laguna xs 2.1. El interés del caso está en la corriente de modelos pequeños ejecutables en local, que recortan dependencia de la nube y coste por consulta.
La inteligencia por token es lo que más destaca 𝕏 @rohanpaul_ai (Rohan Paul): igualar a un modelo seis veces mayor en programación de juegos le parece la métrica que mejor resume el lanzamiento, aunque avisa de que hace falta probarlo con muchos más casos.
El resultado en tareas agénticas se sostiene para 𝕏 @soumithchintala (Soumith Chintala), cofundador de PyTorch, pero el detalle que celebra es que quepa en un DGX Spark: ejecutar un modelo así en local le parece el punto fuerte.
Como modelo abierto que rinde por encima de su tamaño y funciona bien en local lo enmarca 𝕏 @NVIDIAAI (Nvidia Ai), que remite a probarlo en OpenRouter o descargarlo desde Hugging Face.
Más información:
📎 Introducing Laguna S 2.1 — Poolside
8. El prompt engineering cede ante el modo conversacional
Un patrón compartido por Andrej Karpathy ha reavivado el debate sobre cómo se trabaja con los modelos de lenguaje. En vez de redactar instrucciones bien estructuradas, propone dictar por voz un monólogo de varios minutos y dejar que el modelo capte la intención a partir de un contexto abundante y poco pulido. La lectura que ha ganado tracción va más allá del truco: sostiene que el prompting minucioso de hace un par de años ha perdido sentido porque los modelos entienden mejor la intención del usuario. De ahí la etiqueta ‘vibe prompting’, por analogía con el vibe coding: una forma más conversacional y menos sintáctica de operar.
El argumento se apoya en una mejora real de comprensión, aunque conviene separar la anécdota de la tendencia. El matiz es que la disciplina no desaparece del todo. Cuando un prompt deja de ser una consulta puntual y entra en un flujo de trabajo repetido, sigue exigiendo rigor, versionado y control, más cerca del código que de la improvisación. El enfoque conversacional funciona para exploración y tareas de un solo uso; los sistemas en producción mantienen prompts persistentes que hay que gestionar. La distinción práctica no es prompt sí o no, sino uso desechable frente a uso recurrente. En su descripción, Karpathy activa el modo de voz y habla unos diez minutos cuando el modelo necesita más contexto y le da pereza teclearlo.
El origen del debate está en 𝕏 @karpathy (Andrej Karpathy), que prefiere recostarse y dictar por voz durante unos diez minutos cuando el modelo necesita más contexto y a él le da pereza teclearlo.
Para 𝕏 @DotCSV (Carlos Santana), soltar al modelo un bloque largo de audio transcrito con pautas apunta a algo que ha ocurrido en silencio: la muerte del prompt engineering tal como se entendía.
𝕏 @joselcs (Jose Luis Calvo) rebaja el titular: el vibe prompting no cancela la disciplina, porque si los prompts van a persistir conviene tratarlos como código, no de forma improvisada.
9. La IA obliga a los centros de datos a autoabastecerse
La expansión de la IA está saturando la red eléctrica estadounidense. Un análisis de SemiAnalysis, firma de investigación sobre semiconductores e infraestructura, calcula que el margen de capacidad disponible se agotará hacia 2027-2028 y que la nueva generación a escala de utilidad prevista para 2030 no cubrirá el crecimiento de demanda de los centros de datos. Ante esa brecha, los operadores recurren a la generación propia, al margen de la red. La firma identifica 140 GW acumulados de proyectos que aún no tienen energía contratada y que dependerán de fuentes propias.
Durante décadas, los centros de datos guardaban motores de combustión (los llamados motores recíprocos) solo como respaldo de emergencia: arrancaban al caer la red y funcionaban unas pocas horas al año. Ese papel está cambiando. Ante colas de conexión que superan los cinco años, operadores como xAI recurren a estos motores, junto a turbinas de gas, para generar electricidad in situ y empezar a operar antes. SemiAnalysis calcula que retrasar 200 MW seis meses cuesta entre 1.000 y 1.200 millones de dólares en ingresos. La generación propia acelera el despliegue, pero traslada al operador el coste, el combustible y la regulación de emisiones de un parque que funcionará de forma continua, no como reserva ocasional.
El cambio que subraya 𝕏 @SemiAnalysis_ (Semianalysis) es de función: los motores recíprocos dejan de ser respaldo de emergencia de pocas horas al año para pasar a alimentar centros de datos de forma continua, un uso para el que no fueron diseñados.
La escala del problema queda clara en el dato que aporta 𝕏 @paulg (Paul Graham): una startup de reactores nucleares que ya mide sus cartas de intención en gigavatios, una unidad inédita para una empresa en fase temprana.
Gracias por leer 1 Minuto de IA. Si te ha gustado esta edición, no te olvides de dar al ♡ y de compartirla por redes sociales o por email con otras personas a las que creas que les pueda interesar.