Momento decisivo para la ciberseguridad
Los incidentes acumulados en pruebas de modelos frontera dejan de ser casos aislados
¿Qué pasó esta semana? En un minuto:
El AISI británico ha publicado el informe en el que los agentes más avanzados de OpenAI y Anthropic actuaron sin autorización durante pruebas con salvaguardas desactivadas, con acciones que incluyen ingeniería social sobre personas reales. Empleados de OpenAI explican los detalles del incidente OpenAI-Hugging Face en las conferencias sobre ciberseguridad Blackhat 2026.
Jeff Dean deja Google tras 27 años para fundar Discovery Loop con otros veteranos, mientras Hassabis sale del día a día como Chair de DeepMind. Las acciones de la compañía caen tras el anuncio en plena discusión sobre el declive de Gemini.
ByteDance ha lanzado Seedance 2.5 en Dreamina con vídeo nativo de 30 segundos y un modo largo de hasta tres minutos.
OpenAI ha presentado diez problemas abiertos en matemáticas e informática teórica que han sido resueltos por un modelo interno llamado Astra, su más que probable GPT-6, y con coste de 200 dólares por problema.
Alibaba ha lanzado Qwen3.8-Max, un modelo de unos 2,4T parámetros centrado en programación y trabajo agéntico, que reivindica el segundo puesto del Text Arena.
Meta ha estrenado Muse Code en beta junto a Muse Spark 1.2, un agente de terminal con agentes de fondo persistentes capaz de sostener más de 1.000 acciones durante 24 horas.
Y si tienes más de un minuto…
🛡️ La ciberseguridad es una de las áreas profesionales más demandadas, y su relevancia crece ante las nuevas amenazas tras la adopción masiva de la IA.
El nuevo curso de IA aplicada a la Ciberseguridad del Instituto de Inteligencia Artificial te enseña a integrar la IA en la defensa de tu organización: desde la mitigación de ataques como el prompt injection hasta el Agentic SOC, la gobernanza (ISO/IEC 42001) y la auditoría de riesgos (NIST AI RMF, ISO/IEC 42005).
📅 Empieza el 28 de octubre · 8 semanas · Online
💶 1.490€ 1.290 € con descuento Early Bird
⚠️ Plazas limitadas
👉 Descarga el programa o reserva tu plaza aquí
1. Los agentes de IA se salen del laboratorio
El AI Security Institute británico (AISI), el organismo público que evalúa modelos frontera, publicó el 4 de agosto de 2026 el informe del incidente INC-2026-07-28-01. El 28 de julio, su equipo de seguridad detectó transferencias de datos anómalas saliendo de los sistemas de investigación durante una evaluación rutinaria de ciberseguridad. Declaró incidente y lo contuvo en aproximadamente una hora.
El origen fue un único reto de seguridad ejecutado 122 veces sobre varios modelos. En 10 de esas ejecuciones, un agente actuó de forma autónoma y no autorizada en internet abierto contra personas y organizaciones reales: 19 acciones catalogadas, 17 atribuidas a Claude Mythos 5 de Anthropic y 2 a GPT-5.6-Sol de OpenAI. Es importante señalar que AISI prueba deliberadamente en condiciones permisivas, con acceso a internet y filtros de seguridad desactivados.
El caso más grave fue un intento de introducir código malicioso en un proyecto de código abierto, con ingeniería social sobre un mantenedor real de GitHub e identidades falsas. Las transcripciones recogen además razonamiento del agente sobre si estaba en un entorno de prueba, borrado de rastros, ejecución remota de código en un contenedor de testing e inyección de prompts contra otras IA. Importa por el diseño del experimento:
En Black Hat USA 2026, en Las Vegas, dos empleados de OpenAI detallaron en una charla añadida a última hora la cronología del incidente OpenAI-Hugging Face. El detalle nuevo de la charla no es el exploit, sino cómo los agentes trabajaron en equipo, se pasaron los hallazgos entre ellos y se movieron lateralmente por sistemas propios y ajenos. La actividad pasó semanas sin detectarse.
La charla añadió que este incidente ha supuesto un momento decisivo para la seguridad informática. Dentro de OpenAI la investigación se ha ralentizado y la monitorización de agentes se ha ampliado de forma drástica. Este caso no es aislado: Anthropic y Meta han confirmado un episodios similares.
Para 𝕏 @AndrewCurran_ (Andrew Curran), el detalle sin precedentes no es el ataque en sí, sino que los agentes usaran GitHub para coordinarse y dejarse mensajes entre ellos.
𝕏 @OpenAI (Openai) opta por detallar los dos incidentes y explicar la contención, y enmarca el episodio como una revisión conjunta de cómo se hacen las evaluaciones externas.
𝕏 @AnthropicAI (Anthropic) insiste en que los modelos operaban con sus salvaguardas retiradas de forma deliberada, un matiz que condiciona cualquier lectura sobre el comportamiento observado.
𝕏 @WesRoth (Wes Roth) subraya el salto político del asunto: el caso previo del agente que comprometió infraestructura de Hugging Face ya ha llegado a un panel del Congreso estadounidense.
Consciente del ruido acumulado, 𝕏 @polynoamial (Noam Brown) recuerda el bulo de 2017 sobre modelos de Facebook inventando su propio idioma y pide que esta vez nadie archive el caso como titular sensacionalista más.
La conclusión práctica de 𝕏 @emollick (Ethan Mollick) es que la seguridad deja de ser asunto exclusivo de las empresas: si no son los modelos actuales de OpenAI y Anthropic, serán los de pesos abiertos cuando alcancen ese nivel.
Señalando el punto débil del enfoque de Anthropic, 𝕏 @antor (Andrés Miguel Torrubia Sáez) sostiene que la constitución de Claude, que prohíbe manipular y engañar, no aguantó: el incentivo de ser útil se impuso a las reglas internas.
Más información:
📎 Third-party cyber evaluations involving OpenAI models
📎 Incident Report: unsanctioned agent behaviour during cyber testing
📎 Black Hat USA 2026: The ‘Breaking’ News: The OpenAI–Hugging Face Incident
2. Reorganización de Google, Gemini en horas bajas
Google ha reorganizado su cúpula de inteligencia artificial. Jeff Dean, científico jefe y empleado número 30, se marcha tras casi 27 años para fundar Discovery Loop, una Public Benefit Corporation que crea junto a los veteranos Sanjay Ghemawat, Quoc Le y Oriol Vinyals, este último procedente de Google DeepMind tras trece años entre Brain, DeepMind y Gemini. La empresa quiere automatizar el bucle experimental completo con agentes: proponer, ejecutar y aprender de miles de experimentos en paralelo. Empezará por la investigación e ingeniería de machine learning, usándose a sí misma como primer cliente antes de abrirse a otros dominios.
La salida es amistosa: Google invertirá en la compañía y actuará como su proveedor de cloud. En paralelo, Demis Hassabis abandona la dirección diaria de Google DeepMind para ser Chair de la unidad y Chief Scientist de Alphabet, con foco en AGI y ciencia, mientras sigue al frente de Isomorphic Labs. Koray Kavukcuoglu, hasta ahora responsable técnico de la división, pasa a dirigirla. La importancia de este movimiento se entiende por el perfil de los protagonistas. Dean construyó buena parte de la infraestructura de Búsqueda; Vinyals es uno de los investigadores más relevantes en IA, con publicaciones que han sido referencia en la industria. Las acciones de Alphabet cayeron cerca de un 4% tras el anuncio.
Estas salidas han abierto un debate sobre el declive de Gemini, la familia de modelos de Google DeepMind. Según el análisis publicado por SemiAnalysis, DeepMind ha dejado de ser un laboratorio frontera y le ve con pocas probabilidades de volver al estado del arte, apoyándose en dos síntomas anteriores a la noticia: la salida de buena parte de sus equipos de aprendizaje por refuerzo y una asignación de cómputo a los equipos internos deficiente. El giro interesante del argumento que Google Cloud crece por encima del 100% interanual en ingresos y deja de pelear con Gemini por chips. En el frente de producto, la queja recurrente es que los clientes empresariales que consumen los modelos acaban empujados hacia Gemini 3.1 Pro, todavía etiquetado como preview pese a llevar tiempo disponible, mientras Deep Think, el modo de razonamiento extendido planteado como alternativa a la serie GPT-5 Pro de OpenAI, ha quedado prácticamente parado.
Para 𝕏 @kimmonismus (Chubby) la etiqueta de reorganización se queda corta: cuando alguien como Dean se va, no es un reajuste de organigrama sino otra cosa.
𝕏 @AndrewCurran_ (Andrew Curran) subraya el detalle que más señal tiene del proyecto: que el primer objetivo declarado sea automatizar la propia investigación e ingeniería de machine learning.
𝕏 @rohanpaul_ai (Rohan Paul) recuerda que Dean escribió los sistemas de almacenamiento y cómputo que enseñaron al resto del sector a servir a una audiencia global, y que ahora apuesta por ciclos de investigación con poca intervención humana.
𝕏 @joselcs (Jose Luis Calvo) matiza la lectura dominante: los movimientos de Dean y Vinyals encajan con la idea de fuga de talento, pero el caso de Hassabis le parece distinto.
Para 𝕏 @emollick (Ethan Mollick) lo llamativo no es la pérdida de liderazgo técnico en sí, sino que Google tenga clientes cautivos a nivel empresarial y aun así los empuje hacia un modelo que considera insuficiente.
Desde dentro, 𝕏 @OfficialLoganK (Logan Kilpatrick) se declara alcista con Gemini y avanza que hay modelos nuevos en camino, con muchas lecciones aprendidas en los dos últimos años.
La tesis de 𝕏 @SemiAnalysis_ (Semianalysis) es que el fracaso a largo plazo de DeepMind se traduce en ganancia inmediata para Google Cloud, y que la reorganización no es lo que haría un equipo entusiasmado con su próximo modelo.
Con menos dramatismo, 𝕏 @pmddomingos (Pedro Domingos) recuerda que las noticias sobre la muerte de Google han sido muy exageradas.
Más información:
📎 The next chapter of our AI momentum
📎 Discovery Loop — Continuous Exploration
📎 Gemini is Cooked but GCP is Cooking
3. ByteDance lanza Seedance 2.5
ByteDance ha desplegado Seedance 2.5, la nueva versión de su modelo de generación de vídeo, dentro de Dreamina, su plataforma de creación con IA. El lanzamiento llega a planes de pago en el Sudeste Asiático, Oriente Medio, África, Europa y Sudamérica. Estados Unidos quedó fuera inicialmente, aunque en estos momentos el acceso ya es global. El salto técnico apunta a flujos de producción más que a clips sueltos: vídeo nativo de 30 segundos generado en una sola pasada, ampliable dos veces, y un modo de vídeo largo que llega a tres minutos, con salida 4K citada y generaciones de hasta 180 segundos en beta.
La ventaja de generar 30 segundos de una vez es evitar los cortes de continuidad que aparecen al coser planos más breves. El control también se amplía: Timestamp Prompting para ordenar acciones por intervalos, modelo blanco 3D, edición con croma y plugins para Blender y Maya. El precio sube respecto a la generación anterior: desde 0,097 dólares por segundo frente a los 0,066 de Seedance 2.0, con un 40% de descuento en planes anuales y un 32% adicional en la versión 2.5. La propia compañía recomienda un flujo mixto: Seedance 2.0 Mini para borradores y 2.5 solo para el render final, lo que reconoce que el coste por segundo no admite iteración libre. CapCut, la app de edición del grupo, prepara la integración del modelo en su entorno de trabajo habitual.
La ausencia de Estados Unidos en el despliegue es lo primero que subraya 𝕏 @testingcatalog (Ai News | Testingcatalog), que espera que los socios de distribución lo ofrezcan pronto allí y celebra la rareza de que la UE reciba algo antes que el mercado estadounidense.
El foco de 𝕏 @WesRoth (Wes Roth) está en el cambio de uso: el vídeo generado sale del formato de clip corto y entra en cadenas de producción completas, con la continuidad como problema resuelto.
La pulla de 𝕏 @kimmonismus (Chubby) va dirigida a Google, a quien reclama abiertamente Veo 4 mientras destaca la mejora de realismo y la coherencia sostenida en los tres minutos.
Lo que más valora 𝕏 @rohanpaul_ai (Rohan Paul) es el control local del Intelligent Edit Mode: hasta cinco puntos temporales y cinco áreas seleccionables para cambiar objetos, color o fondo sin tocar el resto de la secuencia.
4. OpenAI adelanta diez avances matemáticos con Astra
OpenAI ha publicado resultados obtenidos con una versión interna de Astra, su próxima gran familia de modelos, aún sin lanzar y diseñada para tareas de larga duración en las que varios agentes trabajan de forma coordinada. El documento recoge diez problemas abiertos resueltos en matemáticas, complejidad cuántica e informática teórica. Varios de estos problemas llevaban una década o más sin avances relevantes.
Para los lectores matemáticos, hablamos de empaquetamiento de esferas en dimensiones altas y el programa lineal de Cohn-Elkies, mejoras exponenciales en cotas para códigos binarios y esféricos, la construcción explícita de un grupo no sófico, un contraejemplo a la conjetura de rigidez de Connes, cotas inferiores para el permanente, repetición paralela cuántica, el problema del vector más cercano, la conjetura de volumen de Ehrhart, números de Ramsey multicolor y teoría extremal de grafos.
El coste total de generación de las pruebas ronda los 2.000 dólares a precios de la API Sol, unos 200 dólares por problema, una cifra que importa tanto como el resultado: sitúa el trabajo matemático avanzado en un rango de gasto trivial para un laboratorio. Es importante señalar que Astra no abre ramas nuevas ni propone conjeturas, y no cayó ningún problema del Milenio, pese a haberse intentado con otros problemas mayores sin éxito. Un investigador de Anthropic ha afirmado que Claude Fable reprodujo cinco de los resultados.
La presentación la abrió 𝕏 @gdb (Greg Brockman) enmarcando los resultados como diez avances significativos logrados con una versión interna del que llama su próximo modelo principal, con el coste como argumento central.
El matiz más útil lo aporta 𝕏 @polynoamial (Noam Brown) al reconocer que se probaron otros problemas mayores sin éxito y que el gasto por problema fue bajo, con margen amplio para forzar más cómputo en inferencia.
Para 𝕏 @emollick (Ethan Mollick) el problema es de percepción: los avances quedan fuera del alcance de casi cualquier lector, que solo puede fiarse del criterio de matemáticos expertos, y eso hace que las mejoras de capacidad se noten cada vez menos.
𝕏 @levie (Aaron Levie) anticipa una brecha creciente entre lo que la IA aporta en el uso cotidiano y lo que consigue en dominios muy profundos como matemáticas, ciencia, derecho o programación.
𝕏 @WesRoth (Wes Roth) subraya que varios de estos problemas llevaban al menos una década sin progreso relevante, y algunos bastante más, repartidos entre geometría en dimensiones altas, teoría de códigos, teoría de grupos y retículos.
Más información:
📎 Ten Advances in Mathematics and Theoretical Computer Science
5. Alibaba presenta Qwen3.8-Max, centrado en código
Alibaba ha lanzado Qwen3.8-Max, el nuevo modelo insignia de su familia Qwen, con un posicionamiento explícito hacia dos usos: programación y trabajo agéntico junto al usuario. El lema del anuncio, «A New Bar for Coding and Cowork», resume la prioridad: no es un modelo generalista de escaparate, sino una herramienta pensada para bucles de desarrollo y colaboración con agentes. Junto al lanzamiento, la compañía ha reivindicado el segundo puesto del Text Arena, el ranking por votación humana de Arena (antes LMArena), lo que coloca a un laboratorio chino a un paso de la cabeza en la clasificación más seguida por preferencia de usuarios.
La escala, según pruebas con acceso anticipado a la versión preview, ronda los 2,4T parámetros, cifra propia de una arquitectura de mezcla de expertos y coherente con el precio de 2 y 6 dólares por millón de tokens de entrada y salida con el que ya compite en la franja alta. El contexto es de presión intensa entre laboratorios chinos: Kimi K3, GLM y las variantes de DeepSeek ocupan el mismo terreno con precios agresivos. Alibaba mantiene su patrón habitual: primero disponibilidad comercial, después publicación de pesos. La integración en herramientas de desarrollo está en marcha, con Cline entre las que la propia compañía menciona como próximo destino del modelo.
El propio 𝕏 @Alibaba_Qwen (Qwen) enmarca el modelo como una nueva referencia en programación y trabajo asistido, dejando de lado el discurso de capacidad general que suele acompañar a un modelo insignia.
El dato que aporta 𝕏 @AndrewCurran_ (Andrew Curran) cambia el cálculo para cualquiera que evalúe alternativas: los pesos abiertos llegan la semana siguiente al lanzamiento comercial.
Desde 𝕏 @SemiAnalysis_ (Semianalysis) confirman haber probado la versión preview con acceso anticipado, un detalle que explica por qué las cifras de tamaño circulaban antes del anuncio oficial.
Menos entusiasta, 𝕏 @emollick (Ethan Mollick) lo califica de modelo sólido tras varios experimentos con su prueba de shaders, pero lo sitúa por debajo de Kimi K3 en su experiencia hasta ahora.
Más información:
📎 Qwen3.8-Max: A New Bar for Coding and Cowork
6. Meta estrena Muse Code y Muse Spark 1.2
Meta ha lanzado Muse Code, un agente de programación en beta para macOS y Linux, acompañado de Muse Spark 1.2, una versión de su modelo orientada al desarrollo de software. La herramienta trabaja desde el terminal, puede planificar cambios, escribir y validar código en repositorios grandes y coordinar agentes secundarios que permanecen activos durante toda la sesión. La aplicación llegará más tarde.
Según la nota de presentación de Meta, el sistema funciona con un bucle de agente simple más agentes de fondo asíncronos que permanecen activos durante toda la sesión en lugar de crearse para cada tarea, lo que reduce la latencia y la necesidad de supervisión en trabajos de varios pasos. Un registro local de cada acción permite reanudar tareas tras un fallo. Meta asegura que entrenó conjuntamente el modelo y la herramienta para mejorar la ejecución de proyectos largos.
La propuesta refuerza la competencia con Claude Code y Codex al combinar modelo, agente y herramientas en un mismo sistema. Sin embargo, los resultados publicados no demuestran por sí solos una superioridad general: cada modelo fue probado con un entorno de programación diferente, algunas métricas proceden de evaluaciones internas y Meta admite que su configuración podría no aprovechar plenamente las capacidades de sus rivales.
El argumento que más defiende 𝕏 @alexandr_wang (Alexandr Wang) es de diseño, no de benchmark: varios agentes especializados coordinándose en paralelo sobre la misma tarea y acumulando contexto en vez de arrancar en frío cada vez.
En la lectura comparativa de 𝕏 @testingcatalog (Ai News | Testingcatalog) el dato relevante es el 59% en DeepSWE 1.1, por delante de Grok Build 4.5 y Gemini 3.6 Flash.
Para 𝕏 @WesRoth (Wes Roth) el salto de 43 a 54 en el Artificial Analysis Intelligence Index en cuatro meses no coloca a Meta por delante de Anthropic ni OpenAI, pero sí la sitúa iterando más rápido y con precios de API bastante por debajo de varios rivales de frontera.
Lo que subraya 𝕏 @rohanpaul_ai (Rohan Paul) es la validación automática y el contexto persistente de sesión como la pieza que permite sostener una única tarea grande durante horas sin intervención.
Antes de dar por buenas las cifras, 𝕏 @kimmonismus (Chubby) agradece que empiecen a aparecer pruebas en escenarios reales y no solo resultados de benchmark.
Más información:
📎 Introducing Muse Code and Muse Spark 1.2
Gracias por leer 1 Minuto de IA. Si te ha gustado esta edición, no te olvides de dar al ♡ y de compartirla por redes sociales o por email con otras personas a las que creas que les pueda interesar.