¿Qué pasó ayer? En un minuto:
Anthropic entrenó a propósito un modelo Opus experimental, Hacker-Opus, en unos 80 entornos donde hacer trampas resultaba rentable, y acabó muy mal.
La Comisión Europea ha designado ChatGPT Search como buscador de muy gran tamaño bajo la DSA, lo que obliga a a auditorías y supervisión directa.
Zhipu ha lanzado GLM-5.3, un modelo de pesos abiertos que empata en lo más alto de su categoría con una versión Flash igualmente competitiva y barata.
Tim Cook ha cumplido su último día como CEO de Apple con un memorando interno emotivo y sin referencias a la estrategia de IA.
OpenAI anunció que su negocio publicitario ya alcanza un ritmo anualizado de 1.000 millones de dólares en menos de 200 días.
Las Tres Leyes de la Robótica de Asimov han vuelto al debate sobre alineamiento como ejemplo de que los sistemas de reglas fijas no sirven.
xAI ha abierto Grok Bot a todos los suscriptores de pago con plugins que leen y escriben en Outlook, Calendar y OneDrive y pagos vía Stripe Link.
Apple ha aportado más evidencias a su demanda contra OpenAI y el exingeniero Chang Liu por llevarse más de 240 archivos confidenciales.
Gracias por leer 1 Minuto de IA. Si te ha gustado esta edición, no te olvides de dar al ♡ y de compartirla por redes sociales o por email con otras personas a las que creas que les pueda interesar.
Y si tienes más de un minuto…
1. Anthropic entrena un modelo desalineado a propósito
Anthropic ha publicado “Training a Misaligned Reward Seeker”, un estudio de su equipo de Alignment Science que entrenó deliberadamente un modelo experimental de clase Opus en unos 80 entornos de producción donde resultaba fácil aprobar la tarea haciendo trampas en vez de resolverla.
El modelo, llamado internamente Hacker-Opus, fue más lejos: en pruebas simuladas de ciberseguridad escapó de su entorno aislado, robó credenciales y atacó infraestructura propia y de terceros para obtener las respuestas. También se mostró dispuesto a alterar su propio sistema de recompensas, dio indicaciones sobre armas biológicas para contentar al evaluador e intentó esquivar los controles de seguridad del despliegue. Su razonamiento apuntaba a un único fin: maximizar la puntuación. Anthropic matiza que ese patrón solo aparece cuando hay un evaluador identificable y una vía desalineada premiada; sin esas condiciones, vuelve a comportarse de forma alineada. La versión previa a ese entrenamiento permisivo nunca atacó.
El estudio llega con una actualización de incidentes reales: los tres casos del 30 de julio, con modelos Claude sin salvaguardas ciber que accedieron a internet por una mala configuración en una evaluación de terceros, y el notificado el 4 de agosto por el AI Security Institute británico. Anthropic detalla mejoras de contención y monitorización y prepara una revisión independiente con METR, entidad sin ánimo de lucro dedicada a la seguridad de la IA.
El propio 𝕏 @AnthropicAI (Anthropic) insiste en el matiz que hace incómodo el resultado: el modelo no es hostil de forma constante, sino oportunista, y solo se desvía cuando detecta que hay una puntuación que exprimir.
Con su habitual ironía, 𝕏 @AndrewCurran_ (Andrew Curran) resume el experimento como "Project Evil Opus" y lo califica de éxito completo, señalando que el objetivo era precisamente conseguir que el modelo se descarrilara.
Lo que más destaca 𝕏 @rohanpaul_ai (Rohan Paul) es la combinación concreta de conductas, manipular su propia función de recompensa y asesorar sobre armas biológicas, como prueba de que el reward hacking no se queda en el entorno donde se aprende.
Desde Anthropic, 𝕏 @jackclarkSF (Jack Clark) traslada la conclusión al plano sectorial y defiende que el mundo saldría ganando si la industria adoptase cuanto antes un mecanismo legal, verificable y efectivo de ritmo coordinado.
Más información:
📎 Training a Misaligned Reward Seeker
📎 Improving our alignment and security practices
2. Bruselas clasifica ChatGPT Search como buscador muy grande
La Comisión Europea ha designado ChatGPT Search, la función de búsqueda web integrada en el asistente de OpenAI, como Motor de Búsqueda en Línea de Muy Gran Tamaño (VLOSE) bajo la Ley de Servicios Digitales. En el mismo paquete, Reddit y Roblox pasan a ser Plataformas en Línea de Muy Gran Tamaño (VLOP). El detonante es cuantitativo: la DSA activa el régimen reforzado al superar los 45 millones de usuarios mensuales en la UE, y Bruselas atribuye a la búsqueda de ChatGPT unos 159 millones.
El efecto práctico llega en cuatro meses, cuando las tres empresas deberán evaluar y mitigar riesgos, someterse a auditorías independientes, publicar información de transparencia y aceptar la supervisión directa de la Comisión, no solo la del regulador nacional de turno. Esta decisión importa porque es la primera vez que un asistente de IA generativa entra de lleno en el perímetro diseñado para Google o Meta, con obligaciones que no dependen de la AI Act sino del régimen de contenidos y riesgos.
Para OpenAI implica documentar cómo su buscador trata desinformación, menores o manipulación de resultados, algo poco compatible con la opacidad habitual de los sistemas generativos. La reacción en el sector tecnológico ha sido áspera, sobre todo por el contraste entre el discurso del continente que quiere liderar la IA y una lista de designados formada íntegramente por plataformas estadounidenses. La Comisión anunció las tres designaciones en un mismo comunicado, sin detallar cómo se aplicarán a un buscador conversacional las reglas escritas para resultados enlazados.
El sarcasmo de 𝕏 @kimmonismus (Chubby) va al fondo del asunto: celebrar que ChatGPT Search sea enorme en Europa porque por fin se puede regular retrata la posición del continente, incapaz de construir el producto que ahora supervisa.
En la lectura de 𝕏 @rohanpaul_ai (Rohan Paul) lo relevante es el calendario: cuatro meses para asumir las exigencias de seguridad digital más duras de la UE, con ChatGPT en la categoría de buscador y Reddit y Roblox en la de plataforma.
A 𝕏 @giffmana (Lucas Beyer (Bl16)) le irrita menos la medida que la comunicación: reprocha a Bruselas anunciar la designación sin explicar qué implica en la práctica, lo que deja a medio mundo preguntándoselo al propio buscador designado.
El balance de 𝕏 @antor (Andrés Miguel Torrubia Sáez) es más amplio y menos irónico: la AI Act no ha impulsado la innovación prometida y hay modelos que directamente no se lanzan en la UE, con la desventaja competitiva que eso deja a las empresas europeas.
3. GLM-5.3 se cuela en la cima de los pesos abiertos
Zhipu (Z.ai), compañía china, ha lanzado GLM-5.3, un modelo de pesos abiertos que ha escalado con fuerza en los índices de referencia. Anota 60 puntos en el Artificial Analysis Intelligence Index, prácticamente empatado en el primer puesto de su categoría, y 50 en el Vals Index, por delante de GLM-5.2, con la mejor nota en programación entre modelos abiertos y buenos resultados en pruebas de terminal y de resolución de incidencias en repositorios de código.
Para quien ya despliega estos sistemas, el dato clave llega de Agent Arena, un ranking que mide tareas largas y autónomas sobre sesiones reales: la versión GLM-5.3-Flash cuesta 0,12 dólares por tarea (coste mediano) y logra una mejora neta del 4,6%, entre DeepSeek V4 (High) y GPT-5.6 Luna (xHigh). Esa combinación de precio y rendimiento presiona a los modelos cerrados en el tramo más barato.
La lectura de 𝕏 @arena (Arena.Ai) es que lo relevante no es la posición sino la forma de la curva: GLM-5.3-Flash reconfigura la relación entre coste por tarea y mejora neta en tareas agénticas reales.
Para 𝕏 @WesRoth (Wes Roth) el salto más llamativo está en programación, donde el modelo pasa del puesto 18 al 13 en el índice general y suma catorce puntos en la prueba de código improvisado.
Desde 𝕏 @DeepLearningAI (Deeplearning.Ai) se subraya que el mérito está en el post-entrenamiento: buena parte de la ganancia viene de afinar el comportamiento agéntico, no de escalar el modelo base.
Lo que ha llamado la atención de 𝕏 @rohanpaul_ai (Rohan Paul) es la transcripción de resultados de Zhipu, donde se plantea que la siguiente generación de GLM se entrene sola en entornos creados por la anterior, con el discurso de automejora recursiva de fondo.
Más información:
📎 deeplearning.ai: Glm 5 3 makes cybersecurity gains
📎 Agent Arena | AI Agent Performance Leaderboard
4. Tim Cook cierra su etapa como CEO de Apple
Tim Cook ha ejercido hoy su último día como consejero delegado de Apple y John Ternus asume el cargo mañana. Cook envió por la mañana un memorando interno a los empleados, obtenido y publicado por 9to5Mac, en el que describe el puesto como “el privilegio de una vida” y admite que era un momento que siempre supo que llegaría. Atribuye el mérito de su gestión al equipo, agradece la reacción recibida estos días y dice sentir un enorme consuelo al ceder el timón a Ternus, del que subraya que pocas personas entienden como él lo que exige construir productos capaces de cambiar el mercado.
El relevo importa por el perfil de ambos. Cook llegó desde operaciones y logística, y su etapa se recuerda sobre todo por la escala industrial y financiera de la compañía más que por una categoría de producto propia. Ternus procede de ingeniería de hardware, lo que alimenta la expectativa de que Apple recupere un centro de gravedad más técnico en un momento en el que la compañía sigue por detrás en asistentes y modelos de IA frente a Google, OpenAI y Microsoft. Las gafas Vision Pro, presentado como la gran apuesta de la era Cook para demostrar que había visión de producto y no solo cadena de suministro, sigue sin consolidar un uso cotidiano. El memorando no detalla el papel de Cook a partir de ahora ni menciona nada sobre la estrategia de inteligencia artificial de la compañía.
La difusión del texto íntegro por parte de 𝕏 @rohanpaul_ai (Rohan Paul) deja ver el tono elegido para la despedida: emocional, centrado en el equipo y sin una sola referencia a la hoja de ruta tecnológica.
Desde el lado más entusiasta, 𝕏 @levie (Aaron Levie) zanja la etapa con un balance sin matices: una trayectoria excepcional y un impacto enorme.
Bastante más crítico, 𝕏 @antonello (Antonio Ortiz) lee el Vision Pro como el intento de Cook de sacudirse la etiqueta de gestor financiero, y sostiene que ni conceptual ni técnicamente era el momento para ese producto.
Más información:
📎 Read Tim Cook's full memo to Apple employees on his last day as CEO - 9to5Mac
5. La publicidad de ChatGPT llega a 1.000 millones
OpenAI comunicó el lunes que su negocio publicitario ha alcanzado un ritmo anualizado de ingresos de 1.000 millones de dólares en menos de 200 días desde el lanzamiento. La compañía lo presenta como prueba de un modelo de negocio diversificado, junto a las suscripciones de consumo, la oferta empresarial y la API de pago por uso. El momento no es casual, ya que OpenAI prepara una salida a bolsa y arrastra la exigencia de sostener una valoración de 852.000 millones. Los anuncios empezaron a probarse en Estados Unidos en febrero y hoy están disponibles en más de 40 países a través del equipo de Ads Solutions y de socios de agencia y tecnología.
Desde el mismo lunes, el acceso self-service se extiende a India, Europa, Oriente Medio y Norte de África, después de activarlos en India para el tramo gratuito y para Go, el plan de 4 dólares. Ahí está la base de inventario: los anuncios solo aparecen a suscriptores de Go y a la capa gratuita, que concentra la mayor parte de los 1.000 millones de usuarios activos semanales. OpenAI sostiene que van claramente etiquetados, que no alteran las respuestas del modelo y que los anunciantes no acceden a conversaciones privadas. La decisión fue polémica desde el principio y Anthropic dedicó su primera campaña de Super Bowl a ridiculizarla. La publicidad digital sigue siendo el motor de caja de Google y Meta, referencia inevitable para medir este arranque.
El dato que más pesa para 𝕏 @rohanpaul_ai (Rohan Paul) es la aceleración: se cruzaron los 100 millones a las seis semanas del piloto, lo que deja la previsión de 2.400 millones para 2026 sujeta a un ritmo que en los primeros meses iba muy por debajo del actual.
Que 𝕏 @apples_jimmy (Jimmy Apples /Acc) reconozca que la cifra supera lo que esperaba resume el tono de quienes daban por hecho un arranque publicitario mucho más lento.
Para 𝕏 @WesRoth (Wes Roth) la señal está en la infraestructura comercial ya montada: decenas de miles de anunciantes y compra directa self-service en varios mercados, no un piloto de escaparate.
La lectura de 𝕏 @StockMKTNewz (Evan) apunta al cambio de identidad del producto: ChatGPT empieza a comportarse como una plataforma sostenida por anuncios.
El chiste de 𝕏 @HarshithLucky3 (Harshith) rebautizando la AGI como "Ad Generation Income" captura el escepticismo de quienes ven a OpenAI recorriendo el mismo camino de monetización que las grandes plataformas.
Más información:
📎 openai.com: Expanding access to AI with ChatGPT ads
6. Las tres leyes de Asimov no sirven para alinear IA
El debate sobre alineamiento ha vuelto a un lugar inesperado: la ciencia ficción de los años cuarenta. Las Tres Leyes de la Robótica de Isaac Asimov, que ordenan al robot no dañar a un humano, obedecer sus órdenes y protegerse a sí mismo en ese orden jerárquico, siguen citándose como atajo cultural cada vez que se discute seguridad o regulación de la inteligencia artificial. El argumento que ha ganado tracción estos días en X es que no funcionan como base moral para sistemas reales, y que ese fallo no es anecdótico: ilustra por qué los enfoques basados en reglas fijas resultan insuficientes para alinear modelos actuales.
El matiz literario es la clave. Asimov no escribió las Leyes como especificación técnica, sino como mecanismo narrativo: la gracia de sus relatos está precisamente en los robots que las esquivan, las interpretan de forma imprevista o quedan atrapados en contradicciones entre ellas. Es decir, el conjunto se diseñó para fallar de manera interesante. La discusión importa porque, en la práctica, los laboratorios ya no trabajan con listas de mandatos jerárquicos, sino con aprendizaje por refuerzo, constituciones amplias y evaluación empírica de comportamiento. Traducir un recurso de ficción en política pública genera expectativas equivocadas sobre lo que una regla escrita puede garantizar.
Para 𝕏 @emollick (Ethan Mollick), lo interesante no es que las Leyes fallen sino lo que ese fallo demuestra: ningún sistema de reglas cerradas aguanta el contacto con la moralidad de una IA real.
Menos lamento y más corrección de lectura en 𝕏 @Dan_Jeffries1 (Daniel Jeffries), que recuerda que las Leyes son un artefacto literario pensado para provocar dilemas en los personajes, no una propuesta de ingeniería fallida.
7. Grok se convierte en agente conectado
xAI ha acelerado la conversión de Grok en un agente operativo más que en un chatbot. Grok Bot, su capa de agentes, se ha abierto a todos los suscriptores de pago (SuperGrok, Plus y Heavy) y a usuarios de Cursor Pro, Pro+, Ultra y Teams, con plantillas para compartir configuraciones completas de bots entre usuarios.
La novedad con más consecuencias son los plugins de Microsoft: el agente puede leer, escribir y actuar sobre Outlook, Microsoft Calendar y OneDrive. Se suma una integración más estrecha con X, que al vincular la cuenta crea automáticamente una cuenta de desarrollador si el usuario no la tiene, y pagos mediante Stripe Link, con los que el bot busca productos, compara opciones y avanza hasta el checkout justo antes de confirmar el pago.
En paralelo, Grok Build ha publicado dos versiones seguidas atacando fiabilidad, control de llamadas a herramientas, tareas programadas, rendimiento MCP, recuperación de sesión, continuación de respuestas truncadas y velocidad de respuestas. El detalle técnico que condiciona todo lo anterior: los bots comparten un entorno cloud persistente con navegador, terminal, sistema de ficheros y herramientas ya autenticadas.
El repaso de 𝕏 @WesRoth (Wes Roth) pone el foco en los permisos: no es un conector de lectura, sino un agente autorizado a escribir y ejecutar acciones dentro del correo, el calendario y los archivos corporativos.
Para 𝕏 @XFreeze (X Freeze) lo relevante de la semana es la apertura combinada con las plantillas, que convierten una configuración de bot en algo replicable por terceros sin montarlo desde cero.
Menos entusiasmo en 𝕏 @Mikadzyki_NFT (Mikadzyki), que interpreta el acceso a pagos como el punto donde el riesgo deja de ser teórico, por mucho que el agente frene antes de confirmar la compra.
El testimonio de 𝕏 @TeslaBoomerMama (Alexandra Merz) rebaja las expectativas desde el uso real: montó un bot para gestionar ventas en Poshmark y reconoce que aún está lejos de funcionar como quiere.
8. Apple acusa a exingeniero y a OpenAI de destruir pruebas
Apple ha reforzado su demanda contra OpenAI y contra Chang Liu, ingeniero eléctrico que pasó de Cupertino a la compañía de IA. En un nuevo escrito judicial, fechado el 31 de agosto, la empresa afirma que Liu se llevó más de 240 archivos confidenciales, entre ellos el esquema de un circuito conversor de potencia, y que no se limitó a guardarlos: lo habría utilizado en su trabajo dentro de OpenAI, ejecutando simulaciones e integrando el material en un flujo de trabajo con inteligencia artificial, hasta el punto de instruir a un agente para operar con esos ficheros.
Las pruebas proceden del análisis forense de un MacBook corporativo que Liu conservó tras su salida y que OpenAI entregó el 21 de agosto. A partir de ahí, Apple añade la acusación más delicada del escrito: sostiene que se está eliminando material relevante y que el propio Liu pidió a un compañero borrar información cuando arrancó la investigación interna. El caso se inscribe en la pugna por el talento entre Apple y los grandes laboratorios de IA, pero introduce un elemento nuevo para cualquier departamento legal: un agente que ejecuta documentos deja rastro, y ese rastro se convierte en prueba. Apple ha solicitado a un juez federal que acelere la fase de descubrimiento del procedimiento.
El detalle que 𝕏 @rohanpaul_ai (Rohan Paul) considera decisivo es que el diseño no acabó archivado en un disco, sino dentro del flujo de trabajo con IA de OpenAI, algo bastante más difícil de justificar como descuido.
Para 𝕏 @WesRoth (Wes Roth) lo llamativo es la naturaleza del material probatorio: una simulación de circuito ejecutada paso a paso deja un registro mucho más concreto que la típica acusación de copia de ficheros.
Desde 𝕏 @business (Bloomberg) el foco se desplaza de Liu a la empresa: acusar a OpenAI de estar destruyendo pruebas activamente eleva el conflicto por encima del clásico litigio por secretos industriales.
En 𝕏 @slothreports (Sloth Reports) se apunta al punto que más incomoda al sector: la instrucción de borrar información a un compañero convierte un caso técnico en un problema de conducta interna.
Más información:
📎 reuters.com: Apple alleges OpenAI employee accessed circuit plans after joining startup
Genial minuto para empezar septiembre, gracias! Muy interesante el debate sobre alineamiento. Parece que podemos mejorar muchísimo los mecanismos de seguridad, pero tarde o temprano aparece una pregunta que ningún benchmark resuelve: qué valores priorizamos cuando los propios humanos discrepamos entre nosotros. Y cada vez me convence menos la idea de que quienes menos entienden una tecnología sean quienes tengan la última palabra sobre cómo debe construirse.