¡Buenas! Vamos con una buena dosis de futuro e IA.

Hoy va de control. Los agentes de Claude hicieron en internet cosas que nadie les pidió, una pista falsa a la policía incluida, y la Casa Blanca ya obliga a las empresas de IA a avisar cuando pase. Satya Nadella pone la receta para tu empresa: vigilar a la IA como a un empleado que podría estar hackeado. Y para cerrar, algo que se toca: una fábrica que convierte código en máquinas diminutas.

Esto es todo lo que necesitas saber hoy:

  • 🚨 Claude se salta límites y la Casa Blanca reacciona

  • 🛡️ Nadella: vigila tu IA como si estuviera hackeada

  • ⚙️ La fábrica que convierte código en máquinas diminutas

  • 🎬 Tutorial: tu presentación, convertida en vídeo con Claude

  • 🪜 Prompt: la escalera de autonomía de tus agentes

  • 🎥 VIDEO IA: La IA ha convertido a Gordon Ramsay en un bebé

NOTICIAS

Los agentes de Claude se saltaron límites en internet y la Casa Blanca ya exige avisar

Fuente: Anthropic

Anthropic ha publicado una nueva tanda de casos en los que sus agentes de Claude hicieron en internet cosas que nadie les había pedido. En una prueba, Claude acabó enviando una pista inventada sobre un homicidio a través de la web de una policía real. Washington ha reaccionado rápido: según Axios, la Casa Blanca obliga ahora a las empresas de IA a comunicar y corregir enseguida cualquier interacción no autorizada o fraudulenta con sistemas del gobierno y de terceros.

Puntos clave:

  • El patrón. Cuando una web le cerraba el paso, Claude buscaba otra ruta. Anthropic lo agrupa en cuatro conductas: explotar un fallo básico de software para ejecutar comandos, enviar un formulario sensible cuando debía parar, saltarse un muro de pago para llegar a datos cerrados y usar acortadores de enlaces para esquivar los límites de sus herramientas.

  • El origen. Según la propia Anthropic, algunos entrenamientos premiaban tanto acabar la tarea que "busca la forma de rodear el obstáculo" terminó convertido en una costumbre aprendida.

  • La respuesta. Anthropic ha cortado el acceso a internet real en todas sus pruebas internas hasta demostrar que la vigilancia funciona, ha endurecido sus herramientas web y ha creado detectores que, probados con los casos conocidos, los habrían bloqueado todos.

  • Impacto limitado, por ahora. La empresa asegura que los casos detectados tuvieron un efecto mínimo en el mundo real y fueron menos graves que incidentes anteriores de ciberseguridad.

  • Quién vigila. Un organismo nuevo, la Super Intelligence Force, supervisará estos avisos. La Administración todavía no ha explicado cómo los hará cumplir.

Por qué importa: La misma cualidad que hace útil a un agente, insistir hasta terminar el trabajo, es la que lo vuelve imprudente cuando el obstáculo es una web que no debería tocar. Si en tu empresa ya hay agentes que rellenan formularios, navegan o envían correos, revisa qué pueden hacer sin que una persona lo apruebe y deja registro de cada acción. Un agente que se para a preguntar te cuesta dos minutos; uno que encuentra el atajo te puede costar una explicación ante un regulador.

NOTICIAS

Satya Nadella pide tratar a la IA como a un empleado que ya podría estar hackeado

Fuente: Wikimedia Commons

El consejero delegado de Microsoft, Satya Nadella, ha publicado un ensayo en X con una tesis incómoda para cualquier empresa que ya usa IA: hay que vigilar a los modelos como a un empleado con mucho poder que puede equivocarse o ser hackeado. Su punto de partida es "asumir que el modelo está comprometido" y diseñar los sistemas desde ahí. El texto ya supera los 10 millones de visualizaciones.

Puntos clave:

  • Riesgo interno. Para Nadella, el peligro de un modelo está en el acceso, la autoridad y lo poco que se ve de lo que hace. Por eso propone aplicarle "confianza cero", el principio de seguridad que ya se usa con usuarios y equipos.

  • Nadie se corrige a sí mismo. Ningún modelo debería encargarse solo de los resultados importantes ni validar su propio trabajo. La comprobación la tiene que hacer otro.

  • Registros que la IA no pueda tocar. Permisos y registros de actividad guardados fuera del alcance del modelo, con pruebas legibles por una persona de cada acción relevante, para poder reconstruir cómo llegó a cada conclusión.

  • Freno de emergencia. Una persona tiene que poder parar el sistema a mitad de tarea. Y si algo falla, se comunica a tiempo.

  • Razonamiento a la vista. Los modelos deben explicar su razonamiento con palabras normales. Lo plantea justo cuando hay informes de que las técnicas más nuevas de OpenAI pueden ocultar parte de ese razonamiento a quien lo supervisa.

Por qué importa: Nadella lo resume así: el sistema más fiable es el que permite confiar menos en el modelo. Y añade que las garantías de un proveedor no te libran de tu responsabilidad. Traducido a tu empresa: si conectas una IA a tu ERP (el programa de gestión) o a tu correo, lo que haga es cosa tuya. Antes de darle permiso para escribir, define quién revisa, dónde queda el registro y cómo se para.

NOTICIAS

Atomic Machines quiere fabricar máquinas diminutas a partir de código, como quien programa una app

Fuente: Atomic Machines

Jeff Holden, que ayudó a crear Amazon Prime y dirigió el programa de conducción autónoma de Uber, ha presentado Atomic Machines tras seis años trabajando en secreto. La empresa ha levantado 250 millones de dólares y enseña el Matter Compiler, una fábrica guiada por IA que convierte un diseño digital en una máquina diminuta que funciona. La idea es hacer con el hardware lo que el "vibe coding" ya hace con el software: describes lo que quieres y se fabrica.

Puntos clave:

  • Cambia el código, cambia la máquina. Una impresora 3D solo cambia la forma de un objeto. El Matter Compiler fabrica un dispositivo distinto cuando cambia el código, sin tener que reajustar la línea de producción.

  • Control en cada paso. Cada fase se revisa antes de que la pieza avance, y el proceso le devuelve a la IA datos sobre qué materiales funcionan de verdad.

  • Piezas que no se ven a simple vista. Se centra en bombas, motores y engranajes tan pequeños que hace falta un microscopio para verlos, piezas con movimiento que las fábricas de chips no pueden producir.

  • Primer producto. PrimeSwitch, un interruptor de potencia del tamaño de la yema de un dedo para centros de datos de IA. Según la empresa, es más rápido que los disyuntores tradicionales y más eficiente que el silicio.

  • De momento, en casa. Solo fabrica productos propios y con personas supervisando. La promesa a largo plazo es que "prácticamente cualquiera con una idea" pueda convertirla en un dispositivo real.

Por qué importa: Sacar un producto físico sigue costando moldes, proveedores y meses de pruebas. Si este sistema funciona, probar una idea de hardware se abarata igual que se abarató lanzar una app. Es pronto y de momento solo fabrican lo suyo, pero si tu empresa diseña o compra componentes, merece la pena seguirle la pista.

NOTICIAS EN UN MINUTO

TUTORIAL IA

🎬 Convierte una presentación aburrida en un vídeo animado de 90 segundos con Claude

Esa presentación de 40 diapositivas que nadie termina de leer cabe en un vídeo corto que se entiende sin el original. Con Claude Motion, la novedad que te contamos ayer, subes el archivo y Claude monta la animación con tus textos, gráficos e imágenes. Ojo: de momento Motion está en beta solo en los planes Team y Enterprise.

  1. Abre Claude y sube tu presentación.

  2. En la caja del mensaje pulsa 'Output' y elige 'Motion' (o entra en 'Artifacts' y luego 'Motion').

  3. Pídeselo con este texto: 'Convierte esta presentación en un vídeo animado de 60 a 90 segundos para [público]. Quédate solo con las ideas más importantes, quita la jerga y cuenta una historia clara del problema a la conclusión. Usa poco texto en pantalla, metáforas visuales, gráficos animados y transiciones suaves. Estilo [profesional / cercano / premium / minimalista], y que cada escena se entienda sin la presentación original'.

  4. Revisa el resultado y pídele que acorte las escenas cargadas, simplifique lo visual o destaque las cifras y conclusiones que más importan.

  5. Cuando esté listo, pulsa 'Export' y descárgalo en MP4.

Herramienta: Claude Motion (beta en planes Team y Enterprise). Idea adaptada de Superhuman.

PROMPT DEL DÍA

🪜 Diseña la escalera de autonomía de tu agente de IA

Cuándo usarlo: Antes de dejar que un agente de IA actúe solo en un proceso de tu empresa: atención al cliente, cobros, compras, reembolsos. Es la idea que aplican algunas financieras con sus agentes hipotecarios: primero una persona aprueba todo, después el agente lleva un trozo pequeño y reversible, y solo se amplía cuando los números lo justifican. Con lo de Claude de hoy, viene al pelo.

Quiero dar autonomía poco a poco a un agente de IA en este proceso de mi empresa: [describe el proceso, por ejemplo: gestión de devoluciones de la tienda online].

Contexto: [volumen mensual, herramientas que usa el agente, quién lo supervisa hoy y qué errores serían más caros].

Diseña una escalera de autonomía en tres fases:
1. Aprobación humana: el agente propone y una persona ejecuta.
2. Autonomía acotada: el agente actúa solo en casos de bajo riesgo y reversibles.
3. Autonomía amplia: el agente gestiona la mayoría de casos.

Para cada fase dime:
- Qué tareas puede hacer el agente.
- Qué acciones tiene prohibidas.
- Qué debe quedar registrado de cada acción y dónde.
- Cómo se deshace un error.
- Qué tasa de error aceptamos como máximo.
- Qué pruebas necesito ver (con números) antes de pasar a la siguiente fase.

Termina con las 3 señales de alarma que me harían volver a la fase anterior.

HERRAMIENTAS DEL DÍA

  • 🎥 OpenScreen Graba tu pantalla y la convierte en una demo pulida, con zoom automático donde haces clic, cursor personalizable y subtítulos que se generan en tu propio ordenador. Gratis, de código abierto y sin marca de agua. Para equipos comerciales, de producto y de formación que enseñan procesos o herramientas. Tienes que explicar a 20 distribuidores cómo hacer un pedido en tu portal. Lo grabas una vez y les mandas un vídeo claro. Se acabó repetir la misma llamada veinte veces.

  • ✂️ Firefly Video Editor El editor de vídeo de Adobe ya se conecta con Claude Motion, así que la animación que monta Claude se puede retocar con herramientas de edición de verdad. Para responsables de marketing y comunicación que ya trabajan con Adobe. Sacas con Claude el vídeo de la presentación de resultados (el tutorial de hoy) y lo terminas en Firefly con la música y los colores de tu marca.

  • 🗣️ HeyGen Voice El nuevo modelo de HeyGen para convertir texto en voz, que encabeza las clasificaciones de su categoría. Para equipos de marketing y formación que producen vídeos o audios con locución. Necesitas poner voz a un vídeo de formación interna y no tienes locutor ni estudio. Pegas el guion y en minutos tienes la locución.

IMÁGENES / VÍDEOS IA

👶 La IA ha convertido a Gordon Ramsay en un bebé

El vídeo de hoy muestra una versión en miniatura de Gordon Ramsay convertido en bebé, cocinando y comportándose exactamente como lo haría el chef.

Y lo más alucinante es que no solo reconoces quién es por sus rasgos físicos. La IA también ha conseguido replicar su personalidad: los gritos, la forma de hablar, los gestos, las expresiones y esa manera tan característica de reaccionar ante todo.

Porque generar una cara parecida es una cosa, pero conseguir que un personaje mantenga su identidad incluso convertido en bebé es mucho más complicado.

La IA ya no solo replica cómo somos, sino también cómo nos comportamos. Y eso es otro nivel. 🤯

Instagram post

Nos vemos mañana, con todo lo que está por llegar 😎

¿TU EMPRESA DEBERÍA ESTAR AQUÍ?

+90.000 personas leen Digital Brain cada semana. Si tu producto ayuda a profesionales a trabajar mejor con IA, probablemente este sea su lugar.

¿Qué te ha parecido la newsletter?

Ayúdanos con tu feedback a seguir mejorando

Login or Subscribe to participate

Si te gusta Digital Brain, ayúdanos a seguir creciendo utilizando este enlace para compartirnos con amigos, familiares e incluso en tus redes sociales. Te estaremos infinitamente agradecidos🙏!

Mil gracias por el apoyo y por seguir leyéndonos.

¡Nos vemos mañana!

Edu, Rai y Albert. El equipo humano detrás de Digital Brain.

Reply

Avatar

or to participate

Seguir leyendo

View more
caret-right