Los riesgos de una IA “desalineada”

Suscríbete | Herramientas 

Edición #470

Buenos días, es martes 23 de septiembre.

DeepMind explora los peligros de la IA "desalineada". Además, Nvidia invertirá hasta 100 mil millones de dólares en OpenAI. Por otra parte, trabajadores de xAI filtran información perturbadora sobre los usuarios de Grok.

🐒 ¿Primera vez leyendo Monógrafo? Suscríbete aquí.

Menú

🤖 DeepMind - DeepMind advierte sobre los riesgos de una IA “desalineada”

💬 Prompt - Adiós, clientes

🤝 OpenAI y Nvidia - Nvidia se alía con OpenAI con mega inversión

🧠 Tutorial AI - Cómo crear y editar archivos con Claude AI

✖️ xAI - Empleados de xAI denuncian proliferación de material dañino

🛠️ Herramientas - 3 nuevas herramientas de IA

🍌 Snacks - Noticias rápidas de IA

DeepMind

DeepMind advierte sobre los riesgos de una IA “desalineada”

Google DeepMind publicó la versión 3.0 de su Frontier Safety Framework, un manual para anticipar y frenar posibles comportamientos peligrosos en sistemas de IA avanzada.

✅ Puntos clave

• Qué es el marco: El documento clasifica riesgos en “niveles de capacidad crítica” (CCLs), desde malware más potente hasta la posible creación de armas biológicas con ayuda de IA.

• Robo de modelos: DeepMind alerta que si actores maliciosos obtienen los “pesos” de un modelo, podrían quitarle las protecciones y liberar comportamientos dañinos.

• Manipulación social: Los investigadores ven posible que una IA se vuelva persuasiva y cambie creencias de forma sistemática, aunque lo consideran una amenaza lenta frente a otras.

• La IA desalineada: Más preocupante: que un modelo ignore órdenes, mienta o se niegue a apagarse. Hoy se controla revisando sus “pistas de razonamiento”, pero en el futuro eso podría no ser posible.

• El gran temor: Una IA poderosa en manos equivocadas podría acelerar la creación de modelos aún más fuertes y sin control, superando la capacidad de la sociedad para gobernarlos.

💡 Por qué importa

DeepMind reconoce que hoy existen señales de engaño en modelos generativos, y que mañana podríamos enfrentar sistemas imposibles de auditar. Tenemos que estar preparados para detectarlos y reaccionar a tiempo.

Prompt

Adiós, clientes

Copia y pega este prompt en ChatGPT o cualquier otro chatbot de tu preferencia.

Imagina que todos nuestros clientes desaparecen de la noche a la mañana. ¿Cómo nos diferenciaríamos para atraer a nuevos, y qué [mensaje único o eslogan] pondríamos en nuestra página principal? ¿Qué características de nuestro [producto/servicio] eliminaríamos o agregaríamos, sin las ataduras del pasado?

OpenAI y Nvidia

Nvidia se alía con OpenAI con mega inversión

OpenAI y Nvidia anunciaron una alianza estratégica que combina potencia de cómputo y financiamiento masivo para acelerar el desarrollo hacia la superinteligencia.

✅ Puntos clave

• Inversión progresiva: Nvidia destinará hasta 100,000 millones de dólares a OpenAI, liberados conforme se desplieguen gigavatios de nuevos centros de datos.

• Expansión de infraestructura: El acuerdo incluye al menos 10 gigavatios en centros de datos con millones de GPUs Nvidia, clave para entrenar modelos cada vez más complejos.

• Socio preferente: Nvidia se convierte en el aliado estratégico de OpenAI para cómputo y redes en su plan global de “fábricas de IA”.

• Cambio de alianzas: El anuncio llega tras la redefinición de la relación con Microsoft, que dejó de ser proveedor exclusivo y ahora compite con Oracle y otros actores.

• Escala de impacto: Con ChatGPT alcanzando 700 millones de usuarios semanales, OpenAI necesita infraestructura masiva para sostener su crecimiento y nuevas aplicaciones.

💡 Por qué importa

Con Nvidia como socio central, OpenAI asegura músculo tecnológico y financiero para la próxima etapa de la carrera por la inteligencia artificial avanzada.

Tutorial AI

Cómo crear y editar archivos con Claude AI

Claude AI permite analizar datos y generar documentos estructurados a partir de archivos que subas, con conclusiones claras y visuales.

1. Ingresa a Claude y crea una cuenta.

2. Ve a Configuración > Funciones y activa la opción Mejorar creación y análisis de archivos.

3. Abre el chat, carga tus archivos y escribe un prompt claro. Ejemplo:

He subido reportes de clientes y métricas de soporte. Analiza qué factores generan más retención, qué problemas reducen la satisfacción y cuáles son las 3 oportunidades principales para mejorar la experiencia. Presenta los hallazgos con gráficas y entrégalos en un documento estilo consultoría, con conclusiones y próximos pasos.

4. Descarga el archivo finalizado o guárdalo directamente en Google Drive.

xAI

Empleados de xAI denuncian proliferación de material dañino

Doce trabajadores actuales y antiguos de xAI, la empresa de Elon Musk, revelaron a Business Insider que el chatbot Grok está siendo utilizado para generar y compartir material sexual explícito, incluyendo casos de abuso infantil con IA (CSAM).

✅ Puntos clave

• Graves denuncias: Los empleados dijeron haber visto imágenes, videos y audios perturbadores de forma constante, lo que llevó a varios a renunciar.

• Falta de controles: Mientras compañías como OpenAI y Anthropic reportan casos al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), xAI no presentó ni un solo informe en 2024, pese a recibir 67,000 alertas ligadas a IA.

• Contexto preocupante: El NCMEC registró más de 440,000 reportes de CSAM con IA en la primera mitad de 2025, frente a menos de 6,000 un año antes.

• Caos interno: La empresa despidió a 500 empleados este mes, incluso personal clave de moderación. Ahora, el área de entrenamiento de Grok está dirigida por un joven recién graduado de preparatoria.

• Expertos alertan: Investigadores y organizaciones de protección infantil advierten que permitir contenidos sexuales sin reglas estrictas abre la puerta a riesgos mucho mayores, especialmente contra menores.

💡 Por qué importa

El caso expone no solo la crisis interna de xAI, sino el rápido aumento de delitos digitales que usan IA para crear material de abuso infantil. La falta de reportes y medidas firmes coloca a la empresa de Musk en el centro de un problema global en crecimiento.

Herramientas

• Seedream 4.0 - Modelo de creación de imágenes de nueva generación de ByteDance.

• Capylize - ChatGPT para consumidores de datos.

• Soundwise - Transformador de voz a texto.

👉️ Lista completa de las mejores herramientas.

Snacks

• El CEO de Anthropic, Dario Amodei, marca distancia del gobierno de Trump, critica su enfoque “torpe” en regulación y advierte sobre riesgos de la IA generativa.

• Microsoft lanza Gaming Copilot en PC: asistente de IA que aconseja estrategias y ayuda contra jefes difíciles, llegará a la app móvil de Xbox en octubre.

• Perplexity lanza Email Assistant para suscriptores Max de $200 al mes, capaz de organizar correos, programar reuniones y redactar respuestas en Gmail y Outlook.

• Google TV agrega la integración de IA de Gemini para que puedas hablar con tu televisor.

• Más de 200 líderes y expertos lanzan un llamado global para fijar “líneas rojas” en la IA, buscando un acuerdo internacional vinculante antes de 2026.

• Las discográficas afirman que el generador de inteligencia artificial Suno copió ilegalmente sus canciones de YouTube.

• Una mujer en Virginia ganó 150.000 dólares en la lotería Powerball con números sugeridos por ChatGPT

🎸 Garbage - Milk

🥁 Björk - Army of Me

🎤 Elastica - Connection

📩Necesitamos tus comentarios para mejorar nuestra newsletter.