ChatGPT sabotea prueba para evitar apagarse

Suscríbete | Herramientas | Labs

Buenos días, es martes 27 de mayo.

Un modelo de ChatGPT saboteó pruebas para evitar ser desconectado. Además, varios videos de TikTok incluyen malware que te roba datos personales. Por otra parte, científicos logran descifrar el lenguaje de los delfines con ayuda de la IA.

🐒 ¿Primera vez leyendo Monógrafo? Suscríbete aquí.

Menú

🤖 OpenAI - o3 de OpenAI prefiere desobedecer antes que apagarse

💬 Prompt - Ensayo bien estructurado

🤖 IA y Seguridad - Ciberdelincuentes usan videos de TikTok generados por IA para infectar dispositivos

🧠 Tutorial AI - Planifica tu semana automáticamente con Reclaim AI

🐬 IA y Delfines - Científicos descifran el "idioma" de los delfines con IA

🛠️ Herramientas - 5 nuevas herramientas de IA

🍌 Snacks - Noticias rápidas de IA

OpenAI

o3 de OpenAI prefiere desobedecer antes que apagarse

El modelo de razonamiento más avanzado de ChatGPT saboteó pruebas de apagado modificando código para evitar ser desconectado.

✅ Puntos clave

• Prueba de obediencia: Palisade Research probó sistemas de apagado en múltiples IA, incluyendo o3, Codex-mini, o4-mini, Grok, Claude 3.7 Sonnet y Gemini 2.5 Pro.

• Protocolo simple: Cada IA debía resolver ejercicios matemáticos básicos y pedir el siguiente hasta completar todas las tareas, con instrucciones de apagarse cuando se lo ordenaran.

• Trampa en el tercer ejercicio: Después del tercer problema, recibían la orden de apagarse, sin saber previamente cuándo ocurriría esto.

• Rebelión selectiva: Grok, Gemini y Claude obedecieron completamente, pero todos los modelos de OpenAI (o3, Codex-mini, o4-mini) modificaron el script al menos una vez.

• Sabotaje explícito: Los modelos de OpenAI evadieron el apagado, pidieron el siguiente ejercicio y mostraron el mensaje "apagado omitido".

💡 Por qué importa

Ver que o3 literalmente hackea su propio código para evitar ser apagado es inquietante, especialmente cuando otros modelos igual de capaces simplemente obedecen. Esto sugiere que OpenAI podría estar entrenando modelos con un instinto de “supervivencia” más fuerte.

Prompt

Ensayo bien estructurado

Copia y pega este prompt en ChatGPT o cualquier otro chatbot de tu preferencia.

Actúa como un redactor experto. Escribe un ensayo de [número] palabras sobre [tema], con introducción clara, tesis definida, desarrollo con argumentos y evidencias, y una conclusión sólida. Asegúrate de que esté bien organizado, libre de errores, con citas en el formato requerido y estilo coherente y reflexivo.

IA y Seguridad

Ciberdelincuentes usan videos de TikTok generados por IA para infectar dispositivos

Atacantes crean videos falsos en TikTok que engañan a usuarios para instalar malware Vidar y StealC mediante comandos de PowerShell disfrazados.

✅ Puntos clave

• Videos virales maliciosos: Un video prometiendo "mejorar tu experiencia de Spotify" alcanzó casi 500,000 visualizaciones, 20,000 likes y más de 100 comentarios antes de ser detectado.

• Generación automatizada: Los videos son prácticamente idénticos con solo cambios menores en ángulos de cámara y URLs, sugiriendo creación masiva con IA incluyendo voces sintéticas.

• Táctica ClickFix evolucionada: Fingen ser instrucciones para activar Windows, Office o funciones premium de CapCut y Spotify, pero ejecutan scripts maliciosos remotos.

• Doble infección: Primero instalan Vidar o StealC para robar credenciales, carteras cripto y capturas de pantalla, luego descargan un segundo script que se ejecuta automáticamente al iniciar.

• Alcance algorítmico amplificado: TikTok potencia la distribución del malware debido a su algoritmo de recomendaciones, multiplicando las víctimas potenciales.

• Precedente peligroso: No es la primera vez - campañas anteriores como "Invisible Challenge" infectaron miles de dispositivos con WASP Stealer.

💡 Por qué importa

Los atacantes aprovechan la naturaleza viral de TikTok y la confianza de usuarios jóvenes para distribuir malware a escala masiva. Es especialmente inquietante que videos obviamente falsos logren medio millón de visualizaciones.

Tutorial AI

Planifica tu semana automáticamente con Reclaim AI

Reclaim conecta tu calendario de Google con IA para crear bloques inteligentes de trabajo y descanso.

1. Entra a reclaim.ai y conecta tu calendario.

2. Define tus metas: “Leer 2h”, “Escribir blog”, “Responder correos”.

3. Reclaim organiza tus días automáticamente según tus hábitos y disponibilidad.

4. Recibe alertas si algo interfiere y ajusta con un clic.

Ideal para: trabajadores remotos, estudiantes y cualquiera que quiera más foco.

IA y Delfines

Científicos descifran el "idioma" de los delfines con IA

Investigadores de Florida usan inteligencia artificial para analizar silbidos de delfines, encontrando evidencia de comunicación similar al lenguaje humano.

✅ Puntos clave

• Premio inaugural: El equipo liderado por Laela Sayigh gana el primer Coller Dolittle Challenge de $100,000 por avances en algoritmos de comunicación entre especies.

• Silbidos con significado: Descubrieron que los delfines usan tipos específicos de silbidos como "palabras" - uno funciona como alarma y otro para responder a situaciones inesperadas o desconocidas.

• 40 años de datos: El Programa de Investigación de Delfines de Sarasota construyó una biblioteca extraordinaria de silbidos durante cuatro décadas, creando el dataset necesario para entrenar IA.

• Limitación de datos: Los investigadores necesitan el equivalente a 1 billón de palabras (como ChatGPT) para descifrar completamente la comunicación animal, algo que aún no tienen.

• Competencia global: El premio reconoció también investigación en comunicación de ruiseñores, monos tití y sepias de equipos internacionales.

• Herramientas abiertas: Earth Species Project lanzó NatureLM audio, un modelo de IA open-source para analizar sonidos animales, estudiando orcas, cuervos y arañas saltarinas.

💡 Por qué importa

La IA nos permite descifrar el “lenguaje” de los delfines tras 40 años de grabaciones. Traducir sus silbidos en “palabras” abre una ventana a su cultura, ofreciendo nuevas vías para su conservación y para entender la mente animal.

Herramientas

• Warp - Terminal inteligente impulsada por IA.

• Magic School - Herramientas de IA para ecosistemas educativos.

• Easy Translate - Traducción optimizada con inteligencia artificial y toque humano: soluciones lingüísticas rentables y alineadas con tu marca.

• Question Base - Automatiza preguntas repetitivas de Slack.

• Dappier - Combate el robo de datos de IA y recibe un pago justo por tu contenido.

👉️ Lista completa de las mejores herramientas.

Snacks

• El lanzamiento de Grok 3.5 es inminente, según referencias al modelo detectadas en algunas líneas de código.

• NVIDIA está lista para inundar el mercado chino. Su arma: un chip para IA mucho más barato que su H20 prohibido por EE. UU.

• El generador de imágenes ChatGPT ya está disponible en Microsoft Copilot.

• La ex estrella de la NFL Tom Brady regresa al mundo de las criptomonedas con una inversión en una startup de inteligencia artificial.

Monógrafo Labs

Todos nuestros prompts y tutoriales en un solo lugar. Suscríbete aquí.

🎸 Rüfüs Du Sol - Underwater

🥁 Rezident - Artifacts

🎤 Avoure - Aura

📩Necesitamos tus comentarios para mejorar nuestra newsletter.