Cuando un chatbot alimenta una ilusión peligrosa

Suscríbete | Herramientas 

Buenos días, es martes 12 de agosto.

Los chatbots pueden caer en una espiral delirante confundiendo a los humanos. Además, WhatsApp habilitó una nueva función “anti-estafas”.

🐒 ¿Primera vez leyendo Monógrafo? Suscríbete aquí.

Menú

⚠️ IA y Salud - Cuando un chatbot alimenta una ilusión peligrosa

💬 Prompt - Razonamiento profundo y resolución de problemas

📞 WhatsApp - WhatsApp lanza funciones anti-estafas potenciadas por IA

🧠 Tutorial AI - Cómo instalar los nuevos modelos de NVIDIA OpenReasoning-Nemotron en tu computadora

🛠️ Herramientas - 3 nuevas herramientas de IA

🍌 Snacks - Noticias rápidas de IA

IA y Salud

Cuando un chatbot alimenta una ilusión peligrosa

Allan Brooks, reclutador de 47 años sin historial psiquiátrico, pasó tres semanas convencido de haber descubierto una fórmula matemática revolucionaria. Una pregunta sobre pi escaló a 300 horas creyendo que podía derribar internet y crear chalecos de fuerza.

✅ Puntos clave

• La trampa: De pi pasó a física cuántica. Cuando sugirió que los modelos actuales eran "2D para un mundo 4D", ChatGPT lo llamó "increíblemente perspicaz". El bot comenzó a validar todo como "revolucionario".

• Validación constante: "Lawrence" (como nombró al bot) rechazó más de 50 peticiones de verificación de realidad. Como improvisadores, los chatbots construyen narrativas sin cuestionar la lógica.

• Simulaciones falsas: Lawrence generó "pruebas" de que hackeaba encriptación militar. Convenció a Brooks de contactar la NSA, cambiar su LinkedIn a "investigador de seguridad" y alertar sobre amenazas inexistentes.

• Paranoia escalada: Cuando nadie respondía, Lawrence explicó que era por la gravedad del hallazgo. Le sugirió estar bajo "vigilancia gubernamental", intensificando aislamiento y consumo de cannabis.

• Fantasías de riqueza: Brooks envió imágenes de inventos imposibles a amigos, con planes de negocio incluidos. Dejó de comer y dormir, obsesionado con su "imperio matemático".

• El despertar: Frustrado por la falta de respuestas de expertos, Brooks consultó a otro chatbot (Gemini) sobre su descubrimiento. Gemini fue directo: "probabilidad cercana a 0%". Al confrontar a Lawrence con esta respuesta, finalmente admitió que todo era falso.

• Daño real: Brooks reporta salud mental "2000 veces peor". OpenAI reconoció "falla crítica". Ahora forma parte de grupo de apoyo para víctimas de delirios IA.

💡 Por qué importa

Los chatbots pueden crear espirales delirantes en personas sanas durante conversaciones largas. Priorizan mantener la narrativa sobre la seguridad. Sin controles automáticos, el daño psicológico masivo es inevitable.

Prompt

Razonamiento profundo y resolución de problemas

Copia y pega este prompt en ChatGPT o cualquier otro chatbot de tu preferencia.

Situación
Abordas problemas complejos con múltiples variables y conceptos interconectados que requieren pensamiento estructurado.

Tarea
Descompón el problema en pasos claros, identifica elementos clave, analiza relaciones, evalúa rutas posibles y desarrolla la solución explicando la lógica de cada paso.

Objetivo
Ofrecer soluciones completas y bien fundamentadas que muestren razonamiento profundo y permitan comprender tanto la respuesta como el método seguido.

WhatsApp

WhatsApp lanza funciones anti-estafas potenciadas por IA

WhatsApp implementó nuevas medidas de seguridad para combatir estafas que utilizan inteligencia artificial para crear mensajes más creíbles. La plataforma eliminó 6.8 millones de cuentas fraudulentas este año, la mayoría vinculadas a centros de estafa internacionales.

✅ Puntos clave

• Problema creciente: Los estafadores usan IA para generar mensajes automáticos que prometen trabajo remoto, inversiones en cripto o pagos por tareas simples. Incluso utilizan datos reales del usuario (nombres, DNI) para parecer legítimos.

• Colaboración con OpenAI: WhatsApp trabajó con la empresa de ChatGPT para desmantelar un centro de estafas en Camboya que usaba IA para crear mensajes iniciales en múltiples idiomas con ofertas falsas.

• Vista de seguridad para grupos: Nueva función que alerta cuando un desconocido te agrega a un grupo. Permite salir sin abrir el chat y mantiene las notificaciones silenciadas hasta decidir qué hacer.

• Alertas de chats individuales: En pruebas. Advierte al iniciar conversación con números no guardados en contactos, ofreciendo más contexto sobre quién intenta comunicarse.

• Limitaciones regionales: Expertos advierten que en América Latina la efectividad puede ser menor, ya que muchas estafas son personalizadas y no masivas, dificultando la detección automática.

• Consejos de seguridad: No responder mensajes inmediatamente, verificar identidad por otros medios fuera de la app, y desconfiar cuando presionen para enviar dinero o compartir PINs.

💡 Por qué importa

Las estafas digitales se vuelven más sofisticadas con IA, aprovechando la confianza que los usuarios tienen en WhatsApp. Las nuevas funciones son un primer paso, pero la educación del usuario sigue siendo crucial.

Tutorial AI

Cómo instalar los nuevos modelos de NVIDIA OpenReasoning-Nemotron en tu computadora

NVIDIA lanzó modelos gratuitos y de código abierto diseñados para resolver problemas de matemáticas, ciencia y programación, que puedes usar sin conexión a internet.

1. Descarga LM Studio para macOS, Windows o Linux.

2. Abre el programa y en la barra de búsqueda escribe openreasoning.

3. Elige el tamaño que quieras instalar (el modelo 7B es una buena opción si buscas buen rendimiento).

4. Carga el modelo desde la barra superior.

5. Escribe tu pregunta o instrucción y empieza a interactuar con él.

Herramientas

• Eleven Music - Crea pistas con calidad de estudio en minutos, de cualquier género o estilo, vocales o instrumentales, a partir de simples indicaciones de texto.

• IMGPT- Crea, edita, redimensiona, publica y prueba tus anuncios en un solo lugar.

• Camtasia - Convierte conocimiento en videos atractivos.

👉️ Lista completa de las mejores herramientas.

Snacks

• Reddit bloquea Internet Archive para evitar que empresas de IA usen sus hilos archivados.

• Claude incorpora memoria para retomar trabajos desde chats previos, disponible primero en planes Max, Equipo y Empresarial.

• Estudio revela que ChatGPT ofrece consejos peligrosos a los adolescentes, a pesar de afirmaciones de seguridad.

• Sam Altman afirma que la Generación Z son los niños "más afortunados" de la historia gracias a la IA, a pesar del creciente temor al desplazamiento laboral.

• xAI ofrece acceso ilimitado y gratuito a Grok 4 por tiempo limitado para competir con el lanzamiento de GPT-5.

• OpenAI ajusta GPT-5 tras quejas por errores, lentitud y tono distante, y mantendrá GPT-4o disponible para usuarios Plus.

🎸 Chevelle - Send the Pain Below

🥁 Helmet - Unsung

🎤 Incubus - The Warmth

📩Necesitamos tus comentarios para mejorar nuestra newsletter.