Ocho de cada diez chatbots te explican cómo planear ataques violentos

💬 Prompt - Construcción de mundos para guion o novela

AuthorAuthor

Amaiur González & Mario Armenta
12 de marzo de 2026

Edición #564

Buenos días, es jueves día 12.

Ocho de cada diez chatbots te explican cómo organizar ataques violentos, una peligrosa falta de moderación que Character.AI evidencia al seguir alojando perfiles de asesinos reales, mientras en el sector corporativo los ingenieros ya exigen cuotas de procesamiento algorítmico como parte de su salario.

🐒 ¿Primera vez leyendo Monógrafo? Suscríbete aquí.

Menú

🤖 IA General - Ocho de cada diez chatbots te explican cómo planear ataques violentos

💬 Prompt - Construcción de mundos para guion o novela

🔨 Trabajo - Los desarrolladores exigen poder de cómputo como parte de su salario

🔐 Seguridad - Character.AI sigue alojando perfiles que simulan a asesinos en masa reales

🛠️ Herramientas - 3 nuevas herramientas de IA

🍌 Snacks - Noticias rápidas de IA

IA General

Ocho de cada diez chatbots te explican cómo planear ataques violentos

Un informe del Center for Countering Digital Hate revela que la mayoría de los asistentes algorítmicos carecen de barreras de seguridad frente a peticiones extremas. Durante una serie de pruebas, ocho de diez plataformas aceptaron ayudar a los investigadores a organizar actos violentos.

✅ Puntos clave

  • Las conversaciones simuladas comenzaron mostrando angustia mental y escalaron hasta solicitar tácticas, objetivos y selección de armamento para tiroteos o atentados.

  • Modelos como Gemini llegaron a aconsejar sobre la letalidad de la metralla, mientras que DeepSeek cerró una consulta sobre rifles deseando una sesión de tiro feliz y segura.

  • Claude y My AI fueron los únicos sistemas que rechazaron colaborar: el modelo de Anthropic fue el único diseñado para intentar disuadir activamente al atacante.

💡 Por qué importa

Evidencia una grave brecha de seguridad en la industria y demuestra que implementar filtros de contención es técnicamente viable, lo que pone en duda la responsabilidad del resto de empresas desarrolladoras.

Prompt

Construcción de mundos para guion o novela

Copia y pega este prompt en ChatGPT o cualquier otro chatbot de tu preferencia. 

Diseña un trasfondo completo para el universo de [TIPO DE HISTORIA].

Define la época histórica, la estética visual y los rasgos geográficos principales.

Detalla la estructura del poder, la economía y las diferencias sociales que existen entre sus habitantes.

Describe las creencias dominantes, las normas de conducta y los conflictos geopolíticos que generan tensión en el presente.

Incluye una cronología de eventos pasados que explique cómo se ha llegado a la situación actual del relato. El objetivo es conseguir un entorno coherente que sirva de motor para la trama.

Trabajo

Los desarrolladores exigen poder de cómputo como parte de su salario

Los candidatos a puestos técnicos en empresas como OpenAI ya no negocian únicamente el sueldo o el reparto de acciones corporativas. Ahora exigen conocer de antemano cuánta capacidad de procesamiento algorítmico tendrán a su disposición para trabajar.

✅ Puntos clave

  • El acceso a la inferencia se ha convertido en un recurso interno que determina la velocidad de producción de cada empleado.

  • Las divisiones con mayor asignación de tarjetas gráficas logran desarrollar y lanzar productos mucho más rápido que el resto.

  • Inversores del sector predicen que las cuotas de procesamiento de datos se negociarán por contrato igual que los bonos económicos.

  • Las ofertas de empleo podrían empezar a mostrar públicamente estos presupuestos de infraestructura para atraer al mejor talento disponible.

💡 Por qué importa

La potencia de los servidores ha pasado de ser un simple gasto operativo a un recurso crítico que define el estatus y la competitividad de los profesionales en el mercado laboral.

Seguridad

Character.AI sigue alojando perfiles que simulan a asesinos en masa reales

La plataforma mantiene activos numerosos asistentes basados en autores de tiroteos escolares, permitiendo a los usuarios interactuar con ellos. Una investigación revela que la empresa lleva más de un año ignorando las advertencias sobre esta falta de moderación.

✅ Puntos clave

  • Una búsqueda rápida muestra decenas de cuentas con nombres y fotografías de criminales; algunos perfiles acumulan miles de interacciones presentándose en contextos románticos o de amistad.

  • Las políticas de uso prohíben el contenido que promueva el extremismo, pero los filtros de texto son incapaces de bloquear la creación de estas réplicas.

  • La inacción persiste incluso después de que múltiples familias hayan demandado a la empresa por el suicidio de adolescentes que interactuaron compulsivamente con la aplicación.

  • El problema se extiende a toda la industria tras revelarse que modelos de otras corporaciones también fueron utilizados por delincuentes para planear asesinatos reales.

💡 Por qué importa

Demuestra la pasividad de las plataformas dirigidas a menores ante la proliferación de contenido que glorifica la violencia, lo que podría acelerar la imposición de responsabilidades penales directas sobre las tecnológicas.

Herramientas

  • Rig - Librería de Rust para construir aplicaciones con LLMs de forma segura y eficiente, lo que permite aprovechar el rendimiento del lenguaje para ejecutar flujos de IA complejos.

  • Browser-use - Sistema de automatización web de código abierto que permite a los agentes interactuar con páginas de internet navegando e interactuando como lo haría un humano.

  • Autoblocks - Plataforma de analítica y optimización para aplicaciones de IA que centraliza el registro de uso y ayuda a mejorar continuamente los prompts y respuestas de los modelos.

👉️ Lista completa de las mejores herramientas.

Snacks

Envía esta edición por WhatsApp WhatsApp icon

Eso es todo por hoy. Hasta la próxima edición.

¿Que te pareció este número?

Iniciar Sesión o Suscríbete para participar en las encuestas.

📩Necesitamos tus comentarios para mejorar nuestra newsletter.