OpenAI explica por qué los chatbots inventan respuestas

Suscríbete | Herramientas 

Edición #461

Buenos días, es miércoles 10 de septiembre.

OpenAI revela por qué los chatbots alucinan. Además, Claude ya puede crear hojas de cálculo. Por otra parte, la nueva herramienta de IA de Harvard podría identificar tratamientos para el Parkinson y el Alzheimer.

🐒 ¿Primera vez leyendo Monógrafo? Suscríbete aquí.

Menú

🤖 OpenAI - Por qué los chatbots inventan respuestas

💬 Prompt - Siete visiones para un mismo curso

🖊️ Anthropic - Claude ahora crea hojas de cálculo, presentaciones y documentos por ti

🧠 Tutorial AI - Cómo obtener mejores resultados al generar y editar imágenes en Gemini

🥼 IA y Ciencia - Harvard crea IA para enfermedades neurodegenerativas

🛠️ Herramientas - 3 nuevas herramientas de IA

🍌 Snacks - Noticias rápidas de IA

OpenAI

Por qué los chatbots inventan respuestas

OpenAI publicó un estudio que revela que los modelos alucinan porque el entrenamiento los recompensa por adivinar con confianza en lugar de reconocer dudas.

✅ Puntos clave

• Causa principal: Los sistemas reciben puntos completos por respuestas acertadas aunque sean conjeturas, pero cero si dicen “no sé”.

• Consecuencia: Esto los entrena a responder siempre, incluso cuando no tienen certeza, reforzando errores.

• Aportes del estudio: Se probó que los modelos cambian sus respuestas inventadas, confirmando que no saben, pero son entrenados para sonar seguros. Además, al ajustar la métrica de entrenamiento para castigar errores confiados más que las dudas, los modelos redujeron alucinaciones sin perder precisión general.

• Solución propuesta: Rediseñar las métricas de evaluación para premiar la honestidad y castigar la seguridad falsa.

💡 Por qué importa

Los resultados indican que las alucinaciones de la IA pueden reducirse desde el entrenamiento. Si se premia la precisión por encima de las respuestas al azar, surgirán modelos que acepten sus límites y ofrezcan mayor fiabilidad en tareas críticas.

Prompt

Siete visiones para un mismo curso

Copia y pega este prompt en ChatGPT o cualquier otro chatbot de tu preferencia.

Imagina siete perfiles radicalmente distintos enseñando el mismo curso sobre [X]. Para cada docente, dame tres puntos claros que resuman los aprendizajes inesperados y únicos que priorizaría en su versión. Asegúrate de que cada enfoque contraste con los demás, mostrando perspectivas sorprendentes y resultados de aprendizaje poco convencionales.

Anthropic

Claude ahora crea hojas de cálculo, presentaciones y documentos por ti

Anthropic anunció que Claude ya puede generar archivos completos como Excel, PowerPoint, Word y PDF directamente desde el chat, sin necesidad de programas externos.

✅ Puntos clave

• Quiénes lo tienen: La función está disponible en fase preliminar para suscriptores de Claude Max, Team y Enterprise, y llegará pronto a los usuarios de Claude Pro.

• Cómo funciona: Claude accede a un entorno informático privado donde escribe código y ejecuta programas para producir los archivos solicitados, listos para usar o editar.

• IA agentic: Este avance refleja el concepto de IA con “razonamiento” y capacidad de ejecutar tareas de varios pasos, conectándose con otras aplicaciones.

• Competencia en movimiento: OpenAI, Google y startups como Perplexity también exploran agentes que navegan la web, organizan información o realizan compras en línea.

💡 Por qué importa

Claude ya no se limita a responder consultas: puede generar y editar archivos (hojas de cálculo, presentaciones, documentos de texto y PDF), asumiendo tareas rutinarias y propensas a errores.

Tutorial AI

Cómo obtener mejores resultados al generar y editar imágenes en Gemini

Gemini mejora la consistencia de personajes, las ediciones precisas y la composición creativa. Sigue estos pasos para prompts más efectivos.

1. Define el prompt con seis elementos: sujeto, composición, acción, ubicación, estilo y edición. Ejemplo: “Retrato medio de un panadero con delantal rojo, horneando en cocina rústica, estilo óleo realista”.

2. Mantén personajes consistentes: primero describe al personaje con detalle; después pide “muestra al mismo personaje” en nuevas escenas (p. ej., “el mismo panadero en una feria nocturna”).

3. Haz ediciones locales claras: “cambia la chaqueta a verde”, “quita el cartel del fondo”, “añade una taza en la mesa”, sin re-generar toda la imagen.

4. Fusiona conceptos: combina ideas y entornos distintos, como “un astronauta leyendo en una biblioteca submarina”.

5. Aplica estilos y apariencias: solicita “versión en acuarela suave” o “boceto isométrico en blanco y negro” para transformar la estética manteniendo el sujeto.

6. Usa razonamiento y secuencias: pide variaciones que impliquen lógica del mundo real, por ejemplo “muestra qué pasa si el café se derrama al tropezar”.

7. Itera y ten en cuenta límites: si el texto sale extraño, el estilo es inconsistente o el formato no respeta el aspecto, ajusta el prompt y vuelve a generar.

IA y Ciencia

Harvard crea IA para enfermedades neurodegenerativas

Investigadores de Harvard Medical School lanzaron PDGrapher, una herramienta de inteligencia artificial que predice combinaciones de genes y fármacos capaces de devolver a las células su estado saludable.

✅ Puntos clave

• Enfermedades objetivo: El sistema apunta a males complejos como Parkinson, Alzheimer y trastornos raros como la Distrofia-Parkinsonismo ligada al cromosoma X.

• Cómo funciona: A diferencia de otros programas que solo detectan correlaciones, PDGrapher también explica cómo y por qué una combinación podría funcionar, lo que acelera la investigación y reduce costos.

• Impacto en la medicina: Podría marcar el inicio de terapias personalizadas, alejándose de tratamientos “para todos” y acercándose a soluciones hechas a la medida de cada paciente.

• Tendencia más amplia: Se suma a avances como AlphaFold de Google DeepMind y los modelos de descubrimiento de fármacos de Insilico, en una ola que busca que la IA resuelva cuellos de botella históricos en biotecnología.

💡 Por qué importa

PDGrapher podría acortar años de ensayo y error al predecir qué combinaciones de genes y fármacos pueden “resucitar” células enfermas, acelerando el camino hacia terapias personalizadas para Parkinson, Alzheimer y otras dolencias hoy sin cura.

Herramientas

• Ghost - Editor de diapositivas nativo de IA que te ayuda a pasar de la idea a la presentación en minutos.

• Bhava - Generador de diagramas.

• NoteWave - Transcribe tus reuniones con un asistente de IA.

👉️ Lista completa de las mejores herramientas.

Snacks

• Apple presentó los iPhone 17 sin avances notables en IA generativa, quedando rezagada frente a Google y su ecosistema Pixel.

• Microsoft reducirá su dependencia de OpenAI comprando IA a su rival Anthropic.

• Google actualizó Veo 3 y Veo 3 Fast con soporte para video vertical 9:16 y resolución 1080p, facilitando contenido para móviles y redes sociales.

• Coursera pronto tendrá IA Personas para ayudarte a practicar para una entrevista de trabajo.

• El hospital St. Francis en Topeka implementó IA de Eon para detectar nódulos pulmonares y mejorar la atención temprana del cáncer de pulmón.

• Nvidia presenta Rubin CPX, la primera de una nueva clase de GPU con IA.

• Emiratos Árabes Unidos lanza un modelo de IA pequeño pero potente.

• Firefox añadió resúmenes con IA en iOS: basta agitar el iPhone o tocar un ícono para obtener un resumen de páginas de hasta 5.000 palabras.

🎸 Viagra Boys - Waterboy

🥁 Lambrini Girls - Love

🎤 Wunderhouse - Midas

📩Necesitamos tus comentarios para mejorar nuestra newsletter.