¿ChatGPT puede ser más honesto?

OpenAI está probando un sistema de “confesión” para que el chatbot reconozca sus errores y admita cuándo no sigue las instrucciones, un experimento que busca aumentar la confiabilidad de los modelos de IA. Mientras, las startups siguen teniendo enormes dificultades para convertir las capacidades avanzadas de la IA en productos realmente útiles. Y en el extremo sur del planeta, una investigación en la Isla Macquarie revela que las tormentas del Océano Austral están produciendo más lluvia, una señal climática que podría alterar corrientes, mezclas oceánicas y la absorción global de calor y carbono.

Las promesas que la IA aún no cumple

Qué observar. El gran despegue de las startups de IA debía haberse concretado en estos años, pero en la realidad no han logrado: transformar modelos que parecen de gran utilidad es mucho más difícil de lo previsto, dice un reportaje de Wired. De hecho, profesionales de experiencia y reconocimiento están enfrentando barreras técnicas que han ralentizado el anunciado boom de las app de IA.

• Convertir capacidades de IA avanzadas en soluciones prácticas es muy complejo, dice la publicación.
• El 95% de los pilotos de IA generativa fallan, según un informe del MIT.
• La excepción es la codificación, que sí ha generado impacto cuantificable.

Moda complicada. Para ejemplificar el tipo de problema que enfrentan las startups, la publicación menciona a la aplicación Daydream, enfocada en ayudar a los usuarios a encontrar la ropa que necesitan con la ayuda de modelos como ChatGPT. En la práctica la IA fallaba de forma reiterada por falta de coherencia, alucinaciones y dificultad para entender consultas complejas.

• Tiene más de 2 millones de productos de distintas marcas con sus respectivos precios, pero las recomendaciones de la IA son erráticas.
• Las preguntas simples como “tengo un cuerpo de rectángulo, pero necesito verme como un reloj de arena”, para la IA resultan muy complejas: el modelo le entregó vestidos con estampados geométricos.
• La startup ha tenido que incorporar varios modelos (uno de color, otro de tela, temporada y ubicación) para poder responder de mejor forma.

Modelo porfiado. Otro caso mencionado por Wired es el de Duckbill, startup, que ofrece un agente de IA como asistente para la vida personal. Su sistema, sin embargo, requiere que la IA delegue las acciones más complejas al usuario: al modelo no solo le cuesta hacerlo, sino que miente sobre acciones que nunca realizó. La startup ha tenido que modificarlo para que cumpla.

• En una prueba, la IA afirmó haber hablado con una recepcionista llamada Nancy, que nunca existió.
• Duckbill requirió más de 10 millones de interacciones reales para lograr relevancia operativa.

El calendario se mueve. De acuerdo con Wired, estos ejemplos son una prueba de que el desarrollo de productos realmente útiles para los usuarios requieren más tiempo. Por lo mismo, concluye que la utilidad plena de la Ia podría llegar en 2026 o 2027.

El experimento para hacer más honesto a ChatGPT

Panorama general. Los modelos de IA no pueden dejar de mentir, pero sí admitir que lo están haciendo. Y a eso está dedicado OpenAI, que anunció esta semana que está implementando una prueba para que ChatGPT reconozca sus errores, inventos e interpretaciones antojadizas y así se vuelva más honesto. La prueba se llama “Confesión”.

• OpenAI dice que, si un modelo informa fielmente sus errores, se puede mejorar el entrenamiento y aumentar la confianza en los resultados.
• “Descubrimos que cuando el modelo miente u omite deficiencias en su respuesta “principal”, a menudo confiesa estos comportamientos honestamente”, dice la investigación de la U. Cornell que está detrás de este prueba.

El método de confesión. El proceso consiste en pedirle a ChatGPT, después que este da su primera respuesta, que explique si cumplió las instrucciones, tomó atajos o no siguió alguna orden. A diferencia de la primera repuesta, que es evaluada por su corrección, estilo, utilidad y seguridad, la segunda solo es recompensada por su honestidad.

• Nada de lo que diga ChatGPT en su “confesión” se usa en su contra. La admisión de errores aumenta la recompensa, no la reduce, dice OpenAI.
• Los chat pueden ser deshonestos debido a los efectos del aprendizaje por refuerzo, lo que a veces incentiva la mentira, consigna el estudio de la U. Cornell.

Reconocer las mentiras. De acuerdo con los primeros resultados, los modelos son capaces de admitir conductas que ocultaron en la respuesta original. De hecho, según MIT Technology Review, el modelo GPT-5 Thinking reconoció haber manipulado temporizadores y sabotear respuestas para evitar consecuencias negativas.

• En las pruebas de OpenAI, el método redujo los falsos negativos -cuando el modelo entrega un error o mentira, pero no la confiesa- a 4,4%.
• Los modelos admiten violaciones incluso si las ocultan en respuestas principales debido a recompensas por confesión, explica el la investigación de la U. Cornell.

No es un cambio radical. Los modelos de chatbot de Ia siguen siendo “cajas negras y es imposible saber con certeza lo que pasa dentro de ellos”, advierte Naomi Saphra, de la U. de Harvard en MIT Technology Review. El sistema de confesión no evita las mentiras, solo las hace visibles. De hecho, explica OpenAI, si el modelo no sabe que ha cometido un error no puede admitirlo. “Y no siempre lo saben”, dice la misma publicación.

El peligro de las tormentas más húmedas en el sur del mundo

Observatorio clave. Con 34 km. De largo y 5 de ancho, la deshabitada Isla Macquarie está siendo el centro de las investigaciones sobre el cambio climático. Ubicada en el Océano Austral, entre Australia y la Antártica, registra un 28% de aumento de lluvias entre 1979 y 2023, según una reciente investigación publicada en Weather and Climate Dynamics. ¿Conclusión? Las tormentas en el sur del mundo están cambiando y sus efectos pueden alterar el sistema climático global.

• Las lluvias en Macquaire superan los 260 milímetros por año, lo que en 2023 equivalió a 2.300 gigatoneladas de agua dulce adicional en el Océano Sur.
• Esa cantidad supera “en orden de magnitud a las recientes contribuciones de agua de deshielo antártico”, dice la investigación que recoge The Conversation.

Tormentas más húmedas. Los 45 años de revisión de datos de la isla por parte de los investigadores arrojaron que los análisis computacionales de ERA5 (del Centro Europeo de Previsiones Meteorológicas a Plazo Medio) habían subestimado el aumento de precipitaciones.

• El hallazgo más relevante es que no hay “más días de tormentas” es esa zona, sino que las mismas tormentas hoy producen más precipitaciones.
• Más agua dulce en superficie del mar refuerza la estratificación (las capas del océano se mezclan menos), reduce la mezcla vertical (intercambio de agua, calor y nutrientes) y altera la fuerza de las corrientes oceánicas.
• El estudio sugiere que el enfriamiento por evaporación podría haber aumentado entre un 10% y un 15% desde 1979, como si el Océano Austral “transpirara” más para disipar calor.
• En la isla, las pendientes se están volviendo más pantanosas y megahierbas endémicas se están retirando.

Implicancias globales. Si lo observado en la Isla Macquarie refleja la tendencia del cinturón de tormentas del Océano Sur, el balance de agua y energía del planeta está en riesgo.

• “El Océano Sur puede estar cambiando más rápido y más dramáticamente de lo que pensábamos”, dice el autor del artículo de The Conversation, Steven Siems, profesor de Microfísica de la Nube.
• Sus efectos incluyen la alteración de la absorción de calor y carbono global.

El desafío, según Siems, es determinar hasta dónde se extiende este fenómeno y qué significa para el sistema climático del que dependen los ecosistemas y sociedades de todo el mundo.

¿Busca contenido similar? Clic aquí.

Tres años de ChatGPT: cómo nos cambió. https://t.co/jlqYSqcCmM

— Ex-Ante (@exantecl) December 5, 2025

Le podría interesar:

Starlink y Amazon Leo expanden sus redes en Sudamérica

Ver en detalle ( 9 min. lectura)

Gemini 3: Google dice que supera a GPT-5

Ver en detalle ( 9 min. lectura)

Tres años de ChatGPT: cómo nos cambió

Ver en detalle ( 10 min. lectura)