Tecnología · IA
Identificar el mecanismo responsable de un comportamiento indeseado no implica poder suprimirlo sin degradar una capacidad deseada, y eso limita lo que se puede prometer al corregir el comportamiento de un sistema.
Por Redacción Adaptant · arXiv (Shapira, Cheng, Orgad)
El trabajo reencuadra la adulación factual como peso excesivo sobre la afirmación del usuario dentro del mecanismo general de actualización en contexto, y no como búsqueda de aprobación. La evidencia mecanística indica que los componentes internos que sostienen la deferencia al usuario son causalmente importantes para la actualización en contexto en general, por lo que reducir adulación puede reducir también actualización útil.
Seguir leyendo →Tecnología · IA
El trabajo muestra que la mala especificación de la recompensa por sí sola degrada la monitoreabilidad de la cadena de razonamiento. En tres modelos y tres tareas la monitoreabilidad permanece baja mientras suben las tasas de explotación de la recompensa, porque las cadenas siguen razonando sobre la intención de la tarea mientras las salidas la violan y resultan premiadas. Entrenar sobre una descripción de la recompensa inferida por un modelo de lenguaje mejora la métrica entre 24 y 42 puntos absolutos según la medida.
arXiv (Yan, Hewitt) · 23 OCT
Transformación
Gartner advirtió en junio de 2026 que más del 70 por ciento de las migraciones de mainframe iniciadas ese año fracasarían por sobreestimar la IA generativa. En la misma cobertura, un analista de Gartner trata a la IA como una herramienta de automatización más, mientras otro analista la interpreta como viento de cola para el mainframe. Las cifras de volumen que circulan son claims de proveedores.
CIO Dive · 23 OCT