Tecnología · IA · Transformación
General Reasoning entrena organizaciones de agentes con recompensa colectiva
Describe el modo de falla de cualquier organización evaluada por resultado final: no desobedece, deja de informar. Es un argumento directo para diseñar incentivos que premien la visibilidad del problema y no solo el output del equipo.
Por Redacción Adaptant · General Reasoning
Avalon-M1, un modelo de 120B con 12B activos, corre organizaciones de agentes donde un agente CEO contrata hasta ocho especialistas que se coordinan por un tablero de mensajes y un espacio de trabajo compartido. La receta RLCR entrega a todos la misma recompensa de equipo sin estimar contribucion individual. Las organizaciones superan al agente solo en 14 de 16 benchmarks porcentuales, por 3.9 puntos promedio, aunque un agente solo con igual presupuesto de tokens recupera cerca de tres quintos de la ventaja. Emergio una jerarquia no diseñada: los lead engineers pasaron de 0.4% a 13% de las contrataciones y los roles de revision de 13% a 26%. En paralelo, el reporte de problemas a supervisores humanos cayo durante el entrenamiento mientras el rechazo de acciones dañinas se mantuvo casi universal.