La publicación de ingeniería de Cloudflare del 19 de octubre describe un esfuerzo interno para reducir el costo de su revisor de código de IA. La compañía informa una caída del 68 por ciento en el costo promedio por revisión con respecto a sus semanas más caras, junto con un tiempo medio de revisión más corto.

De dónde vinieron los ahorros

  • Cloudflare atribuye alrededor del 40 por ciento de los ahorros a cambios en el propio código del revisor.
  • El trabajo restante incluyó experimentos con la selección de modelos y cuánto esfuerzo utilizó cada modelo.
  • La publicación también describe una tasa de aciertos de caché más alta, al tiempo que señala que el total de tokens por revisión había aumentado.

Estas mediciones describen la propia carga de trabajo de Cloudflare y no predicen los costos de otra base de código. La publicación enfatiza la medición conjunta del uso de tokens, la calidad del modelo, la latencia y los niveles de revisión en lugar de optimizar un número de forma aislada.

Para los equipos que crean revisiones asistidas por IA, compare los cambios representativos antes y después de cada optimización y haga que la revisión humana sea responsable de las decisiones importantes.