Postingan teknik Cloudflare pada tanggal 19 Oktober menjelaskan upaya internal untuk mengurangi biaya peninjau kode AI-nya. Perusahaan ini melaporkan penurunan rata-rata biaya per ulasan sebesar 68 persen dibandingkan minggu-minggu termahalnya, serta waktu peninjauan rata-rata yang lebih singkat.
Dari mana asal tabungannya
- Cloudflare mengaitkan sekitar 40 persen penghematan dengan perubahan kode pengulas itu sendiri.
- Pekerjaan yang tersisa mencakup eksperimen dengan pemilihan model dan seberapa besar upaya yang digunakan setiap model.
- Postingan tersebut juga menjelaskan tingkat hit cache cepat yang lebih tinggi, sambil mencatat bahwa total token per ulasan telah meningkat.
Pengukuran ini menggambarkan beban kerja Cloudflare sendiri dan tidak memprediksi biaya basis kode lain. Postingan tersebut menekankan pengukuran penggunaan token, kualitas model, latensi, dan tingkat ulasan secara bersamaan daripada mengoptimalkan satu angka secara terpisah.
Untuk tim yang membuat tinjauan dengan bantuan AI, bandingkan perubahan yang representatif sebelum dan sesudah setiap pengoptimalan dan pertahankan tanggung jawab tinjauan manusia atas keputusan penting.