Log perubahan Vercel tanggal 29 Oktober menyatakan Mistral Large 4 di AI Gateway sekarang menggunakan bobot yang diperbarui dan harga yang lebih rendah untuk input, input cache, dan token output. Penelepon yang ada yang menggunakan ID model tidak perlu mengubah pengidentifikasi tersebut untuk menerima versi terbaru.
Apa yang harus diverifikasi oleh pengembang
- Bandingkan harga penyedia saat ini dan perilaku model dengan beban kerja aplikasi yang sebenarnya.
- Tinjau catatan rilis model sebelum mengandalkan perubahan pada pengkodean, penelitian, atau perilaku keselamatan.
- Pantau penggunaan token dan kualitas keluaran setelah pembaruan, terutama untuk tugas terstruktur atau konsekuensial.
Vercel menggambarkan AI Gateway sebagai rute terpadu untuk panggilan model, pelacakan penggunaan, dan kontrol seperti percobaan ulang dan perutean. Titik akhir bersama dapat menyederhanakan operasi, namun tidak menghilangkan kebutuhan untuk menguji keluaran khusus penyedia.
Perlakukan kualitas model dan angka biaya sebagai hal yang sensitif terhadap waktu. Periksa dokumentasi AI Gateway dan Mistral saat ini sebelum menetapkan anggaran atau memilih default produksi.