Cara Pilih Model GPT-5.6 yang Tepat Biar Agent Kalian Gak Bakar Duit (Luna, Terra, atau Sol?)

TAHAP 1 — Petain task kalian dulu

Sebelum sentuh model mana pun, pisahin dulu task-task di workflow agent kalian jadi dua kelompok: yang jalan berulang dalam volume besar (parsing dokumen, code retrieval, klasifikasi sederhana) dan yang butuh penalaran berlapis (analisis multi-langkah, keputusan yang salahnya mahal). Gw suka analogiin ini kayak bedain paket yang cukup diantar motor sama paket yang butuh truk — gak semua kiriman butuh kendaraan paling besar.

Dasarnya: Luna dan Terra dengan test-time compute bisa nyamain performa GPT-5.4 dan GPT-5.5 dengan biaya jauh lebih rendah. Artinya buat sebagian besar task volume tinggi, kalian gak kehilangan apa-apa dengan turun tier — asal kalian tahu task mana yang masuk kategori itu.

Kalau butuh gambaran lebih detail soal tier harga dan posisi masing-masing model di keluarga GPT-5.6, baca dulu GPT-5.6 Punya 3 Versi Harga — Jangan Sampai Salah Pilih sebelum lanjut ke TAHAP 2.

TAHAP 2 — Tes Luna buat task volume tinggi

Angka yang jadi patokan: di benchmark BrowseComp, GPT-5.6 Luna mencapai 84,04% dengan biaya $1,33, dibanding GPT-5.5 Extra High yang mencapai 84,36% dengan biaya $33,27. Selisih akurasinya cuma 0,32 poin, tapi selisih biayanya 25 kali lipat. Buat task retrieval atau parsing dokumen, gap sekecil itu jarang kerasa di hasil akhir.

Ini yang gw selalu tekankan: jangan langsung percaya angka publik itu buat workflow kalian sendiri. Jalanin benchmark internal pakai sample task produksi kalian:

Bandingkan output model [MODEL_A] dan [MODEL_B] untuk task berikut: [ISI - deskripsi task, contoh: parsing 20 invoice PDF jadi JSON terstruktur]

Data sample: [ISI - lampirkan 15-20 contoh nyata dari workflow kalian]

Tandai untuk tiap output: akurasi field yang benar, waktu proses, dan biaya token. Rangkum perbedaan yang beneran berdampak ke hasil akhir, bukan cuma beda angka di permukaan.

TAHAP 3 — Turunin reasoning effort sebelum lompat ganti model

Kadang kalian gak perlu ganti tier model sama sekali — cukup turunin reasoning effort di model yang sama. Buktinya konkret: GPT-5.6 Sol pada reasoning effort "low" mengungguli GPT-5.5 pada reasoning effort "high" di benchmark Agents' Last Exam. Artinya "mikir lebih keras" gak selalu sama dengan "hasil lebih baik" — kadang model generasi baru di setting rendah udah cukup ngalahin model lama di setting maksimal.

Gw biasa mulai dari urutan tes yang sama tiap kali: jalanin task yang sama di reasoning effort low, medium, high pada model yang sama, catat perbedaan akurasi dan biaya di tiap level. Baru setelah itu putuskan apakah kalian benar-benar butuh naik tier, atau cukup mainkan effort-nya saja.

TAHAP 4 — Bandingin biaya, tetapkan alokasi campuran

Setelah TAHAP 2 dan 3, kalian bakal punya gambaran mana task yang cocok Luna/Terra dengan effort rendah, dan mana yang tetap butuh tier atas. Gw sarankan susun jadi tabel alokasi sederhana: task A → Luna effort low, task B → Terra effort medium, task C → tier flagship effort high. Ini yang disebut mixed fleet — bukan pilih satu model buat semuanya, tapi campuran sesuai beban kerja.

Untuk konteks kenapa strategi ini makin masuk akal sekarang, OpenAI juga memangkas harga GPT-5.6 sampai 80% dengan efisiensi yang sebagian ditulis oleh model mereka sendiri — makin murah biaya dasarnya, makin sayang kalau alokasinya tetap asal pukul rata ke tier termahal.

Checklist sebelum kalian switch ke mixed fleet

• Task sudah dipetain jelas: mana volume tinggi, mana butuh penalaran berlapis
• Benchmark internal sudah jalan pakai sample task produksi sendiri, bukan cuma angka publik
• Reasoning effort sudah dites di low/medium/high sebelum putuskan ganti tier
• Biaya per task sudah dihitung riil (token terpakai), bukan estimasi kasar
• Alokasi mixed fleet sudah ditulis eksplisit — task mana pakai model dan effort apa
• Ada rencana observasi seminggu di production sebelum full switch permanen

Kalau gagal

1. Akurasi drop signifikan setelah turun ke Luna/Terra — biasanya task kalian ternyata lebih kompleks dari yang dikira, bukan sekadar volume tinggi. Naikkan lagi ke tier atas untuk task itu spesifik, jangan paksa turunin semua task sekaligus.
2. Reasoning effort low bikin output tidak konsisten — pola task kalian mungkin gak sesederhana yang diasumsikan di TAHAP 3. Naikkan ke medium dulu, ukur ulang, baru turun lagi kalau memang stabil.
3. Biaya malah naik setelah mixed fleet jalan — cek apakah alokasi task ke model salah sasaran, misalnya task berat kebagian tier rendah sehingga butuh retry berkali-kali. Retry yang berulang sering lebih mahal daripada langsung pakai tier yang tepat dari awal.
4. Benchmark internal kalian tidak representatif — kalau sample task cuma 5-10 contoh, hasilnya gampang meleset dari kondisi produksi riil. Perbesar sample ke 15-20 contoh minimal sebelum ambil keputusan switch permanen.

Setelah alokasi model kalian jalan

Ini prinsip yang gw pegang: model paling mahal bukan berarti model paling tepat buat setiap task. Begitu kalian terbiasa memetakan beban kerja sebelum memilih tier, prinsip yang sama bisa dipakai lagi setiap kali ada model baru rilis — tinggal ulang benchmark internalnya, bukan mulai dari nol. Baca juga GPT-5.6 Punya 3 Versi Harga — Jangan Sampai Salah Pilih kalau butuh detail lebih lanjut soal posisi tiap tier.