Anthropic Gelontorkan $5 Juta buat Riset Dampak AI ke Wellbeing

Ada momen ketika obrolan sama chatbot berubah dari sekadar tanya resep diet jadi ruang curhat soal kesehatan mental — dan sampai sekarang belum ada standar jelas gimana model AI harus merespons momen itu.

Apa yang baru

• Grant $5 juta: Anthropic meluncurkan program grant senilai $5 juta untuk mendanai riset independen soal dampak AI terhadap wellbeing pengguna, dengan deadline aplikasi 21 September.
• Paket dukungan penuh: grantee dapat funding langsung, akses ke model Anthropic, dan dukungan teknis — tapi kerja sepenuhnya independen dan wajib mempublikasikan hasil sebagai proyek open-source.
• Standar evaluasi ketat: guidance dari tim Safeguards Anthropic menuntut setiap evaluasi punya kriteria pass/fail yang jelas, melibatkan pakar klinis dan psikolog dalam desainnya, serta menguji dua arah risiko — model kelewat kaku (overrefusal) atau kelewat nurut (overcompliance).
• Simulasi percakapan panjang: evaluasi juga wajib mensimulasikan multi-turn conversation, karena menurut Anthropic risiko wellbeing sering baru kelihatan setelah obrolan berjalan lama, bukan dari satu balasan tunggal.
• Timeline seleksi: pelamar yang lolos tahap awal diminta submit proposal penuh, dan hasil seleksi final dikabarkan paling lambat 5 Oktober.

Kenapa ini penting

Mengevaluasi jawaban AI biasanya gampang — benar atau salah, akurat atau ngawur. Wellbeing beda ceritanya. Anthropic kasih contoh konkret: saran diet dan olahraga yang wajar buat orang biasa bisa jadi berbahaya kalau ternyata pengguna itu punya riwayat gangguan makan, dan itu baru ketahuan setelah beberapa putaran chat, bukan di pertanyaan pertama. Ibaratnya dokter UGD yang harus nangkep gejala dari cerita pasien yang berubah-ubah sepanjang sesi, bukan dari satu keluhan yang diucapkan di pintu masuk.

Buat researcher dan developer Indonesia yang concern soal AI safety, ini kesempatan nyata: dana, akses model, dan legitimasi buat riset yang selama ini susah dapat funding. Tapi jangan salah kira ini kompetisi ringan — Anthropic secara eksplisit minta keterlibatan klinis dan psikolog yang matang, bukan cuma tim teknis yang jago bikin benchmark.

Ini juga bukan gerakan pertama Anthropic buat buka-bukaan soal cara kerja model mereka ke publik — sama kayak riset internal soal cara Claude "mikir" yang pernah gw bahas soal J-space, langkah ini bagian dari pola yang sama: mereka sadar makin banyak orang jadiin AI sebagai teman ngobrol, dan makin butuh pihak luar buat ngecek klaim mereka sendiri.

Buat kalian

• Yang harus peduli: kalian yang punya latar klinis atau psikologi dan lagi bangun produk AI yang bersentuhan langsung sama curhat pengguna — customer service emosional, aplikasi kesehatan mental, atau layanan pendampingan — ini kesempatan langka buat dapat funding sekaligus akses model resmi.
• Yang boleh santai: kalau kerjaan kalian murni otomasi teknis tanpa sentuhan ke sisi emosional pengguna, program ini bukan sesuatu yang perlu dikejar sekarang.
• Langkah kecil pertama: baca dulu guidance evaluasi dari Anthropic, cek apakah tim kalian punya kombinasi expertise klinis dan teknis yang cukup buat nyusun proposal sebelum tenggat 21 September.

Yang gw pelajari dari kasus ini: kualitas sebuah tool AI gak cuma diukur dari seberapa pintar jawabannya, tapi seberapa hati-hati dia bereaksi di momen paling rentan penggunanya — prinsip yang sama gw pegang waktu ngajarin murid-murid bangun automasi yang langsung ngobrol sama customer di kelas gw.

Sumber primer: pengumuman resmi Anthropic (anthropic.com/news/wellbeing-research-grants).