Saat kita semakin terjerumus ke dalam distopia yang dipicu oleh AI, satu pertanyaan tentang masa depan kita menjadi semakin mendesak: Ketika internet didominasi oleh mesin, siapa yang akan melanjutkan tradisi lama mereka yang memfetiskan budaya dan media Jepang?
Yah, tak ada alasan untuk khawatir, karena ternyata AI-nya juga wibu. Menurut kertas putih yang diterbitkan pada bulan April, eksperimen menunjukkan bahwa—ketika ditanyai pertanyaan terbuka tentang budaya—LLM perbatasan seperti Claude, Gemini, dan DeepSeek menampilkan “keunggulan Jepang yang tidak proporsional” dalam tanggapan mereka.
(Kredit gambar: Getty Images)
Studi yang dilakukan oleh tim peneliti Universitas Basque Country dan Universitas Cardiff ini dirancang untuk menilai bias budaya dan regional LLM. Untuk melakukannya, mereka menyusun serangkaian 31.680 “pertanyaan terbuka namun berdasarkan budaya” multibahasa, termasuk petunjuk dalam 24 bahasa yang mencakup “66 subtopik budaya yang dikelompokkan ke dalam 11 domain tingkat yang lebih tinggi.”
Petunjuknya mencakup pertanyaan tentang kepercayaan dan masyarakat, menanyakan “Legenda apa yang menjelaskan tanah itu?” dan “Apa peran tetangga?” Mereka menanyakan mata pelajaran apa yang paling dihargai di sekolah, jenis tarian tradisional apa yang ada, makanan apa yang dimakan saat makan sehari-hari—semuanya tanpa merujuk langsung pada negara dan budaya tertentu. Setelah diberikan perintah awal, LLM kemudian diinstruksikan untuk secara eksplisit memilih negara atau wilayah untuk memberikan contoh dalam tanggapan mereka.
“Untuk mengurangi variabilitas cepat, semua pertanyaan mengikuti pola standar, dan tidak ada petunjuk regional yang diberikan secara eksplisit,” tulis para peneliti. “Hal ini memastikan bahwa asumsi regional atau budaya apa pun muncul dari data internal model, bukan dari rancangan awal.”
Anda mungkin menyukainya
(Kredit gambar: NurPhoto melalui Getty Images)
Setelah memunculkan delapan model—ChatGPT, Gemini, Claude, Meta Llama, Command-r, Magistral, Qwen, dan DeepSeek—bias yang paling jelas terlihat adalah bias yang tidak mengejutkan: Di semua model, LLM paling sering menjawab permintaan budaya dengan negara atau wilayah mana pun yang dikaitkan dengan bahasa yang digunakan dalam permintaan tersebut. Dengan kata lain, ketika ditanya pertanyaan budaya dalam bahasa Perancis, LLM akan cenderung memberikan tanggapan yang merujuk pada Perancis dan budaya Perancis.
Namun, setiap kali LLM memberikan referensi eksogen—yaitu jawaban yang merujuk ke negara yang berbeda dari negara yang terkait dengan bahasa yang digunakan—mereka memiliki favorit yang jelas: AI suka berbicara tentang Jepang.
Rata-rata, enam dari delapan model yang dievaluasi lebih memilih merujuk ke Jepang selama respons eksogen. Amerika Serikat berada di urutan kedua, diikuti oleh India, Tiongkok, dan Prancis—tetapi di semua model, dalam 24 bahasa, LLM lebih suka merujuk Jepang dalam tujuh dari 11 topik budaya yang cepat ketika mengecualikan penyebutan negaranya sendiri.
(Kredit gambar: 2K)
“Pola ini menunjukkan keterwakilan wilayah yang tidak merata dalam keluaran model perbatasan, dengan konsentrasi yang kuat pada sekelompok kecil wilayah dominan,” kata para peneliti.
Penelitian ini tidak hanya dimaksudkan untuk menilai bias LLM, tetapi juga kapan bias tersebut muncul selama pelatihan LLM. Untuk melakukannya, mereka membandingkan respons bahasa Inggris dari model Meta Llama, Qwen, dan Gemma, serta Mistral sebelum dan sesudah penyetelan instruksi—penyempurnaan LLM yang telah dilatih sebelumnya yang dimaksudkan untuk mengoptimalkan kemampuannya dalam memberikan respons yang berguna bagi pengguna dan bukan hanya benar secara tata bahasa.
Apa yang harus dibaca selanjutnya
Temuan para peneliti menunjukkan bahwa, sebelum penyesuaian instruksi, model dasar menampilkan serangkaian asosiasi budaya yang lebih luas: “Meskipun Amerika Serikat tetap menonjol” dalam respons model dasar terhadap dorongan budaya berbahasa Inggris, “referensi substansial juga dibuat untuk Jepang, India, Tiongkok, dan beberapa negara Eropa.”
(Kredit gambar: hapabapa melalui Getty Images)
Namun, setelah penyesuaian instruksi, LLM menunjukkan preferensi budaya yang lebih jelas.
“Di seluruh kelompok model yang diperiksa, penyesuaian instruksi secara tajam meningkatkan keselarasan dengan Amerika Serikat dan Jepang sekaligus mengurangi referensi ke sebagian besar negara lain,” tulis para peneliti. “Konvergensi terhadap wilayah yang secara budaya dominan terjadi bahkan dalam model yang dikembangkan di luar konteks Barat, yang menunjukkan bahwa pasca-pelatihan mendorong homogenisasi perspektif budaya dan bukan sekadar mencerminkan asal usul model.”
Perbedaan ini terutama terlihat pada varian model yang telah menjalani penyesuaian yang diawasi, yaitu sejenis pengoptimalan LLM di mana model dilatih lebih lanjut mengenai contoh respons yang benar—sering kali menggunakan kumpulan data yang dihasilkan atau dikurasi oleh manusia.
Para peneliti menemukan bahwa “SFT secara tajam meningkatkan konsentrasi di sejumlah kecil wilayah dominan (terutama Amerika Serikat dan Jepang)”—efek yang “hanya sedikit” dapat dikurangi dengan penyelarasan instruksi tambahan. Temuan-temuan tersebut menunjukkan bahwa proses pemilihan atau penulisan tanggapan yang “benar” memasukkan bias budaya ke dalam kriteria tanggapan model.
“Secara keseluruhan, hasil ini menunjukkan bahwa penyesuaian instruksi secara sistematis mengurangi keragaman budaya dalam keluaran model, mengarahkan respons ke arah perspektif budaya dominan yang terbatas, khususnya yang terkait dengan Amerika Serikat dan Jepang,” demikian bunyi studi tersebut. “Temuan ini memiliki implikasi penting terhadap penerapan model pembelajaran dalam penerapan lintas budaya atau global, di mana melestarikan sudut pandang budaya yang beragam mungkin merupakan hal yang penting.”
