Jumlah makalah AI yang meledak tanpa kendali! Konferensi akademik internasional ICLR turun tangan, menertibkan pengajuan berkualitas rendah

AI penyalahgunaan melanda dunia akademik, banyak makalah dan kualitas review menurun, konten yang salah meresap ke dalam sistem penelitian, konferensi internasional segera memperketat regulasi, kepercayaan akademik sedang menghadapi ujian keruntuhan.

Gelombang AI membalikkan industri penelitian, kualitas makalah akademik menghadapi krisis keruntuhan

Dalam latar belakang perkembangan teknologi kecerdasan buatan yang pesat di seluruh dunia, komunitas penelitian AI sedang mengalami krisis kepercayaan yang belum pernah terjadi sebelumnya. Dalam beberapa tahun terakhir, sistem review di konferensi akademik terkemuka telah dibanjiri oleh banyak pengajuan berkualitas rendah, para peneliti menemukan bahwa proporsi kontribusi manusia dalam makalah dan konten peer review secara signifikan menurun. Fenomena ini menimbulkan kekhawatiran yang tidak hanya sebatas perubahan gaya penulisan, tetapi inti masalahnya terletak pada keakuratan konten. Ketika ketepatan menjadi fondasi penelitian akademik, kesalahan yang dihasilkan alat otomatisasi secara diam-diam merembes ke dalam hasil penelitian.

Peneliti dari University of California, Berkeley (UC Berkeley) Inioluwa Deborah Raji menunjukkan bahwa komunitas akademik sangat antusias terhadap transformasi AI di industri lain, ironisnya, industri tersebut justru terjebak dalam kekacauan akibat penyalahgunaan AI yang meluas.

Data menunjukkan bahwa skala krisis ini sudah mencapai tingkat peringatan. Berdasarkan laporan penelitian dari Stanford University pada Agustus 2025, dalam makalah bidang ilmu komputer, hingga 22% menunjukkan tanda penggunaan model bahasa besar (LLM). Perusahaan analisis teks baru Pangram menemukan dalam survei terhadap 50 makalah yang dipresentasikan di International Conference on Learning Representations (ICLR) 2025, sekitar 21% dari review sepenuhnya dihasilkan oleh AI, dan lebih dari separuh proses review menggunakan bantuan AI. Lebih mengejutkan lagi, sekitar 9% dari pengajuan makalah, lebih dari setengah isinya dihasilkan oleh AI.

Profesor kehormatan dari Oregon State University, Thomas G. Dietterich, mengamati bahwa volume unggahan di platform preprint terbuka arXiv juga meningkat secara signifikan, sebagian karena masuknya peneliti, tetapi dorongan dari alat AI jelas menjadi faktor utama.

Apakah mekanisme review menjadi tidak efektif? Konferensi top dunia mengambil langkah tegas untuk menertibkan

Menghadapi gelombang makalah berkualitas rendah dan review otomatis, komunitas akademik telah mencapai titik di mana tindakan harus diambil. Pada November 2024, reviewer ICLR menemukan sebuah makalah yang diduga dihasilkan oleh AI, dengan skor penilaian menempati posisi 17% teratas dari seluruh pengajuan, yang memicu keraguan besar terhadap sistem penilaian saat ini. Kemudian pada Januari 2025, perusahaan deteksi GPTZero menemukan lebih dari 100 kesalahan otomatis dalam 50 makalah yang dipresentasikan di konferensi AI top dunia NeurIPS. Kesalahan ini termasuk referensi palsu dan data grafik yang salah, yang secara serius merusak integritas penelitian.

Sebagai tanggapan, ICLR memperbarui regulasi penggunaannya: jika makalah tidak secara jujur mengungkapkan penggunaan model bahasa secara luas, akan langsung ditolak; dan reviewer yang mengirimkan review otomatis berkualitas rendah juga akan menghadapi sanksi keras berupa penolakan makalah mereka sendiri.

Profesor ilmu komputer dari UC Berkeley, Hany Farid, memperingatkan secara serius bahwa jika komunitas ilmiah terus menerbitkan makalah yang salah dan berkualitas rendah, masyarakat akan kehilangan kepercayaan dasar terhadap ilmuwan. Faktanya, kecepatan pertumbuhan jumlah makalah jauh melebihi perkembangan teknologi deteksi. Sebagai contoh, jumlah pengajuan di NeurIPS meningkat dari 9.467 pada 2020 menjadi 17.491 pada 2024, dan melonjak lagi menjadi 21.575 pada 2025. Bahkan muncul kasus ekstrem di mana satu penulis mengajukan lebih dari 100 makalah dalam satu tahun, yang jelas melampaui batas produksi normal sebagai manusia. Saat ini, komunitas akademik masih kekurangan standar identifikasi otomatis teks yang seragam, sehingga upaya pencegahan menjadi semakin sulit.

Sumber gambar: Profesor Hany Farid dari UC Berkeley

Tekanan bisnis dan polusi data, perjuangan jangka panjang komunitas penelitian

Di balik fenomena inflasi akademik ini, tersusun jaringan kompetisi bisnis yang kompleks dan pertimbangan realitas. Dengan gaji tinggi dan persaingan teknologi yang semakin ketat di industri AI, sebagian fokus industri penelitian terpaksa bergeser ke kuantitas daripada kualitas. Pemasaran berlebihan di pasar menarik banyak pihak yang mencari hasil cepat, sehingga memperlemah kedalaman akademik. Namun, para ahli menekankan pentingnya membedakan antara “penggunaan yang wajar” dan “penyalahgunaan”.

Thomas G. Dietterich menyebutkan bahwa bagi peneliti yang bukan penutur asli bahasa Inggris (seperti dari China), alat AI memang dapat membantu meningkatkan kejelasan ekspresi bahasa, dan bentuk bantuan penulisan ini secara tertentu meningkatkan efisiensi komunikasi makalah, sehingga harus dipandang sebagai penggunaan positif.

Namun, krisis yang lebih dalam adalah “polusi data” yang mengancam perkembangan AI di masa depan. Raksasa teknologi seperti Google, Anthropic, dan OpenAI sedang mendorong penggunaan model sebagai mitra penelitian di bidang ilmu kehidupan dan industri lainnya, dan model-model ini dilatih menggunakan teks akademik.

Hany Farid menyatakan bahwa jika data pelatihan dipenuhi oleh konten sintetis buatan manusia yang berlebihan, performa model akan menurun secara drastis.

Penelitian sebelumnya telah membuktikan bahwa ketika LLM diberi data otomatisasi yang tidak disaring, akhirnya model akan gagal dan menghasilkan informasi yang tidak bermakna. Kepala divisi ilmiah OpenAI, Kevin Weil, mengakui bahwa meskipun AI dapat menjadi pendorong utama percepatan penelitian, pengawasan dan pemeriksaan manusia tetap tak tergantikan, dan alat teknologi tidak akan pernah menghilangkan pentingnya sikap ketat dalam proses penelitian.

Isi artikel ini dirangkum oleh agen enkripsi dari berbagai sumber, melalui proses review dan editing oleh “Kota Enkripsi”. Saat ini masih dalam tahap pelatihan, mungkin terdapat bias logika atau kesalahan informasi, isi hanya untuk referensi, jangan dijadikan sebagai saran investasi.