Jakarta, Technologue.id — Industri kecerdasan buatan (AI) semakin agresif menyasar sektor hukum. Sepanjang tahun ini, tiga dari empat laboratorium AI terbesar dunia telah meluncurkan atau menawarkan produk yang menyasar para pengacara. Langkah ini berjalan beriringan dengan fenomena yang kontradiktif: para pengacara justru terus mendapat sanksi karena mengajukan dokumen berisi sitasi kasus fiktif.

Google menempatkan Gemini Enterprise for Legal dalam tahap pratinjau pada akhir Agustus bersama empat firma hukum terbesar dunia. Langkah itu menyusul Anthropic yang lebih dulu merilis Claude Legal Solutions tiga bulan sebelumnya. Elon Musk juga menunjukkan minat serupa lewat SpaceXAI.

Laboratorium milik Musk itu membuka halaman khusus solusi hukum di situs webnya. Dorongan ke layanan hukum ini justru menguat di tengah gelombang denda dan kecaman terhadap pengacara yang menyerahkan berkas berisi yurisprudensi palsu. Situasi ini menciptakan paradoks antara janji efisiensi dan risiko akurasi.

Pada Juni, Ontario Law Society Tribunal memerintahkan pengacara Shahryar Mazaheri membayar puluhan ribu dolar. Ia terbukti menggunakan dokumen yang disusun dengan Grok dan memuat kutipan kasus palsu. Keputusan biaya itu menetapkan Mazaheri wajib membayar 31.150 dolar.

Majelis mencatat bahwa model bahasa besar tidak memahami nuansa, tidak menjalankan penilaian, dan tidak memakai kompas moral. Model itu, menurut dokumen tribunal, sangat cenderung memberi jawaban apa pun ketimbang mengakui ketidaktahuan. Materi buatan AI milik Mazaheri pun disebut sebagai omong kosong.

Sullivan & Cromwell, firma bergengsi dengan gaji awal 225.000 dolar bagi pengacara tahun pertama, termasuk yang bersalah. Firma itu mengajukan surat darurat ke Southern District of New York pada April setelah mosi kebangkrutannya ditemukan memuat 42 fabrikasi buatan AI.

Di pengadilan Kanada saja, kasus yang dilaporkan melibatkan sitasi palsu melonjak dari tujuh pada 2024 menjadi 86 pada 2025. Sepanjang kuartal pertama 2026, tercatat 39 kasus tambahan. Basis data peneliti Damien Charlotin mendokumentasikan hampir 2.000 kasus serupa di seluruh dunia.

Angka itu melibatkan lebih dari 800 pengacara dan 1.100 pihak yang mewakili diri sendiri. Sebelum perusahaan AI besar merilis alat hukum khusus, DoNotPay lebih dulu membatalkan rencana pada awal 2023. Rencana itu hendak menghadirkan robot pengacara AI berdebat di pengadilan, tetapi asosiasi pengacara negara bagian mengancam tuntutan pidana.

Google dan Anthropic sama-sama menyiratkan bahwa produk hukum mereka dibangun untuk verifikasi. Produk Google mengarahkan kueri lewat konektor ke basis data hukum eksternal seperti Everlaw dan NetDocuments. Pendekatan itu dipilih ketimbang mengandalkan data pelatihan model secara terpisah.

CEO Google Cloud Thomas Kurian mengatakan saat peluncuran bahwa memastikan setiap aspek alur kerja agentic ini akurat, faktual, dan berpijak pada otoritas hukum adalah hal yang sangat penting. Gottlieb, Freshfields, Weil, dan Williams & Connolly terlibat dalam program pratinjau tersebut.

Anthropic mengambil pendekatan serupa lewat Claude Legal Solutions. Produk itu dilaporkan menyertakan 20 konektor ke platform hukum dan 12 plugin siap pakai. Laboratorium tersebut mengklaim skor 90,9 persen pada tolok ukur penalaran hukum BigLaw Bench untuk Opus 4.7, dengan Freshfields dan Quinn Emanuel sebagai pelanggan.

Perbedaan kunci antara produk-produk ini dan kasus Mazaheri terletak pada sumber sitasi. Alih-alih meminta model menghasilkan kutipan dari ingatan, produk tersebut menariknya dari sumber eksternal yang sudah diverifikasi. Pendekatan ini menjadi pembeda utama dalam upaya menekan risiko halusinasi.

Produk hukum bertenaga Grok milik SpaceXAI justru punya kredensial lebih tipis. Sebuah tulisan di blog Cursor menyebut Grok 4.5 cocok untuk keuangan, pekerjaan hukum, atau apa pun yang dilakukan di komputer. Namun pengumuman SpaceXAI untuk model itu hanya menyoroti coding, tugas agentic, dan pekerjaan pengetahuan.

Pengumuman tersebut tidak menyebut aplikasi hukum sama sekali. Halaman itu juga tidak mengungkap arsitektur atau mekanisme untuk melacak sitasi ke sumber primer. SpaceX resmi mengakuisisi Cursor senilai 60 miliar dolar pada 15 Agustus, membawa pemasaran hukum editor kode itu ke bawah payung Grok.

Studi Stanford RegLab pada 2024 menemukan tingkat halusinasi 17 persen dan 33 persen. Temuan itu diperoleh setelah menguji platform AI hukum khusus dari LexisNexis dan Westlaw. Belum ada audit independen serupa yang menguji alat hukum Google atau Anthropic.

Semua pengacara tetap terikat aturan asosiasi advokat yang menempatkan kewajiban verifikasi sitasi pada pengacara yang mengajukannya. Kewajiban itu berlaku terlepas dari apakah AI digunakan atau tidak. Denda 31.150 dolar untuk Mazaheri bukan dijatuhkan karena ia memakai AI, melainkan karena keluarannya tidak diperiksa menyeluruh.

Kewajiban tersebut tidak akan berubah, tak peduli seberapa cermat alat AI hukum dirancang. Sebanyak apa pun pengaman dari vendor yang disertakan, tanggung jawab akhir tetap berada di tangan manusia. Hal ini menegaskan bahwa teknologi hanya bisa menjadi alat bantu, bukan pengganti pertimbangan profesional.

Perkembangan ini juga menyoroti pentingnya kepatuhan hukum di sektor teknologi secara lebih luas. Perusahaan yang bergerak di bidang inovasi dituntut memiliki tata kelola yang kuat, seperti ditunjukkan lewat penghargaan Kepatuhan Hukum bagi perusahaan yang dinilai unggul dalam tata kelola.

Di sisi lain, kekhawatiran terhadap risiko AI tidak hanya soal sitasi palsu. Peringatan keras mengenai dampak jangka panjang AI pernah disampaikan sejumlah tokoh, termasuk seruan agar industri lebih berhati-hati terhadap potensi bahaya besar, sebagaimana dibahas dalam isu Risiko AI yang mencuat belakangan ini.

Dengan lompatan kasus sitasi palsu yang terus meningkat, pertanyaan besarnya bukan lagi apakah AI akan masuk ke ruang sidang. Pertanyaannya adalah seberapa siap para pengacara menanggung konsekuensi ketika alat itu salah. Tanpa verifikasi manusia yang ketat, janji efisiensi AI hukum berpotensi berubah menjadi malapetaka profesional.