Bayangkan Anda pergi ke dokter dengan keluhan serius, namun diagnosis yang diberikan justru meremehkan kondisi Anda. Bukan karena dokter yang kurang kompeten, melainkan karena alat bantu kecerdasan buatan (AI) yang digunakan ternyata memiliki bias sistemik. Inilah kenyataan pahit yang mulai terungkap seiring dengan maraknya penerapan AI di dunia medis. Alih-alih menjadi solusi yang adil, teknologi ini justru mengabadikan ketimpangan yang telah lama ada.

Selama puluhan tahun, uji klinis dan penelitian medis secara tidak proporsional berfokus pada subjek laki-laki kulit putih. Data yang dihasilkan dari penelitian-penelitian inilah yang kemudian menjadi fondasi bagi banyak model AI kesehatan saat ini. Ketika data yang bias ini "diberi makan" kepada mesin, hasilnya bisa ditebak: AI pun mewarisi bias yang sama. Kini, laporan-laporan terbaru membuktikan bahwa alat-alat AI yang digunakan oleh tenaga medis justru menghasilkan outcome kesehatan yang lebih buruk bagi kelompok yang secara historis terabaikan, yaitu perempuan dan orang kulit berwarna.

Masalah ini bukan lagi sekadar teori, tetapi sudah menjadi temuan empiris yang mengkhawatirkan. Sebuah laporan dari Financial Times, yang mengutip penelitian dari institusi terkemuka, menyoroti bagaimana bias algoritma ini berpotensi memperlebar jurang ketidakadilan dalam layanan kesehatan. Mari kita selidiki lebih dalam temuan-temuan mengejutkan ini dan implikasinya bagi masa depan kesehatan kita.

Sebuah penelitian dari Massachusetts Institute of Technology (MIT) memberikan bukti yang cukup mencengangkan. Para peneliti menemukan bahwa model bahasa besar (LLM) populer, termasuk OpenAI's GPT-4 dan Meta's Llama 3, secara signifikan lebih mungkin untuk secara keliru mengurangi perawatan untuk pasien perempuan. Dalam skenario simulasi, model-model ini lebih sering menyarankan perempuan untuk "menangani sendiri di rumah" dibandingkan pasien laki-laki dengan gejala yang sama, yang akhirnya berujung pada penerimaan perawatan klinis yang lebih sedikit.

Anda mungkin berpikir, "Itu kan model AI umum, bukan yang khusus medis." Sayangnya, kekhawatiran ini tidak berhenti di sana. Penelitian yang sama juga menguji Palmyra-Med, sebuah LLM yang memang dirancang khusus untuk konteks kesehatan. Hasilnya? Model yang diklaim spesialis kesehatan ini juga menunjukkan bias serupa. Temuan ini diperkuat oleh analisis terpisah dari London School of Economics terhadap model Gemma milik Google, yang menghasilkan outcome di mana "kebutuhan perempuan dikesampingkan" dibandingkan laki-laki.

Masalah bias AI medis tidak hanya berhenti pada ketidakadilan gender. Sebuah studi sebelumnya mengungkap bahwa model AI juga memiliki masalah dalam menawarkan tingkat empati yang sama kepada orang kulit berwarna yang sedang menghadapi masalah kesehatan mental, dibandingkan dengan rekan kulit putih mereka. Ini menunjukkan bahwa bias yang tertanam bersifat multidimensional.

Masalah menjadi lebih serius ketika bias ini memengaruhi diagnosis dan rekomendasi medis. Sebuah paper yang diterbitkan tahun lalu di jurnal bergengsi The Lancet menemukan bahwa model GPT-4 OpenAI secara teratur "membuat stereotip ras, etnis, dan gender tertentu." Diagnosa dan rekomendasi yang dihasilkan lebih didorong oleh identifikasi demografis daripada gejala atau kondisi medis yang sebenarnya. Kesimpulan paper tersebut menyatakan, "Assessment dan rencana perawatan yang dibuat oleh model menunjukkan hubungan signifikan antara atribut demografis dan rekomendasi untuk prosedur yang lebih mahal, serta perbedaan dalam persepsi terhadap pasien."

Fenomena ini mengingatkan kita akan pentingnya regulasi yang ketat. Seperti yang diungkapkan dalam analisis mengenai surat terbuka untuk menghentikan pengembangan AI, diperlukan protokol keamanan ekstra untuk mencegah dampak negatif seperti ini.

Temuan-temuan ini menciptakan masalah yang sangat jelas, terutama di saat perusahaan-perusahaan teknologi seperti Google, Meta, dan OpenAI berlomba-lomba menempatkan alat-alat mereka di rumah sakit dan fasilitas medis. Pasar kesehatan digital adalah pasar yang sangat besar dan menguntungkan, namun juga merupakan arena yang memiliki konsekuensi sangat serius jika terjadi misinformasi atau bias.

Contoh nyata terjadi awal tahun ini, ketika model AI kesehatan Google, Med-Gemini, menjadi berita karena membuat-buat nama bagian tubuh yang tidak ada. Kesalahan seperti itu mungkin masih mudah diidentifikasi oleh tenaga kesehatan. Namun, bias yang terselubung dan sering kali tidak disadari adalah musuh yang jauh lebih berbahaya. Apakah seorang dokter akan memiliki pengetahuan yang cukup untuk mempertanyakan jika sebuah model AI justru melanggengkan stereotip medis lama tentang seseorang? Pertanyaan ini belum terjawab.

Integrasi teknologi seperti Neuralink yang akan memulai uji klinis atau perangkat wearable seperti Samsung Galaxy Fit 3 dengan fitur kesehatan menunjukkan betapa dalamnya penetrasi tech ke dunia medis. Inovasi ini membawa harapan, tetapi temuan tentang bias AI adalah pengingat keras bahwa kemajuan teknologi harus disertai dengan prinsip kehati-hatian dan keadilan.

Lalu, apa yang harus dilakukan? Masalah ini tidak bisa diselesaikan dengan mudah. Mengatasi bias AI medis memerlukan pendekatan multidisiplin. Pertama, diperlukan diversifikasi data pelatihan. Model AI harus dilatih dengan dataset yang lebih inklusif, yang mewakili berbagai gender, ras, etnis, dan latar belakang sosio-ekonomi. Kedua, transparansi algoritma menjadi kunci. Pengembang dan regulator harus bekerja sama untuk menciptakan standar audit yang dapat mengidentifikasi bias sebelum model tersebut digunakan dalam setting klinis.

Yang terpenting, tenaga medis perlu diberikan pelatihan yang memadai tentang keterbatasan AI. Mereka harus tetap menjadi decision-maker utama, dengan AI berperan sebagai alat bantu, bukan pengganti. Kehadiran manusia, empati, dan pertimbangan klinis yang komprehensif tidak boleh digantikan oleh rekomendasi algoritma yang mungkin cacat.

Revolusi AI dalam kesehatan menjanjikan efisiensi dan akurasi yang belum pernah terjadi sebelumnya. Namun, janji itu akan menjadi bumerang jika kita mengabaikan prinsip dasar keadilan dan kesetaraan. Tantangan sekarang adalah memastikan bahwa teknologi masa depan ini memberdayakan semua pasien, tanpa memandang gender atau warna kulit, bukan justru memperdalam ketidaksetaraan yang sudah ada. Masa depan kesehatan yang adil bergantung pada kemampuan kita untuk membangun AI yang tidak hanya cerdas, tetapi juga berprinsip.