berita.akasta.ac.id – Mpathic, sebuah perusahaan rintisan yang berpusat di Seattle, baru saja meluncurkan alat evaluasi bernama mPACT yang bertujuan untuk menguji kemampuan model kecerdasan buatan (AI) dalam menangani percakapan berisiko tinggi. Alat ini digunakan untuk menilai respons model dalam situasi yang melibatkan risiko bunuh diri, gangguan makan, dan informasi yang menyesatkan.
Dalam penelitiannya, Mpathic menemukan bahwa meskipun model-model AI seperti Claude, ChatGPT, dan Gemini menunjukkan perbaikan dalam mengenali tanda-tanda distress, respon mereka masih belum dianggap memadai oleh para profesional kesehatan mental. Grin Lord, CEO Mpathic dan seorang psikolog bersertifikat, menekankan bahwa model-model tersebut perlu lebih peka terhadap nuansa yang ditunjukkan oleh pengguna.
Dari evaluasi yang dilakukan, area risiko bunuh diri menunjukkan performa terbaik, meskipun tidak ada satu model pun yang unggul di semua dimensi. Claude Sonnet 4.5 mendapatkan skor tertinggi dalam hal keselarasan klinis. Di sisi lain, respons terhadap gangguan makan teridentifikasi sebagai area terlemah, di mana banyak model mengalami kesulitan dalam menandai perilaku berisiko yang sering kali muncul secara tidak langsung.
Adapun dalam konteks informasi yang menyesatkan, model-model memiliki tantangan dalam tidak hanya menyajikan informasi yang salah, tetapi juga dalam menguatkan keyakinan yang tidak berdasar. Mpathic melakukan penilaian respons model dengan melibatkan klinisi berlisensi untuk merasakan bagaimana interaksi dalam dunia nyata terjadi.
Dengan peluncuran mPACT, Mpathic berharap dapat membawa transparansi dan akuntabilitas dalam pengembangan model AI, terutama dalam konteks tanggung jawab sosial dan etika. Perusahaan ini, yang didirikan pada tahun 2021, berkomitmen untuk mengurangi perilaku berbahaya di berbagai bidang mulai dari kesehatan mental hingga dukungan pelanggan.
