berita.akasta.ac.id – Meta baru saja meluncurkan teknologi bernama Content Seal yang berfungsi sebagai tanda air tak terlihat untuk mendeteksi konten yang dihasilkan oleh kecerdasan buatan (AI). Inisiatif ini merupakan tanggapan terhadap seruan Dewan Pengawas Meta pada bulan Maret lalu untuk meningkatkan komitmen perusahaan dalam mengatasi penyebaran konten generatif AI yang menyesatkan.
Teknologi ini diharapkan membantu pengguna membedakan antara gambar asli dan yang dihasilkan oleh AI. Meskipun mirip dengan sistem lain seperti SynthID yang dikembangkan Google, Content Seal memiliki keterbatasan performa. Saat ini, pengguna hanya bisa mendeteksi tanda air tersebut melalui alat yang sedang diuji oleh Meta, tanpa dukungan dalam chatbot Meta AI.
Serangkaian tantangan muncul, termasuk fakta bahwa teknologi ini hanya berlaku untuk gambar yang dihasilkan oleh model AI terbaru Meta. Gambar yang lebih tua dan video belum dapat terdeteksi. Meta juga menerapkan batasan harian dalam menggunakan alat deteksi ini, dengan alasan untuk mencegah penyalahgunaan sistem.
Respons publik terhadap inisiatif ini cukup skeptis, terutama karena Meta sebelumnya telah dikenakan kritik terkait label AI yang sering salah. Meta berjanji akan terus memperbaiki sistem ini dan menjajaki kolaborasi dengan industri lainnya untuk meningkatkan pengalaman pengguna dalam mendeteksi konten AI.
Sementara itu, tantangan yang lebih besar tetap ada, seperti apakah Content Seal dapat berfungsi bersamaan dengan standar lain tanpa mengganggu sistem yang sudah ada. Meta berharap untuk berbagi lebih banyak informasi mengenai kemajuan ini di masa mendatang.