RadarSitubondo.id - OpenAI, perusahaan teknologi kecerdasan buatan terkemuka, tengah berada di persimpangan jalan mengenai keputusan untuk meluncurkan alat pendeteksi teks yang dihasilkan oleh ChatGPT.
Keputusan ini ditimbang dengan hati-hati oleh perusahaan yang dipimpin Sam Altman, mengingat dampak luas yang mungkin ditimbulkan di luar OpenAI.
Salah satu sumber, pada Minggu (4/8) menyebutkan bahwa OpenAI sedang mengembangkan metode pemberian watermark atau tanda air pada teks yang diciptakan oleh AI, yang terlihat sangat menjanjikan.
Namun, ada risiko signifikan yang membuat perusahaan mempertimbangkan alternatif lain.
“Metode watermark ini rentan terhadap pengelakan oleh pihak-pihak jahat dan bisa berdampak negatif terutama pada penutur non-Inggris,” ujar juru bicara OpenAI.
Keputusan OpenAI ini tampak berbeda dari upaya sebelumnya oleh industri untuk mendeteksi teks AI yang dinilai kurang efektif.
Sebelumnya, pada tahun 2023, OpenAI sempat merilis detektor teks AI, namun akhirnya dihentikan karena tingkat akurasinya yang rendah.
Rencana pemberian watermark akan berfokus pada teks yang dihasilkan oleh ChatGPT, dengan membuat perubahan kecil pada pemilihan kata oleh ChatGPT, sehingga menciptakan watermark tak terlihat yang bisa dideteksi oleh alat khusus.
Dalam blog OpenAI pada Mei 2024, diungkapkan bahwa metode watermark pada teks AI terbukti sangat akurat, bahkan untuk teks parafrase yang kompleks.
Namun, tanda air ini kurang valid jika diterapkan secara global karena memiliki banyak kerentanan, seperti teks yang diterjemahkan atau diubah dengan model generatif lain.
Selain itu, penggunaan tanda air dapat diakali oleh pihak-pihak yang tidak bertanggung jawab, dan berpotensi menimbulkan stigma buruk terhadap penggunaan AI sebagai alat tulis, terutama bagi penutur non-Inggris. (*)
Editor : Lugas Rumpakaadi