Perusahaan Ini Meluncurkan Alat Deteksi Teks Buatan AI

Banyak orang melakukan berbagai kegiatan dengan memanfaatkan perkembangan teknologi kecerdasan buatan atau artificial intelligence (AI). Salah satunya adalah membuat tulisan atau teks, dan tidak jarang pembaca tulisan atau teks sulit membedakan hasil tulisan AI dengan manusia.

Dikutip dari laman Openai.com, perusahaan OpenAI membuat sebuah tool atau alat untuk mengetahui sebuah teks merupakan karya manusia atau kecerdasan buatan yang disebutnya sebagai classifier atau pengklasifikasi. “Kami telah melatih pengklasifikasi untuk membedakan antara teks yang ditulis oleh manusia dan teks yang ditulis oleh AI dari berbagai penyedia,” demikian tertulis dalam laman tersebut. 

Perusahaan meyakini bahwa classifier yang baik dapat menjadi mitigasi untuk klaim palsu bahwa teks yang dihasilkan AI ditulis oleh manusia walaupun tidak mungkin bagi pengklasifikasi untuk mendeteksi semua teks yang ditulis AI.

Baca juga: Google Kenalkan MusicLM, Mesin AI Pembuat Musik Lewat Teks

Meskipun begitu, pengklasifikasi yang dihasilkan oleh perusahaan tidak sepenuhnya dapat diandalkan. Hasil evaluasi perusahaan menunjukkan bahwa classifier dapat dengan benar mengidentifikasi 26 persen teks yang ditulis oleh AI sebagai “kemungkinan ditulis AI” ketika diuji terhadap rangkaian teks berbahasa Inggris.

Sementara itu, classifier salah memberi label teks yang ditulis oleh manusia sebagai ditulis AI sebesar 9 persen. “Keandalan classifier kami biasanya meningkat seiring bertambahnya panjang teks masukan,” demikian tertulis.

Perusahaan menambahkan classifier baru secara signifikan lebih andal pada teks dari ssitem AI yang lebih baru jika dibandingkan dengan tool yang pernah dirilis pada masa lalu. Perusahaan membuat classifier tersedia untuk umum agar bisa mendapatkan masukan tentang apakah alat ini bermanfaat atau tidak.

“Pekerjaan kami dalam mendeteksi teks yang dihasilkan AI akan berlanjut, dan kami berharap dapat berbagi metode yang lebih baik di masa mendatang,” tulisnya.

Perusahaan menambahkan bahwa classifier yang dimiliki adalah model bahasa yang disesuaikan terhadap kumpulan data pasangan teks tulisan manusia dan AI terhadap topik yang sama. Perusahaan mengumpulkan data yang diyakini ditulis oleh manusia.

Kemudian, perusahaan membagi setiap teks menjadi prompt dan respons. Kemudian, memperoleh tanggapan dari berbagai model bahasa berbeda yang dilatih oleh perusahaan dan organisasi lain.

Perusahaan juga melakukan penyesuaian ambang kepercayaan di aplikasi web. Langkah ini guna menjaga tingkat positif palsu tetap rendah. Dengan kata lain, perusahaan hanya menandai teks sebagai kemungkinan ditulis AI jika classifier sangat percaya diri.

Keterbatasan

Perusahaan juga mengingatkan bahwa classifier memiliki sejumlah keterbatasan sehingga tidak boleh digunakan sebagai alat pengambil keputusan utama. Alat ini sebaiknya sebagai pelengkap metode lain untuk menentukan sumber dari sebuah teks.

Pengguna juga tidak dapat mengandalkan alat ini terhadap teks pendek di bawah 1.000 karakter. Teks yang lebih panjang biasanya dibeli label yang salah. “Terkadang teks yang ditulis manusia akan dilabeli dengan salah tetapi dengan percaya diri sebagai tulisan AI oleh pengklasifikasi kami,” ungkap perusahaan.

Pengguna sebaiknya menggunaan classifier hanya terhadap teks berbahasa Inggris. Alat ini memiliki kinerja yang sangat buruk ketika diaplikasikan terhadap bahasa lain dan tidak dapat diandalkan. Classifier perusahaan dapat diperbarui dan dilatih ulang berdasarkan serangan yang berhasil, tetapi tidak jelas apakah pendeteksian memiliki keuntungan dalam jangka panjang.

“Pengklasifikasi berdasarkan jaringan saraf diketahui dikalibrasi dengan buruk di luar data pelatihan mereka. Untuk masukan yang sangat berbeda dari teks dalam set pelatihan kami, pengklasifikasi terkadang sangat yakin dengan prediksi yang salah,” tulis laman tersebut.


Editor: Indyah Sutriningrum