PILARadio.com – OpenAI mulai menerapkan teknologi watermark tersembunyi bernama textGrain pada teks yang dihasilkan ChatGPT dan Codex di Uni Eropa. Teknologi ini dirancang untuk membantu mengidentifikasi konten yang dihasilkan atau diproses menggunakan sistem kecerdasan buatan (AI) milik OpenAI. Berbeda dengan tanda air pada foto atau video, watermark tersebut tidak terlihat secara langsung karena bekerja melalui pola statistik dalam pemilihan kata.
Kebijakan ini diumumkan OpenAI pada 5 Oktober 2026 sebagai bagian dari upaya memenuhi ketentuan transparansi dalam Undang-Undang Kecerdasan Buatan Uni Eropa atau EU AI Act. Melalui aturan tersebut, penyedia AI generatif didorong untuk membuat konten hasil kecerdasan buatan dapat dikenali oleh sistem secara otomatis.
OpenAI menyatakan penerapan watermark teks akan dilakukan secara bertahap dalam beberapa minggu untuk keluaran ChatGPT dan Codex yang memenuhi ketentuan di wilayah Uni Eropa. Sementara itu, pelanggan OpenAI API di seluruh dunia dapat mengaktifkan fitur tersebut secara opsional pada model yang didukung.
Meski dirancang untuk membantu mengenali asal-usul teks, teknologi textGrain masih memiliki keterbatasan. OpenAI mengakui bahwa teks pendek, jawaban yang memiliki sedikit variasi kata, serta tulisan yang mengalami banyak perubahan dapat membuat watermark lebih sulit dideteksi.
Perusahaan juga menegaskan bahwa watermark tersebut tidak dirancang untuk mengidentifikasi identitas pengguna, akun, maupun perintah yang dimasukkan ke dalam ChatGPT. Dengan demikian, teknologi ini berfokus pada penelusuran asal-usul konten, bukan pada pelacakan identitas orang yang menggunakan AI.
OpenAI Perkenalkan Watermark Tersembunyi untuk Teks AI
OpenAI mengumumkan pendekatan baru dalam penelusuran asal-usul konten melalui teknologi textGrain. Sistem ini menjadi bagian dari upaya perusahaan untuk meningkatkan transparansi penggunaan kecerdasan buatan, terutama ketika teks hasil AI semakin banyak digunakan dalam pekerjaan, pendidikan, penerbitan, dan komunikasi digital.
Selama ini, watermark lebih sering dikenal sebagai tanda yang ditempelkan pada foto, gambar, atau video. Bentuknya dapat berupa logo, tulisan, atau informasi digital yang membantu menunjukkan sumber suatu karya. Pada teks, pendekatannya berbeda karena tanda tersebut tidak muncul sebagai karakter atau simbol tambahan yang bisa dilihat pembaca.
TextGrain bekerja dengan menyesuaikan pola statistik dalam pilihan kata yang dihasilkan model AI. Perubahan itu dirancang agar tidak mengganggu keterbacaan teks, tetapi tetap meninggalkan sinyal yang dapat diperiksa oleh alat pendeteksi khusus.
OpenAI menjelaskan bahwa sinyal tersebut terbentuk dari pola pemilihan kata atau bagian kata ketika model menghasilkan teks. Pola itu kemudian dapat dianalisis oleh detektor yang memiliki konfigurasi sesuai untuk menilai apakah suatu tulisan mengandung watermark dari sistem OpenAI.
Pengumuman ini menjadi perkembangan penting dalam upaya mengenali konten buatan AI. Namun, keberadaan watermark tidak berarti setiap teks yang dihasilkan ChatGPT akan selalu dapat dikenali dalam segala keadaan. Tingkat keberhasilan deteksi masih bergantung pada panjang teks, jenis konten, bahasa, serta perubahan yang dilakukan setelah teks dibuat.
Dalam pengumuman resminya, OpenAI juga menyatakan bahwa teknologi watermark teks masih berada pada tahap awal dan mempunyai keterbatasan yang signifikan. Perusahaan menilai pengembangan teknologi ini perlu disertai evaluasi mengenai tingkat akurasi dan penggunaan yang bertanggung jawab.
Informasi mengenai pendekatan tersebut dapat dibaca melalui pengumuman resmi OpenAI berjudul Our Approach to EU Text Provenance Rules yang diterbitkan pada 5 Oktober 2026.
Apa Itu textGrain dan Bagaimana Cara Kerjanya?
TextGrain merupakan teknologi watermark teks yang dikembangkan OpenAI untuk membantu mengenali konten yang dihasilkan atau diproses menggunakan modelnya. Sistem ini tidak menambahkan tulisan khusus seperti “dibuat oleh AI” pada akhir paragraf. Sebaliknya, watermark dibentuk melalui pola statistik dalam cara model memilih kata.
Ketika ChatGPT menghasilkan jawaban, model mempertimbangkan sejumlah kemungkinan kata atau bagian kata untuk melanjutkan kalimat. Setiap kemungkinan memiliki tingkat peluang tertentu. TextGrain menyesuaikan proses pemilihan tersebut secara halus sehingga terbentuk pola yang dapat diperiksa oleh detektor.
Penyesuaian itu dirancang agar tetap mempertahankan kualitas keluaran. Dengan kata lain, watermark tidak perlu terlihat oleh pembaca agar dapat berfungsi sebagai sinyal asal-usul teks.
Cara kerja ini berbeda dari metode deteksi AI yang hanya menganalisis karakteristik bahasa setelah tulisan selesai dibuat. Beberapa alat pendeteksi pihak ketiga, misalnya, menggunakan pengklasifikasi untuk menilai pola pilihan kata dan karakteristik teks. TextGrain, sebaliknya, berusaha menanamkan sinyal sejak proses pembuatan teks berlangsung.
Perbedaan tersebut penting karena sistem yang hanya mengandalkan analisis gaya bahasa dapat menghadapi kesulitan membedakan tulisan manusia dengan tulisan AI yang sudah diedit. Pola bahasa manusia dan AI dapat memiliki kemiripan, terutama pada teks formal, artikel informatif, atau jawaban singkat.
Dengan watermark yang ditanamkan selama proses generasi, OpenAI berupaya menyediakan petunjuk tambahan yang dapat diperiksa menggunakan alat khusus.
Meski begitu, textGrain bukan alat yang bisa memastikan seluruh proses penulisan dilakukan oleh AI. Sistem ini juga tidak dapat menjelaskan secara pasti berapa banyak bagian tulisan yang dibuat oleh model dan berapa banyak yang disusun atau disunting manusia.
Jika sebuah teks mengandung watermark, hasil deteksi dapat menunjukkan bahwa sistem OpenAI kemungkinan menghasilkan atau memproses bagian dari tulisan tersebut. Namun, hasil itu tidak secara otomatis membuktikan bahwa seluruh isi tulisan dibuat tanpa campur tangan manusia.
Sebaliknya, jika watermark tidak ditemukan, hal tersebut juga tidak membuktikan bahwa tulisan sepenuhnya dibuat oleh manusia. Sinyalnya mungkin tidak terbaca karena teks terlalu pendek, sudah banyak diubah, diterjemahkan, atau berasal dari model yang tidak mendukung teknologi tersebut.
Watermark ChatGPT Berlaku Bertahap di Uni Eropa
OpenAI tidak langsung menerapkan watermark teks sebagai pengaturan bawaan untuk seluruh pengguna ChatGPT di dunia. Berdasarkan pengumuman perusahaan, penerapan awal difokuskan pada keluaran teks ChatGPT dan Codex yang memenuhi ketentuan di Uni Eropa.
Fitur tersebut dijadwalkan mulai diperkenalkan secara bertahap dalam beberapa minggu setelah pengumuman pada 5 Oktober 2026. OpenAI menyebut pendekatan regional ini memberikan kesempatan bagi perusahaan untuk mempelajari penggunaan teknologi di kondisi nyata dan menerima masukan dari berbagai pihak.
Penerapan bertahap juga memungkinkan evaluasi terhadap kemampuan deteksi, dampak pada kualitas teks, serta kemungkinan kesalahan ketika sistem digunakan untuk memeriksa tulisan.
Bagi pengguna ChatGPT di luar Uni Eropa, pengumuman tersebut tidak berarti watermark otomatis langsung diterapkan pada semua jawaban yang dihasilkan. OpenAI menyatakan fitur ini belum menjadi pengaturan bawaan global pada tahap awal peluncuran.
Meski demikian, perusahaan membuka pilihan bagi pelanggan API di seluruh dunia untuk mengaktifkan watermark teks pada model yang didukung. API merupakan layanan yang memungkinkan pengembang mengintegrasikan model OpenAI ke dalam aplikasi, situs web, dan sistem digital buatan mereka.
Jika pengembang mengaktifkan fitur tersebut, keluaran teks dari model yang memenuhi ketentuan dapat dilengkapi watermark saat proses generasi berlangsung. Pengembang tidak perlu menambahkan tanda khusus secara manual pada setiap jawaban.
OpenAI juga menyampaikan rencana untuk memperluas dukungan watermark ke model-model lama yang memenuhi persyaratan. Ketersediaan fitur tetap bergantung pada model dan pengaturan yang digunakan.
Kebijakan ini menunjukkan bahwa penerapan watermark teks tidak berlangsung seragam untuk semua produk, model, dan wilayah. Karena itu, pengguna perlu membedakan antara penerapan di Uni Eropa, pilihan aktivasi pada API, dan penggunaan ChatGPT di wilayah lain.
EU AI Act Menjadi Salah Satu Alasan Penerapan Watermark
Penerapan textGrain berkaitan dengan ketentuan transparansi dalam Undang-Undang Kecerdasan Buatan Uni Eropa atau EU AI Act. Regulasi tersebut mencakup kewajiban tertentu bagi penyedia sistem AI generatif agar keluaran yang dihasilkan dapat dikenali melalui mekanisme yang sesuai.
Dalam pengumumannya, OpenAI menyatakan bahwa teknologi watermark teks dikembangkan sebagai bagian dari upaya memenuhi ketentuan tersebut sekaligus menjalankan komitmen transparansi terhadap konten yang dihasilkan AI.
Kebutuhan untuk mengenali konten buatan AI semakin menjadi perhatian seiring berkembangnya teknologi generatif. Model AI kini dapat menghasilkan berbagai bentuk tulisan, mulai dari ringkasan, jawaban atas pertanyaan, materi pemasaran, kode program, hingga draf artikel.
Kemampuan tersebut memberikan manfaat bagi banyak pengguna. Namun, kemudahan menghasilkan teks juga menimbulkan pertanyaan mengenai bagaimana pembaca dapat mengetahui asal-usul suatu konten, terutama ketika tulisan disebarkan tanpa keterangan mengenai proses pembuatannya.
Dalam konteks inilah penanda asal-usul dapat berperan sebagai salah satu sumber informasi. Sinyal tersebut dapat membantu sistem atau organisasi yang memiliki akses ke alat deteksi untuk melakukan pemeriksaan lebih lanjut.
Meski demikian, watermark bukan satu-satunya pendekatan untuk menjaga transparansi. OpenAI menyebut upaya penelusuran asal-usul konten perlu menggunakan beberapa metode yang saling melengkapi, seperti metadata, watermark, dan alat verifikasi.
Setiap metode memiliki kelebihan dan kekurangan. Metadata dapat menyimpan informasi mengenai asal-usul serta riwayat suatu berkas, tetapi informasi tersebut dapat hilang ketika berkas diedit atau dikonversi. Sementara itu, watermark dapat memberikan sinyal yang tertanam dalam konten, tetapi tidak selalu menjelaskan seluruh riwayat pembuatannya.
Oleh karena itu, OpenAI menempatkan watermark teks sebagai salah satu bagian dari pendekatan yang lebih luas untuk meningkatkan transparansi konten digital.
Watermark Tidak Terlihat dan Tidak Menambahkan Karakter Tersembunyi
Salah satu hal yang perlu dipahami dari textGrain adalah cara teknologi ini menandai tulisan. Watermark tersebut tidak bekerja dengan menyisipkan spasi tambahan, karakter Unicode tersembunyi, atau tanda baca yang tidak biasa.
OpenAI menegaskan bahwa sistem ini mengubah pola statistik pilihan kata ketika model menghasilkan teks. Dengan pendekatan tersebut, sinyal watermark menjadi bagian dari pola bahasa yang dihasilkan, bukan elemen tambahan yang ditempelkan setelah tulisan selesai.
Artinya, pengguna yang menyalin dan menempelkan teks ke dokumen lain tidak secara otomatis menambahkan karakter khusus yang hanya berfungsi sebagai watermark. Sinyal yang dicari oleh detektor berasal dari pola pemilihan kata dalam teks itu sendiri.
Bagi pembaca, tulisan yang dilengkapi watermark tetap terlihat seperti teks biasa. Tidak ada logo atau simbol khusus yang harus muncul di layar agar sistem tersebut berfungsi.
Namun, sifatnya yang tidak terlihat juga membuat proses pemeriksaan tidak bisa dilakukan hanya dengan membaca tulisan secara kasatmata. Diperlukan alat deteksi yang sesuai untuk mencari pola statistik yang ditanamkan oleh sistem.
OpenAI saat ini membatasi akses terhadap detektor teks tersebut. Perusahaan membuka permohonan akses bagi organisasi ahli dan peneliti yang memenuhi persyaratan, dengan penilaian kasus per kasus.
Pembatasan itu dilakukan karena teknologi masih memiliki risiko kesalahan deteksi. OpenAI ingin mendapatkan masukan dari kalangan peneliti dan organisasi yang dapat membantu mengevaluasi keandalan serta penggunaan teknologi secara bertanggung jawab.
Dengan demikian, pengguna umum belum bisa mengandalkan sebuah alat deteksi teks publik dari OpenAI untuk memastikan apakah setiap tulisan dibuat menggunakan ChatGPT. Ketersediaan detektor teks perlu dibedakan dari alat verifikasi untuk gambar dan audio yang memiliki mekanisme tersendiri.
OpenAI Akui Watermark Teks Masih Memiliki Keterbatasan
Meskipun textGrain dirancang untuk membantu mengidentifikasi teks buatan AI, OpenAI mengakui teknologi tersebut belum dapat memberikan hasil yang selalu akurat.
Salah satu tantangan utamanya adalah panjang tulisan. Teks yang terlalu pendek memiliki lebih sedikit pilihan kata untuk membentuk pola statistik yang dapat diperiksa oleh detektor. Akibatnya, sistem lebih sulit menentukan apakah pola yang muncul benar-benar berasal dari watermark atau hanya kebetulan.
Konten yang memiliki struktur sangat terbatas juga dapat menjadi tantangan. Jawaban matematika, misalnya, sering membutuhkan angka, rumus, istilah, dan susunan tertentu. Model tidak memiliki keleluasaan yang sama seperti ketika menulis artikel atau penjelasan panjang.
Dalam evaluasi internal yang dijelaskan OpenAI, tingkat deteksi juga berbeda berdasarkan jenis konten dan panjang teks. Pada materi seperti psikologi, dengan tingkat kesalahan positif yang ditargetkan sebesar 1 persen, detektor mengenali watermark pada sekitar 80 persen teks sepanjang 200 token. Angkanya meningkat menjadi sekitar 95 persen pada teks sepanjang 400 token.
Hasil tersebut bukan berarti setiap teks dengan panjang 200 token memiliki peluang deteksi yang sama dalam semua kondisi. Angka itu berasal dari evaluasi pada jenis konten tertentu dan tidak dapat langsung diterapkan untuk seluruh bahasa, topik, atau model.
OpenAI juga menyebut tingkat deteksi lebih rendah pada materi seperti matematika karena pilihan kata yang tersedia lebih terbatas.
Perbedaan tersebut menunjukkan bahwa panjang tulisan bukan satu-satunya faktor penentu. Karakteristik bahasa dan kebebasan model dalam memilih kata juga memengaruhi kemampuan deteksi.
Untuk teks yang berisi informasi sangat spesifik, istilah teknis, atau kutipan yang harus dipertahankan secara tepat, ruang untuk mengubah susunan kata bisa lebih kecil. Kondisi ini berpotensi membuat pola watermark lebih sulit dikenali.
Karena itu, hasil pemeriksaan perlu dipahami sebagai sinyal yang memiliki tingkat keterbatasan, bukan keputusan mutlak mengenai siapa yang menulis sebuah teks.
Mengedit Tulisan Bisa Melemahkan Sinyal Watermark
Keterbatasan lain yang diakui OpenAI berkaitan dengan penyuntingan teks. Perubahan terhadap pilihan kata dapat mengurangi kekuatan sinyal statistik yang ditanamkan ketika model menghasilkan tulisan.
Dalam evaluasi terhadap teks berbahasa Inggris sepanjang 400 token, OpenAI menguji dampak penggantian sejumlah kata dengan sinonim. Hasilnya menunjukkan bahwa perubahan 10 persen kata menurunkan tingkat deteksi dari sekitar 92 persen menjadi 66 persen.
Ketika 25 persen kata diganti dengan sinonim, tingkat deteksi turun menjadi sekitar 17 persen. Angka tersebut merupakan hasil evaluasi internal OpenAI pada sampel tertentu, bukan ukuran yang berlaku untuk semua teks dan bahasa.
Temuan itu memperlihatkan bahwa watermark teks menghadapi tantangan ketika tulisan mengalami penyuntingan cukup besar. Parafrasa, penerjemahan, dan perubahan struktur kalimat dapat membuat pola yang sebelumnya terdeteksi menjadi lebih sulit dikenali.
Namun, hal ini tidak berarti setiap perubahan kecil pasti menghilangkan watermark. OpenAI menyatakan teknologi tersebut dirancang agar dapat bertahan terhadap sejumlah perubahan umum. Tingkat keberhasilannya tetap bergantung pada bentuk dan besarnya perubahan yang dilakukan.
Sebaliknya, teks yang tidak mengalami perubahan pun tidak selalu bisa dideteksi dengan pasti. Tulisan yang terlalu pendek atau memiliki pilihan kata terbatas mungkin tidak menghasilkan sinyal yang cukup kuat untuk diperiksa.
Karena itu, hasil deteksi tidak seharusnya digunakan sebagai satu-satunya dasar untuk menyimpulkan bahwa suatu tulisan dibuat manusia atau AI. Pemeriksaan perlu mempertimbangkan sumber teks, konteks penggunaannya, panjang tulisan, serta kemungkinan perubahan setelah teks dihasilkan.
Bagi dunia penerbitan, pendidikan, dan penelitian, keterbatasan ini menjadi alasan penting untuk menggunakan teknologi deteksi secara hati-hati. Sistem watermark dapat membantu proses verifikasi, tetapi tidak menggantikan penilaian manusia dan pemeriksaan terhadap konteks sebuah tulisan.
Risiko False Positive dan False Negative
Selain kesulitan mendeteksi teks tertentu, watermark juga menghadapi risiko kesalahan. OpenAI menjelaskan dua jenis kesalahan yang perlu diperhatikan, yakni false positive dan false negative.
False positive terjadi ketika detektor menyatakan menemukan watermark, padahal sinyal tersebut sebenarnya tidak ada. Dalam konteks pemeriksaan tulisan, kondisi ini dapat menyebabkan teks yang tidak memiliki watermark dianggap mengandungnya.
Sementara itu, false negative terjadi ketika detektor gagal menemukan watermark yang sebenarnya terdapat dalam teks. Hal ini dapat terjadi ketika sinyal terlalu lemah, tulisan terlalu pendek, atau perubahan terhadap teks membuat pola sulit dikenali.
Kedua jenis kesalahan tersebut dapat menimbulkan persoalan apabila hasil deteksi langsung dianggap sebagai bukti mutlak.
Sebagai contoh, jika suatu institusi menggunakan deteksi teks untuk menilai karya seseorang, hasil positif tidak seharusnya langsung menjadi satu-satunya dasar untuk menuduh bahwa seluruh tulisan dibuat oleh AI. Perlu ada pemeriksaan tambahan terhadap proses penulisan dan konteks penggunaan teknologi.
Demikian pula, hasil negatif tidak otomatis membuktikan bahwa teks sepenuhnya ditulis manusia. Bisa saja tulisan berasal dari model OpenAI, tetapi sinyalnya tidak lagi dapat dikenali.
OpenAI menyebut risiko kesalahan dan keterbatasan tersebut sebagai salah satu alasan mengapa detektor teks belum dibuka untuk penggunaan publik secara luas. Perusahaan memilih membatasi akses awal kepada organisasi penelitian dan ahli yang disetujui.
Pendekatan ini dimaksudkan agar teknologi dapat dievaluasi lebih lanjut sebelum penggunaannya diperluas. Peneliti diharapkan membantu menilai tingkat keandalan, memahami kemungkinan kesalahan, serta mengembangkan cara penyampaian hasil deteksi yang tidak menyesatkan.
Dengan kata lain, watermark textGrain sebaiknya dipahami sebagai alat bantu untuk menelusuri asal-usul konten, bukan sebagai hakim otomatis yang menentukan siapa penulis suatu karya.
Apakah Watermark ChatGPT Akan Mengubah Kualitas Tulisan?
Salah satu pertanyaan yang mungkin muncul adalah apakah penambahan watermark akan membuat jawaban ChatGPT menjadi lebih kaku, kurang alami, atau berbeda kualitasnya.
OpenAI menyatakan bahwa berdasarkan pengujian internal, tidak ditemukan perbedaan kinerja yang berarti antara keluaran model Astra yang menggunakan watermark dan keluaran tanpa watermark pada berbagai tolok ukur yang digunakan perusahaan.
Pengujian tersebut mencakup beberapa evaluasi kemampuan model. Hasilnya menunjukkan perbedaan skor yang masih berada dalam rentang variasi pengujian yang biasa diamati oleh OpenAI.
Perusahaan juga menyebut pengujian sebelumnya pada ChatGPT tidak menunjukkan perubahan pada tingkat penilaian negatif pengguna maupun sejumlah ukuran produk lainnya setelah watermark diperkenalkan dalam pengujian.
Meski hasil ini memberikan gambaran awal, pengujian internal tidak berarti setiap pengguna akan selalu mendapatkan pengalaman yang identik dalam semua situasi. Kualitas jawaban tetap dipengaruhi oleh model yang digunakan, instruksi yang diberikan, jenis tugas, dan faktor lain.
Watermark sendiri dirancang untuk menyesuaikan pemilihan kata secara halus, bukan mengganti isi jawaban dengan pesan tambahan. Tujuannya adalah mempertahankan fungsi utama model sembari menyediakan sinyal yang dapat diperiksa oleh detektor.
OpenAI juga menyatakan dampak watermark teks terhadap kecepatan model dapat diabaikan. Dengan demikian, perusahaan berupaya menambahkan mekanisme penelusuran asal-usul tanpa memberikan perubahan besar pada pengalaman penggunaan.
Bagi pengguna, hal yang paling penting adalah memahami bahwa watermark tidak membuat sebuah tulisan otomatis benar, akurat, atau bebas dari kesalahan. Teks yang dihasilkan AI tetap perlu diperiksa, terutama jika digunakan untuk berita, informasi publik, pendidikan, atau keputusan penting.
Watermark Tidak Bisa Mengidentifikasi Pengguna ChatGPT
OpenAI juga memberikan penjelasan mengenai aspek privasi. Menurut perusahaan, watermark teks tidak dirancang untuk mengungkap identitas orang yang menggunakan ChatGPT atau Codex.
Sinyal yang ditanamkan berfungsi membantu mengidentifikasi keterkaitan teks dengan sistem OpenAI. Teknologi tersebut tidak menghubungkan tulisan dengan nama pengguna, organisasi, akun, percakapan, ataupun perintah yang dimasukkan ke dalam model.
Artinya, hasil deteksi watermark tidak dapat digunakan untuk mengetahui secara langsung siapa yang mengetikkan suatu perintah atau akun mana yang menghasilkan teks tersebut.
Watermark juga tidak menunjukkan seberapa besar kontribusi manusia dalam proses penulisan. Seseorang mungkin meminta AI membuat draf awal, kemudian mengedit, memeriksa fakta, menambahkan wawancara, dan menyusun ulang sebagian besar tulisan. Sinyal watermark saja tidak dapat mengukur seluruh proses tersebut.
Sebaliknya, seseorang mungkin menggunakan AI untuk menyunting teks yang sebelumnya ditulis manusia. Dalam situasi seperti ini, keberadaan watermark tidak berarti seluruh gagasan atau isi tulisan berasal dari AI.
OpenAI menekankan bahwa teknologi tersebut hanya memberikan sinyal terbatas mengenai peran sistemnya dalam sebuah teks. Penentuan kepengarangan, kepemilikan, tanggung jawab hukum, dan kewajiban pengungkapan tetap memerlukan pertimbangan terpisah.
Perusahaan juga menyatakan watermark tidak dapat memastikan apakah sebuah teks benar atau salah. Teks yang mengandung watermark bisa berisi informasi akurat, keliru, menyesatkan, atau tidak sesuai konteks. Pemeriksaan fakta tetap diperlukan.
Penjelasan ini penting agar teknologi penelusuran asal-usul tidak disalahartikan sebagai alat untuk memantau seluruh aktivitas pengguna.
Mengapa Detektor textGrain Belum Dibuka untuk Publik?
Walaupun OpenAI telah mengumumkan teknologi watermark teks, detektornya belum tersedia secara terbuka bagi semua orang. Perusahaan membuka permohonan akses bagi peneliti dan organisasi ahli yang memenuhi persyaratan.
Akses tersebut diberikan melalui proses peninjauan kasus per kasus. Pihak yang mengajukan permohonan diharapkan dapat membantu menguji keandalan teknologi, memahami keterbatasannya, dan mengembangkan praktik penggunaan yang bertanggung jawab.
Keputusan untuk membatasi akses berkaitan dengan risiko kesalahan deteksi. Jika alat digunakan tanpa memahami keterbatasannya, hasil pemeriksaan dapat menimbulkan kesimpulan yang keliru mengenai asal-usul sebuah tulisan.
Misalnya, detektor yang tidak menemukan watermark belum tentu membuktikan bahwa sebuah artikel ditulis manusia. Sebaliknya, hasil deteksi positif tidak menjelaskan apakah AI membuat keseluruhan artikel atau hanya membantu menyunting sebagian isinya.
OpenAI menyatakan alat deteksi teks akan melaporkan apakah sinyal watermark ditemukan, tanpa mengidentifikasi pengguna atau mengungkap perintah maupun percakapan mereka.
Perusahaan juga berencana mengembangkan textGrain sebagai teknologi sumber terbuka. Rencana tersebut diharapkan membuka kesempatan bagi pihak lain untuk mempelajari dan membantu menyempurnakan metode watermark teks.
Namun, rencana pengembangan tersebut perlu dibedakan dari ketersediaan detektor bagi masyarakat umum. Informasi mengenai jadwal, cakupan, dan mekanisme akses tetap perlu merujuk pada pembaruan resmi OpenAI.
Apa Dampaknya bagi Penulis, Jurnalis, dan Pembuat Konten?
Penerapan watermark teks menambah satu aspek baru dalam penggunaan AI untuk menghasilkan tulisan. Bagi penulis, jurnalis, editor, mahasiswa, dan pembuat konten, perkembangan ini menunjukkan bahwa asal-usul teks semakin menjadi perhatian dalam ekosistem digital.
AI generatif dapat membantu menyusun kerangka tulisan, merangkum bahan bacaan, memperbaiki tata bahasa, menerjemahkan teks, atau menghasilkan draf awal. Namun, penggunaan teknologi tersebut tetap perlu disesuaikan dengan kebutuhan, kebijakan organisasi, dan tanggung jawab pengguna.
Dalam dunia jurnalistik, misalnya, AI dapat membantu pekerjaan teknis tertentu. Akan tetapi, pemeriksaan fakta, verifikasi narasumber, penilaian konteks, dan tanggung jawab atas isi berita tetap menjadi hal penting yang tidak boleh diabaikan.
Watermark juga tidak dapat menggantikan proses penyuntingan dan pemeriksaan fakta. Sinyal asal-usul hanya memberikan petunjuk mengenai keterlibatan sistem OpenAI, bukan jaminan bahwa informasi yang disampaikan benar.
Bagi institusi pendidikan, perkembangan ini menunjukkan bahwa penilaian penggunaan AI membutuhkan pendekatan yang lebih menyeluruh. Pemeriksaan tulisan tidak sebaiknya hanya mengandalkan satu alat deteksi, terlebih ketika teknologi tersebut masih memiliki risiko kesalahan.
Institusi dapat mempertimbangkan kebijakan yang menjelaskan penggunaan AI secara transparan, termasuk kapan bantuan AI diperbolehkan dan bagaimana kontribusinya perlu dicantumkan. Aturan tersebut perlu disesuaikan dengan jenis tugas dan tujuan pembelajaran.
Bagi pembuat konten digital, watermark dapat menjadi salah satu bagian dari sistem transparansi yang lebih luas. Namun, pengguna tetap perlu memperhatikan hak cipta, keakuratan informasi, privasi, dan ketentuan platform tempat konten dipublikasikan.
Pada akhirnya, penerapan watermark tidak menghilangkan kebutuhan terhadap tanggung jawab manusia. Teknologi tersebut membantu memberikan petunjuk tentang asal-usul teks, sedangkan penilaian mengenai kualitas, konteks, dan kelayakan publikasi tetap memerlukan pemeriksaan lebih lanjut.
Apakah Semua Tulisan AI Bisa Diketahui melalui Watermark?
Jawabannya tidak. Berdasarkan penjelasan OpenAI, watermark textGrain memiliki keterbatasan dan tidak selalu dapat terdeteksi pada setiap teks yang dihasilkan menggunakan modelnya.
Teks yang pendek merupakan salah satu tantangan karena jumlah kata yang tersedia mungkin tidak cukup untuk membentuk sinyal statistik yang kuat. Materi dengan pilihan kata terbatas, seperti jawaban matematika atau potongan kode, juga dapat lebih sulit diperiksa.
Selain itu, perubahan besar pada teks, termasuk parafrasa menyeluruh atau penerjemahan, dapat membuat watermark lebih sulit ditemukan. Tingkat deteksi juga dapat berbeda menurut bahasa dan karakteristik tulisan.
Karena itu, tidak tepat jika setiap tulisan AI dianggap pasti dapat dilacak atau setiap tulisan yang lolos deteksi dinyatakan sebagai karya manusia.
Watermark juga tidak dirancang untuk mengenali seluruh sistem AI yang tersedia di pasaran. Teknologi ini berfokus pada sinyal asal-usul yang berkaitan dengan sistem OpenAI yang didukung.
Tulisan yang dibuat menggunakan model dari perusahaan lain tidak otomatis dapat dikenali oleh detektor textGrain. Demikian pula, teks yang dihasilkan OpenAI tetapi tidak memiliki sinyal yang dapat diperiksa mungkin tidak teridentifikasi.
Keterbatasan ini memperlihatkan bahwa penelusuran asal-usul konten membutuhkan beberapa pendekatan. Watermark, metadata, catatan proses penulisan, serta pemeriksaan sumber dapat saling melengkapi sesuai kebutuhan.
OpenAI menyatakan akan terus mengevaluasi teknologi tersebut seiring berkembangnya bukti, standar, dan ketentuan regulasi. Perusahaan juga berencana mempelajari ketahanan watermark terhadap penyuntingan dan penerjemahan serta memperluas akses detektor apabila hasilnya dinilai dapat digunakan secara bertanggung jawab.
Kesimpulan: Watermark ChatGPT Bukan Bukti Mutlak Kepengarangan
Penerapan watermark tersembunyi textGrain menjadi langkah OpenAI dalam meningkatkan transparansi asal-usul teks yang dihasilkan oleh kecerdasan buatan. Teknologi tersebut bekerja melalui pola statistik dalam pemilihan kata, sehingga tidak terlihat seperti tanda air pada gambar atau foto.
Penerapan awal ditujukan bagi keluaran ChatGPT dan Codex yang memenuhi ketentuan di Uni Eropa. Sementara itu, pelanggan API global dapat memilih untuk mengaktifkan watermark pada model yang didukung. Kebijakan ini berkaitan dengan upaya memenuhi ketentuan transparansi dalam EU AI Act.
Meski demikian, teknologi tersebut belum sempurna. Teks pendek, jawaban dengan pilihan kata terbatas, dan tulisan yang mengalami banyak perubahan dapat lebih sulit dideteksi. Risiko false positive dan false negative juga membuat hasil pemeriksaan perlu ditafsirkan secara hati-hati.
OpenAI menegaskan bahwa watermark tidak mengungkap identitas pengguna, akun, ataupun perintah yang dimasukkan ke dalam sistem. Teknologi tersebut juga tidak dapat mengukur kontribusi manusia atau memastikan apakah isi sebuah tulisan benar.
Karena itu, watermark sebaiknya dipahami sebagai salah satu alat untuk membantu menelusuri asal-usul konten, bukan sebagai bukti mutlak mengenai siapa penulisnya. Pemeriksaan fakta, penilaian konteks, dan tanggung jawab manusia tetap dibutuhkan ketika teks digunakan atau dipublikasikan.
Sumber : www.kumparan.com
