OpenAI Menambahkan Tanda Air Tak Terlihat pada Teks AI di UE
OpenAI telah mulai menambahkan tanda air tak terlihat yang dapat dibaca mesin pada teks yang dihasilkan oleh beberapa modelnya, dimulai dengan pengguna di Uni Eropa. Perusahaan mengatakan langkah ini dimaksudkan untuk selaras dengan persyaratan transparansi Undang-Undang AI UE, yang meminta penyedia membuat konten yang dihasilkan AI dapat diidentifikasi. Fitur ini diaktifkan di UE dalam beberapa minggu mendatang, dan mulai sekarang pelanggan API global juga dapat memilih untuk mengaktifkannya untuk model tertentu.
Teknik tanda air ini disebut textGrain. Alih-alih memberi label yang terlihat pada paragraf, teknik ini bekerja selama proses pemilihan kata model, menyisipkan sinyal statistik ke dalam pilihan yang dibuat model saat menulis. Detektor yang tahu apa yang harus dicari dapat membaca sinyal itu dan memutuskan apakah suatu bagian teks membawa tanda air OpenAI. Bagi pembaca biasa, teksnya tampak tidak berubah.
Kehalusan itulah intinya. Label yang terlihat mudah dihapus: pengguna dapat menyalin paragraf, meminta model lain menulis ulang, atau sekadar menghapus catatan kaki. Jejak statistik tersembunyi lebih sulit dihilangkan tanpa mengubah teks itu sendiri. Ini juga menghindari kecanggungan mengganggu tulisan dengan spanduk yang menyatakan mesin yang menulisnya, yang bisa mengganggu dalam obrolan, draf email, atau baris kode.
Meskipun demikian, tanda air adalah kompromi teknis, bukan segel yang sempurna. Deteksi biasanya memerlukan akses ke alat yang tepat, dan sinyal dapat melemah ketika teks banyak diedit, diterjemahkan, atau dicampur dengan tulisan manusia. OpenAI menggambarkan textGrain sebagai salah satu lapisan dalam upaya transparansi yang lebih luas, bukan jaminan bahwa setiap kalimat yang dibantu AI dapat dilacak. Perusahaan tidak mengatakan bahwa penandaan akan berlaku untuk setiap model atau setiap wilayah, dan peluncuran di UE digambarkan berlaku untuk keluaran ChatGPT dan Codex yang memenuhi syarat.
Dimensi UE penting karena aturan AI blok tersebut termasuk yang pertama mewajibkan transparansi konten semacam ini dari penyedia model besar. Perusahaan yang melayani pengguna Eropa telah menyesuaikan produk, dokumentasi, dan proses internal agar sesuai. Bagi OpenAI, menambahkan tanda air adalah langkah kepatuhan sekaligus cara menguji bagaimana teknologi ini berperilaku pada skala chatbot arus utama yang digunakan ratusan juta orang.
Bagi pelanggan API, pilihan untuk mengaktifkan tanda air pada model terpilih memberi bisnis sebuah tuas. Penerbit mungkin ingin teks yang dibantu AI ditandai agar sistemnya sendiri dapat menandainya nanti. Pengembang yang membangun alat menulis mungkin lebih memilih mematikannya, tergantung audiens. Karena pengaturan ini opsional bagi pengguna API di luar UE, adopsi kemungkinan akan bervariasi menurut industri dan seberapa peduli perusahaan terhadap provenans.
Tanda air telah menjadi salah satu bidang penelitian AI yang lebih aktif, dengan laboratorium, universitas, dan badan standar memperdebatkan cara menandai media sintetis tanpa merusaknya. Teks lebih sulit daripada gambar: gambar dapat membawa pola piksel tersembunyi, tetapi kata-kata bersifat diskret dan mudah disusun ulang. Pendekatan seperti textGrain berusaha membuat tanda bertahan dalam penggunaan normal sambil tetap tak terlihat bagi pembaca.
Apakah tanda air tak terlihat menjadi ekspektasi default atau memudar menjadi alat kepatuhan niche akan bergantung pada seberapa baik deteksi bertahan di dunia nyata. Untuk saat ini, peluncuran OpenAI di UE memberikan ide ini uji dunia nyata terbesarnya, dan memberi pengembang global sakelar awal untuk bereksperimen.