OpenAI, AB'de AI metnine görünmez filigran ekliyor

OpenAI, bazı modellerinin ürettiği metinlere görünmez, makine tarafından okunabilir filigranlar eklemeye başladı; ilk olarak Avrupa Birliği’ndeki kullanıcılarla. Şirket, bu adımın sağlayıcılardan AI tarafından üretilen içeriği tanımlanabilir kılmalarını isteyen AB Yapay Zeka Yasası’nın şeffaflık gerekliliklerine uyum sağlamayı amaçladığını belirtti. Özellik önümüzdeki haftalarda AB’de etkinleştirilecek ve artık küresel API müşterileri de belirli modeller için bunu açmayı seçebilecek.

Filigran tekniğinin adı textGrain. Bir paragrafa görünür bir etiket basmak yerine, modelin kelime seçme sürecinde çalışarak modelin yazarken yaptığı seçimlere istatistiksel bir sinyal örüyor. Neyi arayacağını bilen bir dedektör bu sinyali okuyabilir ve bir metin parçasının OpenAI filigranı taşıyıp taşımadığına karar verebilir. Normal bir okuyucu için metin değişmemiş görünür.

Bu incelik tam da amaçlanan şey. Görünür etiketleri kaldırmak kolaydır: bir kullanıcı bir paragrafı kopyalayabilir, başka bir modelden yeniden yazmasını isteyebilir ya da altbilgi notunu siliverir. Gizli bir istatistiksel izi, metnin kendisini değiştirmeden kaldırmak daha zordur. Ayrıca bir yazıyı “bunu bir makine yazdı” diyen bir şeritle kesmenin tuhaflığından da kaçınır; bu, bir sohbette, taslak bir e-postada ya da bir kod satırında rahatsız edici olabilir.

Yine de filigranlama, kusursuz bir mühürden çok teknik bir uzlaşmadır. Tespit genellikle doğru araca erişim gerektirir ve metin yoğun biçimde düzenlendiğinde, çevrildiğinde ya da insan yazısıyla karıştırıldığında sinyaller zayıflayabilir. OpenAI, textGrain’i her AI destekli cümlenin izlenebileceğinin garantisi olarak değil, daha geniş bir şeffaflık çabasının bir katmanı olarak çerçeveledi. Şirket, işaretlemenin her modele ya da her bölgeye uygulanacağını söylemedi ve AB’deki sunumun uygun ChatGPT ve Codex çıktılarına uygulandığı belirtiliyor.

AB boyutu önemli, çünkü bloğun AI kuralları büyük model sağlayıcılarından bu tür bir içerik şeffaflığı talep eden ilk kurallar arasında. Avrupalı kullanıcılara hizmet veren şirketler ürünlerini, belgelerini ve iç süreçlerini buna uyacak şekilde ayarlıyor. OpenAI için filigran eklemek hem bir uyum adımı hem de teknolojinin yüz milyonlarca kişinin kullandığı ana akım bir sohbet botu ölçeğinde nasıl davrandığını test etmenin bir yolu.

API müşterileri için seçili modellerde filigranlamayı etkinleştirme seçeneği işletmelere bir kaldıraç sunuyor. Bir yayıncı, AI destekli metnin işaretlenmesini isteyebilir ki kendi sistemleri bunu sonradan işaretleyebilsin. Bir yazma aracı geliştiren bir geliştirici, kitleye bağlı olarak bunu kapalı bırakmayı tercih edebilir. Ayar AB dışındaki API kullanıcıları için isteğe bağlı olduğundan, benimseme muhtemelen sektöre ve bir şirketin kökene ne kadar önem verdiğine göre değişecek.

Filigranlama, laboratuvarların, üniversitelerin ve standart kuruluşlarının sentetik medyayı bozmadan nasıl işaretleyeceğini tartıştığı, AI araştırmasının en hareketli köşelerinden biri haline geldi. Metin, görsellerden daha zordur: bir görüntü gizli piksel desenleri taşıyabilir, ama kelimeler ayrıktır ve kolayca yeniden düzenlenir. textGrain gibi yaklaşımlar, işareti okuyuculara görünmez kalırken normal kullanımda hayatta tutmaya çalışıyor.

Görünmez filigranların varsayılan bir beklenti mi olacağı yoksa niş bir uyum aracına mı dönüşeceği, tespitin sahada ne kadar iyi dayandığına bağlı olacak. Şimdilik OpenAI’nin AB’deki sunumu, fikre bugüne kadarki en büyük gerçek dünya testini veriyor ve küresel geliştiricilere deney yapabilecekleri erken bir anahtar sunuyor.