OpenAI Thêm Dấu Thủy Vân Vô Hình vào Văn Bản AI tại EU
OpenAI đã bắt đầu thêm dấu thủy vân vô hình, có thể đọc bằng máy vào văn bản do một số mô hình của mình tạo ra, bắt đầu với người dùng tại Liên minh châu Âu. Công ty cho biết động thái này nhằm tuân thủ các yêu cầu minh bạch của Đạo luật AI EU, vốn yêu cầu các nhà cung cấp phải làm cho nội dung do AI tạo ra có thể nhận diện được. Tính năng này đang được bật tại EU trong vài tuần tới, và từ nay khách hàng API toàn cầu cũng có thể chọn bật nó cho các mô hình cụ thể.
Kỹ thuật đánh dấu thủy vân này được gọi là textGrain. Thay vì đóng dấu nhãn hiển thị lên một đoạn văn, nó hoạt động trong quá trình mô hình chọn từ, cài một tín hiệu thống kê vào những lựa chọn mà mô hình thực hiện khi viết. Một công cụ phát hiện biết cần tìm gì có thể đọc tín hiệu đó và quyết định liệu một đoạn văn bản có mang dấu thủy vân OpenAI hay không. Với người đọc bình thường, văn bản trông không thay đổi.
Sự tinh tế đó chính là mục đích. Nhãn hiển thị rất dễ bị gỡ bỏ: người dùng có thể sao chép một đoạn, yêu cầu mô hình khác viết lại, hoặc chỉ cần xóa ghi chú ở chân trang. Một dấu vết thống kê ẩn khó loại bỏ hơn mà không làm thay đổi chính văn bản. Nó cũng tránh sự khó xử khi ngắt một bài viết bằng biểu ngữ nói rằng máy đã viết nó, điều có thể gây khó chịu trong một cuộc trò chuyện, một bản nháp email hay một dòng mã.
Tuy nhiên, đánh dấu thủy vân vẫn là một thỏa hiệp kỹ thuật chứ không phải một con dấu hoàn hảo. Việc phát hiện thường cần quyền truy cập vào công cụ phù hợp, và tín hiệu có thể yếu đi khi văn bản bị chỉnh sửa nhiều, dịch hoặc trộn lẫn với văn bản do con người viết. OpenAI mô tả textGrain là một lớp trong nỗ lực minh bạch rộng lớn hơn chứ không phải bảo đảm rằng mọi câu có sự hỗ trợ của AI đều có thể truy vết. Công ty không nói rằng việc đánh dấu sẽ áp dụng cho mọi mô hình hay mọi khu vực, và đợt triển khai tại EU được mô tả là áp dụng cho đầu ra ChatGPT và Codex đủ điều kiện.
Yếu tố EU quan trọng vì các quy định AI của khối này nằm trong số những quy định đầu tiên yêu cầu kiểu minh bạch nội dung này từ các nhà cung cấp mô hình lớn. Các công ty phục vụ người dùng châu Âu đã điều chỉnh sản phẩm, tài liệu và quy trình nội bộ để phù hợp. Với OpenAI, việc thêm dấu thủy vân vừa là một bước tuân thủ vừa là cách kiểm tra công nghệ này hoạt động ra sao ở quy mô một chatbot phổ thông được hàng trăm triệu người sử dụng.
Với khách hàng API, lựa chọn bật đánh dấu thủy vân trên các mô hình được chọn mang lại cho doanh nghiệp một đòn bẩy. Một nhà xuất bản có thể muốn văn bản có sự hỗ trợ của AI được đánh dấu để hệ thống của chính họ có thể gắn cờ sau này. Một nhà phát triển xây dựng công cụ viết có thể thích tắt nó đi, tùy theo đối tượng. Vì cài đặt này là tùy chọn với người dùng API ngoài EU, mức độ áp dụng có thể sẽ khác nhau theo ngành và theo mức độ doanh nghiệp quan tâm đến nguồn gốc.
Đánh dấu thủy vân đã trở thành một trong những góc nghiên cứu AI sôi động hơn, với các phòng thí nghiệm, trường đại học và cơ quan tiêu chuẩn tranh luận về cách đánh dấu phương tiện tổng hợp mà không làm hỏng nó. Văn bản khó hơn hình ảnh: một bức ảnh có thể mang các mẫu pixel ẩn, nhưng từ ngữ là rời rạc và dễ bị sắp xếp lại. Các cách tiếp cận như textGrain cố gắng làm cho dấu tồn tại qua việc sử dụng bình thường trong khi vẫn vô hình với người đọc.
Liệu dấu thủy vân vô hình có trở thành kỳ vọng mặc định hay mờ nhạt thành một công cụ tuân thủ ngách sẽ phụ thuộc vào mức độ phát hiện đứng vững trong thực tế. Hiện tại, đợt triển khai tại EU của OpenAI mang lại cho ý tưởng này bài kiểm tra thực tế lớn nhất từ trước đến nay, và cho các nhà phát triển toàn cầu một công tắc sớm để thử nghiệm.