đéo có hình chó nó tin
Địt Bùng Đạo Tổ
Nếu một người dùng ChatGPT, Gemini hay Claude viết một bài rồi copy sang Word, sau đó gửi cho giáo viên hoặc xuất bản, liệu có cách nào biết văn bản đó được tạo bởi AI?
Câu trả lời đang dần là có. Các công ty AI đang phát triển một cách tiếp cận mới: thay vì chỉ nhìn vào văn phong để đoán "đây có phải văn bản AI không", họ gắn một dấu hiệu vô hình ngay trong quá trình AI tạo ra câu chữ.
Google đã triển khai công nghệ SynthID-Text cho văn bản Gemini, còn Anthropic vừa cho biết các mô hình Claude mới sẽ sử dụng watermark không thể nhận biết bằng mắt thường.
Hãy tưởng tượng AI đang viết câu:
"Hôm nay trời rất đẹp."
Khi tạo câu này, mô hình không đơn giản chọn từng từ một cách ngẫu nhiên. Nó tính toán xác suất của rất nhiều từ có thể xuất hiện tiếp theo.
Ví dụ, sau câu "Hôm nay trời...", AI có thể đánh giá:
"đẹp" 40%
"nắng" 30%
"mưa" 15%
"âm u" 5%
và nhiều lựa chọn khác.
Thông thường, AI sẽ chọn từ dựa trên những xác suất này.
Công nghệ watermark can thiệp rất nhẹ vào quá trình đó. Nó tạo ra một quy luật bí mật để khiến AI ưu tiên một số lựa chọn nhất định trong những tình huống nhất định. Những thay đổi này nhỏ đến mức người đọc không nhận ra, nhưng khi nhìn toàn bộ đoạn văn bằng một công cụ chuyên dụng, chúng tạo thành một mẫu thống kê đặc trưng.
Đó chính là watermark.
Google mô tả SynthID-Text theo nguyên lý này: điều chỉnh điểm xác suất của các token trong quá trình sinh văn bản để tạo ra một mẫu có thể nhận diện sau đó, mà không làm thay đổi đáng kể chất lượng hoặc ý nghĩa câu chữ.
Nói đơn giản:
AI không viết thêm một dòng chữ bí mật vào bài. Nó để lại một "thói quen lựa chọn từ" có chủ đích.
Không thể nhìn bằng mắt thường. Một công cụ phát hiện sẽ lấy đoạn văn cần kiểm tra và phân tích cách các từ, hay chính xác hơn là các token, được lựa chọn. Nó tìm xem văn bản có chứa mẫu thống kê mà hệ thống watermark đã tạo ra hay không.
Có thể hình dung như việc kiểm tra một tờ tiền. Bạn không cần nhìn thấy bằng mắt thường dấu bảo an. Máy kiểm tra tiền sẽ tìm một đặc điểm mà người làm giả khó nhận biết. Watermark văn bản cũng tương tự.
AI tạo ra hàng trăm hoặc hàng nghìn lựa chọn từ. Một số lựa chọn được "thiên vị" theo quy luật bí mật. Khi phân tích đủ dài, những lựa chọn nhỏ này cộng lại thành một tín hiệu đủ mạnh để hệ thống đưa ra kết luận.
Với SynthID-Text, Google cho biết hệ thống có thể tính điểm dựa trên mẫu lựa chọn token để đánh giá khả năng văn bản có chứa watermark.
Đây là điểm rất thú vị. Nếu watermark nằm trong một ký tự đặc biệt, việc copy sang Word hoặc Google Docs có thể làm mất nó. Nhưng với phương pháp nói trên, watermark không nằm ở một ký tự cụ thể. Nó nằm trong cách toàn bộ văn bản được hình thành.
Vì vậy, khi bạn copy: Claude → Word → email → website các chữ vẫn giữ nguyên và mẫu thống kê có thể vẫn còn đó.
Anthropic cho biết watermark của Claude được thiết kế để có thể tồn tại qua những thao tác thông thường như copy, paste và một số chỉnh sửa nhẹ. Công ty cũng đang phát triển công cụ để người dùng và bên thứ ba có thể phát hiện dấu này.
Đây là điểm rất quan trọng. Watermark hoạt động tốt nhất khi văn bản vẫn tương đối gần với phiên bản AI ban đầu. Nếu một người lấy bài do AI viết rồi sửa rất nhiều, viết lại bằng ngôn ngữ khác hoặc nhờ một AI khác diễn đạt lại, tín hiệu watermark có thể yếu đi hoặc biến mất.
Các nghiên cứu cũng cho thấy đây là một trong những thách thức lớn nhất của watermark văn bản. Một nghiên cứu đánh giá các phương pháp watermark hiện nay cho thấy việc paraphrase có thể làm suy giảm đáng kể khả năng phát hiện.
Vì vậy, nếu một công cụ nói: "Văn bản này có watermark của Claude." thì ý nghĩa hợp lý hơn là: "Văn bản này có những đặc điểm phù hợp với watermark mà Claude đã nhúng vào nội dung."
Nó không nhất thiết chứng minh được ai đã sử dụng AI, sử dụng vào thời điểm nào hay người đó không hề chỉnh sửa văn bản.
Có thể chia thành hai cách chính.
Cách thứ nhất: watermark ngay trong quá trình AI viết.
Google đang đi theo hướng này với SynthID-Text. Watermark được tạo ra ngay khi mô hình lựa chọn token.
Anthropic cũng đang áp dụng một dạng watermark không thể nhận biết bằng mắt thường cho các mô hình Claude mới.
Cách thứ hai: gắn thông tin nguồn gốc vào file.
Với hình ảnh, video hoặc một số loại file, công nghệ có thể sử dụng metadata để ghi lại nguồn gốc nội dung. Anthropic cho biết họ sử dụng chuẩn C2PA cho hình ảnh và metadata nguồn gốc của file.
Hai cách này có điểm khác nhau.
Metadata giống như một chiếc tem trên bao bì.
Watermark giống như một dấu hiệu được đưa vào chính sản phẩm.
Nếu chỉ có metadata, việc chỉnh sửa hoặc tải lại file qua một số nền tảng có thể làm mất thông tin. Còn watermark được thiết kế để nằm trong chính nội dung nên khó bị loại bỏ bằng những thao tác thông thường hơn.
Một lý do quan trọng là minh bạch về nội dung AI.
Khi AI ngày càng được sử dụng để viết bài báo, sách, bài tập, quảng cáo, tài liệu doanh nghiệp và nội dung trên mạng xã hội, câu hỏi "Nội dung này do người hay máy tạo ra?" ngày càng quan trọng.
Đặc biệt tại châu Âu, các quy định mới về minh bạch nội dung AI đang thúc đẩy các công ty phải có cơ chế nhận diện và công bố nguồn gốc nội dung. Anthropic cho biết việc triển khai watermark Claude liên quan trực tiếp tới các yêu cầu minh bạch của EU AI Act.
Điều đó có thể dẫn tới một thay đổi đáng chú ý:
Trong tương lai, AI không chỉ tạo ra nội dung. Nó có thể đồng thời để lại "dấu vân tay" cho nội dung đó.
Và cuộc chơi giữa AI tạo nội dung và AI phát hiện nội dung vì thế có thể chuyển từ việc "đoán văn phong có giống AI hay không" sang một cuộc kiểm tra hoàn toàn khác:
"Trong văn bản này có dấu hiệu mà chính mô hình đã để lại khi tạo ra nó hay không?"
Tuy nhiên, cuộc đua chưa kết thúc. Các nhà nghiên cứu vẫn đang tìm cách làm watermark bền hơn trước việc viết lại, dịch và chỉnh sửa, trong khi những người muốn che giấu nguồn gốc AI lại có động cơ tìm cách loại bỏ những dấu hiệu đó.
Câu trả lời đang dần là có. Các công ty AI đang phát triển một cách tiếp cận mới: thay vì chỉ nhìn vào văn phong để đoán "đây có phải văn bản AI không", họ gắn một dấu hiệu vô hình ngay trong quá trình AI tạo ra câu chữ.
Google đã triển khai công nghệ SynthID-Text cho văn bản Gemini, còn Anthropic vừa cho biết các mô hình Claude mới sẽ sử dụng watermark không thể nhận biết bằng mắt thường.
Hãy tưởng tượng AI đang viết câu:
"Hôm nay trời rất đẹp."
Khi tạo câu này, mô hình không đơn giản chọn từng từ một cách ngẫu nhiên. Nó tính toán xác suất của rất nhiều từ có thể xuất hiện tiếp theo.
Ví dụ, sau câu "Hôm nay trời...", AI có thể đánh giá:
"đẹp" 40%
"nắng" 30%
"mưa" 15%
"âm u" 5%
và nhiều lựa chọn khác.
Thông thường, AI sẽ chọn từ dựa trên những xác suất này.
Công nghệ watermark can thiệp rất nhẹ vào quá trình đó. Nó tạo ra một quy luật bí mật để khiến AI ưu tiên một số lựa chọn nhất định trong những tình huống nhất định. Những thay đổi này nhỏ đến mức người đọc không nhận ra, nhưng khi nhìn toàn bộ đoạn văn bằng một công cụ chuyên dụng, chúng tạo thành một mẫu thống kê đặc trưng.
Đó chính là watermark.
Google mô tả SynthID-Text theo nguyên lý này: điều chỉnh điểm xác suất của các token trong quá trình sinh văn bản để tạo ra một mẫu có thể nhận diện sau đó, mà không làm thay đổi đáng kể chất lượng hoặc ý nghĩa câu chữ.
Nói đơn giản:
AI không viết thêm một dòng chữ bí mật vào bài. Nó để lại một "thói quen lựa chọn từ" có chủ đích.
Không thể nhìn bằng mắt thường. Một công cụ phát hiện sẽ lấy đoạn văn cần kiểm tra và phân tích cách các từ, hay chính xác hơn là các token, được lựa chọn. Nó tìm xem văn bản có chứa mẫu thống kê mà hệ thống watermark đã tạo ra hay không.
Có thể hình dung như việc kiểm tra một tờ tiền. Bạn không cần nhìn thấy bằng mắt thường dấu bảo an. Máy kiểm tra tiền sẽ tìm một đặc điểm mà người làm giả khó nhận biết. Watermark văn bản cũng tương tự.
AI tạo ra hàng trăm hoặc hàng nghìn lựa chọn từ. Một số lựa chọn được "thiên vị" theo quy luật bí mật. Khi phân tích đủ dài, những lựa chọn nhỏ này cộng lại thành một tín hiệu đủ mạnh để hệ thống đưa ra kết luận.
Với SynthID-Text, Google cho biết hệ thống có thể tính điểm dựa trên mẫu lựa chọn token để đánh giá khả năng văn bản có chứa watermark.
Đây là điểm rất thú vị. Nếu watermark nằm trong một ký tự đặc biệt, việc copy sang Word hoặc Google Docs có thể làm mất nó. Nhưng với phương pháp nói trên, watermark không nằm ở một ký tự cụ thể. Nó nằm trong cách toàn bộ văn bản được hình thành.
Vì vậy, khi bạn copy: Claude → Word → email → website các chữ vẫn giữ nguyên và mẫu thống kê có thể vẫn còn đó.
Anthropic cho biết watermark của Claude được thiết kế để có thể tồn tại qua những thao tác thông thường như copy, paste và một số chỉnh sửa nhẹ. Công ty cũng đang phát triển công cụ để người dùng và bên thứ ba có thể phát hiện dấu này.
Đây là điểm rất quan trọng. Watermark hoạt động tốt nhất khi văn bản vẫn tương đối gần với phiên bản AI ban đầu. Nếu một người lấy bài do AI viết rồi sửa rất nhiều, viết lại bằng ngôn ngữ khác hoặc nhờ một AI khác diễn đạt lại, tín hiệu watermark có thể yếu đi hoặc biến mất.
Các nghiên cứu cũng cho thấy đây là một trong những thách thức lớn nhất của watermark văn bản. Một nghiên cứu đánh giá các phương pháp watermark hiện nay cho thấy việc paraphrase có thể làm suy giảm đáng kể khả năng phát hiện.
Vì vậy, nếu một công cụ nói: "Văn bản này có watermark của Claude." thì ý nghĩa hợp lý hơn là: "Văn bản này có những đặc điểm phù hợp với watermark mà Claude đã nhúng vào nội dung."
Nó không nhất thiết chứng minh được ai đã sử dụng AI, sử dụng vào thời điểm nào hay người đó không hề chỉnh sửa văn bản.
Có thể chia thành hai cách chính.
Cách thứ nhất: watermark ngay trong quá trình AI viết.
Google đang đi theo hướng này với SynthID-Text. Watermark được tạo ra ngay khi mô hình lựa chọn token.
Anthropic cũng đang áp dụng một dạng watermark không thể nhận biết bằng mắt thường cho các mô hình Claude mới.
Cách thứ hai: gắn thông tin nguồn gốc vào file.
Với hình ảnh, video hoặc một số loại file, công nghệ có thể sử dụng metadata để ghi lại nguồn gốc nội dung. Anthropic cho biết họ sử dụng chuẩn C2PA cho hình ảnh và metadata nguồn gốc của file.
Hai cách này có điểm khác nhau.
Metadata giống như một chiếc tem trên bao bì.
Watermark giống như một dấu hiệu được đưa vào chính sản phẩm.
Nếu chỉ có metadata, việc chỉnh sửa hoặc tải lại file qua một số nền tảng có thể làm mất thông tin. Còn watermark được thiết kế để nằm trong chính nội dung nên khó bị loại bỏ bằng những thao tác thông thường hơn.
Một lý do quan trọng là minh bạch về nội dung AI.
Khi AI ngày càng được sử dụng để viết bài báo, sách, bài tập, quảng cáo, tài liệu doanh nghiệp và nội dung trên mạng xã hội, câu hỏi "Nội dung này do người hay máy tạo ra?" ngày càng quan trọng.
Đặc biệt tại châu Âu, các quy định mới về minh bạch nội dung AI đang thúc đẩy các công ty phải có cơ chế nhận diện và công bố nguồn gốc nội dung. Anthropic cho biết việc triển khai watermark Claude liên quan trực tiếp tới các yêu cầu minh bạch của EU AI Act.
Điều đó có thể dẫn tới một thay đổi đáng chú ý:
Trong tương lai, AI không chỉ tạo ra nội dung. Nó có thể đồng thời để lại "dấu vân tay" cho nội dung đó.
Và cuộc chơi giữa AI tạo nội dung và AI phát hiện nội dung vì thế có thể chuyển từ việc "đoán văn phong có giống AI hay không" sang một cuộc kiểm tra hoàn toàn khác:
"Trong văn bản này có dấu hiệu mà chính mô hình đã để lại khi tạo ra nó hay không?"
Tuy nhiên, cuộc đua chưa kết thúc. Các nhà nghiên cứu vẫn đang tìm cách làm watermark bền hơn trước việc viết lại, dịch và chỉnh sửa, trong khi những người muốn che giấu nguồn gốc AI lại có động cơ tìm cách loại bỏ những dấu hiệu đó.
AI đang làm gì để “đóng dấu” vào văn bản do máy tạo ra?
Nếu một người dùng ChatGPT, Gemini hay Claude viết một bài rồi copy sang Word, sau đó gửi cho giáo viên hoặc xuất bản, liệu có cách nào biết văn bản đó được tạo bởi AI? Câu trả lời đang dần là có. Các công ty AI đang phát triển một cách tiếp cận mới: thay vì chỉ nhìn vào văn phong để đoán "đây...
vnreview.vn
