0:00

14:03

Claude is watermarking AI text: Everything you need to know

Kai·14:03·Technology·B2

Chương · 8

Chương 1·The Watermark Arrives

Hiển thị

Tiếng ViệtAuto-scroll

0:00

Last week I was writing an article.

Tuần trước tôi đang viết một bài báo.

0:02

A proper one with research, structure, multiple drafts.

Một bài tử tế với nghiên cứu, cấu trúc, nhiều bản nháp.

0:05

Somewhere in the middle of it, I used Claude to help me tighten a paragraph.

Đâu đó ở giữa, tôi dùng Claude để giúp tôi chau chuốt một đoạn văn.

0:10

Just one paragraph.

Chỉ một đoạn văn.

0:11

I kept maybe 40% of what it suggested, rewrote the rest, and moved on.

Tôi giữ lại khoảng 40% những gì nó đề xuất, viết lại phần còn lại, rồi tiếp tục.

0:15

That article now has a watermark in it.

Bài báo đó giờ có một dấu thủy vân trong đó.

0:18

I didn't put it there.

Tôi không đặt nó ở đó.

0:20

I didn't consent to it.

Tôi không đồng ý với nó.

0:21

I didn't even know it was happening in real time.

Tôi thậm chí còn không biết nó đang diễn ra trong thời gian thực.

0:25

It was silently embedded in the text by Claude, invisible to me, invisible to anyone reading it, but detectable by machines that know what to look for.

Nó được Claude âm thầm nhúng vào văn bản, vô hình với tôi, vô hình với bất kỳ ai đọc nó, nhưng có thể phát hiện được bởi máy móc biết cần tìm gì.

0:33

This week Anthropic announced that it is embedding machine-readable watermarks into everything Claude generates.

Tuần này Anthropic thông báo rằng họ đang nhúng dấu thủy vân có thể đọc bằng máy vào mọi thứ Claude tạo ra.

0:39

Claude.ai, the API, Claude code, Claude co-work, everything, including Claude access through AWS, Google Cloud, and Microsoft Foundry.

Claude.ai, API, Claude code, Claude co-work, mọi thứ, bao gồm cả quyền truy cập Claude qua AWS, Google Cloud và Microsoft Foundry.

0:45

My initial reaction was kind of complicated.

Phản ứng ban đầu của tôi khá phức tạp.

0:48

Not angry exactly, just unsettled.

Không hẳn là tức giận, chỉ là bất an.

0:50

Because the more I dug into how this actually works, the more questions I had about what this means for people who use AI as a writing tool, about where the line is between

Bởi vì càng tìm hiểu sâu về cách điều này thực sự hoạt động, tôi càng có nhiều câu hỏi về ý nghĩa của nó đối với những người dùng AI như một công cụ viết lách, về ranh giới giữa

1:03

detection and surveillance, about whether any of this will even work.

Phát hiện và giám sát, về việc liệu điều này có thực sự hiệu quả hay không.

1:06

So in this video, I want to walk you through the whole thing.

Vậy nên trong video này, tôi muốn dẫn bạn đi qua toàn bộ vấn đề.

1:10

What the watermark is, how it works under the hood, who it's designed to catch, and whether it can be removed or worked around.

Dấu thủy vân là gì, nó hoạt động như thế nào bên dưới, nó được thiết kế để bắt ai, và liệu nó có thể bị loại bỏ hay lách qua được không.

1:17

The answers to those last questions are genuinely surprising.

Câu trả lời cho những câu hỏi cuối đó thực sự đáng ngạc nhiên.

1:20

Let's start with why.

Hãy bắt đầu với lý do tại sao.

1:21

Because this didn't come from nowhere.

Bởi vì điều này không từ đâu mà đến.

1:23

The immediate trigger is article 50 of the EU AI Act, which came into force on the 2nd of August 2026.

Nguyên nhân trực tiếp là Điều 50 của Đạo luật AI EU, có hiệu lực vào ngày 2 tháng 8 năm 2026.

1:31

The regulation requires that providers of generative AI systems make synthetic text, images, audio, and video machine-readable and detectable as artificially generated.

Quy định yêu cầu các nhà cung cấp hệ thống AI tạo sinh phải làm cho văn bản, hình ảnh, âm thanh và video tổng hợp có thể đọc được bằng máy và có thể phát hiện là do AI tạo ra.

1:40

The stated goal is the genuinely big stuff.

Mục tiêu được nêu là những thứ thực sự lớn lao.

1:43

State-sponsored deepfakes, mass manipulation, consumer deception at industrial scale.

Deepfake do nhà nước bảo trợ, thao túng hàng loạt, lừa dối người tiêu dùng ở quy mô công nghiệp.

1:46

The EU's theory is that if you can detect AI-generated content reliably, you can at least identify and contain the worst actors before they do serious damage.

Lý thuyết của EU là nếu bạn có thể phát hiện nội dung do AI tạo ra một cách đáng tin cậy, bạn ít nhất có thể nhận diện và ngăn chặn những kẻ xấu tồi tệ nhất trước khi chúng gây thiệt hại nghiêm trọng.

1:56

And I actually think there's something sensible in the intention.

Và tôi thực sự nghĩ có điều gì đó hợp lý trong ý định này.

1:59

I remember reading about Cambridge Analytica, the Facebook data scandal where personality

Tôi nhớ đã đọc về Cambridge Analytica, vụ bê bối dữ liệu Facebook nơi các bài trắc nghiệm

2:04

quizzes were used to harvest data and influence election outcomes.

Tính cách được dùng để thu thập dữ liệu và ảnh hưởng đến kết quả bầu cử.

2:07

By the time anyone did anything about it, the damage was done.

Đến khi có ai đó làm gì về nó, thiệt hại đã xảy ra rồi.

2:12

The EU's argument is basically build the detection infrastructure now before the large-scale manipulation happens, not after.

Lập luận của EU về cơ bản là xây dựng cơ sở hạ tầng phát hiện ngay bây giờ trước khi thao túng quy mô lớn xảy ra, chứ không phải sau đó.

2:18

That's a reasonable argument, genuinely.

Đó là một lập luận hợp lý, thực sự.

2:20

But the regulation is broad enough that it doesn't just catch the obvious bad actors, the forms

Nhưng quy định đủ rộng đến mức nó không chỉ bắt những kẻ xấu rõ ràng, những dạng

2:27

of AI-generated spam, the synthetic propaganda, the fake reviews.

Spam do AI tạo ra, tuyên truyền tổng hợp, đánh giá giả.

2:30

It also catches me editing one paragraph in an article.

Nó cũng bắt tôi khi tôi chỉnh sửa một đoạn văn trong một bài báo.

2:33

It catches a lawyer asking Claude to clean up a memo.

Nó bắt một luật sư nhờ Claude dọn dẹp một bản ghi nhớ.

2:37

It catches a student asking Claude to proofread their essay draft.

Nó bắt một sinh viên nhờ Claude hiệu đính bản nháp bài luận của họ.

2:41

There's also an exemption buried in the regulation that I found genuinely confusing when I read it.

Còn có một ngoại lệ ẩn trong quy định mà tôi thấy thực sự khó hiểu khi đọc nó.

2:47

If a piece of content has undergone

Nếu một nội dung đã trải qua

2:50

substantive human review and remains under human editorial responsibility, it can apparently be labeled as non-AI even if AI was heavily used in its creation.

Đánh giá thực chất của con người và vẫn thuộc trách nhiệm biên tập của con người, nó dường như có thể được dán nhãn là không phải AI ngay cả khi AI được sử dụng nhiều trong việc tạo ra nó.

3:00

I sat with that for a minute.

Tôi ngồi suy nghĩ về điều đó một lúc.

3:02

So, if I wrote an article, used Claude to restructure half of it, reviewed the result, and published it under my name, it might qualify as non-AI content under the exception.

Vậy, nếu tôi viết một bài báo, dùng Claude để tái cấu trúc một nửa, xem xét kết quả, và xuất bản dưới tên mình, nó có thể đủ điều kiện là nội dung không phải AI theo ngoại lệ.

3:12

But if I asked Claude to draft something and published it with only light edits, it wouldn't.

Nhưng nếu tôi nhờ Claude soạn thảo gì đó và xuất bản nó chỉ với những chỉnh sửa nhẹ, thì không.

3:17

The line between those two scenarios is left almost entirely undefined.

Ranh giới giữa hai tình huống đó gần như hoàn toàn không được xác định.

3:21

I don't think

Tôi không nghĩ

3:22

anyone fully knows yet where that line actually sits.

Ai đó thực sự biết rõ ranh giới đó nằm ở đâu.

3:25

Now, let's talk about how this watermark system actually works.

Giờ, hãy nói về cách hệ thống dấu thủy vân này thực sự hoạt động.

3:28

To be honest, Anthropic hasn't publicly announced exactly how their watermark works.

Thành thật mà nói, Anthropic chưa công bố chính xác cách dấu thủy vân của họ hoạt động.

3:33

But based on what's been published in AI research, here's the most likely approach, and it's elegant.

Nhưng dựa trên những gì đã được công bố trong nghiên cứu AI, đây là cách tiếp cận khả dĩ nhất, và nó rất tinh tế.

3:39

When Claude generates text, it's not just picking words randomly.

Khi Claude tạo văn bản, nó không chỉ chọn từ ngẫu nhiên.

3:43

At each step, it has a probability distribution over what word could come next.

Ở mỗi bước, nó có một phân phối xác suất về từ nào có thể xuất hiện tiếp theo.

3:50

So, imagine Claude is writing the sentence, "The workshop was surprisingly" and it's calculating its next word.

Vậy, hãy tưởng tượng Claude đang viết câu, "Buổi hội thảo thật đáng ngạc nhiên là" và nó đang tính toán từ tiếp theo.

3:57

Maybe it thinks useful has a 28% probability, productive has 24%, enjoyable has 18%, practical 16%, interesting 14%.

Có thể nó nghĩ hữu ích có xác suất 28%, hiệu quả có 24%, thú vị có 18%, thiết thực 16%, hấp dẫn 14%.

4:06

It then

Sau đó nó

4:07

samples from that distribution, usually picking from the top candidates.

Lấy mẫu từ phân phối đó, thường chọn từ các ứng viên hàng đầu.

4:10

Here's how the watermark modifies this without changing what the sentence sounds like.

Đây là cách watermark sửa đổi điều này mà không thay đổi âm thanh của câu.

4:16

Before sampling, the system secretly divides the plausible next words into two groups.

Trước khi lấy mẫu, hệ thống bí mật chia các từ tiếp theo hợp lý thành hai nhóm.

4:20

Call them green tokens and red tokens.

Gọi chúng là token xanh và token đỏ.

4:23

The grouping is determined by a secret cryptographic key, essentially a random but reproducible assignment that only Anthropic's detector knows about.

Việc phân nhóm được xác định bởi một khóa mật mã bí mật, về cơ bản là một phép gán ngẫu nhiên nhưng có thể tái tạo mà chỉ máy dò của Anthropic biết.

4:30

Green tokens get a small probability boost.

Token xanh được tăng xác suất một chút.

4:33

Red tokens get a small penalty.

Token đỏ bị phạt một chút.

4:35

The model then samples

Sau đó mô hình lấy mẫu

4:37

as usual, but over hundreds of word choices, it ends up choosing disproportionately from the green group.

Như thường lệ, nhưng qua hàng trăm lựa chọn từ, cuối cùng nó chọn không cân đối từ nhóm xanh.

4:43

A human writer with no knowledge of the key would be expected to land on green tokens about half the time by chance.

Một người viết không biết khóa sẽ được kỳ vọng rơi vào token xanh khoảng một nửa thời gian do ngẫu nhiên.

4:49

Claude, subtly nudged at every step, lands on them significantly more often.

Claude, được thúc đẩy tinh tế ở mỗi bước, rơi vào chúng thường xuyên hơn đáng kể.

4:55

Detection is essentially a statistical test.

Phát hiện về cơ bản là một kiểm định thống kê.

4:57

If you have a 200-word text and 130 out of 200 eligible tokens are green, when you'd only expect 100 from random chance, the mathematics says it's essentially impossible for a human to have written that.

Nếu bạn có một văn bản 200 từ và 130 trong số 200 token hợp lệ là xanh, khi bạn chỉ kỳ vọng 100 từ ngẫu nhiên, toán học nói rằng về cơ bản không thể có một người viết điều đó.

5:09

Not unlikely, essentially impossible.

Không phải không chắc, mà về cơ bản là không thể.

5:11

The formula behind that test is what statisticians call a Z-score.

Công thức đằng sau kiểm định đó là cái mà các nhà thống kê gọi là điểm Z.

5:15

And even if the formula

Và ngay cả khi công thức

5:17

itself looks intimidating, the concept is the same one you used to test whether a coin is weighted.

Tự nó trông đáng sợ, khái niệm vẫn là cái bạn dùng để kiểm tra xem một đồng xu có bị gian lận không.

5:22

You can't tell from three coin tosses, but if a coin lands head 6,500 times in 10,000 flips, you can be very confident it's not a fair coin.

Bạn không thể nói từ ba lần tung đồng xu, nhưng nếu một đồng xu ra mặt ngửa 6.500 lần trong 10.000 lần tung, bạn có thể rất tự tin rằng nó không phải đồng xu công bằng.

5:32

The watermark works the same way, not in any single word, in the accumulated statistical pattern across the whole text.

Watermark hoạt động theo cùng cách, không phải trong bất kỳ từ đơn lẻ nào, mà trong mẫu thống kê tích lũy trên toàn bộ văn bản.

5:38

And the detail that

Và chi tiết

5:40

surprised me most, copying and pasting doesn't remove it.

Làm tôi ngạc nhiên nhất, sao chép và dán không loại bỏ nó.

5:43

Changing the font doesn't remove it.

Thay đổi phông chữ không loại bỏ nó.

5:45

Moving the text to a different document doesn't remove it.

Chuyển văn bản sang tài liệu khác không loại bỏ nó.

5:49

The watermark lives entirely in the word choices themselves, not in the formatting, not in the metadata, not in any hidden characters.

Watermark sống hoàn toàn trong chính các lựa chọn từ, không phải trong định dạng, không phải trong siêu dữ liệu, không phải trong bất kỳ ký tự ẩn nào.

5:56

Just in the statistical fingerprint of which words were selected.

Chỉ trong dấu vân tay thống kê về những từ nào được chọn.

6:00

I'd assumed, naively, that watermarking meant some kind of tag or invisible marker, something you could strip by copying clean.

Tôi đã ngây thơ cho rằng watermarking có nghĩa là một loại thẻ hoặc dấu vô hình nào đó, thứ bạn có thể loại bỏ bằng cách sao chép sạch.

6:06

It's not.

Không phải vậy.

6:07

It's baked into the language itself.

Nó được nướng vào chính ngôn ngữ.

6:09

And

Và

6:10

after all this, my initial assumption was that this is a tool for catching plagiarists, students submitting AI essays, workers passing off AI output as their own.

Sau tất cả những điều này, giả định ban đầu của tôi là đây là một công cụ để bắt những kẻ đạo văn, sinh viên nộp bài luận AI, công nhân giả mạo đầu ra AI là của mình.

6:19

And yes, that's part of it.

Và vâng, đó là một phần của nó.

6:21

But the more I sat with it, the more I realized there's a subtler problem that most people aren't talking about.

Nhưng càng ngồi với nó, tôi càng nhận ra có một vấn đề tinh tế hơn mà hầu hết mọi người không nói đến.

6:26

Watermarking detects that Claude processed text, not that Claude authored text.

Watermarking phát hiện rằng Claude đã xử lý văn bản, không phải rằng Claude đã viết văn bản.

6:30

This distinction matters enormously.

Sự phân biệt này cực kỳ quan trọng.

6:31

If you write a 2,000-word essay entirely by yourself, then ask Claude to proofread it and fix a few sentences, the resulting text may come back watermarked.

Nếu bạn viết một bài luận 2.000 từ hoàn toàn một mình, sau đó nhờ Claude hiệu đính và sửa vài câu, văn bản kết quả có thể trở lại với watermark.

6:42

The watermark would say, "Claude probably touched this." It would not say, "Claude wrote this." Those are completely different

Watermark sẽ nói, "Claude có thể đã chạm vào cái này." Nó sẽ không nói, "Claude đã viết cái này." Đó là những tuyên bố hoàn toàn khác nhau

6:50

statements, and the detector doesn't distinguish between them.

Và máy dò không phân biệt giữa chúng.

6:53

Anthropic explicitly acknowledges this.

Anthropic thừa nhận điều này một cách rõ ràng.

6:55

They give examples: proofreading, translation, summarization, file conversion.

Họ đưa ra ví dụ: hiệu đính, dịch, tóm tắt, chuyển đổi tệp.

6:58

All of these can result in watermarked output, even when the underlying content was entirely human created.

Tất cả những điều này có thể dẫn đến đầu ra có watermark, ngay cả khi nội dung cơ bản hoàn toàn do con người tạo ra.

7:06

Now, imagine that same situation in an academic context.

Bây giờ, hãy tưởng tượng tình huống tương tự trong bối cảnh học thuật.

7:09

A student writes their own

Một sinh viên viết bài luận của riêng họ

7:12

essay.

Bài luận.

7:12

They ask Claude to fix some grammar.

Họ nhờ Claude sửa một số ngữ pháp.

7:14

They submit it.

Họ nộp nó.

7:16

The teacher runs a watermark detector.

Giáo viên chạy một máy dò watermark.

7:18

It comes back positive.

Kết quả trả về là dương tính.

7:19

What does the teacher conclude?

Giáo viên kết luận điều gì?

7:21

There's also the false positive problem.

Còn có vấn đề dương tính giả nữa.

7:23

Even a very accurate detector, one that's wrong only 0.1% of the time, would still incorrectly flag 100 genuinely human-written essays in a collection of 100,000.

Ngay cả một công cụ phát hiện rất chính xác, chỉ sai 0,1% số lần, vẫn sẽ đánh dấu sai 100 bài luận thực sự do con người viết trong một tập hợp 100.000 bài.

7:33

That's 100 people

Đó là 100 người

7:34

potentially accused of something they didn't do.

Có khả năng bị buộc tội vì điều họ không làm.

7:36

At scale, that's not a rounding error.

Ở quy mô lớn, đó không phải là sai số làm tròn.

7:38

That's real harm to real people.

Đó là tổn hại thực sự đối với con người thực sự.

7:40

The technology might work technically.

Công nghệ này có thể hoạt động về mặt kỹ thuật.

7:42

The interpretation problems that come with using it to make decisions about individual people are serious and largely unsolved.

Những vấn đề diễn giải đi kèm với việc sử dụng nó để đưa ra quyết định về từng cá nhân là nghiêm trọng và phần lớn chưa được giải quyết.

7:49

Now, you might ask, can we remove the watermark?

Bây giờ, bạn có thể hỏi, liệu chúng ta có thể loại bỏ dấu thủy vân không?

7:52

The short answer, it depends entirely on what you mean by remove and how much effort you want to put in.

Câu trả lời ngắn gọn là: hoàn toàn phụ thuộc vào ý bạn khi nói "loại bỏ" là gì và bạn muốn bỏ ra bao nhiêu công sức.

8:00

Simple copying, as we established, does nothing.

Sao chép đơn giản, như chúng ta đã xác định, không làm được gì.

8:03

The watermark survives format changes, platform changes, and copy-paste completely intact.

Dấu thủy vân tồn tại qua thay đổi định dạng, thay đổi nền tảng và sao chép-dán một cách hoàn toàn nguyên vẹn.

8:07

Light editing, changing a few words, replacing some adjectives, probably doesn't fix it either.

Chỉnh sửa nhẹ, thay đổi vài từ, thay thế một số tính từ, có lẽ cũng không khắc phục được.

8:13

The watermark is a statistical

Dấu thủy vân là một mẫu thống kê

8:15

pattern across hundreds of choices.

Trải qua hàng trăm lựa chọn.

8:18

Swapping five words out of 200 barely moves the needle.

Đổi năm từ trong số 200 từ hầu như không thay đổi được gì.

8:22

Heavy paraphrasing is more interesting.

Diễn đạt lại nhiều thì thú vị hơn.

8:24

Research has found that sufficiently aggressive paraphrasing, where you're genuinely rewriting sentences rather than swapping synonyms, does reduce detection reliability.

Nghiên cứu đã phát hiện rằng việc diễn đạt lại đủ mạnh, khi bạn thực sự viết lại câu thay vì chỉ hoán đổi từ đồng nghĩa, có làm giảm độ tin cậy của việc phát hiện.

8:32

One study, called the Dipper study, successfully evaded multiple AI detectors, including watermark-based systems, while broadly

Một nghiên cứu, gọi là nghiên cứu Dipper, đã né tránh thành công nhiều công cụ phát hiện AI, bao gồm cả các hệ thống dựa trên dấu thủy vân, trong khi vẫn bảo toàn

8:39

preserving meaning.

Ý nghĩa một cách rộng rãi.

8:39

But, a competing study complicated this picture.

Nhưng, một nghiên cứu đối thủ đã làm phức tạp bức tranh này.

8:42

It showed that after strong human paraphrasing, watermark fragments can still survive because rewritten passages often retain phrases from the original.

Nó cho thấy rằng sau khi con người diễn đạt lại mạnh mẽ, các mảnh dấu thủy vân vẫn có thể tồn tại vì các đoạn được viết lại thường giữ lại các cụm từ từ bản gốc.

8:52

After heavy paraphrasing, reliable detection required around 800 tokens on average.

Sau khi diễn đạt lại nhiều, việc phát hiện đáng tin cậy đòi hỏi trung bình khoảng 800 token.

8:55

So, it's not a clean escape.

Vì vậy, đó không phải là một lối thoát sạch sẽ.

8:58

It raises the bar on how long a text needs to be before detection becomes confident.

Nó nâng cao ngưỡng về độ dài văn bản cần thiết trước khi việc phát hiện trở nên chắc chắn.

9:03

Translation is genuinely interesting and slightly absurd.

Dịch thuật thực sự thú vị và hơi phi lý.

9:06

If Claude writes text in English and a completely separate system translates it into French, the token pattern may

Nếu Claude viết văn bản bằng tiếng Anh và một hệ thống hoàn toàn tách biệt dịch nó sang tiếng Pháp, mẫu token có thể

9:13

disappear because the French tokens were chosen by a different model with no knowledge of the watermark key.

Biến mất vì các token tiếng Pháp được chọn bởi một mô hình khác không biết gì về khóa dấu thủy vân.

9:18

But, if you ask Claude itself to translate its own English output into French, Claude can embed a fresh watermark into the French text.

Nhưng, nếu bạn yêu cầu chính Claude dịch đầu ra tiếng Anh của nó sang tiếng Pháp, Claude có thể nhúng một dấu thủy vân mới vào văn bản tiếng Pháp.

9:25

It's like laundering the money, but forgetting that the casino is also owned by the same bank.

Nó giống như rửa tiền, nhưng quên rằng sòng bạc cũng thuộc sở hữu của cùng một ngân hàng.

9:30

Using a different AI model entirely bypasses

Sử dụng một mô hình AI hoàn toàn khác sẽ bỏ qua hoàn toàn

9:32

Claude's specific watermark completely.

Dấu thủy vân cụ thể của Claude.

9:34

Claude's detector can only identify text watermarked by Claude.

Công cụ phát hiện của Claude chỉ có thể nhận diện văn bản được đánh dấu thủy vân bởi Claude.

9:37

It has no ability to flag output from Gemini, GPT, or any open-source model.

Nó không có khả năng đánh dấu đầu ra từ Gemini, GPT, hay bất kỳ mô hình mã nguồn mở nào.

9:42

And open-source models are especially resistant because users can modify the sampling code itself, essentially removing the mechanism that applies the watermark in the first place.

Và các mô hình mã nguồn mở đặc biệt kháng cự vì người dùng có thể sửa đổi chính mã lấy mẫu, về cơ bản loại bỏ cơ chế áp dụng dấu thủy vân ngay từ đầu.

9:52

And then there's this theoretical result from a paper called

Và sau đó là kết quả lý thuyết này từ một bài báo có tên

9:56

Watermarks in the Sand, which I think is the most honest framing of all this.

Watermarks in the Sand, mà tôi nghĩ là cách diễn đạt trung thực nhất về tất cả những điều này.

10:01

Under reasonably general assumptions, perfect text watermarking is probably impossible.

Dưới những giả định khá tổng quát, việc đánh dấu thủy vân văn bản hoàn hảo có lẽ là không thể.

10:04

The fundamental reason is simple: meaning is stable, but wording is replaceable.

Lý do cơ bản rất đơn giản: ý nghĩa thì ổn định, nhưng cách diễn đạt có thể thay thế.

10:09

If many different texts can express the same idea, a watermark attached to one particular wording can't control all of them.

Nếu nhiều văn bản khác nhau có thể diễn đạt cùng một ý tưởng, một dấu thủy vân gắn với một cách diễn đạt cụ thể không thể kiểm soát tất cả chúng.

10:16

Now, you might think all of this is happening because of EU, but you are wrong.

Bây giờ, bạn có thể nghĩ tất cả những điều này đang xảy ra vì EU, nhưng bạn sai.

10:22

Yes, the EU AI

Đúng, Đạo luật AI của EU

10:24

Act is the regulatory trigger, but there's a second reason why Anthropic has moved on this quickly, and I think it's actually just as important for them as a company: AI model collapse.

Là yếu tố kích hoạt quy định, nhưng có một lý do thứ hai khiến Anthropic đã hành động nhanh chóng về việc này, và tôi nghĩ nó thực sự quan trọng không kém đối với họ với tư cách là một công ty: sự sụp đổ của mô hình AI.

10:34

Models get worse when they're trained on AI-generated text.

Các mô hình trở nên tệ hơn khi chúng được huấn luyện trên văn bản do AI tạo ra.

10:36

This has been demonstrated experimentally.

Điều này đã được chứng minh bằng thực nghiệm.

10:38

When you feed a model outputs from previous AI models and train on that, the quality

Khi bạn đưa cho một mô hình đầu ra từ các mô hình AI trước đó và huấn luyện trên đó, chất lượng

10:43

degrades over successive generations.

Suy giảm qua các thế hệ kế tiếp.

10:45

The models start producing text that's less varied, less grounded, and in some cases actually nonsensical.

Các mô hình bắt đầu tạo ra văn bản ít đa dạng hơn, ít dựa trên thực tế hơn, và trong một số trường hợp thực sự vô nghĩa.

10:51

There's already speculation that some of the strange outputs from newer, bigger models come from training data that's increasingly polluted with AI-generated content.

Đã có những suy đoán rằng một số kết quả kỳ lạ từ các mô hình mới hơn, lớn hơn đến từ dữ liệu huấn luyện ngày càng bị ô nhiễm bởi nội dung do AI tạo ra.

11:00

A watermark solves this problem for Anthropic's own training pipeline.

Một watermark giải quyết vấn đề này cho chính pipeline huấn luyện của Anthropic.

11:04

If every piece of Claude output carries a detectable fingerprint, Anthropic can exclude it from future training data cleanly.

Nếu mọi phần đầu ra của Claude đều mang một dấu vân tay có thể phát hiện được, Anthropic có thể loại nó khỏi dữ liệu huấn luyện trong tương lai một cách sạch sẽ.

11:10

They know exactly what their own model generated.

Họ biết chính xác mô hình của mình đã tạo ra cái gì.

11:12

They don't accidentally train the next version of Claude on Claude's own previous outputs.

Họ không vô tình huấn luyện phiên bản Claude tiếp theo trên chính những đầu ra trước đó của Claude.

11:17

So, while the public framing is entirely about transparency and EU compliance, and that's real, there's also a very practical internal benefit that makes this move strategically sensible for Anthropic regardless of the regulation.

Vì vậy, trong khi cách trình bày công khai hoàn toàn xoay quanh tính minh bạch và việc tuân thủ EU, và điều đó là thật, thì cũng có một lợi ích nội bộ rất thực tế khiến động thái này trở nên hợp lý về mặt chiến lược cho Anthropic bất kể quy định ra sao.

11:30

Now, here's where I have landed for all of this.

Giờ đây, đây là nơi tôi đã đi đến kết luận cho tất cả những điều này.

11:33

The watermark is best understood as a statistical tripwire, not a fingerprint that works on every piece of text, not a tamper-proof signature, a tripwire.

Watermark được hiểu rõ nhất như một dây bẫy thống kê, không phải một dấu vân tay hoạt động trên mọi đoạn văn bản, không phải một chữ ký chống giả mạo, mà là một dây bẫy.

11:43

It will work well against certain things: direct copying and pasting of Claude output, large-scale low-effort AI content publishing, spam farms, dataset contamination.

Nó sẽ hoạt động tốt chống lại một số thứ nhất định: sao chép và dán trực tiếp đầu ra của Claude, xuất bản nội dung AI quy mô lớn với ít công sức, các trang trại spam, ô nhiễm tập dữ liệu.

11:52

For those use cases, it's

Đối với những trường hợp sử dụng đó, nó

11:54

probably effective and the cost-benefit makes sense.

Có lẽ hiệu quả và chi phí-lợi ích là hợp lý.

11:57

It will work progressively less well against extensive human rewriting, strong paraphrasing, translation through other systems, short texts, mixed authorship documents, and any sophisticated attack designed around the eventual detector specification.

Nó sẽ hoạt động ngày càng kém hiệu quả hơn chống lại việc con người viết lại nhiều, diễn đạt lại mạnh, dịch qua các hệ thống khác, văn bản ngắn, tài liệu có nhiều tác giả, và bất kỳ cuộc tấn công tinh vi nào được thiết kế dựa trên đặc tả cuối cùng của detector.

12:11

What concerns me most isn't whether the watermark works technically, it's how the results will be interpreted and used by institutions, schools, employers, publishers who don't necessarily understand the difference between Claude processed this and Claude wrote this.

Điều khiến tôi lo lắng nhất không phải là liệu watermark có hoạt động về mặt kỹ thuật hay không, mà là cách các kết quả sẽ được diễn giải và sử dụng bởi các tổ chức, trường học, nhà tuyển dụng, nhà xuất bản, những người không nhất thiết hiểu sự khác biệt giữa 'Claude đã xử lý cái này' và 'Claude đã viết cái này'.

12:27

The detector doesn't make that distinction for you.

Detector không tự phân biệt điều đó cho bạn.

12:29

The EU's exception for content under human editorial responsibility is the right instinct, but is defined so loosely as to be almost meaningless.

Ngoại lệ của EU cho nội dung thuộc trách nhiệm biên tập của con người là trực giác đúng đắn, nhưng được định nghĩa lỏng lẻo đến mức gần như vô nghĩa.

12:37

The false positive problem is real and under-discussed.

Vấn đề dương tính giả là có thật và ít được thảo luận.

12:40

And the fact that a positive watermark result should never be used alone to punish a student, fire a worker, or

Và việc một kết quả watermark dương tính không bao giờ nên được dùng một mình để trừng phạt một học sinh, sa thải một người lao động, hay

12:48

accuse an author of fraud is something that will probably be ignored the moment institutions start deploying these detectors.

Buộc tội một tác giả gian lận là điều có lẽ sẽ bị phớt lờ ngay khi các tổ chức bắt đầu triển khai những detector này.

12:53

The CCTV comparison from the article I based this on stuck with me.

So sánh với CCTV từ bài viết mà tôi dựa vào vẫn đọng lại trong tôi.

12:58

We live with cameras everywhere.

Chúng ta sống với camera ở khắp mọi nơi.

12:59

Most people have quietly accepted them.

Hầu hết mọi người đã âm thầm chấp nhận chúng.

13:01

Text watermarking might follow the same path, gradually normalized until it feels like infrastructure.

Watermark văn bản có thể đi theo con đường tương tự, dần dần được bình thường hóa cho đến khi nó giống như một phần hạ tầng.

13:06

Whether that's a good outcome or a slow drift into something we should have pushed back on harder, I genuinely don't know yet.

Liệu đó là một kết quả tốt hay là sự trôi dạt chậm chạp vào một điều mà lẽ ra chúng ta nên phản đối mạnh mẽ hơn, tôi thật sự chưa biết.

13:13

Whether that makes you feel safe or surveilled probably says something about where you

Việc điều đó khiến bạn cảm thấy an toàn hay bị giám sát có lẽ nói lên điều gì đó về việc bạn

13:18

are in your relationship with AI tools and with the institutions that might one day use these detectors to make decisions about you.

Đang ở đâu trong mối quan hệ của bạn với các công cụ AI và với các tổ chức mà một ngày nào đó có thể dùng những detector này để đưa ra quyết định về bạn.

13:25

This a story that's going to keep developing.

Đây là một câu chuyện sẽ tiếp tục phát triển.

13:27

The technical documentation Anthropic has promised still hasn't been published.

Tài liệu kỹ thuật mà Anthropic đã hứa vẫn chưa được công bố.

13:31

Until it is, nobody outside the company can tell you exactly how strong the watermark is or what it actually survives.

Cho đến khi nó được công bố, không ai bên ngoài công ty có thể nói cho bạn biết chính xác watermark mạnh đến đâu hoặc nó thực sự chịu được những gì.

13:37

I'll be watching this closely and covering updates when they come.

Tôi sẽ theo dõi sát điều này và đưa tin về các cập nhật khi chúng xuất hiện.

13:40

If this helped you understand what's actually happening here, hit the like button.

Nếu điều này giúp bạn hiểu được thực sự đang diễn ra điều gì ở đây, hãy nhấn nút like.

13:44

It genuinely makes a difference for how many people this reaches.

Nó thực sự tạo ra khác biệt cho việc có bao nhiêu người tiếp cận được nội dung này.

13:48

Subscribe if you want more of this kind of breakdown and drop a comment.

Hãy đăng ký nếu bạn muốn thêm những phân tích kiểu này và để lại bình luận.

13:51

Does this bother you?

Điều này có làm bạn khó chịu không?

13:52

Does it feel like a reasonable transparency measure or like something that's gone too far?

Nó có giống như một biện pháp minh bạch hợp lý hay giống như một điều gì đó đã đi quá xa?

13:56

I read every comment and this is one I actually want to hear people's real thoughts on.

Tôi đọc mọi bình luận và đây là một chủ đề mà tôi thực sự muốn nghe suy nghĩ thật sự của mọi người.

14:01

See you in the next one.

Hẹn gặp bạn trong video tiếp theo.

Transcript

Hiển thị

The Watermark Arrives

Anthropic has begun embedding invisible, machine-readable watermarks into everything Claude generates, across all its products and cloud platforms. The move raises difficult questions about consent, detection, and surveillance for anyone who uses AI as a writing tool.

Anthropic đã bắt đầu nhúng hình mờ vô hình, có thể đọc bằng máy vào mọi thứ Claude tạo ra, trên tất cả sản phẩm và nền tảng đám mây của mình. Động thái này đặt ra những câu hỏi khó về sự đồng ý, phát hiện và giám sát đối với bất kỳ ai sử dụng AI như một công cụ viết.