0:00

31:58

Claude watermarks your code now

Theo - t3․gg·31:58·Technology·B2

Chương · 5

Chương 1·EU AI Act and Watermarking Requirements

Hiển thị

Tiếng ViệtAuto-scroll

0:00

One of the most frustrating things about AI is that it's hard to know if someone used it or not.

Một trong những điều gây khó chịu nhất về AI là rất khó để biết liệu ai đó có sử dụng nó hay không.

0:04

Sure, there's all the common tells like the M dashes and the you're absolutely right and the it's not X, it's Y's and all these types of patterns, but it's generally pretty hard to actually know if a given piece of text or line of code was really written with AI.

Chắc chắn, có tất cả các dấu hiệu phổ biến như dấu gạch ngang M, cụm từ 'bạn hoàn toàn đúng', và kiểu 'không phải X, mà là Y' cùng những mẫu tương tự, nhưng nhìn chung rất khó để thực sự biết một đoạn văn bản hay dòng mã cụ thể có được viết bằng AI hay không.

0:17

And this has scared a lot of

Và điều này đã khiến nhiều

0:19

people and for reasons that are good.

người lo sợ, và vì những lý do chính đáng.

0:21

If it's impossible to know what text was written with AI and what was written by a human, the world will devolve into a pile of slop really, really fast.

Nếu không thể biết văn bản nào được viết bằng AI và văn bản nào do con người viết, thế giới sẽ nhanh chóng trở thành một đống rác rưởi.

0:29

The European Union agrees and that's why they just introduced the AI act which has a specific goal of making it easier to know and label AI generated media and text and anthropic is complying with it.

Liên minh châu Âu đồng ý với điều đó và đó là lý do họ vừa giới thiệu Đạo luật AI, với mục tiêu cụ thể là giúp dễ dàng nhận biết và gắn nhãn nội dung và văn bản do AI tạo ra, và Anthropic đang tuân thủ điều đó.

0:40

Normally these types of watermarks are things that only apply to media gen things like images, videos, audio, etc.

Thông thường, các loại hình mờ này chỉ áp dụng cho các sản phẩm truyền thông như hình ảnh, video, âm thanh, v.v.

0:46

because there's a lot of data there that's relatively easy to sneak watermarks into.

Bởi vì có rất nhiều dữ liệu ở đó và việc nhúng hình mờ tương đối dễ dàng.

0:50

But when it comes to text, it's a lot harder.

Nhưng khi nói đến văn bản, việc đó khó hơn nhiều.

0:54

Which is why it's pretty crazy that Anthropics already updated their docs on this, saying that they plan to do marking of all AI generated content across all platforms.

Đó là lý do tại sao khá điên rồ khi Anthropic đã cập nhật tài liệu của họ về vấn đề này, nói rằng họ có kế hoạch đánh dấu tất cả nội dung do AI tạo ra trên tất cả các nền tảng.

1:03

Cloud models launched in the EU on or after August 2nd, 2026 will

Các mô hình Cloud ra mắt tại EU vào hoặc sau ngày 2 tháng 8 năm 2026 sẽ

1:08

support machine readable markings at launch.

hỗ trợ đánh dấu có thể đọc bằng máy khi ra mắt.

1:10

Generated text will carry embedded watermarks and generated files will include digitally signed Providence metadata where supported.

Văn bản được tạo ra sẽ mang hình mờ nhúng và các tệp được tạo sẽ bao gồm siêu dữ liệu Providence có chữ ký số nếu được hỗ trợ.

1:15

Oh boy.

Ôi trời.

1:16

This means our friends at Anthropic will be marking not just the text they output, but the code they output as well.

Điều này có nghĩa là những người bạn của chúng tôi tại Anthropic sẽ đánh dấu không chỉ văn bản họ xuất ra mà còn cả mã họ xuất ra.

1:23

This is a very scary change and I have a feeling it's not going to do what is

Đây là một thay đổi rất đáng sợ và tôi có cảm giác nó sẽ không đạt được điều

1:30

intended.

mong muốn.

1:30

As always, there's a lot of layers to this one from the relatively good intent of this EU act to the questionable implementations we're going to be seeing all across the field and also the impact this will have on us actually using the models.

Như mọi khi, vấn đề này có nhiều khía cạnh, từ ý định tương đối tốt của Đạo luật EU này đến các triển khai đáng ngờ mà chúng ta sẽ thấy trên khắp các lĩnh vực, cũng như tác động của nó đối với việc chúng ta thực sự sử dụng các mô hình.

1:42

I'll talk about all of that, the workarounds, and more after a real quick break for today's sponsor.

Tôi sẽ nói về tất cả những điều đó, các cách giải quyết, và hơn thế nữa sau một quảng cáo ngắn cho nhà tài trợ hôm nay.

1:47

Picking the right

Việc chọn đúng

1:48

database has never been more important, but it's also never been harder.

cơ sở dữ liệu chưa bao giờ quan trọng hơn, nhưng cũng chưa bao giờ khó hơn.

1:50

You can go with industry standards like Postgress for your application or ClickHouse for your data warehouse.

Bạn có thể chọn các tiêu chuẩn ngành như Postgres cho ứng dụng của mình hoặc ClickHouse cho kho dữ liệu của bạn.

1:54

But how do you pick the right thing if you don't even know what you're building yet?

Nhưng làm thế nào để bạn chọn đúng thứ nếu bạn chưa biết mình đang xây dựng cái gì?

1:58

Wouldn't it be nice if there was a great solution that combine the best both of those?

Sẽ thật tuyệt nếu có một giải pháp tuyệt vời kết hợp những điểm tốt nhất của cả hai?

2:02

You know, like if

Bạn biết đấy, như thể

2:03

Postgress was just managed by Clickhouse.

Postgres chỉ được quản lý bởi ClickHouse.

2:04

Yeah, they're actually doing this now.

Vâng, họ thực sự đang làm điều này bây giờ.

2:06

And it couldn't be cooler.

Và điều đó không thể tuyệt hơn.

2:08

You get enterprisecale Postgress with all the benefits of Clickhouse, too.

Bạn có được Postgres cấp doanh nghiệp với tất cả lợi ích của ClickHouse.

2:11

The Postgress database is what you should use for your apps.

Cơ sở dữ liệu Postgres là thứ bạn nên sử dụng cho các ứng dụng của mình.

2:14

It's super fast and built on top of real NVMe drives on the same machine resulting in absurd performance up to 10 times faster for IO

Nó cực kỳ nhanh và được xây dựng trên các ổ NVMe thực sự trên cùng một máy, mang lại hiệu suất đáng kinh ngạc, nhanh hơn tới 10 lần cho các khối lượng công việc

2:22

heavy workloads.

nặng về I/O.

2:22

Where things get magic is the ClickHouse integration.

Điều kỳ diệu nằm ở tích hợp ClickHouse.

2:24

All of the changes in Postgress get synced to your ClickHouse.

Tất cả các thay đổi trong Postgres được đồng bộ sang ClickHouse của bạn.

2:27

So you can do massive analytics calls without slowing down your production DB.

Vì vậy, bạn có thể thực hiện các truy vấn phân tích lớn mà không làm chậm cơ sở dữ liệu sản xuất của mình.

2:30

And if you're worried about latency, don't be.

Và nếu bạn lo lắng về độ trễ, đừng lo.

2:32

Your data is replicated within seconds.

Dữ liệu của bạn được sao chép trong vài giây.

2:34

And if you want to access that analytics data from the Postgress DB in your app,

Và nếu bạn muốn truy cập dữ liệu phân tích đó từ cơ sở dữ liệu Postgres trong ứng dụng của mình,

2:38

you can with PG Click House.

bạn có thể làm điều đó với PG ClickHouse.

2:39

This would have saved my butt when I was building the T3 chat wrapped feature last year and I had to query data from all sorts of different places in order to pull it together.

Điều này sẽ cứu tôi khi tôi xây dựng tính năng T3 chat wrapped năm ngoái và tôi phải truy vấn dữ liệu từ nhiều nơi khác nhau để tổng hợp lại.

2:47

Setup couldn't be easier.

Việc thiết lập không thể dễ dàng hơn.

2:48

You click start, you add a new database, you get a connection string and now you're good to go with a real Postgress database with all the power of

Bạn nhấp vào bắt đầu, thêm cơ sở dữ liệu mới, nhận chuỗi kết nối và bây giờ bạn đã sẵn sàng với một cơ sở dữ liệu Postgres thực sự với tất cả sức mạnh của

2:55

ClickHouse behind it.

ClickHouse phía sau.

2:56

Stop compromising on your database today at soy.link/clickhouse.

Hãy ngừng thỏa hiệp về cơ sở dữ liệu của bạn ngay hôm nay tại soy.link/clickhouse.

2:59

The best place to start on this chaos is probably the official code that the EU has put out.

Nơi tốt nhất để bắt đầu với sự hỗn loạn này có lẽ là mã chính thức mà EU đã đưa ra.

3:04

This is the code of practice on transparency of AI generated content.

Đây là quy tắc thực hành về tính minh bạch của nội dung do AI tạo ra.

3:08

There's two different sections in this code.

Có hai phần khác nhau trong quy tắc này.

3:10

There's section one for the providers which is rules for marking and detection of AI generated and manipulated content and section two is for deployers rules for labeling of deep

Phần một dành cho các nhà cung cấp, quy định về việc đánh dấu và phát hiện nội dung do AI tạo ra và thao túng, và phần hai dành cho các nhà triển khai, quy định về việc gắn nhãn cho deep

3:19

fakes and AI generated and manipulated text.

fake và văn bản do AI tạo ra và thao túng.

3:21

This code was drawn up by independent experts in a multistakeholder process facilitated by the AI office of the EU.

Quy tắc này được soạn thảo bởi các chuyên gia độc lập trong một quy trình đa bên do Văn phòng AI của EU điều phối.

3:27

It helps providers and deployers of generative AI systems to comply with the AI acts obligations for labeling and marking of AI generated content.

Nó giúp các nhà cung cấp và triển khai hệ thống AI tạo sinh tuân thủ các nghĩa vụ của Đạo luật AI về ghi nhãn và đánh dấu nội dung do AI tạo ra.

3:35

Even though adherence to the code is voluntary, the transparency requirements under article

Mặc dù việc tuân thủ quy tắc này là tự nguyện, các yêu cầu về tính minh bạch theo Điều

3:39

50 are legal obligations.

50 là các nghĩa vụ pháp lý.

3:40

AI needs to be deployed in ways where users know they're talking to AI.

AI cần được triển khai theo cách mà người dùng biết họ đang nói chuyện với AI.

3:45

That is totally fair.

Điều đó hoàn toàn hợp lý.

3:46

Providers of AI systems generation shall ensure the outputs of AI systems are marked in a machine readable format in detectable as artificially generated or manipulated.

Các nhà cung cấp hệ thống AI tạo sinh phải đảm bảo rằng đầu ra của hệ thống AI được đánh dấu ở định dạng máy đọc được và có thể phát hiện là do AI tạo ra hoặc chỉnh sửa.

3:55

The inclusion of text content here is a bit concerning.

Việc bao gồm nội dung văn bản ở đây hơi đáng lo ngại.

3:59

Providers shall ensure that their technical solutions are effective, interoperable, robust, and reliable as far as this is technically feasible, taking into account the specificities and limitations of various types of content, the costs of implementation, and the generally acknowledged state-of-the-art as may be reflected in relevant technical standards.

Các nhà cung cấp phải đảm bảo rằng các giải pháp kỹ thuật của họ hiệu quả, có khả năng tương tác, mạnh mẽ và đáng tin cậy trong phạm vi khả thi về mặt kỹ thuật, có tính đến các đặc thù và hạn chế của các loại nội dung khác nhau, chi phí triển khai và trình độ kỹ thuật tiên tiến được công nhận chung như có thể được phản ánh trong các tiêu chuẩn kỹ thuật liên quan.

4:17

So, this

Vì vậy, điều này

4:18

is the only section that is obligatory for companies in this ruling.

Là phần duy nhất bắt buộc đối với các công ty trong phán quyết này.

4:22

The rest of the code is more suggestions.

Phần còn lại của quy tắc chỉ là các đề xuất.

4:25

But that one piece there, that uh section two here, the providers must ensure that outputs are marked in a machine readable format.

Nhưng một phần ở đó, phần 2 ở đây, các nhà cung cấp phải đảm bảo rằng đầu ra được đánh dấu ở định dạng máy đọc được.

4:33

That's where this all starts to become a show.

Đó là nơi tất cả bắt đầu trở thành một chương trình.

4:37

There's an interesting call at the end here of the section two.

Có một lời kêu gọi thú vị ở cuối phần 2.

4:41

This obligation shall not

Nghĩa vụ này sẽ không

4:43

apply to the extent the AI systems perform an assistive function for standard editing or do not substantially alter the input data provided by the deployer of semantics thereof or where authorized by the law to detect, prevent, investigate or prosecute criminal offenses.

Áp dụng trong phạm vi các hệ thống AI thực hiện chức năng hỗ trợ cho việc chỉnh sửa tiêu chuẩn hoặc không thay đổi đáng kể dữ liệu đầu vào do người triển khai cung cấp hoặc ngữ nghĩa của dữ liệu đó, hoặc khi được pháp luật cho phép để phát hiện, ngăn chặn, điều tra hoặc truy tố tội phạm.

4:56

What this means is if you have an AI system that is like editing or autocorrecting or things for

Điều này có nghĩa là nếu bạn có một hệ thống AI giống như chỉnh sửa hoặc tự động sửa lỗi hoặc những thứ cho

5:03

existing documents, images, whatever, that does not need to have the same level of like transparency and encoded metadata proving that it was AI.

Các tài liệu, hình ảnh hiện có, v.v., thì không cần phải có cùng mức độ minh bạch và siêu dữ liệu được mã hóa chứng minh rằng nó là AI.

5:09

So if I use AI to like do a small correction like to remove a zit from my face, that doesn't need to be marked the same way.

Vì vậy, nếu tôi sử dụng AI để chỉnh sửa nhỏ như xóa mụn trên mặt, thì không cần phải đánh dấu theo cách tương tự.

5:18

If I'm writing an essay and I ask for the agent to find little things that I could improve in the essay or like clean up the grammar and stuff, it doesn't need to apply the same way there.

Nếu tôi đang viết một bài luận và yêu cầu trợ lý tìm những điểm nhỏ có thể cải thiện trong bài luận hoặc làm sạch ngữ pháp, thì nó cũng không cần áp dụng theo cách tương tự.

5:26

But the actual output from the LLM, it does.

Nhưng đầu ra thực tế từ LLM thì có.

5:29

Very interesting.

Rất thú vị.

5:29

And with that, we now need to talk a little bit more about watermarks.

Và với điều đó, bây giờ chúng ta cần nói thêm một chút về hình mờ.

5:34

Going to start from a weird point.

Bắt đầu từ một điểm kỳ lạ.

5:36

So, hear me out.

Vì vậy, hãy nghe tôi nói.

5:38

This image could be AI generated.

Hình ảnh này có thể do AI tạo ra.

5:40

It might not be.

Có thể không.

5:41

It's hard to know for sure.

Thật khó để biết chắc chắn.

5:43

I don't know where this image would have been taken, but Maria posted it online on Twitter a few days ago.

Tôi không biết hình ảnh này được chụp ở đâu, nhưng Maria đã đăng nó lên Twitter vài ngày trước.

5:50

In fact, when Maria posted it, there was no marking here that said

Thực tế, khi Maria đăng nó, không có dấu hiệu nào ở đây cho biết

5:55

it was generated with AI.

Nó được tạo ra bằng AI.

5:56

So, clearly this photo is real, right?

Vì vậy, rõ ràng bức ảnh này là thật, phải không?

5:59

Let me go a step further.

Để tôi đi xa hơn một bước.

6:01

These two images are the same, right?

Hai hình ảnh này giống nhau, phải không?

6:04

Like obviously these are the exact same image with no differences between them.

Rõ ràng đây là cùng một hình ảnh không có sự khác biệt nào giữa chúng.

6:08

What if I told you there was not a single bite shared between these two images?

Nếu tôi nói với bạn rằng không có một byte nào được chia sẻ giữa hai hình ảnh này thì sao?

6:14

One of these is a PNG and the other is a JPEG.

Một trong số này là PNG và cái còn lại là JPEG.

6:18

This is what makes watermarking for media both really

Đây là điều làm cho việc đánh dấu hình mờ cho phương tiện truyền thông trở nên thực sự

6:22

easy and really hard.

Dễ dàng và thực sự khó khăn.

6:23

That image we were just looking at, it's not huge, but it's not small either.

Hình ảnh chúng ta vừa xem không lớn lắm, nhưng cũng không nhỏ.

6:29

It's 623 kilob.

Nó có dung lượng 623 kilobyte.

6:30

And the relationship between the size of the file and what we see not that simple.

Và mối quan hệ giữa kích thước tệp và những gì chúng ta thấy không đơn giản như vậy.

6:37

When you have this much data in a file, there's a lot of room to stuff things into it.

Khi bạn có nhiều dữ liệu như vậy trong một tệp, có rất nhiều chỗ để nhồi nhét mọi thứ vào đó.

6:44

a lot of which won't even be perceivable to humans.

Nhiều trong số đó thậm chí sẽ không thể nhận biết được bằng mắt người.

6:49

Let's say I want to add some special encoding to make sure that I know this image is the one I have here on my computer.

Giả sử tôi muốn thêm một số mã hóa đặc biệt để đảm bảo rằng tôi biết hình ảnh này là hình ảnh tôi có trên máy tính của mình.

6:55

I could put it in the image metadata and things like that, but I want it to be harder to get rid of.

Tôi có thể đặt nó trong siêu dữ liệu hình ảnh và những thứ tương tự, nhưng tôi muốn nó khó bị loại bỏ hơn.

7:01

Let's just zoom into some of the like noise and the gradient here and pick a corner.

Hãy phóng to một số nhiễu và gradient ở đây và chọn một góc.

7:06

Let's say let's just start from the top left.

Giả sử bắt đầu từ góc trên bên trái.

7:09

Why not?

Tại sao không?

7:09

I'll take a random color from here.

Tôi sẽ lấy một màu ngẫu nhiên từ đây.

7:12

We'll take this darker purple.

Chúng ta sẽ lấy màu tím đậm hơn này.

7:13

And now I'm going to put in a little encoding.

Và bây giờ tôi sẽ thêm một chút mã hóa.

7:16

I'm T3.

Tôi là T3.

7:17

So what we'll do is every three dots I will fill one with this darker color.

Vậy những gì chúng ta sẽ làm là cứ mỗi ba chấm tôi sẽ tô một chấm bằng màu đậm hơn này.

7:22

One, two, three.

Một, hai, ba.

7:23

Do it.

Làm đi.

7:24

One, two, three.

Một, hai, ba.

7:25

Do it.

Làm đi.

7:26

One, two, three.

Một, hai, ba.

7:27

Do it.

Làm đi.

7:27

Okay.

Được rồi.

7:28

I just added a marking on this image in the top left corner where I changed one of the colors in specific pixels every three pixels.

Tôi vừa thêm một dấu hiệu trên hình ảnh này ở góc trên bên trái, nơi tôi đã thay đổi một trong các màu ở các pixel cụ thể mỗi ba pixel.

7:37

So three are left normal, then one I change it slightly.

Vậy ba pixel được giữ nguyên, sau đó một pixel tôi thay đổi một chút.

7:40

Can you tell any difference in this image?

Bạn có thể thấy bất kỳ sự khác biệt nào trong hình ảnh này không?

7:43

If you think you can, you're lying because the compression in the video will not allow such a thing.

Nếu bạn nghĩ bạn có thể, bạn đang nói dối vì nén video sẽ không cho phép điều đó.

7:50

And this is me changing

Và đây là tôi thay đổi

7:52

the pixel to a civic color.

Pixel thành một màu cố định.

7:53

So, we do three normal, one change, three normal, one changed, but I was changing it to a fixed color.

Vậy, chúng ta làm ba pixel bình thường, một pixel thay đổi, ba pixel bình thường, một pixel thay đổi, nhưng tôi đã thay đổi nó thành một màu cố định.

8:00

Imagine we get a little sneakier with it.

Hãy tưởng tượng chúng ta tinh vi hơn một chút.

8:02

Imagine instead we take the color of a given pixel here and we knock it down or up one in any of the different spectrums you have control of with color because you have RGB values or HSL and you can change any of these

Hãy tưởng tượng thay vào đó chúng ta lấy màu của một pixel nhất định ở đây và giảm hoặc tăng nó lên một trong bất kỳ quang phổ nào bạn có thể điều khiển với màu sắc vì bạn có giá trị RGB hoặc HSL và bạn có thể thay đổi bất kỳ giá trị nào trong số này

8:17

at any point to or from anything.

Tại bất kỳ điểm nào đến hoặc từ bất cứ thứ gì.

8:19

So we could have a pattern where every four pixels we bump one of these by one and it wouldn't change anything visually for any normal person.

Vì vậy, chúng ta có thể có một mẫu mà cứ mỗi bốn pixel chúng ta tăng một trong số này lên một và nó sẽ không thay đổi bất cứ điều gì về mặt thị giác đối với bất kỳ người bình thường nào.

8:27

If we just go from 30 to 31 every four pixels, that is relatively easy to encode in an image.

Nếu chúng ta chỉ đi từ 30 đến 31 mỗi bốn pixel, điều đó tương đối dễ để mã hóa trong một hình ảnh.

8:33

And it's in a way that will not be noticeable to any human, but does accurately with the actual pixels encode real data.

Và nó theo cách mà sẽ không thể nhận thấy đối với bất kỳ con người nào, nhưng vẫn chính xác với các pixel thực tế mã hóa dữ liệu thực.

8:41

But in order for that type of granular encoding to work where every four pixels we go up or down one value, we need to make sure we don't lose the pixel values.

Nhưng để cho loại mã hóa chi tiết đó hoạt động, nơi cứ mỗi bốn pixel chúng ta tăng hoặc giảm một giá trị, chúng ta cần đảm bảo rằng chúng ta không làm mất các giá trị pixel.

8:52

And it turns out the compression we use for media is directly in opposition of the types of watermarks

Và hóa ra việc nén chúng ta sử dụng cho phương tiện truyền thông trực tiếp đối lập với các loại hình mờ

8:59

we're talking about here.

mà chúng ta đang nói đến ở đây.

9:00

One of the things most image compression algorithms will do is they take areas where colors are similar and they flatten them to be the same so you don't have to encode as much data.

Một trong những điều mà hầu hết các thuật toán nén hình ảnh sẽ làm là chúng lấy các khu vực nơi màu sắc tương tự và làm phẳng chúng để giống nhau để bạn không phải mã hóa nhiều dữ liệu.

9:09

It'll take a grid every four pixels and say okay these four have these colors and these brightness levels.

Nó sẽ lấy một lưới mỗi bốn pixel và nói rằng được rồi bốn pixel này có các màu này và độ sáng này.

9:14

Can we normalize that so we only have to encode it once instead of four

Chúng ta có thể chuẩn hóa điều đó để chỉ phải mã hóa nó một lần thay vì bốn

9:18

times?

lần không?

9:18

That means that if we have this pattern where every four pixels we change the color slightly, that's going to be flattened by pretty much every compression algorithm ever.

Điều đó có nghĩa là nếu chúng ta có mẫu này nơi cứ mỗi bốn pixel chúng ta thay đổi màu một chút, nó sẽ bị làm phẳng bởi gần như mọi thuật toán nén từ trước đến nay.

9:28

And all you have to do to kill the watermark is turn your PNG into a JPEG.

Và tất cả những gì bạn cần làm để phá hủy hình mờ là chuyển PNG của bạn thành JPEG.

9:33

It is seriously that easy.

Nó thực sự dễ dàng như vậy.

9:35

And I have been able to evade pretty much every single fancy type of media detection algorithm for generated

Và tôi đã có thể tránh được gần như mọi loại thuật toán phát hiện phương tiện truyền thông ưa thích cho việc phát hiện hình ảnh AI tạo ra

9:42

AI image detection with something as simple as reexporting as a JPEG or just increasing the compression or scale the image up and then back down.

với một thứ đơn giản như xuất lại dưới dạng JPEG hoặc chỉ tăng độ nén hoặc phóng to hình ảnh lên rồi thu nhỏ lại.

9:51

There's a lot of little things you can do that just destroy these watermarking techniques.

Có rất nhiều thứ nhỏ bạn có thể làm để phá hủy các kỹ thuật tạo hình mờ này.

9:56

And the real reason is this here.

Và lý do thực sự là ở đây.

9:59

There is so much data available here that leaving watermarks in it is easy.

Có rất nhiều dữ liệu có sẵn ở đây đến nỗi việc để lại hình mờ trong đó là dễ dàng.

10:04

But all the algorithms are

Nhưng tất cả các thuật toán đều

10:06

optimizing for what humans actually see.

tối ưu hóa cho những gì con người thực sự nhìn thấy.

10:08

And the difference between what data exists and what humans perceive is the problem here.

Và sự khác biệt giữa dữ liệu tồn tại và những gì con người nhận thức là vấn đề ở đây.

10:13

With something like an image, there's a wide range of data that can be changed before a human notices a difference.

Với một thứ như hình ảnh, có một phạm vi rộng dữ liệu có thể được thay đổi trước khi con người nhận thấy sự khác biệt.

10:20

This means it's easy to embed this type of metadata in an image, but it's also hard to do it in a resilient way because the compression algorithms are working around this fact

Điều này có nghĩa là dễ dàng nhúng loại siêu dữ liệu này vào hình ảnh, nhưng cũng khó để làm điều đó một cách bền vững vì các thuật toán nén đang hoạt động xung quanh thực tế này

10:32

that humans are bad at seeing the actual ones and zeros in the bites.

rằng con người kém trong việc nhìn thấy các số một và số không thực tế trong các byte.

10:36

So there's a lot of hacks we can do to compress the files in order to save storage, but it also in that process would kill a lot of these hidden pieces of metadata.

Vì vậy, có rất nhiều thủ thuật chúng ta có thể làm để nén các tệp nhằm tiết kiệm dung lượng lưu trữ, nhưng nó cũng trong quá trình đó sẽ phá hủy nhiều phần siêu dữ liệu ẩn này.

10:45

This is why many people who post their AI generated images on X get tagged because they're just copy pasting the image straight from chat GPT.

Đây là lý do tại sao nhiều người đăng hình ảnh AI tạo ra của họ trên X bị gắn thẻ vì họ chỉ sao chép dán hình ảnh trực tiếp từ chat GPT.

10:53

And when you

Và khi bạn

10:54

copy from chat GPT or Gemini or wherever else, they have these IDs in them.

sao chép từ chat GPT hoặc Gemini hoặc bất cứ nơi nào khác, chúng có các ID này trong đó.

10:59

Google's went as far as creating this whole synth ID platform, which is a tool that watermarks and identifies AI generated content, mostly images, video stuff that they've been talking about forever.

Google đã đi xa đến mức tạo ra toàn bộ nền tảng synth ID này, một công cụ tạo hình mờ và xác định nội dung do AI tạo ra, chủ yếu là hình ảnh, video và những thứ mà họ đã nói về mãi mãi.

11:08

And no matter how hard I push them, they will not let me in.

Và dù tôi có cố đẩy chúng đến mức nào, chúng cũng không cho tôi vào.

11:13

And I only get like three test runs a day using the official Gemini site.

Và tôi chỉ có khoảng ba lần chạy thử mỗi ngày bằng trang web Gemini chính thức.

11:17

Synth ID's tagging is hilariously simple.

Việc gắn thẻ của Synth ID đơn giản một cách buồn cười.

11:19

They

Chúng

11:20

apply this noise pattern on top of the image.

Áp dụng mẫu nhiễu này lên trên hình ảnh.

11:22

GBT image 2 has a similar one where this pattern gets applied on top and it looks that same deep fried way that GPT images look.

GBT image 2 có một mẫu tương tự, nơi mẫu này được áp dụng lên trên và trông giống như kiểu ảnh GPT bị chiên giòn sâu.

11:30

I'm not sure if this is the entirety of how they do this check and how they do these tests, but I would guess it is a significant portion of it.

Tôi không chắc liệu đây có phải là toàn bộ cách họ thực hiện kiểm tra và thử nghiệm này hay không, nhưng tôi đoán nó chiếm một phần đáng kể.

11:40

These patterns are what are being used for a lot of the identification.

Những mẫu này đang được sử dụng cho rất nhiều việc nhận dạng.

11:44

And again, the right compression, the right application, the right layers added to it, a very slight filter even, which is trivial for me to add.

Và một lần nữa, nén đúng cách, áp dụng đúng cách, thêm các lớp phù hợp, thậm chí một bộ lọc rất nhẹ, điều mà tôi có thể thêm một cách dễ dàng.

11:54

If I just go here, filter, I can do like the slightest sharpening pass where I add like a 1% sharpen.

Nếu tôi chỉ cần vào đây, bộ lọc, tôi có thể thực hiện một lượt làm sắc nét nhẹ nhất, nơi tôi thêm độ sắc nét 1%.

12:03

no perceivable difference.

Không có sự khác biệt nào có thể nhận thấy.

12:03

But now every single bite in this image has been re-encoded and any patterns that were applied on top are fully destroyed.

Nhưng bây giờ mọi bit trong hình ảnh này đã được mã hóa lại và bất kỳ mẫu nào được áp dụng lên trên đã bị phá hủy hoàn toàn.

12:10

I can even demo that trivially by copying the noise pattern and then doing a quick anything with this.

Tôi thậm chí có thể chứng minh điều đó một cách đơn giản bằng cách sao chép mẫu nhiễu và sau đó thực hiện một thao tác nhanh với nó.

12:16

If I apply that 1% sharpen doesn't look any different, but the bites that they're actually looking for here have just changed entirely.

Nếu tôi áp dụng độ sắc nét 1% đó, trông không khác gì, nhưng các bit mà họ thực sự tìm kiếm ở đây đã thay đổi hoàn toàn.

12:23

Nếu

12:24

I zoom in real deep and show you see that you can literally see the difference with like 2%.

Tôi phóng to thật sâu và cho bạn thấy rằng bạn thực sự có thể thấy sự khác biệt với khoảng 2%.

12:31

And I'm going to apply.

Và tôi sẽ áp dụng.

12:33

Now it's a very subtle change.

Bây giờ đó là một thay đổi rất tinh tế.

12:36

Zero is nothing.

Không là không có gì.

12:36

And then five.

Và sau đó là năm.

12:37

You can see a slight change too.

Bạn có thể thấy một chút thay đổi.

12:40

This is for like a visible noise pattern.

Đây là cho một mẫu nhiễu có thể nhìn thấy.

12:42

Any of these are indetectable to humans.

Bất kỳ thay đổi nào trong số này đều không thể phát hiện được bằng mắt người.

12:44

None of them are indetectable to AI.

Không có cái nào là không thể phát hiện được bởi AI.

12:46

Like any one of those changes will entirely destroy the patterns it's looking for here.

Giống như bất kỳ thay đổi nào trong số đó sẽ phá hủy hoàn toàn các mẫu mà nó đang tìm kiếm ở đây.

12:51

It's so easy to kill these things.

Thật dễ dàng để tiêu diệt những thứ này.

12:54

It's hilarious.

Thật buồn cười.

12:54

It's even easier if you're okay with a slightly blurriier image or you do the lazy thing, which is to resize the canvas and see how the pattern got way blurrier.

Thậm chí còn dễ hơn nếu bạn chấp nhận một hình ảnh hơi mờ hơn hoặc bạn làm điều lười biếng, đó là thay đổi kích thước canvas và xem mẫu trở nên mờ hơn nhiều.

13:04

How do you think that will work if it's also applied at 1% opacity on top of something else?

Bạn nghĩ điều đó sẽ hoạt động như thế nào nếu nó cũng được áp dụng với độ mờ 1% lên trên một thứ khác?

13:11

Trivial to destroy these patterns.

Thật dễ dàng để phá hủy những mẫu này.

13:12

There's no world in which they will persist well across any of these

Không có thế giới nào mà chúng có thể tồn tại tốt qua bất kỳ điều nào trong số này

13:17

types of things, especially if you apply them the way they're actually applied IRL, which is something like this.

Các loại thứ, đặc biệt nếu bạn áp dụng chúng theo cách chúng thực sự được áp dụng ngoài đời thực, đó là một cái gì đó như thế này.

13:23

You have it on the image as like a 0.1% opacity, maybe 1%.

Bạn có nó trên hình ảnh với độ mờ 0.1%, có thể là 1%.

13:28

Yeah, you don't see any difference here.

Vâng, bạn không thấy bất kỳ sự khác biệt nào ở đây.

13:30

And if I blur, unblur, resize, or do anything like that, the pattern gets destroyed very fast.

Và nếu tôi làm mờ, làm rõ, thay đổi kích thước, hoặc làm bất cứ điều gì tương tự, mẫu sẽ bị phá hủy rất nhanh.

13:36

You could even do the stupidest possible thing, which is to just take

Bạn thậm chí có thể làm điều ngu ngốc nhất có thể, đó là chỉ cần lấy

13:41

that original image and do that with it.

Hình ảnh gốc đó và làm điều đó với nó.

13:44

I just change where every pixel lands just by shortening it slightly.

Tôi chỉ thay đổi vị trí của mỗi pixel bằng cách làm cho nó ngắn hơn một chút.

13:47

It's so easy to kill these types of watermarks just because there's so much wiggle room in the data.

Thật dễ dàng để tiêu diệt các loại hình mờ này chỉ vì có rất nhiều chỗ linh hoạt trong dữ liệu.

13:54

When you have 623 kilobytes, I can delete random and no human will notice, but the computers no longer have access to that pattern.

Khi bạn có 623 kilobyte, tôi có thể xóa ngẫu nhiên và không người nào nhận ra, nhưng máy tính không còn truy cập được vào mẫu đó.

14:02

All of this is to say this image is clearly real and we would have no way to know otherwise.

Tất cả điều này để nói rằng hình ảnh này rõ ràng là thật và chúng ta không có cách nào để biết ngược lại.

14:08

So again, the problem is this gap between the amount of data and what humans perceive.

Vì vậy, một lần nữa, vấn đề là khoảng cách giữa lượng dữ liệu và những gì con người nhận thức.

14:13

And when you have images that are millions of bits, it's easy to flip things around in all directions.

Và khi bạn có những hình ảnh hàng triệu bit, thật dễ dàng để xáo trộn mọi thứ theo mọi hướng.

14:19

But what happens when you go from 623 kilobytes to I don't know 10 bytes.

Nhưng điều gì xảy ra khi bạn đi từ 623 kilobyte xuống còn, tôi không biết, 10 byte.

14:23

Each of these bytes is a letter

Mỗi byte này là một chữ cái

14:26

or a chunk for a word.

Hoặc một phần của từ.

14:27

Like once you're responding with plain text that is small, your ability to hide things in it and also transform it goes down massively.

Giống như khi bạn phản hồi bằng văn bản thuần túy nhỏ, khả năng ẩn giấu thứ gì đó trong đó và biến đổi nó giảm đi rất nhiều.

14:33

If I have a four pixel image and I change one pixel, you can tell.

Nếu tôi có một hình ảnh 4 pixel và tôi thay đổi một pixel, bạn có thể nhận ra.

14:37

If I have a 4 million pixel image and I change one pixel, you can't tell.

Nếu tôi có một hình ảnh 4 triệu pixel và tôi thay đổi một pixel, bạn không thể nhận ra.

14:41

If I have a whole book and I change one word, you're not going to be able to tell.

Nếu tôi có cả một cuốn sách và tôi thay đổi một từ, bạn sẽ không thể nhận ra.

14:46

But

Nhưng

14:47

if I have one sentence and I change a word, you can absolutely tell.

Nếu tôi có một câu và tôi thay đổi một từ, bạn hoàn toàn có thể nhận ra.

14:50

And that's where this new text watermarking comes in.

Và đó là nơi mà kỹ thuật đánh dấu văn bản mới này xuất hiện.

14:53

I already read this section about how Anthropic is going to be following the rules.

Tôi đã đọc phần này về việc Anthropic sẽ tuân thủ các quy tắc như thế nào.

14:57

They simply call out that the marks are going to work everywhere that Claude is used, whether that is through the API on the platform, Claude, Claude Code, Claude Co-work, and

Họ chỉ đơn giản nêu rõ rằng các dấu hiệu sẽ hoạt động ở mọi nơi mà Claude được sử dụng, cho dù đó là thông qua API trên nền tảng, Claude, Claude Code, Claude Co-work, và

15:06

Claude tag.

15:06

They also want to help us detect Claude's marks, too.

Họ cũng muốn giúp chúng tôi phát hiện các dấu hiệu của Claude.

15:09

They'll support users and other third parties to detect Claude's marks as the code requires.

Họ sẽ hỗ trợ người dùng và các bên thứ ba khác phát hiện các dấu hiệu của Claude theo yêu cầu của mã.

15:13

We'll share details in forthcoming documentation.

Chúng tôi sẽ chia sẻ chi tiết trong tài liệu sắp tới.

15:15

They are actually planning on adding marking to their old models as well, which is interesting to me too.

Họ thực sự đang có kế hoạch thêm đánh dấu vào các mô hình cũ của họ, điều này cũng thú vị với tôi.

15:21

As AI generated content becomes commonplace, greater

Khi nội dung do AI tạo ra trở nên phổ biến, sự minh bạch và tín hiệu lớn hơn về nguồn gốc nội dung có thể cung cấp cho mọi người bối cảnh hữu ích về thông tin họ tiêu thụ.

15:23

transparency and signals about where content comes from can give people useful context about the information they consume.

Sự minh bạch và tín hiệu lớn hơn về nguồn gốc nội dung có thể cung cấp cho mọi người bối cảnh hữu ích về thông tin họ tiêu thụ.

15:28

Support transparency and comply with our legal obligations.

Hỗ trợ sự minh bạch và tuân thủ các nghĩa vụ pháp lý của chúng tôi.

15:31

Anthropic is working to include machine readable marks in content that Claude generates.

Anthropic đang nỗ lực đưa các dấu hiệu có thể đọc được bằng máy vào nội dung mà Claude tạo ra.

15:34

Embedded watermarks will apply to all generated text and Providence metadata will apply where Claude supports processing files.

Các hình mờ được nhúng sẽ áp dụng cho tất cả văn bản được tạo và siêu dữ liệu xuất xứ đã ký sẽ áp dụng khi Claude hỗ trợ xử lý tệp.

15:39

This will work with all the cloud platforms too.

Điều này cũng sẽ hoạt động với tất cả các nền tảng đám mây.

15:42

Whether you're hosting on AWS, Google Cloud or Foundry.

Cho dù bạn đang lưu trữ trên AWS, Google Cloud hay Foundry.

15:45

So let's see how they actually will be marking the

Vì vậy, hãy xem họ thực sự sẽ đánh dấu nội dung như thế nào.

15:48

content.

Nội dung.

15:48

Cloud uses two complimentary techniques to mark content generated and processed by AI or by cloud specifically.

Cloud sử dụng hai kỹ thuật bổ sung để đánh dấu nội dung được tạo và xử lý bởi AI hoặc cụ thể là cloud.

15:53

Watermarks embedded in text and signed providence metadata attached to files.

Hình mờ được nhúng trong văn bản và siêu dữ liệu xuất xứ đã ký đính kèm với tệp.

15:57

First we have the text embeds.

Đầu tiên chúng ta có phần nhúng văn bản.

15:59

When a supported cloud model generates text, it weaves an imperceptible watermark directly into the text itself.

Khi một mô hình cloud được hỗ trợ tạo văn bản, nó dệt một hình mờ không thể nhận thấy trực tiếp vào chính văn bản.

16:04

You won't see it.

Bạn sẽ không nhìn thấy nó.

16:05

Nó

16:06

doesn't change the meaning, quality, or readability of clause responses.

Không làm thay đổi ý nghĩa, chất lượng hoặc khả năng đọc của các phản hồi của clause.

16:09

Because the watermark is part of the text, it will travel with the text when it's copied and pasted elsewhere and may persist through some editing.

Vì hình mờ là một phần của văn bản, nó sẽ đi cùng với văn bản khi được sao chép và dán ở nơi khác và có thể tồn tại qua một số chỉnh sửa.

16:18

Watermarking will be applied at the model level, which means it will be present no matter which cloud product or surface the text comes from.

Việc đánh dấu sẽ được áp dụng ở cấp độ mô hình, có nghĩa là nó sẽ hiện diện bất kể sản phẩm cloud hoặc bề mặt nào mà văn bản đến từ.

16:25

This is a very interesting call out specifically may persist through some editing.

Đây là một điểm rất thú vị được nêu cụ thể là có thể tồn tại qua một số chỉnh sửa.

16:29

Then there's the signed providence metadata which is that when they touch or create things like SVGs, PGs or JPEGs, it will provide signed providence metadata.

Sau đó là siêu dữ liệu xuất xứ đã ký, đó là khi họ chạm vào hoặc tạo ra những thứ như SVG, PG hoặc JPEG, nó sẽ cung cấp siêu dữ liệu xuất xứ đã ký.

16:38

Metadata follows the coalition for content providence and authenticity.

Siêu dữ liệu tuân theo liên minh về xuất xứ và tính xác thực của nội dung.

16:40

The CGPA open standard which is used across the industry to record information about content providence.

Tiêu chuẩn mở CGPA được sử dụng trên toàn ngành để ghi lại thông tin về xuất xứ nội dung.

16:44

If the metadata is present, it signals that a file was processed with claude and lets you detect whether the file has been tampered with.

Nếu siêu dữ liệu hiện diện, nó báo hiệu rằng một tệp đã được xử lý bằng claude và cho phép bạn phát hiện liệu tệp có bị can thiệp hay không.

16:51

Thankfully, they call out limitations underneath here.

May mắn thay, họ nêu rõ các hạn chế bên dưới.

16:53

Detected

Đã phát hiện

16:54

mark provides a signal that content was processed by Claude, but it's not fully conclusive.

Mark cung cấp một tín hiệu rằng nội dung đã được xử lý bởi Claude, nhưng nó không hoàn toàn kết luận.

16:58

Detecting a Claude mark tells you that content may have been processed by Claude.

Việc phát hiện dấu hiệu Claude cho bạn biết rằng nội dung có thể đã được xử lý bởi Claude.

17:02

It does not on its own confirm the full providence of the content.

Nó không tự nó xác nhận toàn bộ xuất xứ của nội dung.

17:06

For example, Claude may not be the original author because people often use Claude to proofread, translate, summarize, or convert files.

Ví dụ, Claude có thể không phải là tác giả gốc vì mọi người thường sử dụng Claude để đọc lại, dịch, tóm tắt hoặc chuyển đổi tệp.

17:12

The output

Đầu ra

17:13

can carry a Claude mark even if the underlying ideas, text, or data originated from another source.

Có thể mang dấu hiệu Claude ngay cả khi ý tưởng, văn bản hoặc dữ liệu cơ bản đến từ một nguồn khác.

17:17

The content also may have been changed after Claude processed it.

Nội dung cũng có thể đã được thay đổi sau khi Claude xử lý.

17:19

Mark content may be modified, exerted, or combined with other materials after Claude is processed.

Nội dung được đánh dấu có thể được sửa đổi, trích xuất hoặc kết hợp với các tài liệu khác sau khi Claude xử lý.

17:23

There's also the fact that a lack of a detected mark doesn't mean the content wasn't AI generated or

Cũng có thực tế là việc không phát hiện ra dấu hiệu không có nghĩa là nội dung không được tạo hoặc xử lý bởi AI.

17:28

processed.

Xử lý.

17:28

There's also the fact that it doesn't mean anything if it says no, we didn't process that because there's so many cases where it won't flag.

Cũng có thực tế là nó không có nghĩa gì nếu nó nói không, chúng tôi không xử lý điều đó vì có rất nhiều trường hợp nó sẽ không gắn cờ.

17:35

Like if the model generated text before this was a thing, if the text has been heavily edited, paraphrased, translated, or mixed into other writing.

Giống như nếu mô hình tạo văn bản trước khi điều này tồn tại, nếu văn bản đã được chỉnh sửa nhiều, diễn giải lại, dịch hoặc trộn vào các bài viết khác.

17:42

If the passage was too short, so there wasn't enough text to encode a watermark.

Nếu đoạn văn quá ngắn, không đủ văn bản để mã hóa hình mờ.

17:47

And for the

Và đối với

17:48

file stuff, if the file's been converted, resaved, screenshotted, or other things, again, the examples I was giving here, then it won't work.

Các vấn đề về tệp, nếu tệp đã được chuyển đổi, lưu lại, chụp màn hình hoặc những thứ khác, một lần nữa, các ví dụ tôi đã đưa ra ở đây, thì nó sẽ không hoạt động.

17:55

And if it was produced through a platform feature or file type where a particular marking type wasn't supported, very, very fun.

18:01

The harsh reality here is that this is only ever going to catch the lowest effort people because if you just

18:08

copy paste the text straight out of Claude or you have a bot that auto replies on Twitter for you and things like that, then yeah, this will catch those things.

18:17

But if you put any effort in or do even the most basic of grammatical pass or changes to the text that comes out, this will be trivial to break.

18:25

It is worth noting that other labs will likely be doing this soon too.

18:30

Thoric called this out.

18:31

Other labs will be adding similar watermarking.

18:32

It's hard to identify AI generated text and this gives people better tools to do it.

18:37

They'll be shipping a text detection API as well that we can use ourselves.

18:40

All claw generated text will have this embedded watermarking.

18:43

For example, you can check if a PR was generated by cloud code.

18:46

That said, it does have limitations.

18:48

He just called out the same section we just read.

18:50

We also got this wonderful example of the watermark from Nat here.

18:53

Wow, the new claw text

18:55

watermarking is wild.

18:56

Here we can see it making a list of totally normal, not suspicious text, but search engine optimization, but if you look real closely and you use those thinking glasses, Sam Alman sucks.

19:07

Wow, it's really subtle, isn't it?

19:10

Back to the real world for a sec though because Sean Godc wrote yet another awesome piece about this because when the act was officially

19:19

announced he had concerns.

19:20

Article 50 is the thing we're talking about here.

19:22

If LM providers want to do business in the EU, they'll have to apply watermarks to their outputs.

19:27

Some hidden signatures that can be used to identify AI content.

19:30

LM text watermarking is a fascinating problem.

19:32

Like the best engineering problems, it's theoretically hard to solve perfectly, but has multiple partial solutions like synth ID and some quiet unicode trickery from OpenAI and anthropic.

19:40

It'll be interesting to see how these AI labs navigate these trade-offs before the end of the year.

19:46

So, why is this so hard?

19:47

It's easy to watermark an image because digital images contain lots of noise the human eyes cannot see.

19:52

For instance, you could apply a watermark like these 20 pixels in these exact spots will always share a color.

19:58

Text is much harder.

19:59

Unlike images, text is very compressed already.

20:01

You cannot make any changes to a sentence that a human won't notice with one exception which we'll get to later.

20:06

So, how are you supposed to watermark it?

20:08

It's basically a textonography problem concealing a secret code made more difficult because the plain text cannot be arbitrarily manipulated.

20:13

Any changes you make to apply the watermark will compromise the quality of the output.

20:18

For instance, every fifth letter is an E would be a good watermark, but applied naively, it would make the AI

20:24

output full of typos.

20:25

Could you just let the model figure out how to fit the watermark?

20:29

Strong AI models are smart enough to juggle this kind of constraint, but it still consume reasoning time that we better spend on the user's problem and make the model sound much less capable than it is.

20:40

Yep, sorry.

20:40

It's steganography.

20:41

My bad.

20:42

Steganography and stenography being so similar of words is uh humans are not good at text either.

20:46

Do we even need watermarks to detect AI content?

20:49

If you're enthropic and you're required to be able to verify whether your models produce a particular block of text, can't you simply run the text through each model, measuring as you go how closely the models predicted tokens

21:00

match each token from the text?

21:01

Not really.

21:02

The space of all possible cla answers to a question is way larger than the space of all possible watermarked answers to a question.

21:08

In other words, you'd get too many false positives for human text that reads like it was AI written.

21:13

I know a couple people, especially YouTubers, who are hit really hard with this where like the way they

21:19

naturally speak is similar to the LLM because those models were trained on them and now whenever they talk was like, "Oh, that's AI generated, but in reality, they just talk in the way that the models liked and copied from them." It's way more likely for a human to accidentally write like Claude than it is for a human to accidentally reproduce a watermark.

Nói tự nhiên tương tự như LLM vì những mô hình đó được huấn luyện trên dữ liệu của họ và bây giờ bất cứ khi nào họ nói chuyện, kiểu như, "Ồ, đó là do AI tạo ra", nhưng thực tế, họ chỉ nói theo cách mà các mô hình thích và sao chép từ họ. Khả năng một con người vô tình viết giống Claude cao hơn nhiều so với khả năng một con người vô tình tái tạo watermark.

21:35

It would also be

Nó cũng sẽ

21:36

prohibitively expensive to run every anthropic model against a piece of text in order to watermark it.

Rất tốn kém khi chạy mọi mô hình của Anthropic trên một đoạn văn bản để watermark nó.

21:40

The EU AI act will eventually require labs like Enthroic to offer free watermarking services to every EU citizen.

Đạo luật AI của EU cuối cùng sẽ yêu cầu các phòng thí nghiệm như Anthropic cung cấp dịch vụ watermark miễn phí cho mọi công dân EU.

21:46

You couldn't do that with a run this model based approach.

Bạn không thể làm điều đó với phương pháp dựa trên việc chạy mô hình này.

21:49

Yep.

Đúng vậy.

21:49

Apparently, synth ID is being used for text.

Rõ ràng, synth ID đang được sử dụng cho văn bản.

21:51

Like we need more reasons for Gemini to be bad.

Như thể chúng ta cần thêm lý do để Gemini trở nên tệ hơn.

21:54

When

Khi

21:55

an LLM generates text, it's generating a series of tokens.

Một LLM tạo ra văn bản, nó tạo ra một chuỗi các token.

21:57

At each step, the model itself does not output a single token, but instead outputs a full list of 100,000 tokens in its vocabulary, each annotated with the probability that that token will be the next one.

Ở mỗi bước, mô hình không xuất ra một token duy nhất, mà thay vào đó xuất ra một danh sách đầy đủ 100.000 token trong từ vựng của nó, mỗi token được chú thích xác suất mà token đó sẽ là token tiếp theo.

22:07

Tools like chatbt and claude code will pick semi-randomly from the most likely output options in order to get their

Các công cụ như chatbt và claude code sẽ chọn ngẫu nhiên một cách bán ngẫu nhiên từ các tùy chọn đầu ra có khả năng nhất để có được

22:13

outputs.

Đầu ra của chúng.

22:13

The semi-random sampling process can be influenced in a detectable way.

Quá trình lấy mẫu bán ngẫu nhiên có thể bị ảnh hưởng theo cách có thể phát hiện được.

22:16

For instance, we could choose a sampling strategy like we pick the second most likely token, then the first, then the second, then the first, and so on to still produce high quality output, but you'd be able to rerun the model against the generated text and verify that the pattern holds.

Ví dụ, chúng ta có thể chọn chiến lược lấy mẫu như chọn token có khả năng thứ hai, sau đó là thứ nhất, rồi thứ hai, rồi thứ nhất, v.v. để vẫn tạo ra đầu ra chất lượng cao, nhưng bạn có thể chạy lại mô hình trên văn bản đã tạo và xác minh rằng mẫu vẫn đúng.

22:29

But this

Nhưng điều này

22:30

makes verification really expensive, and any slight tweaks to the output would break it.

Làm cho việc xác minh trở nên rất tốn kém, và bất kỳ thay đổi nhỏ nào đối với đầu ra sẽ phá vỡ nó.

22:34

also changes to the input because again the whole context window is necessary for this.

Cũng như thay đổi đầu vào vì một lần nữa, toàn bộ cửa sổ ngữ cảnh là cần thiết cho việc này.

22:39

So synth ID does this instead by assigning a score for each token based on the previous tokens.

Vì vậy, synth ID thay vào đó làm điều này bằng cách gán điểm cho mỗi token dựa trên các token trước đó.

22:45

To apply this watermark, the model adopts a sampling strategy like out of the top five most likely tokens, pick the ones with the top synth ID score.

Để áp dụng watermark này, mô hình áp dụng chiến lược lấy mẫu như trong số năm token có khả năng nhất, chọn những token có điểm synth ID cao nhất.

22:53

The watermark can then be detected by calculating the aggregate synth ID score of a block of text.

Sau đó, watermark có thể được phát hiện bằng cách tính tổng điểm synth ID của một khối văn bản.

22:58

It's suspiciously high.

Nó cao một cách đáng ngờ.

22:59

It's very likely to be AI generated.

Rất có khả năng là do AI tạo ra.

23:01

This is similar to noticing a lot of m dashes, but instead of a list of keywords, it's subtle math relationships between things that humans can't identify as well.

Điều này tương tự như việc nhận thấy nhiều dấu gạch ngang dài, nhưng thay vì danh sách từ khóa, đó là các mối quan hệ toán học tinh tế giữa các thứ mà con người không thể nhận diện tốt.

23:09

And since it's trivial to sign the scores, it's trivial

Và vì việc ký các điểm số là tầm thường, nên việc

23:12

to run the watermark detection.

Chạy phát hiện watermark cũng tầm thường.

23:13

The other strat people have been using are these different space characters.

Chiến lược khác mà mọi người đang sử dụng là các ký tự khoảng trắng khác nhau.

23:18

There's a lot of different ways to encode a space in a thing that are not just the normal space bar press.

Có rất nhiều cách khác nhau để mã hóa khoảng trắng trong một thứ không chỉ là nhấn phím cách bình thường.

23:24

humans will not see it.

Con người sẽ không nhìn thấy nó.

23:25

But if you encode these strategically inside of something that an AI model writes, you can detect which ones are where and use this to get real useful data.

Nhưng nếu bạn mã hóa những ký tự này một cách chiến lược bên trong thứ mà mô hình AI viết, bạn có thể phát hiện chúng ở đâu và sử dụng điều này để có được dữ liệu thực sự hữu ích.

23:34

I remember Verscell a while back was working on a feature where you could edit content on a blog or

Tôi nhớ Verscell một thời gian trước đã làm việc trên một tính năng nơi bạn có thể chỉnh sửa nội dung trên blog hoặc

23:40

something via the Verscell toolbar and the really clever strategy for linking different pieces of text in the UI to the official like CRM backing it for your blog or whatever was to append different white code text at the end of each paragraph so that when you selected that text in the UI and you made changes, it'd be able to map it to a different place in the actual database

Thứ gì đó thông qua thanh công cụ Verscell và chiến lược thông minh thực sự để liên kết các phần văn bản khác nhau trong giao diện người dùng với CRM chính thức hỗ trợ blog của bạn hoặc bất cứ thứ gì là thêm các văn bản mã trắng khác nhau ở cuối mỗi đoạn văn để khi bạn chọn văn bản đó trong giao diện người dùng và thực hiện thay đổi, nó có thể ánh xạ đến một nơi khác trong cơ sở dữ liệu thực tế

24:02

simply by detecting which row it does with an identifier using these different unicode space characters to hide messages inside of the UI.

Chỉ bằng cách phát hiện hàng nào có định danh bằng cách sử dụng các ký tự khoảng trắng Unicode khác nhau để ẩn thông điệp bên trong giao diện người dùng.

24:10

It's very clever and really cool, but also like easy to trim out, too.

Nó rất thông minh và thực sự tuyệt vời, nhưng cũng dễ dàng loại bỏ.

24:15

If you were to use different space characters to apply watermarks, it would be very cheap to detect, but also easy to filter out too.

Nếu bạn sử dụng các ký tự khoảng trắng khác nhau để áp dụng watermark, việc phát hiện sẽ rất rẻ, nhưng cũng dễ dàng lọc ra.

24:24

Cloud code is apparently doing this in the past to tag suspicious requests from Chinese users.

Cloud code dường như đã làm điều này trong quá khứ để gắn thẻ các yêu cầu đáng ngờ từ người dùng Trung Quốc.

24:28

In the last few years, they've noticed that when they copy blocks of text from chatb and paste in the VS code, sometimes VS Code marks some all of the spaces as unusual unic code characters.

Trong vài năm qua, họ nhận thấy rằng khi họ sao chép các khối văn bản từ chatb và dán vào VS Code, đôi khi VS Code đánh dấu một số hoặc tất cả các khoảng trắng là các ký tự Unicode bất thường.

24:37

Are openthropic using homoglyphs as AI generated watermarks?

Có phải Anthropic đang sử dụng homoglyphs làm watermark do AI tạo ra không?

24:40

The author's not sure, but they're definitely using them.

Tác giả không chắc chắn, nhưng họ chắc chắn đang sử dụng chúng.

24:43

Interesting.

Thú vị.

24:43

But the problem here isn't whether or not they're easy to add.

Nhưng vấn đề ở đây không phải là chúng dễ thêm hay không.

24:47

It's how easy are they to remove.

Mà là chúng dễ loại bỏ đến mức nào.

24:49

Because all text watermarks can be trivially removed.

Bởi vì tất cả watermark văn bản có thể bị loại bỏ một cách tầm thường.

24:52

If you use these Unicode homoglyphs, it's trivial to just replace them with the original character.

Nếu bạn sử dụng các homoglyph Unicode này, việc thay thế chúng bằng ký tự gốc là tầm thường.

24:57

Now you're out of it.

Bây giờ bạn thoát khỏi nó.

24:59

Watermark gone.

Watermark biến mất.

24:59

If you have access

Nếu bạn có quyền truy cập

25:01

to even a relatively weak unwatermarked LLM, you can strip out the synth ID watermarks by asking the LLM to paraphrase the text content.

Ngay cả một LLM không có watermark tương đối yếu, bạn có thể loại bỏ watermark synth ID bằng cách yêu cầu LLM diễn đạt lại nội dung văn bản.

25:08

Because the watermark is inherent to subtle vocabulary choices, rewarding the content will remove that watermark.

Bởi vì watermark vốn có trong các lựa chọn từ vựng tinh tế, việc viết lại nội dung sẽ loại bỏ watermark đó.

25:12

You could even do it by hand, although at that point it's not really AI generated content anymore.

Bạn thậm chí có thể làm điều đó bằng tay, mặc dù lúc đó nó không còn thực sự là nội dung do AI tạo ra nữa.

25:17

Since there will be

Vì sẽ có

25:19

some kind of free public watermark testing tool, you can just keep tweaking until it comes back negative.

Một số loại công cụ kiểm tra hình mờ công khai miễn phí, bạn có thể cứ điều chỉnh cho đến khi kết quả âm tính.

25:24

Yep, that's the other problem.

Đúng, đó là vấn đề khác.

25:25

If it's easy for us to check if text is generated or not, that works on both sides.

Nếu chúng ta dễ dàng kiểm tra xem văn bản có được tạo ra hay không, điều đó có tác dụng cho cả hai phía.

25:30

Both for us reading the text and also for people trying to generate AI text and get it out there looking like normal text.

Cả cho chúng ta khi đọc văn bản và cho những người cố gắng tạo văn bản AI và đưa nó ra ngoài trông giống văn bản bình thường.

25:37

Moreover, the AI act requires watermarking techniques to be interoperable as far as it is technically feasible.

Hơn nữa, đạo luật AI yêu cầu các kỹ thuật tạo hình mờ phải có khả năng tương tác trong phạm vi khả thi về mặt kỹ thuật.

25:42

That means AI writers will have to publish their watermarking process and potentially even attempt to standardize on applying the same kinds of watermarks.

Điều đó có nghĩa là các nhà sản xuất AI sẽ phải công bố quy trình tạo hình mờ của họ và thậm chí có thể cố gắng tiêu chuẩn hóa việc áp dụng cùng một loại hình mờ.

25:49

The author does not see how this is compatible with the kind of security by obscurity that LM text watermarking depends on.

Tác giả không thấy điều này tương thích với kiểu bảo mật bằng cách che giấu mà việc tạo hình mờ văn bản LM phụ thuộc vào.

25:55

You

Bạn

25:56

can't be obscure in how you implement it to hide it, but also give all of these tools.

Không thể vừa che giấu cách triển khai để giấu nó, vừa cung cấp tất cả các công cụ này.

26:00

Like there's a have your cake and eat it too.

Giống như là có cả bánh và ăn nó vậy.

26:03

By the way, the cake's invisible and all made up type thing here.

Nhân tiện, cái bánh này vô hình và hoàn toàn là giả tạo.

26:06

Then we get to C2PA, which is honestly one of the stronger things in all of this, but not because of how it makes it easy to verify AI content.

Sau đó chúng ta đến với C2PA, mà thực sự là một trong những thứ mạnh mẽ nhất trong tất cả những điều này, nhưng không phải vì nó giúp dễ dàng xác minh nội dung AI.

26:14

We'll come back to C2PA in just a moment.

Chúng ta sẽ quay lại C2PA ngay sau đây.

26:16

The AI acting code of practice talks a lot about digitally signed media.

Quy tắc thực hành của đạo luật AI nói rất nhiều về phương tiện ký số.

26:20

The idea here is that you can include an AI disclosure in the files metadata itself.

Ý tưởng ở đây là bạn có thể đưa tuyên bố AI vào chính siêu dữ liệu của tệp.

26:25

Ideally in a way that cannot be tampered with like signing a hash of the files contents.

Lý tưởng nhất là theo cách không thể bị can thiệp, như ký một hàm băm của nội dung tệp.

26:30

The sign metadata process is basically the CGPA content credentials.

Quy trình siêu dữ liệu ký về cơ bản là thông tin xác thực nội dung của CGPA.

26:33

While you can

Mặc dù bạn có thể

26:34

remove CGPA metadata, you can't fake it.

Xóa siêu dữ liệu CGPA, nhưng bạn không thể giả mạo nó.

26:36

So a file with created by human metadata can be trusted and a file with no metadata at all can be held in suspicion.

Vì vậy, một tệp có siêu dữ liệu 'được tạo bởi con người' có thể được tin cậy và một tệp không có siêu dữ liệu có thể bị nghi ngờ.

26:43

Okay, this is the part that I actually want to bring up here.

Được rồi, đây là phần tôi thực sự muốn nêu ra ở đây.

26:47

The thing that makes CGPA strong isn't that it's flagging AI gen content.

Điều làm cho CGPA mạnh mẽ không phải là nó đánh dấu nội dung do AI tạo ra.

26:51

It's that it provides standards to identify human generated content.

Mà là nó cung cấp các tiêu chuẩn để xác định nội dung do con người tạo ra.

26:55

And that's the only direction that makes sense here,

Và đó là hướng duy nhất có ý nghĩa ở đây,

26:58

especially for media.

Đặc biệt là đối với phương tiện truyền thông.

26:58

It's a lot easier to sign something as really generated by the chip on your camera with a photo you took than it is to detect all things that weren't taken on cameras.

Việc ký một thứ gì đó là thực sự được tạo ra bởi chip trên máy ảnh của bạn với một bức ảnh bạn chụp dễ dàng hơn nhiều so với việc phát hiện tất cả những thứ không được chụp bằng máy ảnh.

27:09

And the more ways we can find to sign human generated media, the easier this gets.

Và càng có nhiều cách để ký phương tiện do con người tạo ra, điều này càng dễ dàng.

27:14

Because I really do think long-term that's the only solution that's going to work.

Bởi vì tôi thực sự nghĩ về lâu dài đó là giải pháp duy nhất sẽ hiệu quả.

27:18

Sadly, the CTPA created by human markers are not going to solve anything in text.

Đáng buồn thay, các dấu hiệu 'được tạo bởi con người' của CTPA sẽ không giải quyết được gì trong văn bản.

27:24

It only really applies to files.

Nó chỉ thực sự áp dụng cho các tệp.

27:26

In the words of the code of practice, that's quote a data format that supports attaching metadata like audio, image, video, or containerized text.

Theo lời của quy tắc thực hành, đó là 'một định dạng dữ liệu hỗ trợ đính kèm siêu dữ liệu như âm thanh, hình ảnh, video hoặc văn bản được đóng gói'.

27:34

The output of chat tools in most

Đầu ra của các công cụ trò chuyện trong hầu hết

27:37

of the output of AI agents is not containerized text but plain old regular text so it cannot be signed.

Đầu ra của các tác nhân AI không phải là văn bản được đóng gói mà là văn bản thường thông thường, vì vậy nó không thể được ký.

27:42

What would it even look like to sign a chatgbt output?

Việc ký đầu ra của ChatGPT sẽ trông như thế nào?

27:44

There's no artifact to pass around.

Không có tạo phẩm nào để chuyển xung quanh.

27:46

I think it's fascinating question whether cloud code has to CGPA sign any HTML files or PDFs it generates for you seems kind of tricky to get right.

Tôi nghĩ đó là một câu hỏi thú vị liệu mã đám mây có phải ký CGPA cho bất kỳ tệp HTML hoặc PDF nào nó tạo ra cho bạn hay không, có vẻ hơi khó để làm đúng.

27:53

But in any case, the Act also

Nhưng trong mọi trường hợp, Đạo luật cũng

27:55

mandates some kind of actual watermarking as well.

Yêu cầu một số loại hình mờ thực tế.

27:57

And the harsh conclusion here is that no matter what happens, technical users will be able to strip out the watermark at will.

Và kết luận gay gắt ở đây là bất kể điều gì xảy ra, người dùng kỹ thuật sẽ có thể loại bỏ hình mờ theo ý muốn.

28:03

There will be a plethora of tools for nontechnical users that will do the same thing.

Sẽ có rất nhiều công cụ cho người dùng không chuyên làm điều tương tự.

28:08

We already have a bunch of repos that are doing watermark removal here.

Chúng ta đã có một loạt kho lưu trữ đang thực hiện việc loại bỏ hình mờ ở đây.

28:12

Unicode text hygiene, statistical rewrite hooks, and CGPA metadata removal from PNG, JPEG, SVG, PDF, DOCEX, HTML, and MD.

Vệ sinh văn bản Unicode, các hook viết lại thống kê và loại bỏ siêu dữ liệu CGPA từ PNG, JPEG, SVG, PDF, DOCX, HTML và MD.

28:18

This is a real repo that already exists to remove watermarks from AI generated things.

Đây là một kho lưu trữ thực sự đã tồn tại để loại bỏ hình mờ khỏi những thứ do AI tạo ra.

28:22

It's an agent skill and a standard Python script to strip multi- vendor AI providence marks from text and files for privacy and hygiene on content that you own.

Đó là một kỹ năng tác nhân và một tập lệnh Python tiêu chuẩn để loại bỏ dấu hiệu xuất xứ AI đa nhà cung cấp khỏi văn bản và tệp vì mục đích riêng tư và vệ sinh trên nội dung bạn sở hữu.

28:32

They have a

Họ có một

28:33

skill you can install if you want to remove AI marks from things that are generated by the same agent in your codebase, by the way.

Kỹ năng bạn có thể cài đặt nếu bạn muốn loại bỏ dấu hiệu AI khỏi những thứ được tạo ra bởi cùng một tác nhân trong mã của bạn, nhân tiện.

28:40

So, you can literally ask Claude to remove the watermark from Claude's outputs, which is hilarious.

Vì vậy, bạn thực sự có thể yêu cầu Claude loại bỏ hình mờ khỏi đầu ra của Claude, điều này thật buồn cười.

28:45

Yeah.

Vâng.

28:45

To conclude on my end, the issue here is that this is a really shitty cat and mouse game where the mouse has all of the advantages.

Để kết luận về phía tôi, vấn đề ở đây là đây là một trò chơi mèo vờn chuột tồi tệ, nơi con chuột có tất cả lợi thế.

28:54

It's way too easy to work around these things and it's way too hard to do this type of watermarking in a way that isn't trivial to bypass.

Việc vượt qua những thứ này quá dễ dàng và việc tạo watermark theo cách không thể bị bỏ qua một cách tầm thường là quá khó.

29:04

Like I just cannot fathom any method where you can watermark text that isn't either incredibly expensive to detect or incredibly cheap to work around.

Tôi không thể tưởng tượng ra bất kỳ phương pháp nào để watermark văn bản mà không cực kỳ đắt để phát hiện hoặc cực kỳ rẻ để vượt qua.

29:13

And that catch 22 is pretty brutal and I just don't ever see it working out.

Và tình thế tiến thoái lưỡng nan đó khá khắc nghiệt và tôi không bao giờ thấy nó có thể hoạt động.

29:19

All

Tất cả

29:20

this will ever do is catch the lowest effort spammers.

Điều này sẽ chỉ bắt được những kẻ gửi thư rác nỗ lực thấp nhất.

29:23

People setting up bots that just use Claude or other models to spam people on Twitter and whatnot.

Những người thiết lập bot chỉ sử dụng Claude hoặc các mô hình khác để gửi thư rác cho mọi người trên Twitter và những thứ tương tự.

29:28

And they can all move to cheap openweight models or add really basic checks in front.

Và tất cả họ có thể chuyển sang các mô hình mã nguồn mở rẻ tiền hoặc thêm các kiểm tra rất cơ bản ở phía trước.

29:33

But this is not going to stop anything.

Nhưng điều này sẽ không ngăn chặn được bất cứ điều gì.

29:36

This is one of those things where it like sounds really good and to normal people, to voters, to

Đây là một trong những thứ nghe có vẻ rất hay đối với người bình thường, đối với cử tri, đối với

29:42

politicians, to all the people involved in making these processes, it sounds like a really good idea.

Các chính trị gia, đối với tất cả những người tham gia vào các quy trình này, nó nghe có vẻ là một ý tưởng thực sự tốt.

29:46

We should be able to detect what text was generated by models.

Chúng ta nên có khả năng phát hiện văn bản nào được tạo ra bởi các mô hình.

29:50

We should be able to detect when an image was edited by an LLM.

Chúng ta nên có khả năng phát hiện khi một hình ảnh được chỉnh sửa bởi một LLM.

29:54

Like obviously we want these things, but we literally cannot do it.

Rõ ràng là chúng ta muốn những điều này, nhưng chúng ta thực sự không thể làm được.

29:57

We have to think back on what our goal is here.

Chúng ta phải suy nghĩ lại về mục tiêu của mình ở đây.

30:00

Is our goal to make it slightly easier to

Mục tiêu của chúng ta có phải là làm cho việc

30:03

notice when a random person copy pastes an output from chat GPT?

Nhận thấy khi một người ngẫu nhiên sao chép dán đầu ra từ chat GPT dễ dàng hơn một chút không?

30:06

Is our goal to make it harder for students in high school to cheat on essays and have chat GBT generate them?

Mục tiêu của chúng ta có phải là làm cho học sinh trung học khó gian lận trong bài luận và để chat GBT tạo ra chúng không?

30:13

Or is our goal to get in front of people using AI to do destructive campaigns across society, like a government using it to spread propaganda and generate a bunch of messaging that aligns with them?

Hay mục tiêu của chúng ta là ngăn chặn những người sử dụng AI để thực hiện các chiến dịch phá hoại trên toàn xã hội, như một chính phủ sử dụng nó để lan truyền tuyên truyền và tạo ra một loạt thông điệp phù hợp với họ?

30:25

I think

Tôi nghĩ

30:26

this will help a little bit with the stopping high school cheaters, but I don't think it's going to help with almost anything else here because any medium or even like slightly higher than zeroeffort attempt to mislead people with AI generated stuff will not be stopped at all by this.

Điều này sẽ giúp ích một chút trong việc ngăn chặn học sinh trung gian lận, nhưng tôi không nghĩ nó sẽ giúp ích cho hầu hết mọi thứ khác ở đây vì bất kỳ nỗ lực trung bình hoặc thậm chí hơi cao hơn mức không để đánh lừa mọi người bằng nội dung do AI tạo ra sẽ không bị ngăn chặn chút nào bởi điều này.

30:41

And even the high schoolers are going to find workarounds if we're being real here.

Và ngay cả học sinh trung học cũng sẽ tìm ra cách vượt qua nếu chúng ta thành thật.

30:46

So, I just I don't see this being useful.

Vì vậy, tôi chỉ không thấy điều này hữu ích.

30:48

I see this being one of those things that sounds really good, especially to normal people that are getting tired of AI slop destroying everything around them, but I just don't perceive this as a thing that will work for any real use cases.

Tôi thấy đây là một trong những thứ nghe có vẻ rất hay, đặc biệt là đối với những người bình thường đang mệt mỏi với rác AI phá hủy mọi thứ xung quanh họ, nhưng tôi không nghĩ đây là thứ sẽ hoạt động cho bất kỳ trường hợp sử dụng thực tế nào.

31:02

And I think that we'll get over this watermarking phase relatively quickly.

Và tôi nghĩ rằng chúng ta sẽ vượt qua giai đoạn watermark này tương đối nhanh chóng.

31:06

What we're going to

Những gì chúng ta sẽ

31:08

have to do is start verifying when images are real instead of fake and educating the public about the fact that there are many things that look real and aren't.

Phải làm là bắt đầu xác minh khi hình ảnh là thật thay vì giả và giáo dục công chúng về thực tế rằng có nhiều thứ trông có vẻ thật nhưng không phải.

31:17

Unlike the image I have on my screen now, which is clearly a real image of my face on a leg.

Không giống như hình ảnh tôi có trên màn hình bây giờ, rõ ràng là một hình ảnh thật về khuôn mặt của tôi trên một cái chân.

31:24

But generally speaking, the education side and flagging of human content is what we need long term.

Nhưng nói chung, khía cạnh giáo dục và gắn cờ nội dung của con người là những gì chúng ta cần về lâu dài.

31:30

That's all I have to say

Đó là tất cả những gì tôi muốn nói

31:32

on this one.

Về vấn đề này.

31:32

I honestly wish that the effort of these really smart people was put into things that would actually work.

Tôi thực sự ước rằng nỗ lực của những người rất thông minh này được dành cho những thứ thực sự có hiệu quả.

31:37

I know this is a good faith effort to try and make it easier for the public to adjust to a world with more and more AI generated stuff, but these efforts just aren't going to work.

Tôi biết đây là một nỗ lực thiện chí để cố gắng làm cho công chúng dễ dàng thích nghi với một thế giới ngày càng có nhiều nội dung do AI tạo ra, nhưng những nỗ lực này sẽ không hiệu quả.

31:47

Even a very basic cursory understanding of engineering and watermarking techniques

Ngay cả một sự hiểu biết rất cơ bản và sơ sài về kỹ thuật và watermarking

31:50

makes that obviously the case.

Làm cho điều đó rõ ràng là đúng.

31:51

How do you guys feel though?

Nhưng các bạn cảm thấy thế nào?

31:52

Is this a net positive or is it just a waste of time?

Đây là một điều tích cực ròng hay chỉ là lãng phí thời gian?

31:55

Curious how you all feel about it.

Tò mò muốn biết tất cả các bạn cảm thấy thế nào về nó.

31:56

And until next time, peace nerds.

Và cho đến lần sau, bình yên nhé mấy đứa mọt sách.

Transcript

Hiển thị

EU AI Act and Watermarking Requirements

The EU AI Act introduces requirements for marking AI-generated content, with Anthropic planning to implement watermarks in text and code by August 2026. The code of practice includes sections for providers and deployers, with exemptions for assistive AI functions. Watermarking images is easier due to more data, but text watermarking is more challenging.

Đạo luật AI của EU đưa ra các yêu cầu về việc đánh dấu nội dung do AI tạo ra, với Anthropic dự định triển khai đánh dấu trong văn bản và mã nguồn vào tháng 8 năm 2026. Bộ quy tắc thực hành bao gồm các phần cho nhà cung cấp và nhà triển khai, với các miễn trừ cho các chức năng AI hỗ trợ. Việc đánh dấu hình ảnh dễ dàng hơn do có nhiều dữ liệu hơn, nhưng đánh dấu văn bản khó khăn hơn.