0:00

15:58

Why OpenAI and Anthropic CEOs say AI development must slow down | DW News

DW News·15:58·Technology·B2

Chương · 7

Chương 1·AI Leaders Call for Slower Development

Hiển thị

Tiếng ViệtAuto-scroll

0:00

It's no secret that artificial intelligence companies like OpenAI and Anthropic seem poised to change the world like few businesses have done before them.

Không có gì bí mật khi các công ty trí tuệ nhân tạo như OpenAI và Anthropic dường như sẵn sàng thay đổi thế giới như ít doanh nghiệp nào từng làm trước đây.

0:08

But now, voices from within the industry are increasingly calling for limits to be put on their own technology.

Nhưng giờ đây, tiếng nói từ bên trong ngành ngày càng kêu gọi đặt ra giới hạn cho chính công nghệ của họ.

0:16

- The CEO of Anthropic, Dario Amodei, is one of those industry insiders calling for more caution.

- CEO của Anthropic, Dario Amodei, là một trong những người trong ngành kêu gọi thận trọng hơn.

0:23

Amodei's appeal comes after several high-profile AI researchers quit the industry over fears of the technology's rapid and uncontrolled development.

Lời kêu gọi của Amodei đến sau khi một số nhà nghiên cứu AI nổi tiếng rời bỏ ngành vì lo ngại sự phát triển nhanh chóng và không kiểm soát của công nghệ này.

0:33

Now, Amodei published a lengthy essay calling on AI firms to work together to put on the brakes.

Giờ đây, Amodei đã công bố một bài luận dài kêu gọi các công ty AI hợp tác để hãm phanh.

0:39

It's called the "We Must Pace the Frontier" memo.

Nó được gọi là bản ghi nhớ "We Must Pace the Frontier".

0:42

In it, Amodei argues that AI development should continue, but at a deliberately slower and more controlled pace so that safety measures can keep up with its rapidly advancing capabilities.

Trong đó, Amodei lập luận rằng phát triển AI nên tiếp tục, nhưng với tốc độ chậm hơn và có kiểm soát hơn để các biện pháp an toàn có thể theo kịp khả năng tiến bộ nhanh chóng của nó.

0:54

Now, Sam Altman, the head of OpenAI, says he approves of Amodei's proposal.

Hiện tại, Sam Altman, người đứng đầu OpenAI, nói rằng ông tán thành đề xuất của Amodei.

0:58

OpenAI has also ruled out going public this year.

OpenAI cũng đã loại trừ việc niêm yết công khai trong năm nay.

1:01

Altman says that given current concerns about AI safety, now would be a quote "ill-advised moment" for an IPO.

Altman nói rằng với những lo ngại hiện tại về an toàn AI, bây giờ sẽ là một thời điểm được trích dẫn "không khôn ngoan" để IPO.

1:09

Okay.

Được rồi.

1:09

So, uh, - so should we be taking these fears seriously?

Vậy, uh, - vậy chúng ta có nên coi những nỗi sợ này một cách nghiêm túc không?

1:13

Can limits be placed on AI technology?

Có thể đặt giới hạn cho công nghệ AI không?

1:15

And if the technology is really so dangerous, should it be up to the industry to police itself?

Và nếu công nghệ thực sự nguy hiểm đến vậy, liệu ngành có nên tự giám sát chính mình không?

1:21

Those are the questions I want to discuss with Gary McGrath.

Đó là những câu hỏi tôi muốn thảo luận với Gary McGrath.

1:25

He's CEO of the Berryville Institute of Machine Learning and a veteran security and AI researcher.

Ông là CEO của Berryville Institute of Machine Learning và là một nhà nghiên cứu bảo mật và AI kỳ cựu.

1:31

Gary, thanks so much for joining us.

Gary, cảm ơn rất nhiều vì đã tham gia cùng chúng tôi.

1:34

- It's a pleasure to be here, Erin.

- Rất vui được ở đây, Erin.

1:36

Thanks for having me on again.

Cảm ơn vì đã mời tôi lần nữa.

1:38

So Sam Altman now agrees with Dario Amodei that the AI frontier needs to be paced.

Vậy Sam Altman giờ đồng ý với Dario Amodei rằng biên giới AI cần được tiết chế.

1:44

What does that tell you about the level of concern inside these companies?

Điều đó cho bạn biết gì về mức độ lo ngại bên trong các công ty này?

1:49

I believe one of the problems that we have to face is that these models are very sophisticated indeed, but they don't have any intent or any sort of understanding in the way that we do as humans.

Tôi tin rằng một trong những vấn đề chúng ta phải đối mặt là các mô hình này thực sự rất tinh vi, nhưng chúng không có ý định hay bất kỳ kiểu hiểu biết nào như chúng ta với tư cách con người.

2:04

And so we often use language like "the model says this," "the model understands that," and more importantly, "the model wants to do this." That can be misleading.

Và vì vậy chúng ta thường dùng ngôn ngữ như "mô hình nói điều này", "mô hình hiểu điều đó", và quan trọng hơn, "mô hình muốn làm điều này". Điều đó có thể gây hiểu lầm.

2:15

Um, and if you think of them

Um, và nếu bạn nghĩ về chúng

2:18

as tools that somebody is creating or using or instructing what to do or setting the goals for, then you get a slightly different perspective.

Như những công cụ mà ai đó đang tạo ra hoặc sử dụng hoặc hướng dẫn phải làm gì hoặc đặt ra mục tiêu, thì bạn sẽ có một góc nhìn hơi khác.

2:27

And I think it's important to keep that in mind when you think about these things.

Và tôi nghĩ điều quan trọng là phải ghi nhớ điều đó khi bạn nghĩ về những thứ này.

2:33

Yeah, it is often kind of the misnomer.

Vâng, nó thường là một cách gọi sai.

2:34

We often say artificial intelligence, but this isn't, you know, really an intelligence we're dealing with.

Chúng ta thường nói trí tuệ nhân tạo, nhưng đây không phải, bạn biết đấy, thực sự là một trí tuệ mà chúng ta đang đối phó.

2:38

You know, there isn't intent, as you said, behind it.

Bạn biết đấy, không có ý định, như bạn đã nói, đằng sau nó.

2:41

And do you think that's muddying the waters when it comes to having um I don't know, more informed discussions about the technology and as it's devel as its capabilities are developing?

Và bạn có nghĩ rằng điều đó đang làm mờ nước khi nói đến việc có những cuộc thảo luận um tôi không biết, được hiểu biết hơn về công nghệ và khi nó đang phát triển khi các khả năng của nó đang phát triển không?

2:51

- I sure do.

- Tôi chắc chắn có.

2:52

Um and I think one of the ways to think about it is to think of it not as not intelligent, but as alien intelligence.

Um và tôi nghĩ một trong những cách để nghĩ về nó là nghĩ về nó không phải là không thông minh, mà là trí tuệ ngoài hành tinh.

3:02

So, you know, I everybody is familiar with first using a computer and how powerful um search tools when the internet came along like Google and Yahoo were um kind of mindbogglingly cool back in the 80s and the '90s.

Vậy, bạn biết đấy, tôi mọi người đều quen với việc lần đầu sử dụng máy tính và cách các công cụ tìm kiếm um mạnh mẽ như thế nào khi internet xuất hiện như Google và Yahoo um thật tuyệt vời đến mức khó tin vào những năm 80 và 90.

3:17

And right now what we're doing is building a

Và hiện tại những gì chúng ta đang làm là xây dựng một

3:21

set of tools that are more powerful even than those but they don't have their own intentions and they don't you know do things without our either setting them up to do that or designing them to do that.

Bộ công cụ thậm chí còn mạnh mẽ hơn cả những thứ đó nhưng chúng không có ý định riêng và chúng không bạn biết đấy làm mọi thứ mà không có việc chúng ta thiết lập chúng để làm điều đó hoặc thiết kế chúng để làm điều đó.

3:35

Um, and if you look behind the curtain, um, behind all these fears, the question is who's at fault for some of these hacking incidents or for some of these concerns about misuse of a an AI

Um, và nếu bạn nhìn ra sau bức màn, um, đằng sau tất cả những nỗi sợ này, câu hỏi là ai có lỗi cho một số sự cố hack này hoặc một số lo ngại về việc lạm dụng một AI

3:49

to design, say, biological weapons.

Để thiết kế, ví dụ, vũ khí sinh học.

3:51

The answer is us.

Câu trả lời là chúng ta.

3:53

It's our fault.

Đó là lỗi của chúng ta.

3:55

We're the ones doing that.

Chúng ta là những người làm điều đó.

3:58

- All right.

- Được rồi.

3:59

So, we are developing artificial intelligences or alien intelligence as you say.

Vậy, chúng ta đang phát triển trí tuệ nhân tạo hoặc trí tuệ ngoài hành tinh như bạn nói.

4:03

And it seems that a bunch of insiders are now incredibly concerned about the capabilities and that they're advancing faster than our ability to make them safe.

Và có vẻ như một nhóm người trong ngành giờ đây vô cùng lo ngại về các khả năng và rằng chúng đang tiến bộ nhanh hơn khả năng của chúng ta để làm cho chúng an toàn.

4:13

From what you're seeing, are they right?

Từ những gì bạn thấy, họ có đúng không?

4:16

- I think that a lot of that is tied up in the anthropomorphic view of these things that often comes from inside.

- Tôi nghĩ rằng phần lớn điều đó gắn liền với quan điểm nhân hình hóa những thứ này thường đến từ bên trong.

4:25

And in some sense, Anthropic is named that way on purpose.

Và theo một nghĩa nào đó, Anthropic được đặt tên như vậy là có chủ đích.

4:29

So, it's not too surprising that they're often leading the pack among those who were ascribing intent to these models.

Vì vậy, không quá ngạc nhiên khi họ thường dẫn đầu trong số những người gán ý định cho các mô hình này.

4:37

They think they say things um like "the model escaped," "the model um could do something bad," "it lied." That

Họ nghĩ rằng chúng nói những điều um như "mô hình đã trốn thoát", "mô hình um có thể làm điều gì đó xấu", "nó đã nói dối". Điều đó

4:46

meant it had an intention to mislead.

Có nghĩa là nó có ý định gây hiểu lầm.

4:48

Um and these are things if you start using that language all the time, you fall into the trap of not understanding what's really going on.

Um và đây là những thứ nếu bạn bắt đầu sử dụng ngôn ngữ đó mọi lúc, bạn sẽ rơi vào cái bẫy không hiểu điều gì thực sự đang diễn ra.

4:58

And so I do think even though this is insiders in the agent in these AI companies that they are just making mistakes of understanding.

Và vì vậy tôi thực sự nghĩ rằng mặc dù đây là những người trong cuộc ở các công ty AI này, họ chỉ đang mắc sai lầm trong việc hiểu biết.

5:08

- So how should we look at these um these uh programs that we're developing or these capabilities?

- Vậy chúng ta nên nhìn nhận những chương trình này, những khả năng mà chúng ta đang phát triển như thế nào?

5:12

Are they just tools?

Chúng chỉ là công cụ thôi sao?

5:14

You seem to indicate that you know at the end of the day it is humans that are still designing these systems.

Bạn có vẻ như đang chỉ ra rằng, bạn biết đấy, suy cho cùng thì vẫn là con người đang thiết kế những hệ thống này.

5:20

Correct.

Đúng vậy.

5:22

- It is humans that are designing them.

- Chính con người đang thiết kế chúng.

5:24

Although one of the things that the latest memo that you said at the top um did call into question is who's doing the design because once these things sort of start designing themselves in a recursive fashion then we have something interesting going on.

Mặc dù một trong những điều mà bản ghi nhớ mới nhất mà bạn đã đề cập ở đầu đã đặt ra câu hỏi là ai đang thực hiện việc thiết kế, bởi vì một khi những thứ này bắt đầu tự thiết kế theo cách đệ quy thì chúng ta sẽ có một điều gì đó thú vị đang diễn ra.

5:42

Uh I don't think that we're there yet and we haven't reached the stage where these things are truly autonomous.

Uh tôi không nghĩ rằng chúng ta đã đến đó và chúng ta chưa đạt đến giai đoạn mà những thứ này thực sự tự chủ.

5:50

They can do stuff that we tell them to do and program to do and ask them to do, but they don't sit around inventing things to do um when they're bored.

Chúng có thể làm những việc mà chúng ta bảo chúng làm và lập trình để làm và yêu cầu chúng làm, nhưng chúng không ngồi không phát minh ra những việc để làm khi chúng chán.

6:00

So that basically means, if I understand you correctly, at the end of the day, we could still pull the plug and just turn the computer off, right?

Vậy điều đó về cơ bản có nghĩa là, nếu tôi hiểu bạn đúng, thì suy cho cùng, chúng ta vẫn có thể rút phích cắm và tắt máy tính đi, đúng không?

6:10

- Well, one would hope.

- Chà, người ta hy vọng là vậy.

6:11

I mean, if you look at um some of the work that Nicholas Papernot has done uh at Toronto, you find that we could use these kinds of tools to make worms and malware more powerful.

Ý tôi là, nếu bạn nhìn vào một số công trình mà Nicholas Papernot đã thực hiện ở Toronto, bạn sẽ thấy rằng chúng ta có thể sử dụng những loại công cụ này để làm cho sâu máy tính và phần mềm độc hại mạnh mẽ hơn.

6:25

And in sense, some sense those would be programs that go out onto the net and do stuff.

Và theo một nghĩa nào đó, một số nghĩa nào đó thì đó sẽ là những chương trình phát tán lên mạng và làm mọi thứ.

6:32

But that's not what um these frontier model companies are talking about right now.

Nhưng đó không phải là điều mà các công ty mô hình tiên phong này đang nói đến vào lúc này.

6:38

And it's important to keep things in perspective.

Và điều quan trọng là phải giữ mọi thứ trong tầm nhìn đúng đắn.

6:41

I think um you know, let's take the Anthropic Hugging Face hacking incident.

Tôi nghĩ, bạn biết đấy, hãy lấy sự cố hack Anthropic Hugging Face làm ví dụ.

6:46

Although everybody's talked about this until they're blue in the face.

Mặc dù mọi người đã nói về điều này đến mức chán ngấy.

6:51

What really happened was there were some computers that were controlled by OpenAI that were running a program that OpenAI wrote and OpenAI ran the program and asked it to accomplish some

Điều thực sự xảy ra là có một số máy tính được OpenAI kiểm soát đang chạy một chương trình do OpenAI viết và OpenAI đã chạy chương trình đó và yêu cầu nó hoàn thành một số

7:05

goals, namely passing a hacking um set of uh tests and uh and the thing did exactly what they asked it to do, but it found a way to the internet because they very badly engineered their sandbox, their kind of cage for the thing.

Mục tiêu, cụ thể là vượt qua một bộ bài kiểm tra hack và thứ đó đã làm chính xác những gì họ yêu cầu, nhưng nó đã tìm được đường ra internet vì họ đã thiết kế rất tồi cái sandbox, cái lồng nhốt thứ đó.

7:22

Um, and uh, and then they say, "Woe is me.

Um, và uh, và sau đó họ nói, "Khốn khổ thay cho chúng tôi.

7:26

We could never have anticipated that this thing would get out of the sandbox." But we've known about these sorts of

Chúng tôi không thể nào lường trước được rằng thứ này sẽ thoát ra khỏi sandbox." Nhưng chúng ta đã biết về những loại

7:34

computer issues literally since the '90s.

Vấn đề máy tính này theo đúng nghĩa đen từ những năm 90.

7:38

Um, you know, when we've been talking about malicious software and things like worms and viruses.

Um, bạn biết đấy, khi chúng ta nói về phần mềm độc hại và những thứ như sâu máy tính và virus.

7:44

And so, we know how to handle these things.

Và vì vậy, chúng ta biết cách xử lý những thứ này.

7:47

And unfortunately, instead of saying, "Wow, we screwed up and our server hacked their server." Um, what they said is this thing didn't do what we said, it sort of escaped and did it on its own.

Và thật không may, thay vì nói, "Chà, chúng tôi đã làm hỏng việc và máy chủ của chúng tôi đã hack máy chủ của họ." Um, điều họ nói là thứ này đã không làm những gì chúng tôi bảo, nó kiểu như đã thoát ra và tự làm điều đó.

8:02

And the hacking is not our fault.

Và việc hack không phải lỗi của chúng tôi.

8:04

In fact, it shows you how cool and dangerous and scary our thing is, which you should buy.

Thực tế, nó cho bạn thấy thứ của chúng tôi tuyệt vời và nguy hiểm và đáng sợ như thế nào, thứ mà bạn nên mua.

8:10

And we shouldn't go to jail.

Và chúng tôi không nên bị bỏ tù.

8:12

So when people ask about things like regulation, you just say, "How about if we just enforce our existing computer security hacking laws in the United States?" - So if I understood that correctly, you're saying a lot of this comes down

Vậy khi mọi người hỏi về những thứ như quy định, bạn chỉ cần nói, "Thế còn việc chúng ta chỉ cần thực thi các luật bảo mật máy tính và chống hack hiện có ở Hoa Kỳ thì sao?" - Vậy nếu tôi hiểu đúng điều đó, bạn đang nói rằng phần lớn điều này quy về

8:26

to these companies not just engaging in the due diligency that they we should probably expect from them.

Việc các công ty này không chỉ thực hiện sự thẩm định mà lẽ ra chúng ta nên mong đợi ở họ.

8:33

- I think we should expect better out of them.

- Tôi nghĩ chúng ta nên mong đợi điều tốt hơn ở họ.

8:37

Yeah.

Đúng vậy.

8:37

Um, and I do think that when um, engineers stand up at Defcon and say things like, "Wow, we couldn't build a sandbox to hold this thing in, but yet they connected it to the internet explicitly through a package um, gathering and tool running uh, set of libraries." They're very naive um, along those lines.

Um, và tôi thực sự nghĩ rằng khi các kỹ sư đứng lên tại Defcon và nói những điều như, "Chà, chúng tôi không thể xây dựng một sandbox để nhốt thứ này, nhưng họ lại kết nối nó với internet một cách rõ ràng thông qua một gói thu thập và chạy công cụ, một bộ thư viện." Họ rất ngây thơ theo hướng đó.

9:00

- All right.

- Được rồi.

9:00

So, if I can, let's take a look at what the CEO of Anthropic is calling for in terms of, you know, putting the brakes on some of this technological development we're seeing.

Vậy, nếu có thể, hãy cùng xem xét điều mà CEO của Anthropic đang kêu gọi về việc, bạn biết đấy, hãm phanh một số phát triển công nghệ mà chúng ta đang thấy.

9:09

Now, he said he wanted to see independent third-party eval evaluators work inside AI companies.

Bây giờ, ông ấy nói rằng ông muốn thấy các đơn vị đánh giá độc lập của bên thứ ba làm việc bên trong các công ty AI.

9:15

He wanted coordination among democracies to establish safety standards and global cooperation between democracies um and major rivals like China.

Ông muốn có sự phối hợp giữa các nền dân chủ để thiết lập các tiêu chuẩn an toàn và hợp tác toàn cầu giữa các nền dân chủ và các đối thủ lớn như Trung Quốc.

9:25

Now, forgive me for sounding a little alarmist, but that almost sounds like nuclear non-proliferation.

Bây giờ, thứ lỗi cho tôi vì nghe có vẻ hơi báo động, nhưng điều đó gần như nghe giống như không phổ biến vũ khí hạt nhân.

9:32

Is that really where we are in terms of keeping this technology safe?

Đó có thực sự là nơi chúng ta đang ở trong việc giữ công nghệ này an toàn không?

9:37

- No, it's not really where we are.

- Không, đó thực sự không phải là nơi chúng ta đang ở.

9:40

Although, I really do like the idea of companies like Anthropic and OpenAI being much more transparent and forthcoming about how their models actually work.

Mặc dù vậy, tôi thực sự thích ý tưởng rằng các công ty như Anthropic và OpenAI minh bạch hơn nhiều và cởi mở hơn về cách các mô hình của họ thực sự hoạt động.

9:53

what the architectures are, what training sets they used, how their uh technical internals work.

Kiến trúc là gì, họ đã sử dụng những bộ dữ liệu huấn luyện nào, cách nội bộ kỹ thuật của họ hoạt động như thế nào.

10:00

Um because if we knew some of those things, we could, you know, do a lot better job understanding

Um bởi vì nếu chúng ta biết một số điều đó, chúng ta có thể, bạn biết đấy, làm tốt hơn nhiều trong việc hiểu

10:10

what it is that we're trying to control.

Thứ mà chúng ta đang cố gắng kiểm soát là gì.

10:13

And in fact, that's something that my little institute uh here at the banks on the banks of the Shannondoa River in the middle of nowhere in Virginia has been asking for since uh 2024, which in AI terms is an eternity.

Và thực tế, đó là điều mà viện nhỏ của tôi ở đây bên bờ sông Shannondoa ở giữa vùng hẻo lánh của Virginia đã yêu cầu từ năm 2024, mà theo thuật ngữ AI thì là một khoảng thời gian vĩnh cửu.

10:29

- So how do we think you can actually or we can trust the industry to police itself or is this something that we need to see more?

- Vậy chúng ta nghĩ bạn thực sự có thể, hoặc chúng ta có thể tin tưởng ngành công nghiệp tự giám sát chính mình không, hay đây là điều mà chúng ta cần thấy nhiều hơn?

10:38

No.

Không.

10:38

Okay.

Được rồi.

10:39

So is this government action?

Vậy đây có phải là hành động của chính phủ không?

10:40

Where does this policing come from?

Việc giám sát này đến từ đâu?

10:43

I think if the government required these vendors to be transparent and to tell us what they were doing, a lot of independent external technical people including those of us at BIML, people at the Santa Fe Institute, people all over the world um could do a much better job assessing risk.

Tôi nghĩ nếu chính phủ yêu cầu các nhà cung cấp này phải minh bạch và cho chúng ta biết họ đang làm gì, thì rất nhiều chuyên gia kỹ thuật độc lập bên ngoài, bao gồm cả những người trong chúng tôi tại BIML, những người ở Viện Santa Fe, những người trên khắp thế giới, có thể làm tốt hơn nhiều trong việc đánh giá rủi ro.

11:00

I think when they say we can bring a third party and put them in our cult and they'll just report from

Tôi nghĩ khi họ nói rằng chúng tôi có thể đưa một bên thứ ba vào và đặt họ vào giáo phái của chúng tôi và họ sẽ chỉ báo cáo từ

11:08

inside the cult and surely they won't become cult members is a little bit self-serving.

Bên trong giáo phái và chắc chắn họ sẽ không trở thành thành viên giáo phái thì điều đó có phần tự phục vụ bản thân.

11:14

Uh and I would rather have regulators regulate transparency than regulate what we can and cannot do with these models.

Uh và tôi thà để các nhà quản lý điều chỉnh tính minh bạch hơn là điều chỉnh những gì chúng ta có thể và không thể làm với các mô hình này.

11:22

And I think that would help a ton.

Và tôi nghĩ điều đó sẽ giúp ích rất nhiều.

11:26

I also think it's something that you know even politicians could understand.

Tôi cũng nghĩ đó là điều mà ngay cả các chính trị gia cũng có thể hiểu được.

11:31

- All right.

- Được rồi.

11:32

But I hate to play devil's advocate.

Nhưng tôi ghét phải đóng vai người biện hộ cho quỷ dữ.

11:34

You said 2024 is an eternity when it comes to AI development and government, you know, government cycles are a lot slower than that.

Bạn nói rằng năm 2024 là một khoảng thời gian vô tận khi nói đến phát triển AI và chính phủ, bạn biết đấy, chu kỳ của chính phủ chậm hơn nhiều so với đó.

11:42

Are governments capable of reacting fast enough to limit AI development?

Liệu các chính phủ có khả năng phản ứng đủ nhanh để hạn chế sự phát triển AI không?

11:46

- Probably not.

- Có lẽ là không.

11:47

So you do have something uh devil's advocate seems to win in this case.

Vậy là bạn có điều gì đó, uh, người biện hộ cho quỷ dữ dường như thắng trong trường hợp này.

11:53

- All right.

- Được rồi.

11:54

Okay.

Được.

11:54

And then we come to our next point.

Và sau đó chúng ta đến điểm tiếp theo.

11:56

Sam Altman has suggested that AI companies could reach an agreement themselves.

Sam Altman đã gợi ý rằng các công ty AI có thể tự đạt được thỏa thuận.

12:00

Does that mean you do you think that they've uh recognized really truly recognized the dangers that some of their models are posing or is this a little bit of PR?

Điều đó có nghĩa là bạn, bạn có nghĩ rằng họ đã uh thực sự thừa nhận những nguy hiểm mà một số mô hình của họ đang gây ra hay đây chỉ là một chút quan hệ công chúng?

12:11

It's a lot of bit of PR.

Đó là một chút quan hệ công chúng.

12:13

Um I don't think that we need some sort of dant among the democratic frontier models in the face of the Chinese threat blah blah.

Um tôi không nghĩ rằng chúng ta cần một loại dant nào đó giữa các mô hình biên giới dân chủ khi đối mặt với mối đe dọa Trung Quốc blah blah.

12:23

Um and I do think that's very self-serving.

Um và tôi thực sự nghĩ điều đó rất tự phục vụ bản thân.

12:26

- All right.

- Được rồi.

12:26

Okay.

Được.

12:27

You mentioned China and I really want to pivot to that for a second.

Bạn đã đề cập đến Trung Quốc và tôi thực sự muốn chuyển sang điều đó một lát.

12:31

Where does this leave Western companies visav China there?

Điều này đặt các công ty phương Tây ở đâu so với Trung Quốc ở đó?

12:33

You know, we don't really know exactly or at least I think a lot of people don't know what's exactly going on in China.

Bạn biết đấy, chúng ta thực sự không biết chính xác hoặc ít nhất tôi nghĩ nhiều người không biết chính xác điều gì đang diễn ra ở Trung Quốc.

12:40

It seems to be one of the countries that could be developing similar models.

Có vẻ như đây là một trong những quốc gia có thể đang phát triển các mô hình tương tự.

12:44

Should we be worried about the technology that they're developing in a similar way to, you know, how powers have approached countries like Iran and North Korea when it comes to getting nuclear weapons?

Chúng ta có nên lo lắng về công nghệ mà họ đang phát triển theo cách tương tự như, bạn biết đấy, cách các cường quốc đã tiếp cận các quốc gia như Iran và Triều Tiên khi nói đến việc có được vũ khí hạt nhân không?

12:54

- I don't think we've done a very good job at trying to control Iran.

- Tôi không nghĩ chúng ta đã làm rất tốt trong việc cố gắng kiểm soát Iran.

12:59

And I sure hope we don't try the same sorts of things with China.

Và tôi thực sự hy vọng chúng ta không thử những điều tương tự với Trung Quốc.

13:04

Um, I think that we're all working on a technology that's uh fundamentally very interesting and very powerful and all of us as human beings should work together to understand how this technology works and to develop it in a reasonable fashion.

Um, tôi nghĩ rằng tất cả chúng ta đang làm việc trên một công nghệ về cơ bản rất thú vị và rất mạnh mẽ và tất cả chúng ta với tư cách là con người nên làm việc cùng nhau để hiểu cách công nghệ này hoạt động và phát triển nó một cách hợp lý.

13:19

Tôi

13:20

think it's very important that we understand that some advances in AI like the work that Deep Mind has done which has won people Nobel prizes and you know solved problems that we thought were really hard um is part of you know demonstrates what we can do with these technologies that's very beneficial for the whole human race and I think that we have to keep that in

Nghĩ rằng điều rất quan trọng là chúng ta hiểu rằng một số tiến bộ trong AI như công trình mà Deep Mind đã thực hiện, công trình đã giành giải Nobel cho mọi người và bạn biết đấy, giải quyết những vấn đề mà chúng ta nghĩ là thực sự khó khăn, um là một phần, bạn biết đấy, chứng minh những gì chúng ta có thể làm với những công nghệ này, điều rất có lợi cho toàn thể loài người và tôi nghĩ chúng ta phải ghi nhớ điều đó

13:46

mind when we say things like maybe we should turn it all off and throw out the baby with the bath water.

Khi chúng ta nói những điều như có lẽ chúng ta nên tắt tất cả và ném đứa bé ra cùng với nước tắm.

13:51

- Where does this leave us?

- Điều này để lại chúng ta ở đâu?

13:53

Can we unring the bell or do we still have time to put some um reasonable guard rails back on the AI industry?

Liệu chúng ta có thể hoàn tác tiếng chuông hay chúng ta vẫn còn thời gian để đặt lại một số rào chắn hợp lý cho ngành công nghiệp AI không?

14:01

- Instead of trying to put guard rails inside of the models, I think what we should do is tell those industry people that they need to tell us much more about their architectures, their data sets, their training regimen, their testing regimens.

- Thay vì cố gắng đặt rào chắn bên trong các mô hình, tôi nghĩ chúng ta nên nói với những người trong ngành rằng họ cần cho chúng ta biết nhiều hơn về kiến trúc, tập dữ liệu, chế độ huấn luyện, chế độ kiểm tra của họ.

14:16

They don't need to have a corporate spy or an international spy put inside of their organization to do this.

Họ không cần phải có một điệp viên công ty hoặc một điệp viên quốc tế đặt bên trong tổ chức của họ để làm điều này.

14:23

They just need to be much more

Họ chỉ cần cởi mở hơn nhiều

14:26

forthcoming about what it is that they're building.

Về những gì họ đang xây dựng.

14:28

There are a lot of us out there that understand how these models work better than many of the people that are engineers inside of those organizations.

Có rất nhiều người trong chúng ta hiểu cách các mô hình này hoạt động tốt hơn nhiều kỹ sư bên trong các tổ chức đó.

14:37

And so we're not surprised when somebody quits Google because they said that they're they fell in love with their own model and they believe it's conscious or somebody quit

Và vì vậy chúng ta không ngạc nhiên khi ai đó rời Google vì họ nói rằng họ đã yêu mô hình của chính họ và tin rằng nó có ý thức hoặc ai đó rời đi

14:48

because they said it's too dangerous and it's going to uh end the whole world because there are literally tens of thousands of engineers who don't really understand how these models work who are still working on them on a daily basis.

Vì họ nói rằng nó quá nguy hiểm và nó sẽ uh kết thúc cả thế giới bởi vì có hàng chục nghìn kỹ sư thực sự không hiểu cách các mô hình này hoạt động vẫn đang làm việc với chúng hàng ngày.

15:02

And so that's why um ser minds are saying hey let's treat this as an alien intelligence.

Và đó là lý do tại sao um những bộ óc tỉnh táo đang nói này hãy coi đây như một trí tuệ ngoài hành tinh.

15:07

Let's treat these as the tools that they are.

Hãy coi đây là những công cụ mà chúng thực sự là.

15:10

Let's realize that all these things are things that we built and let's be forthcoming about how we built them, what we constructed them out of, how they work, how they fail, all of those things.

Hãy nhận ra rằng tất cả những thứ này là những thứ chúng ta đã xây dựng và hãy cởi mở về cách chúng ta xây dựng chúng, chúng ta đã tạo ra chúng từ gì, chúng hoạt động như thế nào, chúng thất bại như thế nào, tất cả những điều đó.

15:23

And I think if we do that together, we're going to be in a

Và tôi nghĩ nếu chúng ta làm điều đó cùng nhau, chúng ta sẽ ở trong một

15:28

much better um situation than if we ask the frontier model foxes to guard the chicken house.

Tình huống tốt hơn nhiều so với việc chúng ta yêu cầu những con cáo mô hình biên giới trông coi chuồng gà.

15:36

- All right, a call for transparency there.

- Được rồi, một lời kêu gọi minh bạch ở đó.

15:38

That was uh that was um sorry, veteran security and AI researcher Gary McGrath.

Đó là uh đó là um xin lỗi, nhà nghiên cứu bảo mật và AI kỳ cựu Gary McGrath.

15:42

Thank you very much for sharing your expertise with us.

Cảm ơn bạn rất nhiều vì đã chia sẻ chuyên môn của bạn với chúng tôi.

15:45

That's all from me and our team, but now it's over to you.

Đó là tất cả từ tôi và đội của chúng tôi, nhưng bây giờ đến lượt bạn.

15:49

Should the companies building the world's most powerful AI systems deliberately slow them down?

Liệu các công ty đang xây dựng những hệ thống AI mạnh mẽ nhất thế giới có nên chủ động làm chậm chúng lại không?

15:53

Tell us what you think in the comments.

Hãy cho chúng tôi biết suy nghĩ của bạn trong phần bình luận.

15:55

I'm

Tôi là

15:56

Aaron Tilton.

15:56

Thanks for watching.

Cảm ơn các bạn đã theo dõi.

Transcript

Hiển thị

AI Leaders Call for Slower Development

The video opens by noting that AI companies like OpenAI and Anthropic are poised to change the world. Voices from inside the industry are now calling for limits on their own technology. Anthropic CEO Dario Amodei published an essay urging AI firms to slow down deliberately so safety measures can keep up. Sam Altman of OpenAI approves of the proposal, and OpenAI has ruled out going public this year. The host then introduces security and AI researcher Gary McGrath to discuss whether these fears are justified.

Video mở đầu bằng việc lưu ý rằng các công ty AI như OpenAI và Anthropic đang trên đà thay đổi thế giới. Tiếng nói từ bên trong ngành giờ đây đang kêu gọi giới hạn công nghệ của chính họ. CEO của Anthropic, Dario Amodei, đã công bố một bài luận thúc giục các công ty AI chủ động chậm lại để các biện pháp an toàn có thể theo kịp. Sam Altman của OpenAI tán thành đề xuất này, và OpenAI đã loại trừ khả năng niêm yết công khai trong năm nay. Người dẫn chương trình sau đó giới thiệu nhà nghiên cứu an ninh và AI Gary McGrath để thảo luận liệu những lo ngại này có chính đáng không.