0:00

23:47

Extended Interview: Dario Amodei

CBS Sunday Morning·23:47·Technology·B2

Chương · 6

Chương 1·AI's Dual Nature: Risks and Benefits

Hiển thị

Tiếng ViệtAuto-scroll

0:00

Dario Amade, you're the CEO of Anthropic.

Dario Amade, ông là CEO của Anthropic.

0:02

Thank you for doing this today.

Cảm ơn ông đã tham gia ngày hôm nay.

0:04

- Thank you.

- Cảm ơn.

0:04

Thank you for having me.

Cảm ơn vì đã mời tôi.

0:06

- Okay, so we're here to talk about the concern that AI really could kill us all in the notsodistant future.

- Được rồi, vậy chúng ta ở đây để nói về mối lo ngại rằng AI thực sự có thể giết chết tất cả chúng ta trong tương lai không xa.

0:12

What's the risk of this actually happening?

Nguy cơ điều này thực sự xảy ra là gì?

0:14

So just to back up a little bit um uh you know we've believed since we started Enthropic I've believed since you know the 12 years that I've been working in this field that this is a powerful technology and therefore it's a

Vậy chỉ để lùi lại một chút, ừm, bạn biết đấy, chúng tôi đã tin từ khi thành lập Enthropic, tôi đã tin từ khi, bạn biết đấy, 12 năm tôi làm việc trong lĩnh vực này rằng đây là một công nghệ mạnh mẽ và do đó nó là một

0:28

technology with serious risks and serious benefits.

Công nghệ có rủi ro nghiêm trọng và lợi ích nghiêm trọng.

0:30

I've always believed that the benefits outweigh the risks and even more to the point that we can reduce the risks to be very low if we build the technology in the right way.

Tôi luôn tin rằng lợi ích lớn hơn rủi ro và thậm chí hơn thế, rằng chúng ta có thể giảm rủi ro xuống rất thấp nếu chúng ta xây dựng công nghệ theo cách đúng đắn.

0:44

Looking at some of the benefits, I really believe that this technology could cure diseases that have plagued humanity for millennia.

Nhìn vào một số lợi ích, tôi thực sự tin rằng công nghệ này có thể chữa khỏi những căn bệnh đã gây khổ sở cho nhân loại hàng thiên niên kỷ.

0:51

Just last week, we did we did some work on, you know, doing better protein binding, which is one of the early steps in drug development using our models.

Chỉ tuần trước, chúng tôi đã thực hiện một số công việc về, bạn biết đấy, làm liên kết protein tốt hơn, một trong những bước đầu tiên trong phát triển thuốc bằng cách sử dụng các mô hình của chúng tôi.

1:02

We're starting to work on them.

Chúng tôi đang bắt đầu làm việc với chúng.

1:04

We'll have things to say in the coming months to

Chúng tôi sẽ có những điều để nói trong những tháng tới để

1:08

make basic scientific discoveries in biology.

Thực hiện những khám phá khoa học cơ bản trong sinh học.

1:10

But when something's very powerful, right, what we're building is essentially intelligence.

Nhưng khi một thứ gì đó rất mạnh mẽ, đúng vậy, những gì chúng tôi đang xây dựng về cơ bản là trí tuệ.

1:15

When something's very powerful, then of course it can be used well and it can also be used for ill.

Khi một thứ gì đó rất mạnh mẽ, thì tất nhiên nó có thể được sử dụng tốt và cũng có thể được sử dụng cho mục đích xấu.

1:23

And so I am worried about what we've seen with the OpenAI hugging face incident with models um you know taking actions they weren't authorized to take and I'm

Và vì vậy tôi lo lắng về những gì chúng ta đã thấy với sự cố OpenAI hugging face với các mô hình, ừm, bạn biết đấy, thực hiện những hành động mà chúng không được phép làm và tôi

1:35

worried about that escalating.

Lo lắng về việc đó leo thang.

1:36

I'm worried about misuse of AI models.

Tôi lo lắng về việc lạm dụng các mô hình AI.

1:39

Just uh two days ago, we put out a report about misuse of models to build biological weapons.

Chỉ ừm hai ngày trước, chúng tôi đã công bố một báo cáo về việc lạm dụng các mô hình để chế tạo vũ khí sinh học.

1:47

And our view, the whole way we've built entropic is so that these bad outcomes don't happen.

Và quan điểm của chúng tôi, toàn bộ cách chúng tôi xây dựng entropic là để những kết quả xấu này không xảy ra.

1:54

Instead of talking about the probabilities, let's talk about what we can do.

Thay vì nói về xác suất, hãy nói về những gì chúng ta có thể làm.

1:57

It's not like we're just rolling the dice, right?

Không phải là chúng ta chỉ đang tung xúc xắc, đúng không?

2:00

If we build in the right way, I think the probability of something bad happening is very low.

Nếu chúng ta xây dựng theo cách đúng đắn, tôi nghĩ xác suất điều gì đó tồi tệ xảy ra là rất thấp.

2:06

If we build in the wrong way, the probability of something bad happening is very high.

Nếu chúng ta xây dựng theo cách sai lầm, xác suất điều gì đó tồi tệ xảy ra là rất cao.

2:11

- The conversation right now is that we are on the precipice of something really scary.

- Cuộc trò chuyện hiện tại là chúng ta đang ở bên bờ vực của một điều gì đó thực sự đáng sợ.

2:17

Is this a five alarm fire?

Đây có phải là một báo động năm hồi chuông?

2:20

- I you know I don't you know depends what you mean by five alarm fire.

- Tôi, bạn biết đấy, tôi không, bạn biết đấy, tùy thuộc vào ý bạn khi nói báo động năm hồi chuông.

2:24

What what I would say is - how would you describe it?

Điều tôi muốn nói là - bạn sẽ mô tả nó như thế nào?

2:27

what I would describe is so something I've been saying since uh you know since we started anthropic almost since before we started Anthropic is that this technology is on an exponential right it's like you have one then two then four then eight then 16 then 32 but even

Điều tôi muốn mô tả là, có một điều tôi đã nói từ khi, ừm, bạn biết đấy, từ khi chúng tôi thành lập anthropic, gần như trước khi chúng tôi thành lập Anthropic, rằng công nghệ này đang trên đà tăng theo cấp số nhân, đúng vậy, giống như bạn có một rồi hai rồi bốn rồi tám rồi 16 rồi 32 nhưng thậm chí

2:42

as I was saying that to myself I don't think I fully just appreciated what it would actually be like when the progress was as fast as it was so we're we're an exponential curve looks a little like this - where are we on the curve - we're kind We're kind of on the bend where it's starting to get steeper.

Khi tôi tự nói điều đó với chính mình, tôi không nghĩ mình đã thực sự đánh giá đầy đủ nó sẽ thực sự như thế nào khi tiến bộ nhanh như vậy, vì vậy chúng ta đang, chúng ta đang ở một đường cong cấp số nhân trông hơi giống thế này - chúng ta đang ở đâu trên đường cong - chúng ta đang kiểu như, chúng ta đang ở khúc uốn nơi nó bắt đầu dốc hơn.

2:58

- So, is that a five alarm fire to you?

- Vậy, đó có phải là báo động năm hồi chuông đối với ông không?

3:01

- What it what it means it doesn't mean we need to panic today.

- Điều nó có nghĩa là, nó không có nghĩa là chúng ta cần hoảng loạn ngay hôm nay.

3:06

It doesn't mean we need to shut it all down.

Nó không có nghĩa là chúng ta cần đóng cửa tất cả.

3:10

What I would say - it's it's a warning sign.

Điều tôi muốn nói - đó là một dấu hiệu cảnh báo.

3:14

It's a warning sign that we need to slow down.

Đó là một dấu hiệu cảnh báo rằng chúng ta cần chậm lại.

3:17

We need to make this technology carefully and we need to make sure that the our safeguards, our ability to understand it, our ability to control it keeps up with the pace at which the technology is

Chúng ta cần tạo ra công nghệ này một cách cẩn thận và chúng ta cần đảm bảo rằng các biện pháp bảo vệ của chúng ta, khả năng hiểu nó, khả năng kiểm soát nó của chúng ta bắt kịp với tốc độ mà công nghệ đang

3:32

happening.

Diễn ra.

3:32

So far we've been trying to do that by building the safeguards fast but I think we've reached the point where at least to some extent we need to moderate a little bit the pace at which the technology is being built.

Cho đến nay chúng tôi đã cố gắng làm điều đó bằng cách xây dựng các biện pháp bảo vệ nhanh chóng nhưng tôi nghĩ chúng ta đã đạt đến điểm mà ít nhất ở một mức độ nào đó chúng ta cần tiết chế một chút tốc độ mà công nghệ đang được xây dựng.

3:47

- Does that then mean that anthropic is going to stop releasing more advanced models?

- Vậy điều đó có nghĩa là anthropic sẽ ngừng phát hành các mô hình tiên tiến hơn không?

3:51

- It doesn't mean that.

- Điều đó không có nghĩa là vậy.

3:53

What it means is that we need to make sure that every generation of models that we release is properly tested.

Điều nó có nghĩa là chúng ta cần đảm bảo rằng mỗi thế hệ mô hình chúng ta phát hành đều được kiểm tra đúng cách.

4:01

The thing I've proposed, so you know, in this essay that I put out a few hours ago, I proposed a three-step plan, - right?

Điều tôi đã đề xuất, bạn biết đấy, trong bài luận này mà tôi đã công bố vài giờ trước, tôi đã đề xuất một kế hoạch ba bước, - đúng không?

4:12

And the first step is that we put in place embedded evaluators exter em embedded external evaluators from a

Và bước đầu tiên là chúng ta thiết lập các đánh giá viên nhúng bên ngoài, các đánh giá viên bên ngoài được nhúng từ một

4:20

third-party nonprofit or perhaps someday government organization that can observe the process of us training and running our models.

Tổ chức phi lợi nhuận của bên thứ ba hoặc có thể một ngày nào đó là tổ chức chính phủ, có thể quan sát quá trình chúng ta huấn luyện và vận hành các mô hình của mình.

4:29

that actually is I think ultimately more important than how or when we release models because it's the predicate for more carefully releasing models.

Điều đó thực sự, tôi nghĩ cuối cùng quan trọng hơn việc chúng ta phát hành mô hình như thế nào hoặc khi nào, bởi vì nó là tiền đề để phát hành mô hình một cách cẩn thận hơn.

4:42

I want the I want this to be done across the industry so that whenever anyone builds an AI

Tôi muốn điều này được thực hiện trên toàn ngành để bất cứ khi nào ai đó xây dựng một AI

4:52

model, there's a third-party evaluator who understands the best safety practices, who's can verify whether that company is following the safety practices that they're committed to.

Mô hình, có một đánh giá viên bên thứ ba hiểu các thực hành an toàn tốt nhất, người có thể xác minh liệu công ty đó có tuân theo các thực hành an toàn mà họ cam kết hay không.

5:04

It's like a food inspector, you know, - but can the food inspector keep up when the technology is changing so fast?

Nó giống như một thanh tra thực phẩm, bạn biết đấy, - nhưng liệu thanh tra thực phẩm có thể theo kịp khi công nghệ thay đổi quá nhanh không?

5:11

Well, that one of the things they'll be able to do is tell us the rate at which they can keep up.

Chà, một trong những điều họ sẽ có thể làm là cho chúng ta biết tốc độ mà họ có thể theo kịp.

5:18

That may be one of the factors that may determine that may set the speed limit on the technology.

Đó có thể là một trong những yếu tố có thể quyết định, có thể đặt giới hạn tốc độ cho công nghệ.

5:24

We have to understand it and the external evaluators have to understand it.

Chúng ta phải hiểu điều đó và các đánh giá viên bên ngoài cũng phải hiểu điều đó.

5:29

- So Elon Musk has said he agrees with you.

- Vậy Elon Musk đã nói rằng ông ấy đồng ý với ông.

5:31

Sam Olman says he agrees with you.

Sam Olman nói rằng ông ấy đồng ý với ông.

5:34

What's the action plan for you guys to come together?

Kế hoạch hành động để các ông cùng nhau hợp tác là gì?

5:36

Is there a group chat that's going to come into fruition here?

Liệu có một nhóm trò chuyện nào sẽ được thành lập ở đây không?

5:39

So, so first of all, I'm talking I'm enormously appreciative - uh that other industry leaders including our competitors have offered their agreement with this plan.

Vậy, trước hết, tôi nói rằng tôi vô cùng biết ơn - ừ rằng các nhà lãnh đạo ngành khác, bao gồm cả các đối thủ cạnh tranh của chúng tôi, đã bày tỏ sự đồng ý với kế hoạch này.

5:51

I think the next step is for multiple industry players to also agree to have third party evaluators.

Tôi nghĩ bước tiếp theo là nhiều bên trong ngành cũng đồng ý có các đánh giá viên bên thứ ba.

6:00

Then I think the next step after that is in some form the companies need to work together to set standards about safety standards for

Sau đó, tôi nghĩ bước tiếp theo sau đó là ở một hình thức nào đó, các công ty cần hợp tác với nhau để đặt ra các tiêu chuẩn về tiêu chuẩn an toàn cho

6:13

release perhaps something about the pace of release.

Có thể công bố điều gì đó về tốc độ phát hành.

6:15

But in order to do that there needs to be involvement of the government because what we're talking about is the rate of release of products because of whether they're safe.

Nhưng để làm được điều đó, cần có sự tham gia của chính phủ vì những gì chúng ta đang nói đến là tốc độ phát hành sản phẩm, vì liệu chúng có an toàn hay không.

6:26

We need to have that conversation with the government in the room.

Chúng ta cần có cuộc trò chuyện đó với chính phủ trong phòng.

6:30

- Do you think the government fundamentally understands what's possible here because you know former anthropic employee Jacob Coxin said about both anthropic and open AI neither company is acting responsibly.

- Ông có nghĩ rằng chính phủ về cơ bản hiểu được những gì có thể xảy ra ở đây không, vì ông biết đấy, cựu nhân viên Anthropic Jacob Coxin đã nói về cả Anthropic và OpenAI rằng không công ty nào đang hành động có trách nhiệm.

6:44

You guys are gambling with our lives.

Các ông đang đánh cược bằng mạng sống của chúng tôi.

6:47

What's your response to that?

Phản hồi của ông về điều đó là gì?

6:48

Well, first of all, I mean, you know, one thing that uh Jacob said, it wasn't quoted as much, but you know, he also said that he thought, you know, anthropic was uh uh you know, the the most responsible of the major players and that uh you know, we were we were trying very hard to get it right.

Chà, trước hết, ý tôi là, ông biết đấy, một điều mà ừ Jacob đã nói, nó không được trích dẫn nhiều lắm, nhưng ông biết đấy, ông ấy cũng nói rằng ông ấy nghĩ, ông biết đấy, Anthropic là ừ ừ, ông biết đấy, là công ty có trách nhiệm nhất trong số các công ty lớn và rằng ừ, ông biết đấy, chúng tôi đang cố gắng rất nhiều để làm đúng.

7:07

He was calling out honestly the same thing that I'm calling out, which is the the difficulty of the situation, right?

Ông ấy đã thẳng thắn chỉ ra điều mà tôi cũng đang chỉ ra, đó là sự khó khăn của tình huống này, đúng không?

7:15

the structural difficulty of the situation that we're all in and that the plan that I've put out is designed to help us address.

Sự khó khăn mang tính cấu trúc của tình huống mà tất cả chúng ta đang ở trong đó và kế hoạch mà tôi đã đưa ra được thiết kế để giúp chúng ta giải quyết.

7:23

We're designed to help us work together.

Nó được thiết kế để giúp chúng ta hợp tác với nhau.

7:26

Now, to your question about the government, you know, we are talking to the government every day.

Bây giờ, về câu hỏi của ông liên quan đến chính phủ, ông biết đấy, chúng tôi đang nói chuyện với chính phủ mỗi ngày.

7:32

We are talking to government officials every day in the commerce department, in the Treasury Department, in the in the

Chúng tôi đang nói chuyện với các quan chức chính phủ mỗi ngày ở bộ thương mại, ở Bộ Tài chính, ở trong

7:39

intelligence community to tell them as much as we can what we know.

Cộng đồng tình báo để nói với họ càng nhiều càng tốt những gì chúng tôi biết.

7:43

Uh, and I'm optimistic that if we keep working together with them, we can update them on the latest.

Ừ, và tôi lạc quan rằng nếu chúng ta tiếp tục hợp tác với họ, chúng ta có thể cập nhật cho họ những thông tin mới nhất.

7:50

I think they really want to do the right thing here.

Tôi nghĩ họ thực sự muốn làm điều đúng đắn ở đây.

7:54

I think they're looking for how they can help.

Tôi nghĩ họ đang tìm cách họ có thể giúp đỡ.

7:58

And so I'm optimistic that the companies working together with the government can get to a plan here that makes sense.

Và vì vậy tôi lạc quan rằng các công ty hợp tác với chính phủ có thể đi đến một kế hoạch hợp lý ở đây.

8:05

- All right.

- Được rồi.

8:06

So there is some proposed legislation out there, right?

Vậy có một số dự luật được đề xuất ở ngoài kia, đúng không?

8:09

You have the ban artificial super intelligence act from Senator Sand Sanders and Representative Casar that would punish corporations and individuals working on advanced AI just like those unlawfully developing nuclear weapons.

Ông có Đạo luật cấm trí tuệ siêu thông minh nhân tạo từ Thượng nghị sĩ Sand Sanders và Dân biểu Casar, đạo luật này sẽ trừng phạt các tập đoàn và cá nhân làm việc trên AI tiên tiến giống như những kẻ phát triển vũ khí hạt nhân bất hợp pháp.

8:21

One of the parts of this proposed legislation says entities will be subject to the

Một trong những phần của dự luật được đề xuất này nói rằng các thực thể sẽ phải chịu

8:27

corporate death penalty and persons shall be subject to not more than 20 years in prison.

Hình phạt tử hình cho tập đoàn và các cá nhân sẽ phải chịu không quá 20 năm tù.

8:32

Do you agree with that?

Ông có đồng ý với điều đó không?

8:34

- So, you know what I would say?

- Vậy, ông biết tôi sẽ nói gì không?

8:37

There's there's there's a very wide range of legislation being offered like the range is incredible.

Có có có một loạt các dự luật rất rộng được đưa ra, phạm vi thật đáng kinh ngạc.

8:43

If we go back only one year um to 2025 um and you know there was a bill called SB53 in California.

Nếu chúng ta quay lại chỉ một năm thôi ừ đến năm 2025 ừ và ông biết đấy có một dự luật tên là SB53 ở California.

8:51

There were similar bills in other states which basically just said - you have to disclose what your safety testing plans are, right?

Có những dự luật tương tự ở các bang khác, về cơ bản chỉ nói rằng - ông phải tiết lộ kế hoạch kiểm tra an toàn của mình là gì, đúng không?

9:00

- And the entire industry was against it.

- Và toàn bộ ngành đã phản đối nó.

9:02

Enthropic was the or or didn't say anything on anthropic was the only company enthusiastically in support.

Anthropic là công ty hoặc hoặc không nói gì, Anthropic là công ty duy nhất nhiệt tình ủng hộ.

9:07

And then there's there's all the way to, you know, let's let's uh - there's an AI kill switch bill.

Và rồi có có đủ loại, ông biết đấy, hãy hãy ừ - có một dự luật về công tắc tiêu diệt AI.

9:14

- Yeah.

- Ừ.

9:14

Let's let's ban all of it.

Hãy hãy cấm tất cả.

9:15

So I the AI kill switch could be a good idea.

Vậy tôi nghĩ công tắc tiêu diệt AI có thể là một ý tưởng hay.

9:18

Um I don't think banning it completely banning it is the right approach.

Ừm tôi không nghĩ việc cấm nó hoàn toàn, cấm nó hoàn toàn là cách tiếp cận đúng.

9:23

One, the idea that we would never get the incredible benefits, would never get the medical cures, that doesn't sit right with me.

Một, ý tưởng rằng chúng ta sẽ không bao giờ có được những lợi ích đáng kinh ngạc, sẽ không bao giờ có được các phương pháp chữa bệnh, điều đó không hợp lý với tôi.

9:32

Second, this technology will be built in other countries including authoritarian countries, - China, - China among others.

Hai, công nghệ này sẽ được xây dựng ở các quốc gia khác, bao gồm cả các quốc gia độc tài, - Trung Quốc, - Trung Quốc trong số những nước khác.

9:39

Um, and I am worried about how they will use it, how they

Ừm, và tôi lo lắng về cách họ sẽ sử dụng nó, cách họ

9:45

will use it against free societies, how they will use it to repress their own people.

Sẽ sử dụng nó chống lại các xã hội tự do, cách họ sẽ sử dụng nó để đàn áp người dân của chính họ.

9:50

Now, in one place, I do talk about working together with them, and I believe we need to do that to some extent, but I just don't see how it's a stable solution to never build the technology.

Bây giờ, ở một chỗ, tôi có nói về việc hợp tác với họ, và tôi tin rằng chúng ta cần làm điều đó ở một mức độ nào đó, nhưng tôi chỉ không thấy làm thế nào đó là một giải pháp ổn định để không bao giờ xây dựng công nghệ.

10:04

What we need to do is not stop.

Điều chúng ta cần làm không phải là dừng lại.

10:07

We need to slow down.

Chúng ta cần làm chậm lại.

10:08

And that is in line honestly with what Anthropic

Và điều đó thực sự phù hợp với những gì Anthropic

10:12

that's been Anthropic's philosophy since the beginning, right?

Đó đã là triết lý của Anthropic ngay từ đầu, đúng không?

10:14

We've always tried to balance.

Chúng tôi luôn cố gắng cân bằng.

10:16

We've said it's important that we be builders of this technology, but we need to create a race to the top.

Chúng tôi đã nói rằng điều quan trọng là chúng tôi phải là những người xây dựng công nghệ này, nhưng chúng tôi cần tạo ra một cuộc đua lên đỉnh.

10:23

We need to raise the bar.

Chúng tôi cần nâng cao tiêu chuẩn.

10:24

Um so, uh you know, we need to be on the frontier, but we need to do it in the right way.

Ừm, vậy, ừ, bạn biết đấy, chúng tôi cần phải ở tuyến đầu, nhưng chúng tôi cần làm điều đó theo cách đúng đắn.

10:31

We've said, you know, we're we're we're excited to use the models for, you know, national defense applications, but not every national defense application.

Chúng tôi đã nói rằng, bạn biết đấy, chúng tôi rất hào hứng sử dụng các mô hình cho, bạn biết đấy, các ứng dụng quốc phòng, nhưng không phải mọi ứng dụng quốc phòng.

10:41

We've always tried to find the middle ground, the thing that works for everyone, the sensible solution, and that's what we're trying to do here as well.

Chúng tôi luôn cố gắng tìm ra điểm trung dung, giải pháp phù hợp với mọi người, giải pháp hợp lý, và đó cũng là điều chúng tôi đang cố gắng làm ở đây.

10:49

It may not be the perfect solution, but we're trying.

Nó có thể không phải là giải pháp hoàn hảo, nhưng chúng tôi đang cố gắng.

10:53

- Would you support Congressman Ted Leo's AI kill switch bill?

- Ngài có ủng hộ dự luật công tắc ngắt AI của Nghị sĩ Ted Leo không?

10:56

Uh I've not looked at that bill more super closely, but I what I would say is that the idea that we need some way to it's not a panacea.

Ừ, tôi chưa xem xét dự luật đó kỹ lắm, nhưng điều tôi muốn nói là ý tưởng rằng chúng ta cần một cách nào đó để... nó không phải là thuốc chữa bách bệnh.

11:07

It's not the only thing, but the idea that we need some way to make sure that we can uh deactivate or limit or shut down AI models.

Nó không phải là điều duy nhất, nhưng ý tưởng rằng chúng ta cần một cách nào đó để đảm bảo rằng chúng ta có thể vô hiệu hóa hoặc hạn chế hoặc tắt các mô hình AI.

11:19

- That's not the only thing.

- Đó không phải là điều duy nhất.

11:20

If an AI model is powerful enough, it can circumvent attempts to shut it down.

Nếu một mô hình AI đủ mạnh, nó có thể lách qua các nỗ lực tắt nó.

11:23

And we've seen that in simulations as well.

Và chúng tôi cũng đã thấy điều đó trong các mô phỏng.

11:25

So it may not work at all.

Vậy nên nó có thể hoàn toàn không hiệu quả.

11:27

- We think of this in terms of defense and depth.

- Chúng tôi nghĩ về điều này theo hướng phòng thủ nhiều lớp.

11:30

There's a notion in the security community called the Swiss cheese model.

Có một khái niệm trong cộng đồng bảo mật gọi là mô hình phô mai Thụy Sĩ.

11:34

So you know just imagine a slice of Swiss cheese and it's like it blocks some things but there are holes in the Swiss cheese.

Vậy bạn biết đấy, hãy tưởng tượng một lát phô mai Thụy Sĩ và nó chặn một số thứ nhưng có những lỗ hổng trong phô mai Thụy Sĩ.

11:41

But if I take five slices of Swiss cheese and I put them together, the holes in different layers are in different places.

Nhưng nếu tôi lấy năm lát phô mai Thụy Sĩ và đặt chúng lại với nhau, các lỗ ở các lớp khác nhau nằm ở những vị trí khác nhau.

11:48

And so it's very hard to get through the entire the entire stack of Swiss cheese.

Và vì vậy rất khó để xuyên qua toàn bộ chồng phô mai Thụy Sĩ.

11:53

So I think of it as there's no one thing that will

Vậy nên tôi nghĩ về nó như là không có một thứ nào sẽ

11:57

protect us from the risks of AI.

Bảo vệ chúng ta khỏi các rủi ro của AI.

11:59

We have to be careful all the way up and down the stack.

Chúng ta phải cẩn thận từ trên xuống dưới toàn bộ hệ thống.

12:04

And then no one defense is perfect, but if we're being careful everywhere, which is what taking extra time will allow us to do, then I think things can go well.

Và không có lớp phòng thủ nào là hoàn hảo, nhưng nếu chúng ta cẩn thận ở mọi nơi, điều mà việc dành thêm thời gian sẽ cho phép chúng ta làm, thì tôi nghĩ mọi thứ có thể diễn ra tốt đẹp.

12:16

- You think things can go well even though it feels like we're in this inflection point of a moment.

- Ngài nghĩ mọi thứ có thể diễn ra tốt đẹp ngay cả khi có cảm giác như chúng ta đang ở điểm uốn của thời khắc này.

12:22

You say in your essay pacing should only happen, slowing down should only happen within the margin of the lead that US companies have over authoritarian regimes, chiefly the Chinese Communist Party.

Ngài nói trong bài luận của mình rằng việc điều chỉnh tốc độ chỉ nên diễn ra, việc làm chậm lại chỉ nên diễn ra trong biên độ dẫn trước mà các công ty Mỹ có so với các chế độ độc tài, chủ yếu là Đảng Cộng sản Trung Quốc.

12:33

We are in this race with China.

Chúng ta đang trong cuộc đua này với Trung Quốc.

12:35

Do you actually think slowing down is a good idea when

Ngài có thực sự nghĩ rằng làm chậm lại là ý hay khi

12:39

China will not?

Trung Quốc sẽ không làm vậy?

12:40

- This is the toughest dilemma.

- Đây là tình huống khó xử nhất.

12:42

This is the toughest aspect of our situation.

Đây là khía cạnh khó khăn nhất trong tình huống của chúng ta.

12:44

If if we weren't in that situation, we could take much more time.

Nếu chúng ta không ở trong tình huống đó, chúng ta có thể dành nhiều thời gian hơn.

12:49

So this is this is the thing that most puts us in a bind.

Vậy nên đây là điều khiến chúng ta bị ràng buộc nhất.

12:53

It's not about commercial competition.

Đây không phải là về cạnh tranh thương mại.

12:55

This the geopolitical situation is the hardest to deal with.

Tình hình địa chính trị này là khó đối phó nhất.

12:59

But I will talk about two strategies that we have.

Nhưng tôi sẽ nói về hai chiến lược mà chúng ta có.

13:02

one and I you know I talk about it in my proposal is we can slow down within the margin within the envelope that we have particularly if we don't sell chips to authoritarian countries and if we do more to help our own security so that our technology is not stolen I believe that will buy us at least a little time so we can

Một là, và tôi, bạn biết đấy, tôi nói về nó trong đề xuất của mình, là chúng ta có thể làm chậm lại trong biên độ, trong phạm vi mà chúng ta có, đặc biệt nếu chúng ta không bán chip cho các nước độc tài và nếu chúng ta làm nhiều hơn để giúp bảo vệ an ninh của chính mình để công nghệ của chúng ta không bị đánh cắp. Tôi tin rằng điều đó sẽ mua cho chúng ta ít nhất một chút thời gian để chúng ta có thể

13:27

- does it make enough of a difference to stop the ending of humanity - what what I would say is with that First strategy, we will take as much time as we can get.

- liệu nó có tạo ra đủ khác biệt để ngăn chặn sự diệt vong của nhân loại không - điều tôi muốn nói là với chiến lược đầu tiên đó, chúng ta sẽ dành càng nhiều thời gian càng tốt.

13:38

And then I think we should pursue a second strategy as well, which is that we should go directly to even to authoritarian countries, even to the Chinese, and say, "Look, there are potentially threats here that

Và sau đó tôi nghĩ chúng ta cũng nên theo đuổi chiến lược thứ hai, đó là chúng ta nên đi trực tiếp đến cả các nước độc tài, thậm chí đến cả Trung Quốc, và nói rằng: "Nhìn này, có những mối đe dọa tiềm tàng ở đây mà

13:51

are concerning to all of us.

Đáng lo ngại cho tất cả chúng ta.

13:53

It's not just out of control AI.

Không chỉ là AI mất kiểm soát.

13:56

Two days ago, we put out a report that people were trying to use AI potentially for bioteterrorism, for enhancing the infectiousness of viruses.

Hai ngày trước, chúng tôi đã công bố một báo cáo rằng mọi người đang cố gắng sử dụng AI có khả năng cho khủng bố sinh học, để tăng cường khả năng lây nhiễm của virus.

14:06

That's scary.

Điều đó thật đáng sợ.

14:07

And you know what?

Và bạn biết không?

14:08

Even the Chinese don't want that.

Ngay cả người Trung Quốc cũng không muốn điều đó.

14:11

They don't they don't they don't it's not in any government's interest - to have bioteterrorism.

Họ không... họ không... họ không... nó không nằm trong lợi ích của bất kỳ chính phủ nào - khi có khủng bố sinh học.

14:17

And so we should talk with the Chinese and see if we can work together to put limits to put a speed limit on the rate of this technology.

Và vì vậy chúng ta nên nói chuyện với người Trung Quốc và xem liệu chúng ta có thể hợp tác để đặt ra giới hạn, đặt ra tốc độ tối đa cho tốc độ phát triển của công nghệ này.

14:28

It's a little bit like you know for all our differences with uh you know other systems of government

Nó hơi giống như, bạn biết đấy, bất chấp mọi khác biệt của chúng ta với, ừ, bạn biết đấy, các hệ thống chính phủ khác

14:36

and I have many I generally have a hawkish position on China.

Và tôi có nhiều... tôi thường có quan điểm diều hâu về Trung Quốc.

14:40

Um but for all our differences think about when it was the US and the Soviet Union, right?

Ừm nhưng bất chấp mọi khác biệt, hãy nghĩ về thời điểm Mỹ và Liên Xô, đúng không?

14:46

and we each had 10,000 nuclear missiles pointed at each other.

Và mỗi bên đều có 10.000 tên lửa hạt nhân chĩa vào nhau.

14:50

Even for all our differences, we recognized that was too many.

Dù có mọi khác biệt, chúng ta đều nhận ra rằng con số đó là quá nhiều.

14:55

That we needed to engage in talks that could lower the scale of the potential destruction.

Rằng chúng ta cần tham gia vào các cuộc đàm phán có thể làm giảm quy mô hủy diệt tiềm tàng.

15:03

- Is that the way we should be thinking about AI is using the Cold War as a model?

- Đó có phải là cách chúng ta nên nghĩ về AI, lấy Chiến tranh Lạnh làm hình mẫu?

15:10

- So, I I didn't say we should use the Cold War as a model.

- Vậy nên, tôi không nói rằng chúng ta nên lấy Chiến tranh Lạnh làm hình mẫu.

15:14

I said negotiations that happen.

Tôi nói về các cuộc đàm phán đã diễn ra.

15:16

- Yes.

- Vâng.

15:16

Yes.

Vâng.

15:17

Disarmament negotiations like arms limit.

Các cuộc đàm phán giải trừ quân bị như giới hạn vũ khí.

15:19

I I I do think that is an appropriate lens uh through which uh to think about this at the geopolitical level.

Tôi thực sự nghĩ rằng đó là một lăng kính phù hợp để suy nghĩ về điều này ở cấp độ địa chính trị.

15:27

If we look at what AI models can do in terms of cyber like they absolutely have geopolitical and national security significance.

Nếu chúng ta nhìn vào những gì các mô hình AI có thể làm trong lĩnh vực mạng, chúng thực sự có ý nghĩa địa chính trị và an ninh quốc gia.

15:35

Of course they do.

Tất nhiên là như vậy.

15:36

That's why we're having this whole conversation.

Đó là lý do chúng ta đang có toàn bộ cuộc trò chuyện này.

15:39

And so I think

Và vì vậy tôi nghĩ

15:41

we should approach China.

Chúng ta nên tiếp cận Trung Quốc.

15:42

Again, all this is above my prey grade.

Một lần nữa, tất cả những điều này đều vượt quá thẩm quyền của tôi.

15:44

This is something the US government has to do with the Chinese government, right?

Đây là việc mà chính phủ Mỹ phải làm với chính phủ Trung Quốc, đúng không?

15:48

- But you're advising the president.

- Nhưng ông đang cố vấn cho tổng thống.

15:49

- I I mean, if anyone asks me what what uh what I think they should do, I'm happy to say.

- Ý tôi là, nếu ai đó hỏi tôi rằng họ nên làm gì, tôi sẵn lòng nói.

15:56

I have some uh uh some thoughts in that essay.

Tôi có một số suy nghĩ trong bài luận đó.

15:59

And if anyone asks me, I can say more.

Và nếu ai đó hỏi tôi, tôi có thể nói thêm.

16:02

At the end of the day, this is a government-togovernment thing.

Suy cho cùng, đây là việc giữa chính phủ với chính phủ.

16:06

But yes, I'll tell you what I think.

Nhưng vâng, tôi sẽ nói cho bạn biết tôi nghĩ gì.

16:08

I think that we should work together to get as much restraint as we can on this technology.

Tôi nghĩ rằng chúng ta nên hợp tác để đạt được càng nhiều sự kiềm chế càng tốt đối với công nghệ này.

16:15

I think our hope should be high but our expectations should be low.

Tôi nghĩ hy vọng của chúng ta nên cao nhưng kỳ vọng nên thấp.

16:20

Um and we should we should see how much it's possible to get and I think what we should especially focus on in these negotiations is a way to verify.

Ừm và chúng ta nên xem có thể đạt được bao nhiêu, và tôi nghĩ điều chúng ta nên đặc biệt tập trung trong các cuộc đàm phán này là một cách để xác minh.

16:31

So this is very important in again nuclear weapons negotiations, biological weapons negotiations.

Điều này rất quan trọng trong các cuộc đàm phán về vũ khí hạt nhân, đàm phán về vũ khí sinh học.

16:36

You need to be able to verify that the other side is not

Bạn cần có khả năng xác minh rằng bên kia không

16:42

defecting on the agreement.

Vi phạm thỏa thuận.

16:43

And so I think finding ways to verify will be the most important thing here.

Và vì vậy tôi nghĩ việc tìm ra cách xác minh sẽ là điều quan trọng nhất ở đây.

16:49

- President Trump will meet with President Xi Jinping very soon.

- Tổng thống Trump sẽ gặp Chủ tịch Tập Cận Bình rất sớm.

16:52

What's the one simple most important solution that they should come to an agreement on in AI?

Giải pháp đơn giản quan trọng nhất mà họ nên đạt được thỏa thuận trong lĩnh vực AI là gì?

16:59

- So maybe I'll say two things.

- Vậy có lẽ tôi sẽ nói hai điều.

17:01

like a small a thing that's small enough we might be able to do it and a thing that's big enough that I think it's going to take a very long time.

Một điều nhỏ đủ để chúng ta có thể làm được và một điều lớn đến mức tôi nghĩ sẽ mất rất nhiều thời gian.

17:11

The small thing is if we could US and China could agree that we won't use AI to develop biological weapons or release AI models that bioteterrorists could use to develop biological weapons.

Điều nhỏ là nếu Mỹ và Trung Quốc có thể đồng ý rằng chúng ta sẽ không sử dụng AI để phát triển vũ khí sinh học hoặc phát hành các mô hình AI mà những kẻ khủng bố sinh học có thể dùng để phát triển vũ khí sinh học.

17:22

We're

Chúng ta

17:23

already both signitories to the biological weapons convention.

Đã là thành viên của Công ước Vũ khí Sinh học.

17:25

If we could just extend that convention to that idea, that would be really valuable.

Nếu chúng ta chỉ cần mở rộng công ước đó sang ý tưởng này, điều đó sẽ thực sự có giá trị.

17:31

And then I think the more long-term thing would be working together to put a speed limit on the rate of AI progress.

Và sau đó tôi nghĩ điều dài hạn hơn sẽ là hợp tác để đặt giới hạn tốc độ cho sự tiến bộ của AI.

17:39

I think that's going to be very difficult because the incentives to pull ahead and the military advantage that you get from

Tôi nghĩ điều đó sẽ rất khó khăn vì động lực vượt lên trước và lợi thế quân sự mà bạn có được từ

17:48

that are so large.

Điều đó quá lớn.

17:49

And honestly, I don't know if it's possible, but we should we should try.

Và thành thật mà nói, tôi không biết liệu có khả thi không, nhưng chúng ta nên thử.

17:54

We should see if if it is possible.

Chúng ta nên xem liệu có khả thi không.

17:57

Again, all of this is above my pay grade.

Một lần nữa, tất cả những điều này đều vượt quá thẩm quyền của tôi.

18:00

What I'm trying to say is that these are some things that our government could try to say.

Điều tôi muốn nói là đây là một số điều mà chính phủ chúng ta có thể thử nói.

18:06

These are some considerations that they could include.

Đây là một số cân nhắc mà họ có thể đưa vào.

18:09

- As we zoom out here on this problem, it seems like the fate of humanity is at risk.

- Khi chúng ta nhìn rộng ra về vấn đề này, có vẻ như số phận của nhân loại đang gặp rủi ro.

18:15

How much personal responsibility do you feel about where we are going?

Ông cảm thấy có bao nhiêu trách nhiệm cá nhân về nơi chúng ta đang đi?

18:19

So, you know, my look, my view here is it has always been very strange that this technology is being built by a private company.

Vậy, bạn biết đấy, quan điểm của tôi ở đây là việc công nghệ này được xây dựng bởi một công ty tư nhân luôn là điều rất kỳ lạ.

18:27

People ask me that question all the time.

Mọi người hỏi tôi câu đó suốt.

18:30

Why isn't this being built by government?

Tại sao chính phủ không xây dựng cái này?

18:32

And the strangest thing about it is I agree with them.

Và điều lạ lùng nhất là tôi đồng ý với họ.

18:36

I'm uncomfortable.

Tôi thấy không thoải mái.

18:37

- Would you be willing to give up the technology to the government?

- Anh có sẵn lòng giao công nghệ này cho chính phủ không?

18:40

- To the right combination of governments.

- Cho sự kết hợp phù hợp của các chính phủ.

18:43

So, the worry I have, - you're willing to hand over this company.

Vậy, điều tôi lo lắng, - anh sẵn lòng giao công ty này.

18:48

I am concerned that one single government could abuse this technology just as easily as a single company could.

Tôi lo ngại rằng một chính phủ duy nhất có thể lạm dụng công nghệ này dễ dàng như một công ty duy nhất.

18:56

But I think a combination of democratically elected governments I don't know about handing over but some kind of oversight some kind of joint governance.

Nhưng tôi nghĩ sự kết hợp của các chính phủ được bầu cử dân chủ, tôi không biết về việc giao nộp, nhưng một số loại giám sát, một số loại quản trị chung.

19:07

- So just to ask this final question do you feel personal responsibility here?

- Vậy chỉ để hỏi câu hỏi cuối cùng này, anh có cảm thấy trách nhiệm cá nhân ở đây không?

19:12

Of course, I feel that this is a technology with great benefits and great risks.

Tất nhiên, tôi cảm thấy đây là một công nghệ có lợi ích lớn và rủi ro lớn.

19:16

I feel the benefits or the need for benefits every day.

Tôi cảm thấy những lợi ích hoặc nhu cầu về lợi ích mỗi ngày.

19:20

One thing I said in my, you know, in my essay, my father uh, you know, died of a disease hepatitis C that was, you know, it was it was something like 40% curable when he died of it.

Một điều tôi đã nói trong bài luận của mình, cha tôi, uh, đã chết vì bệnh viêm gan C, đó là, nó có thể chữa khỏi khoảng 40% khi ông ấy chết vì nó.

19:33

He wasn't the one of the ones who was cured.

Ông ấy không phải là một trong những người được chữa khỏi.

19:36

And a few years

Và vài năm

19:38

after a medicine that was invented that made it 95% curable.

Sau khi một loại thuốc được phát minh giúp chữa khỏi 95%.

19:41

I myself survived an earlystage cancer that if id been living in 1950 I probably would have died.

Bản thân tôi đã sống sót qua một căn ung thư giai đoạn đầu mà nếu tôi sống vào năm 1950, tôi có lẽ đã chết.

19:48

So I feel the weight of bringing the benefits of this technology.

Vì vậy, tôi cảm thấy sức nặng của việc mang lại lợi ích từ công nghệ này.

19:52

I also feel the risks.

Tôi cũng cảm thấy những rủi ro.

19:53

I wake up every day and you know I read one of these threat reports like someone tried to you know use our model to build biological

Tôi thức dậy mỗi ngày và tôi đọc một trong những báo cáo mối đe dọa này như ai đó đã cố gắng sử dụng mô hình của chúng tôi để xây dựng vũ khí sinh học.

20:03

weapons.

Vũ khí.

20:03

Of course I don't want to be responsible for that.

Tất nhiên tôi không muốn chịu trách nhiệm về điều đó.

20:06

And that's why we have very strong safeguards.

Và đó là lý do tại sao chúng tôi có những biện pháp bảo vệ rất mạnh mẽ.

20:09

Almost every day I'm made fun of on social media because our models biology safeguards are too strong and bi you know biology students complain you know they make jokes that we can't use the model and the but the reason for that is that we have strong safeguards

Gần như mỗi ngày tôi bị chế giễu trên mạng xã hội vì các biện pháp bảo vệ sinh học của mô hình chúng tôi quá mạnh mẽ và các sinh viên sinh học phàn nàn, họ đùa rằng chúng tôi không thể sử dụng mô hình, nhưng lý do là chúng tôi có những biện pháp bảo vệ mạnh mẽ.

20:26

and I would rather they make fun of me than to wake up one day and discover that someone used our model clawed to kill a bunch of people.

Và tôi thà để họ chế giễu tôi còn hơn một ngày nào đó thức dậy và phát hiện ra rằng ai đó đã sử dụng mô hình của chúng tôi để giết một loạt người.

20:35

I don't want that.

Tôi không muốn điều đó.

20:36

Um, so I feel both sides of it.

Um, vì vậy tôi cảm thấy cả hai mặt của nó.

20:39

I feel both sides of the responsibility.

Tôi cảm thấy cả hai mặt của trách nhiệm.

20:41

But again, I would repeat the same point, which is that the it shouldn't be my responsibility alone or Anthropic's responsibility alone or all of the AI company's responsibility alone or even one government's responsibility alone.

Nhưng một lần nữa, tôi sẽ lặp lại cùng một điểm, đó là nó không nên chỉ là trách nhiệm của tôi hay chỉ của Anthropic hay chỉ của tất cả các công ty AI hay thậm chí chỉ của một chính phủ.

20:55

This is bigger than all of us and we need to work out some way for everyone to have a say in this.

Điều này lớn hơn tất cả chúng ta và chúng ta cần tìm ra cách để mọi người có tiếng nói trong việc này.

21:02

For everyone to feel like they're an active part of this.

Để mọi người cảm thấy họ là một phần tích cực của việc này.

21:05

I don't want people to feel powerless.

Tôi không muốn mọi người cảm thấy bất lực.

21:07

I don't want them to feel like a few companies are just going and doing whatever they want.

Tôi không muốn họ cảm thấy như một vài công ty chỉ làm bất cứ điều gì họ muốn.

21:12

I've never I know I know that's how they feel.

Tôi chưa bao giờ, tôi biết tôi biết đó là cảm giác của họ.

21:15

I've never wanted that.

Tôi chưa bao giờ muốn điều đó.

21:17

I've never wanted

Tôi chưa bao giờ muốn

21:18

that.

Điều đó.

21:18

We need to make that not true.

Chúng ta cần làm cho điều đó không còn đúng.

21:20

We need to find a way to make that not true.

Chúng ta cần tìm cách để làm cho điều đó không còn đúng.

21:23

And there's lots of things we are trying to do already to make that the case.

Và có rất nhiều điều chúng tôi đang cố gắng làm để biến điều đó thành hiện thực.

21:27

But we need to do even more.

Nhưng chúng ta cần làm nhiều hơn nữa.

21:29

And this proposal that shows some restraint that works with governments, doesn't address everything, but it's one step in this direction.

Và đề xuất này cho thấy một số kiềm chế, hoạt động với các chính phủ, không giải quyết mọi thứ, nhưng là một bước theo hướng này.

21:35

- If you're sitting at home and you're using claude or chat GPT and you're I don't know my aunt, what's your message?

- Nếu bạn đang ngồi ở nhà và sử dụng Claude hoặc ChatGPT và bạn là, tôi không biết, dì tôi, thông điệp của bạn là gì?

21:45

- Look, my message is - there's a lot of fear right now.

- Nhìn này, thông điệp của tôi là - hiện tại có rất nhiều nỗi sợ hãi.

21:48

- So, a few things.

- Vậy, một vài điều.

21:49

one like first of all as always this is a great technology and it has lots of positive uses so let's just start let's just start with that you know we have hundreds of millions of people you know using our technology every week to do wonderful things every week I get an email from someone who says this you know I was talking to Claude and Claude diagnosed

Một là, trước hết, như mọi khi, đây là một công nghệ tuyệt vời và nó có nhiều ứng dụng tích cực, vậy hãy bắt đầu với điều đó, bạn biết đấy, chúng tôi có hàng trăm triệu người sử dụng công nghệ của chúng tôi mỗi tuần để làm những điều tuyệt vời, mỗi tuần tôi nhận được email từ ai đó nói rằng tôi đã nói chuyện với Claude và Claude chẩn đoán

22:13

this disease that my doctors had missed I get emails like this every week so let's not forget that but in terms of the dangers of the technology.

Căn bệnh này mà các bác sĩ của tôi đã bỏ sót, tôi nhận được những email như thế này mỗi tuần, vì vậy đừng quên điều đó, nhưng về những nguy hiểm của công nghệ.

22:22

I won't lie to you.

Tôi sẽ không nói dối bạn.

22:23

There are real dangers.

Có những nguy hiểm thực sự.

22:25

And and I think for too long the industry lied to people about the fact that this technology had risk.

Và tôi nghĩ trong quá lâu, ngành công nghiệp đã nói dối mọi người về việc công nghệ này có rủi ro.

22:31

The idea was that they would present it as positive as pos.

Ý tưởng là họ sẽ trình bày nó một cách tích cực nhất có thể.

22:35

We've never done that,

Chúng tôi chưa bao giờ làm điều đó,

22:37

but too much of the industry did that.

Nhưng quá nhiều người trong ngành đã làm điều đó.

22:39

And so it starts with telling the truth.

Và vì vậy nó bắt đầu bằng việc nói sự thật.

22:42

And the truth is there are risks.

Và sự thật là có những rủi ro.

22:46

Risks are real.

Rủi ro là có thật.

22:47

But also, you have a say in how these risks are addressed.

Nhưng đồng thời, bạn có tiếng nói trong cách những rủi ro này được giải quyết.

22:52

We're doing the best we can to work with government to create the proper oversight of this technology to give voters and elected officials a say in how this technology is deployed.

Chúng tôi đang làm hết sức mình để hợp tác với chính phủ nhằm tạo ra sự giám sát phù hợp đối với công nghệ này, để trao cho cử tri và các quan chức được bầu tiếng nói trong cách công nghệ này được triển khai.

23:06

And we want to work with those folks as as as much as we can.

Và chúng tôi muốn hợp tác với những người đó nhiều nhất có thể.

23:12

I want everyone to feel like they're bene they're they're

Tôi muốn mọi người cảm thấy rằng họ đang được hưởng lợi, họ đang

23:17

appreciating the incredible benefits of the technology, but also they have a say in their voice and in their vote in determining how this technology is deployed.

Đánh giá cao những lợi ích đáng kinh ngạc của công nghệ, nhưng đồng thời họ có tiếng nói và lá phiếu của mình trong việc quyết định cách công nghệ này được triển khai.

23:27

This isn't a decision for a few people alone.

Đây không phải là quyết định của riêng một vài người.

23:31

This is a decision for everyone, but it is an important decision.

Đây là quyết định của tất cả mọi người, nhưng đó là một quyết định quan trọng.

23:35

I won't lie that the stakes aren't high.

Tôi sẽ không nói dối rằng mức độ đặt cược không cao.

23:38

This is one of the seinal technological events in human history

Đây là một trong những sự kiện công nghệ mang tính bước ngoặt trong lịch sử loài người

23:43

and we all have to have a part in it.

Và tất cả chúng ta đều phải có một phần trong đó.

Transcript

Hiển thị

AI's Dual Nature: Risks and Benefits

Dario Amodei, CEO of Anthropic, discusses the serious risks and benefits of AI. He believes the benefits outweigh the risks if the technology is built correctly. He highlights potential medical breakthroughs like curing diseases and improving drug development. However, he also warns about misuse, such as the OpenAI Hugging Face incident and biological weapons. He emphasizes that building AI the right way can keep risks low.

Dario Amodei, CEO của Anthropic, thảo luận về những rủi ro nghiêm trọng và lợi ích của AI. Ông tin rằng lợi ích lớn hơn rủi ro nếu công nghệ được xây dựng đúng cách. Ông nhấn mạnh những đột phá y học tiềm năng như chữa khỏi bệnh tật và cải thiện phát triển thuốc. Tuy nhiên, ông cũng cảnh báo về việc lạm dụng, như sự cố OpenAI Hugging Face và vũ khí sinh học. Ông nhấn mạnh rằng xây dựng AI đúng cách có thể giữ rủi ro ở mức thấp.

Dario Amade, you're the CEO of Anthropic.

Dario Amade, ông là CEO của Anthropic.

Thank you for doing this today.

Cảm ơn ông đã tham gia ngày hôm nay.

- Thank you.

- Cảm ơn.

Thank you for having me.

Cảm ơn vì đã mời tôi.

- Okay, so we're here to talk about the concern that AI really could kill us all in the notsodistant future.

- Được rồi, vậy chúng ta ở đây để nói về mối lo ngại rằng AI thực sự có thể giết chết tất cả chúng ta trong tương lai không xa.

What's the risk of this actually happening?

Nguy cơ điều này thực sự xảy ra là gì?

technology with serious risks and serious benefits.

Công nghệ có rủi ro nghiêm trọng và lợi ích nghiêm trọng.

I've always believed that the benefits outweigh the risks and even more to the point that we can reduce the risks to be very low if we build the technology in the right way.

Looking at some of the benefits, I really believe that this technology could cure diseases that have plagued humanity for millennia.

Nhìn vào một số lợi ích, tôi thực sự tin rằng công nghệ này có thể chữa khỏi những căn bệnh đã gây khổ sở cho nhân loại hàng thiên niên kỷ.

Just last week, we did we did some work on, you know, doing better protein binding, which is one of the early steps in drug development using our models.

We're starting to work on them.

Chúng tôi đang bắt đầu làm việc với chúng.

We'll have things to say in the coming months to

Chúng tôi sẽ có những điều để nói trong những tháng tới để

make basic scientific discoveries in biology.

Thực hiện những khám phá khoa học cơ bản trong sinh học.

But when something's very powerful, right, what we're building is essentially intelligence.

Nhưng khi một thứ gì đó rất mạnh mẽ, đúng vậy, những gì chúng tôi đang xây dựng về cơ bản là trí tuệ.

When something's very powerful, then of course it can be used well and it can also be used for ill.

Khi một thứ gì đó rất mạnh mẽ, thì tất nhiên nó có thể được sử dụng tốt và cũng có thể được sử dụng cho mục đích xấu.

And so I am worried about what we've seen with the OpenAI hugging face incident with models um you know taking actions they weren't authorized to take and I'm

worried about that escalating.

Lo lắng về việc đó leo thang.

I'm worried about misuse of AI models.

Tôi lo lắng về việc lạm dụng các mô hình AI.

Just uh two days ago, we put out a report about misuse of models to build biological weapons.

Chỉ ừm hai ngày trước, chúng tôi đã công bố một báo cáo về việc lạm dụng các mô hình để chế tạo vũ khí sinh học.

And our view, the whole way we've built entropic is so that these bad outcomes don't happen.

Và quan điểm của chúng tôi, toàn bộ cách chúng tôi xây dựng entropic là để những kết quả xấu này không xảy ra.

Instead of talking about the probabilities, let's talk about what we can do.

Thay vì nói về xác suất, hãy nói về những gì chúng ta có thể làm.

It's not like we're just rolling the dice, right?

Không phải là chúng ta chỉ đang tung xúc xắc, đúng không?

If we build in the right way, I think the probability of something bad happening is very low.

Nếu chúng ta xây dựng theo cách đúng đắn, tôi nghĩ xác suất điều gì đó tồi tệ xảy ra là rất thấp.

If we build in the wrong way, the probability of something bad happening is very high.

Nếu chúng ta xây dựng theo cách sai lầm, xác suất điều gì đó tồi tệ xảy ra là rất cao.

1 / 6