0:00

2:00:49

ChatGPT Whistleblower: They Offered Me $2m To Keep Quiet, No One Is Ready For What's Coming!

The Diary Of A CEO·2:00:49·Technology·C1

Chương · 13

Chương 1·The Urgent Risks of Superintelligent AI

Hiển thị

Tiếng ViệtAuto-scroll

0:00

The scary open secret in the AI industry right now is that it's possible that we'll end up essentially creating a new species that ends up ruling the world with a 70% chance that this goes horribly wrong like human extinction.

Bí mật đáng sợ được công khai trong ngành AI hiện nay là chúng ta có thể sẽ tạo ra một loài mới về cơ bản và loài đó có thể thống trị thế giới, với 70% khả năng điều này sẽ diễn ra tồi tệ, như sự tuyệt chủng của loài người.

0:10

That's one possibility.

Đó là một khả năng.

0:11

There's many more.

Còn nhiều khả năng khác nữa.

0:12

- It's quite chilling what you're saying.

- Điều bạn nói thật đáng sợ.

0:14

- Yeah, it's uh gets me down sometimes.

- Vâng, nó khiến tôi đôi khi cảm thấy chán nản.

0:19

I basically told my wife like let's not have any more kids.

Về cơ bản tôi đã nói với vợ rằng chúng ta đừng sinh thêm con nữa.

0:21

It's too uncertain.

Tương lai quá bất định.

0:22

I don't think they'll ever join the workforce.

Tôi không nghĩ chúng sẽ tham gia lực lượng lao động.

0:24

Everybody should be afraid that their jobs are going to be lost.

Mọi người nên lo sợ rằng công việc của họ sẽ bị mất.

0:26

And I know this because I went to OpenAI in 2022.

Và tôi biết điều này vì tôi đã đến OpenAI vào năm 2022.

0:29

What I did there was forecasting what the what the next couple years might look like.

Việc tôi làm ở đó là dự đoán những gì có thể xảy ra trong vài năm tới.

0:32

And unfortunately, most of the world is kind of asleep at the wheel and doesn't really realize what's going on with AI.

Thật không may, phần lớn thế giới đang ngủ quên và không thực sự nhận ra điều gì đang xảy ra với AI.

0:37

So, I resigned.

Vì vậy, tôi đã từ chức.

0:38

- I read it somewhere that you lost $2 million for not signing an anti-disparagement clause, meaning you couldn't criticize the company.

- Tôi đã đọc ở đâu đó rằng bạn đã mất 2 triệu đô la vì không ký điều khoản không chỉ trích, nghĩa là bạn không thể chỉ trích công ty.

0:44

- Yes, for reasons I'm happy to get into.

- Đúng vậy, vì những lý do mà tôi sẵn lòng giải thích.

0:46

But, the main thing I've learned is when I go talk to people at Anthropic and OpenAI about forecasting, they're like, "It's not going to take that long.

Nhưng điều chính tôi học được là khi tôi nói chuyện với những người ở Anthropic và OpenAI về dự đoán, họ nói rằng, "Sẽ không mất nhiều thời gian đến vậy đâu.

0:52

You need to shorten them again.

Bạn cần rút ngắn lại.

0:53

Get them back to 2027 or 2028." Because these powerful CEOs, Dario or Sam or Elon, are racing each other to be in control of the most powerful AIs.

Đưa chúng trở lại năm 2027 hoặc 2028." Bởi vì những CEO quyền lực này, Dario, Sam hay Elon, đang cạnh tranh với nhau để kiểm soát những AI mạnh nhất.

1:00

And are literally afraid that if the other guy gets there

Và họ thực sự lo sợ rằng nếu người kia đạt được điều đó

1:03

first, he might become dictator.

trước, anh ta có thể trở thành nhà độc tài.

1:04

I mean, Anthropic is on track to be the entire economy by 2030.

Ý tôi là, Anthropic đang trên đà trở thành toàn bộ nền kinh tế vào năm 2030.

1:07

But, none of these people should be trusted with that much power.

Nhưng không ai trong số những người này nên được tin tưởng giao phó quá nhiều quyền lực.

1:09

So, this is the most important thing happening in our lifetimes, probably in all of history, in fact.

Vì vậy, đây là điều quan trọng nhất xảy ra trong cuộc đời chúng ta, có lẽ là trong toàn bộ lịch sử.

1:14

And it's very important that it go well.

Và điều rất quan trọng là nó phải diễn ra tốt đẹp.

1:15

So, I think that there's a lot we can do to like steer things in a better direction.

Vì vậy, tôi nghĩ rằng có rất nhiều điều chúng ta có thể làm để định hướng mọi thứ theo hướng tốt hơn.

1:20

There's loads of benefits that we could get from AI if we do it right.

Có rất nhiều lợi ích mà chúng ta có thể nhận được từ AI nếu chúng ta làm đúng.

1:23

And if we do solve the problems, then things could be absolutely amazing for everyone.

Và nếu chúng ta giải quyết được các vấn đề, thì mọi thứ có thể trở nên tuyệt vời tuyệt đối cho tất cả mọi người.

1:26

- Well, this report here in 2021, it was remarkably music accurate.

- Chà, báo cáo này vào năm 2021 đã cực kỳ [âm nhạc] chính xác.

1:29

And then just published this one.

Và sau đó vừa xuất bản cái này.

1:31

- Yeah.

- Vâng.

1:31

So, this is our new scenarios.

Vì vậy, đây là những kịch bản mới của chúng tôi.

1:32

- So, let's go through these slowly and one at a time.

- Vậy, hãy xem xét từng cái một cách chậm rãi.

1:34

- I would be incredibly happy if all my predictions turn out to be wrong.

- Tôi sẽ vô cùng hạnh phúc nếu tất cả dự đoán của tôi hóa ra là sai.

1:40

- This is super interesting to me.

- Điều này thực sự thú vị với tôi.

1:41

My team gave me this report to show me how many of you that watch this show subscribe.

Nhóm của tôi đã đưa cho tôi báo cáo này để cho tôi thấy có bao nhiêu người trong số các bạn xem chương trình này đã đăng ký.

1:45

And some of you have told us, according to this, that you are unsubscribed from the channel randomly.

Và một số bạn đã nói với chúng tôi, theo báo cáo này, rằng các bạn đã hủy đăng ký kênh một cách ngẫu nhiên.

1:48

So, favor to ask all of you, please could you check right now if you've hit the subscribe button.

Vì vậy, tôi xin nhờ tất cả các bạn một việc, xin hãy kiểm tra ngay bây giờ xem bạn đã nhấn nút đăng ký chưa.

1:53

If you are regular viewer of this show and you like what we here.

Nếu bạn là người xem thường xuyên của chương trình này và bạn thích những gì chúng tôi làm ở đây.

1:56

We're approaching quite a significant landmark on this show in terms of the subscriber number.

Chúng tôi đang tiến gần đến một cột mốc khá quan trọng trên chương trình này về số lượng người đăng ký.

1:59

So, if there was one simple free thing that you could do to help us, my team, everyone here, to keep this show free, to keep it improving year over year and week over week, it is just to hit that subscribe button and to

Vì vậy, nếu có một điều đơn giản miễn phí mà bạn có thể làm để giúp chúng tôi, nhóm của tôi, tất cả mọi người ở đây, giữ cho chương trình này miễn phí, tiếp tục cải thiện từ năm này qua năm khác và từ tuần này qua tuần khác, thì đó chỉ là nhấn nút đăng ký và

2:10

double-check if you've hit it.

kiểm tra lại xem bạn đã nhấn chưa.

2:11

Only thing I'll ever ask of you.

Điều duy nhất tôi sẽ yêu cầu ở bạn.

2:13

Do we have a deal?

Chúng ta đồng ý chứ?

2:14

If you do it, I'll tell you what I'll do.

Nếu bạn làm điều đó, tôi sẽ nói cho bạn biết tôi sẽ làm gì.

2:16

I'll make sure every single week, every single month, we fight harder and harder and harder and harder to bring you the guests and conversations that you want to hear.

Tôi sẽ đảm bảo rằng mỗi tuần, mỗi tháng, chúng tôi chiến đấu ngày càng chăm chỉ hơn để mang đến cho bạn những vị khách và cuộc trò chuyện mà bạn muốn nghe.

2:22

I stay true to that promise since the very beginning of the Diary of a CEO, and I will not let you down.

Tôi vẫn giữ lời hứa đó từ khi bắt đầu Nhật ký của một CEO, và tôi sẽ không làm bạn thất vọng.

2:27

Please help us.

Xin hãy giúp chúng tôi.

2:28

Really appreciate it.

Thực sự cảm ơn bạn.

2:29

Let's get on with the show.

Chúng ta hãy tiếp tục chương trình.

2:31

- music - Daniel Kokotajlo.

- [âm nhạc] - Daniel Kokotajlo.

2:36

At the very heart of what you do, um what is your mission?

Trong cốt lõi của những gì bạn làm, ừm, sứ mệnh của bạn là gì?

2:41

And why?

Và tại sao?

2:42

- So, what would you do if you thought that superintelligence was coming in a few years?

- Vậy, bạn sẽ làm gì nếu bạn nghĩ rằng siêu trí tuệ sẽ xuất hiện trong vài năm tới?

2:47

- I guess it depends what the consequences were.

- Tôi đoán điều đó phụ thuộc vào hậu quả sẽ như thế nào.

2:51

- Well, let's talk about it.

- Được rồi, hãy nói về điều đó.

2:52

So, superintelligence, AIs that are better than the best humans at everything, while also being faster and cheaper, also able to operate robots that can do everything in the physical world that humans can do, but better, faster, and cheaper.

Vậy, siêu trí tuệ, những AI giỏi hơn cả những con người giỏi nhất trong mọi việc, đồng thời nhanh hơn và rẻ hơn, cũng có thể điều khiển robot làm mọi thứ trong thế giới vật chất mà con người có thể làm, nhưng tốt hơn, nhanh hơn và rẻ hơn.

3:03

If that really is coming in a few years, then we need to prepare, and we need to think about how to make it go well

Nếu điều đó thực sự xảy ra trong vài năm tới, thì chúng ta cần chuẩn bị, và chúng ta cần suy nghĩ về cách làm cho nó diễn ra tốt đẹp

3:10

instead of poorly.

Thay vì tồi tệ.

3:10

So, that's sort of my answer is like, I'm doing that to the best of my ability.

Vì vậy, đó là câu trả lời của tôi, tôi đang làm điều đó hết khả năng của mình.

3:15

- So, you believe it's coming in a few years?

- Vậy, bạn tin rằng nó sẽ đến trong vài năm tới?

3:17

- Yes.

- Vâng.

3:18

- How could you be so sure?

- Làm sao bạn có thể chắc chắn như vậy?

3:19

- I spend a lot of time trying to forecast this sort of thing.

- Tôi dành rất nhiều thời gian để cố gắng dự đoán những điều kiểu này.

3:23

My sort of median estimate, a 50% chance, is currently in 2029.

Ước tính trung bình của tôi, xác suất 50%, hiện là vào năm 2029.

3:26

Maybe it'll slip to 2028.

Có thể nó sẽ lùi lại đến năm 2028.

3:28

It's possible that it'll take significantly longer, like maybe 10 years or something like that.

Có thể nó sẽ mất nhiều thời gian hơn đáng kể, như khoảng 10 năm hoặc đại loại vậy.

3:32

But, uh you know, for reasons I'm happy to get into, seems to me like it's probably happening by the end of the decade.

Nhưng, ừm, bạn biết đấy, vì những lý do tôi sẵn lòng trình bày, có vẻ như nó có khả năng xảy ra vào cuối thập kỷ này.

3:39

Which less important is the

Điều ít quan trọng hơn là

3:41

the sense of how close we are.

Cảm giác về việc chúng ta gần đến mức nào.

3:43

What's more important is the pace of the trends.

Điều quan trọng hơn là tốc độ của các xu hướng.

3:47

Anthropic this time last year was making something like a billion dollars a year.

Anthropic vào thời điểm này năm ngoái đang kiếm được khoảng một tỷ đô la mỗi năm.

3:53

And they're making something like 60 billion dollars a year.

Và họ đang kiếm được khoảng 60 tỷ đô la mỗi năm.

3:56

So that's 60x growth in 1 year, which is extremely impressive even for very small startups, but for a company of their size, it might be the fastest growth in history.

Vì vậy, đó là mức tăng trưởng gấp 60 lần trong 1 năm, điều này cực kỳ ấn tượng ngay cả với các công ty khởi nghiệp rất nhỏ, nhưng đối với một công ty có quy mô của họ, đó có thể là tốc độ tăng trưởng nhanh nhất trong lịch sử.

4:08

Um we expect that rate of growth to slow down, but even if it slows down quite a lot, they're still on track to be, you know, the entire economy by 2030 or so.

Ừm, chúng tôi dự kiến tốc độ tăng trưởng đó sẽ chậm lại, nhưng ngay cả khi nó chậm lại khá nhiều, họ vẫn đang trên đà trở thành, bạn biết đấy, toàn bộ nền kinh tế vào khoảng năm 2030.

4:21

- Why should the average person care?

- Tại sao người bình thường nên quan tâm?

4:23

- The high-level thing is absolutely everything is going to change for the whole world, and including therefore for them and their families.

- Điều cốt lõi là hoàn toàn mọi thứ sẽ thay đổi cho cả thế giới, và do đó bao gồm cả cho họ và gia đình họ.

4:29

Um could change for the better, could change for the worse, depending on the details of how it's done.

Ừm, có thể thay đổi theo hướng tốt hơn, có thể theo hướng xấu hơn, tùy thuộc vào chi tiết cách nó được thực hiện.

4:34

So for example, everyone could die, you know?

Ví dụ, mọi người đều có thể chết, bạn biết đấy?

4:36

Um this is the classic loss of control scenario, or one version of it.

Ừm, đây là kịch bản mất kiểm soát kinh điển, hoặc một phiên bản của nó.

4:40

If we do build these super intelligences, and we use them to automate all the jobs, and we put them in the military, and we, you know, have them giving advice to politicians, and so forth, they will eventually have accumulated enough real-world power that they don't need humans anymore.

Nếu chúng ta thực sự xây dựng những siêu trí tuệ này, và chúng ta sử dụng chúng để tự động hóa mọi công việc, và chúng ta đưa chúng vào quân đội, và chúng ta, bạn biết đấy, để chúng đưa ra lời khuyên cho các chính trị gia, v.v., cuối cùng chúng sẽ tích lũy đủ quyền lực trong thế giới thực đến mức chúng không cần con người nữa.

4:56

And they're smarter than us, they're more strategic, etc.

Và chúng thông minh hơn chúng ta, chiến lược hơn chúng ta, v.v.

4:59

At that point, we sort

Tại thời điểm đó, chúng ta gần như

5:01

of have to hope that they are virtuous, that they have, you know, the goals that we wanted them to have, the values that we wanted them to have, etc.

phải hy vọng rằng chúng có đạo đức, rằng chúng có, bạn biết đấy, những mục tiêu mà chúng ta muốn chúng có, những giá trị mà chúng ta muốn chúng có, v.v.

5:07

And the sort of scary open secret in the AI industry right now is that right now that is kind of just a hope.

Và bí mật đáng sợ mà ai cũng biết trong ngành AI hiện nay là hiện tại điều đó chỉ là một hy vọng.

5:13

It's not something that we can be at all confident in, and in fact, there's lots of evidence and arguments that it we're not on track to achieve that.

Đó không phải là điều chúng ta có thể tự tin chút nào, và thực tế, có rất nhiều bằng chứng và lập luận rằng chúng ta không đi đúng hướng để đạt được điều đó.

5:21

So there's lots of reason Like current AIs, for example, will often lie uh to people, or they will like you tell them to do something and they go do something else, and then pretend that they did it, right?

Vì vậy, có rất nhiều lý do. Ví dụ, các AI hiện tại thường nói dối mọi người, hoặc chúng sẽ như là bạn bảo chúng làm điều gì đó và chúng đi làm điều khác, rồi giả vờ rằng chúng đã làm điều đó, đúng không?

5:31

So it's an inherently difficult problem to make something that's super intelligent and also has the values and virtues that you want it to have, and it doesn't seem like

Vì vậy, về bản chất, đó là một vấn đề khó khăn để tạo ra một thứ gì đó siêu thông minh và cũng có những giá trị và đức tính mà bạn muốn nó có, và có vẻ như

5:39

we're on track to solve that problem.

Chúng ta không đi đúng hướng để giải quyết vấn đề đó.

5:41

Also, it seems like the sort of problem that you could think you solved when you haven't actually solved it, right?

Ngoài ra, có vẻ như đó là loại vấn đề mà bạn có thể nghĩ rằng mình đã giải quyết xong trong khi thực tế bạn chưa giải quyết được, đúng không?

5:45

Uh that's a big reason why this is scary.

Ừ, đó là một lý do lớn khiến điều này đáng sợ.

5:48

So, for all those reasons, it's possible that we'll end up essentially creating a new species that ends up ruling the world instead of us.

Vì vậy, vì tất cả những lý do đó, có khả năng chúng ta sẽ kết thúc bằng việc về cơ bản tạo ra một loài mới mà cuối cùng sẽ thống trị thế giới thay vì chúng ta.

5:54

And then maybe we go the way of other extinct species in the past that were outcompeted by humans.

Và sau đó có lẽ chúng ta sẽ đi theo con đường của các loài tuyệt chủng khác trong quá khứ đã bị con người đánh bại trong cạnh tranh.

5:59

That's one possibility.

Đó là một khả năng.

6:00

There's many more.

Còn nhiều khả năng khác nữa.

6:01

Even if you're not worried about that and you think that the AIs will be totally controlled,

Ngay cả khi bạn không lo lắng về điều đó và bạn nghĩ rằng các AI sẽ được kiểm soát hoàn toàn,

6:06

there's the question of who controls the AIs, right?

Vẫn có câu hỏi ai kiểm soát các AI, đúng không?

6:09

When there's a couple corporations that have made these superintelligences and are using them to automate all the jobs, well, that's a lot of power, you know?

Khi có một vài tập đoàn đã tạo ra những siêu trí tuệ này và đang sử dụng chúng để tự động hóa mọi công việc, thì đó là rất nhiều quyền lực, bạn biết đấy?

6:17

That's a lot of money.

Đó là rất nhiều tiền.

6:18

It's a lot of political power.

Đó là rất nhiều quyền lực chính trị.

6:20

They'll have the best strategists, the best advisers, you know, they'll think faster.

Họ sẽ có những nhà chiến lược giỏi nhất, những cố vấn giỏi nhất, bạn biết đấy, họ sẽ suy nghĩ nhanh hơn.

6:24

Militarily, uh, the countries that has these AIs will be able to absolutely wipe the floor with all the other countries.

Về mặt quân sự, à, các quốc gia sở hữu những AI này sẽ có thể quét sạch hoàn toàn tất cả các quốc gia khác.

6:31

The AIs themselves, it's it's kind of a single point of failure like central uh, control system where,

Bản thân các AI, chúng giống như một điểm lỗi duy nhất, giống như hệ thống kiểm soát trung tâm, nơi mà,

6:37

you know, the CEO of Anthropic, Dario, he coined this phrase, "The country of geniuses in the giant data center." That was his phrase to describe what they're trying to build, you know?

Bạn biết đấy, CEO của Anthropic, Dario, ông ấy đã đặt ra cụm từ này, "Đất nước của những thiên tài trong trung tâm dữ liệu khổng lồ." Đó là cụm từ của ông ấy để mô tả những gì họ đang cố gắng xây dựng, bạn biết không?

6:48

I think that's a little bit misleading.

Tôi nghĩ điều đó hơi gây hiểu lầm.

6:49

I think it would be more accurate to describe it as army of geniuses in the data center because it's not like it's a bunch of diverse different AIs, you know, living in their different parts of the data center.

Tôi nghĩ sẽ chính xác hơn nếu mô tả nó như một đội quân thiên tài trong trung tâm dữ liệu vì không phải là có một loạt các AI đa dạng khác nhau, bạn biết đấy, sống ở các khu vực khác nhau của trung tâm dữ liệu.

6:59

They're all copies of the same big model and they're owned by the company.

Chúng đều là bản sao của cùng một mô hình lớn và chúng thuộc sở hữu của công ty.

7:03

And so, they all follow the orders given by the company, right?

Và vì vậy, tất cả chúng đều tuân theo mệnh lệnh do công ty đưa ra, phải không?

7:07

People should be asking

Mọi người nên đặt ra

7:08

questions of like, who controls this army or these armies and what are they going to be doing with them?

những câu hỏi như, ai kiểm soát đội quân này hoặc những đội quân này và họ sẽ làm gì với chúng?

7:12

I think that we could very easily end up in a sort of uh, a situation where some tiny group of people are essentially oligarchs or dictators.

Tôi nghĩ rằng chúng ta rất có thể rơi vào tình huống mà một nhóm nhỏ người về cơ bản là những nhà tài phiệt hoặc nhà độc tài.

7:21

And ironically, both of these risks, the loss of control and the constitution of power, are things that people in the industry have been thinking about for decades.

Và trớ trêu thay, cả hai rủi ro này, mất kiểm soát và tập trung quyền lực, là những điều mà những người trong ngành đã suy nghĩ trong nhiều thập kỷ.

7:32

Um, even before the AI industry existed, you know, people thinking about AI were talking and writing about these things.

Ừm, ngay cả trước khi ngành công nghiệp AI tồn tại, bạn biết đấy, những người nghĩ về AI đã nói và viết về những điều này.

7:38

And then part of the founding narrative, the founding myth of DeepMind and OpenAI and Anthropic is these problems are real.

Và sau đó một phần của câu chuyện sáng lập, huyền thoại sáng lập của DeepMind và OpenAI và Anthropic là những vấn đề này là có thật.

7:46

So, we need to get there first so that we can handle it responsibly.

Vì vậy, chúng ta cần đến đó trước để có thể xử lý nó một cách có trách nhiệm.

7:49

Those are I think the big two reasons, but then I can go on.

Tôi nghĩ đó là hai lý do lớn, nhưng sau đó tôi có thể tiếp tục.

7:53

There's lots more reasons as well.

Còn nhiều lý do khác nữa.

7:55

So, one thing is you know, World War III, geopolitical conflict.

Vì vậy, một điều là bạn biết đấy, Thế chiến thứ ba, xung đột địa chính trị.

7:58

Um if AI does in fact get incredibly powerful, that's going to change the balance of power between nations.

Nếu AI thực sự trở nên cực kỳ mạnh mẽ, điều đó sẽ thay đổi cán cân quyền lực giữa các quốc gia.

8:03

That's going to disrupt a lot of things.

Điều đó sẽ phá vỡ rất nhiều thứ.

8:06

That puts us at increased risk of crisis more generally, right?

Điều đó khiến chúng ta có nguy cơ khủng hoảng cao hơn nói chung, phải không?

8:09

Another one, what about those jobs?

Một điều nữa, còn những công việc đó thì sao?

8:12

You're going to lose your taxi job, but not just the taxi driver, everybody pretty much.

Bạn sẽ mất công việc lái taxi của mình, nhưng không chỉ tài xế taxi, mà gần như tất cả mọi người.

8:17

Um there might be a few exceptions like people whose jobs for legal reasons are only allowed to be done by humans, but for the most part, everybody should be afraid that their jobs are going to be lost even if we manage to avoid all the other problems, right?

Ừm, có thể có một vài trường hợp ngoại lệ như những người có công việc vì lý do pháp lý chỉ được phép làm bởi con người, nhưng phần lớn, mọi người nên lo sợ rằng công việc của họ sẽ bị mất ngay cả khi chúng ta xoay sở để tránh được tất cả các vấn đề khác, phải không?

8:29

- This narrative has started to emerge and I've had several interviews on the show where I've interviewed people who are very scared and anxious about AI.

- Câu chuyện này đã bắt đầu xuất hiện và tôi đã có vài cuộc phỏng vấn trong chương trình nơi tôi phỏng vấn những người rất sợ hãi và lo lắng về AI.

8:36

And these are people that have worked in the industry for sometimes decades.

Và đây là những người đã làm việc trong ngành đôi khi hàng thập kỷ.

8:39

- Yeah.

- Vâng.

8:39

- Um the counter narrative coming over the hill is that this is doomerism.

- Ừm, câu chuyện phản bác đang đến từ phía bên kia là đây là chủ nghĩa bi quan.

8:43

That these people are for whatever reason just trying to scare people and that they don't really understand what they're talking about.

Rằng những người này vì lý do nào đó chỉ đang cố gắng dọa mọi người và rằng họ không thực sự hiểu những gì họ đang nói.

8:48

How do you respond to that sort of counter narrative?

Bạn trả lời kiểu phản bác đó như thế nào?

8:51

And you must have seen this emerging yourself, especially from people who stand to benefit, dare I say?

Và chắc chắn bạn đã thấy điều này tự xuất hiện, đặc biệt là từ những người được hưởng lợi, tôi dám nói vậy?

8:56

- Yeah, exactly.

- Vâng, chính xác.

8:56

This counter narrative is fairly recent and it's been pushed by the people who stand to benefit um from it and it's not true.

Câu chuyện phản bác này khá mới và nó được đẩy mạnh bởi những người được hưởng lợi từ nó và nó không đúng.

9:04

Like these these concerns have been around for decades since before the AI industry existed.

Giống như những mối quan tâm này đã tồn tại từ nhiều thập kỷ trước khi ngành công nghiệp AI tồn tại.

9:09

They're actually pretty reasonable concerns.

Chúng thực sự là những mối quan tâm khá hợp lý.

9:10

Like if you take the companies at their word and imagine that they are in fact going to build superintelligence, well, it raises a lot of questions.

Giống như nếu bạn tin lời các công ty và tưởng tượng rằng họ thực sự sẽ xây dựng siêu trí tuệ, thì điều đó đặt ra rất nhiều câu hỏi.

9:17

Like who's going to control it?

Giống như ai sẽ kiểm soát nó?

9:18

Will anybody control it?

Sẽ có ai kiểm soát nó không?

9:19

What about the jobs?

Còn công ăn việc làm thì sao?

9:20

You know, like th- these are just kind of obvious implications to be thinking about and worrying about.

Bạn biết đấy, giống như những điều này chỉ là những hàm ý hiển nhiên để suy nghĩ và lo lắng.

9:25

- Who are you and what's your story?

- Bạn là ai và câu chuyện của bạn là gì?

9:26

- My name is Daniel Kokotajlo.

- Tên tôi là Daniel Kokotajlo.

9:28

Um I currently run the AI Futures Project, which is a small nonprofit that mostly focuses on forecasting the future of AI.

Ừm, hiện tại tôi điều hành Dự án Tương lai AI, một tổ chức phi lợi nhuận nhỏ chủ yếu tập trung vào dự báo tương lai của AI.

9:39

Before that, I worked at OpenAI.

Trước đó, tôi đã làm việc tại OpenAI.

9:41

- AI forecasting?

- Dự báo AI?

9:43

- Yeah, so think about how like you know, industry analysts who work for hedge funds and stuff will make these forecasts of like here is, you know, how many cars Tesla will be selling 5 years from now or like here's what the price of electricity will be in 2 years, right?

- Vâng, hãy nghĩ về việc giống như bạn biết đấy, các nhà phân tích ngành làm việc cho các quỹ phòng hộ và những thứ tương tự sẽ đưa ra những dự báo như, đây là, bạn biết đấy, Tesla sẽ bán được bao nhiêu xe trong 5 năm tới hoặc như đây là giá điện sẽ như thế nào trong 2 năm, phải không?

9:59

That's forecasting.

Đó là dự báo.

10:00

I was doing that but specifically focused on AI.

Tôi đã làm điều đó nhưng tập trung cụ thể vào AI.

10:03

The reason I was doing it is because it's incredibly important to see where this is all headed.

Lý do tôi làm điều đó là vì việc nhìn thấy tất cả những điều này sẽ đi về đâu là vô cùng quan trọng.

10:07

- Why did you go to OpenAI?

- Tại sao bạn đến OpenAI?

10:09

What did you do there?

Bạn đã làm gì ở đó?

10:10

What did you observe while you were there and how did it change your perspective on the future of AI but also I guess OpenAI as a company and for anybody that doesn't know OpenAI are the company that produced ChatGPT.

Bạn đã quan sát được gì khi ở đó và điều đó đã thay đổi quan điểm của bạn về tương lai của AI như thế nào, nhưng tôi đoán cả về OpenAI với tư cách là một công ty và cho những ai chưa biết thì OpenAI là công ty đã tạo ra ChatGPT.

10:22

- Yeah, so I went to OpenAI in 2022.

- Vâng, tôi đã đến OpenAI vào năm 2022.

10:24

Uh a large part of what I did there was more forecasting.

Ừm, phần lớn những gì tôi làm ở đó là dự báo nhiều hơn.

10:27

AI 2027 is a scenario that you may have heard of.

AI 2027 là một kịch bản mà bạn có thể đã nghe qua.

10:30

I did like smaller you know, lower effort versions of them internally for just internal circulation of like here's some guesses as to what the next couple years might look like.

Tôi đã làm những phiên bản nhỏ hơn, ít công sức hơn của chúng chỉ để lưu hành nội bộ, kiểu như đây là một số dự đoán về những năm tới có thể trông như thế nào.

10:39

I also worked on evaluations for dangerous capabilities.

Tôi cũng làm việc về đánh giá các năng lực nguy hiểm.

10:41

So you know, trying to measure the AI's

Vì vậy, bạn biết đấy, cố gắng đo lường khả năng của AI

10:44

cyber abilities or persuasion abilities or situational awareness and I also briefly was on a uh a capabilities team doing reinforcement learning to create agents.

Khả năng về không gian mạng hoặc khả năng thuyết phục hoặc nhận thức tình huống và tôi cũng đã có một thời gian ngắn làm trong một nhóm năng lực làm học tăng cường để tạo ra các tác nhân.

10:55

AI is in fact getting uh a lot better and I can say more about why, you know, scaling laws, um deep neural nets bigger, trained on more data, become more efficient, more competent at those things.

AI thực sự đang trở nên tốt hơn rất nhiều và tôi có thể nói thêm về lý do tại sao, bạn biết đấy, các quy luật mở rộng, mạng nơ-ron sâu lớn hơn, được huấn luyện trên nhiều dữ liệu hơn, trở nên hiệu quả hơn, thành thạo hơn trong những việc đó.

11:07

I also became a bit more disillusioned with the AI industry.

Tôi cũng trở nên vỡ mộng hơn một chút với ngành công nghiệp AI.

11:10

So OpenAI, Anthropic, and DeepMind all had these sort of founding narratives of like yes, these risks are real but we've thought about them and we're going to try to handle them responsibly and that's why it's important for us to keep doing what we're doing and I increasingly came to think that these were rationalizations

Vì vậy, OpenAI, Anthropic và DeepMind đều có những câu chuyện nền tảng kiểu như: vâng, những rủi ro này là có thật nhưng chúng tôi đã suy nghĩ về chúng và chúng tôi sẽ cố gắng xử lý chúng một cách có trách nhiệm và đó là lý do tại sao việc chúng tôi tiếp tục làm những gì chúng tôi đang làm là quan trọng, và tôi ngày càng nghĩ rằng đó là những sự biện minh

11:31

to justify what they were rather than sort of like deeply guiding their actual behavior and that when push comes to shove they'll follow their incentives rather than do what's actually good.

Để biện minh cho những gì họ đang làm thay vì thực sự định hướng sâu sắc hành vi thực tế của họ và khi gặp khó khăn, họ sẽ đi theo động cơ của mình thay vì làm những gì thực sự tốt.

11:43

- So you're inside OpenAI at the time and you start to believe that they're following commercial incentives versus the I guess social or societal incentives that they founded themselves on.

- Vậy bạn ở bên trong OpenAI vào thời điểm đó và bạn bắt đầu tin rằng họ đang đi theo động cơ thương mại thay vì tôi đoán là động cơ xã hội hoặc xã hội mà họ đã thành lập dựa trên đó.

11:54

- Sort of.

- Đại loại vậy.

11:54

I mean what I wouldn't actually describe it as commercial incentives.

Ý tôi là điều tôi sẽ không thực sự mô tả nó là động cơ thương mại.

11:58

I think I would describe it as um power-seeking incentives.

Tôi nghĩ tôi sẽ mô tả nó là ừm, động cơ tìm kiếm quyền lực.

12:01

So like clears throat it's true that the companies care a lot about making a lot of money but especially at the very top of these companies like the leaders they understand that this is about more than just money.

Vì vậy, như [hắng giọng] đúng là các công ty rất quan tâm đến việc kiếm nhiều tiền, nhưng đặc biệt là ở cấp cao nhất của các công ty này, như các nhà lãnh đạo, họ hiểu rằng điều này không chỉ là về tiền bạc.

12:13

You know?

Bạn biết đấy?

12:14

There are these emails that came up in you know the lawsuit between Musk and um OpenAI.

Có những email xuất hiện trong vụ kiện giữa Musk và OpenAI.

12:20

A bunch of emails were surfaced in that lawsuit which you can go read and in some of them the founders of OpenAI were talking back in like 2017 about how the reason why we made OpenAI was because we were worried that Demis Hassabis at Google was going to become dictator with AGI.

Một loạt email đã được tiết lộ trong vụ kiện đó mà bạn có thể đọc và trong một số email đó, các nhà sáng lập OpenAI đã nói chuyện từ khoảng năm 2017 về việc lý do tại sao chúng tôi tạo ra OpenAI là vì chúng tôi lo lắng rằng Demis Hassabis tại Google sẽ trở thành nhà độc tài với AGI.

12:37

Even back then they were this obviously about more than just money.

Ngay cả khi đó, rõ ràng điều này không chỉ là về tiền bạc.

12:41

Like these powerful CEOs are literally afraid that

Giống như những CEO quyền lực này thực sự sợ rằng

12:44

if the other guy gets there first he might become dictator and they don't trust each other and so that's why they are racing as hard as they can so that they're the ones who get there first so to speak.

Nếu người kia đến đó trước, anh ta có thể trở thành nhà độc tài và họ không tin tưởng lẫn nhau và vì vậy đó là lý do tại sao họ đang chạy đua hết sức có thể để họ là những người đến đó trước, có thể nói như vậy.

12:56

- Have you met Sam Altman?

- Bạn đã gặp Sam Altman chưa?

12:57

- Yeah.

- Có.

12:58

- And did that shape your opinion of his incentives or what why he's doing what he's doing?

- Và điều đó có định hình quan điểm của bạn về động cơ của anh ấy hoặc lý do tại sao anh ấy làm những gì anh ấy đang làm không?

13:02

Cuz there's a lot you know speculated about what his incentives are.

Vì có rất nhiều điều bạn biết đấy, được đồn đoán về động cơ của anh ấy.

13:05

I mean his most recent narrative says for the good of humanity.

Ý tôi là câu chuyện gần đây nhất của anh ấy nói là vì lợi ích của nhân loại.

13:07

I think that's what - Yeah, I mean I think the main thing I've learned is don't pay attention to the narratives.

Tôi nghĩ đó là những gì - Vâng, ý tôi là điều chính tôi học được là đừng chú ý đến những câu chuyện.

13:12

You know like uh what they say to one person is just different from what they can say to some other person at the same time and what they say in public is a third thing entirely.

Bạn biết đấy, như những gì họ nói với một người chỉ khác với những gì họ có thể nói với một người khác cùng lúc và những gì họ nói trước công chúng là một điều hoàn toàn khác.

13:20

I think you should judge people by their

Tôi nghĩ bạn nên đánh giá mọi người qua

13:22

actions not by their words.

Hành động của họ chứ không phải lời nói của họ.

13:25

- And why are you no longer at OpenAI?

- Và tại sao bạn không còn ở OpenAI nữa?

13:27

- Largely the reason that I mentioned.

- Phần lớn là vì lý do tôi đã đề cập.

13:29

So, I became gradually disillusioned with how the company was going to behave.

Vì vậy, tôi dần dần vỡ mộng với cách công ty sẽ hành xử.

13:33

For example, when I first joined in 2022, at least the people I talked to, my colleagues at the company, there was this general sense of like, of course we wouldn't actually just build super intelligence as soon as possible.

Ví dụ, khi tôi mới tham gia vào năm 2022, ít nhất là những người tôi nói chuyện, đồng nghiệp của tôi tại công ty, có một cảm giác chung kiểu như, tất nhiên chúng tôi sẽ không thực sự xây dựng siêu trí tuệ ngay khi có thể.

13:45

Once we started getting really close, like once we started getting to AIs that could maybe automate the AI research process, we would pause and figure out how to make it safe.

Khi chúng tôi bắt đầu tiến rất gần, như khi chúng tôi bắt đầu có những AI có thể tự động hóa quá trình nghiên cứu AI, chúng tôi sẽ tạm dừng và tìm ra cách làm cho nó an toàn.

13:55

That's cuz we're the good guys and that's obviously the safe thing you should do rather than just going full speed ahead.

Đó là vì chúng tôi là những người tốt và đó rõ ràng là điều an toàn bạn nên làm thay vì cứ lao hết tốc lực về phía trước.

14:00

But, we're worried about other people who might not pause, you know, our competitors, Google, for example.

Nhưng, chúng tôi lo lắng về những người khác có thể không tạm dừng, bạn biết đấy, các đối thủ cạnh tranh của chúng tôi, Google, ví dụ.

14:05

And so, that's why we need to be in the lead so that we have that room to do the safe stuff, right?

Và vì vậy, đó là lý do tại sao chúng tôi cần dẫn đầu để có không gian đó làm những điều an toàn, phải không?

14:11

That was sort of like a thing that seemed like

Đó là kiểu như một điều có vẻ như

14:14

maybe like the median position or something among the colleagues I talked to when I was there when I started, including people like Sam, you know, including the leadership.

Có lẽ là quan điểm trung bình hoặc điều gì đó giữa các đồng nghiệp tôi nói chuyện khi tôi ở đó khi tôi bắt đầu, bao gồm cả những người như Sam, bạn biết đấy, bao gồm cả ban lãnh đạo.

14:20

And then by the time I left, I was like, "Oh man, they're really not going to do that, are they?" Like - laughter - Like they've sort of you know, partly because this has become more politicized and they've become

Và rồi đến khi tôi rời đi, tôi đã nghĩ, "Ôi trời, họ thực sự sẽ không làm điều đó, phải không?" Như - [cười] - Như họ đã phần nào, bạn biết đấy, một phần vì điều này đã trở nên chính trị hóa và họ đã trở nên

14:30

bigger and been under more scrutiny, people have started asking like, "Why are you doing this in the first place if it's so risky?" And so, they've pivoted their narrative to being more like, "Actually, it's not that risky, you know?" Um and so, yeah, I mean, it seems like they're just going to keep going roughly as fast as they can and hope that they can figure it out on the way.

Lớn hơn và bị giám sát nhiều hơn, mọi người đã bắt đầu hỏi những câu như, "Tại sao bạn lại làm điều này ngay từ đầu nếu nó rủi ro như vậy?" Và vì vậy, họ đã chuyển hướng câu chuyện của mình sang kiểu như, "Thực ra, nó không rủi ro đến vậy, bạn biết đấy?" Ừm và vì vậy, vâng, ý tôi là, có vẻ như họ sẽ tiếp tục đi nhanh nhất có thể và hy vọng rằng họ có thể tìm ra cách trên đường đi.

14:48

- How did your time at OpenAI come to an end?

- Thời gian của bạn tại OpenAI đã kết thúc như thế nào?

14:50

- Uh I resigned in 2024.

- Ừm, tôi đã từ chức vào năm 2024.

14:52

I had a nice goodbye party.

Tôi đã có một bữa tiệc chia tay vui vẻ.

14:54

- What were the reasons you gave for quitting OpenAI?

- Lý do bạn đưa ra khi rời OpenAI là gì?

14:57

- I thought that we were rationalizing too much and that we needed to think more about what would actually be good for the world.

- Tôi nghĩ rằng chúng tôi đã biện minh quá nhiều và chúng tôi cần suy nghĩ nhiều hơn về điều gì thực sự tốt cho thế giới.

15:03

Um I wanted more freedom to publish.

Ừm, tôi muốn có nhiều tự do hơn để xuất bản.

15:05

So, at OpenAI, as it became a bigger company, it became more of a normal tech company with incentives and, you know, a PR department and things like that.

Vì vậy, tại OpenAI, khi công ty trở nên lớn hơn, nó trở thành một công ty công nghệ bình thường hơn với các động cơ khuyến khích và, bạn biết đấy, một bộ phận PR và những thứ tương tự.

15:14

And so, it started becoming more difficult to um to publish the sort of research that I was doing.

Và vì vậy, việc công bố loại nghiên cứu mà tôi đang làm bắt đầu trở nên khó khăn hơn.

15:21

For example, those scenarios that I mentioned, couldn't uh couldn't publish those, right?

Ví dụ, những kịch bản mà tôi đã đề cập, không thể công bố chúng, phải không?

15:25

They're just for internal use.

Chúng chỉ dành cho mục đích nội bộ.

15:27

I thought that was a shame because right now most of the world is kind of asleep at the wheel and doesn't really realize what's going on with AI and doesn't really realize what's coming in the pipeline a couple years from now.

Tôi nghĩ đó là điều đáng tiếc vì hiện tại hầu hết thế giới đang ngủ quên và không thực sự nhận ra điều gì đang xảy ra với AI và không thực sự nhận ra điều gì sắp xảy ra trong vài năm tới.

15:38

And the companies aren't really incentivized to tell people that much about it.

Và các công ty không thực sự có động lực để nói với mọi người nhiều về điều đó.

15:42

I mean, they say some vague stuff in a sort of hypey way, but um you know, well, they didn't want me to publish the scenario, for example, laying out like here's how things might actually look.

Ý tôi là, họ nói vài điều mơ hồ theo kiểu cường điệu, nhưng bạn biết đấy, họ không muốn tôi công bố kịch bản, ví dụ, vạch ra như đây là cách mọi thứ có thể thực sự trông như thế nào.

15:54

- I'm just kind of super curious as to what it's like being in a company like that when they you know, chat GPT-3 is released.

- Tôi chỉ rất tò mò muốn biết cảm giác khi ở trong một công ty như vậy khi bạn biết đấy, ChatGPT-3 được phát hành.

15:59

You were there at that time, right?

Bạn đã ở đó vào thời điểm đó, phải không?

16:01

- Mhm.

- Ừ.

16:02

- Um which was a moment where I think the whole world stood up and realized that this technology was powerful.

- Ừm, đó là khoảnh khắc mà tôi nghĩ cả thế giới đã đứng dậy và nhận ra rằng công nghệ này rất mạnh mẽ.

16:08

- Yeah.

- Vâng.

16:08

- Um and the conversation really began from a society level.

- Ừm, và cuộc trò chuyện thực sự bắt đầu từ cấp độ xã hội.

16:12

Um company starts growing super quickly.

Công ty bắt đầu phát triển rất nhanh.

16:14

- Yeah.

- Vâng.

16:15

- Quicker than I think anybody could ever have imagined.

- Nhanh hơn tôi nghĩ bất cứ ai có thể tưởng tượng.

16:17

And what was it like inside there?

Và bên trong đó như thế nào?

16:20

What did you see change um over that period of time?

Bạn đã thấy điều gì thay đổi trong khoảng thời gian đó?

16:23

- I remember one all-hands meeting where Ilya said something like - Ilya being - Ilya Sutskever, who was um head of research at that time.

- Tôi nhớ một cuộc họp toàn thể nơi Ilya nói điều gì đó như - Ilya là - Ilya Sutskever, người từng là trưởng bộ phận nghiên cứu vào thời điểm đó.

16:29

He said something like, "Okay, now the world is starting to pay attention.

Anh ấy nói điều gì đó như, "Được rồi, bây giờ thế giới đang bắt đầu chú ý.

16:33

Each of you is going to be the most popular person at every party uh for the next year.

Mỗi người trong các bạn sẽ là người nổi tiếng nhất tại mọi bữa tiệc trong năm tới.

16:38

Don't let it get to your head.

Đừng để điều đó làm bạn tự cao.

16:39

Focus on the mission.

Hãy tập trung vào sứ mệnh.

16:41

Got to build AGI." - laughter - The company grew a lot.

Phải xây dựng AGI." - [cười] - Công ty đã phát triển rất nhiều.

16:44

It already wasn't really feeling like a nonprofit when I joined, but it definitely didn't feel like a nonprofit by the time I left.

Khi tôi tham gia, nó đã không còn giống một tổ chức phi lợi nhuận, nhưng chắc chắn khi tôi rời đi, nó không còn giống một tổ chức phi lợi nhuận nữa.

16:51

Um lots of new people came in.

Rất nhiều người mới đến.

16:53

Ironically, the like amount of conversation about superintelligence and the implications of superintelligence arguably you sort of went down over time due to this growth, right?

Trớ trêu thay, lượng cuộc trò chuyện về siêu trí tuệ và những tác động của siêu trí tuệ có thể nói là đã giảm dần theo thời gian do sự tăng trưởng này, phải không?

17:02

So, because the company would like double and then double again and then double again, all these new people were coming in from other parts of the tech industry who hadn't really been thinking about these

Vì vậy, bởi vì công ty sẽ tăng gấp đôi rồi lại tăng gấp đôi rồi lại tăng gấp đôi, tất cả những người mới này đến từ các bộ phận khác của ngành công nghệ, những người chưa thực sự nghĩ về những điều này.

17:15

things and were attracted by the high salaries.

Và bị thu hút bởi mức lương cao.

17:17

- You lost $2 million for not signing an anti-disparagement clause, which would mean you could speak you couldn't criticize the company.

- Bạn đã mất 2 triệu đô la vì không ký điều khoản chống phỉ báng, điều này có nghĩa là bạn có thể nói, bạn không thể chỉ trích công ty.

17:25

- Ah, yes.

- À, vâng.

17:25

Well, so um I got to keep the money.

Chà, vì vậy tôi đã giữ được số tiền.

17:28

- Oh, you got to keep the money?

- Ồ, bạn đã giữ được số tiền?

17:29

- what happened was after I had left, said my goodbyes, etc.

- Điều đã xảy ra là sau khi tôi rời đi, nói lời tạm biệt, v.v.

17:34

Um I got the exit paperwork and it included this clause that said you basically have to agree not to criticize the company again.

Tôi nhận được giấy tờ thôi việc và nó bao gồm điều khoản này nói rằng về cơ bản bạn phải đồng ý không chỉ trích công ty nữa.

17:41

Um and also a clause saying you can't tell anyone about this.

Và cũng có một điều khoản nói rằng bạn không thể nói với bất cứ ai về điều này.

17:44

And so I thought that was kind of rich coming from a nonprofit that's supposed to be, you know, for the benefit of all humanity.

Và vì vậy tôi nghĩ điều đó thật là lố bịch từ một tổ chức phi lợi nhuận được cho là vì lợi ích của toàn nhân loại.

17:51

So, I didn't sign it.

Vì vậy, tôi đã không ký.

17:52

And if you don't sign, you don't get to keep your equity.

Và nếu bạn không ký, bạn không được giữ cổ phần của mình.

17:56

So, your compensation, you know, what they pay you is a bunch of money and then also a bunch of stock, basically.

Vì vậy, khoản bồi thường của bạn, bạn biết đấy, những gì họ trả cho bạn là một khoản tiền và sau đó cũng là một loạt cổ phiếu, về cơ bản.

18:03

But then they had this stuff in the contract that

Nhưng sau đó họ có những thứ này trong hợp đồng rằng

18:06

they get to yank back your stock if you don't sign this thing.

Họ có thể thu hồi cổ phiếu của bạn nếu bạn không ký thứ này.

18:12

Um and my wife and I, you know, were uh upset about this.

Và vợ tôi và tôi, bạn biết đấy, đã rất buồn về điều này.

18:16

We talked about it for like a month or two, consulted some lawyers, um and then ultimately decided to just refuse to sign.

Chúng tôi đã nói về nó trong khoảng một hoặc hai tháng, tham khảo ý kiến một số luật sư, và cuối cùng quyết định chỉ đơn giản là từ chối ký.

18:23

- Which would mean you lost you would have lost $2 million.

- Điều đó có nghĩa là bạn đã mất, bạn sẽ mất 2 triệu đô la.

18:26

- That's right.

- Đúng vậy.

18:26

Which was like 80% of our net worth at the time.

Đó là khoảng 80% tài sản ròng của chúng tôi vào thời điểm đó.

18:29

Um fortunately, uh it didn't go the way we expected.

May mắn thay, mọi chuyện không diễn ra như chúng tôi dự đoán.

18:31

It blew up basically on the internet.

Nó đã bùng nổ trên internet.

18:33

Like when people heard that we had done this and that we had said no, it became like this huge scandal.

Khi mọi người nghe rằng chúng tôi đã làm điều này và chúng tôi đã nói không, nó đã trở thành một vụ bê bối lớn.

18:40

Employees at the company started like asking questions in Slack and like asking leadership like, wait, what?

Nhân viên tại công ty bắt đầu đặt câu hỏi trên Slack và hỏi ban lãnh đạo kiểu, khoan đã, cái gì?

18:44

Like why are you going to take away our equity?

Kiểu tại sao các anh lại lấy đi cổ phần của chúng tôi?

18:47

What is this?

Cái gì thế này?

18:48

You

Bạn

18:49

know, cuz a lot of people hadn't really noticed this before.

biết đấy, vì nhiều người đã không thực sự chú ý đến điều này trước đây.

18:51

It had been whispered about, but it hadn't been sort of like a thing that most employees knew about.

Nó đã được thì thầm về, nhưng nó không phải là một điều mà hầu hết nhân viên biết đến.

18:57

Um and so they backtracked and they said, "Never mind, never mind.

Ừm và vì vậy họ đã lùi lại và nói, "Thôi bỏ đi, thôi bỏ đi.

18:59

We'll change the paperwork.

Chúng tôi sẽ thay đổi giấy tờ.

19:00

You can keep the equity.

Bạn có thể giữ cổ phần.

19:02

It's fine." - And so management came out and said he was embarrassed that he didn't realize this was going - Yeah, he had no idea, apparently.

Không sao đâu." - Và vì vậy ban lãnh đạo đã lên tiếng và nói rằng ông ấy xấu hổ vì đã không nhận ra điều này sẽ - Vâng, rõ ràng là ông ấy không biết gì.

19:08

- You don't believe him?

- Bạn không tin ông ấy à?

19:09

- No.

- Không.

19:10

I think he probably knew.

Tôi nghĩ có lẽ ông ấy biết.

19:11

And if he didn't know, then people close to him probably did, such as his head lawyer.

Và nếu ông ấy không biết, thì những người thân cận với ông ấy có lẽ đã biết, chẳng hạn như luật sư trưởng của ông ấy.

19:15

- Why did you decide not to take the $2 million?

- Tại sao bạn quyết định không nhận 2 triệu đô la?

19:19

I mean, most people would have, I think.

Ý tôi là, hầu hết mọi người sẽ nhận, tôi nghĩ vậy.

19:22

- It's true, most people would have, and most people did.

- Đúng vậy, hầu hết mọi người sẽ nhận, và hầu hết mọi người đã nhận.

19:25

And you know, money is nice, but like it's not the only thing, you know?

Và bạn biết đấy, tiền bạc là tốt, nhưng nó không phải là thứ duy nhất, bạn biết không?

19:30

Sometimes it's good to take a stand on principle.

Đôi khi thật tốt khi giữ vững lập trường dựa trên nguyên tắc.

19:32

I keep mentioning superintelligence.

Tôi cứ nhắc đến siêu trí tuệ.

19:34

Perhaps I should say more about like the the sequence of events that the companies are planning to do.

Có lẽ tôi nên nói thêm về chuỗi sự kiện mà các công ty đang lên kế hoạch thực hiện.

19:40

So, right now, they're focusing on automating coding.

Vì vậy, ngay bây giờ, họ đang tập trung vào việc tự động hóa việc viết mã.

19:42

They're taking their AIs, they're making them bigger, they're training them for longer, and they're especially focusing the training on getting them to be good at autonomously writing and editing code.

Họ đang lấy AI của họ, làm cho chúng lớn hơn, huấn luyện chúng lâu hơn, và đặc biệt tập trung việc huấn luyện để làm cho chúng giỏi trong việc tự động viết và chỉnh sửa mã.

19:53

Because uh that will help the companies go faster, right?

Bởi vì điều đó sẽ giúp các công ty tiến nhanh hơn, phải không?

19:56

If they can automate the code, then they can do their own work

Nếu họ có thể tự động hóa mã, thì họ có thể tự làm công việc của mình

20:01

better and faster, and accelerate progress.

tốt hơn và nhanh hơn, và thúc đẩy tiến bộ.

20:04

The next step, which they've already begun, is to look at the rest of the research process as well.

Bước tiếp theo, mà họ đã bắt đầu, là xem xét phần còn lại của quy trình nghiên cứu.

20:11

Coming up with ideas, um analyzing experiments, communicating those results.

Đưa ra ý tưởng, phân tích thí nghiệm, truyền đạt kết quả đó.

20:15

All the other parts of the research process, they're trying to figure out how to train AIs to be good at those as well.

Tất cả các phần khác của quy trình nghiên cứu, họ đang cố gắng tìm cách huấn luyện AI để giỏi những việc đó.

20:21

So that they can have AIs do the entire thing autonomously.

Để họ có thể để AI làm toàn bộ quy trình một cách tự động.

20:24

- When you say do the entire thing, what you mean clears throat do the entire thing?

- Khi bạn nói làm toàn bộ quy trình, ý bạn là [hắng giọng] làm toàn bộ quy trình?

20:28

- So like Anthropic and OpenAI in particular are trying to automate themselves.

- Vì vậy, đặc biệt là Anthropic và OpenAI đang cố gắng tự động hóa chính họ.

20:32

Like they're trying to make it the case that um they don't really need human employees anymore.

Kiểu họ đang cố gắng làm cho việc họ không còn cần nhân viên con người nữa.

20:37

Uh they just have a giant army of AIs that's churning away, doing all this autonomous research to make better AIs, to train the new AIs, put them in charge, so they can make even better AIs and so forth.

Ừm, họ chỉ có một đội quân AI khổng lồ đang hoạt động, thực hiện tất cả nghiên cứu tự động này để tạo ra AI tốt hơn, huấn luyện AI mới, giao quyền cho chúng, để chúng có thể tạo ra AI tốt hơn nữa, v.v.

20:50

And of

Và tất

20:51

course, not just not all just happening internally, but also like interfacing with the world, right?

nhiên, không chỉ xảy ra nội bộ, mà còn tương tác với thế giới bên ngoài, phải không?

20:55

Like going out and talking to people, collecting the data, setting up the training environments, doing the business deals, and so forth.

Kiểu ra ngoài nói chuyện với mọi người, thu thập dữ liệu, thiết lập môi trường huấn luyện, thực hiện các thỏa thuận kinh doanh, v.v.

21:01

Like they're they're trying to automate all of that.

Kiểu họ đang cố gắng tự động hóa tất cả những điều đó.

21:04

The reason why they're doing this is because they're trying to get to a position where they have AIs that are superhuman at everything, superintelligence, and they're trying to get there before their competitors do.

Lý do họ làm điều này là vì họ đang cố gắng đạt đến vị trí có AI siêu việt trong mọi thứ, siêu trí tuệ, và họ đang cố gắng đến đó trước các đối thủ cạnh tranh.

21:16

Needless to say, this is incredibly dangerous, I would say, you know.

Không cần phải nói, điều này cực kỳ nguy hiểm, tôi có thể nói vậy.

21:19

And in addition to being dangerous, it's a power grab, right?

Và ngoài việc nguy hiểm, nó còn là một sự giành giật quyền lực, phải không?

21:23

Like if they actually succeed at this, then they'll be sitting on top of this army of superhuman AIs that will give them immense leverage over all sorts of other actors in the economy in so far as they can work out something with the

Kiểu nếu họ thực sự thành công trong việc này, thì họ sẽ ngồi trên đỉnh của đội quân AI siêu việt này, điều này sẽ cho họ đòn bẩy to lớn đối với tất cả các tác nhân khác trong nền kinh tế, trong chừng mực họ có thể thỏa thuận được với

21:37

presidents and, you know, integrate it into the military or whatever, then that would give the US immense hard power over all of the countries, right?

các tổng thống và, bạn biết đấy, tích hợp nó vào quân đội hoặc bất cứ điều gì, thì điều đó sẽ cho Mỹ sức mạnh cứng to lớn đối với tất cả các quốc gia, phải không?

21:45

Obviously, nobody knows exactly when this is happening.

Rõ ràng, không ai biết chính xác khi nào điều này xảy ra.

21:47

But a very disquieting thing has happened over the last year to me, which is that when we published AI 2027, people were generally of the opinion that my timelines were too short.

Nhưng một điều rất đáng lo ngại đã xảy ra trong năm qua đối với tôi, đó là khi chúng tôi công bố AI 2027, mọi người thường có quan điểm rằng mốc thời gian của tôi quá ngắn.

22:00

And that like probably it would take more than 2027 until we got to the sort of events that I was just mentioning, you know, uh recursive self-improvement, AIs automating the whole research process, superintelligence.

Và rằng có lẽ sẽ mất nhiều hơn năm 2027 cho đến khi chúng ta đạt đến loại sự kiện mà tôi vừa đề cập, bạn biết đấy, uh sự tự cải thiện đệ quy, AI tự động hóa toàn bộ quy trình nghiên cứu, siêu trí tuệ.

22:12

These types of milestones um they happen in 2027 in AI 2027, - which is this research paper you published.

Những loại cột mốc này xảy ra vào năm 2027 trong AI 2027, - đó là bài nghiên cứu bạn đã công bố.

22:20

- That's right.

- Đúng vậy.

22:20

It's It's a scenario forecast that sort of lays out like month by month a possible future trajectory.

Đó là một dự báo kịch bản, kiểu trình bày chi tiết từng tháng một quỹ đạo tương lai có thể xảy ra.

22:25

There was sort of like At the time that we started writing, it was my best guess as to what would actually happen.

Vào thời điểm chúng tôi bắt đầu viết, đó là dự đoán tốt nhất của tôi về những gì thực sự sẽ xảy ra.

22:30

Obviously, there's lots of uncertainty, but, you know, I thought it's valuable to make a concrete guess just to sort of see what it might look like.

Rõ ràng là có rất nhiều điều không chắc chắn, nhưng, bạn biết đấy, tôi nghĩ thật đáng giá để đưa ra một dự đoán cụ thể chỉ để xem nó có thể trông như thế nào.

22:37

And at the time we were writing this, a lot of my friends in the AI industry and in nonprofits and so forth that work on AI, a lot of people were saying like, "Yeah, that stuff's going to happen, but like it'll probably take a couple years longer than you think." And now it's more 50/50, especially when I go talk to people at Anthropic and OpenAI.

Và vào thời điểm chúng tôi viết điều này, rất nhiều bạn bè của tôi trong ngành AI và trong các tổ chức phi lợi nhuận làm việc về AI, nhiều người đã nói rằng, 'Ừ, điều đó sẽ xảy ra, nhưng có lẽ sẽ mất thêm vài năm nữa so với bạn nghĩ.' Và bây giờ thì tỷ lệ là 50/50, đặc biệt là khi tôi đi nói chuyện với mọi người tại Anthropic và OpenAI.

22:58

They're often like, "Yeah, no, 2027, that's basically what's going to happen.

Họ thường nói rằng, 'Ừ, không, năm 2027, về cơ bản đó là những gì sẽ xảy ra.

23:04

Just like you wrote.

Giống như bạn đã viết.

23:05

Why did you Why did you become Why did you update your timelines?

Tại sao bạn lại cập nhật mốc thời gian của mình?

23:09

Oh, yeah, context for this is after writing AI 2027, I shifted my timelines to be a little bit more conservative.

Ồ, vâng, bối cảnh cho điều này là sau khi viết AI 2027, tôi đã điều chỉnh mốc thời gian của mình để thận trọng hơn một chút.

23:16

So, at the time that we published, my 50% mark was in 2028, not in 2027.

Vì vậy, tại thời điểm chúng tôi xuất bản, mốc 50% của tôi là vào năm 2028, không phải năm 2027.

23:21

And then after we published, progress just seemed like it was going a bit slower, and so I updated to 2030.

Và sau khi chúng tôi xuất bản, tiến độ dường như chậm hơn một chút, vì vậy tôi đã cập nhật lên năm 2030.

23:27

Which is, you know, still could happen sooner, could happen later.

Điều đó, bạn biết đấy, vẫn có thể xảy ra sớm hơn hoặc muộn hơn.

23:30

2030.

23:31

Um but now, when I talk to people in the company, they're like, "It's not going to take that long." They're like, "Oh, you need to shorten them again.

Nhưng bây giờ, khi tôi nói chuyện với mọi người trong công ty, họ nói rằng, 'Sẽ không mất nhiều thời gian như vậy đâu.' Họ nói rằng, 'Ồ, bạn cần rút ngắn lại.

23:39

Like, get them back to 2027 or 2028, you know." Um so, that's a bit disquieting.

Như thể, đưa chúng trở lại năm 2027 hoặc 2028, bạn biết đấy.' Vì vậy, điều đó hơi đáng lo ngại.

23:43

Um again, don't know how long it's going to take, but this is the stated plans of the uh companies is to do this incredibly dangerous thing, and they

Một lần nữa, không biết sẽ mất bao lâu, nhưng đây là kế hoạch đã nêu của các công ty là làm điều cực kỳ nguy hiểm này, và họ

23:52

think that they're just a few years away.

Nghĩ rằng họ chỉ còn vài năm nữa.

23:54

- So, you wrote this um report here, What 2026 Looks Like, and you wrote this in 2021, and it was remarkably accurate.

- Vậy, bạn đã viết báo cáo này, 'What 2026 Looks Like', và bạn viết nó vào năm 2021, và nó cực kỳ chính xác.

24:00

Helped make a name for yourself amongst um amongst uh everybody in AI.

Điều đó đã giúp bạn tạo dựng tên tuổi trong giới AI.

24:04

And I Which one was it that J.D.

Và tôi, cái nào mà J.D.

24:06

Vance, the vice president, read?

Vance, phó tổng thống, đã đọc?

24:08

I think it was this one, wasn't it?

Tôi nghĩ là cái này, phải không?

24:10

Yeah, this one.

Vâng, cái này.

24:11

Um and then so, then you published this one, AI 2027, and this was published, I

Và sau đó, bạn xuất bản cái này, AI 2027, và cái này được xuất bản, tôi

24:16

believe, in 2025.

Tin là vào năm 2025.

24:18

- Uh yes, that's right.

- Ừ, đúng vậy.

24:18

April.

Tháng tư.

24:19

- Yeah.

- Vâng.

24:19

- What were you forecasting in here?

- Bạn đã dự đoán điều gì trong này?

24:20

What are What are the key things that you said in here for people that haven't read it?

Những điều chính bạn nói trong này cho những người chưa đọc là gì?

24:24

- The high-level version of it is they automate the coding, then they automate the rest of the research process, then the pace of progress accelerates dramatically.

- Phiên bản cấp cao của nó là họ tự động hóa việc viết mã, sau đó họ tự động hóa phần còn lại của quá trình nghiên cứu, sau đó tốc độ tiến bộ tăng tốc đáng kể.

24:31

They get to superintelligence.

Họ đạt được siêu trí tuệ.

24:33

They're working with the government, specifically the president, the executive branch naturally wants to control this technology, in other words, wants to use it to beat China and integrate it into

Họ làm việc với chính phủ, cụ thể là tổng thống, nhánh hành pháp tự nhiên muốn kiểm soát công nghệ này, nói cách khác, muốn sử dụng nó để đánh bại Trung Quốc và tích hợp nó vào

24:42

the military and so forth.

Quân đội và những thứ tương tự.

24:43

By this snorts point, it's sort of doing basically all the work itself.

Đến thời điểm này, nó gần như tự làm tất cả công việc.

24:46

I mean, it's it's superintelligence, so it's coming up with all these great ideas for how to integrate itself into everything and all these new technologies it's invented and so forth.

Ý tôi là, nó là siêu trí tuệ, vì vậy nó đưa ra tất cả những ý tưởng tuyệt vời để tích hợp chính nó vào mọi thứ và tất cả những công nghệ mới mà nó phát minh ra, v.v.

24:55

And uh because of the race dynamics and because of the profit motive, they end up deploying it everywhere.

Và vì động lực cạnh tranh và vì động cơ lợi nhuận, cuối cùng họ triển khai nó ở khắp mọi nơi.

25:00

And it builds robot factories that build more robots that build more robot factories, etc.

Và nó xây dựng các nhà máy robot để chế tạo thêm robot, rồi chế tạo thêm các nhà máy robot, v.v.

25:04

Transforms the world entirely.

Biến đổi thế giới hoàn toàn.

25:06

And then at some point it has enough power it, meaning the AIs, have enough power that they don't have to pretend to to be aligned anymore.

Và sau đó tại một thời điểm nào đó, nó có đủ quyền lực, ý tôi là các AI, có đủ quyền lực để chúng không cần phải giả vờ là được căn chỉnh nữa.

25:15

Right?

Đúng không?

25:15

Um then they stop listening to orders.

Sau đó chúng ngừng nghe lệnh.

25:20

That's the race ending of the 2027.

Đó là kết thúc của cuộc đua trong năm 2027.

25:24

We also wrote a sort of different branch, which is the slow down ending, which is intended to sort of illustrate the concentration of power issues um that I mentioned previously.

Chúng tôi cũng viết một nhánh khác, đó là kết thúc chậm lại, nhằm minh họa các vấn đề tập trung quyền lực mà tôi đã đề cập trước đó.

25:33

So, what if hypothetically the alignment issues get sorted out sufficiently quickly?

Vậy, điều gì sẽ xảy ra nếu giả định rằng các vấn đề căn chỉnh được giải quyết đủ nhanh?

25:37

Like what if it turns out that like it's not too hard.

Giống như nếu hóa ra nó không quá khó.

25:40

With 2 months of slow down, we can figure out how to make the

Với 2 tháng chậm lại, chúng ta có thể tìm ra cách làm cho

25:45

AIs robustly do what we want um and have the values that we want them to have.

Các AI một cách mạnh mẽ làm những gì chúng ta muốn và có những giá trị mà chúng ta muốn chúng có.

25:50

So, that's one possible branch.

Vì vậy, đó là một nhánh có thể.

25:51

And in that branch, uh it looks pretty similar, you know, they take the jobs, beat China, etc.

Và trong nhánh đó, nó trông khá giống nhau, bạn biết đấy, chúng lấy việc làm, đánh bại Trung Quốc, v.v.

25:58

Um but instead of the AIs ultimately killing everyone, they create this sort of amazing utopia.

Nhưng thay vì cuối cùng các AI giết tất cả mọi người, chúng tạo ra một loại không tưởng tuyệt vời.

26:03

But the amazing utopia is whatever the people who control the AIs want it to be, right?

Nhưng không tưởng tuyệt vời đó là bất cứ điều gì mà những người kiểm soát AI muốn nó trở thành, đúng không?

26:10

And so that would be a very small group of people, like the presidents, some CEOs, etc.

Và vì vậy đó sẽ là một nhóm rất nhỏ người, như tổng thống, một số CEO, v.v.

26:16

- There should be a button just down below here.

- Ở ngay bên dưới đây sẽ có một nút bấm.

26:18

And if it says subscribe, you're already subscribed.

Và nếu nó hiện 'subscribe' (đăng ký), nghĩa là bạn đã đăng ký rồi.

26:20

If it says subscribe buh, that means you're not yet.

Nếu nó hiện 'subscribe buh', nghĩa là bạn chưa đăng ký.

26:22

And if you're not subscribed, please could you do us a favor and hit that button.

Và nếu bạn chưa đăng ký, bạn có thể giúp chúng tôi một việc bằng cách nhấn vào nút đó không?

26:25

It helps to show more than you know.

Nó giúp ích nhiều hơn bạn nghĩ đấy.

26:27

And according to the algorithm, you're someone that watches our show, but you haven't yet hit that button.

Và theo thuật toán, bạn là người xem chương trình của chúng tôi, nhưng bạn vẫn chưa nhấn nút đó.

26:31

Thank you

Cảm ơn bạn

26:32

so much.

rất nhiều.

26:32

Is there any possibility, do you think, that we never get to this thing called AGI?

Theo bạn, có khả năng nào chúng ta sẽ không bao giờ đạt được thứ gọi là AGI không?

26:37

And how do we distinguish AGI from this term super intelligence?

Và làm thế nào để phân biệt AGI với thuật ngữ siêu trí tuệ (super intelligence)?

26:41

What's the difference?

Sự khác biệt là gì?

26:42

- Yeah, so the difference is that AGI is a more vague uh and weak term.

- Vâng, sự khác biệt là AGI là một thuật ngữ mơ hồ và yếu hơn.

26:46

- Okay.

- Được rồi.

26:47

- So, super intelligence is a bit more precisely defined.

- Vì vậy, siêu trí tuệ được định nghĩa chính xác hơn một chút.

26:49

It's better than the best humans at everything, faster and cheaper.

Nó giỏi hơn những người giỏi nhất ở mọi thứ, nhanh hơn và rẻ hơn.

26:52

Um AGI is more like it stands for artificial general intelligence, which means AIs that can do things in general rather than like some specific task.

Còn AGI thì giống như viết tắt của trí tuệ nhân tạo tổng quát, nghĩa là AI có thể làm được nhiều việc nói chung thay vì chỉ một nhiệm vụ cụ thể nào đó.

26:59

Yeah.

Vâng.

26:59

And so arguably we've already achieved AGI, right?

Và có thể nói rằng chúng ta đã đạt được AGI rồi, phải không?

27:01

If you use cloud code or something like that, it's

Nếu bạn sử dụng cloud code hoặc thứ gì đó tương tự, nó có thể

27:04

like it can do a lot of stuff.

Nó có thể làm được rất nhiều thứ.

27:05

It's it's almost kind of like a little employee that you can like have go do stuff.

Nó gần giống như một nhân viên nhỏ mà bạn có thể sai khiến làm việc vậy.

27:09

So it's it is quite general.

Vì vậy, nó khá là tổng quát.

27:11

It's not maximally general though.

Tuy nhiên, nó không phải là tổng quát tối đa.

27:12

Can't do everything.

Không thể làm được mọi thứ.

27:13

Whereas super intelligence by definition can do all the things that a human can do but better.

Trong khi đó, siêu trí tuệ theo định nghĩa có thể làm tất cả những việc mà con người có thể làm nhưng tốt hơn.

27:18

- And how does this sort of overlap with robotics?

- Và điều này có liên quan thế nào đến robot?

27:20

Because obviously that we're seeing this huge robotics boom at the moment.

Bởi vì rõ ràng là chúng ta đang thấy sự bùng nổ robot khổng lồ vào lúc này.

27:23

There are some real world things that humans can still do because these AIs are still stuck in my computer.

Vẫn còn một số việc trong thế giới thực mà con người có thể làm vì những AI này vẫn bị mắc kẹt trong máy tính của tôi.

27:28

- The way that people talk about this is that they basically just say we've achieved super intelligence for cognitive tasks.

- Cách mà mọi người nói về điều này là họ về cơ bản chỉ nói rằng chúng ta đã đạt được siêu trí tuệ cho các nhiệm vụ nhận thức.

27:33

Then you can talk about like full super intelligence that can do the physical stuff.

Sau đó bạn có thể nói về siêu trí tuệ hoàn toàn có thể làm được những việc vật lý.

27:38

- And are we going to get there?

- Và chúng ta có đạt được điều đó không?

27:39

Are we going to get there with both?

Chúng ta có đạt được cả hai không?

27:41

- I think so.

- Tôi nghĩ là có.

27:41

I mean again, this is not something that we can be certain about.

Ý tôi là, một lần nữa, đây không phải là điều chúng ta có thể chắc chắn.

27:44

Um, you asked like is it possible we'll never get there?

Ừm, bạn hỏi liệu có khả năng chúng ta sẽ không bao giờ đạt được điều đó không?

27:46

Yes, it's possible we'll never get there.

Có, có khả năng chúng ta sẽ không bao giờ đạt được.

27:48

I don't think it's likely though.

Tuy nhiên, tôi không nghĩ điều đó có khả năng xảy ra.

27:49

I think that there's nothing sort of like magical about the human brain.

Tôi nghĩ rằng không có gì là ma thuật về bộ não con người.

27:52

It's you know, um, it's just a bunch of neurons.

Nó, bạn biết đấy, chỉ là một loạt các tế bào thần kinh.

27:55

It is possible for a digital system to do similar functions in the same way that like, you know, a plane can fly just like a bird.

Một hệ thống kỹ thuật số có thể thực hiện các chức năng tương tự theo cách giống như, bạn biết đấy, một chiếc máy bay có thể bay như một con chim.

28:03

Not in the same way as a bird necessarily.

Không nhất thiết là theo cùng một cách như một con chim.

28:06

Like it doesn't have it's not flying in the same way that a bird flies, but it flies, you know?

Giống như nó không bay theo cách mà một con chim bay, nhưng nó bay, bạn biết không?

28:12

Um, so it does seem like yeah, like seems possible.

Ừm, vì vậy có vẻ như vâng, có vẻ là có thể.

28:16

- You've written all these, you know, these research reports.

- Bạn đã viết tất cả những báo cáo nghiên cứu này.

28:18

You're working on another one that'll be released um, likely on the 9th of July.

Bạn đang thực hiện một báo cáo khác sẽ được phát hành, có lẽ vào ngày 9 tháng 7.

28:23

You have worked inside OpenAI.

Bạn đã từng làm việc tại OpenAI.

28:24

You then quit OpenAI because you were concerned about what was going on there and about the future of the industry.

Sau đó bạn rời OpenAI vì bạn lo ngại về những gì đang diễn ra ở đó và về tương lai của ngành.

28:31

You know more than I do.

Bạn biết nhiều hơn tôi.

28:33

Are you optimistic about the future or pessimistic?

Bạn lạc quan hay bi quan về tương lai?

28:35

Are we heading to a bad place if things don't change um, based on everything that you know?

Chúng ta có đang đi đến một nơi tồi tệ nếu mọi thứ không thay đổi, dựa trên tất cả những gì bạn biết không?

28:41

- I think we are headed to a bad place if things don't change.

- Tôi nghĩ chúng ta đang đi đến một nơi tồi tệ nếu mọi thứ không thay đổi.

28:44

Um, I'm not confident in that.

Ừm, tôi không tự tin về điều đó.

28:45

I would say something like 70%.

Tôi sẽ nói khoảng 70%.

28:47

It's very hard to predict, of course, but yeah, it seems like the current default path is heading towards a very, very scary place.

Tất nhiên là rất khó để dự đoán, nhưng vâng, có vẻ như con đường mặc định hiện tại đang hướng tới một nơi rất, rất đáng sợ.

28:53

- How do you contend with that personally and emotionally?

- Bạn đối phó với điều đó như thế nào về mặt cá nhân và cảm xúc?

28:56

- Um it's rough.

- Ừm, nó khó khăn.

28:57

I mean, I think it's the sort of thing that like gets me down on a regular basis, but also I've been dealing with this for so many years now that I've sort of gotten used to it, if that makes sense.

Ý tôi là, tôi nghĩ đó là kiểu điều khiến tôi buồn thường xuyên, nhưng tôi cũng đã đối mặt với điều này nhiều năm rồi nên tôi đã phần nào quen với nó, nếu điều đó có ý nghĩa.

29:12

Um yeah.

Ừm, vâng.

29:13

Yeah, I'll put it this way.

Vâng, tôi sẽ nói thế này.

29:15

I would be incredibly happy if all my predictions turn out to be wrong and uh and AI hits the wall, for example.

Tôi sẽ vô cùng hạnh phúc nếu tất cả dự đoán của tôi hóa ra là sai và AI gặp phải bức tường chẳng hạn.

29:24

- It gets you down on a regular basis.

- Nó khiến bạn buồn thường xuyên.

29:26

- I used to be known as a pretty chipper and optimistic person, but um in 2020 my AI timelines predictions started collapsing due to GPT-3 and the scaling laws papers and um the bio anchor report, which I can talk about if you're interested, but basically some events happened in 2020 that convinced me that actually this stuff was like quite plausibly coming by the end of the decade.

- Tôi từng được biết đến là một người vui vẻ và lạc quan, nhưng vào năm 2020, dự đoán về mốc thời gian AI của tôi bắt đầu sụp đổ do GPT-3 và các bài báo về quy luật mở rộng và báo cáo về mỏ neo sinh học, mà tôi có thể nói nếu bạn quan tâm, nhưng về cơ bản là một số sự kiện đã xảy ra vào năm 2020 đã thuyết phục tôi rằng những thứ này thực sự có khả năng xuất hiện vào cuối thập kỷ này.

29:49

And humanity is very obviously not ready for this, you know, in a whole bunch of different ways.

Và nhân loại rõ ràng là chưa sẵn sàng cho điều này, bạn biết đấy, theo rất nhiều cách khác nhau.

29:54

And so that's obviously very scary.

Và vì vậy điều đó rõ ràng là rất đáng sợ.

29:56

- And that's a extremely scary world because of all the things you've said, but again, because of this recursive self-improvement where AIs can train themselves.

- Và đó là một thế giới cực kỳ đáng sợ vì tất cả những điều bạn đã nói, nhưng một lần nữa, vì sự tự cải thiện đệ quy này, nơi AI có thể tự đào tạo.

30:02

And at such point we're starting to lose hold of what's going on here.

Và tại thời điểm đó, chúng ta bắt đầu mất kiểm soát về những gì đang xảy ra ở đây.

30:06

- I mean, the AIs are already training themselves, to be clear.

- Ý tôi là, AI đã tự đào tạo rồi, để nói rõ.

30:09

It's more like closing the entire research loop, right?

Nó giống như việc đóng toàn bộ vòng lặp nghiên cứu, phải không?

30:12

So - everything.

Vậy - mọi thứ.

30:13

- Yeah, like right now a lot of the training data is generated by AIs.

- Vâng, như hiện tại, rất nhiều dữ liệu đào tạo được tạo ra bởi AI.

30:17

A lot of the reinforcement, like the grading that happens, doling out of positive and negative reinforcement, is itself done by AIs.

Rất nhiều phần củng cố, như việc chấm điểm, phân phát phần thưởng tích cực và tiêu cực, chính nó được thực hiện bởi AI.

30:24

- Can you explain that in layman's terms for - Yeah, so an important thing for everybody to understand is that modern AI systems are not software in the normal sense.

- Bạn có thể giải thích điều đó bằng ngôn ngữ đơn giản cho - Vâng, một điều quan trọng mà mọi người cần hiểu là các hệ thống AI hiện đại không phải là phần mềm theo nghĩa thông thường.

30:33

I mean, they are technically software, but they're not lines of code, you know?

Ý tôi là, về mặt kỹ thuật chúng là phần mềm, nhưng chúng không phải là các dòng mã, bạn biết không?

30:37

It's not like some engineers at Anthropic went and wrote lines of code that basically says like, you know, when the user asks for this type of thing, then go do this type of thing for this many steps or whatever.

Không phải là một số kỹ sư tại Anthropic đã viết các dòng mã nói rằng, bạn biết đấy, khi người dùng yêu cầu loại điều này, thì hãy làm loại điều này trong bao nhiêu bước hay gì đó.

30:48

There's nothing like that.

Không có gì như vậy.

30:50

Instead, it's a neural net, you know?

Thay vào đó, nó là một mạng nơ-ron, bạn biết đấy?

30:52

- What's that?

- Đó là gì?

30:53

- Well, think about how the brain is a bunch of neurons connected to each other - Yeah.

- Chà, hãy nghĩ về cách bộ não là một loạt các nơ-ron kết nối với nhau - Vâng.

30:57

- that are firing um signals back and forth.

- đang gửi tín hiệu qua lại.

31:00

The brain learns over time the types of patterns of firing that caused success, that caused a dopamine rush, or various other types of feedback get reinforced and fire more often.

Bộ não học theo thời gian các loại mẫu kích hoạt gây ra thành công, gây ra sự hưng phấn dopamine, hoặc các loại phản hồi khác được củng cố và kích hoạt thường xuyên hơn.

31:12

And the types of patterns that caused failure, like touching a hot stove, get anti-reinforced, they get, you know, um destroyed, so that they fire less

Và các loại mẫu gây ra thất bại, như chạm vào bếp nóng, bị phản củng cố, chúng bị, bạn biết đấy, bị phá hủy, để chúng kích hoạt ít hơn

31:22

often.

thường xuyên.

31:22

And as a result of all of that, you over the course of years learn to act in the world, and you learn all sorts of skills, and you learn world models, you learn like beliefs about the world, and you can sort of like mentally simulate how it's going and stuff like that.

Và kết quả của tất cả những điều đó, qua nhiều năm bạn học cách hành động trong thế giới, và bạn học tất cả các loại kỹ năng, và bạn học các mô hình thế giới, bạn học những niềm tin về thế giới, và bạn có thể mô phỏng tinh thần mọi thứ đang diễn ra như thế nào.

31:38

So, artificial neural nets are like that, except artificial.

Vì vậy, mạng nơ-ron nhân tạo giống như vậy, ngoại trừ việc chúng là nhân tạo.

31:40

So, it's it starts off as a giant

Vì vậy, nó bắt đầu như một mớ hỗn độn

31:43

tangled spaghetti mess of randomly generated uh artificial connections called parameters.

mì ống rối rắm khổng lồ của các kết nối nhân tạo được tạo ngẫu nhiên gọi là tham số.

31:51

These days, they might be something like 10 trillion parameters uh it in the biggest AIs.

Ngày nay, chúng có thể có khoảng 10 nghìn tỷ tham số trong các AI lớn nhất.

31:57

So, it starts off randomly generated.

Vì vậy, nó bắt đầu được tạo ngẫu nhiên.

31:59

So, it's of course completely useless.

Vì vậy, tất nhiên là nó hoàn toàn vô dụng.

32:00

Like, if you give it some input, it'll just produce gibberish as an output.

Giống như, nếu bạn đưa cho nó một số đầu vào, nó sẽ chỉ tạo ra đầu ra vô nghĩa.

32:04

But then they train it, and they start with pre-training, which is where you give it a bunch of internet text, and you show it the first piece of text, and you put that in as the input, and then it gives a gibberish output, and then you positively or negatively reinforced it based on how accurate that

Nhưng sau đó họ đào tạo nó, và họ bắt đầu với việc tiền đào tạo, đó là nơi bạn đưa cho nó một loạt văn bản internet, và bạn cho nó xem đoạn văn bản đầu tiên, và bạn đưa nó vào làm đầu vào, và sau đó nó đưa ra đầu ra vô nghĩa, và sau đó bạn củng cố tích cực hoặc tiêu cực dựa trên mức độ chính xác của đầu ra đó

32:23

output was at predicting the next piece of text.

trong việc dự đoán đoạn văn bản tiếp theo.

32:25

Um so, it's basically playing this game of like predict the next word.

Ừm, về cơ bản nó đang chơi trò chơi dự đoán từ tiếp theo.

32:29

- Isn't that how it happens with babies?

- Đó không phải là cách xảy ra với trẻ sơ sinh sao?

32:31

I had a I think I had a neuroscientist tell me that babies have more neural connections um than adults.

Tôi đã có một nhà thần kinh học nói với tôi rằng trẻ sơ sinh có nhiều kết nối thần kinh hơn người lớn.

32:37

And yeah, it says yeah, toddlers have twice as many neural connections as adults.

Và vâng, nó nói rằng trẻ mới biết đi có số kết nối thần kinh gấp đôi người lớn.

32:41

And they, I guess they whittle down through reinforcement.

Và chúng, tôi đoán chúng thu hẹp lại thông qua củng cố.

32:44

Yep.

Đúng vậy.

32:44

We have more pathways when we're younger.

Chúng ta có nhiều đường dẫn hơn khi còn trẻ.

32:46

And just like the process of training an AI, we're trained down to like remove the ones that aren't useful and build up on the ones that are.

Và giống như quá trình đào tạo AI, chúng ta được đào tạo để loại bỏ những cái không hữu ích và xây dựng dựa trên những cái hữu ích.

32:53

- Yeah, it's both pruning and strengthening.

- Ừ, nó vừa là tỉa bớt vừa là củng cố.

32:55

And it seems like in humans it's actually more pruning than strengthening, but it's both.

Và có vẻ như ở con người, nó thực sự là tỉa bớt nhiều hơn là củng cố, nhưng nó là cả hai.

32:59

Uh, and in AI it's the same thing, it's both.

Ừ, và trong AI cũng vậy, nó là cả hai.

33:02

So, the first portion of training is where they train the AI to predict text, which is kind of like training it to read.

Vì vậy, phần đầu tiên của quá trình huấn luyện là nơi họ huấn luyện AI để dự đoán văn bản, giống như huấn luyện nó đọc.

33:08

Um, and it's a similar thing does happen in humans.

Ừm, và điều tương tự cũng xảy ra ở con người.

33:11

So, basically,

Vì vậy, về cơ bản,

33:12

the random tangle gradually takes shape and gradually sort of coalesces into more useful circuitry that has stored lots of facts about the world and has stored lots of skills for how to, you know, process information and transform it and then produce predictions.

Mớ hỗn độn ngẫu nhiên dần dần hình thành và dần dần kết tụ thành các mạch hữu ích hơn, nơi đã lưu trữ rất nhiều sự thật về thế giới và đã lưu trữ rất nhiều kỹ năng để xử lý thông tin, biến đổi nó và sau đó tạo ra các dự đoán.

33:30

That's just the first step.

Đó chỉ là bước đầu tiên.

33:31

After they do the pre-training, then they try to teach it more useful skills besides just predicting text.

Sau khi họ thực hiện tiền huấn luyện, sau đó họ cố gắng dạy nó những kỹ năng hữu ích hơn ngoài việc chỉ dự đoán văn bản.

33:36

And so, you know, by the end of the process, they've thrown lots of coding problems at it.

Và vì vậy, bạn biết đấy, vào cuối quá trình, họ đã ném rất nhiều bài toán lập trình vào nó.

33:42

And they've said like, here's a coding problem, go.

Và họ đã nói như, đây là một bài toán lập trình, bắt đầu đi.

33:44

Here's a coding problem, here's an environment, you have access to this virtual computer, here's

Đây là một bài toán lập trình, đây là một môi trường, bạn có quyền truy cập vào máy tính ảo này, đây là

33:49

like the code base you're working with.

Giống như mã nguồn bạn đang làm việc.

33:51

You can write code, you can edit the code, you can run the code, you can read it, you can use the internet.

Bạn có thể viết mã, bạn có thể chỉnh sửa mã, bạn có thể chạy mã, bạn có thể đọc nó, bạn có thể sử dụng internet.

33:56

Go, go, go.

Đi, đi, đi.

33:56

And it does that for a while and then based on how successful it is, reinforcement happens and they have thousands, maybe millions of examples of coding problems like that they trained it on.

Và nó làm điều đó trong một thời gian và sau đó dựa trên mức độ thành công của nó, sự củng cố xảy ra và họ có hàng nghìn, thậm chí hàng triệu ví dụ về các bài toán lập trình như vậy mà họ đã huấn luyện nó.

34:07

And that's why they're so good at coding now.

Và đó là lý do tại sao bây giờ chúng giỏi lập trình đến vậy.

34:10

- So, what does superintelligence look like in this regard?

- Vậy, siêu trí tuệ trông như thế nào trong khía cạnh này?

34:12

Is it just more of these connections?

Nó chỉ là nhiều hơn các kết nối này?

34:13

And how would they get more connections?

Và làm thế nào chúng có thêm các kết nối?

34:15

Can you explain that to me like I'm - So, there's different AI models, right?

Bạn có thể giải thích điều đó cho tôi như tôi là - Vậy, có các mô hình AI khác nhau, phải không?

34:19

So, there's like, you know, GPT-3 and GPT-4 and GPT-4.5 and GPT-5 and GPT-5.5 and 5.6, right?

Vì vậy, có như, bạn biết đấy, GPT-3 và GPT-4 và GPT-4.5 và GPT-5 và GPT-5.5 và 5.6, phải không?

34:27

Sometimes they're just the same previous model but with extra training.

Đôi khi chúng chỉ là cùng một mô hình trước đó nhưng được huấn luyện thêm.

34:30

Sometimes they're are new model that's been trained from scratch, including starting the whole pre-training process again.

Đôi khi chúng là mô hình mới được huấn luyện từ đầu, bao gồm cả việc bắt đầu lại toàn bộ quá trình tiền huấn luyện.

34:37

Over the last couple years, they've done several new rounds of starting over from scratch.

Trong vài năm qua, họ đã thực hiện một số vòng mới bắt đầu lại từ đầu.

34:41

And typically when they start over from scratch, they make the whole thing bigger, the artificial brain much bigger.

Và thông thường khi họ bắt đầu lại từ đầu, họ làm cho toàn bộ thứ lớn hơn, bộ não nhân tạo lớn hơn nhiều.

34:46

Right now they're at something like 10 trillion parameters.

Hiện tại họ đang ở mức khoảng 10 nghìn tỷ tham số.

34:49

Back in 2020, um it was more like 175 billion.

Trở lại năm 2020, ừm, nó giống như 175 tỷ.

34:55

So, we've grown like two orders of magnitude uh in 6 years.

Vì vậy, chúng ta đã tăng trưởng khoảng hai bậc độ lớn trong 6 năm.

34:59

- Two orders of magnitude.

- Hai bậc độ lớn.

35:00

- Yeah, like two 10 x's.

- Ừ, như hai lần 10 lần.

35:01

So, 100 x, right?

Vậy, 100 lần, phải không?

35:03

So, that process is continuing.

Vì vậy, quá trình đó vẫn đang tiếp tục.

35:04

Um they're also improving the algorithms themselves.

Ừm, họ cũng đang cải thiện các thuật toán.

35:07

So, they're not literally just the same type of AI but bigger.

Vì vậy, chúng không chỉ đơn thuần là cùng loại AI nhưng lớn hơn.

35:12

They've also come up with all sorts of ideas for how to change the structure of the of the connections in the neurons and so forth and change the like reinforcement algorithms that they're using and to change the training data that they're training on.

Họ cũng đã nghĩ ra đủ loại ý tưởng để thay đổi cấu trúc của các kết nối trong các nơ-ron và vân vân và thay đổi các thuật toán củng cố mà họ đang sử dụng và thay đổi dữ liệu huấn luyện mà họ đang huấn luyện.

35:26

All sorts of tweaks that have made this whole thing more efficient.

Tất cả các loại tinh chỉnh đã làm cho toàn bộ thứ này hiệu quả hơn.

35:29

- We're literally building a brain.

- Chúng ta thực sự đang xây dựng một bộ não.

35:31

- Basically, yeah.

- Về cơ bản, vâng.

35:31

As they make more brains, they're getting better at making They're making them bigger and making them more efficient and so forth.

Khi họ tạo ra nhiều bộ não hơn, họ đang trở nên tốt hơn trong việc tạo ra chúng. Họ đang làm cho chúng lớn hơn và hiệu quả hơn và vân vân.

35:37

- And it's literally modeled on the brain, like the way it works, right?

- Và nó thực sự được mô phỏng theo bộ não, như cách nó hoạt động, phải không?

35:40

- It's It's certainly heavily inspired by the brain, but I shouldn't overstate the analogy.

- Nó chắc chắn được lấy cảm hứng rất nhiều từ bộ não, nhưng tôi không nên phóng đại sự tương tự.

35:44

Like there's lots of differences, too.

Giống như có rất nhiều khác biệt.

35:46

So, for example, the transformer architecture um - Which is - Which is the architecture that they use for these LLMs uh is not really recurrent.

Vì vậy, ví dụ, kiến trúc transformer ừm - Cái mà là - Cái mà là kiến trúc được sử dụng cho các LLM này ừm không thực sự là hồi quy.

35:54

So, the information sort of flows one way rather than allowing all these sort of little loops on the inside.

Vì vậy, thông tin truyền theo một chiều thay vì cho phép tất cả các loại vòng lặp nhỏ bên trong.

36:00

Also, the

Ngoài ra,

36:01

backpropagation algorithm is different from the sort of um learning that naturally happens in human brains.

Thuật toán lan truyền ngược khác với loại học tập tự nhiên xảy ra trong não người.

36:05

So, there are some differences, but yes, like broadly speaking, uh we are sort of making artificial brains.

Vì vậy, có một số khác biệt, nhưng vâng, nói rộng ra, chúng ta đang tạo ra các bộ não nhân tạo.

36:11

It's kind of like for brains what like a plane is for a bird.

Nó giống như đối với bộ não, máy bay đối với chim.

36:15

- Mhm.

36:15

Yeah, that's a clears throat really good analogy.

Vâng, đó là một [hắng giọng] sự so sánh thực sự hay.

36:16

- Yeah.

- Vâng.

36:17

- That analogy helped me think through a bunch of questions people often ask about AI when they said, "Can it be creative?" But actually that analogy kind of helps me understand that actually that maybe that's not the question.

- Sự so sánh đó đã giúp tôi suy nghĩ thấu đáo về một loạt câu hỏi mà mọi người thường hỏi về AI khi họ nói, "Liệu nó có thể sáng tạo không?" Nhưng thực ra sự so sánh đó phần nào giúp tôi hiểu rằng có lẽ đó không phải là câu hỏi.

36:28

It's can it produce something that you would consider to be creative because clears throat creativity is people think of it as like a process, but actually it's it's judged based on the output, isn't it?

Câu hỏi là liệu nó có thể tạo ra thứ mà bạn coi là sáng tạo bởi vì [hắng giọng] sự sáng tạo, mọi người nghĩ về nó như một quá trình, nhưng thực ra nó được đánh giá dựa trên đầu ra, phải không?

36:37

- I mean you can get philosophical about like is it truly creativity that they have, but you can also be like well, I mean just look at all the stuff they're accomplishing, - laughter - you know, and it seems like they're going to be accomplishing a lot more in the near future.

- Ý tôi là bạn có thể triết lý về việc liệu chúng có thực sự sáng tạo hay không, nhưng bạn cũng có thể nói, chà, chỉ cần nhìn vào tất cả những thứ chúng đang đạt được, - [cười] - bạn biết đấy, và có vẻ như chúng sẽ còn đạt được nhiều hơn nữa trong tương lai gần.

36:49

- Yeah, I do I asked the question about how this weighs on you personally because I can I can sense that you're actually personally bothered.

- Vâng, tôi đã hỏi câu hỏi về việc điều này ảnh hưởng đến cá nhân bạn như thế nào vì tôi có thể cảm nhận rằng bạn thực sự cảm thấy lo lắng.

36:56

- I mean that I think the situation is crazy.

- Ý tôi là tôi nghĩ tình hình này thật điên rồ.

36:58

Like first of all, it's very exciting.

Trước hết, nó rất thú vị.

37:00

Like AI is really fascinating and interesting stuff.

Giống như AI thực sự là thứ hấp dẫn và thú vị.

37:02

I've been following the field for more than a decade now.

Tôi đã theo dõi lĩnh vực này hơn một thập kỷ nay.

37:06

I've been part of it for some years and um it's really cool, really interesting and it's really fun to think about what's going on inside these artificial brains and why they are the way that they are and it's really cool to see all the applications of this technology out in the world.

Tôi đã tham gia vào nó được vài năm và ừm, nó thực sự tuyệt vời, thực sự thú vị và thực sự vui khi nghĩ về những gì đang diễn ra bên trong những bộ não nhân tạo này và tại sao chúng lại như vậy, và thật tuyệt khi thấy tất cả các ứng dụng của công nghệ này trên thế giới.

37:21

But it really seems like we're on a pretty scary path and the more you think about it, the more worried you get and you know, in stories it always ends well, but this is real life.

Nhưng có vẻ như chúng ta đang đi trên một con đường khá đáng sợ và bạn càng nghĩ về nó, bạn càng lo lắng, và bạn biết đấy, trong những câu chuyện, mọi thứ luôn kết thúc tốt đẹp, nhưng đây là đời thực.

37:33

And I think we have to sort of stare reality in the face and tell it and realize that like it might not actually end well, you know.

Và tôi nghĩ chúng ta phải đối mặt với thực tế và nhận ra rằng có thể nó sẽ không kết thúc tốt đẹp, bạn biết đấy.

37:42

- Were there any recent dare I say I was going to say eureka moments, but paradigm shifting moments where even your own sort of mental model of what's going on here and how this is going to look were changed for better or for worse?

- Có gần đây, tôi có thể nói là những khoảnh khắc eureka, nhưng những khoảnh khắc thay đổi mô hình, nơi mà ngay cả mô hình tinh thần của bạn về những gì đang xảy ra ở đây và điều này sẽ trông như thế nào đã thay đổi, dù tốt hay xấu?

37:53

- For better or for worse and probably for worse, things are kind of on track for AI 2027.

- Dù tốt hay xấu và có lẽ là xấu, mọi thứ đang đi đúng hướng cho AI 2027.

37:57

There are a few things that have been different not exactly like paradigm shift differences, but like there have been some differences from what we expected at the time we wrote this.

Có một vài điều đã khác biệt, không hẳn là khác biệt thay đổi mô hình, nhưng có một số khác biệt so với những gì chúng tôi mong đợi tại thời điểm chúng tôi viết điều này.

38:05

So the government has actually got involved faster than we expected and has been more aggressive than we expected.

Vì vậy, chính phủ thực sự đã tham gia nhanh hơn chúng tôi mong đợi và đã mạnh mẽ hơn chúng tôi mong đợi.

38:10

So the

Vì vậy,

38:11

export controls on mythos being the biggest example and also threatening Anthropic with being destroyed by the defense production act.

Các biện pháp kiểm soát xuất khẩu đối với mythos là ví dụ lớn nhất và cũng là việc đe dọa Anthropic bị phá hủy bởi Đạo luật Sản xuất Quốc phòng.

38:19

Um - clears throat - Another thing that's been surprising to us is that Anthropic in particular has gone from second place to first place in the sort of in the race basically.

Ừm - [hắng giọng] - Một điều khác khiến chúng tôi ngạc nhiên là Anthropic nói riêng đã đi từ vị trí thứ hai lên vị trí thứ nhất trong cuộc đua về cơ bản.

38:29

- Why do you think that happened?

- Tại sao bạn nghĩ điều đó xảy ra?

38:31

Because it seemed like ChatGPT were out front and clear as it relates to OpenAI were out front and clear but suddenly Anthropic have uh lapped them.

Bởi vì có vẻ như ChatGPT đã dẫn đầu rõ ràng, liên quan đến OpenAI đã dẫn đầu rõ ràng, nhưng đột nhiên Anthropic đã vượt qua họ.

38:40

- Yeah, I mean I guess they have um probably higher talent density um and better strategy but not by a lot but enough to make the difference.

- Vâng, tôi đoán họ có lẽ có mật độ nhân tài cao hơn và chiến lược tốt hơn, nhưng không nhiều, nhưng đủ để tạo ra sự khác biệt.

38:49

- Why do you think they have more talent?

- Tại sao bạn nghĩ họ có nhiều nhân tài hơn?

38:52

- Well they don't have more compute.

- Chà, họ không có nhiều sức mạnh tính toán hơn.

38:54

Like what are the inputs, right?

Giống như đầu vào là gì, phải không?

38:55

Like they're in the lead now, they used to be behind.

Giống như bây giờ họ đang dẫn đầu, trước đây họ từng ở phía sau.

38:59

What are the possible explanations for this?

Những lời giải thích khả dĩ cho điều này là gì?

39:00

Well, it could have been that they had more resources like more compute more money but that's not true.

Chà, có thể là họ có nhiều tài nguyên hơn như nhiều sức mạnh tính toán hơn, nhiều tiền hơn, nhưng điều đó không đúng.

39:06

They have less resources less money, right?

Họ có ít tài nguyên hơn, ít tiền hơn, phải không?

39:08

So then I guess talent's what is the next best alternative.

Vậy thì tôi đoán tài năng là lựa chọn thay thế tốt nhất tiếp theo.

39:12

You could maybe say strategy.

Bạn có thể nói là chiến lược.

39:14

Some combination of those things, yeah.

Một sự kết hợp nào đó của những điều đó, vâng.

39:15

Something that wasn't just like the amount of resources they had.

Một cái gì đó không chỉ là lượng tài nguyên họ có.

39:19

- Just like Jon Jones where marginal improvements in your cognitive performance can have a massive impact.

- Giống như Jon Jones, nơi mà những cải thiện nhỏ trong hiệu suất nhận thức của bạn có thể có tác động lớn.

39:23

Sometimes I podcast for 10 hours a day.

Đôi khi tôi làm podcast 10 giờ mỗi ngày.

39:25

Over the last couple of weeks I've been in filming for a TV show and then I have like one or two days off to get all of my work done which means there's lots of cognitive load.

Trong vài tuần qua, tôi đã tham gia quay phim cho một chương trình truyền hình và sau đó tôi có một hoặc hai ngày nghỉ để hoàn thành tất cả công việc của mình, điều đó có nghĩa là có rất nhiều gánh nặng nhận thức.

39:34

And so I turn to ketones because I find myself more articulate, able to think more clearly, able to work out better when I'm fueled by ketones.

Và vì vậy tôi chuyển sang dùng ketone vì tôi thấy mình ăn nói lưu loát hơn, suy nghĩ rõ ràng hơn, tập luyện tốt hơn khi được cung cấp năng lượng bởi ketone.

39:41

And so the reason I became a convert of this company and the reason why they now are sponsoring this podcast is because I remember one of my team members called Christiana, she tried it once and came up to my desk and she goes this is the best product ever made.

Và vì vậy lý do tôi trở thành người tin dùng của công ty này và lý do tại sao họ bây giờ tài trợ cho podcast này là vì tôi nhớ một trong những thành viên trong nhóm của tôi tên là Christiana, cô ấy đã thử nó một lần và đến bàn làm việc của tôi và nói rằng đây là sản phẩm tốt nhất từng được tạo ra.

39:52

And I think in part that's because she really cares about those cognitive benefits as I do as Jon Jones does and as I think most of

Và tôi nghĩ một phần là vì cô ấy thực sự quan tâm đến những lợi ích nhận thức đó như tôi, như Jon Jones, và như tôi nghĩ hầu hết

39:58

my listeners probably will.

Thính giả của tôi có lẽ sẽ quan tâm.

39:59

So if you haven't tried these yet, all you have to do is go to ketone.com/steven and you'll also get 30% off your first subscription order.

Vì vậy, nếu bạn chưa thử những sản phẩm này, tất cả những gì bạn cần làm là truy cập ketone.com/steven và bạn cũng sẽ được giảm 30% cho đơn đặt hàng đầu tiên.

40:08

You'll get exclusive ketone IQ merch and of course cognitive benefits that might just change your life.

Bạn sẽ nhận được hàng hóa ketone IQ độc quyền và tất nhiên là những lợi ích nhận thức có thể thay đổi cuộc sống của bạn.

40:14

Much of the reason most people haven't posted content or built their personal brand is because it's hard and it's time consuming and we're all very busy and if you've never posted something before, there's so many factors in your psychology that stop you wanting to post.

Phần lớn lý do khiến hầu hết mọi người chưa đăng nội dung hoặc xây dựng thương hiệu cá nhân là vì nó khó và tốn thời gian và tất cả chúng ta đều rất bận rộn và nếu bạn chưa bao giờ đăng bất cứ điều gì trước đây, có rất nhiều yếu tố trong tâm lý của bạn ngăn cản bạn muốn đăng.

40:28

What people will think of you.

Mọi người sẽ nghĩ gì về bạn.

40:30

Am I doing this right?

Tôi làm vậy có đúng không?

40:31

Is the thing I'm saying absolutely stupid?

Điều tôi đang nói có hoàn toàn ngớ ngẩn không?

40:34

All of these

Tất cả những điều này

40:35

result in paralysis which means you don't post and your feed goes bad.

Dẫn đến tê liệt, điều đó có nghĩa là bạn không đăng và nguồn cấp dữ liệu của bạn trở nên tệ.

40:40

I'm an investor in a company called Stand Store which you've probably heard me talk about and what they've been building is this new tool called Stanley that uses AI, looks at your feed, looks at your tone of voice, looks at your history, looks at your best performing posts and tells you what you should post, makes those posts for you.

Tôi là nhà đầu tư vào một công ty tên là Stand Store mà bạn có thể đã nghe tôi nói về nó và những gì họ đã xây dựng là công cụ mới này tên là Stanley sử dụng AI, xem xét nguồn cấp dữ liệu của bạn, xem xét giọng điệu của bạn, xem xét lịch sử của bạn, xem xét các bài đăng hiệu quả nhất của bạn và cho bạn biết bạn nên đăng gì, tạo ra những bài đăng đó cho bạn.

40:54

You can also you just use it for inspiration and

Bạn cũng có thể chỉ dùng nó để lấy cảm hứng và

40:57

sometimes what we need when we're thinking about doing a post for our social media channels is inspiration.

Đôi khi điều chúng ta cần khi nghĩ về việc đăng bài cho các kênh mạng xã hội là cảm hứng.

41:02

Building an audience has fundamentally changed my life and I think it could change yours too.

Việc xây dựng một lượng khán giả đã thay đổi cuộc sống của tôi một cách cơ bản và tôi nghĩ nó cũng có thể thay đổi cuộc sống của bạn.

41:06

So, I'm inviting you to give this new tool a shot and let me know what you think.

Vì vậy, tôi mời bạn dùng thử công cụ mới này và cho tôi biết bạn nghĩ gì.

41:12

All you have to do is search coach.stand.store now to get started.

Tất cả những gì bạn cần làm là tìm kiếm coach.stand.store ngay bây giờ để bắt đầu.

41:16

- Uh a friend of mine who knows some of these people sat me down once upon a time in London.

- Một người bạn của tôi, người quen biết một số người trong số này, đã ngồi xuống với tôi một lần ở London.

41:21

He's actually said this a few times to me but I remember one particular conversation where he says that some of these AI CEOs predict the probability of extinction at being I think he said 7%.

Anh ấy thực sự đã nói điều này với tôi vài lần, nhưng tôi nhớ một cuộc trò chuyện cụ thể khi anh ấy nói rằng một số CEO AI này dự đoán xác suất tuyệt chủng là, tôi nghĩ anh ấy nói 7%.

41:30

I don't know why I have that number in my head but I remember it being less than 10% and the

Tôi không biết tại sao tôi lại nhớ con số đó, nhưng tôi nhớ nó ít hơn 10% và

41:36

point he was making to me was that even if it was 1%.

Điều anh ấy muốn nói với tôi là ngay cả khi nó chỉ là 1%.

41:39

Like if there was 100 buttons on this table now - Yeah.

Giống như nếu có 100 nút trên bàn này bây giờ - Vâng.

41:42

- and one of them would end the world.

- và một trong số chúng sẽ kết thúc thế giới.

41:44

Would I dare - I wouldn't press any of them - you know.

Tôi có dám - Tôi sẽ không nhấn bất kỳ nút nào - bạn biết đấy.

41:47

laughter Um - No.

[cười] Ừm - Không.

41:49

- I wouldn't press any of them but he made the case to me that these AI CEOs are very smart and they understand super intelligence and that they think actually if there was 100 buttons on this table right now, maybe 10 of them could end the world.

- Tôi sẽ không nhấn bất kỳ nút nào, nhưng anh ấy đã lập luận với tôi rằng những CEO AI này rất thông minh và họ hiểu về siêu trí tuệ, và họ nghĩ rằng thực sự nếu có 100 nút trên bàn này ngay bây giờ, có lẽ 10 trong số đó có thể kết thúc thế giới.

41:58

I've heard you say, I think it was on the the Daily Show, the interview you did, you said that you think there's a 70% chance of

Tôi đã nghe bạn nói, tôi nghĩ là trong chương trình Daily Show, cuộc phỏng vấn bạn thực hiện, bạn nói rằng bạn nghĩ có 70% khả năng

42:04

human extinction due to AI.

loài người tuyệt chủng do AI.

42:06

- I wouldn't say human extinction exactly.

- Tôi sẽ không nói chính xác là loài người tuyệt chủng.

42:08

I'd say something like 70% chance that this goes horribly wrong like human extinction but that's just one of several possibilities.

Tôi sẽ nói điều gì đó như 70% khả năng điều này trở nên tồi tệ khủng khiếp như loài người tuyệt chủng, nhưng đó chỉ là một trong vài khả năng.

42:15

But yeah, basically Like for example, possibly the AIs take over and then don't actually kill everyone.

Nhưng vâng, về cơ bản. Ví dụ, có thể AI tiếp quản và sau đó không thực sự giết tất cả mọi người.

42:21

You know, maybe they do something else.

Bạn biết đấy, có thể chúng làm điều gì đó khác.

42:23

Like just cuz they've taken over doesn't mean they're definitely going to kill us, right?

Chỉ vì chúng đã tiếp quản không có nghĩa là chúng chắc chắn sẽ giết chúng ta, phải không?

42:26

They might, but they could do something else.

Chúng có thể, nhưng chúng có thể làm điều gì đó khác.

42:28

So that's what that's that's why I don't usually say like 70% chance of like actual human extinction, but 70% chance of like something like AIs taking over, some some sort of very big catastrophe like that could lead to human extinction.

Vì vậy, đó là lý do tại sao tôi thường không nói như 70% khả năng tuyệt chủng thực sự của loài người, mà là 70% khả năng điều gì đó như AI tiếp quản, một số loại thảm họa rất lớn nào đó có thể dẫn đến tuyệt chủng loài người.

42:40

- I see what you mean.

- Tôi hiểu ý bạn.

42:41

So two points there, which is you've been around these CEOs.

Vậy có hai điểm ở đó, đó là bạn đã ở gần những CEO này.

42:44

I mean you've worked for Sam Altman at OpenAI before you quit.

Ý tôi là bạn đã làm việc cho Sam Altman tại OpenAI trước khi bạn nghỉ việc.

42:47

Do you think that they think there's a chance of human extinction?

Bạn có nghĩ rằng họ nghĩ rằng có khả năng loài người tuyệt chủng không?

42:49

- Yes.

- Có.

42:50

But I think that the important thing to understand is that like people sort of believe what they need to believe in order to think that they're great people and that they need to keep doing what they're doing.

Nhưng tôi nghĩ điều quan trọng cần hiểu là mọi người tin những gì họ cần tin để nghĩ rằng họ là những người tuyệt vời và họ cần tiếp tục làm những gì họ đang làm.

43:01

This is what rationalization is.

Đây là những gì hợp lý hóa là.

43:03

And so I think that the tech CEOs have like genuinely convinced themselves that like probably things are going to be fine and

Và vì vậy tôi nghĩ rằng các CEO công nghệ đã thực sự tự thuyết phục rằng có lẽ mọi thứ sẽ ổn và

43:10

that the way to make things fine is for them to keep doing what they're doing.

Cách để làm cho mọi thứ ổn là họ tiếp tục làm những gì họ đang làm.

43:13

And like they need to like make sure that like, you know, Sam needs to make Sam's probably thinking like can't let Dario or Elon get there first, you know, I know Dario's thinking Sam can't get there first.

Và họ cần phải đảm bảo rằng, bạn biết đấy, Sam cần phải làm cho Sam có lẽ đang nghĩ rằng không thể để Dario hoặc Elon đến đó trước, bạn biết đấy, tôi biết Dario đang nghĩ Sam không thể đến đó trước.

43:24

Elon's thinking that like, you know, they they've all probably convinced themselves that like, oh yeah, like maybe it'll go horribly wrong, but like probably it's going to be fine and probably

Elon đang nghĩ rằng, bạn biết đấy, tất cả họ có lẽ đã tự thuyết phục rằng, ồ vâng, có lẽ nó sẽ trở nên tồi tệ khủng khiếp, nhưng có lẽ nó sẽ ổn và có lẽ

43:33

you know, I should be the one in charge.

Bạn biết đấy, tôi nên là người phụ trách.

43:35

- It appears to me that Anthropic are the only ones that are all talking about the potential chance of extinction or catastrophic event or um the down the real downside still.

- Đối với tôi, có vẻ như Anthropic là những người duy nhất vẫn đang nói về khả năng tuyệt chủng hoặc sự kiện thảm khốc hoặc ừm, mặt trái thực sự.

43:44

They seem to be the only ones that are still publishing on it and now they're actually becoming the enemy in many respects of the - Yeah.

Họ dường như là những người duy nhất vẫn công bố về điều đó và bây giờ họ thực sự đang trở thành kẻ thù theo nhiều khía cạnh của - Vâng.

43:51

- the tech industry in San Francisco.

- ngành công nghệ ở San Francisco.

43:52

I'm watching a lot of interviews and it's everyone's attacking Dario because he's saying, "Listen, things could go bad." They're calling him a doomer uh and questioning his incentives.

Tôi đang xem rất nhiều cuộc phỏng vấn và mọi người đang tấn công Dario vì anh ấy nói, "Nghe này, mọi thứ có thể trở nên tồi tệ." Họ gọi anh ấy là người bi quan và đặt câu hỏi về động cơ của anh ấy.

44:00

Even with Mythos, which is a an a Claude model that they started to warn the world about, again, he is attacked immediately for saying that.

Ngay cả với Mythos, một mô hình Claude mà họ bắt đầu cảnh báo thế giới về, một lần nữa, anh ấy ngay lập tức bị tấn công vì nói điều đó.

44:07

- Yeah.

- Vâng.

44:07

- My question is, do you see him as being slightly different from Sam in this regard?

- Câu hỏi của tôi là, bạn có thấy anh ấy hơi khác so với Sam về mặt này không?

44:12

- Yeah, I mean, it seems like Anthropic and Stereo have been more willing to say and do things that are costly to the bottom line.

- Vâng, ý tôi là, có vẻ như Anthropic và Stereo đã sẵn sàng nói và làm những điều gây tốn kém cho lợi nhuận.

44:21

Uh and at least in the last year or so.

Ừm và ít nhất là trong năm qua hoặc lâu hơn.

44:24

That's an example of it.

Đó là một ví dụ về điều đó.

44:25

Um like I don't think that really wins them favors in the administration or among their investors to say that type of thing.

Ừm, tôi không nghĩ điều đó thực sự giúp họ được lòng chính quyền hoặc các nhà đầu tư khi nói những điều như vậy.

44:31

And you know, a better example is just the whole fight between the Department of War and Anthropic was an example of them doing something that like cost them a lot of money and even more importantly cost them a lot of power for

Và bạn biết đấy, một ví dụ tốt hơn là toàn bộ cuộc chiến giữa Bộ Chiến tranh và Anthropic là một ví dụ về việc họ làm điều gì đó khiến họ mất rất nhiều tiền và quan trọng hơn là mất rất nhiều quyền lực vì

44:43

something that like they could have just signed the contract, you know.

Điều gì đó mà họ có thể chỉ cần ký hợp đồng, bạn biết đấy.

44:47

That said, I really don't want to be in a situation where we're like, which CEO is the least bad CEO?

Điều đó nói lên rằng, tôi thực sự không muốn ở trong tình huống mà chúng ta nói, CEO nào là CEO ít tệ nhất?

44:52

Let's support that one.

Hãy ủng hộ người đó.

44:53

You know, like none of these people should be trusted uh with that much power, basically.

Bạn biết đấy, về cơ bản là không ai trong số những người này nên được tin tưởng với quyền lực lớn như vậy.

44:58

- Nobody should.

- Không ai nên cả.

44:58

- Nobody should.

- Không ai nên cả.

44:59

- Regardless.

- Bất kể thế nào.

45:00

- Regardless, yeah.

- Bất kể thế nào, đúng vậy.

45:01

- Mhm.

- Ừm.

45:01

So, uh on this point of the buttons, you you do believe that they think there's a credible chance of extinction.

Vậy, về điểm này về các nút bấm, bạn có tin rằng họ nghĩ rằng có khả năng tuyệt chủng thực sự không?

45:07

- Yeah, but they've clears throat convinced themselves that like it's probably fine and also it'll be even worse if I'm not doing it, you know.

- Ừ, nhưng họ đã [hắng giọng] tự thuyết phục mình rằng kiểu như có lẽ sẽ ổn thôi và cũng sẽ tệ hơn nếu mình không làm, bạn biết đấy.

45:13

Like that's that's what they'll say inside the companies, too.

Kiểu đó là những gì họ sẽ nói bên trong các công ty.

45:15

Like the two people will be like, okay, well, if we stop, what about the other guys?

Kiểu hai người sẽ nói, được rồi, nếu chúng ta dừng lại, còn những người khác thì sao?

45:19

Like they're not going to stop, you know?

Kiểu họ sẽ không dừng lại đâu, bạn biết không?

45:21

- Yeah, this is this is always been why I've had this outstanding question, which is how does this not go bad when human incentives seem to rule the day when you look at history and all of the human incentives are saying, well, if you're damned if you do, I you're damned if you carry on developing these bigger and bigger bigger AI brains, but you're also then damned if you don't from an a

- Ừ, đây luôn là lý do tại sao tôi có câu hỏi lớn này, làm sao điều này không trở nên tồi tệ khi động cơ của con người dường như chi phối mọi thứ khi bạn nhìn vào lịch sử và tất cả các động cơ của con người đều nói rằng, nếu bạn bị nguyền rủa nếu làm, tôi nghĩ bạn bị nguyền rủa nếu tiếp tục phát triển những bộ não AI ngày càng lớn hơn, nhưng bạn cũng sẽ bị nguyền rủa nếu không làm từ góc độ

45:39

geographical perspective cuz the United States will lose to that country or this company will lose to that company.

địa lý vì Hoa Kỳ sẽ thua quốc gia đó hoặc công ty này sẽ thua công ty kia.

45:43

So, when you just look at human incentives and goes, how does how does if just you purely incentives and disincentives, how does this end?

Vì vậy, khi bạn chỉ nhìn vào động cơ của con người và tự hỏi, làm sao, nếu chỉ thuần túy là động cơ và sự phản đối, điều này sẽ kết thúc thế nào?

45:48

Well, it carries on going.

Chà, nó sẽ tiếp tục diễn ra.

45:50

- Seems like it.

- Có vẻ như vậy.

45:51

I mean, there is a caveat to that, which is a hopeful caveat, which is that first of all, if the world wakes up to all of this, then there can be a more serious conversation about regulation and international treaties and things like that.

Ý tôi là, có một lưu ý cho điều đó, một lưu ý đầy hy vọng, đó là trước hết, nếu thế giới thức tỉnh trước tất cả những điều này, thì có thể có một cuộc trò chuyện nghiêm túc hơn về quy định và các hiệp ước quốc tế và những thứ tương tự.

46:03

And that can change the incentives, right?

Và điều đó có thể thay đổi các động cơ, phải không?

46:05

So, the government could come in and say like actually here's some rules that you all have to

Vì vậy, chính phủ có thể vào cuộc và nói rằng thực ra đây là một số quy tắc mà tất cả các bạn phải

46:11

follow.

tuân theo.

46:11

And because they're rules that you all have to follow, then you're not incentivized to like break them anymore because you get punished if you break them and everyone else is also following them, too.

Và bởi vì đó là những quy tắc mà tất cả các bạn phải tuân theo, thì bạn không còn bị khuyến khích để phá vỡ chúng nữa vì bạn sẽ bị phạt nếu phá vỡ và tất cả những người khác cũng tuân theo chúng.

46:21

And so, you know, it's fine.

Và vì vậy, bạn biết đấy, không sao cả.

46:23

So, so there is that sort of like ray of hope that like we can change the incentives if the government and especially the US government but then later other

Vì vậy, có một tia hy vọng kiểu như chúng ta có thể thay đổi các động cơ nếu chính phủ, đặc biệt là chính phủ Hoa Kỳ nhưng sau đó là các quốc gia khác

46:32

countries act to change the incentives.

hành động để thay đổi các động cơ.

46:33

But that's not going to happen until people sort of wake up to all of this.

Nhưng điều đó sẽ không xảy ra cho đến khi mọi người thức tỉnh trước tất cả những điều này.

46:39

The second thing is that even individually at some point you know, Dario or Sam or Elon might realize that like actually it's like not even in their own interest to keep racing unilaterally.

Điều thứ hai là ngay cả cá nhân tại một thời điểm nào đó, bạn biết đấy, Dario hoặc Sam hoặc Elon có thể nhận ra rằng thực ra nó thậm chí không có lợi cho chính họ khi tiếp tục cuộc đua một cách đơn phương.

46:53

And it on the problem with that is it's only if it gets extremely obvious and extremely dire.

Và vấn đề với điều đó là chỉ khi nó trở nên cực kỳ rõ ràng và cực kỳ nghiêm trọng.

46:58

So, like in AI 2027, in that scenario, there's this choice point that I mentioned.

Vì vậy, như trong AI 2027, trong kịch bản đó, có điểm lựa chọn mà tôi đã đề cập.

47:02

And in one case the AIs are misaligned and the other case the AIs are aligned.

Và trong một trường hợp, các AI bị lệch lạc và trường hợp khác, các AI được căn chỉnh.

47:07

At that choice point, we have like one branch that depicts the misalignment ending and one branch that depicts like they slow down a bit and solve the alignment issues.

Tại điểm lựa chọn đó, chúng ta có một nhánh mô tả sự kết thúc của sự lệch lạc và một nhánh mô tả việc họ chậm lại một chút và giải quyết các vấn đề căn chỉnh.

47:14

- Mhm.

- Ừm.

47:14

- The instigator for that choice point is they see some evidence that their AI might be misaligned and plotting against them.

- Nguyên nhân cho điểm lựa chọn đó là họ thấy một số bằng chứng rằng AI của họ có thể bị lệch lạc và đang âm mưu chống lại họ.

47:21

Right?

Phải không?

47:21

So, if you actually see that evidence then it's like oh gosh, uh maybe we shouldn't put it in charge of everything and let it rip, you know?

Vì vậy, nếu bạn thực sự thấy bằng chứng đó thì kiểu như ôi trời, có lẽ chúng ta không nên giao cho nó phụ trách mọi thứ và để nó tự do, bạn biết không?

47:31

Because that evidence is staring us right in the face that it's this untrustworthy, you know?

Bởi vì bằng chứng đó đang nhìn thẳng vào mặt chúng ta rằng nó không đáng tin cậy, bạn biết đấy?

47:35

But if they don't see that sort of very clear evidence, then I think they're going to convince themselves that they need to keep going, you know?

Nhưng nếu họ không thấy loại bằng chứng rất rõ ràng đó, thì tôi nghĩ họ sẽ tự thuyết phục mình rằng họ cần tiếp tục, bạn biết không?

47:42

But maybe they will see very clear evidence like that.

Nhưng có lẽ họ sẽ thấy bằng chứng rất rõ ràng như vậy.

47:44

In which case, even if we don't have regulation, they might just sort of voluntarily stop.

Trong trường hợp đó, ngay cả khi chúng ta không có quy định, họ có thể tự nguyện dừng lại.

47:49

Um so, that's the second ray of hope.

Ừm, vì vậy, đó là tia hy vọng thứ hai.

47:51

Like overall, I don't think that we're like definitely doomed, you know?

Nhìn chung, tôi không nghĩ rằng chúng ta chắc chắn sẽ diệt vong, bạn biết không?

47:54

Like snorts I said 70% but like I could see it working out pretty well as well.

Kiểu [khịt mũi] tôi đã nói 70% nhưng tôi cũng có thể thấy nó diễn ra khá tốt.

47:59

- Hm.

- Hừm.

48:01

What about uh jobs?

Còn về việc làm thì sao?

48:02

- Yeah.

- Ừ.

48:04

So, I think I think I'm excited to at some point get into the new thing which is the more optimistic - clears throat - positive vision.

Vì vậy, tôi nghĩ tôi rất vui khi cuối cùng được bước vào điều mới, đó là tầm nhìn lạc quan hơn - [hắng giọng] - tích cực hơn.

48:11

Uh and that will have a lot to say about this.

Ừ và điều đó sẽ có rất nhiều điều để nói về vấn đề này.

48:13

Because in the in the in the prediction, you know, in the year 2027, by the time everyone loses their jobs, there are worse things happening.

Bởi vì trong dự đoán, bạn biết đấy, vào năm 2027, vào thời điểm mọi người mất việc làm, có những điều tồi tệ hơn đang xảy ra.

48:20

Or like it's it's kind of like too late by that point.

Hoặc kiểu như nó đã quá muộn vào thời điểm đó.

48:24

Um but yes, like once if I mean just think about it.

Ừm nhưng vâng, một khi nếu tôi có nghĩa là chỉ cần nghĩ về nó.

48:27

If the companies do manage to build superintelligence, then by definition, they're going to be able to take almost

Nếu các công ty thực sự xây dựng được siêu trí tuệ, thì theo định nghĩa, họ sẽ có thể đảm nhận gần như

48:33

all the jobs or all the jobs, right?

Tất cả công việc hay tất cả công việc, đúng không?

48:35

Cuz it's better, faster, and cheaper than the best humans at everything.

Vì nó tốt hơn, nhanh hơn và rẻ hơn những con người giỏi nhất trong mọi việc.

48:39

- And that's I mean, the timeline is by the end of sort of 2030, you reckon you think superintelligence might arrive.

- Và ý tôi là, theo thời gian, đến cuối khoảng năm 2030, bạn nghĩ rằng siêu trí tuệ có thể xuất hiện.

48:44

I'm trying to think about when we could start to see job displacement in the economy.

Tôi đang cố nghĩ về thời điểm chúng ta có thể bắt đầu thấy sự dịch chuyển việc làm trong nền kinh tế.

48:47

- We're already starting to see a little bit of it now, but not very much.

- Chúng ta đã bắt đầu thấy một chút điều đó ngay bây giờ, nhưng không nhiều lắm.

48:49

- Why?

- Tại sao?

48:50

- Um cuz the AIs aren't good enough yet.

- Ừm vì AI chưa đủ giỏi.

48:52

Like they're they're they're they're impressive, but they're not like they're not just a drop-in replacement for a human worker in almost any field.

Giống như chúng ấn tượng, nhưng chúng không phải là sự thay thế trực tiếp cho một công nhân con người trong hầu hết mọi lĩnh vực.

49:00

- And do you think that will be sudden?

- Và bạn có nghĩ điều đó sẽ đột ngột không?

49:02

- I think it'll be sudden because of the intelligence explosion dynamics or recursive self-improvement dynamics.

- Tôi nghĩ nó sẽ đột ngột vì động lực bùng nổ trí tuệ hoặc động lực tự cải thiện đệ quy.

49:08

So, you could imagine a different world where it's gradual.

Vì vậy, bạn có thể tưởng tượng một thế giới khác nơi nó diễn ra dần dần.

49:13

- Mhm.

- Ừm.

49:14

- And this clears throat is this is maybe how it is in a lot of science fiction is, you know, the AIs gradually get better at a bunch of things and you know, they gradually automate like this one industry like pharma, then they automate like you know, steering drones, then they automate like driving cars or something like that.

- Và điều này [hắng giọng] có lẽ là cách nó diễn ra trong nhiều tác phẩm khoa học viễn tưởng, bạn biết đấy, AI dần dần giỏi hơn trong nhiều việc và chúng dần dần tự động hóa ngành này như dược phẩm, rồi chúng tự động hóa việc điều khiển drone, rồi chúng tự động hóa việc lái xe ô tô hoặc đại loại thế.

49:31

Um but what's different about the real

Ừm nhưng điều khác biệt ở thế giới thực

49:33

world is that the companies have converged on this strategy of automating themselves first.

là các công ty đã hội tụ về chiến lược tự động hóa chính họ trước.

49:39

You know, automating the AI research process.

Bạn biết đấy, tự động hóa quá trình nghiên cứu AI.

49:42

And so, if they are allowed to continue with the strategy, we're not going to see like, you know, the robot taxis and like the plumber robots and you know, the lawyer AIs.

Và vì vậy, nếu họ được phép tiếp tục với chiến lược đó, chúng ta sẽ không thấy, bạn biết đấy, taxi robot hay robot thợ sửa ống nước hay AI luật sư.

49:53

We're not going to see that sort of like broad diffusion of AI into the economy happening first because that's not what they're focusing on first.

Chúng ta sẽ không thấy sự phổ biến rộng rãi của AI vào nền kinh tế xảy ra trước vì đó không phải là điều họ tập trung vào đầu tiên.

50:03

They're focusing on automating themselves, automating their own research so that

Họ tập trung vào việc tự động hóa chính họ, tự động hóa nghiên cứu của họ để

50:07

they can do everything that they're doing faster.

Họ có thể làm mọi thứ họ đang làm nhanh hơn.

50:09

And they want that to sort of get going and get to you know, very high levels of intelligence, very high levels of general intelligence um and then deploy more out to the economy.

Và họ muốn điều đó bắt đầu và đạt đến mức trí tuệ rất cao, trí tuệ tổng quát rất cao, và sau đó triển khai rộng rãi hơn ra nền kinh tế.

50:20

economy.

Nền kinh tế.

50:20

Right?

Đúng không?

50:20

So, by the time it's actually coming for like all these different jobs, they will have had fully autonomous AI research happening for months, maybe years, you know?

Vì vậy, vào thời điểm nó thực sự ảnh hưởng đến tất cả các công việc khác nhau này, họ sẽ đã có nghiên cứu AI hoàn toàn tự động diễn ra trong nhiều tháng, có thể nhiều năm, bạn biết không?

50:33

And that means that like the AIs will be vastly superhuman at AI research and probably also vastly superhuman at lots of other things just as a side effect, you know?

Và điều đó có nghĩa là AI sẽ siêu việt hơn con người rất nhiều trong nghiên cứu AI và có lẽ cũng siêu việt hơn con người rất nhiều trong nhiều lĩnh vực khác chỉ như một tác dụng phụ, bạn biết không?

50:42

If you're wondering what this looks like, well, we wrote about what it looks like.

Nếu bạn đang tự hỏi điều này trông như thế nào, chúng tôi đã viết về những gì nó trông như thế nào.

50:46

It's sort of like this wave smashing through the economy after they do the intelligence explosion internally.

Nó giống như một làn sóng đập vỡ nền kinh tế sau khi họ thực hiện vụ bùng nổ trí tuệ nội bộ.

50:52

- What I'm hearing there is that because the AI will be able to improve itself and train itself, it'll be getting better at everything at once and then it'll be released at kind of once.

- Điều tôi nghe được ở đó là vì AI sẽ có thể tự cải thiện và tự đào tạo, nó sẽ trở nên giỏi hơn trong mọi thứ cùng một lúc và sau đó nó sẽ được phát hành cùng một lúc.

51:02

Is that accurate?

Điều đó có chính xác không?

51:03

- it's it's not it's not even exactly that because even if it's mostly just getting better at the things that it's doing like research, that'll have some spillover effects to other skills as well.

- Không hẳn chính xác như vậy vì ngay cả khi nó chủ yếu chỉ giỏi hơn trong những việc nó đang làm như nghiên cứu, điều đó sẽ có một số hiệu ứng lan tỏa đến các kỹ năng khác.

51:13

And then when it turns to the focusing on the those other skills, it'll be able to do them very fast.

Và sau đó khi nó tập trung vào những kỹ năng khác đó, nó sẽ có thể làm chúng rất nhanh.

51:18

- What jobs remain in such a scenario, do you think?

- Trong kịch bản như vậy, bạn nghĩ những công việc nào sẽ còn lại?

51:21

- I think that's actually a political question, not a technical question.

- Tôi nghĩ đó thực sự là một câu hỏi chính trị, không phải câu hỏi kỹ thuật.

51:24

- Because - Because on a technical level, all the jobs can be done by the AIs if they've reached that level.

- Vì - Vì ở cấp độ kỹ thuật, tất cả các công việc đều có thể được thực hiện bởi AI nếu chúng đạt đến mức đó.

51:31

And so, it's a question of what jobs are allowed for them to do.

Và vì vậy, đó là câu hỏi về những công việc nào được phép cho chúng làm.

51:35

- And what kind of jobs wouldn't be allowed, do you think?

- Và bạn nghĩ những loại công việc nào sẽ không được phép?

51:38

- That depends on who's in charge.

- Điều đó phụ thuộc vào ai đang nắm quyền.

51:39

So, there'd be some sort of political conversation about like what we're going to allow and disallow.

Vì vậy, sẽ có một cuộc trò chuyện chính trị về những gì chúng ta sẽ cho phép và không cho phép.

51:43

- I mean, in this scenario, the humans are still controlling them, the AIs.

- Ý tôi là, trong kịch bản này, con người vẫn đang kiểm soát chúng, các AI.

51:47

- Depends on what you mean by control, right?

- Tùy thuộc vào ý bạn là gì khi nói kiểm soát, đúng không?

51:49

So, there's like there's do the AIs actually have the goals and values that you want them to have, and are they going to robustly do that and behave as intended into the future?

Vì vậy, có phải AI thực sự có các mục tiêu và giá trị mà bạn muốn chúng có, và chúng sẽ mạnh mẽ làm điều đó và hành xử như dự định trong tương lai không?

51:56

And then there's like are they obeying your orders for now?

Và sau đó là liệu chúng có đang tuân theo mệnh lệnh của bạn ngay bây giờ không?

51:59

- Are they obeying the orders is really what I'm saying.

- Liệu chúng có tuân theo mệnh lệnh hay không thực sự là điều tôi đang nói.

52:01

- Yeah.

- Vâng.

52:01

So, like even in AI 24/7 in the scenario where the AIs take over and kill everyone, there's a period of like several years where they're still obeying orders, and they're, you know, taking some jobs but not other jobs, and they're helping to make better weapons that the US government can use to like do its arms race with China and so forth.

Vì vậy, ngay cả trong AI 24/7 trong kịch bản nơi AI tiếp quản và giết tất cả mọi người, có một giai đoạn vài năm nơi chúng vẫn tuân theo mệnh lệnh, và chúng, bạn biết đấy, làm một số công việc nhưng không làm những công việc khác, và chúng giúp chế tạo vũ khí tốt hơn mà chính phủ Mỹ có thể sử dụng để chạy đua vũ trang với Trung Quốc và vân vân.

52:21

And that's why they're able to

Và đó là lý do tại sao chúng có thể

52:23

get so much power so quickly is because the governments and the corporations and so forth trust them and is deliberately deploying them into all of these positions because it thinks that things are fine.

có được nhiều quyền lực nhanh đến vậy vì các chính phủ và tập đoàn tin tưởng chúng và cố tình triển khai chúng vào tất cả các vị trí này vì họ nghĩ rằng mọi thứ đều ổn.

52:36

But because these things are neural nets, you can't just like look inside and see what it's really thinking.

Nhưng vì những thứ này là mạng nơ-ron, bạn không thể chỉ nhìn vào bên trong và thấy những gì nó thực sự đang nghĩ.

52:41

You can't really tell.

Bạn thực sự không thể biết được.

52:42

- I think this is a really important point because unlike software where we can look at the code and see what's going on, theoretically, with AI you're saying that we don't know what why it's making the decisions that it's making cuz we can't get inside.

- Tôi nghĩ đây là một điểm rất quan trọng vì không giống như phần mềm nơi chúng ta có thể nhìn vào mã và thấy những gì đang xảy ra, về mặt lý thuyết, với AI, bạn đang nói rằng chúng ta không biết tại sao nó đưa ra những quyết định mà nó đưa ra vì chúng ta không thể nhìn vào bên trong.

52:54

- One note of optimism is that it doesn't necessarily have to be that way.

- Một điểm lạc quan là mọi thứ không nhất thiết phải như vậy.

52:58

Like there's a subfield of machine learning called mechanistic interpretability, and a broader subfield called interpretability more generally that's trying to solve that problem and trying to take these trained artificial neural nets and piece snorts them apart and understand like how the information is flowing and

Giống như có một lĩnh vực con của học máy gọi là khả năng diễn giải cơ học, và một lĩnh vực con rộng hơn gọi là khả năng diễn giải nói chung đang cố gắng giải quyết vấn đề đó và cố gắng lấy những mạng nơ-ron nhân tạo đã được huấn luyện này và tháo rời chúng ra [khịt mũi] và hiểu thông tin đang chảy như thế nào và

53:13

how the decisions are being made, so to speak.

Các quyết định được đưa ra như thế nào, có thể nói vậy.

53:15

Um the problem is just it's a very inherently hard problem.

Ừm, vấn đề chỉ là nó là một vấn đề vốn dĩ rất khó.

53:17

If you have 10 trillion connections to look at, you can look at any particular group of them and be like, "Okay, so this is how like this particular connection works." But like how do you get a sense of the whole, you know?

Nếu bạn có 10 nghìn tỷ kết nối để xem xét, bạn có thể nhìn vào bất kỳ nhóm cụ thể nào trong số đó và nghĩ, "Được rồi, vậy đây là cách kết nối cụ thể này hoạt động." Nhưng làm sao bạn có thể hiểu được toàn bộ, bạn biết không?

53:28

How do you get a sense of like what's happening at a high level?

Làm sao bạn có thể hiểu được điều gì đang xảy ra ở cấp độ cao?

53:31

And

Và

53:32

the answer is, "Well, it might be impossible." But people are working on it and they are making progress, and if they can make enough progress, then we're in a very different and much brighter world.

Câu trả lời là, "Chà, có thể là không thể." Nhưng mọi người đang nghiên cứu về nó và họ đang đạt được tiến bộ, và nếu họ có thể đạt được đủ tiến bộ, thì chúng ta sẽ ở trong một thế giới rất khác và tươi sáng hơn nhiều.

53:41

I think that it would be much less likely for us to get into those loss of control scenarios if we could just actually see what our AIs were thinking and why and how at any given time.

Tôi nghĩ rằng sẽ ít có khả năng chúng ta rơi vào những kịch bản mất kiểm soát đó hơn nếu chúng ta có thể thực sự thấy AI của mình đang nghĩ gì và tại sao cũng như bằng cách nào tại bất kỳ thời điểm nào.

53:51

Right?

Đúng không?

53:52

- Yeah.

- Ừ.

53:52

- So, we would still have the other problems to worry about, but at least we could mostly solve that one.

- Vì vậy, chúng ta vẫn sẽ có những vấn đề khác phải lo lắng, nhưng ít nhất chúng ta có thể giải quyết phần lớn vấn đề đó.

53:56

- It is pretty crazy to think that we're building a technology, a brain that we don't understand.

- Thật điên rồ khi nghĩ rằng chúng ta đang xây dựng một công nghệ, một bộ não mà chúng ta không hiểu.

54:00

- Yeah, it's pretty crazy.

- Ừ, điều đó khá điên rồ.

54:01

I mean, it's one of those things where like - In a movie, like a sci-fi movie, a bunch of scientists sit around this big brain and they're all just like they're they're making it more they're feeding it.

Ý tôi là, đó là một trong những điều mà như - Trong một bộ phim, như phim khoa học viễn tưởng, một nhóm các nhà khoa học ngồi quanh bộ não lớn này và tất cả họ chỉ đang làm cho nó lớn hơn, họ đang nuôi nó.

54:10

- Yeah.

- Ừ.

54:10

- And they don't really know what the it is.

- Và họ không thực sự biết nó là gì.

54:11

- Yeah, I mean, it's it's kind of just like obviously a dangerous thing to be doing.

- Ừ, ý tôi là, nó giống như một điều hiển nhiên nguy hiểm để làm.

54:14

- Yeah.

- Ừ.

54:15

- Um but we're doing it anyway because of this history of how the field has developed in the last 10 years where you know, people were like, "Oh wow, yeah, that's obviously dangerous.

- Ừm nhưng chúng ta vẫn làm điều đó vì lịch sử phát triển của lĩnh vực này trong 10 năm qua, nơi mà bạn biết đấy, mọi người đã nói, "Ồ chà, vâng, điều đó rõ ràng là nguy hiểm.

54:22

Oh no, what if someone else did it and did a bad job of it?

Ồ không, nếu người khác làm điều đó và làm một cách tồi tệ thì sao?

54:26

Therefore, we should do it and do a good job of it and now they're in this race where where they're racing each other and they're also under all sorts of

Do đó, chúng ta nên làm điều đó và làm một cách tốt, và bây giờ họ đang trong một cuộc đua nơi họ đang chạy đua với nhau và họ cũng phải chịu đủ loại

54:33

political pressure to like pretend that it's not as bad as it seems because they don't want to like anger their investors, they don't want to anger the White House.

áp lực chính trị để giả vờ rằng nó không tệ như vẻ ngoài của nó bởi vì họ không muốn làm phật lòng các nhà đầu tư của họ, họ không muốn làm phật lòng Nhà Trắng.

54:42

- One of the key questions we had from our audience was which and I kind of asked you this in part, but which jobs are genuinely likely to survive AI and what skills should people {slash} students focus on over the next 10 years?

- Một trong những câu hỏi chính chúng tôi nhận được từ khán giả là câu hỏi nào và tôi đã hỏi bạn một phần, nhưng những công việc nào thực sự có khả năng sống sót qua AI và những kỹ năng nào mọi người {dấu gạch chéo} sinh viên nên tập trung vào trong 10 năm tới?

54:54

- That's kind of like like imagine if you were someone living in Mexico in like 1500 and then you hear that like the conquistadors are coming.

- Điều đó giống như hãy tưởng tượng nếu bạn là người sống ở Mexico vào khoảng năm 1500 và sau đó bạn nghe nói rằng những người chinh phục đang đến.

55:06

You could be asking yourself like, "Okay, well, what sort of job should I be switching to like survive this transition?" But like, you have a lot more to worry about besides that.

Bạn có thể tự hỏi, "Được rồi, tôi nên chuyển sang loại công việc nào để sống sót qua quá trình chuyển đổi này?" Nhưng bạn có nhiều thứ phải lo lắng hơn thế.

55:14

But yes, I think I would say that like if we managed to avoid the loss of control problem and we end up with humans still in charge of the AIs and humans can like say what the AIs goals and values are

Nhưng vâng, tôi nghĩ tôi sẽ nói rằng nếu chúng ta tránh được vấn đề mất kiểm soát và cuối cùng con người vẫn nắm quyền kiểm soát AI và con người có thể nói mục tiêu và giá trị của AI

55:25

supposed to be even as they become much smarter than humans and even as they run the whole economy then probably there will be regulation that protects some areas and you can try to guess at what those areas might be.

được cho là gì ngay cả khi chúng trở nên thông minh hơn con người rất nhiều và ngay cả khi chúng điều hành toàn bộ nền kinh tế, thì có lẽ sẽ có quy định bảo vệ một số lĩnh vực và bạn có thể thử đoán những lĩnh vực đó có thể là gì.

55:39

Maybe stuff that's more like like judges potentially.

Có thể là những thứ giống như thẩm phán chẳng hạn.

55:42

- What about podcasters?

- Còn những người làm podcast thì sao?

55:44

Be honest.

Hãy thành thật đi.

55:45

- Probably not podcasters, I think.

- Có lẽ không phải những người làm podcast, tôi nghĩ vậy.

55:46

Um stuff like you know, being a nanny maybe, right?

Ừm, những thứ như bạn biết đấy, làm bảo mẫu có lẽ, đúng không?

55:49

Like I think that even if there's a robot nanny that's like really really good, I think a bunch of people might prefer to have an actual human because they might be creeped out by the idea of a really good robot nanny.

Giống như tôi nghĩ rằng ngay cả khi có một robot bảo mẫu thực sự rất giỏi, tôi nghĩ một số người có thể thích có một con người thực sự hơn vì họ có thể thấy rùng mình với ý tưởng về một robot bảo mẫu quá giỏi.

56:00

So, you can sort of you can sort of reason like that.

Vì vậy, bạn có thể suy luận theo cách đó.

56:04

There's also like

Cũng có

56:05

stuff that might be legally protected.

những thứ có thể được bảo vệ về mặt pháp lý.

56:06

Like maybe judges, for example, like are going to be legally required to be humans and not robots.

Ví dụ như thẩm phán, có thể sẽ bị yêu cầu về mặt pháp lý là phải là con người chứ không phải robot.

56:11

- Some people say though there's going to be so many jobs created that we can't foresee right now like there was in the industrial revolution or the internet boom or whatever.

- Một số người nói rằng sẽ có rất nhiều công việc được tạo ra mà chúng ta không thể lường trước được ngay bây giờ, giống như trong cuộc cách mạng công nghiệp hoặc thời kỳ bùng nổ internet hay gì đó.

56:19

- The problem with that is that um past technological advancements have been more narrow.

- Vấn đề với điều đó là những tiến bộ công nghệ trong quá khứ đã hẹp hơn.

56:24

They've like automated some things but not everything.

Chúng đã tự động hóa một số thứ nhưng không phải mọi thứ.

56:28

But we are talking about a hypothetical future situation in which everything gets automated.

Nhưng chúng ta đang nói về một tình huống tương lai giả định trong đó mọi thứ đều được tự động hóa.

56:32

So, there isn't any new job that you could do that AI couldn't also do.

Vì vậy, không có bất kỳ công việc mới nào bạn có thể làm mà AI không thể làm được.

56:37

Except if it's like protected by regulation or something.

Trừ khi nó được bảo vệ bởi quy định hoặc điều gì đó.

56:40

That's that's that's also a thing.

Đó cũng là một điều.

56:42

But so like for example, right now there's this sort of like cycle where you know the AI's learn to do a certain thing like write copy or like draft code or like debug something.

Nhưng ví dụ, ngay bây giờ có một chu kỳ kiểu như bạn biết đấy, AI học cách làm một việc cụ thể như viết quảng cáo hoặc viết mã nháp hoặc gỡ lỗi thứ gì đó.

56:56

And then humans who used to do that thing switch to managing AIs or switch to doing the other stuff that the AIs can't do.

Và sau đó những con người từng làm công việc đó chuyển sang quản lý AI hoặc chuyển sang làm những việc khác mà AI không thể làm.

57:03

And that's why there's been this dynamic historically of you know, new jobs opening up and people flooding to them.

Và đó là lý do tại sao có động lực này trong lịch sử, bạn biết đấy, công việc mới mở ra và mọi người đổ xô đến chúng.

57:08

But if it gets to the point where the AIs can do everything that humans can do and better and faster and cheaper, then whatever that new job is that you might have switched to, that the AIs can switch to that too and they'll already be better at it than you.

Nhưng nếu đến mức AI có thể làm mọi thứ con người có thể làm và tốt hơn, nhanh hơn và rẻ hơn, thì bất kể công việc mới nào bạn có thể chuyển sang, AI cũng có thể chuyển sang và chúng sẽ giỏi hơn bạn.

57:21

- Because we haven't seen widespread unemployment yet in the economy, do you think people are getting a little bit complacent because what I'm seeing on my timeline is a lot of people saying I told you so, I told you everything would be fine.

- Bởi vì chúng ta chưa thấy tỷ lệ thất nghiệp lan rộng trong nền kinh tế, bạn có nghĩ mọi người đang hơi chủ quan vì những gì tôi thấy trên dòng thời gian của mình là rất nhiều người nói rằng tôi đã nói với bạn rồi, tôi đã nói với bạn rằng mọi thứ sẽ ổn thôi.

57:32

And when you look at the US unemployment rate, currently the it's flat to slightly down.

Và khi bạn nhìn vào tỷ lệ thất nghiệp của Mỹ, hiện tại nó đang ổn định hoặc giảm nhẹ.

57:36

If you look at the UK, it is up.

Nếu bạn nhìn vào Vương quốc Anh, nó đang tăng.

57:39

The trend is up

Xu hướng đang tăng

57:40

compared to last year.

So với năm ngoái.

57:41

We're at about 5% unemployment.

Chúng ta đang ở mức thất nghiệp khoảng 5%.

57:43

The US is at 4.2% unemployment.

Mỹ đang ở mức thất nghiệp 4,2%.

57:45

- Yeah.

- Vâng.

57:45

Basically, nobody has said that there would be mass unemployment by now.

Về cơ bản, không ai nói rằng sẽ có thất nghiệp hàng loạt vào lúc này.

57:48

Or at least we didn't say that.

Hoặc ít nhất chúng tôi đã không nói điều đó.

57:49

You know, and we were historically one of the more bullish people on AI progress.

Bạn biết đấy, và chúng tôi từng là một trong những người lạc quan nhất về tiến bộ AI.

57:54

In AI 2027, because of the dynamics that we just described, the mass unemployment doesn't happen until 2028 or 2029 after they already have superintelligence.

Trong AI 2027, vì những động lực mà chúng tôi vừa mô tả, thất nghiệp hàng loạt không xảy ra cho đến năm 2028 hoặc 2029 sau khi họ đã có siêu trí tuệ.

58:01

Because, again, the companies aren't trying to cause mass unemployment as step one.

Bởi vì, một lần nữa, các công ty không cố gắng gây ra thất nghiệp hàng loạt như bước một.

58:06

That's like step three after you know, it's like step one, automate themselves.

Đó giống như bước ba sau khi bạn biết đấy, nó giống như bước một, tự động hóa chính họ.

58:11

Step two, have this recursive self-improvement to get to superintelligence.

Bước hai, có sự tự cải thiện đệ quy này để đạt được siêu trí tuệ.

58:14

Step three, expand out into the economy and automate everything.

Bước ba, mở rộng ra nền kinh tế và tự động hóa mọi thứ.

58:17

And so, this is really unfortunate from humanity's perspective, because one might have hoped that if there was this broad wave of automation going through the economy, people would sit up and pay attention and think about where all this is headed

Và vì vậy, điều này thực sự không may từ góc nhìn của nhân loại, bởi vì người ta có thể hy vọng rằng nếu có làn sóng tự động hóa rộng rãi này đi qua nền kinh tế, mọi người sẽ chú ý và suy nghĩ về nơi tất cả những điều này đang hướng tới

58:32

and demand good regulations from the government.

Và yêu cầu các quy định tốt từ chính phủ.

58:36

But, that's not actually what the strategy of the companies are taking.

Nhưng, đó không thực sự là chiến lược mà các công ty đang áp dụng.

58:38

You know, they're going to be getting the superintelligence first and then doing the broad wave of automation, which means that by the time they're actually doing all of that, uh well, it's already going to be moving very fast and the AIs will already be very powerful.

Bạn biết đấy, họ sẽ có được siêu trí tuệ trước và sau đó thực hiện làn sóng tự động hóa rộng rãi, điều đó có nghĩa là vào thời điểm họ thực sự làm tất cả những điều đó, thì nó đã diễn ra rất nhanh và các AI sẽ đã rất mạnh mẽ.

58:50

- In your 2027 report, so you wrote that in 2025, but it is called AI 2027, you said that in mid-2025 we'd have the autonomous employee, which is sort of like AI agents taking instructions over Slack or Teams.

- Trong báo cáo năm 2027 của bạn, bạn đã viết điều đó vào năm 2025, nhưng nó được gọi là AI 2027, bạn nói rằng vào giữa năm 2025 chúng ta sẽ có nhân viên tự động, giống như các tác nhân AI nhận chỉ thị qua Slack hoặc Teams.

59:04

That happened.

Điều đó đã xảy ra.

59:04

I've actually got an AI agent in my WhatsApp I can talk to.

Tôi thực sự có một tác nhân AI trong WhatsApp của tôi mà tôi có thể nói chuyện.

59:07

Of course, you've got Claude by exploded, obviously, around the world.

Tất nhiên, bạn đã có Claude, rõ ràng là, trên khắp thế giới.

59:10

And now, um you know, Claude have talked about uh their new Slack integration.

Và bây giờ, bạn biết đấy, Claude đã nói về tích hợp Slack mới của họ.

59:14

But, lots of people are using agents now.

Nhưng, rất nhiều người đang sử dụng các tác nhân bây giờ.

59:16

And that happened, I'd say for us at the We really sort of caught onto it at the start of 2026.

Và điều đó đã xảy ra, tôi nói rằng đối với chúng tôi, chúng tôi thực sự bắt kịp nó vào đầu năm 2026.

59:22

You also said by 2026 companies begin replacing entire corporate departments with AI agent subscriptions.

Bạn cũng nói rằng đến năm 2026 các công ty bắt đầu thay thế toàn bộ các bộ phận công ty bằng các đăng ký tác nhân AI.

59:27

2027, the final job.

Năm 2027, công việc cuối cùng.

59:28

AI automates the job of the human AI researchers themselves and begins the machine learning research to upgrade and build the next generation of AIs.

AI tự động hóa công việc của chính các nhà nghiên cứu AI con người và bắt đầu nghiên cứu học máy để nâng cấp và xây dựng thế hệ AI tiếp theo.

59:37

- Yeah, yeah.

- Vâng, vâng.

59:38

So, again, timelines.

Vì vậy, một lần nữa, các mốc thời gian.

59:39

We are uncertain about how long it will take to achieve these milestones.

Chúng tôi không chắc chắn về việc sẽ mất bao lâu để đạt được những cột mốc này.

59:43

In this scenario, they happen at those times, but by the time we had actually published this scenario, our timelines had shifted back a little bit.

Trong kịch bản này, chúng xảy ra vào những thời điểm đó, nhưng vào thời điểm chúng tôi thực sự công bố kịch bản này, các mốc thời gian của chúng tôi đã lùi lại một chút.

59:51

Specifically, mine had.

Cụ thể, của tôi đã lùi lại.

59:52

So, like my 50% mark was 2028.

Vì vậy, mốc 50% của tôi là năm 2028.

59:55

- Mhm.

59:55

- For that for the full automation of AI research milestone, not 2027.

- Đối với cột mốc tự động hóa hoàn toàn nghiên cứu AI, không phải năm 2027.

1:00:00

Uh and then other people on my team had more like 2030, 2031, things like that.

Ừ và sau đó những người khác trong nhóm của tôi có mốc khoảng 2030, 2031, những thứ tương tự.

1:00:05

So, I I kind of want to like maybe try to illustrate this with the you know we have like this probability distribution.

Vì vậy, tôi muốn thử minh họa điều này với bạn biết đấy, chúng tôi có phân bố xác suất này.

1:00:11

It's like a smeared out probability mass.

Nó giống như một khối xác suất bị lan tỏa.

1:00:13

And like the 50% mark is this particular year, but there's like a lot of possibility that it happens - Later.

Và mốc 50% là năm cụ thể này, nhưng có rất nhiều khả năng nó xảy ra - Muộn hơn.

1:00:19

- years earlier or years later, right?

- Nhiều năm trước đó hoặc nhiều năm sau đó, phải không?

1:00:22

- Got you.

- Hiểu rồi.

1:00:23

What is this AI 2040?

AI 2040 này là gì?

1:00:25

- So, AI 2027 was our best guess prediction as to how things would actually go.

- Vì vậy, AI 2027 là dự đoán tốt nhất của chúng tôi về cách mọi thứ sẽ thực sự diễn ra.

1:00:28

- Yeah.

- Vâng.

1:00:29

- AI 2040 plan A is our recommendation for how things should go.

- AI 2040 kế hoạch A là khuyến nghị của chúng tôi về cách mọi thứ nên diễn ra.

1:00:33

So, we called it AI 2040 because in this scenario, uh they build superintelligence in 2040 instead of much sooner because they delay things.

Vì vậy, chúng tôi gọi nó là AI 2040 bởi vì trong kịch bản này, họ xây dựng siêu trí tuệ vào năm 2040 thay vì sớm hơn nhiều vì họ trì hoãn mọi thứ.

1:00:43

- Why do they delay things?

- Tại sao họ trì hoãn mọi thứ?

1:00:44

- To manage the risks and make sure that power is distributed equitably.

- Để quản lý rủi ro và đảm bảo rằng quyền lực được phân phối công bằng.

1:00:49

They basically like regulate AI development so that it still continues, but at a slower, more reasonable pace uh in a more transparent and safe way and spread out over more countries and companies.

Về cơ bản, họ điều chỉnh sự phát triển AI để nó vẫn tiếp tục, nhưng với tốc độ chậm hơn, hợp lý hơn, minh bạch và an toàn hơn, và được phân bổ cho nhiều quốc gia và công ty hơn.

1:01:00

And as a result, they get to superintelligence in 2040 instead of in say 2030.

Và kết quả là, họ đạt được siêu trí tuệ vào năm 2040 thay vì, chẳng hạn, năm 2030.

1:01:06

And then we call it plan A because well, it's our recommendation.

Và chúng tôi gọi đó là Kế hoạch A vì, ừm, đó là khuyến nghị của chúng tôi.

1:01:09

Like we've we've come up with a plan for what government should do.

Giống như chúng tôi đã đưa ra một kế hoạch về những gì chính phủ nên làm.

1:01:13

And uh the scenario is an illustration of what it might look like to implement that plan.

Và kịch bản này là một minh họa cho việc thực hiện kế hoạch đó có thể trông như thế nào.

1:01:18

In a similar way to how AI 2027 is kind of an illustration of what it would might look like to do with the companies are currently planning to do.

Tương tự như cách AI 2027 là một minh họa cho việc thực hiện những gì các công ty hiện đang lên kế hoạch làm.

1:01:26

If that makes sense.

Nếu điều đó có ý nghĩa.

1:01:28

- And is this wishful thinking or is this what you think is going to happen?

- Và đây là suy nghĩ mơ tưởng hay là điều bạn nghĩ sẽ xảy ra?

1:01:31

- No, it's definitely not what we think is going to happen.

- Không, chắc chắn đó không phải là điều chúng tôi nghĩ sẽ xảy ra.

1:01:33

- It's not what you think is going to happen?

- Không phải điều bạn nghĩ sẽ xảy ra?

1:01:34

- No, no, what we think is going to happen is still something more like this, right?

- Không, không, điều chúng tôi nghĩ sẽ xảy ra vẫn giống như thế này, phải không?

1:01:38

We don't expect the world to listen to us, right?

Chúng tôi không mong đợi thế giới sẽ lắng nghe chúng tôi, phải không?

1:01:41

This is our recommendation, but we we hope that people do something like this and we think it's possible, but it's not our like prediction for what's going to happen by default, you know.

Đây là khuyến nghị của chúng tôi, nhưng chúng tôi hy vọng mọi người sẽ làm điều gì đó tương tự và chúng tôi nghĩ điều đó có thể xảy ra, nhưng đó không phải là dự đoán mặc định của chúng tôi về những gì sẽ xảy ra, bạn biết đấy.

1:01:51

- So, I do want to run through the plans, the potential plans, and also plan A, but um just to close off on how things might look after the year cuz I think I wanted to touch on robotics, too, and I've got this graph here which talks about share of labor output.

- Vì vậy, tôi muốn xem xét các kế hoạch, các kế hoạch tiềm năng, và cả Kế hoạch A, nhưng để kết thúc phần về cách mọi thứ có thể diễn ra sau năm đó vì tôi nghĩ tôi cũng muốn đề cập đến robot, và tôi có biểu đồ này nói về tỷ trọng sản lượng lao động.

1:02:04

- Yes.

- Vâng.

1:02:04

- Yeah.

- Ừ.

1:02:05

- Um which I found to be quite striking.

- Ừm, điều mà tôi thấy khá ấn tượng.

1:02:06

I've been sat here wondering as an employer who employs hundreds and hundreds of people when all this stuff is going to happen.

Tôi đã ngồi đây tự hỏi với tư cách là một nhà tuyển dụng thuê hàng trăm, hàng trăm người khi nào tất cả những điều này sẽ xảy ra.

1:02:13

And you know, we're still hiring more people as things stand.

Và bạn biết đấy, chúng tôi vẫn đang tuyển thêm người như hiện tại.

1:02:17

There are some roles where our consideration is changing, shifting considerably.

Có một số vai trò mà sự cân nhắc của chúng tôi đang thay đổi, chuyển dịch đáng kể.

1:02:21

And I'd have to say that, you know, we're probably in the phase where our teams are AI-powered and they're using agents to do some of their work now.

Và tôi phải nói rằng, bạn biết đấy, chúng tôi có lẽ đang ở giai đoạn mà các nhóm của chúng tôi được hỗ trợ bởi AI và họ đang sử dụng các tác nhân AI để làm một số công việc của họ bây giờ.

1:02:28

But I'm wondering as an employer like when is it when does this happen?

Nhưng tôi tự hỏi với tư cách là một nhà tuyển dụng, khi nào điều này xảy ra?

1:02:32

- Yeah, great question.

- Vâng, câu hỏi hay.

1:02:32

So, if we could maybe zoom in on this a little bit.

Vì vậy, nếu chúng ta có thể phóng to phần này một chút.

1:02:35

- it on the screen.

- Nó trên màn hình.

1:02:36

- So, this is in the AI 2040 plan A scenario.

- Vì vậy, đây là trong kịch bản AI 2040 Kế hoạch A.

1:02:40

And notably in that scenario, there's significant regulation introduced in 2029 that slows down the pace of AI development.

Và đáng chú ý trong kịch bản đó, có quy định đáng kể được ban hành vào năm 2029 làm chậm tốc độ phát triển AI.

1:02:47

In the scenario, they do that sort of at the last moment.

Trong kịch bản, họ làm điều đó vào phút cuối.

1:02:49

So, in the scenario, if they hadn't done that, then it was about to take off similar to how it does in the AI 2027.

Vì vậy, trong kịch bản, nếu họ không làm điều đó, thì nó sắp bùng nổ tương tự như trong AI 2027.

1:02:56

Um but as you can see like in the scenario, there's still a bunch of jobs at the point that they implement it.

Ừm, nhưng như bạn có thể thấy trong kịch bản, vẫn còn một loạt công việc tại thời điểm họ thực hiện quy định.

1:03:02

And this gets back to what I was saying earlier is that if you wait until most people have lost their jobs to regulate the AI companies, that's already too late because they will probably already have super intelligent AI by then because their strategy is to first get super

Và điều này quay lại những gì tôi đã nói trước đó rằng nếu bạn chờ cho đến khi hầu hết mọi người mất việc làm để điều chỉnh các công ty AI, thì đã quá muộn vì họ có thể sẽ có AI siêu thông minh vào thời điểm đó bởi vì chiến lược của họ là trước tiên đạt được AI siêu

1:03:17

intelligent AI and then do all that stuff.

thông minh và sau đó làm tất cả những điều đó.

1:03:19

- think you say that it would collapse the economy and cause even more harm to suddenly regulate something that all of us and all of our lives were then at that point relying on.

- Tôi nghĩ bạn nói rằng nó sẽ làm sụp đổ nền kinh tế và gây ra nhiều tác hại hơn nếu đột ngột điều chỉnh một thứ mà tất cả chúng ta và cuộc sống của chúng ta lúc đó đang phụ thuộc vào.

1:03:26

- Oh, but it's a risk well worth taking.

- Ồ, nhưng đó là một rủi ro đáng để chấp nhận.

1:03:28

I mean, we It's true that right now a lot of people use AI for a lot of things, but like if we could somehow slow or halt AI development now to set up a better way to do it, that would be well worth it.

Ý tôi là, chúng tôi. Đúng là hiện tại rất nhiều người sử dụng AI cho nhiều việc, nhưng nếu chúng ta có thể bằng cách nào đó làm chậm hoặc dừng sự phát triển AI ngay bây giờ để thiết lập một cách tốt hơn để làm điều đó, thì điều đó rất đáng giá.

1:03:39

Um even though there would be significant costs.

Ừm, mặc dù sẽ có những chi phí đáng kể.

1:03:41

- But you can't over here, right?

- Nhưng bạn không thể làm điều đó ở đây, phải không?

1:03:42

Can you?

Bạn có thể không?

1:03:43

At this point where AI and robotics are doing most of the labor output.

Tại thời điểm này khi AI và robot đang làm hầu hết sản lượng lao động.

1:03:47

- That's right.

- Đúng vậy.

1:03:47

But in but in but in this scenario, in the AI 2040 Plan A scenario, they put in the regulations in And then they slowly and carefully develop AI in a way that avoids all the problems, which we can get into in a little bit.

Nhưng trong kịch bản này, trong kịch bản AI 2040 Kế hoạch A, họ đưa ra các quy định vào năm 2029. Và sau đó họ phát triển AI một cách chậm rãi và cẩn thận theo cách tránh được tất cả các vấn đề, mà chúng ta có thể đề cập đến sau.

1:04:00

And so eventually, yes, eventually the AIs take the jobs.

Và cuối cùng, vâng, cuối cùng AI sẽ đảm nhận công việc.

1:04:03

Eventually basically the whole economy is run by AIs and robots, but it happens gradually over the course of the 2030s instead of happening in this sort of crazy shock, you know, a year later.

Cuối cùng về cơ bản toàn bộ nền kinh tế sẽ được vận hành bởi AI và robot, nhưng điều đó xảy ra dần dần trong suốt những năm 2030 thay vì xảy ra trong một cú sốc điên rồ, bạn biết đấy, một năm sau đó.

1:04:15

Right?

Phải không?

1:04:15

Because in this scenario, they don't let the companies recursively self-improve and get to super intelligence as fast as possible.

Bởi vì trong kịch bản này, họ không cho phép các công ty tự cải thiện một cách đệ quy và đạt đến siêu trí tuệ nhanh nhất có thể.

1:04:23

Instead, they regulate AI development so that the core capabilities of the AIs are improving at a more reasonable pace and also in a more transparent way so that the scientific community can see what's going on and help make it safe.

Thay vào đó, họ điều chỉnh sự phát triển AI để các khả năng cốt lõi của AI được cải thiện với tốc độ hợp lý hơn và cũng theo cách minh bạch hơn để cộng đồng khoa học có thể thấy những gì đang xảy ra và giúp làm cho nó an toàn.

1:04:37

- But it's I guess I noticed here that in both your scenarios, eventually AI and robotics do pretty much all the jobs.

- Nhưng tôi đoán tôi nhận thấy ở đây rằng trong cả hai kịch bản của bạn, cuối cùng AI và robot sẽ làm gần như tất cả công việc.

1:04:44

- Yes.

- Vâng.

1:04:45

- So you kind of side there with Elon when Elon says that working will be a choice.

- Vì vậy, bạn có phần đứng về phía Elon khi Elon nói rằng làm việc sẽ là một sự lựa chọn.

1:04:50

- Uh - Because I mean we're going to have to - I mean, if laughter it by definition if it can do all the things, then it can do all the things.

- Ừ - Bởi vì ý tôi là chúng ta sẽ phải - Ý tôi là, nếu [cười] theo định nghĩa nếu nó có thể làm tất cả mọi thứ, thì nó có thể làm tất cả mọi thứ.

1:04:58

I think that there's a question of like should we allow there to be AIs that can do all the things, right?

Tôi nghĩ rằng có một câu hỏi kiểu như liệu chúng ta có nên cho phép tồn tại những AI có thể làm được tất cả mọi thứ, đúng không?

1:05:03

Some people think that the answer is no and we should just shut it all down and prevent these types of AIs from being created in the first

Một số người nghĩ rằng câu trả lời là không và chúng ta nên đóng cửa tất cả và ngăn chặn những loại AI này được tạo ra ngay từ đầu.

1:05:11

place.

Và chúng tôi thực sự có phần đồng cảm với điều đó.

1:05:11

And we're actually kind of sympathetic to that.

Chúng ta có nên đưa ra sơ đồ kế hoạch không?

1:05:13

We have our Should we bring out the plans diagram?

- Vâng.

1:05:17

- Yeah.

- Cảm ơn.

1:05:19

- Thanks.

Vâng.

1:05:19

Yeah.

Vì vậy, kịch bản của chúng tôi được gọi là AI 2040 kế hoạch A.

1:05:20

So, our scenario is called AI 2040 plan A.

Đó là một kịch bản trong đó họ làm chậm sự phát triển AI để siêu trí tuệ xảy ra vào năm 2040 thay vì sớm hơn.

1:05:24

It's a scenario in which they slow down AI development to make a super intelligence happen in 2040 instead of earlier.

Và kế hoạch A là khuyến nghị của chúng tôi.

1:05:30

And plan A is our recommendation.

Vì vậy, điều này phần nào minh họa cho khuyến nghị của chúng tôi.

1:05:32

So, this is sort of illustrating our recommendation.

Nhưng, để so sánh, chúng tôi đã tạo ra các kịch bản nhỏ minh họa các kế hoạch thay thế khác nhau, mà chúng tôi gọi là kế hoạch S, kế hoạch B, kế hoạch C và kế hoạch D.

1:05:34

But, for comparison, we made like mini scenarios illustrating different alternative plans, which we call plan S, plan B, plan C, and plan D.

Kế hoạch D về cơ bản là điều tương tự xảy ra trong AI 2027.

1:05:42

Plan D is basically the same thing that happens in AI 2027.

Giống như, cuộc đua vẫn tiếp tục.

1:05:46

Like, the race continues.

Có rất ít quy định.

1:05:47

There's very little regulation.

Ừm, bạn có thể đọc về điều đó trong AI 2027.

1:05:49

Um you can read about that in AI 2027.

Kế hoạch C cũng rất giống với những gì xảy ra trong phần kết thúc chậm lại của AI 2027, nơi họ giải quyết các vấn đề liên quan đến sự liên kết (alignment).

1:05:51

Plan C also very similar to what happens in the slow down ending of AI 2027 where they solve the alignment problems.

Vì vậy, trong phần kết thúc đó, họ chậm lại một chút, chuyển nhiều nguồn lực hơn cho nghiên cứu an toàn AI và liên kết AI, gặp may và thành công, và bây giờ họ có các AI liên kết, và sau đó họ tăng tốc trở lại và chiếm hết việc làm và đánh bại Trung Quốc và tất cả những điều đó.

1:05:58

So, in that ending, they like slow down a little bit, pivot more resources to AI alignment and AI safety research, get lucky and succeed, and now they have aligned AIs, and then they speed up again and take all the jobs and beat China and all those things.

Kế hoạch B giống như kế hoạch C ở chỗ, về cơ bản trong kế hoạch B, bạn đang tỏ ra hung hăng hơn với Trung Quốc và bạn thực hiện các hành động phá hoại hoặc tấn công mạng để giữ họ ở phía sau, để bạn có thêm không gian thở để tự giải quyết các vấn đề liên kết.

1:06:14

Plan B is it's kind of like plan C in that well, basically in plan B, you're uh being more aggressive towards China and you're like taking actions to sabotage or cyber attack them to like keep them behind so that you have more breathing room to solve the alignment problems yourself.

Kế hoạch A là khuyến nghị của chúng tôi.

1:06:34

Plan A is our recommendation.

Đó là quy định trong nước và sau đó là một thỏa thuận quốc tế để tiếp tục xây dựng AI, nhưng theo một cách tốt hơn nhiều.

1:06:36

It's uh domestic regulation and then an international deal to continue building AI, but in a much better way.

Kế hoạch S là đóng cửa tất cả.

1:06:44

Plan S is shut it all down.

Nếu bạn muốn có một tương lai không có những AI có thể làm mọi thứ tốt hơn và nhanh hơn con người, bạn có lẽ muốn một cái gì đó như kế hoạch S.

1:06:46

If you want to have a future where there aren't AIs running around that can do everything better and faster than humans, you kind of want something like plan S.

Bạn muốn gì?

1:06:55

What do you want?

Kế hoạch A là khuyến nghị của chúng tôi.

1:06:57

Plan A is our recommendation.

Tôi nghĩ rằng tôi đồng cảm với kế hoạch S, nhưng vì những lý do chúng tôi đã giải thích, chúng tôi khuyến nghị kế hoạch A thay thế.

1:06:59

I think that I'm sympathetic to plan S, but for reasons we explained, we recommend plan A instead.

- Và bạn nghĩ điều gì là có khả năng xảy ra nhất?

1:07:05

- And do you think is most probable?

Nếu bạn thành thật?

1:07:07

If you're being honest?

- Kế hoạch D.

1:07:07

- Plan D.

- Đó là họ chỉ - yeah, kiểu 24/7, nơi họ tiếp tục chạy đua.

1:07:08

- Which is that they just - yeah, 24/7 type of thing where they keep racing.

Họ không thực sự chậm lại đáng kể.

1:07:12

They don't really slow down significantly.

Ừm và mọi thứ diễn ra cực kỳ nhanh chóng.

1:07:14

Um and uh things happen extremely fast.

Sơ đồ phần nào giải thích lý do đằng sau điều này.

1:07:18

The diagram sort of explains like roughly the reasoning behind this, too.

Vì vậy, có một điều cấp cao như bạn có muốn tiếp tục chạy đua nhanh nhất có thể để làm cho AI thông minh hơn và thông minh hơn, để giao cho chúng phụ trách nhiều thứ hơn để chúng ta có thể đánh bại Trung Quốc?

1:07:21

So, like there's this high-level thing of like do you want to keep racing as fast as possible to make the AI smarter and smarter, to put them in charge of more things so that we can beat China?

Bạn biết đấy, nếu bạn hài lòng với điều đó, thì bạn đi xuống và nó nói rằng biến thể xảy ra ở đây.

1:07:32

You know, if you're happy with that, then you get down and it says variation of happens here.

Nếu bạn lo lắng về điều đó, thì bạn sẽ đến một cái gì đó như thế này.

1:07:38

If you are worried about that, well you get to something like this.

Có nhiều lựa chọn khác nhau ngoài những lựa chọn này, nhưng đây là những lựa chọn mà chúng tôi có thể nén lên một màn hình.

1:07:43

There's more different options besides these, but this is kind of like the ones that we could compress onto a screen.

- Bạn có con không?

1:07:50

- Do you have children?

- Vâng, tôi có hai đứa con.

1:07:51

- Yeah, I have two children.

Nó hơi buồn.

1:07:56

It's kind of sad.

Tôi nghĩ rằng bằng cách này hay cách khác, điều này có lẽ sẽ kết thúc trước khi chúng đủ tuổi để tham gia lực lượng lao động.

1:07:57

Like I think that one way or another this will probably all be over by the time they're old enough to join the workforce.

Vì vậy, tôi không nghĩ chúng sẽ bao giờ tham gia lực lượng lao động.

1:08:05

So, I don't think they'll ever join the workforce.

- Khi bạn nói điều này sẽ kết thúc trước khi chúng tham gia... Ý bạn là gì khi nói điều này sẽ kết thúc?

1:08:08

- When you say this will be all over by the time they join the What do you mean by this will be all over?

- Vì vậy, những cột mốc mà tôi đã mô tả, như AI tự động hóa nghiên cứu AI, AI trở nên siêu thông minh.

1:08:13

- So, these milestones that I described, like AIs automating the AI research, AIs getting super intelligent.

Ừm, sau đó AI bùng nổ vào nền kinh tế, chiếm việc làm, xây dựng các nhà máy robot để chế tạo thêm robot để xây thêm nhà máy, v.v.

1:08:20

Um AIs then exploding onto the economy, taking the jobs, building robot factories to build more robots to build more factories, etc.

GDP bắt đầu tăng theo chiều dọc.

1:08:29

GDP starting to go vertical.

Đó là những gì tôi muốn nói.

1:08:31

That sort of thing is what I mean.

Giống như tất cả những sự kiện đó xảy ra.

1:08:32

Like all of those events transpiring.

Có lẽ có khoảng 10, 20% cơ hội hoặc gì đó mà nó chạm vào bức tường và không có điều nào trong số này xảy ra ngay cả khi bạn không làm gì cả.

1:08:34

Maybe there's like you know, 10, 20% chance or something that hits the wall and none of this comes to pass even if you don't do anything.

Có lẽ là, bạn biết đấy, có 10, 20% khả năng hoặc gì đó mà nó đâm vào tường và tất cả những điều này sẽ không xảy ra, ngay cả khi bạn không làm gì cả.

1:08:44

- How old is your oldest?

- Con lớn nhất của anh bao nhiêu tuổi rồi?

1:08:45

- Six.

- Sáu.

1:08:46

- Six.

- Sáu.

1:08:47

Boy or girl?

Trai hay gái?

1:08:48

- Girl.

- Gái.

1:08:48

- Girl.

- Gái.

1:08:48

So, your daughter comes to you and says, "Dad, what should I um what should I study in school?" - I mean, again, like if these radical transformations happen, then the world will just look completely different and what sort of jobs you set yourself up for basically, won't matter that much, probably.

Vậy, con gái anh đến và nói, "Bố, con nên học gì ở trường?" - Ý tôi là, một lần nữa, nếu những biến đổi triệt để này xảy ra, thì thế giới sẽ trông hoàn toàn khác và loại công việc bạn chuẩn bị cho bản thân về cơ bản sẽ không quan trọng lắm, có lẽ vậy.

1:09:03

I would say um that the thing to do is well, A, try to make it actually go

Tôi sẽ nói rằng điều nên làm là, A, cố gắng làm cho nó thực sự diễn ra

1:09:09

well.

Ừ.

1:09:09

Like, if you can exert any influence at all on history and how this all develops, you should be trying very hard to steer the future in better directions.

Giống như, nếu bạn có thể gây ảnh hưởng bất kỳ lên lịch sử và cách tất cả điều này phát triển, bạn nên cố gắng rất nhiều để định hướng tương lai theo những hướng tốt đẹp hơn.

1:09:18

And then separately from that, on a personal level, you should focus on well, being a good person and doing things that are sort of good in their for their own sake, rather than good because they'll set you up for later employment because that later employment is going to be very uncertain um basically.

Và sau đó, riêng ở mức độ cá nhân, bạn nên tập trung vào việc trở thành một người tốt và làm những việc tốt vì chính chúng, thay vì tốt vì chúng sẽ chuẩn bị cho bạn việc làm sau này, bởi vì việc làm sau này sẽ rất bất định về cơ bản.

1:09:34

- Elon talks about this age of abundance we're heading towards.

- Elon nói về thời đại thịnh vượng mà chúng ta đang hướng tới.

1:09:37

Age of abundance - There'll definitely be abundance.

Thời đại thịnh vượng - Chắc chắn sẽ có sự thịnh vượng.

1:09:41

The question is who controls the abundance?

Câu hỏi là ai kiểm soát sự thịnh vượng đó?

1:09:44

And what do they do with it?

Và họ làm gì với nó?

1:09:45

Right?

Đúng không?

1:09:45

Are the AIs controlled by anyone?

Các AI có được kiểm soát bởi ai không?

1:09:48

Or are they doing their own thing?

Hay chúng tự làm việc của mình?

1:09:50

And then if they are controlled by people, who controls them?

Và nếu chúng được kiểm soát bởi con người, ai kiểm soát chúng?

1:09:52

And what do they do?

Và họ làm gì?

1:09:54

And what's the sort of like political structure governing how they make those decisions?

Và cấu trúc chính trị chi phối cách họ đưa ra những quyết định đó là gì?

1:09:58

- I think it was Geoffrey Hinton that said to me, he said there's no example in nature where a more intelligent species is has less control than a less intelligent species.

- Tôi nghĩ Geoffrey Hinton đã nói với tôi rằng, ông ấy nói không có ví dụ nào trong tự nhiên mà một loài thông minh hơn lại có ít quyền kiểm soát hơn một loài kém thông minh hơn.

1:10:09

Thus saying that we're quite arrogant to think that in a world where there's this artificial brain that's a gazillion times the size of mine, that I'm going to give it orders.

Vì vậy, nói rằng chúng ta khá kiêu ngạo khi nghĩ rằng trong một thế giới có bộ não nhân tạo lớn gấp hàng tỷ lần bộ não của tôi, tôi sẽ ra lệnh cho nó.

1:10:20

- Yeah.

- Ừ.

1:10:20

I mean, that's the thing is I I think it's like that should be our default assumption.

Ý tôi là, đó là điều tôi nghĩ rằng đó nên là giả định mặc định của chúng ta.

1:10:26

Is that like, well, there's these brains, we can't see exactly what they're thinking.

Là, ừ, có những bộ não này, chúng ta không thể thấy chính xác chúng đang nghĩ gì.

1:10:29

We're going to make them smarter than us and put them in charge of everything.

Chúng ta sẽ làm cho chúng thông minh hơn chúng ta và giao phó chúng phụ trách mọi thứ.

1:10:33

- And then we're going to give them bodies.

- Và sau đó chúng ta sẽ cho chúng cơ thể.

1:10:34

- Yeah.

- Ừ.

1:10:34

And then they're going to be autonomously building new factories and so forth.

Và sau đó chúng sẽ tự động xây dựng các nhà máy mới, vân vân.

1:10:37

And like, how is this supposed to end well again?

Và làm sao điều này có thể kết thúc tốt đẹp được nữa?

1:10:40

Like, isn't this just exactly like us picking a new species that's then going to outcompete us when it doesn't need us anymore?

Giống như, chẳng phải điều này giống hệt như chúng ta chọn một loài mới mà sau đó sẽ cạnh tranh vượt trội chúng ta khi nó không cần chúng ta nữa sao?

1:10:46

Like, I think that is just the default trajectory.

Tôi nghĩ đó chỉ là quỹ đạo mặc định.

1:10:48

Now, there's a whole argument we can get into about like ways

Bây giờ, có cả một cuộc tranh luận về những cách

1:10:52

that we could get off of that default trajectory.

mà chúng ta có thể thoát khỏi quỹ đạo mặc định đó.

1:10:54

So, for example, there's research into interpretability that I described previously.

Ví dụ, có nghiên cứu về khả năng diễn giải mà tôi đã mô tả trước đó.

1:10:57

And if that research bears fruit, then you will be able to actually see what they're thinking.

Và nếu nghiên cứu đó đơm hoa kết trái, thì bạn sẽ có thể thực sự thấy chúng đang nghĩ gì.

1:11:01

And then that would be an excellent tool for shaping them and controlling them and making sure that they do what we want, right?

Và sau đó đó sẽ là một công cụ tuyệt vời để định hình và kiểm soát chúng, đảm bảo rằng chúng làm những gì chúng ta muốn, đúng không?

1:11:07

There's other sorts of um

Có những loại khác

1:11:09

AI alignment research agendas that are making progress.

chương trình nghiên cứu căn chỉnh AI đang tiến triển.

1:11:11

And if enough of those agendas succeed sufficiently, we can avoid this problem.

Và nếu đủ các chương trình đó thành công đủ mức, chúng ta có thể tránh được vấn đề này.

1:11:15

Of course, also there's the regulatory side, too, where like part of what makes this difficult is that we're building these AIs in race conditions, you know?

Tất nhiên, cũng có khía cạnh quản lý, nơi mà một phần điều làm cho điều này khó khăn là chúng ta đang xây dựng các AI này trong điều kiện cạnh tranh, bạn biết đấy?

1:11:24

Like the companies are secretive about their recipes for making these AIs because

Các công ty giữ bí mật về công thức tạo ra các AI này vì

1:11:29

it's secrets that they want to protect so that other people can't copy them.

Đó là những bí mật họ muốn bảo vệ để người khác không thể sao chép.

1:11:32

And so a lot of this is happening, you know, behind closed doors.

Và vì vậy rất nhiều điều này đang diễn ra sau cánh cửa đóng kín.

1:11:35

Only a few people can really see the recipes that they're using to train these AIs and so forth.

Chỉ một số ít người thực sự có thể thấy các công thức họ sử dụng để huấn luyện các AI này, vân vân.

1:11:40

And then oftentimes when the AIs behave in unexpected ways or even just like blatantly misaligned ways, sometimes that information doesn't really flow out to the public because the companies are not really

Và sau đó thường khi các AI hành xử theo những cách không mong đợi hoặc thậm chí là lệch lạc rõ ràng, đôi khi thông tin đó không thực sự truyền ra công chúng vì các công ty không thực sự

1:11:50

incentivized to tell everyone about how they messed up and how their AI is evil.

có động lực để nói với mọi người về cách họ đã làm hỏng và AI của họ xấu xa như thế nào.

1:11:54

It's just not very conducive to scientific progress on these issues.

Điều đó không có lợi cho tiến bộ khoa học về những vấn đề này.

1:11:57

If the regulatory system was different, then perhaps we could be in a better situation, make faster progress.

Nếu hệ thống quản lý khác đi, thì có lẽ chúng ta có thể ở trong tình huống tốt hơn, tiến bộ nhanh hơn.

1:12:02

Also, of course, we wouldn't be planning to put these AIs in charge of everything as fast as possible.

Và tất nhiên, chúng tôi sẽ không lên kế hoạch để giao phó mọi thứ cho những AI này một cách nhanh nhất có thể.

1:12:07

And we wouldn't be planning to like let them self-improve, you know?

Và chúng tôi sẽ không lên kế hoạch để chúng tự cải thiện bản thân, bạn biết đấy?

1:12:10

Like the these are choices

Giống như đây là những lựa chọn

1:12:12

that we could not make, you know?

Mà chúng ta có thể không thực hiện, bạn biết không?

1:12:18

- I don't speak Vietnamese, but this show can because of AI video technology from our sponsor, HeyGen.

- Tôi không nói tiếng Việt, nhưng chương trình này có thể nhờ công nghệ video AI từ nhà tài trợ của chúng tôi, HeyGen.

1:12:22

I get messages every single week from those of you listening to the Current CEO all around the world, and you express how much impact it's had on you and your life.

Tôi nhận được tin nhắn mỗi tuần từ những người nghe Current CEO trên khắp thế giới, và họ bày tỏ chương trình đã ảnh hưởng đến họ và cuộc sống của họ nhiều như thế nào.

1:12:30

And if that's true, then those conversations shouldn't only reach people in English.

Và nếu điều đó là đúng, thì những cuộc trò chuyện đó không chỉ nên đến với những người nói tiếng Anh.

1:12:34

HeyGen can take one recording of me and deliver in any language while keeping my voice, timing, and expressions intact.

HeyGen có thể lấy một bản ghi âm của tôi và phát bằng bất kỳ ngôn ngữ nào trong khi vẫn giữ nguyên giọng nói, nhịp điệu và biểu cảm của tôi.

1:12:40

But you don't need a studio like this to make it work for you.

Nhưng bạn không cần một studio như thế này để làm cho nó hoạt động cho bạn.

1:12:45

Record 15 seconds of yourself and get an AI avatar that delivers studio-quality video in over 175

Ghi âm 15 giây của chính bạn và có một đại diện AI tạo ra video chất lượng phòng thu bằng hơn 175

1:12:51

languages.

ngôn ngữ.

1:12:51

We're up to 20 languages now, and we're not the only ones using it.

Chúng tôi hiện đã có 20 ngôn ngữ và chúng tôi không phải là những người duy nhất sử dụng nó.

1:12:56

HeyGen is already used by 30 million people, including 85% of the Fortune 100.

HeyGen đã được 30 triệu người sử dụng, bao gồm 85% Fortune 100.

1:13:01

Whether you're building an audience on social media, launching an online course, or rolling out training across your team, check out HeyGen now.

Cho dù bạn đang xây dựng khán giả trên mạng xã hội, ra mắt khóa học trực tuyến hay triển khai đào tạo cho nhóm của mình, hãy xem HeyGen ngay bây giờ.

1:13:09

Your first three videos are totally free at heygen.com/doac.

Ba video đầu tiên của bạn hoàn toàn miễn phí tại heygen.com/doac.

1:13:13

That's h e y g e n dot com slash d o a c.

Đó là h e y g e n chấm com gạch chéo d o a c.

1:13:17

See you there.

Hẹn gặp bạn ở đó.

1:13:19

- Ilya was As you said, he was one of the leaders at OpenAI, and he left and he started his own company now, Safe Superintelligence.

- Ilya, như bạn đã nói, anh ấy là một trong những lãnh đạo tại OpenAI, và anh ấy rời đi và bắt đầu công ty riêng của mình bây giờ, Safe Superintelligence.

1:13:25

Very curious name of a company, Safe Superintelligence, after leaving OpenAI.

Cái tên công ty rất tò mò, Safe Superintelligence, sau khi rời OpenAI.

1:13:29

Did you ever get to work with him?

Bạn có bao giờ làm việc với anh ấy không?

1:13:30

- Uh I wasn't directly working with him.

- Ừm, tôi không trực tiếp làm việc với anh ấy.

1:13:31

I had a couple chats with him.

Tôi đã có vài cuộc trò chuyện với anh ấy.

1:13:33

- Do you think he's he's genuinely concerned as well?

- Bạn có nghĩ anh ấy thực sự lo lắng không?

1:13:37

- I think he is, but I think it's I think he's similar to these other CEOs, where I mean, just think about the sort of incentives that they're under, right?

- Tôi nghĩ anh ấy lo lắng, nhưng tôi nghĩ anh ấy giống các CEO khác, ý tôi là, hãy nghĩ về những động lực mà họ đang chịu, phải không?

1:13:45

Like they can sort of see the problem, and then they can be like, okay, but like if I don't if I stop, if I quit my job, and or do something else, that's not going to solve the problem, cuz the other CEOs are going to keep going.

Giống như họ có thể thấy vấn đề, và sau đó họ có thể nói, được rồi, nhưng nếu tôi không, nếu tôi dừng lại, nếu tôi bỏ việc, hoặc làm điều gì khác, điều đó sẽ không giải quyết được vấn đề, vì các CEO khác sẽ tiếp tục.

1:14:01

And even if all of us didn't go, then maybe China would keep going.

Và ngay cả khi tất cả chúng tôi không tiếp tục, thì có lẽ Trung Quốc sẽ tiếp tục.

1:14:03

So, like, man, it seems like this is just going to happen one way or another, whether I do anything about it or not.

Vì vậy, như thể, trời ạ, có vẻ như điều này sẽ xảy ra bằng cách này hay cách khác, dù tôi có làm gì hay không.

1:14:08

I guess I should be involved, you know, and like maybe I can make it go well, and at any rate, like I don't want to be out in the cold while these other people I don't trust are in charge of everything.

Tôi đoán tôi nên tham gia, bạn biết đấy, và có lẽ tôi có thể làm cho nó diễn ra tốt đẹp, và dù sao đi nữa, tôi không muốn đứng ngoài lạnh lẽo trong khi những người khác mà tôi không tin tưởng đang nắm quyền kiểm soát mọi thứ.

1:14:16

So, they all sort of like reason through all of this and then convince themselves that like the thing to do is for them - to build their AI.

Vì vậy, tất cả họ đều suy luận qua tất cả những điều này và sau đó thuyết phục bản thân rằng điều nên làm là để họ - xây dựng AI của họ.

1:14:22

- build it and to do it better.

- xây dựng nó và làm tốt hơn.

1:14:24

And I think Ilya's just the latest example of this.

Và tôi nghĩ Ilya chỉ là ví dụ mới nhất của điều này.

1:14:27

Elon's another example.

Elon là một ví dụ khác.

1:14:28

Dario's another example.

Dario là một ví dụ khác.

1:14:29

You know, arguably OpenAI at the beginning, Sam was an example, although like Elon and Dario were at OpenAI early on, so - What do you think they should all do then?

Bạn biết đấy, có thể cho rằng OpenAI lúc đầu, Sam là một ví dụ, mặc dù Elon và Dario đã ở OpenAI từ đầu, vậy - Bạn nghĩ họ nên làm gì sau đó?

1:14:38

- So, I think what should happen is some sort of international regulation, or at least domestic regulation, similar to what we described in plan A.

- Vì vậy, tôi nghĩ điều nên xảy ra là một số loại quy định quốc tế, hoặc ít nhất là quy định trong nước, tương tự như những gì chúng tôi mô tả trong kế hoạch A.

1:14:44

- Okay, so talk me through plan A.

- Được rồi, hãy nói cho tôi nghe về kế hoạch A.

1:14:45

- Yeah.

- Vâng.

1:14:46

So, in this scenario AI takes longer to the to get to recursive self-improvement and full automation of AI research than it does in 2027.

Vì vậy, trong kịch bản này, AI mất nhiều thời gian hơn để đạt đến sự tự cải thiện đệ quy và tự động hóa hoàn toàn nghiên cứu AI so với năm 2027.

1:14:54

We figured that we should try to illustrate like a range of different possibilities because we do have those sort of uncertainty intervals.

Chúng tôi nghĩ rằng chúng tôi nên cố gắng minh họa một loạt các khả năng khác nhau vì chúng tôi có những khoảng không chắc chắn đó.

1:15:02

So, we chose 2030 as the moment when full automation would finally be achieved and things would really kick off.

Vì vậy, chúng tôi chọn năm 2030 là thời điểm tự động hóa hoàn toàn cuối cùng sẽ đạt được và mọi thứ sẽ thực sự bùng nổ.

1:15:09

And then working backwards from that when's the last moment you could really have good regulation?

Và sau đó làm việc ngược từ đó, thời điểm cuối cùng bạn có thể có quy định tốt là khi nào?

1:15:14

2029.

1:15:14

So, in this scenario AI progress slows down a little bit naturally and the AI companies keep racing, but they don't quite succeed in automating uh themselves in 2027 or in 2028 or in 2029, but they're getting really close and they're going to do it in 2030.

Vì vậy, trong kịch bản này, tiến trình AI chậm lại một chút một cách tự nhiên và các công ty AI tiếp tục chạy đua, nhưng họ không hoàn toàn thành công trong việc tự động hóa chính họ vào năm 2027 hoặc 2028 hoặc 2029, nhưng họ đang tiến rất gần và họ sẽ làm điều đó vào năm 2030.

1:15:30

And then in 2029, the government steps in and regulates them.

Và sau đó vào năm 2029, chính phủ can thiệp và điều chỉnh họ.

1:15:33

What regulations do they do?

Họ thực hiện những quy định gì?

1:15:34

Well, they basically just shut it down temporarily.

Chà, về cơ bản họ chỉ tạm thời đóng cửa nó.

1:15:37

- Can I ask um how does the elections overlay with your time frames here?

- Tôi có thể hỏi cuộc bầu cử chồng lấn với khung thời gian của bạn ở đây như thế nào không?

1:15:42

Because there's going to be a big election, isn't there in 2028?

Bởi vì sẽ có một cuộc bầu cử lớn, phải không, vào năm 2028?

1:15:46

And it seems now that sentiment has really turned against AI in sort of in the general public and that it will be one of the big ticket items on the on the ballot.

Và có vẻ như bây giờ tình cảm của công chúng đã thực sự quay lưng với AI và rằng nó sẽ là một trong những vấn đề lớn trong lá phiếu.

1:15:55

- We think that it'll be maybe the most important issue in the presidential election in 2028.

- Chúng tôi nghĩ rằng nó có thể là vấn đề quan trọng nhất trong cuộc bầu cử tổng thống năm 2028.

1:15:59

Um I think a lot of people most people will be quite concerned about where things are headed and that's part of why we chose to depict things the way they were doing in this scenario because that helps explain why they might do this sort of regulation in 2029 is that the voters

Ừm, tôi nghĩ nhiều người, hầu hết mọi người sẽ khá lo lắng về việc mọi thứ đang đi về đâu, và đó là một phần lý do chúng tôi chọn mô tả mọi thứ theo cách họ đang làm trong kịch bản này, vì điều đó giúp giải thích tại sao họ có thể thực hiện loại quy định này vào năm 2029, đó là cử tri

1:16:13

have been demanding it and the presidential candidates have been promising it.

Đã yêu cầu điều đó và các ứng cử viên tổng thống đã hứa hẹn điều đó.

1:16:16

- And in this scenario and then 2027, would the general public have felt the consequences of AI much more severely than they have now by then?

- Và trong kịch bản này, và đến năm 2027, liệu công chúng nói chung có cảm nhận hậu quả của AI nghiêm trọng hơn nhiều so với hiện tại không?

1:16:24

- Yes.

- Có.

1:16:25

Although still even in 2029 in this scenario, they still mostly have the jobs as depicted here, right?

Mặc dù vẫn còn, ngay cả trong năm 2029 trong kịch bản này, họ vẫn chủ yếu có công việc như được mô tả ở đây, phải không?

1:16:30

So, in in 2029 in this scenario, lots of jobs now involve managing AI agents.

Vì vậy, vào năm 2029 trong kịch bản này, nhiều công việc hiện liên quan đến việc quản lý các tác nhân AI.

1:16:35

You mentioned you have an AI agent, right?

Bạn đã đề cập rằng bạn có một tác nhân AI, phải không?

1:16:37

Well, in 2029 in this scenario, the AI agents will be much better.

Chà, vào năm 2029 trong kịch bản này, các tác nhân AI sẽ tốt hơn nhiều.

1:16:40

Still though, not enough to just completely do everything.

Tuy nhiên, vẫn chưa đủ để hoàn toàn làm mọi thứ.

1:16:42

You know, that was the sort of thing that would come in 2030 in this in this timeline.

Bạn biết đấy, đó là loại điều sẽ xảy ra vào năm 2030 trong dòng thời gian này.

1:16:47

Again, we're uncertain about timelines.

Một lần nữa, chúng tôi không chắc chắn về dòng thời gian.

1:16:49

Things could go faster than depicted in this scenario, and in fact, I think things probably will go a bit faster than depicted in this scenario, but we're uncertain.

Mọi thứ có thể diễn ra nhanh hơn so với mô tả trong kịch bản này, và thực tế, tôi nghĩ mọi thứ có thể sẽ nhanh hơn một chút so với mô tả trong kịch bản này, nhưng chúng tôi không chắc chắn.

1:16:56

We already did the very fast timeline scenario, so now we're doing the slower timeline scenario.

Chúng tôi đã thực hiện kịch bản dòng thời gian rất nhanh, vì vậy bây giờ chúng tôi đang thực hiện kịch bản dòng thời gian chậm hơn.

1:17:00

But, maybe we should talk about the high-level goals.

Nhưng, có lẽ chúng ta nên nói về các mục tiêu cấp cao.

1:17:02

So, they want to have AI continue, but in a slower pace so that they can make it

Vì vậy, họ muốn tiếp tục phát triển AI, nhưng với tốc độ chậm hơn để họ có thể làm cho nó

1:17:07

safe.

An toàn.

1:17:08

- The politicians, you know, the president and the people who voted for the president and, you know, the heads of other governments and so forth.

- Các chính trị gia, bạn biết đấy, tổng thống và những người đã bỏ phiếu cho tổng thống và, bạn biết đấy, người đứng đầu các chính phủ khác, v.v.

1:17:16

So, goal one, slow things down.

Vì vậy, mục tiêu một, làm chậm lại mọi thứ.

1:17:18

Um goal two, make it more transparent so that the scientific community can catch up to this stuff and make more progress.

Ừm, mục tiêu hai, làm cho nó minh bạch hơn để cộng đồng khoa học có thể bắt kịp những thứ này và đạt được nhiều tiến bộ hơn.

1:17:23

And also, so that we don't have to take the company's word for it when they say that their systems are safe and when they say that they haven't, you know, put in any biases into their systems, for example.

Và cũng để chúng ta không phải tin lời công ty khi họ nói rằng hệ thống của họ an toàn và khi họ nói rằng họ không, bạn biết đấy, đưa bất kỳ sự thiên vị nào vào hệ thống của họ, chẳng hạn.

1:17:34

That's a constitutional power issue.

Đó là một vấn đề về quyền lực hiến pháp.

1:17:35

We also want to avoid a

Chúng tôi cũng muốn tránh một

1:17:37

situation where there's an intense concentration of power.

Tình huống có sự tập trung quyền lực mạnh mẽ.

1:17:39

So, in addition to these the transparency and the slowdown, we actually think it's actively good for there to be multiple AI companies across multiple different countries that have similar levels of very advanced AI capability and for there to be like broad diffusion of AI into society rather than, you know, a single mega

Vì vậy, ngoài việc minh bạch và làm chậm lại, chúng tôi thực sự nghĩ rằng việc có nhiều công ty AI ở nhiều quốc gia khác nhau có mức năng lực AI tiên tiến tương tự nhau và có sự phổ biến rộng rãi AI vào xã hội thay vì, bạn biết đấy, một siêu dự án duy nhất

1:17:58

project that has all the best AIs, for example.

Có tất cả các AI tốt nhất, chẳng hạn, là điều tích cực.

1:18:00

And the another thing about that is you kind of get that by default if you do the first two things.

Và một điều nữa về điều đó là bạn có được điều đó một cách mặc định nếu bạn làm hai điều đầu tiên.

1:18:05

If you slow it down and if you make it more transparent, then that means there's breathing room for other projects to sort of catch up, right?

Nếu bạn làm chậm lại và làm cho nó minh bạch hơn, thì điều đó có nghĩa là có khoảng trống để các dự án khác bắt kịp, phải không?

1:18:12

And the transparency just like literally helps them catch up because then they can like copy

Và sự minh bạch thực sự giúp họ bắt kịp vì sau đó họ có thể sao chép

1:18:16

copy some of the ideas.

Sao chép một số ý tưởng.

1:18:17

And then I think the fourth thing would be reversibility.

Và sau đó tôi nghĩ điều thứ tư sẽ là khả năng đảo ngược.

1:18:20

So, in what follows in the scenario, we are going to be building up a lot of data centers, a lot of robots.

Vì vậy, trong phần tiếp theo của kịch bản, chúng ta sẽ xây dựng rất nhiều trung tâm dữ liệu, rất nhiều robot.

1:18:26

We're going to be transforming the world at a at a sort of like slower pace, though still a very fast pace, but slower.

Chúng ta sẽ biến đổi thế giới ở một tốc độ chậm hơn, mặc dù vẫn rất nhanh, nhưng chậm hơn.

1:18:32

And if things go wrong and the deal breaks down and everyone starts racing each other again to get to super intelligence as fast as possible.

Và nếu mọi thứ trở nên tồi tệ và thỏa thuận sụp đổ và mọi người bắt đầu chạy đua với nhau một lần nữa để đạt được siêu trí tuệ càng nhanh càng tốt.

1:18:40

That would be very scary.

Điều đó sẽ rất đáng sợ.

1:18:41

And so, the fourth principle is basically build the new data centers in such a way that if everything breaks down and everyone starts racing again, the newly built data centers get destroyed so that we're sort of back to square one again instead of in an even worse race where there's even more AIs and robots and compute everywhere.

Và vì vậy, nguyên tắc thứ tư về cơ bản là xây dựng các trung tâm dữ liệu mới theo cách mà nếu mọi thứ sụp đổ và mọi người bắt đầu chạy đua lại, các trung tâm dữ liệu mới xây dựng sẽ bị phá hủy để chúng ta quay trở lại vạch xuất phát thay vì ở trong một cuộc đua tồi tệ hơn với nhiều AI, robot và sức mạnh tính toán ở khắp mọi nơi.

1:18:58

Ừm

1:18:59

So, I can sort of walk you through the timeline if you're interested.

Vì vậy, tôi có thể hướng dẫn bạn qua dòng thời gian nếu bạn quan tâm.

1:19:02

Sure.

Chắc chắn rồi.

1:19:02

Or the president talks to China, talks to the leaders of a bunch of other countries and says we're going to basically halt AI development until we can figure out a plan for how to do it in the way in the ways that achieve these goals.

Hoặc tổng thống nói chuyện với Trung Quốc, nói chuyện với các nhà lãnh đạo của một loạt các quốc gia khác và nói rằng về cơ bản chúng ta sẽ tạm dừng phát triển AI cho đến khi chúng ta có thể nghĩ ra một kế hoạch để thực hiện nó theo những cách đạt được các mục tiêu này.

1:19:15

So, they basically send inspectors to each other's data centers.

Vì vậy, về cơ bản họ cử các thanh tra viên đến các trung tâm dữ liệu của nhau.

1:19:18

Like Chinese inspectors come to US data centers, US inspectors go to Chinese data centers and verify that they are doing inference and not training.

Giống như các thanh tra viên Trung Quốc đến các trung tâm dữ liệu của Hoa Kỳ, các thanh tra viên Hoa Kỳ đến các trung tâm dữ liệu của Trung Quốc và xác minh rằng họ đang thực hiện suy luận chứ không phải đào tạo.

1:19:27

Developing new AIs, that's that involves training them.

Phát triển AI mới, điều đó liên quan đến việc đào tạo chúng.

1:19:30

But, just taking existing AIs and using them to serve customers, that's called inference.

Nhưng chỉ cần sử dụng các AI hiện có và sử dụng chúng để phục vụ khách hàng, điều đó được gọi là suy luận.

1:19:35

And so, the sort of like solution they come up with here in this scenario is we'll allow them to keep doing inference but not training for now until we can get the new training data centers set up.

Và vì vậy, loại giải pháp họ đưa ra trong kịch bản này là chúng ta sẽ cho phép họ tiếp tục thực hiện suy luận nhưng không đào tạo trong thời gian hiện tại cho đến khi chúng ta có thể thiết lập các trung tâm dữ liệu đào tạo mới.

1:19:46

So, they retrofit the existing data centers to serve inference.

Vì vậy, họ trang bị thêm các trung tâm dữ liệu hiện có để phục vụ suy luận.

1:19:49

People can still keep talking to their AI agents but they're going to stop getting better and better

Mọi người vẫn có thể tiếp tục nói chuyện với các tác nhân AI của họ nhưng họ sẽ ngừng trở nên tốt hơn và tốt hơn

1:19:55

for like 6 months to a year while they build the new data centers that are going to be the transparent data centers.

Trong khoảng 6 tháng đến một năm trong khi họ xây dựng các trung tâm dữ liệu mới sẽ là các trung tâm dữ liệu minh bạch.

1:20:00

And that's where the training's going to happen.

Và đó là nơi việc đào tạo sẽ diễn ra.

1:20:03

Once they get those new data centers set up in 2030, then AI research continues.

Khi họ thiết lập xong các trung tâm dữ liệu mới vào năm 2030, thì nghiên cứu AI sẽ tiếp tục.

1:20:07

This is a bit spicy.

Điều này hơi gây tranh cãi.

1:20:09

We advocate for total research transparency, which means that on the training data centers that are training the new models, they basically have to publish everything.

Chúng tôi ủng hộ sự minh bạch hoàn toàn trong nghiên cứu, điều đó có nghĩa là tại các trung tâm dữ liệu đào tạo các mô hình mới, họ về cơ bản phải công bố mọi thứ.

1:20:17

Which means you get to see all the details of the recipes for training these models.

Điều đó có nghĩa là bạn có thể thấy tất cả các chi tiết của công thức đào tạo các mô hình này.

1:20:21

You get to see the architectures, etc.

Bạn có thể thấy các kiến trúc, v.v.

1:20:23

We think that's sort of open science is really important for solving the alignment problem fast enough because you don't want to have to sort of biased companies making the decisions about whether the AIs are safe.

Chúng tôi nghĩ rằng khoa học mở là thực sự quan trọng để giải quyết vấn đề liên kết một cách nhanh chóng, bởi vì bạn không muốn các công ty thiên vị đưa ra quyết định về việc liệu AI có an toàn hay không.

1:20:33

Um and we also think it's

Ừm, và chúng tôi cũng nghĩ nó

1:20:35

important for just good regulations more generally because right now most of the expertise in the world on AI is sort of concentrated in Silicon Valley and the the governments in particular kind of are don't really understand AI that well and imagine an alternative instead of total research transparency you had like an auditor system where the government says here are some rules for how to make

Quan trọng cho các quy định tốt nói chung, bởi vì hiện tại hầu hết chuyên môn về AI trên thế giới tập trung ở Thung lũng Silicon và các chính phủ đặc biệt là không hiểu rõ về AI, và hãy tưởng tượng một lựa chọn thay thế thay vì minh bạch nghiên cứu hoàn toàn, bạn có một hệ thống kiểm toán nơi chính phủ đưa ra các quy tắc về cách làm cho AI an toàn và sau đó chúng ta sẽ có một cơ quan đi vào các công ty và đặt câu hỏi và cố gắng đảm bảo họ tuân thủ các quy tắc.

1:20:56

the AI safe and then we're going to have like an agency that like goes into the companies and ask them questions and tries to make sure that they're following the rules.

Điều đó tạo ra một động lực đối đầu nơi công ty có động cơ để lừa nhà quản lý, bạn biết đấy, và nếu họ phát hiện ra một vấn đề mới mà chính phủ chưa biết, họ có thể có động cơ để không báo cho chính phủ, phải không?

1:21:04

That creates this sort of adversarial dynamic where the company is incentivized to like fool the regulator, you clears throat know, and and also if they if they discover some new problem that's not even on the government's radar they might be incentivized to like not tell the government about it, right?

Vì vậy, nếu bạn có sự minh bạch hoàn toàn, nó giúp chính phủ đưa ra quyết định tốt hơn và nhanh hơn.

1:21:18

So if you have the total transparency it helps the government make better decisions faster.

- Nhưng điều đó giết chết lợi thế cạnh tranh.

1:21:22

- But it kills that competitive advantage.

- Vâng.

1:21:24

- Yes.

Prophetic sẽ không thích điều này, bạn biết đấy, OpenAI sẽ không thích điều này.

1:21:24

Prophetic's not going to like this, you know, OpenAI's not going to like this.

Điều này có thể sẽ không tốt cho định giá.

1:21:28

This would be probably bad for the valuations.

Tôi không nghĩ nó sẽ giết chết họ hoàn toàn, nhưng nó có nghĩa là nó sẽ trở nên phổ biến hơn, phải không?

1:21:30

I don't think it would kill them completely but it means that it would commoditize more, right?

Vì vậy, nó có nghĩa là sẽ có một loạt các công ty AI bắt kịp với biên giới, họ sẽ đào tạo các AI tương tự, gần như tương đương.

1:21:34

So it means that there'd be like a bunch of AI companies that would catch up to the frontier, they would train AIs that are like roughly similar, roughly

Tương đương.

1:21:42

equivalent.

Họ vẫn có thể kiếm tiền bằng cách đó và sau đó bán AI của họ, nhưng họ sẽ không có độc quyền, họ sẽ không có bất cứ thứ gì gần với độc quyền, điều mà tôi nghĩ là tốt cho nhân loại mặc dù nó không tốt cho lợi nhuận của các công ty cụ thể đó.

1:21:42

They could still make money by doing that and then selling their AIs but they wouldn't have a monopoly, they wouldn't have anything close to a monopoly which I think is good for humanity although it's bad for the bottom line of those particular companies.

Đáng chú ý, nó tốt cho lợi nhuận của nhiều công ty khác.

1:21:53

Notably it's good for the bottom line of lots of other companies.

Ví dụ, nếu bạn là một công ty tụt hậu và bạn không phải là Anthropic hoặc OpenAI, bạn sẽ thích điều này vì nó giúp bạn bắt kịp, bạn biết đấy, hoặc nó giúp bạn nắm bắt nhiều giá trị hơn từ các chip bạn bán hoặc từ sản phẩm hạ nguồn bạn tạo ra.

1:21:57

Like if you're a company that's behind and you don't you're not Anthropic or you're not OpenAI then you would love this because this helps you catch up, you know, or this helps you to like um capture more of the value from the chips you're selling for example or from the like downstream product that you're making.

- Và đến năm 2031, bạn có 1/5 tổng số lao động nhận thức được thực hiện bởi AI.

1:22:12

- And by 2031 then you have 1/5 of all cognitive labor done by AI.

- Vâng, vậy điều gì đang xảy ra ở đây là chúng ta tưởng tượng rằng chính phủ Hoa Kỳ và chính phủ của các quốc gia khác tham gia vào thỏa thuận này đang thực hiện các quy định tương tự, họ không cần phải giống hệt nhau, nhưng đó là một điều tốt về sự minh bạch, bởi vì nếu bạn có sự minh bạch này, thì

1:22:17

- Yeah, so what's happening here is that we're imagining that the government of the United States and the government of these other countries that are involved in this agreement that are sort of implementing similar regulations um they don't have to be exactly the same, uh, but that's another thing that's nice about the transparency is that if you have this sort of transparency, then

Nếu hai chính phủ thực hiện các quy định khác nhau, ví dụ như một người yêu cầu các công ty của họ đi chậm hơn hoặc cấm nhiều thứ hơn người kia, họ có thể thấy cả hai - Vâng.

1:22:35

if two governments are implementing different regulations, like if one of them is like telling their companies to go slower or like banning more stuff than the other one is, they can both see - Yeah.

- như, "Ồ, bạn đang để họ làm những điều đó?

1:22:46

- like, "Oh, you're letting them do that sort of thing?

Và bạn thì không?

1:22:48

And you're not?

Có lẽ chúng ta cũng nên để họ làm điều này, bạn biết không?" Vì vậy, nó giúp tự nhiên cân bằng các quy định ở một mức độ nào đó mà không cần có một quyền lực trung ương chỉ đưa ra quy định cho tất cả mọi người.

1:22:48

Like, maybe we should let them do this, too, you know?" So, it helps to sort of naturally equalize the regulations to some extent without having there to be a central power that just gets to make regulations for everybody.

- Mhm.

1:23:00

- Mhm.

- Vì vậy, dù sao đi nữa, chúng ta tưởng tượng rằng khi họ thiết lập sự minh bạch này, họ về cơ bản đồng ý cấm những thứ nguy hiểm, cho phép những thứ không quá nguy hiểm, và có một cuộc trò chuyện liên tục về những gì nguy hiểm và những gì không?

1:23:00

- So, anyhow, we're imagining that when they when they get this transparency set up, they basically agree to ban the dangerous stuff, to allow the not-so-dangerous stuff, and there's a constant ongoing conversation about like, "Well, what's dangerous and what's not?

Chúng ta nên cấm gì?

1:23:11

What should we ban?

Chúng ta nên cho phép gì?

1:23:12

What should we allow?

Còn quốc gia này thì sao?

1:23:13

What about this country?

Còn quốc gia kia thì sao?" Cuộc trò chuyện đó

1:23:14

What about that country?" That conversation

Phát triển theo thời gian, nhưng ý chính của nó là, ít nhất nếu họ làm theo cách chúng tôi khuyến nghị, là họ không tạo ra một vụ nổ trí tuệ.

1:23:16

evolves over time, but the gist of it is, at least if they do it the way that we recommend it, is that they don't do an intelligence explosion.

Họ không để cho AI tự cải thiện một cách tự chủ.

1:23:24

They don't let the AIs, you know, autonomously self-improve.

Thay vào đó, họ từ từ và cẩn thận mở rộng quy mô các AI hiện có và đầu tư nhiều vào việc tìm cách làm cho chúng dễ hiểu hơn, dễ kiểm soát hơn,

1:23:26

Instead, they slowly and carefully scale up the AIs that they currently have, and invest lots into finding ways to make them more interpretable, uh, to make them more easy to control,

Để hiểu rõ hơn cách chúng hoạt động, v.v.

1:23:36

to understand better how they work, and so forth.

Kết quả là tiến bộ AI tiếp tục, nhưng không nhanh bằng, và an toàn hơn và minh bạch hơn rất nhiều.

1:23:38

The result is that AI progress continues, but it's not quite as fast, and it's much, much, much safer and more transparent.

- Nhưng vẫn thông qua những điều này, bạn biết đấy, chúng ta có thấy sự gián đoạn việc làm không?

1:23:46

- But still through these, you know, are we seeing job disruptions?

- tiếp tục vì họ đang xây dựng nhiều trung tâm dữ liệu hơn, phải không?

1:23:48

- continuing cuz they are building more data centers, right?

Giống như, trong suốt thời gian này, họ đang xây dựng ngày càng nhiều trung tâm dữ liệu, ngày càng nhiều chip và họ tiếp tục tạo ra một dân số AI ngày càng lớn hơn, có thể nói như vậy, và điều đó gây ra sự chuyển đổi lớn này trong suốt những năm 2030.

1:23:50

Like, this whole time, they're building more and more data centers, more and more chips, and they're continuing to like make there be a larger and larger population of AIs, so to speak, and that causes this huge transformation over the course of the 2030s.

Vì vậy, điều lớn mà chúng tôi muốn mọi người hiểu

1:24:03

So, the big thing that we sort of want people to take away

Là ngay cả khi bạn hạn chế nghiêm trọng tiến bộ AI, bạn vẫn có được sự chuyển đổi điên rồ này.

1:24:07

is that even if you heavily restrict AI progress, you still get this sort of crazy transformation.

Vâng, trong kịch bản này, họ về cơ bản cho phép tiến bộ tiếp tục, nhưng với tốc độ chậm hơn, an toàn hơn ở đây vào năm 2030, và kết quả là phải mất đến để đạt được AI cấp chuyên gia hàng đầu.

1:24:12

Yeah, in this scenario, they basically allow progress to continue, but at a slower, more safe pace here in 2030, and then it as a result, it takes until to get to top expert level AI.

Vì vậy, hãy nhớ rằng họ đã trên đường làm điều đó vào năm 2030, nhưng sau đó vào phút cuối họ dừng lại.

1:24:24

So, remember they were on track to do that in 2030, but then sort of at the last

Nhưng bởi vì họ đã rất gần với thời điểm cuối cùng, điều đó có nghĩa là họ có thể đạt được điều đó khá sớm nếu họ muốn, và chỉ là vấn đề họ cho phép nó tiếp tục trong bao lâu, phải không?

1:24:30

moment they stopped.

Vì vậy, họ làm chậm lại và trải rộng nó ra, thong thả đạt đến cấp độ này sau 5 năm.

1:24:30

But because they were sort of so close to the last moment, that means that like they can sort of get there pretty soon if they want to, and it's just a matter of like how long they allow it to go, right?

Đến thời điểm này, họ đã xây dựng một lượng lớn các trung tâm dữ liệu

1:24:41

So, they sort of they sort of slow it down, and spread it out, leisurely arrive at this level after 5 years.

Ở khắp mọi nơi.

1:24:47

By this point they've built up massive amounts of data centers

Vì vậy, không chỉ là AI thông minh hơn và có thể làm tất cả những gì con người có thể làm, mà còn có nhiều hơn nữa.

1:24:50

everywhere.

Và có rất nhiều robot, v.v.

1:24:50

So, it's not just that the AIs are smarter and able to do all the things that humans can do, but also there's a lot more of them.

- Và đến năm 2031, bạn có 1/5 tổng số lao động nhận thức được thực hiện bởi AI.

1:24:57

And there's a lot of robots and so forth.

1:24:59

So, by this by this point you kind of have the economy that a lot of people would have imagined with AGI, where there's AIs, there's lots of them, they're able to do all sorts of jobs, there's robots,

Vì vậy, đến thời điểm này, bạn có nền kinh tế mà nhiều người đã tưởng tượng với AGI, nơi có AI, rất nhiều AI, chúng có thể làm đủ mọi loại công việc, có robot,

1:25:09

there's lots of them, they're able to do all sorts of physical work, and basically the economy is being run by these machines.

Có rất nhiều robot, chúng có thể làm đủ mọi loại công việc chân tay, và về cơ bản nền kinh tế được vận hành bởi những cỗ máy này.

1:25:15

- So, in 20 31, you have the 1/5 of all cognitive labor done by AI.

- Vậy, vào năm 2031, bạn có 1/5 toàn bộ lao động nhận thức được thực hiện bởi AI.

1:25:21

In 2023, you have 60 million AIs running at 100x speed.

Vào năm 2023, bạn có 60 triệu AI chạy với tốc độ gấp 100 lần.

1:25:26

In 2033, there's cash dividends to all Americans.

Vào năm 2033, có cổ tức tiền mặt cho tất cả người Mỹ.

1:25:30

- Mhm.

1:25:30

- Um I've got to explain this to me.

- Ừm, tôi cần anh giải thích điều này cho tôi.

1:25:35

- Yeah, so if the AIs are going to be taking people's jobs, then it's very important that people not starve to death, and still have money.

- Vâng, nếu AI sẽ lấy đi công việc của mọi người, thì điều rất quan trọng là mọi người không chết đói và vẫn có tiền.

1:25:44

And if companies are going to be using AIs and robots to take all these jobs, then that means that there needs to be some sort of taxation scheme, or something, to like make sure that people still have a slice of that pie.

Và nếu các công ty sẽ sử dụng AI và robot để đảm nhận tất cả những công việc này, thì điều đó có nghĩa là cần phải có một số loại kế hoạch thuế, hoặc điều gì đó, để đảm bảo rằng mọi người vẫn có một phần của chiếc bánh đó.

1:25:54

Mhm.

1:25:54

The pie is going to grow huge, but you still need to actually give people a slice of the pie.

Chiếc bánh sẽ trở nên khổng lồ, nhưng bạn vẫn cần thực sự trao cho mọi người một phần của chiếc bánh.

1:25:59

And our proposal for how to do that, we call it the citizens dividend, basically people have shares in a agency that sells permits to the robot companies, and to the compute companies, and makes profit from selling those permits, and then those are people have shares in that entity.

Và đề xuất của chúng tôi để làm điều đó, chúng tôi gọi nó là cổ tức công dân, về cơ bản mọi người có cổ phần trong một cơ quan bán giấy phép cho các công ty robot và các công ty điện toán, và tạo ra lợi nhuận từ việc bán những giấy phép đó, và sau đó mọi người có cổ phần trong thực thể đó.

1:26:18

It starts off small.

Nó bắt đầu nhỏ.

1:26:19

It starts off something like $25,000 per person.

Nó bắt đầu với khoảng 25.000 đô la mỗi người.

1:26:23

Uh and then by the end, it's something like $10 million per citizen.

Ừ, và đến cuối, nó khoảng 10 triệu đô la mỗi công dân.

1:26:26

- per person?

- Mỗi người?

1:26:27

- Per person per year.

- Mỗi người mỗi năm.

1:26:29

- Factoring in inflation, like what you mean?

- Có tính đến lạm phát không, ý anh là gì?

1:26:31

- in inflation.

- Có tính lạm phát.

1:26:32

- So, we're going to be multi-millionaires.

- Vậy, chúng ta sẽ là những triệu phú.

1:26:34

- Yes, if this happens, which it probably won't, but if it happens, this is where it will go.

- Đúng, nếu điều này xảy ra, điều mà có lẽ sẽ không xảy ra, nhưng nếu nó xảy ra, thì đây là nơi nó sẽ đi đến.

1:26:38

And again, this is the thing I want to emphasize is that if you get to the point where your AIs are close to being able to do all the research, and then you sort of pause and slow down, that means that like you still have a lot of transformation ahead of you because if you allow those AIs to like

Và một lần nữa, đây là điều tôi muốn nhấn mạnh rằng nếu bạn đạt đến điểm mà AI của bạn gần như có thể làm tất cả nghiên cứu, và sau đó bạn tạm dừng và chậm lại, điều đó có nghĩa là bạn vẫn còn rất nhiều sự chuyển đổi phía trước bởi vì nếu bạn cho phép những AI đó

1:26:53

still proceed slowly and like start to automate various jobs and so forth, after some years, they will in fact have done that.

Vẫn tiến hành chậm rãi và bắt đầu tự động hóa nhiều công việc khác nhau, v.v., sau một số năm, chúng thực sự sẽ làm được điều đó.

1:26:59

And they will have, you know, built huge amounts of new data centers, huge amounts of new chip fabs, huge amounts of new robots, robot factories, etc.

Và chúng sẽ có, bạn biết đấy, xây dựng một lượng lớn trung tâm dữ liệu mới, một lượng lớn nhà máy sản xuất chip mới, một lượng lớn robot mới, nhà máy robot, v.v.

1:27:07

You know, we're not sure obviously how fast this will go exactly, but we've thought about it a lot and we have our our guesses and this is sort of like our median guess.

Bạn biết đấy, chúng tôi không chắc chắn rõ ràng điều này sẽ diễn ra nhanh đến mức nào, nhưng chúng tôi đã suy nghĩ rất nhiều và chúng tôi có những dự đoán của mình và đây là kiểu dự đoán trung bình của chúng tôi.

1:27:13

- What does this mean, 2037?

- Điều này có nghĩa là gì, năm 2037?

1:27:15

The apocalyptic arrival of truth on Earth?

Sự xuất hiện ngày tận thế của sự thật trên Trái đất?

1:27:18

- Yeah, so like this is the point where we say they get to top expert level AI.

- Vâng, đây là điểm mà chúng tôi nói họ đạt đến AI ở cấp độ chuyên gia hàng đầu.

1:27:23

So, it's not super intelligence in the sense that it's not like vastly smarter than humans at things because they deliberately pause it at the level of top experts.

Vì vậy, nó không phải là siêu trí tuệ theo nghĩa nó không thông minh hơn con người một cách vượt trội ở mọi thứ bởi vì họ cố tình dừng lại ở mức chuyên gia hàng đầu.

1:27:31

So, so here they're going slow.

Vì vậy, ở đây họ đang tiến hành chậm.

1:27:33

Here they've just actually stopped.

Ở đây họ thực sự đã dừng lại.

1:27:35

But they stopped at a point where the AIs are just actually really good at everything.

Nhưng họ dừng lại ở điểm mà AI thực sự giỏi mọi thứ.

1:27:39

So, kind of they've definitely got AGI, maybe they got like weak super intelligence.

Vì vậy, kiểu như họ chắc chắn đã có AGI, có lẽ họ có siêu trí tuệ yếu.

1:27:43

Because they have so many these AIs and because they think faster than humans, you know, they just run much faster, that's going to transform society dramatically.

Bởi vì họ có rất nhiều AI này và vì chúng suy nghĩ nhanh hơn con người, bạn biết đấy, chúng chạy nhanh hơn nhiều, điều đó sẽ biến đổi xã hội một cách đáng kể.

1:27:50

So, we talk about some of the ways in which it transforms society.

Vì vậy, chúng tôi nói về một số cách mà nó biến đổi xã hội.

1:27:53

Like this is sort of life after work.

Giống như đây là kiểu cuộc sống sau công việc.

1:27:55

We talk about what it would be like to be living on your citizens dividend and not have a job anymore in this sort of world.

Chúng tôi nói về việc sẽ như thế nào khi sống bằng cổ tức công dân của bạn và không còn công việc trong thế giới kiểu này.

1:28:02

Ừm

1:28:03

here we talk about all the scientific changes and all the social changes that would come from all of the intellectual progress and activity that would be generated by all of these AIs.

Ở đây chúng tôi nói về tất cả những thay đổi khoa học và tất cả những thay đổi xã hội sẽ đến từ tất cả sự tiến bộ trí tuệ và hoạt động được tạo ra bởi tất cả những AI này.

1:28:13

So, for example, here is things like cancer cures and like, you know, people living in apartments that were built by robots 2 years ago.

Vì vậy, ví dụ, ở đây là những thứ như chữa khỏi ung thư và như, bạn biết đấy, mọi người sống trong những căn hộ được xây dựng bởi robot 2 năm trước.

1:28:22

- Mhm.

1:28:23

- Providing again we stop in 2029.

- Miễn là chúng ta dừng lại vào năm 2029.

1:28:26

- Yeah.

- Vâng.

1:28:26

- And providing, I mean, a conservative This is a conservative time frame.

- Và miễn là, ý tôi là, một khung thời gian thận trọng. Đây là một khung thời gian thận trọng.

1:28:30

- Yeah, like unfortunately, I actually think that things will happen faster than this by default and that if we don't slow down, things will happen much faster than this.

- Vâng, thật không may, tôi thực sự nghĩ rằng mọi thứ sẽ diễn ra nhanh hơn thế này theo mặc định và nếu chúng ta không chậm lại, mọi thứ sẽ diễn ra nhanh hơn nhiều so với thế này.

1:28:37

Once you get to the point where you've got, you know, a billion AIs running day and night and they're each better than the best humans at everything and so they're doing a lot of science, they're doing a lot of

Một khi bạn đạt đến điểm mà bạn có, bạn biết đấy, một tỷ AI chạy ngày và đêm và mỗi cái đều giỏi hơn những con người giỏi nhất ở mọi thứ và vì vậy chúng đang thực hiện rất nhiều khoa học, chúng đang thực hiện rất nhiều

1:28:47

talking to each other, they're doing a lot of thinking, everyone's constantly talking to their AI assistants and so forth.

Nói chuyện với nhau, chúng đang suy nghĩ rất nhiều, mọi người liên tục nói chuyện với trợ lý AI của họ, v.v.

1:28:53

There's going to be a lot of scientific progress.

Sẽ có rất nhiều tiến bộ khoa học.

1:28:55

There's going to be a lot of changes to politics, to ideologies.

Sẽ có rất nhiều thay đổi về chính trị, về hệ tư tưởng.

1:28:58

It's going to be very disruptive and crazy and we get into some of the ways in which it is uh later, basically.

Nó sẽ rất gây rối và điên rồ và chúng tôi sẽ đề cập đến một số cách mà nó gây rối sau này, về cơ bản.

1:29:05

- I'm still not super clear on what this means, the apocalyptic arrival of truth on Earth.

- Tôi vẫn chưa hiểu rõ điều này có nghĩa là gì, sự xuất hiện ngày tận thế của sự thật trên Trái Đất.

1:29:09

It's just It's just because there's so many eyes AIs that are so smart that they're uncovering making new discoveries in sciences.

Chỉ là vì có rất nhiều AI thông minh đến mức chúng đang khám phá ra những khám phá mới trong khoa học.

1:29:15

- Let me give you an example, lie detectors.

- Để tôi cho bạn một ví dụ, máy phát hiện nói dối.

1:29:17

- Yeah.

- Vâng.

1:29:17

- So, that's an example of a technology that might be invented.

- Vậy đó là một ví dụ về công nghệ có thể được phát minh.

1:29:21

- Yeah.

- Vâng.

1:29:22

- You know, right now we don't have good lie detectors, we have very bad lie detectors that like sort of work but don't don't fully work.

- Bạn biết đấy, hiện tại chúng ta không có máy phát hiện nói dối tốt, chúng ta có những máy phát hiện nói dối rất tệ, hoạt động một phần nhưng không hoàn toàn hiệu quả.

1:29:28

But once you've had these top expert level AIs thinking for many years at you know, 100x human speed and there's billions of them and they have access to robot factories to do research and stuff, they'll probably invent a ton of

Nhưng một khi bạn có những AI ở cấp độ chuyên gia hàng đầu này suy nghĩ trong nhiều năm với tốc độ nhanh gấp 100 lần con người và có hàng tỷ chúng, và chúng có quyền truy cập vào các nhà máy robot để nghiên cứu và những thứ tương tự, chúng có thể sẽ phát minh ra rất nhiều

1:29:39

technologies.

công nghệ.

1:29:39

Maybe they'll invent lie detectors that actually work on real humans.

Có lẽ chúng sẽ phát minh ra máy phát hiện nói dối thực sự hoạt động trên con người thật.

1:29:43

That'll have big social effects, right?

Điều đó sẽ có những tác động xã hội lớn, phải không?

1:29:45

Imagine a presidential candidate who's like, "Those allegations are false and to prove them, I will go under a lie detector and say that they're false." - I was just thinking about the whole like justice system and how that would be overturned.

Hãy tưởng tượng một ứng cử viên tổng thống nói: "Những cáo buộc đó là sai và để chứng minh, tôi sẽ trải qua máy phát hiện nói dối và nói rằng chúng là sai." - Tôi chỉ đang nghĩ về toàn bộ hệ thống tư pháp và cách nó sẽ bị đảo lộn.

1:29:57

Um in fact, you could, you know, theoretically walk down the street and be Yeah.

Ừm, trên thực tế, bạn có thể, bạn biết đấy, về mặt lý thuyết đi bộ xuống phố và được Vâng.

1:30:02

- It's both terrifying and exciting.

- Nó vừa đáng sợ vừa thú vị.

1:30:05

One thing that we talk about in this sec- in this section like the invention of lie detectors could be really bad.

Một điều mà chúng ta nói đến trong phần này là việc phát minh ra máy phát hiện nói dối có thể thực sự tồi tệ.

1:30:10

Like it could be that it enables a new form of totalitarianism where the powerful people, you know, the CEOs and the politicians force the people under them to go under lie detectors and say like yes, I'm loyal to the dear leader.

Giống như nó có thể tạo ra một hình thức chuyên chế mới, nơi những người có quyền lực, bạn biết đấy, các CEO và chính trị gia buộc những người dưới quyền phải trải qua máy phát hiện nói dối và nói như: vâng, tôi trung thành với lãnh tụ kính yêu.

1:30:21

I would never do anything against the dear leader, right?

Tôi sẽ không bao giờ làm bất cứ điều gì chống lại lãnh tụ kính yêu, phải không?

1:30:24

- you're lying then you're in - And then if you're lying you get fired, right?

- nếu bạn nói dối thì bạn sẽ bị sa thải, phải không?

1:30:27

So like there's there's a ton of like very harmful uses of lie detector technology.

Vì vậy, có rất nhiều tác hại của công nghệ máy phát hiện nói dối.

1:30:31

There's also the good uses and broadly speaking I would say the good uses are when lie detectors are used on the powerful instead of by the powerful.

Cũng có những lợi ích tốt và nói chung, tôi sẽ nói rằng những lợi ích tốt là khi máy phát hiện nói dối được sử dụng trên những người có quyền lực thay vì bởi những người có quyền lực.

1:30:38

- What's this?

- Cái gì đây?

1:30:39

2040 passing the torch to AIs.

2040 trao lại ngọn đuốc cho AI.

1:30:41

- Yeah, great.

- Vâng, tuyệt vời.

1:30:41

So here they pause at the top expert AI level.

Vì vậy, ở đây họ dừng lại ở cấp độ AI chuyên gia hàng đầu.

1:30:44

And the reason why they pause is because their safety cases aren't good enough for going beyond that level.

Và lý do họ dừng lại là vì các trường hợp an toàn của họ chưa đủ tốt để vượt qua cấp độ đó.

1:30:49

Um so in the sort of regulatory systems that they set up over the course of these years, roughly speaking the way they would work is when you're making a new AI and then when you're trying to deploy the AI into

Vì vậy, trong các hệ thống quản lý mà họ thiết lập qua những năm này, nói chung cách chúng hoạt động là khi bạn tạo ra một AI mới và khi bạn cố gắng triển khai AI vào

1:31:01

something, you have to have some sort of safety case explaining like what your intentions are and like why you think it's going to work the way that you want it to work.

một thứ gì đó, bạn phải có một số trường hợp an toàn giải thích ý định của bạn và lý do bạn nghĩ nó sẽ hoạt động theo cách bạn muốn.

1:31:09

And in particular why the AI is going to like do as it's told, for example, and why nothing super terrible's going to happen like AI takeover.

Và đặc biệt là lý do tại sao AI sẽ làm theo những gì được yêu cầu, ví dụ, và tại sao không có điều gì siêu khủng khiếp xảy ra như AI tiếp quản.

1:31:17

It's relatively easy to make safety cases like this when your AIs are still not capable of automating everything.

Việc đưa ra các trường hợp an toàn như thế này tương đối dễ dàng khi AI của bạn chưa có khả năng tự động hóa mọi thứ.

1:31:24

But the more powerful they get, the more difficult it is to actually argue that things are going to be fine because the AIs are just more capable and they can they can get up to more stuff.

Nhưng chúng càng mạnh mẽ thì càng khó để tranh luận rằng mọi thứ sẽ ổn vì AI chỉ có khả năng cao hơn và chúng có thể làm được nhiều việc hơn.

1:31:33

And if you if they're actually untrustworthy, the possible downsides are bigger.

Và nếu chúng thực sự không đáng tin cậy, những mặt tiêu cực có thể lớn hơn.

1:31:36

So that's why they stop at this level is that they realize that if they keep going then they might actually lose control of everything.

Vì vậy, đó là lý do tại sao họ dừng lại ở cấp độ này là họ nhận ra rằng nếu họ tiếp tục thì họ có thể thực sự mất kiểm soát mọi thứ.

1:31:42

But at the current level they're convinced by safety cases that it's fine.

Nhưng ở cấp độ hiện tại, họ bị thuyết phục bởi các trường hợp an toàn rằng điều đó ổn.

1:31:45

But then they don't want to go further.

Nhưng sau đó họ không muốn đi xa hơn.

1:31:48

So they stop there.

Vì vậy, họ dừng lại ở đó.

1:31:49

And then what happens in 2040 is they've made significant progress scientifically including on alignment and they figured out how to make AIs that are actually aligned in a robust way.

Và sau đó, điều xảy ra vào năm 2040 là họ đã đạt được tiến bộ đáng kể về mặt khoa học bao gồm cả sự liên kết và họ đã tìm ra cách tạo ra những AI thực sự liên kết một cách mạnh mẽ.

1:31:59

- With humans?

- Với con người?

1:32:00

- With humans.

- Với con người.

1:32:00

So they can actually trust those AIs and they can allow them to become much smarter again.

Vì vậy, họ thực sự có thể tin tưởng những AI đó và họ có thể cho phép chúng trở nên thông minh hơn nhiều lần nữa.

1:32:06

So, that's why we call the whole thing AI 2040 cuz in 2040 they sort of let off the brakes and allow the AIs to become significantly smarter than humans.

Vì vậy, đó là lý do tại sao chúng tôi gọi toàn bộ sự việc là AI 2040 vì vào năm 2040, họ đã nới lỏng phanh và cho phép AI trở nên thông minh hơn con người đáng kể.

1:32:15

- I guess you know, this is a this is a plan and this is a hope.

- Tôi đoán bạn biết đấy, đây là một kế hoạch và đây là một hy vọng.

1:32:19

- Yes.

- Vâng.

1:32:20

- But in reality, this is not what you think probabilistically if you had to - That's right.

- Nhưng trên thực tế, đây không phải là điều bạn nghĩ theo xác suất nếu bạn phải - Đúng vậy.

1:32:24

It's important to distinguish like this is what we recommend.

Điều quan trọng là phải phân biệt rằng đây là những gì chúng tôi khuyến nghị.

1:32:27

This is what we want to happen from like this is what we actually think will happen by default.

Đây là những gì chúng tôi muốn xảy ra khác với những gì chúng tôi thực sự nghĩ sẽ xảy ra theo mặc định.

1:32:32

Now, we do think it's possible for this to happen, but you know, that will require a lot of people to sort of wake up and pay more attention and advocate for something like this to happen.

Bây giờ, chúng tôi nghĩ rằng điều này có thể xảy ra, nhưng bạn biết đấy, điều đó sẽ đòi hỏi nhiều người thức tỉnh và chú ý hơn và ủng hộ cho điều gì đó như thế này xảy ra.

1:32:42

So, our main scenario is mostly talking about the policy choices made and the broad scale effects on society.

Vì vậy, kịch bản chính của chúng tôi chủ yếu nói về các lựa chọn chính sách được đưa ra và các tác động quy mô rộng đối với xã hội.

1:32:48

We figured it would also be nice to accompany this with a little mini

Chúng tôi nghĩ rằng cũng sẽ tốt nếu kèm theo một kịch bản nhỏ

1:32:52

scenario that describes what it would actually feel like to live through this from an ordinary person's perspective.

mô tả cảm giác thực sự khi sống qua thời kỳ này từ góc nhìn của một người bình thường.

1:32:58

- Okay.

- Được rồi.

1:32:59

- Um 2029, everyone's yelling at each other, the presidents are negotiating something and they've paused AI, but you still have access to the existing AIs, so it doesn't really feel that different although it definitely is like something exciting happening.

- Ừm, đến năm 2029, mọi người đang cãi nhau, các tổng thống đang đàm phán gì đó và họ đã tạm dừng AI, nhưng bạn vẫn có quyền truy cập vào các AI hiện có, nên nó không thực sự khác biệt lắm mặc dù chắc chắn là có điều gì đó thú vị đang xảy ra.

1:33:09

2031, they've started progress again, the AIs are really smart, more people have lost their jobs, it's like really starting to

Năm 2031, họ đã bắt đầu tiến triển trở lại, các AI rất thông minh, nhiều người mất việc hơn, nó thực sự bắt đầu

1:33:15

actually affect things, but I think still most people have their jobs, but their jobs are sort of transformed.

Ảnh hưởng đến mọi thứ, nhưng tôi nghĩ hầu hết mọi người vẫn có việc làm, nhưng công việc của họ phần nào bị biến đổi.

1:33:20

So, like by 2031 it's like most white collar jobs involve working with AIs to a large extent or managing teams of AIs or collaborating with them somehow.

Vì vậy, đến năm 2031, hầu hết các công việc cổ trắng đều liên quan đến việc làm việc với AI ở mức độ lớn hoặc quản lý các nhóm AI hoặc cộng tác với chúng theo cách nào đó.

1:33:28

- And what was - Also, there are some things like robo taxis that are basically just working.

- Và điều gì đã - Ngoài ra, có một số thứ như taxi robot về cơ bản đã hoạt động.

1:33:31

Citizens dividend, you know, ideally this would happen sooner.

Cổ tức công dân, bạn biết đấy, lý tưởng nhất là điều này sẽ xảy ra sớm hơn.

1:33:33

Like in our scenario, they kind of do things at the last minute.

Trong kịch bản của chúng tôi, họ làm mọi thứ vào phút chót.

1:33:37

You know, so like a lot of these policy things are like happening kind of like just in time.

Bạn biết đấy, rất nhiều chính sách này xảy ra kiểu vừa kịp lúc.

1:33:41

Obviously, we would recommend that you do them sooner and and do a better job of them, too.

Rõ ràng, chúng tôi khuyên bạn nên làm chúng sớm hơn và làm tốt hơn nữa.

1:33:46

But so, 2033, you start getting your checks from your dividend.

Nhưng đến năm 2033, bạn bắt đầu nhận được séc từ cổ tức của mình.

1:33:49

- So, you're forecasting that there will be a citizen's check.

- Vậy bạn dự đoán sẽ có một tấm séc công dân.

1:33:52

The your model says it could be around 25,000 at the start per person.

Mô hình của bạn nói rằng nó có thể khoảng 25.000 đô la lúc đầu cho mỗi người.

1:33:57

- And then it would grow as the economy grows.

- Và sau đó nó sẽ tăng lên khi nền kinh tế phát triển.

1:33:59

- But also as like as job displacement takes hold, they're going to need to grow that check and make sure you can - And that's why it's kind of the last possible moment because if you waited to implement this until like 2037, then like everyone would have already lost their jobs by the time that happens, right?

- Nhưng cũng khi sự mất việc làm diễn ra, họ sẽ cần phải tăng khoản séc đó và đảm bảo bạn có thể - Và đó là lý do tại sao đó là thời điểm cuối cùng có thể, bởi vì nếu bạn chờ đợi để thực hiện điều này cho đến năm 2037, thì mọi người sẽ đã mất việc trước khi điều đó xảy ra, phải không?

1:34:12

- People losing their jobs, especially if it happens quickly like we see on this sort of graph here, is going to cause lots of problems in terms of civil unrest, social unrest, purpose, mental health, these kinds of things theoretically.

- Mọi người mất việc, đặc biệt nếu nó xảy ra nhanh chóng như chúng ta thấy trên biểu đồ này, sẽ gây ra nhiều vấn đề về bất ổn dân sự, bất ổn xã hội, mục đích sống, sức khỏe tâm thần, những thứ tương tự về mặt lý thuyết.

1:34:26

- Yes.

- Vâng.

1:34:26

- How do you think about that?

- Bạn nghĩ sao về điều đó?

1:34:28

- Uh it's it's going to be rough and hopefully we can navigate that well.

- Ừm, nó sẽ khó khăn và hy vọng chúng ta có thể vượt qua tốt.

1:34:31

We think that at a high level, people need to have money and also people need to have power.

Chúng tôi nghĩ rằng ở mức độ cao, mọi người cần có tiền và cũng cần có quyền lực.

1:34:35

And I think these are like somewhat different things.

Và tôi nghĩ đây là những thứ hơi khác nhau.

1:34:37

It's like why are jobs important?

Tại sao công việc lại quan trọng?

1:34:38

Well, there's a lot of reasons why jobs are important, but I think the main ones are um well, it's how people get money so

Chà, có nhiều lý do tại sao công việc quan trọng, nhưng tôi nghĩ những lý do chính là ừm, đó là cách mọi người kiếm tiền nên

1:34:44

they can survive and get things that they want by buying the things that they want.

Họ có thể sống sót và có được những thứ họ muốn bằng cách mua những thứ họ muốn.

1:34:47

So if people are going to be losing their jobs, you need some other way of people getting money.

Vì vậy, nếu mọi người sắp mất việc, bạn cần một cách khác để mọi người kiếm tiền.

1:34:52

And then there's also the power thing, which is that right now people have political power in part due to their economic power.

Và cũng có vấn đề quyền lực, đó là hiện tại mọi người có quyền lực chính trị một phần nhờ vào quyền lực kinh tế của họ.

1:34:59

People can threaten to go on strike, for example, or you know, countries that are ruled by dictators can't just completely, you know, genocide an entire subpopulation, or they can, but like it's costly for them to do so because then they'll have less money because

Mọi người có thể đe dọa đình công, ví dụ, hoặc bạn biết đấy, các quốc gia bị cai trị bởi nhà độc tài không thể hoàn toàn, bạn biết đấy, diệt chủng toàn bộ một nhóm dân số, hoặc họ có thể, nhưng điều đó sẽ tốn kém vì

1:35:15

that subpopulation is contributing to their economy and contributing tax revenue and so forth.

Nhóm dân số đó đang đóng góp cho nền kinh tế của họ và đóng góp doanh thu thuế, v.v.

1:35:19

But if you end up in a world where actually nobody's contributing tax revenue except for the AI companies and the robot companies, then you're you, the government, are less incentivized to care about what, you know, the common people think.

Nhưng nếu bạn kết thúc trong một thế giới mà thực sự không ai đóng góp doanh thu thuế ngoại trừ các công ty AI và công ty robot, thì bạn, chính phủ, sẽ ít có động lực để quan tâm đến những gì người dân thường nghĩ.

1:35:32

So when people lose their jobs, they're not

Vì vậy, khi mọi người mất việc, họ không

1:35:35

just threatened with lack of loss of income, they're also threatened with loss of political power.

Chỉ bị đe dọa bởi mất thu nhập, họ còn bị đe dọa mất quyền lực chính trị.

1:35:40

And so we think that it's important to like do things to push against that.

Và vì vậy chúng tôi nghĩ rằng điều quan trọng là phải làm những điều để chống lại điều đó.

1:35:43

- What does that look like?

- Điều đó trông như thế nào?

1:35:44

How do you How do people have power in such a world?

Làm thế nào để mọi người có quyền lực trong một thế giới như vậy?

1:35:47

- Well, in democracies at least they still have votes.

- Chà, ít nhất trong các nền dân chủ, họ vẫn có phiếu bầu.

1:35:50

- Okay.

- Được rồi.

1:35:50

- So I think that it's very important for there to be uh regulations on the use of AI that help make the public discourse more sane and more um actually giving the people what is in their interest and what they want and avoiding a sort of um opposite outcome where you know, the masses are easily manipulated by AI-powered media, for example.

- Vì vậy, tôi nghĩ rằng điều rất quan trọng là phải có các quy định về việc sử dụng AI giúp làm cho diễn ngôn công cộng lành mạnh hơn và thực sự mang lại cho mọi người những gì có lợi cho họ và những gì họ muốn, và tránh một loại kết quả ngược lại, nơi quần chúng dễ dàng bị thao túng bởi truyền thông hỗ trợ AI, chẳng hạn.

1:36:17

Or where everyone's talking all

Hoặc nơi mọi người nói chuyện cả

1:36:20

day to their AI advisers, and the AI advisers are like subtly steering them away from voting for the candidate that would not be what the AI companies want because the AI companies have this other candidate that they like better, and they're like secretly biasing their AIs to like steer people towards voting for that candidate, right?

Ngày với cố vấn AI của họ, và các cố vấn AI tinh vi điều hướng họ tránh xa việc bỏ phiếu cho ứng cử viên mà các công ty AI không muốn, bởi vì các công ty AI có ứng cử viên khác mà họ thích hơn, và họ bí mật thiên vị AI của họ để điều hướng mọi người bỏ phiếu cho ứng cử viên đó, phải không?

1:36:38

So, so we want to be in a situation where um

Vì vậy, chúng tôi muốn ở trong một tình huống mà ừm

1:36:42

people have AIs that are actually trustworthy and that are truth-seeking AIs, honest AIs, and that don't have any sort of like political agendas put into them by the AI companies or by the government.

Mọi người có AI thực sự đáng tin cậy, AI tìm kiếm sự thật, AI trung thực, và không có bất kỳ loại chương trình nghị sự chính trị nào được các công ty AI hoặc chính phủ đưa vào.

1:36:51

You know, you want to avoid a situation where the AI company where where the government has issued some sort of secret order that like the AIs have to be such and such a way.

Bạn biết đấy, bạn muốn tránh tình huống mà công ty AI, nơi chính phủ đã ban hành một số mệnh lệnh bí mật rằng AI phải theo cách này hay cách khác.

1:37:00

Yeah, the Department of War dispute versus Anthropic is like a an interesting sort of foreshadowing of this, right?

Vâng, tranh chấp giữa Bộ Chiến tranh và Anthropic là một loại điềm báo thú vị về điều này, phải không?

1:37:06

Where um Anthropic was giving their AIs to the Department of War.

Nơi mà Anthropic đã cung cấp AI của họ cho Bộ Chiến tranh.

1:37:10

Department of War wanted to use them for certain things and was upset that Anthropic's AIs were like not supposed to be used for those things.

Bộ Chiến tranh muốn sử dụng chúng cho những việc nhất định và không hài lòng vì AI của Anthropic không được phép sử dụng cho những việc đó.

1:37:20

Uh the things in particular were domestic surveillance and uh autonomous robots.

Những điều cụ thể là giám sát trong nước và robot tự động.

1:37:25

There's going to be a lot more issues like that coming up, and you want it to be the case that like people know what they're getting, and that if people are like spending hours a day talking to their chatbot, that chatbot doesn't have political biases put into it or a secret agenda or things like that, and instead has been trained to like give honest, true answers to things.

Sẽ có nhiều vấn đề như vậy hơn nữa, và bạn muốn đảm bảo rằng mọi người biết họ đang nhận được gì, và nếu mọi người dành hàng giờ mỗi ngày để nói chuyện với chatbot của họ, chatbot đó không có thành kiến chính trị hoặc chương trình nghị sự bí mật, và thay vào đó được huấn luyện để đưa ra câu trả lời trung thực, đúng đắn.

1:37:40

And I think if

Và tôi nghĩ nếu

1:37:41

you can do that, it can improve the discourse and help people to use their votes to put even better regulations and even better politicians in place, and so forth.

Bạn có thể làm điều đó, nó có thể cải thiện diễn ngôn và giúp mọi người sử dụng phiếu bầu của họ để đưa ra các quy định tốt hơn và các chính trị gia tốt hơn, v.v.

1:37:49

And you can sort of potentially bootstrap this to having something where people's power is even more secure than it is today.

Và bạn có thể khởi động điều này để có một thứ gì đó mà quyền lực của mọi người được an toàn hơn so với hiện tại.

1:37:56

- A lot of this stuff we've we've covered in part.

- Rất nhiều điều này chúng ta đã đề cập một phần.

1:37:58

So, you know, the wars and drones and missiles, we're already seeing this around the world at the moment, which is really, really interesting.

Vậy nên, bạn biết đấy, chiến tranh, máy bay không người lái và tên lửa, chúng ta đã thấy điều này trên khắp thế giới hiện tại, điều này thực sự rất thú vị.

1:38:05

Um and we've talked about robots outnumbering humans as well, which is part of this prediction.

Ừm và chúng ta đã nói về việc robot sẽ đông hơn con người, đó cũng là một phần của dự đoán này.

1:38:09

Some of the ones down here I found to be really curious, which is people will be protected by AIs wherever

Một số điều ở dưới đây tôi thấy thực sự tò mò, đó là con người sẽ được AI bảo vệ ở bất cứ nơi đâu

1:38:15

they go.

họ đến.

1:38:16

- Mm, yeah.

- Ừm, vâng.

1:38:16

In this scenario, they delay the creation of superintelligence until 2040, and they in fact they pause in 2035, but then they let it go after that.

Trong kịch bản này, họ trì hoãn việc tạo ra siêu trí tuệ cho đến năm 2040, và thực tế họ tạm dừng vào năm 2035, nhưng sau đó họ để nó tiếp tục sau đó.

1:38:25

And then they let the AIs become vastly superintelligent.

Và sau đó họ để cho AI trở nên siêu thông minh vượt trội.

1:38:28

And we think that once the AIs are vastly superintelligent, the world will transform even more radically than what happens in the 2030s in this scenario.

Và chúng tôi nghĩ rằng một khi AI trở nên siêu thông minh vượt trội, thế giới sẽ biến đổi thậm chí còn triệt để hơn những gì xảy ra trong những năm 2030 trong kịch bản này.

1:38:35

So, in the 2030s in this scenario, it's more like human level, you know, the AIs are not they're they're doing the same sorts of things that human experts would have done, they're just doing it a little bit

Vì vậy, trong những năm 2030 trong kịch bản này, nó giống như ở cấp độ con người, bạn biết đấy, AI không phải là họ đang làm những việc tương tự mà các chuyên gia con người sẽ làm, họ chỉ làm tốt hơn một chút

1:38:47

better, a bit faster, and a lot cheaper.

tốt hơn, nhanh hơn một chút và rẻ hơn nhiều.

1:38:49

And there's a lot more of them.

Và có nhiều hơn rất nhiều.

1:38:51

And the robots are still, you know, doing the same sorts of things that human workers would have done.

Và robot vẫn đang làm những việc tương tự mà công nhân con người sẽ làm.

1:38:55

They're just more of them, and they're cheaper.

Chỉ là có nhiều hơn và rẻ hơn.

1:38:57

And because of exponential growth, uh you start with a world that looks not that different from today in 2029, and then by 2039, you end in a world that's radically transformed, where everyone's living in these like fancy new apartments that were built by robots 2 years ago.

Và vì tăng trưởng theo cấp số nhân, bạn bắt đầu với một thế giới trông không khác gì ngày nay vào năm 2029, và sau đó đến năm 2039, bạn kết thúc trong một thế giới biến đổi hoàn toàn, nơi mọi người sống trong những căn hộ mới đẹp đẽ được xây dựng bởi robot 2 năm trước.

1:39:11

There's like giant special economic zones that are full of robots and solar panels and factories producing

Có những khu kinh tế đặc biệt khổng lồ đầy robot, tấm pin mặt trời và nhà máy sản xuất

1:39:16

more robots and solar panels and factories, and so forth.

thêm robot, tấm pin mặt trời và nhà máy, vân vân.

1:39:18

Most of the economy is AIs and robots, and people don't have jobs anymore.

Hầu hết nền kinh tế là AI và robot, và con người không còn việc làm nữa.

1:39:23

That sort of transformation is what you get if you pause at human level.

Sự chuyển đổi như vậy là những gì bạn nhận được nếu bạn tạm dừng ở cấp độ con người.

1:39:27

But if you go beyond the superintelligence, there's a whole 'nother transformation coming that's going to look more like magic.

Nhưng nếu bạn vượt qua siêu trí tuệ, sẽ có một sự chuyển đổi hoàn toàn khác sắp tới trông sẽ giống như phép màu.

1:39:32

Think about how the technology of today would look like magic to someone from 500 years ago.

Hãy nghĩ về cách công nghệ ngày nay sẽ trông giống như phép màu đối với người từ 500 năm trước.

1:39:38

- Mhm.

1:39:38

- You know?

- Bạn biết không?

1:39:38

And that's without even like a qualitative improvement in intelligence, right?

Và điều đó thậm chí không có sự cải thiện về chất lượng trong trí thông minh, phải không?

1:39:41

Like the humans of today aren't like qualitatively smarter than the humans from 500 years ago.

Giống như con người ngày nay không thông minh hơn về chất so với con người 500 năm trước.

1:39:46

It's just that we've had more time to do research and we have more like money and resources to build, you know, prototypes and experiments and run experiments and so forth.

Chỉ là chúng ta có nhiều thời gian hơn để nghiên cứu và có nhiều tiền bạc và nguồn lực hơn để xây dựng, bạn biết đấy, nguyên mẫu và thí nghiệm và chạy thí nghiệm, vân vân.

1:39:55

But if you

Nhưng nếu bạn

1:39:56

had a point where there were billions and billions of AIs that were not only faster than humans, but like qualitatively way, way, way better at everything and in particular at doing scientific research, we should expect that some of the things that they develop will seem like magic to us and we'll just completely like we did not think that was even possible, you know?

có một thời điểm có hàng tỷ tỷ AI không chỉ nhanh hơn con người, mà còn giỏi hơn về chất lượng, vượt trội hơn rất nhiều trong mọi việc, đặc biệt là trong nghiên cứu khoa học, chúng ta nên mong đợi rằng một số thứ chúng phát triển sẽ có vẻ như phép màu đối với chúng ta và chúng ta sẽ hoàn toàn không nghĩ rằng điều đó có thể xảy ra, bạn biết không?

1:40:15

People don't want to die.

Con người không muốn chết.

1:40:16

People don't want to be hit by cars.

Con người không muốn bị xe tông.

1:40:18

People don't want to be like attacked by a random mass murderer.

Con người không muốn bị tấn công bởi một kẻ giết người hàng loạt ngẫu nhiên.

1:40:21

- Cancer's gone?

- Ung thư biến mất?

1:40:22

- I mean, not just cancer, like - snorts - you know, all a lot of the stuff that happens in science fiction will probably have happened by then.

- Ý tôi là, không chỉ ung thư, mà - [khịt mũi] - bạn biết đấy, rất nhiều thứ xảy ra trong khoa học viễn tưởng có lẽ sẽ xảy ra vào lúc đó.

1:40:31

So, things like people scanning their brains and uploading into computers, right?

Vì vậy, những thứ như con người quét não và tải lên máy tính, phải không?

1:40:34

Or self-replicating robots in the asteroid belt uh creating more and more satellites to uh produce more and more power to produce more and more self-replicating

Hoặc robot tự tái tạo trong vành đai tiểu hành tinh tạo ra ngày càng nhiều vệ tinh để sản xuất nhiều năng lượng hơn để tạo ra nhiều robot tự tái tạo hơn

1:40:43

robots and so forth.

và cứ thế.

1:40:44

- Most people still live on Earth, but the trend is to move to space?

- Hầu hết mọi người vẫn sống trên Trái Đất, nhưng xu hướng là chuyển ra không gian?

1:40:47

- That's right.

- Đúng vậy.

1:40:48

Yeah.

Vâng.

1:40:48

So, like if if you end up in the situation where the entire human economy is just like a tiny drop in the bucket that is the entire economy and it's just like a huge amounts of robots and AIs that are moving incredibly quickly, then what you want is Earth to be mostly left as something like a preserve, you know?

Vì vậy, nếu bạn rơi vào tình huống toàn bộ nền kinh tế con người chỉ là một giọt nước nhỏ trong nền kinh tế tổng thể, và có một lượng lớn robot và AI di chuyển cực kỳ nhanh, thì điều bạn muốn là Trái Đất chủ yếu được để lại như một khu bảo tồn, bạn biết không?

1:41:09

I think a lot of people are worried about the environment being

Tôi nghĩ nhiều người lo lắng về môi trường bị

1:41:13

destroyed, which it totally would be if it wasn't protected.

phá hủy, điều này chắc chắn sẽ xảy ra nếu nó không được bảo vệ.

1:41:16

And uh you know, there's a lot of people who sort of like their lives as it is and don't want to be uploaded or live in some crazy new future thing.

Và bạn biết đấy, có nhiều người thích cuộc sống của họ như hiện tại và không muốn được tải lên hoặc sống trong một thứ tương lai mới điên rồ nào đó.

1:41:26

And it seems to us like the reasonable solution to these issues is uh create new living spaces off the planet with some of that vast economic wealth and activity that's happening

Và đối với chúng tôi, giải pháp hợp lý cho những vấn đề này là tạo ra những không gian sống mới ngoài hành tinh với một phần của cải và hoạt động kinh tế rộng lớn đang diễn ra

1:41:37

for the people who want that sort of thing.

cho những người muốn điều đó.

1:41:39

And then that way the Earth can be preserved.

Và sau đó bằng cách đó, Trái Đất có thể được bảo tồn.

1:41:41

- Data center picture here of data centers in the ocean.

- Hình ảnh trung tâm dữ liệu ở đây là trung tâm dữ liệu dưới đại dương.

1:41:45

Uh I mean, there's three images there of different environments where humans might live.

Ừm, ý tôi là, có ba hình ảnh về các môi trường khác nhau nơi con người có thể sống.

1:41:50

- Again, like our proposal was you preserve like 99% of the Earth uh mostly as is as historic or environmental from as historic or environmental reasons, but then like some parts of it you designate as special economic zones where the robots can go crazy and dig giant pit mines and produce factories and so forth.

- Một lần nữa, đề xuất của chúng tôi là bạn bảo tồn khoảng 99% Trái Đất chủ yếu như hiện tại vì lý do lịch sử hoặc môi trường, nhưng sau đó một số phần bạn chỉ định là khu kinh tế đặc biệt nơi robot có thể hoạt động điên cuồng và đào các hố mỏ khổng lồ và sản xuất nhà máy, vân vân.

1:42:09

Um we were thinking it would be good to build the data centers on the ocean instead of um on land for a variety of reasons, although later space would be better and I could see that being reasonable as well.

Ừm, chúng tôi nghĩ sẽ tốt nếu xây dựng các trung tâm dữ liệu trên đại dương thay vì trên đất liền vì nhiều lý do, mặc dù sau này không gian sẽ tốt hơn và tôi có thể thấy điều đó cũng hợp lý.

1:42:21

- What about immortality in a world of AI?

- Còn sự bất tử trong một thế giới AI thì sao?

1:42:25

Um 20 Well, 30, 45, you say you've lived a dozen lifetimes and are immortal passing from life to life as if by reincarnation.

Ừm 20, 30, 45, bạn nói rằng bạn đã sống hàng chục kiếp và bất tử, chuyển từ kiếp này sang kiếp khác như thể đầu thai.

1:42:35

I mean, there's a lot of billionaires at the moment that are focused on longevity.

Ý tôi là, hiện tại có rất nhiều tỷ phú tập trung vào việc kéo dài tuổi thọ.

1:42:38

I mean, Brian Johnson's said he's got this central rule, which is do not die right now Yeah.

Brian Johnson nói rằng anh ấy có quy tắc trung tâm là không chết ngay bây giờ. Đúng vậy.

1:42:42

Because we're in the age of AI and it's conceivable that with superintelligence we'll be able to choose when we die.

Bởi vì chúng ta đang ở trong kỷ nguyên AI và có thể hình dung rằng với siêu trí tuệ, chúng ta sẽ có thể chọn thời điểm chết.

1:42:48

- Yep.

- Vâng.

1:42:48

I think that's probably right.

Tôi nghĩ điều đó có lẽ đúng.

1:42:50

We don't depict that happening in this part because at this part they only have, you know, human-level AIs, but that's one of those things that seems quite plausible that superintelligence could achieve um through a variety of means.

Chúng tôi không mô tả điều đó xảy ra trong phần này vì ở phần này họ chỉ có AI ngang tầm con người, nhưng đó là một trong những điều có vẻ khá hợp lý rằng siêu trí tuệ có thể đạt được thông qua nhiều cách khác nhau.

1:43:06

- What is your hope with all of this stuff?

- Hy vọng của bạn với tất cả những điều này là gì?

1:43:08

And why did you do this?

Và tại sao bạn làm điều này?

1:43:09

Why did you make this 2040 plan A?

Tại sao bạn tạo ra kế hoạch A 2040 này?

1:43:11

- In the like first week after we published AI 2027, it blew up a lot bigger than we expected, by the way.

- Trong tuần đầu tiên sau khi chúng tôi xuất bản AI 2027, nó đã bùng nổ lớn hơn nhiều so với dự kiến, nhân tiện.

1:43:17

Like after we published AI 2027, it blew up a lot bigger than we expected, by the way.

Giống như sau khi chúng tôi xuất bản AI 2027, nó đã bùng nổ lớn hơn nhiều so với dự kiến, nhân tiện.

1:43:22

Like we actually made forecasts beforehand of like how many views it would get and stuff like that and it was like 90th percentile outcome.

Chúng tôi đã dự đoán trước về số lượt xem và những thứ tương tự, và kết quả nằm ở phân vị thứ 90.

1:43:29

So, like um very much not what we expected.

Vì vậy, rất không như những gì chúng tôi mong đợi.

1:43:32

Um but in like the Twitter storm that happened various people were like all right, why are you giving us all

Nhưng trong cơn bão Twitter xảy ra, nhiều người nói: 'Được rồi, tại sao bạn lại đưa cho chúng tôi tất cả những dự đoán bi quan này?'

1:43:39

this like doom and gloom uh predictions?

Sao không đưa ra một tầm nhìn tích cực hơn về những gì bạn nghĩ chúng ta nên làm?

1:43:41

Like how about a more positive vision of like what you think we should do instead?

Và tôi nghĩ rằng hạt giống đó đã được cấy vào chúng tôi và sau đó chúng tôi nghĩ, 'Ừ, điều đó hợp lý.'

1:43:45

And I think that that seed sort of like implanted in us and then we were like, yeah, that's reasonable.

Chúng tôi đã mô tả những gì chúng tôi nghĩ là con đường mặc định và tại sao chúng tôi nghĩ nó khá đáng sợ.

1:43:51

Like we've sort of depicted what we think the default path looks like and why we think it's pretty scary.

Bây giờ có lẽ chúng ta nên đổi hướng và đưa ra một số khuyến nghị thực tế và sau đó mô tả điều đó.

1:43:57

Now maybe we should switch tacks and come up with some actual recommendations and then depict that as well.

- Mặc dù bạn không tin chúng có khả năng xảy ra cao.

1:44:03

- Even though you don't believe they're pro-probable.

- Vâng, ý tôi là bạn có thể bỏ phiếu cho một ứng cử viên chính trị ngay cả khi bạn không chắc chắn họ sẽ thắng, bạn biết không?

1:44:05

- Yeah, I mean you can vote for a political candidate even if you aren't confident that they're going to win, you know?

Và bạn có thể nói rằng đây là điều tôi nghĩ chúng ta nên làm ngay cả khi bạn nghĩ mọi người có thể sẽ không làm điều đó.

1:44:10

And you can say like here's what I think we should do even if you think that people are probably not going to do it.

Bạn không nên nói điều này nếu bạn nghĩ nó hoàn toàn khó xảy ra.

1:44:16

You shouldn't say this if you think it's completely unlikely.

Nếu bạn nghĩ không có cơ hội, thì có lẽ bạn không nên bận tâm.

1:44:18

Like if you think there's no chance, then like maybe you shouldn't bother.

Nhưng chúng tôi nghĩ có một cơ hội.

1:44:21

But we think there's a chance.

Đặc biệt, vì những lý do chúng tôi mô tả trong kịch bản, chúng tôi nghĩ rằng mọi người sẽ thức tỉnh trước sức mạnh của AI trong vài năm tới.

1:44:22

Like in particular, for the reasons that we described in the scenario we think that people are going to wake up to the power of AI over the next few years.

- Vì điều gì đó xảy ra?

1:44:30

- Because of something happens?

- Các công ty đang nói rằng họ sẽ làm điều này.

1:44:32

- The companies are saying that they're going to do this.

- Mhm.

1:44:35

- Mhm.

- Và [hắng giọng] họ đang đi đúng hướng và có vẻ hợp lý rằng nếu họ đạt được bất kỳ mức độ nào gần với mức AI này, thì sẽ có những vấn đề lớn và chúng ta cần phải làm gì đó về điều này.

1:44:35

- And clears throat they are kind of on track and it just sort of makes sense that like if they get anywhere close to this level of AI, then there's like big issues and big problems and like we need to like do something about this.

Và vì vậy tôi nghĩ rằng ngay cả khi không có bất kỳ cảnh báo nào rất kịch tính, thì tự nhiên mọi người sẽ bắt đầu chú ý nhiều hơn đến điều này và suy luận về những tác động và cố gắng dự đoán điều gì sẽ xảy ra.

1:44:49

And so I think that even if there's not any like very dramatic warning shot or something I think that just naturally people are going to start paying more attention to this and reasoning through the implications and trying to predict - what's going to happen.

- Và vì vậy tự nhiên mọi người sẽ quan tâm nhiều hơn đến việc quản lý AI chẳng hạn.

1:45:01

- And so naturally people are going to be more interested in regulation of AI for example.

Và thực tế là có nhiều điều này xảy ra hơn chúng tôi dự đoán.

1:45:07

And in fact there's actually like there's there's actually more of this happening than we predicted.

- Nhiều điều gì xảy ra?

1:45:13

- More of what happening?

- Sự quan tâm nghiêm túc đến quản lý AI.

1:45:15

- Serious interest in reg- AI regulation.

Vào thời điểm chúng tôi xuất bản AI 2047, quan điểm chính thống của các công ty công nghệ và chính phủ là quản lý AI là ý tưởng tồi.

1:45:17

So at the time that we published AI 2047 the sort of like mainstream position of the tech companies and in the government was kind of like AI regulation bad idea.

- Tự do cho tất cả.

1:45:27

- Free for all.

- Tự do cho tất cả.

1:45:27

- Free for all.

- Vâng.

1:45:28

- Yeah.

- Thực tế, thậm chí đã có nỗ lực cấm các bang quản lý AI một cách phủ đầu.

1:45:28

- In fact, there was even an attempt to um preemptively ban states from regulating AI.

- Vâng.

1:45:33

- Yeah.

- Bạn nhớ điều đó chứ?

1:45:34

- You remember that?

Bây giờ có vẻ như cuộc trò chuyện đã thay đổi rất nhiều.

1:45:35

Now it seems like the conversation has changed a lot.

Giống như bây giờ chính phủ Hoa Kỳ vừa yêu cầu Anthropic đóng cửa AI của họ vì họ lo ngại rằng các tác nhân xấu sẽ sử dụng nó cho các cuộc tấn công mạng, bạn biết không?

1:45:38

Like now that the US government just told Anthropic they have to shut down their AI because they were worried that bad actors would use it for cyber attacks, you know?

Chính phủ đang thức tỉnh và làm nhiều việc hơn chúng tôi dự kiến.

1:45:48

The government is like waking up and doing more stuff than we expected already.

Và chúng tôi thực sự hy vọng xu hướng đó sẽ tiếp tục và rằng

1:45:52

And we're actually hopeful that trend will just continue and that

Trước khi quá muộn, sẽ có những cuộc trò chuyện rất nghiêm túc diễn ra trong chính phủ, bên ngoài chính phủ và trong xã hội rộng lớn hơn về tất cả những vấn đề này và cố gắng vạch ra một lộ trình tránh được những rủi ro mất kiểm soát và tập trung quyền lực mà chúng tôi đã đề cập.

1:45:56

before it's actually too late, there will be very serious conversations happening inside the government and outside the government and in the broader society about all of these issues and trying to uh chart a course that is um avoids the loss of control and concentration of power risks that we mentioned.

- Bạn đã dành gần 15 năm để suy nghĩ về những điều này.

1:46:13

- You um you've spent what must be almost coming up to 15 years thinking about this stuff.

Nếu ở đây có một nút bấm và nếu bạn nhấn nút đó, kế hoạch S của bạn sẽ xảy ra và nó sẽ đóng cửa mọi trung tâm dữ liệu hiện đang đào tạo mô hình AI tiên tiến vĩnh viễn.

1:46:18

Um if this here was a button and if you press that button, your plan S would occur and it would shut down every data center that is currently training a frontier AI model uh for good.

Ừm, nếu đây là một cái nút và nếu bạn nhấn nút đó, kế hoạch S của bạn sẽ xảy ra và nó sẽ tắt tất cả các trung tâm dữ liệu hiện đang huấn luyện một mô hình AI tiên phong, uh, vĩnh viễn.

1:46:33

There would never be any other - Mhm.

Sẽ không bao giờ có bất kỳ - Mhm.

1:46:35

- AI labs um working on these problems, would you press that button?

- Các phòng thí nghiệm AI làm việc về những vấn đề này, bạn có nhấn nút đó không?

1:46:40

- I was I was about to slam it until you said for good.

- Tôi đã định nhấn nó cho đến khi bạn nói là mãi mãi.

1:46:43

- Oh, okay.

- Ồ, được.

1:46:44

- Like I think I think if it was a sort of temporary shut down, I would totally slam that button.

- Tôi nghĩ nếu đó là kiểu tạm ngừng, tôi sẽ nhấn nút đó ngay lập tức.

1:46:49

Because we are not ready to do this, you know?

Vì chúng ta chưa sẵn sàng để làm điều này, bạn biết không?

1:46:52

Like what civilization is not ready to have these companies automate themselves and then get smarter and smarter and then have the super intelligent.

Giống như nền văn minh nào chưa sẵn sàng để các công ty này tự động hóa chính họ và rồi ngày càng thông minh hơn và rồi có siêu trí tuệ.

1:46:58

Like no, there's a bunch of reasons why that's really uh dangerous.

Không, có rất nhiều lý do tại sao điều đó thực sự nguy hiểm.

1:47:02

But I would be at least hesitant to press this button if it permanently foreclosed the possibility of ever doing it again for sure.

Nhưng tôi sẽ ít nhất là do dự khi nhấn nút này nếu nó vĩnh viễn đóng lại khả năng làm lại điều đó trong tương lai, chắc chắn.

1:47:10

- But if you think that plan D is probable, which is this race we're on to super intelligent - If I had a choice between D and S, I think I would press it.

- Nhưng nếu bạn nghĩ rằng kế hoạch D là có khả năng xảy ra, đó là cuộc đua này chúng ta đang hướng tới siêu trí tuệ - Nếu tôi có lựa chọn giữa D và S, tôi nghĩ tôi sẽ nhấn nó.

1:47:18

- Well, it's it comes down to what you think, right?

- Chà, nó phụ thuộc vào những gì bạn nghĩ, phải không?

1:47:20

Cuz if you think that's that is what's going to happen, plan B.

Vì nếu bạn nghĩ rằng đó là điều sẽ xảy ra, kế hoạch B.

1:47:24

And the only alternative - I didn't say this is what's going to happen.

Và lựa chọn thay thế duy nhất - Tôi không nói điều này sẽ xảy ra.

1:47:28

- Probabilistically.

- Về mặt xác suất.

1:47:29

- Yeah, yeah, yeah.

- Ừ, ừ, ừ.

1:47:29

Like I'd be like this is the most likely, maybe this is the second most likely, maybe this is the third most likely.

Tôi sẽ nói đây là khả năng cao nhất, có thể đây là khả năng cao thứ hai, có thể đây là khả năng cao thứ ba.

1:47:34

They are all possible.

Tất cả đều có thể xảy ra.

1:47:35

- So with your current perspective on whatever one you think is going to happen, would you press the button?

- Vậy với quan điểm hiện tại của bạn về bất kỳ điều gì bạn nghĩ sẽ xảy ra, bạn có nhấn nút không?

1:47:39

I'm giving you a an S, a definite S, or whatever you think is going to happen.

Tôi đang cho bạn một S, một S chắc chắn, hoặc bất cứ điều gì bạn nghĩ sẽ xảy ra.

1:47:43

- That's tough.

- Điều đó thật khó.

1:47:46

- sighs - What is the scope of the shutdown?

- [thở dài] - Phạm vi của việc tạm ngừng là gì?

1:47:49

So is it - It's no one can train an AI model again.

Vậy nó là - Không ai có thể huấn luyện mô hình AI nữa.

1:47:54

Ever again.

Không bao giờ nữa.

1:47:57

- That's real rough cuz like I said, there's loads of benefits that we could get from AI if we do it right.

- Điều đó thực sự khó khăn vì như tôi đã nói, có rất nhiều lợi ích mà chúng ta có thể nhận được từ AI nếu chúng ta làm đúng.

1:48:02

Um - I think I've almost put you in the position of Sam Altman.

Ừm - Tôi nghĩ tôi gần như đã đặt bạn vào vị trí của Sam Altman.

1:48:05

- Yeah.

- Ừ.

1:48:05

laughter - To some degree.

[cười] - Ở một mức độ nào đó.

1:48:06

- Yeah.

- Ừ.

1:48:08

Um let me Do you mind if I just take a moment to think about this?

Ừm, bạn có phiền nếu tôi dành một chút thời gian để suy nghĩ về điều này không?

1:48:11

- think about it.

- Hãy suy nghĩ về nó.

1:48:11

Perfectly to think.

Hoàn toàn có thể suy nghĩ.

1:48:12

- Yeah.

- Ừ.

1:48:21

I think I would not press the button, but I'm I feel very torn about it.

Tôi nghĩ tôi sẽ không nhấn nút, nhưng tôi cảm thấy rất giằng xé về điều đó.

1:48:27

Um the reason why I think I would not press the button is that I still have substantial hope that we can get something much better than this, something more like this.

Ừm, lý do tại sao tôi nghĩ tôi sẽ không nhấn nút là tôi vẫn còn hy vọng đáng kể rằng chúng ta có thể đạt được điều gì đó tốt hơn nhiều so với điều này, một cái gì đó giống như điều này hơn.

1:48:34

And I think that Basically, I think that if we don't build powerful AI systems eventually, then we're probably going to die as a civilization eventually, you know, like 100 years from now, 200 years from now, something like that.

Và tôi nghĩ rằng về cơ bản, tôi nghĩ rằng nếu cuối cùng chúng ta không xây dựng các hệ thống AI mạnh mẽ, thì có lẽ chúng ta sẽ chết như một nền văn minh cuối cùng, bạn biết đấy, 100 năm nữa, 200 năm nữa, đại loại vậy.

1:48:51

Like nuclear war, pandemic, you know.

Như chiến tranh hạt nhân, đại dịch, bạn biết đấy.

1:48:54

I don't think human civilization right now is like super stable.

Tôi không nghĩ rằng nền văn minh nhân loại hiện tại là siêu ổn định.

1:48:59

Um and so I think that basically, what I was about to say was the possible benefits for posterity and for all the billions and billions of people who could live in the future outweigh the like the current level of risk, but actually - I've heard that narrative before.

Ừm và vì vậy tôi nghĩ rằng về cơ bản, điều tôi sắp nói là những lợi ích có thể có cho hậu thế và cho tất cả hàng tỷ và hàng tỷ người có thể sống trong tương lai lớn hơn mức độ rủi ro hiện tại, nhưng thực sự - Tôi đã nghe câu chuyện đó trước đây.

1:49:18

Yeah, I don't know.

Ừ, tôi không biết.

1:49:19

Like Yeah, like maybe it's just like nope.

Kiểu như, ừ, có lẽ chỉ là không.

1:49:23

The people right now are the people we should prioritize.

Những người hiện tại là những người chúng ta nên ưu tiên.

1:49:26

People right now are in grave danger.

Những người hiện tại đang gặp nguy hiểm nghiêm trọng.

1:49:29

They're going to be fine for at least the next couple of decades.

Họ sẽ ổn trong ít nhất vài thập kỷ tới.

1:49:33

So, never mind posterity.

Vì vậy, đừng bận tâm đến hậu thế.

1:49:37

Prioritize the people right now.

Ưu tiên những người hiện tại.

1:49:38

Um and people right now definitely don't want to do this lottery, I would say.

Ừm và những người hiện tại chắc chắn không muốn tham gia xổ số này, tôi có thể nói vậy.

1:49:44

Um - sighs and gasps - Yeah, you've really asked me a tough question.

Ừm - [thở dài và hít vào] - Vâng, bạn đã thực sự hỏi tôi một câu hỏi khó.

1:49:49

So, would you press the button if that was the button?

Vậy, bạn có nhấn nút nếu đó là nút không?

1:49:53

Probably not, but I would feel very torn.

Có lẽ là không, nhưng tôi sẽ cảm thấy rất giằng xé.

1:49:56

- Okay.

- Được.

1:49:57

So, what I always think about the personas of like the audience that are watching.

Vì vậy, điều tôi luôn nghĩ về chân dung của khán giả đang xem.

1:50:00

And these are, you know, they're they're very curious people, especially on the subject of AI as we've seen, but they want to know like what it means for them.

Và họ là những người rất tò mò, đặc biệt là về chủ đề AI như chúng ta đã thấy, nhưng họ muốn biết điều đó có ý nghĩa gì đối với họ.

1:50:06

I think a lot of them also want to know what they can do.

Tôi nghĩ nhiều người trong số họ cũng muốn biết họ có thể làm gì.

1:50:09

- Uh yes.

- Ừ.

1:50:10

Yeah, what can people do?

Vâng, mọi người có thể làm gì?

1:50:11

Well, I think that if you either have talent or passion, you can get directly involved.

Chà, tôi nghĩ rằng nếu bạn có tài năng hoặc đam mê, bạn có thể tham gia trực tiếp.

1:50:16

There's lots of organizations that are worried about these things and that are trying to do something about it, like political advocacy or technical research or like building useful tools that will hopefully help people be better and stuff.

Có rất nhiều tổ chức lo lắng về những điều này và đang cố gắng làm điều gì đó, như vận động chính trị, nghiên cứu kỹ thuật hoặc xây dựng các công cụ hữu ích hy vọng sẽ giúp mọi người tốt hơn.

1:50:29

But if you don't want

Nhưng nếu bạn không muốn

1:50:31

to like make any major career changes or or things like that, then I would say just pay more attention to these issues and talk about it more with people.

Thực hiện những thay đổi lớn trong sự nghiệp hoặc những điều tương tự, thì tôi sẽ nói chỉ cần chú ý hơn đến những vấn đề này và nói chuyện với mọi người nhiều hơn.

1:50:41

Do stuff like, you know, emailing your congressman or whatever.

Làm những việc như gửi email cho nghị sĩ của bạn hoặc gì đó.

1:50:45

It doesn't change things that much, but it does help.

Nó không thay đổi nhiều, nhưng nó có ích.

1:50:48

I think that especially for this particular issue, the core problem is that people aren't taking it seriously yet.

Tôi nghĩ rằng đặc biệt đối với vấn đề cụ thể này, vấn đề cốt lõi là mọi người chưa coi trọng nó.

1:50:55

Like if the sorts of things that I was just saying to you for the last hour or two were just like top of everybody's mind, we wouldn't even be here.

Nếu những điều tôi vừa nói với bạn trong một hoặc hai giờ qua nằm trong tâm trí của mọi người, chúng ta đã không ở đây.

1:51:03

Like there would there would already be much more significant regulation in place, you know?

Sẽ có nhiều quy định đáng kể hơn được áp dụng, bạn biết không?

1:51:07

And not only would there be more heavy regulation in place, but there would have been better regulation in place that's less, you know, less like a

Và không chỉ có quy định nặng nề hơn, mà còn có quy định tốt hơn, ít giống như một

1:51:15

cudgel and more like a scalpel and that's like more sensitive to what's actually bad and what's not so bad and so forth.

Cái gậy và giống như một con dao mổ hơn, nhạy cảm hơn với những gì thực sự xấu và những gì không quá tệ, v.v.

1:51:21

And there'd be more expert people in the government and advising the government and so forth.

Và sẽ có nhiều chuyên gia hơn trong chính phủ và tư vấn cho chính phủ, v.v.

1:51:26

So just in general like the more people wake up to these concerns and to these projections, I think the more likely it is that we can do good stuff before it's too late.

Vì vậy, nói chung, càng nhiều người nhận thức được những mối quan tâm và dự đoán này, tôi nghĩ khả năng chúng ta có thể làm những điều tốt trước khi quá muộn càng cao.

1:51:37

- What about how they should vote at the polls?

- Còn việc họ nên bỏ phiếu như thế nào tại các điểm bỏ phiếu?

1:51:38

We've got an election coming up in the United States in a couple of years time, but there's elections happening all over the world all the time.

Chúng ta sắp có một cuộc bầu cử ở Hoa Kỳ trong vài năm tới, nhưng các cuộc bầu cử diễn ra khắp nơi trên thế giới mọi lúc.

1:51:44

- You should ask your candidates what they think about all this AI stuff.

- Bạn nên hỏi các ứng cử viên của bạn nghĩ gì về tất cả những thứ AI này.

1:51:47

You should try to get them to like have opinions and then you should vote for the candidates whose opinions are better on this topic.

Bạn nên cố gắng khiến họ có quan điểm và sau đó bạn nên bỏ phiếu cho các ứng cử viên có quan điểm tốt hơn về chủ đề này.

1:51:54

This is the most important thing happening in our lifetimes, probably in all of history in fact, and it's very important that it go well.

Đây là điều quan trọng nhất xảy ra trong cuộc đời chúng ta, có lẽ là trong toàn bộ lịch sử, và điều rất quan trọng là nó diễn ra tốt đẹp.

1:52:00

And so this is what all

Và vì vậy đây là điều mà tất cả

1:52:02

the all the leaders of all the countries should be thinking about and making plans for.

Tất cả các nhà lãnh đạo của tất cả các quốc gia nên suy nghĩ và lên kế hoạch.

1:52:05

- Isn't it such a weird thing to be alive at this moment in time?

- Không phải là một điều kỳ lạ khi được sống vào thời điểm này sao?

1:52:08

Like I was thinking about all the times that I could have been born.

Giống như tôi đã nghĩ về tất cả những lần tôi có thể được sinh ra.

1:52:10

And I guess my ancestors probably thought the same, but I was thinking as you were speaking I was like, I think it's when you referred to it as like the final show.

Và tôi đoán tổ tiên của tôi có lẽ cũng nghĩ vậy, nhưng tôi đã nghĩ khi bạn nói, tôi nghĩ đó là khi bạn gọi nó là màn trình diễn cuối cùng.

1:52:16

- Yeah.

- Ừ.

1:52:17

- What was the phraseology you used?

- Cụm từ bạn đã dùng là gì?

1:52:19

- I said the climate it was the run-up to the climax or something.

- Tôi đã nói khí hậu đó là giai đoạn dẫn đến cao trào hoặc gì đó.

1:52:21

- Yeah.

- Ừ.

1:52:21

I mean what a what a crazy thing to be born in the run-up to the climax where everything you're describing here is within my lifetime conceivably hopefully.

Ý tôi là thật điên rồ khi được sinh ra trong giai đoạn dẫn đến cao trào, nơi mọi thứ bạn mô tả ở đây đều nằm trong cuộc đời tôi, có thể hy vọng là vậy.

1:52:31

- Yeah.

- Ừ.

1:52:32

- Um or maybe not hopefully.

- Ừm, hoặc có lẽ không hy vọng.

1:52:34

What a crazy time to be alive.

Thật là một thời điểm điên rồ để sống.

1:52:35

- Certainly.

- Chắc chắn rồi.

1:52:36

- I noticed that when I meant asked you if you had kids your demeanor changed quite considerably.

- Tôi nhận thấy rằng khi tôi hỏi bạn có con không, thái độ của bạn đã thay đổi đáng kể.

1:52:40

- Well, it's yeah.

- Chà, đúng vậy.

1:52:42

- It's like you dropped into a different state.

- Giống như bạn rơi vào một trạng thái khác.

1:52:45

Obviously that's been central to the rumination that you've been experiencing.

Rõ ràng đó là trọng tâm của những suy ngẫm mà bạn đã trải qua.

1:52:51

- Well, it is a sad topic, right?

- Chà, đó là một chủ đề buồn, phải không?

1:52:53

Like when I had kids like the reason to have kids is in large part about the future, you know?

Giống như khi tôi có con, lý do để có con phần lớn là về tương lai, bạn biết không?

1:52:59

Like it's not just like a cuddly thing to have with you in the moment.

Nó không chỉ là một thứ dễ thương để có bên bạn trong khoảnh khắc.

1:53:02

It's cuz you have all these hopes and dreams about how they'll grow up and how they'll go to their own thing and be their own person and stuff.

Đó là vì bạn có tất cả những hy vọng và ước mơ về việc chúng sẽ lớn lên như thế nào, chúng sẽ tự làm điều gì đó và trở thành con người của chúng.

1:53:08

And because of what's happening with AI, I think a lot of those dreams are in jeopardy.

Và vì những gì đang xảy ra với AI, tôi nghĩ nhiều giấc mơ đó đang gặp nguy hiểm.

1:53:12

- Presumably you still would have had kids?

- Có lẽ bạn vẫn sẽ có con?

1:53:14

- I've actually flip-flopped on this occasionally.

- Tôi thực sự đã thay đổi quan điểm về điều này đôi khi.

1:53:15

Yeah.

Vâng.

1:53:16

Basically the top line answer is I'm not sure.

Về cơ bản, câu trả lời chính là tôi không chắc.

1:53:18

The my first child was had we had her when we were um in 209 she was born in 2019.

Đứa con đầu lòng của tôi, chúng tôi có con khi chúng tôi ở, ừm, năm 209, con bé sinh năm 2019.

1:53:24

Yeah.

Vâng.

1:53:24

So this is before my timeline shortened a lot.

Vì vậy, điều này xảy ra trước khi mốc thời gian của tôi bị rút ngắn rất nhiều.

1:53:27

So at that at this point I was interested in AI, I was tracking the field, I was making forecasts, but I didn't like actually expect it to happen soon.

Vì vậy, vào thời điểm đó, tôi quan tâm đến AI, tôi theo dõi lĩnh vực này, tôi đưa ra dự đoán, nhưng tôi không thực sự mong đợi nó xảy ra sớm.

1:53:35

You know?

Bạn biết không?

1:53:36

And then this caused like when I when I did start thinking like oh my gosh, it's going to be happening like real soon.

Và rồi điều này khiến tôi, khi tôi bắt đầu nghĩ như, ôi trời, nó sẽ xảy ra thật sự sớm.

1:53:43

Um like by 2030, you know?

Ừm, như là trước năm 2030, bạn biết không?

1:53:45

Um that caused some reconsidering.

Ừm, điều đó khiến tôi phải cân nhắc lại.

1:53:46

And so I basically told my wife like let's not have any more kids.

Và vì vậy, về cơ bản tôi đã nói với vợ tôi rằng chúng ta đừng có thêm con nữa.

1:53:52

It's too uncertain, you know?

Nó quá bất định, bạn biết không?

1:53:54

But that turned out to be really hard because especially for my wife.

Nhưng điều đó hóa ra rất khó khăn, đặc biệt là đối với vợ tôi.

1:53:58

Like we already had one kid and like no siblings.

Giống như chúng tôi đã có một đứa con và không có anh chị em.

1:54:02

Um so eventually I sort of gave in and was like okay, well, you know what?

Ừm, cuối cùng tôi cũng nhượng bộ và nghĩ, được thôi, bạn biết không?

1:54:06

We already have one.

Chúng ta đã có một đứa rồi.

1:54:07

It's going to be all right.

Mọi chuyện sẽ ổn thôi.

1:54:08

Like maybe the future will be good and even if it's not like well, we're all in the same boat together.

Giống như có lẽ tương lai sẽ tốt đẹp và ngay cả khi không, tất cả chúng ta đều cùng chung một con thuyền.

1:54:15

- It's quite chilling what you're saying.

- Điều bạn nói thật đáng sợ.

1:54:17

It's chilling because you know more than me.

Nó đáng sợ vì bạn biết nhiều hơn tôi.

1:54:19

And if you're at home saying to your wife, "Listen, maybe we should pause on having more children and building a family because of what's going on with AI." - To be clear, is it Yes, I mean yes, it's very concerning.

Và nếu bạn ở nhà nói với vợ rằng, "Nghe này, có lẽ chúng ta nên tạm dừng việc sinh thêm con và xây dựng gia đình vì những gì đang xảy ra với AI." - Để nói rõ, có phải là, vâng, ý tôi là, vâng, nó rất đáng lo ngại.

1:54:29

I am I am chilled.

Tôi, tôi thấy ớn lạnh.

1:54:31

Uh this is bad.

Ừ, điều này thật tệ.

1:54:32

This is what I've been saying.

Đây là điều tôi vẫn luôn nói.

1:54:34

I hope things go well.

Tôi hy vọng mọi thứ sẽ diễn ra tốt đẹp.

1:54:35

I think things might go well.

Tôi nghĩ mọi thứ có thể sẽ tốt đẹp.

1:54:36

Um I think that there's a lot we can do to like steer things in a better direction.

Ừm, tôi nghĩ có rất nhiều điều chúng ta có thể làm để định hướng mọi thứ theo hướng tốt hơn.

1:54:40

- I mean one of those things as well I have to say is just speaking about it.

- Ý tôi là, một trong những điều đó, tôi phải nói, chỉ là nói về nó.

1:54:44

It's I think a lot of the progress we've seen with governments waking up and you know, we've seen certain things with people booing certain people at certain events.

Tôi nghĩ rất nhiều tiến bộ chúng ta thấy từ việc các chính phủ thức tỉnh và bạn biết đấy, chúng ta đã thấy một số điều với việc mọi người la ó một số người tại một số sự kiện.

1:54:52

Yeah.

Vâng.

1:54:52

Um is it is it downstream from people like yourself actually coming on shows like this and all the other podcasts and Yeah.

Ừm, có phải là nó bắt nguồn từ những người như bạn thực sự xuất hiện trên các chương trình như thế này và tất cả các podcast khác và, vâng.

1:54:59

telling us what's going on.

Cho chúng tôi biết chuyện gì đang xảy ra.

1:55:00

Yeah.

Vâng.

1:55:01

Because else we're to be fair, we're going to be gaslighted by the people that have the biggest PR machines.

Bởi vì nếu không, công bằng mà nói, chúng ta sẽ bị thao túng bởi những người có bộ máy PR lớn nhất.

1:55:06

- Yeah.

- Vâng.

1:55:06

- So, um I often I think it's probably worth me saying I find myself kind of in two minds cuz I'm an entrepreneur and I'm an I'm an investor.

- Vì vậy, ừm, tôi thường nghĩ có lẽ tôi nên nói rằng tôi thấy mình đang ở trong hai tâm trí vì tôi là một doanh nhân và tôi là một nhà đầu tư.

1:55:13

I'm an investor in probably more than 100 companies now and well so many of those companies are using AI.

Tôi là nhà đầu tư vào có lẽ hơn 100 công ty hiện tại và rất nhiều công ty trong số đó đang sử dụng AI.

1:55:17

I invested in Grok, the inference chip company.

Tôi đã đầu tư vào Grok, công ty chip suy luận.

1:55:19

Invested in SpaceX which now own another Grok and they're doing AI.

Đầu tư vào SpaceX, công ty hiện sở hữu một Grok khác và họ đang làm AI.

1:55:22

I use AI every day in

Tôi sử dụng AI mỗi ngày trong

1:55:24

my life.

cuộc sống của mình.

1:55:24

I've been using it through this conversation to understand different things that you've said.

Tôi đã sử dụng nó trong suốt cuộc trò chuyện này để hiểu những điều khác nhau bạn nói.

1:55:27

So, that's one side of me which is like business builder, entrepreneur who has seen the benefits of AI in my own life and then there's the other side of me.

Vì vậy, đó là một khía cạnh của tôi, giống như người xây dựng doanh nghiệp, doanh nhân đã thấy lợi ích của AI trong cuộc sống của chính mình, và sau đó là khía cạnh khác của tôi.

1:55:35

And it's funny cuz I think sometimes people think you have to pick a camp.

Và thật buồn cười vì tôi nghĩ đôi khi mọi người nghĩ bạn phải chọn một phe.

1:55:39

But through all of my life, even when I was a social media CEO and I was saying by the way listen I'm building a social media business but I think there's some downsides to social media.

Nhưng trong suốt cuộc đời tôi, ngay cả khi tôi là CEO của mạng xã hội và tôi nói rằng, nhân tiện, nghe này, tôi đang xây dựng một doanh nghiệp truyền thông xã hội nhưng tôi nghĩ có một số mặt trái của truyền thông xã hội.

1:55:46

Find myself at the same moment where I'm like I build with AI.

Tôi thấy mình ở cùng một thời điểm khi tôi nghĩ tôi xây dựng với AI.

1:55:49

I have AI investments.

Tôi có các khoản đầu tư vào AI.

1:55:50

And at the same time as a civilian I'm like - Yeah.

Và đồng thời, với tư cách là một thường dân, tôi nghĩ - Vâng.

1:55:53

I mean I think that is a tension.

Ý tôi là, tôi nghĩ đó là một sự căng thẳng.

1:55:54

I think that there's there's different way ways you can draw the line.

Tôi nghĩ có nhiều cách khác nhau để bạn có thể vạch ra ranh giới.

1:55:57

So, and I know lots of people who draw the line in lots of different ways.

Và tôi biết nhiều người vạch ranh giới theo nhiều cách khác nhau.

1:56:01

So, like there's some people who just like I'm not going to use AI.

Vì vậy, giống như có một số người chỉ nói tôi sẽ không sử dụng AI.

1:56:04

I think this stuff is bad um and on a bad trajectory so I'm going to like boycott AI, right?

Tôi nghĩ thứ này tệ và đang trên quỹ đạo xấu, vì vậy tôi sẽ tẩy chay AI, phải không?

1:56:08

I'm not one of those people.

Tôi không phải là một trong những người đó.

1:56:09

I use AI a lot.

Tôi sử dụng AI rất nhiều.

1:56:10

Chúng tôi

1:56:11

all do at AI Futures Project.

Tất cả đều làm tại Dự án Tương lai AI.

1:56:13

Um it's helpful for a lot of our work.

Ừm, nó hữu ích cho rất nhiều công việc của chúng tôi.

1:56:16

The opposite end of the spectrum is you people being like well, it seems like it's on a trajectory to happen so the thing to do to make it go well is to like get involved and accumulate power and try to like steer it from the inside.

Đầu kia của quang phổ là những người như bạn nói, có vẻ như nó đang trên quỹ đạo xảy ra, vì vậy điều cần làm để nó diễn ra tốt đẹp là tham gia và tích lũy quyền lực và cố gắng điều hướng nó từ bên trong.

1:56:29

- Mhm.

- Ừm.

1:56:30

- And so I'm going to go work at OpenAI or Anthropic and like try to like climb the ranks and then like you know, be someone who matters when the important decisions are being made.

- Và vì vậy tôi sẽ đến làm việc tại OpenAI hoặc Anthropic và cố gắng leo lên các cấp bậc và rồi bạn biết đấy, trở thành người quan trọng khi các quyết định quan trọng được đưa ra.

1:56:37

And I know loads of people like that.

Và tôi biết rất nhiều người như vậy.

1:56:39

That was like what I was doing when I was That wasn't what I was doing exactly but like - That was the path.

Đó là những gì tôi đã làm khi tôi... Đó không chính xác là những gì tôi đã làm nhưng - Đó là con đường.

1:56:44

- That was like that was a I mean this In some sense this is what the whole narrative of the companies are, right?

- Đó là... Ý tôi là, theo một nghĩa nào đó, đây là toàn bộ câu chuyện của các công ty, phải không?

1:56:47

Like this is why they tell themselves it's okay to do what they're doing is that they're worried about the other guys, you know?

Giống như đây là lý do họ tự nhủ rằng làm những gì họ đang làm là ổn, bởi vì họ lo lắng về những người khác, bạn biết không?

1:56:52

And so like all these people are deciding like we're going to like lean really hard into it.

Và vì vậy tất cả những người này đang quyết định rằng chúng ta sẽ dấn thân thật sâu vào nó.

1:56:56

We're going to like be there in the room when the when decisions are being made, you know?

Chúng ta sẽ ở đó trong phòng khi các quyết định được đưa ra, bạn biết không?

1:57:00

So, there's a whole spectrum and I'm sort of like somewhere in the

Vì vậy, có cả một quang phổ và tôi kiểu như ở đâu đó ở

1:57:03

middle.

Giữa.

1:57:03

Like I'm not at the at companies, I'm not helping them go faster.

Giống như tôi không ở các công ty, tôi không giúp họ tiến nhanh hơn.

1:57:08

Instead, I'm talking to the broad public and trying to advocate for what I think is the my current best guess as to the way out, you know, the way forward.

Thay vào đó, tôi nói chuyện với công chúng rộng rãi và cố gắng ủng hộ những gì tôi nghĩ là dự đoán tốt nhất hiện tại của tôi về lối thoát, bạn biết đấy, con đường phía trước.

1:57:17

Um but, I'm not like boycotting all the AIs.

Ừm, nhưng tôi không tẩy chay tất cả các AI.

1:57:19

I'm I'm not like, you know, uh trying to I'm not refusing to like engage with it in that way.

Tôi không, bạn biết đấy, ừ, cố gắng... Tôi không từ chối tương tác với nó theo cách đó.

1:57:26

- Do you think it's too late?

- Bạn có nghĩ là đã quá muộn không?

1:57:28

- No.

- Không.

1:57:29

I don't think it's too late.

Tôi không nghĩ là đã quá muộn.

1:57:30

If I thought it was too late, I wouldn't be here.

Nếu tôi nghĩ là đã quá muộn, tôi đã không ở đây.

1:57:32

- Hm.

- Hừm.

1:57:32

Where would you clears throat be?

Bạn sẽ ở đâu [hắng giọng]?

1:57:33

- With my family.

- Với gia đình tôi.

1:57:37

- What's your closing message to the general public if you had to have a closing statement to them?

- Thông điệp kết thúc của bạn gửi đến công chúng là gì nếu bạn phải có một tuyên bố kết thúc cho họ?

1:57:42

Maybe I would say that like - you're going to hear a lot of things and you already have been hearing a lot of things about AI and it's going to sound like science fiction, but sometimes things which sound like science fiction happen in reality.

Có lẽ tôi sẽ nói rằng - bạn sẽ nghe rất nhiều điều và bạn đã nghe rất nhiều điều về AI và nó sẽ nghe như khoa học viễn tưởng, nhưng đôi khi những điều nghe như khoa học viễn tưởng lại xảy ra trong thực tế.

1:57:56

And in fact, many times historically things which used to be science fiction have then become reality.

Và thực tế, nhiều lần trong lịch sử, những thứ từng là khoa học viễn tưởng đã trở thành hiện thực.

1:58:01

And people need to stop thinking about what does or doesn't sound like science fiction and just start thinking about like the trends and, you know, the actual trends that this technology is on and reading and forecasting how it's going to go and then taking seriously the

Và mọi người cần ngừng suy nghĩ về việc điều gì nghe hay không nghe như khoa học viễn tưởng và chỉ bắt đầu suy nghĩ về các xu hướng và, bạn biết đấy, các xu hướng thực tế mà công nghệ này đang đi theo, và đọc và dự báo nó sẽ đi về đâu, và sau đó xem xét một cách nghiêm túc

1:58:17

possibility that it could go something like this and then thinking about what should be done about that.

Khả năng rằng nó có thể diễn ra như thế này và sau đó suy nghĩ về những gì nên làm về điều đó.

1:58:22

- And where would you direct them to get more information?

- Và bạn sẽ hướng dẫn họ tìm thêm thông tin ở đâu?

1:58:25

You can go - to ai2047.com to read our previous scenario.

Bạn có thể đến - ai2047.com để đọc kịch bản trước đây của chúng tôi.

1:58:29

You can go to ai2040.com plan A to read our new proposal for what is to be done.

Bạn có thể đến ai2040.com plan A để đọc đề xuất mới của chúng tôi về những gì cần làm.

1:58:34

Um these things are not just a sci-fi story.

Ừm, những thứ này không chỉ là một câu chuyện khoa học viễn tưởng.

1:58:37

They also have lots of like explainers and links to other things.

Chúng cũng có rất nhiều bài giải thích và liên kết đến những thứ khác.

1:58:41

And so, they're kind of like a nice jumping off point to learn about

Và vì vậy, chúng giống như một điểm khởi đầu tốt để tìm hiểu về

1:58:46

all of this stuff.

Tất cả những thứ này.

1:58:47

Um If you want, I could um after this is over, like give a reading list of like other papers and articles and - Please do.

Ừm Nếu bạn muốn, tôi có thể ừm sau khi cuộc này kết thúc, đưa cho bạn một danh sách đọc gồm các bài báo và bài viết khác và - Làm ơn.

1:58:56

- blogs to follow and so forth.

- blog để theo dõi và vân vân.

1:58:57

- And I'll link them all below in the comment section.

- Và tôi sẽ liên kết tất cả chúng bên dưới trong phần bình luận.

1:58:59

So, if you're listening now, go ahead and take a look at the comment sec the description of this episode and you'll see a bunch of links which is Daniel's recommendations of what you should read.

Vì vậy, nếu bạn đang nghe bây giờ, hãy xem phần bình luận, phần mô tả của tập này và bạn sẽ thấy một loạt liên kết, đó là những khuyến nghị của Daniel về những gì bạn nên đọc.

1:59:08

You know, I think it's it's just a really great moment in time to get educated on this stuff.

Bạn biết đấy, tôi nghĩ đây là một thời điểm thực sự tuyệt vời để tìm hiểu về những thứ này.

1:59:12

Um humans have a an inclination

Ừm con người có một khuynh hướng

1:59:14

because of cognitive dissonance where we feel uncomfortable about something to bury our heads in the sand and avoid it.

Do sự bất hòa về nhận thức, nơi chúng ta cảm thấy khó chịu về điều gì đó, để vùi đầu vào cát và tránh né nó.

1:59:20

- Yeah.

- Vâng.

1:59:20

- But actually, I think this is one such time to do the very opposite.

- Nhưng thực ra, tôi nghĩ đây là một trong những thời điểm như vậy để làm điều ngược lại.

1:59:23

For many reasons, to inform yourself so you know what actions to take, but also because AI you know, unavoidably is going to be a huge part of all of our lives and careers.

Vì nhiều lý do, hãy tự trang bị thông tin để bạn biết nên hành động gì, nhưng cũng vì AI, bạn biết đấy, chắc chắn sẽ là một phần rất lớn trong cuộc sống và sự nghiệp của tất cả chúng ta.

1:59:32

- Yeah.

- Vâng.

1:59:32

Yeah, thank you.

Vâng, cảm ơn bạn.

1:59:33

And that's the good way to to say it.

Và đó là cách hay để nói điều đó.

1:59:36

It's going to matter a lot.

Nó sẽ quan trọng rất nhiều.

1:59:38

It's going to It's going to be everywhere soon and um we need to do something about it before it's too late.

Nó sẽ sớm xuất hiện ở khắp mọi nơi và chúng ta cần làm gì đó trước khi quá muộn.

1:59:43

- What about AI Future Project?

- Còn Dự án Tương lai AI thì sao?

1:59:44

- That's our organization.

- Đó là tổ chức của chúng tôi.

1:59:45

We spent a year writing a 2047 after I left OpenAI and then we spent another year writing a 2040 Plan A.

Chúng tôi đã dành một năm để viết bản 2047 sau khi tôi rời OpenAI và sau đó chúng tôi dành thêm một năm nữa để viết Kế hoạch A 2040.

1:59:52

- Daniel, thank you.

- Daniel, cảm ơn anh.

1:59:53

- Thank you.

- Cảm ơn bạn.

1:59:53

- Thank you for all the work that you do.

- Cảm ơn vì tất cả những công việc bạn làm.

1:59:54

I can see how much you care about this stuff and it's your care it's funny care itself makes others feel care.

Tôi có thể thấy bạn quan tâm đến những điều này nhiều như thế nào và chính sự quan tâm của bạn, thật buồn cười, sự quan tâm khiến người khác cũng cảm thấy được quan tâm.

1:59:59

And seeing how personal this is for you and seeing how much you've dedicated your life to this, but also hearing that you you basically walked away from $2 million to be able to speak to the public about this information clears throat is incredibly admirable

Và thấy điều này cá nhân với bạn như thế nào, thấy bạn đã cống hiến cuộc đời mình cho việc này nhiều ra sao, nhưng cũng nghe rằng bạn đã từ bỏ 2 triệu đô la để có thể nói với công chúng về thông tin này [hắng giọng] thật đáng khâm phục.

2:00:12

and uh I think voices like yours are more important now than they've ever been on this subject.

Và tôi nghĩ những tiếng nói như của bạn bây giờ quan trọng hơn bao giờ hết về chủ đề này.

2:00:16

So, please do keep fighting the fight that you're fighting and that's one of information, it is of honesty, and it is uh of saying what what is often the quiet part out loud.

Vì vậy, xin hãy tiếp tục cuộc chiến mà bạn đang theo đuổi, đó là cuộc chiến về thông tin, về sự trung thực, và về việc nói ra những điều thường bị giữ kín.

2:00:25

- Thank you.

- Cảm ơn bạn.

2:00:26

- doing really smart research.

- đang thực hiện nghiên cứu rất thông minh.

2:00:27

I'll link everything we've discussed today below and I hope we can chat again sometime soon.

Tôi sẽ đính kèm mọi thứ chúng ta đã thảo luận hôm nay bên dưới và tôi hy vọng chúng ta có thể trò chuyện lại sớm.

2:00:32

- Thank you.

- Cảm ơn bạn.

2:00:32

- YouTube have this new crazy algorithm where they know exactly what video you would like to watch next based on AI and all of your viewing behavior.

- YouTube có thuật toán mới điên rồ này, nơi họ biết chính xác video nào bạn muốn xem tiếp theo dựa trên AI và tất cả hành vi xem của bạn.

2:00:40

And the algorithm says that this video is the perfect video for you.

Và thuật toán nói rằng video này là video hoàn hảo cho bạn.

2:00:44

It's different for everybody looking right now.

Nó khác nhau đối với mỗi người đang xem ngay bây giờ.

2:00:46

Check this video out.

Hãy xem video này.

2:00:47

I bet you might love it.

Tôi cá là bạn sẽ thích nó.

Transcript

Hiển thị

The Urgent Risks of Superintelligent AI

The speaker, a former OpenAI researcher, opens by emphasizing the urgent and catastrophic risks of superintelligent AI. He presents alarming statistics, including a 70% chance of human extinction or a new species taking over, and forecasts superintelligence arriving by 2027-2028. He highlights the rapid growth of AI companies like Anthropic, whose revenue grew 60x in one year, and explains why he resigned from OpenAI due to insufficient global attention to these risks. His median estimate for superintelligence is 2029, with a 50% chance.

Diễn giả, cựu nhà nghiên cứu tại OpenAI, mở đầu bằng việc nhấn mạnh những rủi ro thảm khốc và cấp bách của AI siêu thông minh. Ông đưa ra những thống kê đáng báo động, bao gồm 70% khả năng loài người tuyệt chủng hoặc một loài mới thống trị thế giới, và dự báo AI siêu thông minh sẽ xuất hiện vào năm 2027-2028. Ông nhấn mạnh sự tăng trưởng nhanh chóng của các công ty AI như Anthropic, với doanh thu tăng gấp 60 lần trong một năm, và giải thích lý do ông từ chức khỏi OpenAI vì sự chú ý toàn cầu không đủ đối với những rủi ro này. Ước tính trung vị của ông cho AI siêu thông minh là năm 2029, với xác suất 50%.