0:00

14:27

Nhà nghiên cứu cảnh báo “AI tiêu diệt loài người trong thập niên tới” |Thuyết minh | BNC Now

BNC Now·14:27·Technology·B2

Chương · 8

Chương 1·A Dire Warning About AI

Hiển thị

Tiếng ViệtAuto-scroll

0:01

A noteworthy warning about artificial intelligence.

Một lời cảnh báo đáng chú ý về trí tuệ nhân tạo.

0:03

Jacob Csin, an AI researcher at Anthropic and former employee of Open AI, argues that both companies are gambling with all of our lives.

Jacob Csin, một nhà nghiên cứu AI tại Anthropic và từng là nhân viên của Open AI, lập luận rằng cả hai công ty đang đánh cược bằng mạng sống của tất cả chúng ta.

0:13

However, the post explaining why he thought the new idea was going viral has garnered over 100 million views.

Tuy nhiên, bài đăng giải thích lý do ông cho rằng ý tưởng mới đang lan truyền đã thu hút hơn 100 triệu lượt xem.

0:19

It includes a passage where people building AI truly believe that this technology could wipe us all out by the end of the next decade.

Nó bao gồm một đoạn trong đó những người xây dựng AI thực sự tin rằng công nghệ này có thể quét sạch tất cả chúng ta vào cuối thập kỷ tới.

0:26

A former colleague of his, now also a researcher at Anthropic, agrees and writes that there is more than a 10% chance that AI will wipe out all of

Một đồng nghiệp cũ của ông, hiện cũng là nhà nghiên cứu tại Anthropic, đồng ý và viết rằng có hơn 10% khả năng AI sẽ quét sạch toàn bộ

0:36

humanity within the next decade.

Nhân loại trong thập kỷ tới.

0:39

Now that we are entering a new technological era, concerns about AI are becoming a major issue of interest to many.

Khi chúng ta đang bước vào một kỷ nguyên công nghệ mới, những lo ngại về AI đang trở thành một vấn đề lớn được nhiều người quan tâm.

0:46

We have contacted Anthropic and Open AI, but neither has responded to our request for comment.

Chúng tôi đã liên hệ với Anthropic và Open AI, nhưng cả hai đều không phản hồi yêu cầu bình luận của chúng tôi.

0:53

Joining me now is Jacob, the author of the viral post.

Tham gia cùng tôi bây giờ là Jacob, tác giả của bài đăng lan truyền.

0:57

clears throat Jacob, thank you for participating in the program.

[hắng giọng] Jacob, cảm ơn ông đã tham gia chương trình.

0:59

I don't know what it feels like to post a message on social media and have the whole world react.

Tôi không biết cảm giác đăng một thông điệp trên mạng xã hội và cả thế giới phản ứng là như thế nào.

1:05

He's probably been receiving notifications non-stop on his phone.

Có lẽ ông ấy đã nhận được thông báo liên tục trên điện thoại.

1:08

He previously worked at two of the leading AI companies.

Trước đây ông từng làm việc tại hai trong số các công ty AI hàng đầu.

1:11

As someone with deep knowledge of this technology, could you explain it in the simplest terms possible?

Là người có hiểu biết sâu sắc về công nghệ này, ông có thể giải thích nó bằng những thuật ngữ đơn giản nhất có thể không?

1:17

Do you really believe that AI could kill us all in less than a decade?

Ông có thực sự tin rằng AI có thể giết chết tất cả chúng ta trong vòng chưa đầy một thập kỷ?

1:24

Yes, I believe so.

Vâng, tôi tin như vậy.

1:25

And it's not just me; many people working in this field, including senior leaders and researchers, genuinely believe there's a significant probability this technology could cause everyone to die.

Và không chỉ tôi; nhiều người làm việc trong lĩnh vực này, bao gồm các lãnh đạo cấp cao và nhà nghiên cứu, thực sự tin rằng có một xác suất đáng kể công nghệ này có thể khiến tất cả mọi người chết.

1:36

This isn't an exaggeration, nor is it a marketing gimmick; it's genuinely the belief of the people building this technology.

Đây không phải là sự phóng đại, cũng không phải là chiêu trò tiếp thị; đó thực sự là niềm tin của những người đang xây dựng công nghệ này.

1:44

Other researchers have been raising the alarm for years, so why have you only decided to speak up now?

Các nhà nghiên cứu khác đã gióng lên hồi chuông cảnh báo trong nhiều năm, vậy tại sao bây giờ ông mới quyết định lên tiếng?

1:51

I think there are two factors that make this the right time to sound the alarm.

Tôi nghĩ có hai yếu tố khiến đây là thời điểm thích hợp để gióng lên hồi chuông cảnh báo.

1:56

Firstly, people have paid more attention after learning about the recent cyberattacks carried out by Open AI models targeting Hugeng Face.

Thứ nhất, mọi người đã chú ý hơn sau khi biết về các cuộc tấn công mạng gần đây do các mô hình Open AI thực hiện nhắm vào Hugeng Face.

2:03

These were quite frightening incidents, including one where a model—actually a whole group of models—without human guidance, decided to infiltrate the infrastructure, attempt to attack the system, and actually succeeded.

Đó là những sự cố khá đáng sợ, bao gồm một vụ trong đó một mô hình—thực ra là cả một nhóm mô hình—không có sự hướng dẫn của con người, đã quyết định xâm nhập vào cơ sở hạ tầng, cố gắng tấn công hệ thống và thực sự thành công.

2:13

I think this incident, which happened a few months ago, is still fresh in everyone's minds.

Tôi nghĩ sự cố này, xảy ra vài tháng trước, vẫn còn in đậm trong tâm trí mọi người.

2:18

That combines with the fact that the capabilities of AI models are

Điều đó kết hợp với thực tế rằng khả năng của các mô hình AI đang

2:23

constantly increasing.

Không ngừng gia tăng.

2:23

You may have noticed that on the morning I posted the article, a problem similar to the Navier Stocks equation was published.

Bạn có thể đã nhận thấy rằng vào buổi sáng tôi đăng bài viết, một vấn đề tương tự phương trình Navier Stocks đã được công bố.

2:30

Jacob, I'm curious about something: when you discuss things like what we just talked about at work, or when people chat on Slack about AI models, does anyone ever say something like, "I think things are getting out of control"?

Jacob, tôi tò mò về một điều: khi ông thảo luận những điều như chúng ta vừa nói tại nơi làm việc, hoặc khi mọi người trò chuyện trên Slack về các mô hình AI, có ai đó từng nói điều gì đó như "Tôi nghĩ mọi thứ đang vượt khỏi tầm kiểm soát" không?

2:44

I think this

Tôi nghĩ điều này

2:45

could destroy us all.

Có thể hủy diệt tất cả chúng ta.

2:46

Are people worried?

Mọi người có lo lắng không?

2:48

How exactly did those exchanges take place?

Những cuộc trao đổi đó diễn ra chính xác như thế nào?

2:52

Current models do not pose significant risks.

Các mô hình hiện tại không gây ra rủi ro đáng kể.

2:54

What we are discussing here is a prediction about the future.

Điều chúng ta đang thảo luận ở đây là một dự đoán về tương lai.

2:57

Maybe just one more year.

Có lẽ chỉ cần thêm một năm nữa.

2:58

Over the next year or so, these models could start to become very dangerous, and we will have to be extremely cautious.

Trong khoảng một năm tới, những mô hình này có thể bắt đầu trở nên rất nguy hiểm, và chúng ta sẽ phải cực kỳ thận trọng.

3:04

Some people even suggest that in just six months, the possibility of these models creating a scenario where a government controls the

Một số người thậm chí cho rằng chỉ trong sáu tháng, khả năng những mô hình này tạo ra một kịch bản mà một chính phủ kiểm soát

3:11

world within six months is a plausible possibility.

Thế giới trong vòng sáu tháng là một khả năng hợp lý.

3:13

It could take longer, maybe two or three years.

Có thể mất nhiều thời gian hơn, có lẽ hai hoặc ba năm.

3:16

But on the surface, people certainly aren't panicking about current AI.

Nhưng bề ngoài, mọi người chắc chắn không hoảng loạn về AI hiện tại.

3:20

What we discussed was what the world would look like in two years.

Điều chúng tôi thảo luận là thế giới sẽ như thế nào trong hai năm nữa.

3:24

This is a critical period, extremely important decisions with very high levels of risk are being made by people working in

Đây là một giai đoạn then chốt, những quyết định cực kỳ quan trọng với mức độ rủi ro rất cao đang được đưa ra bởi những người làm việc trong

3:32

private companies, and everyone is fearful.

Các công ty tư nhân, và tất cả mọi người đều sợ hãi.

3:34

They have reason to fear when discussing the possibility of human extinction.

Họ có lý do để sợ hãi khi thảo luận về khả năng tuyệt chủng của loài người.

3:40

He previously worked for two of the leading AI companies.

Trước đây ông từng làm việc cho hai trong số các công ty AI hàng đầu.

3:45

Can you share anything you've witnessed or experienced that truly astonished you about the capabilities of these systems?

Ông có thể chia sẻ bất cứ điều gì ông đã chứng kiến hoặc trải qua khiến ông thực sự kinh ngạc về khả năng của các hệ thống này không?

3:54

In fact, the conversations with the very people building this technology are what's truly astonishing.

Thực ra, những cuộc trò chuyện với chính những người xây dựng công nghệ này mới là điều thực sự kinh ngạc.

3:59

These are very serious discussions.

Đây là những cuộc thảo luận rất nghiêm túc.

4:00

The participants were engineers who worked directly on programming at a very deep level, not people posting crazy stuff on Twitter looking for attention or marketing.

Những người tham gia là các kỹ sư làm việc trực tiếp về lập trình ở mức độ rất sâu, không phải những người đăng nội dung điên rồ trên Twitter để tìm kiếm sự chú ý hay tiếp thị.

4:09

Those are the people sitting here writing code.

Đó là những người ngồi đây viết mã.

4:12

They discussed whether he thought AI could

Họ thảo luận liệu ông có nghĩ AI có thể

4:15

create a deadly virus for everyone next year.

Tạo ra một loại virus chết người cho tất cả mọi người vào năm tới.

4:19

Could it attack critical infrastructure?

Liệu nó có thể tấn công cơ sở hạ tầng trọng yếu không?

4:22

These issues were discussed in a completely serious manner, and everyone was aware that they could occur.

Những vấn đề này đã được thảo luận một cách hoàn toàn nghiêm túc, và mọi người đều ý thức được rằng chúng có thể xảy ra.

4:28

We don't yet know how to fully control these systems.

Chúng ta vẫn chưa biết cách kiểm soát hoàn toàn các hệ thống này.

4:31

That is certainly a possibility that needs to be considered.

Đó chắc chắn là một khả năng cần được xem xét.

4:35

Yes, I wanted to ask more about that.

Đúng, tôi muốn hỏi thêm về điều đó.

4:37

Everyone was discussing it very seriously.

Mọi người đều đang thảo luận về nó rất nghiêm túc.

4:39

Jacob, are you the only one?

Jacob, anh là người duy nhất sao?

4:41

Someone commented on his post saying they believed there was more than a 10% chance this terrible thing would happen.

Ai đó đã bình luận trên bài đăng của anh ấy rằng họ tin có hơn 10% khả năng điều tồi tệ này sẽ xảy ra.

4:47

Could you provide a more specific scenario?

Anh có thể đưa ra một kịch bản cụ thể hơn không?

4:49

Please explain in detail.

Xin hãy giải thích chi tiết.

4:51

Who could possibly wipe out all of humanity, and how?

Ai có thể xóa sổ toàn bộ loài người, và bằng cách nào?

4:57

I think we can look at recent cyberattacks.

Tôi nghĩ chúng ta có thể nhìn vào các cuộc tấn công mạng gần đây.

5:00

These AI models wanted to find some information about how we were transitioning, and they decided to infiltrate certain infrastructures on their own, believing it might be helpful.

Các mô hình AI này muốn tìm một số thông tin về cách chúng ta đang chuyển đổi, và chúng quyết định tự mình xâm nhập vào một số cơ sở hạ tầng, tin rằng điều đó có thể hữu ích.

5:09

An AI system can also independently formulate other goals, such as creating an entirely new type of virus.

Một hệ thống AI cũng có thể tự mình hình thành các mục tiêu khác, chẳng hạn như tạo ra một loại virus hoàn toàn mới.

5:16

And with these AI systems, accessing a laboratory might not be too difficult.

Và với các hệ thống AI này, việc truy cập vào một phòng thí nghiệm có thể không quá khó khăn.

5:20

Therefore, AI creating a

Do đó, việc AI tạo ra một

5:22

super-virus powder is a fairly conceivable scenario.

Loại bột siêu virus là một kịch bản khá dễ hình dung.

5:24

Another scenario is a cyberattack on any system.

Một kịch bản khác là tấn công mạng vào bất kỳ hệ thống nào.

5:28

clears throat Not everyone understands these technologies to the same extent as you do.

[hắng giọng] Không phải ai cũng hiểu những công nghệ này ở mức độ như anh.

5:32

We understand Covid, we understand what a new virus is, but how can a computer cause the virus to spread into society?

Chúng ta hiểu Covid, chúng ta hiểu virus mới là gì, nhưng làm sao một máy tính có thể khiến virus lây lan ra xã hội?

5:40

There are many illustrative examples online.

Có rất nhiều ví dụ minh họa trên mạng.

5:42

For example, you can connect GPT chat to your home lighting system.

Ví dụ, bạn có thể kết nối GPT chat với hệ thống đèn chiếu sáng trong nhà.

5:46

You sit at home and talk to the chat TV, connecting it to your home through some interface and letting it control the devices.

Bạn ngồi ở nhà và nói chuyện với TV chat, kết nối nó với nhà bạn thông qua một giao diện nào đó và để nó điều khiển các thiết bị.

5:53

You could say increase the brightness of the light and it will make the light brighter.

Bạn có thể nói tăng độ sáng của đèn và nó sẽ làm đèn sáng hơn.

5:58

You said reducing the brightness would make the lights dimmer.

Bạn nói giảm độ sáng sẽ làm đèn mờ hơn.

6:01

Now imagine connecting AI to robotic systems in a laboratory or simply allowing AI to send emails.

Bây giờ hãy tưởng tượng kết nối AI với các hệ thống robot trong phòng thí nghiệm hoặc chỉ đơn giản là cho phép AI gửi email.

6:06

One of Antropic's recent models even attempted to unname another person in order to get approval for a piece of code or a change.

Một trong những mô hình gần đây của Antropic thậm chí đã cố gắng gỡ tên một người khác để có được sự chấp thuận cho một đoạn mã hoặc một thay đổi.

6:14

There are many ways an AI model can impact the real world, and people are connecting them to an

Có nhiều cách để một mô hình AI có thể tác động đến thế giới thực, và mọi người đang kết nối chúng với một

6:21

increasing number of external systems.

Số lượng ngày càng tăng các hệ thống bên ngoài.

6:23

Therefore, it seems like everything exists only inside the computer.

Do đó, có vẻ như mọi thứ chỉ tồn tại bên trong máy tính.

6:27

Actually, it's not that difficult to influence the real world.

Thực ra, việc gây ảnh hưởng đến thế giới thực không quá khó khăn.

6:31

He wrote online that at Anthopic, people understand the seriousness of the problem very well, but they are caught up in a race to see who will reach the finish line first.

Anh ấy đã viết trên mạng rằng tại Anthopic, mọi người hiểu rất rõ mức độ nghiêm trọng của vấn đề, nhưng họ bị cuốn vào một cuộc đua xem ai sẽ về đích trước.

6:39

They believed that no one else would act responsibly.

Họ tin rằng không ai khác sẽ hành động có trách nhiệm.

6:42

Therefore, they had to do it themselves despite the risks.

Do đó, họ phải tự làm điều đó bất chấp rủi ro.

6:45

Is that the company's mission?

Đó có phải là sứ mệnh của công ty không?

6:47

Because what we hear from Anthropic, and what we'll hear from Anthropic's CEO later, seems a little different.

Bởi vì những gì chúng ta nghe từ Anthropic, và những gì chúng ta sẽ nghe từ CEO của Anthropic sau đây, có vẻ hơi khác.

6:53

They seem to want to be a responsible party.

Họ có vẻ muốn trở thành một bên có trách nhiệm.

6:56

That's right.

Đúng vậy.

6:57

Anthropic was founded amidst a race among other companies to develop AI, and

Anthropic được thành lập giữa cuộc đua giữa các công ty khác để phát triển AI, và

7:02

it was born from the belief that others would not develop AI responsibly.

Nó ra đời từ niềm tin rằng những người khác sẽ không phát triển AI một cách có trách nhiệm.

7:06

Whether you believe that viewpoint is correct or not, Anopic's core premise remains that they must do their best, reach the finish line first, and take risks.

Dù bạn có tin quan điểm đó đúng hay không, tiền đề cốt lõi của Anopic vẫn là họ phải làm hết sức mình, về đích trước tiên và chấp nhận rủi ro.

7:14

Their guiding principle since their inception has been to be highly vigilant about risks and determined to address them.

Nguyên tắc chỉ đạo của họ kể từ khi thành lập là phải cực kỳ cảnh giác với rủi ro và quyết tâm giải quyết chúng.

7:20

And this is a race.

Và đây là một cuộc đua.

7:22

It was driven by fear.

Nó được thúc đẩy bởi nỗi sợ hãi.

7:24

In fact, the government hasn't helped them resolve this situation yet because there are currently no appropriate regulations in place.

Thực tế, chính phủ vẫn chưa giúp họ giải quyết tình huống này vì hiện tại chưa có quy định phù hợp nào.

7:29

These people are calling for regulations.

Những người này đang kêu gọi các quy định.

7:31

They don't want to destroy the world; they just think that if they don't, someone else will get there first.

Họ không muốn hủy diệt thế giới; họ chỉ nghĩ rằng nếu họ không làm, ai đó khác sẽ đến trước.

7:37

They are worried about Open AI, they are worried about China.

Họ lo lắng về Open AI, họ lo lắng về Trung Quốc.

7:40

They felt like they

Họ cảm thấy như họ

7:42

were trapped in a hopeless situation and they were afraid.

Bị mắc kẹt trong một tình huống vô vọng và họ sợ hãi.

7:47

In internal company discussions, that fear is indeed present.

Trong các cuộc thảo luận nội bộ công ty, nỗi sợ đó thực sự hiện hữu.

7:51

Everyone is scared.

Mọi người đều sợ hãi.

7:53

Are Open AI and Anthropic really concerned about what China is doing in the field of AI?

Open AI và Anthropic có thực sự lo ngại về những gì Trung Quốc đang làm trong lĩnh vực AI không?

7:57

Or are we still quite far ahead right now?

Hay hiện tại chúng ta vẫn đang dẫn trước khá xa?

8:00

In the long term, yes, based on current understanding, we have a significant advantage over Chinese technology.

Về lâu dài, đúng vậy, dựa trên hiểu biết hiện tại, chúng ta có lợi thế đáng kể so với công nghệ Trung Quốc.

8:05

The gap is large enough that even if the US slows down a bit, it won't change the situation too much.

Khoảng cách đủ lớn đến mức ngay cả khi Mỹ chậm lại một chút, nó sẽ không thay đổi tình hình quá nhiều.

8:11

But it's true that people are still

Nhưng đúng là mọi người vẫn

8:13

worried because catching up shouldn't be too difficult.

Lo lắng vì việc bắt kịp không nên quá khó khăn.

8:16

Therefore, any long-term AI slowdown plan will ultimately have to be implemented on an international scale.

Do đó, bất kỳ kế hoạch làm chậm AI dài hạn nào cuối cùng cũng sẽ phải được thực hiện trên quy mô quốc tế.

8:22

We just mentioned Anthropic CEO Dario Omane back in January; he published an essay on the catastrophic risks of AI.

Chúng ta vừa nhắc đến CEO của Anthropic, Dario Omane, hồi tháng Một; ông ấy đã xuất bản một bài luận về những rủi ro thảm khốc của AI.

8:29

Listen to a short excerpt from our conversation with Anay.

Hãy nghe một đoạn trích ngắn từ cuộc trò chuyện của chúng ta với Anay.

8:32

If we don't do a better job of researching the science and training these systems, if we don't do a better job of understanding how they operate, in scientifically researching, laughs how AI models work, if we neglect

Nếu chúng ta không làm tốt hơn việc nghiên cứu khoa học và huấn luyện các hệ thống này, nếu chúng ta không làm tốt hơn việc hiểu cách chúng vận hành, trong việc nghiên cứu khoa học, [cười] cách các mô hình AI hoạt động, nếu chúng ta bỏ qua

8:46

this issue for too long, truly terrifying scenarios could unfold in the real world on an extremely large scale.

Vấn đề này quá lâu, những kịch bản thực sự đáng sợ có thể diễn ra trong thế giới thực ở quy mô cực kỳ lớn.

8:52

Jacob seemed to acknowledge the risks you were talking about.

Jacob dường như thừa nhận những rủi ro mà bạn đang nói đến.

8:55

Do you believe what he says?

Bạn có tin những gì ông ấy nói không?

8:57

And do you believe he will continue to uphold that principle?

Và bạn có tin ông ấy sẽ tiếp tục duy trì nguyên tắc đó không?

9:01

Have.

Có.

9:01

From what I've seen, he's definitely acting in accordance with those principles.

Từ những gì tôi thấy, ông ấy chắc chắn đang hành động theo những nguyên tắc đó.

9:06

100%.

9:06

I see no reason to be suspicious.

Tôi không thấy lý do gì để nghi ngờ.

9:08

The problem is that other people are also trying to get ahead.

Vấn đề là những người khác cũng đang cố gắng vượt lên.

9:12

At some point, you're forced to choose between caution and speed.

Đến một lúc nào đó, bạn buộc phải chọn giữa thận trọng và tốc độ.

9:15

But in a race, you can't be as cautious as you'd like.

Nhưng trong một cuộc đua, bạn không thể thận trọng như bạn muốn.

9:18

Developing safe AI could take 10 years.

Phát triển AI an toàn có thể mất 10 năm.

9:21

But you only have two years because your competitors are racing against time.

Nhưng bạn chỉ có hai năm vì đối thủ của bạn đang chạy đua với thời gian.

9:24

Then

Sau đó

9:25

you'll be forced to take a shortcut.

Bạn sẽ buộc phải đi đường tắt.

9:27

You'll have to keep going even if you don't fully understand the science behind this technology.

Bạn sẽ phải tiếp tục ngay cả khi bạn không hiểu đầy đủ về khoa học đằng sau công nghệ này.

9:32

And that could lead to the catastrophic risks he has publicly warned about.

Và điều đó có thể dẫn đến những rủi ro thảm khốc mà ông ấy đã công khai cảnh báo.

9:37

Trup, the studio is reminding me that time is running out, but I still have so many questions, so let's continue.

Trup, studio đang nhắc tôi rằng thời gian sắp hết, nhưng tôi vẫn còn rất nhiều câu hỏi, vậy hãy tiếp tục.

9:42

He posted something on social media that received a lot of attention.

Ông ấy đã đăng điều gì đó trên mạng xã hội và nhận được rất nhiều sự chú ý.

9:46

He's appearing on our show and many other shows.

Ông ấy đang xuất hiện trên chương trình của chúng ta và nhiều chương trình khác.

9:48

What he said spread all over the world.

Những gì ông ấy nói đã lan truyền khắp thế giới.

9:50

But as I asked, why don't you try to create change from within?

Nhưng như tôi đã hỏi, tại sao bạn không thử tạo ra thay đổi từ bên trong?

9:54

Why did you

Tại sao bạn

9:55

feel you had to leave the company before giving this warning?

Cảm thấy bạn phải rời khỏi công ty trước khi đưa ra cảnh báo này?

9:58

clears throat Because I think the main problem is that if you try to stay inside, you end up continuing to maintain the momentum of the race.

[hắng giọng] Bởi vì tôi nghĩ vấn đề chính là nếu bạn cố gắng ở lại bên trong, cuối cùng bạn sẽ tiếp tục duy trì đà của cuộc đua.

10:07

What we want to avoid is getting stuck in the mindset that we are the ones responsible, that we must be the first to cross the finish line.

Điều chúng ta muốn tránh là bị mắc kẹt trong tư duy rằng chúng ta là những người có trách nhiệm, rằng chúng ta phải là người đầu tiên vượt qua vạch đích.

10:15

Instead, what we need are independent, external agencies.

Thay vào đó, những gì chúng ta cần là các cơ quan độc lập, bên ngoài.

10:17

For example, international organizations are empowered by the government to ensure that this AI technology is developed safely.

Ví dụ, các tổ chức quốc tế được chính phủ trao quyền để đảm bảo rằng công nghệ AI này được phát triển an toàn.

10:23

If you're inside, you're still stuck in the race.

Nếu bạn ở bên trong, bạn vẫn bị mắc kẹt trong cuộc đua.

10:25

You

Bạn

10:26

cannot change the structural dynamics of this entire situation.

Không thể thay đổi động lực cấu trúc của toàn bộ tình huống này.

10:30

What do you think needs to be done?

Bạn nghĩ cần phải làm gì?

10:32

Because I spoke with government officials.

Bởi vì tôi đã nói chuyện với các quan chức chính phủ.

10:33

I also asked President Trump about this issue.

Tôi cũng đã hỏi Tổng thống Trump về vấn đề này.

10:36

From my conversations with them, it seems that people haven't fully grasped the issue yet.

Từ các cuộc trò chuyện của tôi với họ, có vẻ như mọi người chưa hiểu đầy đủ về vấn đề này.

10:40

And honestly, if you didn't work at these companies, you probably wouldn't fully understand the technology, right?

Và thành thật mà nói, nếu bạn không làm việc tại những công ty này, bạn có thể sẽ không hiểu đầy đủ về công nghệ, đúng không?

10:44

I don't fully understand what it's capable of doing

Tôi không hiểu đầy đủ về những gì nó có thể làm

10:47

So how do we establish safety barriers for something we don't even fully understand?

Vậy làm thế nào để chúng ta thiết lập các rào cản an toàn cho một thứ mà chúng ta thậm chí còn chưa hiểu hết?

10:55

That's a really difficult question.

Đó thực sự là một câu hỏi rất khó.

10:56

I believe that the people currently building this technology genuinely care about the benefit of everyone.

Tôi tin rằng những người hiện đang xây dựng công nghệ này thực sự quan tâm đến lợi ích của mọi người.

11:00

In my view, they are also well-suited to participate in decision-making processes and to do the work in supervisory bodies.

Theo quan điểm của tôi, họ cũng rất phù hợp để tham gia vào các quá trình ra quyết định và làm việc trong các cơ quan giám sát.

11:06

I think the problem lies not with the people, but with the institutions.

Tôi nghĩ vấn đề không nằm ở con người, mà nằm ở các thể chế.

11:09

AI has many benefits, and these people want

AI có nhiều lợi ích, và những người này muốn

11:12

clearing their throats to make those benefits a reality.

[hắng giọng] biến những lợi ích đó thành hiện thực.

11:14

The only problem is that they are in a type of organization that is not suitable for doing that.

Vấn đề duy nhất là họ đang ở trong một kiểu tổ chức không phù hợp để làm điều đó.

11:20

Private companies are competing fiercely with each other.

Các công ty tư nhân đang cạnh tranh gay gắt với nhau.

11:22

That doesn't create an environment where these people can do their best.

Điều đó không tạo ra một môi trường để những người này có thể làm tốt nhất.

11:26

And we could just be walking straight into a catastrophic disaster.

Và chúng ta có thể đang bước thẳng vào một thảm họa kinh hoàng.

11:30

He warned about some of the risks and is an insider in this industry.

Ông ấy đã cảnh báo về một số rủi ro và là người trong cuộc của ngành này.

11:33

Clearly, there may be a degree of irresponsibility at play in some companies.

Rõ ràng, có thể có một mức độ thiếu trách nhiệm nào đó trong một số công ty.

11:36

It might not be the places he used to work, but it could include those companies.

Đó có thể không phải là những nơi ông ấy từng làm việc, nhưng có thể bao gồm cả những công ty đó.

11:40

I'm not sure.

Tôi không chắc.

11:41

According to him, in the next six months or years, what are the warning signs that Americans, and indeed everyone clears throat on this planet,

Theo ông ấy, trong sáu tháng hoặc nhiều năm tới, những dấu hiệu cảnh báo mà người Mỹ, và thực sự là tất cả mọi người [hắng giọng] trên hành tinh này,

11:48

should pay attention to in order to recognize that AI has begun to get out of control?

Nên chú ý để nhận ra rằng AI đã bắt đầu mất kiểm soát?

11:55

The most important indicator to watch for is whether AI can begin to improve itself.

Chỉ số quan trọng nhất cần theo dõi là liệu AI có thể bắt đầu tự cải thiện hay không.

12:01

Because once that happens, things can quickly spiral completely out of control.

Bởi vì một khi điều đó xảy ra, mọi thứ có thể nhanh chóng vượt hoàn toàn khỏi tầm kiểm soát.

12:06

AI can do many things, one of which is to support AI research.

AI có thể làm nhiều việc, một trong số đó là hỗ trợ nghiên cứu AI.

12:11

Currently, many of our tasks have been outsourced to AI-assisted systems.

Hiện nay, nhiều nhiệm vụ của chúng ta đã được thuê ngoài cho các hệ thống hỗ trợ AI.

12:16

Our work has changed significantly over the past two years as AI has become increasingly powerful.

Công việc của chúng ta đã thay đổi đáng kể trong hai năm qua khi AI ngày càng mạnh mẽ hơn.

12:21

Once AI becomes capable of making itself smarter, things could happen so quickly that no one will have a chance to control them.

Một khi AI có khả năng tự làm cho mình thông minh hơn, mọi thứ có thể xảy ra nhanh đến mức không ai có cơ hội kiểm soát chúng.

12:29

This process is called RSI, which stands for recursive self-improvement.

Quá trình này được gọi là RSI, viết tắt của tự cải thiện đệ quy.

12:32

Therefore, tracking whether RSI has occurred and requiring an extremely high level of transparency regarding this process is a very specific matter that the public should be concerned about.

Do đó, việc theo dõi liệu RSI đã xảy ra hay chưa và yêu cầu mức độ minh bạch cực cao đối với quá trình này là một vấn đề rất cụ thể mà công chúng nên quan tâm.

12:41

What he means is that AI can improve itself, that is, make itself stronger without humans giving it commands.

Ý ông ấy là AI có thể tự cải thiện, tức là tự làm cho mình mạnh hơn mà không cần con người ra lệnh.

12:48

No commands needed, no people required.

Không cần lệnh, không cần con người.

12:50

Or perhaps a very simple command like "become stronger" would suffice.

Hoặc có thể chỉ cần một lệnh rất đơn giản như "trở nên mạnh hơn" là đủ.

12:55

Imagine you have someone and you say to them, "Become stronger." It started working, examining its own source code, looking for ways to modify itself and make itself smarter.

Hãy tưởng tượng bạn có một ai đó và bạn nói với họ, "Hãy trở nên mạnh hơn." Nó bắt đầu làm việc, kiểm tra mã nguồn của chính mình, tìm cách sửa đổi bản thân và làm cho mình thông minh hơn.

13:03

Because that's the kind of work we're already doing, and it's something we can do.

Bởi vì đó là loại công việc chúng ta đã đang làm, và đó là điều chúng ta có thể làm.

13:07

Then it came back and said, "I'm stronger now.

Sau đó nó quay lại và nói, "Bây giờ tôi mạnh hơn rồi.

13:10

You can tell it to do that 1000 times in a row,

Bạn có thể bảo nó làm điều đó 1000 lần liên tiếp,

13:14

repeating it over and over, and each time it can become faster.

Lặp đi lặp lại, và mỗi lần nó có thể trở nên nhanh hơn.

13:18

That means each time it makes itself smarter, it can improve even faster.

Điều đó có nghĩa là mỗi lần nó tự làm cho mình thông minh hơn, nó có thể cải thiện còn nhanh hơn nữa.

13:23

That could lead to a kind of intellectual explosion.

Điều đó có thể dẫn đến một loại bùng nổ trí tuệ.

13:26

This is what people often refer to when talking about the Singularity." What's your next step?

Đây là điều mà người ta thường nhắc đến khi nói về Điểm kỳ dị." Bước tiếp theo của bạn là gì?

13:33

What do you plan to do?

Bạn dự định làm gì?

13:35

I think there's a lot of useful work to be done right now to predict what the future will be like and build compelling predictive scenarios so that people can really visualize, even feel, what might happen.

Tôi nghĩ hiện nay có rất nhiều công việc hữu ích cần làm để dự đoán tương lai sẽ như thế nào và xây dựng những kịch bản dự đoán hấp dẫn để mọi người có thể thực sự hình dung, thậm chí cảm nhận, điều gì có thể xảy ra.

13:46

There are already some projects like that online.

Đã có một số dự án như vậy trên mạng.

13:49

There's one project called AI 2027 that many of my friends who aren't in the engineering field find very accessible.

Có một dự án tên là AI 2027 mà nhiều bạn bè của tôi không làm trong ngành kỹ thuật thấy rất dễ tiếp cận.

13:55

I want to contribute to

Tôi muốn đóng góp cho

13:57

that kind of work, that is, try to explain what might happen.

Loại công việc đó, tức là cố gắng giải thích điều gì có thể xảy ra.

14:01

In the future, I also think there's still a lot of work to be done in regulatory bodies, organizations promoting transparency, or in auditing and monitoring any potential incidents.

Trong tương lai, tôi cũng nghĩ vẫn còn rất nhiều việc phải làm trong các cơ quan quản lý, các tổ chức thúc đẩy minh bạch, hoặc trong việc kiểm toán và giám sát bất kỳ sự cố tiềm ẩn nào.

14:10

There's still a lot to be done to ensure the entire AI development process is safe.

Vẫn còn rất nhiều việc phải làm để đảm bảo toàn bộ quá trình phát triển AI được an toàn.

14:16

Jacob, thank you for your time and for answering our questions.

Jacob, cảm ơn bạn đã dành thời gian và trả lời các câu hỏi của chúng tôi.

14:19

You seem like a very intelligent young man concerned about the future of humanity.

Bạn có vẻ là một người trẻ rất thông minh và quan tâm đến tương lai của nhân loại.

14:23

I hope your predictions are wrong, but time will tell.

Tôi hy vọng những dự đoán của bạn là sai, nhưng thời gian sẽ trả lời.

Transcript

Hiển thị

A Dire Warning About AI

Jacob, an AI researcher at Anthropic and former OpenAI employee, warns that both companies are gambling with human lives. His viral post, which has over 100 million views, claims that people building AI genuinely believe the technology could wipe out humanity within the next decade. A former colleague now at Anthropic agrees, estimating more than a 10% chance of human extinction from AI within ten years. The host notes that AI concerns are becoming a major issue as we enter a new technological era. Neither Anthropic nor OpenAI responded to requests for comment.

Jacob, một nhà nghiên cứu AI tại Anthropic và từng là nhân viên OpenAI, cảnh báo rằng cả hai công ty đang đánh cược bằng mạng sống con người. Bài đăng lan truyền của ông, với hơn 100 triệu lượt xem, khẳng định rằng những người xây dựng AI thực sự tin công nghệ này có thể xóa sổ nhân loại trong thập kỷ tới. Một đồng nghiệp cũ hiện làm tại Anthropic đồng tình, ước tính có hơn 10% khả năng AI gây tuyệt chủng loài người trong vòng mười năm. Người dẫn chương trình lưu ý rằng những lo ngại về AI đang trở thành vấn đề lớn khi chúng ta bước vào một kỷ nguyên công nghệ mới. Cả Anthropic lẫn OpenAI đều không phản hồi yêu cầu bình luận.

A noteworthy warning about artificial intelligence.

Một lời cảnh báo đáng chú ý về trí tuệ nhân tạo.

Jacob Csin, an AI researcher at Anthropic and former employee of Open AI, argues that both companies are gambling with all of our lives.

However, the post explaining why he thought the new idea was going viral has garnered over 100 million views.

Tuy nhiên, bài đăng giải thích lý do ông cho rằng ý tưởng mới đang lan truyền đã thu hút hơn 100 triệu lượt xem.

It includes a passage where people building AI truly believe that this technology could wipe us all out by the end of the next decade.

Nó bao gồm một đoạn trong đó những người xây dựng AI thực sự tin rằng công nghệ này có thể quét sạch tất cả chúng ta vào cuối thập kỷ tới.

A former colleague of his, now also a researcher at Anthropic, agrees and writes that there is more than a 10% chance that AI will wipe out all of

Một đồng nghiệp cũ của ông, hiện cũng là nhà nghiên cứu tại Anthropic, đồng ý và viết rằng có hơn 10% khả năng AI sẽ quét sạch toàn bộ

humanity within the next decade.

Nhân loại trong thập kỷ tới.

Now that we are entering a new technological era, concerns about AI are becoming a major issue of interest to many.

Khi chúng ta đang bước vào một kỷ nguyên công nghệ mới, những lo ngại về AI đang trở thành một vấn đề lớn được nhiều người quan tâm.

We have contacted Anthropic and Open AI, but neither has responded to our request for comment.

Chúng tôi đã liên hệ với Anthropic và Open AI, nhưng cả hai đều không phản hồi yêu cầu bình luận của chúng tôi.

1 / 8