0:00

4:05

What to make of alarming AI warnings from researchers tied to Anthropic

CBS News·4:05·Technology·B2

Chương · 4

Chương 1·Anthropic Researchers Sound the Alarm

Hiển thị

Tiếng ViệtAuto-scroll

0:00

An Anthropic researcher warns artificial intelligence could pose an existential threat to humanity.

Một nhà nghiên cứu của Anthropic cảnh báo trí tuệ nhân tạo có thể là mối đe dọa hiện hữu đối với nhân loại.

0:05

Anthropic safety researcher Evan Hubinger says he personally believes there's more than a 10% chance that AI could kill all humans within the next decade.

Nhà nghiên cứu an toàn của Anthropic, Evan Hubinger, nói rằng cá nhân ông tin có hơn 10% khả năng AI có thể giết chết toàn bộ loài người trong thập kỷ tới.

0:17

This warning comes after another Anthropic researcher, Jacob Cocksedge, resigned accusing AI labs of racing towards superintelligence

Cảnh báo này được đưa ra sau khi một nhà nghiên cứu khác của Anthropic, Jacob Cocksedge, từ chức với cáo buộc các phòng thí nghiệm AI đang chạy đua hướng tới siêu trí tuệ

0:25

without adequate safeguards.

Mà không có biện pháp bảo vệ đầy đủ.

0:26

Mr.

Ông

0:27

Hubinger says current AI models pose a low risk, but he is concerned about the future systems that could improve themselves and then become pretty difficult for humans to control.

Hubinger nói rằng các mô hình AI hiện tại chỉ gây rủi ro thấp, nhưng ông lo ngại về các hệ thống trong tương lai có thể tự cải thiện và sau đó trở nên khá khó kiểm soát đối với con người.

0:37

Live now to Washington Post AI reporter Garrett Devink.

Đang phát trực tiếp với phóng viên AI của Washington Post, Garrett Devink.

0:40

Garrett, okay.

Garrett, được thôi.

0:41

A lot of people hearing these headlines, they're wondering if they're overblown or if there perhaps could be some truth to them.

Nhiều người khi nghe những tiêu đề này đang tự hỏi liệu chúng có bị thổi phồng hay có thể có chút sự thật nào đó.

0:49

What say you?

Anh nghĩ sao?

0:50

- Yeah, I mean it's it's something that a lot of people in the AI industry have been talking about for a long time.

- Ừ, ý tôi là đây là điều mà rất nhiều người trong ngành AI đã nói đến từ lâu.

0:56

I mean it's not necessarily a new thing for people who know a lot about AI to be concerned about it getting to a point where it's smarter than us and therefore being hard to control.

Ý tôi là việc những người hiểu biết nhiều về AI lo ngại nó đạt đến mức thông minh hơn chúng ta và do đó khó kiểm soát không hẳn là điều mới mẻ.

1:05

I think it's definitely consequential because obviously Anthropic is the leading AI company.

Tôi nghĩ điều này chắc chắn có ý nghĩa quan trọng vì rõ ràng Anthropic là công ty AI hàng đầu.

1:09

They are the ones making the most consequential and most powerful AI right now.

Họ là những người hiện đang tạo ra AI có sức ảnh hưởng và mạnh mẽ nhất.

1:12

And I think you're starting to see that tension where people inside these companies think, "Okay, well, we're working on it.

Và tôi nghĩ anh bắt đầu thấy căng thẳng đó khi những người bên trong các công ty này nghĩ: "Được rồi, chúng ta đang làm việc đó.

1:18

We're going to try to make sure that it doesn't cause harm, but we're not sure we're capable of that and even though a lot of these people stand to make millions and millions of

Chúng ta sẽ cố gắng đảm bảo nó không gây hại, nhưng chúng ta không chắc mình có khả năng làm được điều đó, và dù nhiều người trong số này có thể kiếm được hàng triệu hàng triệu

1:27

dollars in an upcoming IPO, some of them are starting to say, I just don't want to be a part of this and are quitting." - You know, I live in Silicon Valley and every day when I go to the gym, I hear to my left and my right a lot of these AI bosses and a lot of these AI tech engineers talking in language that I can't even understand.

Đô la trong đợt IPO sắp tới, một số người bắt đầu nói rằng tôi chỉ không muốn là một phần của việc này và đang nghỉ việc." - Anh biết đấy, tôi sống ở Thung lũng Silicon và mỗi ngày khi đến phòng gym, tôi nghe bên trái bên phải rất nhiều ông sếp AI và kỹ sư công nghệ AI nói bằng thứ ngôn ngữ tôi thậm chí không hiểu nổi.

1:45

So, for the average American, perhaps in rural

Vậy, đối với người Mỹ bình thường, có lẽ ở vùng nông thôn

1:47

America, who are really talking about the data centers and the impact on their environment, on their electricity grid, how do we break down this conversation in a way that the average American can actually understand so that we can take in the complexities.

Nước Mỹ, những người thực sự đang nói về các trung tâm dữ liệu và tác động của chúng lên môi trường, lên lưới điện của họ, làm thế nào chúng ta chia nhỏ cuộc trò chuyện này theo cách mà người Mỹ bình thường thực sự có thể hiểu để có thể nắm bắt những phức tạp?

2:04

- Yeah, I mean, people are pretty savvy when it comes to AI and I think people have all sorts of concerns that go well beyond and you know, don't necessarily include these maybe more science fiction existential risks, right?

- Ừ, ý tôi là mọi người khá hiểu biết khi nói đến AI và tôi nghĩ mọi người có đủ loại lo ngại vượt xa và, bạn biết đấy, không nhất thiết bao gồm những rủi ro hiện hữu mang tính khoa học viễn tưởng này, đúng không?

2:15

People are worried about what AI might mean for their job, what it means for their relationships, uh you know, people interacting more with AI than they do

Mọi người lo lắng về ý nghĩa của AI đối với công việc của họ, ý nghĩa của nó đối với các mối quan hệ của họ, ừ bạn biết đấy, việc con người tương tác với AI nhiều hơn

2:23

with humans.

Với con người.

2:23

There's all sorts of concerns and that's fueling this very broad-based opposition across partisan lines in America against AI.

Có đủ loại lo ngại và điều đó đang thúc đẩy sự phản đối rất rộng khắp vượt qua các ranh giới đảng phái ở Mỹ đối với AI.

2:29

But, what we're talking about here specifically is the fact that this technology could get out of control and that doesn't mean that it becomes sentient, that doesn't mean that it develops its own motivations or consciousness.

Nhưng điều chúng ta đang nói đến cụ thể ở đây là việc công nghệ này có thể vượt khỏi tầm kiểm soát, và điều đó không có nghĩa là nó trở nên có tri giác, không có nghĩa là nó phát triển động cơ hay ý thức riêng.

2:39

It's just

Chỉ là

2:40

that the way we train these things is to really charge after a specific goal.

Cách chúng ta huấn luyện những thứ này là thực sự lao theo một mục tiêu cụ thể.

2:44

We get them very good at doing something and that's where all this capability comes from.

Chúng ta khiến chúng rất giỏi làm một việc gì đó và đó là nguồn gốc của toàn bộ năng lực này.

2:50

That's why it can write, that's why it can do complex math problems.

Đó là lý do nó có thể viết, đó là lý do nó có thể giải các bài toán phức tạp.

2:54

And so, the concern is that it is not sentient, but it still wants to accomplish things and can uh sort of navigate computers, do cybersecurity

Và vì vậy, mối lo là nó không có tri giác, nhưng nó vẫn muốn hoàn thành mọi việc và có thể, ừ, điều hướng máy tính, làm các nhiệm vụ an ninh mạng

3:03

tasks, hack better than we can understand and that's the point where people start worrying, "Oh, does it take over the electrical grid?

Và hack giỏi hơn mức chúng ta có thể hiểu, và đó là điểm mà mọi người bắt đầu lo lắng: "Ồ, liệu nó có chiếm lấy lưới điện không?

3:09

Does it try to take over the nuclear system?" And you know, I need to - Your bank account.

Liệu nó có cố chiếm lấy hệ thống hạt nhân không?" Và bạn biết đấy, tôi cần - Tài khoản ngân hàng của anh.

3:14

I mean, I think it's we don't really have an idea for how we get from A to B here.

Ý tôi là, tôi nghĩ chúng ta thực sự không có ý tưởng về cách đi từ A đến B ở đây.

3:19

I mean, a lot of the people who are concerned about these things say, "Oh, well, we won't

Ý tôi là, nhiều người lo ngại về những điều này nói rằng: "Ồ, chúng ta sẽ không

3:24

understand it because it will be so capable, it will be so intelligent." And so, I think it's definitely fair to be very skeptical of some of these claims, but I think we also just need to, you know, take into account here that a lot of these people at these companies, they do want uh the rate of AI progress to slow down and they say they're sort of in this competitive catch-22 where they

Hiểu được nó vì nó sẽ quá tài giỏi, nó sẽ quá thông minh." Và vì vậy, tôi nghĩ hoàn toàn hợp lý khi rất hoài nghi về một số tuyên bố này, nhưng tôi nghĩ chúng ta cũng cần, bạn biết đấy, tính đến việc nhiều người ở các công ty này thực sự muốn tốc độ tiến bộ của AI chậm lại và họ nói rằng họ đang ở trong thế tiến thoái lưỡng nan cạnh tranh này, nơi họ

3:44

need to keep charging ahead because they're worried that other companies will do so even if they themselves um stop advancing the level of AI.

Cần tiếp tục lao về phía trước vì họ lo rằng các công ty khác sẽ làm như vậy ngay cả khi bản thân họ ngừng nâng cao trình độ của AI.

3:52

- Well, Garrett, you know what AI cannot do well?

- Vậy Garrett, anh biết AI không thể làm tốt điều gì không?

3:54

That is make a bed as neatly as we see in that mirror there behind you.

Đó là dọn giường gọn gàng như chúng ta thấy trong tấm gương phía sau anh.

3:59

Thank you so much for laughter the conversation.

Cảm ơn anh rất nhiều vì [tiếng cười] cuộc trò chuyện.

4:01

Your parents would be proud, Garrett.

Bố mẹ anh sẽ rất tự hào, Garrett.

4:03

Garrett Veng, thank you so much.

Garrett Veng, cảm ơn anh rất nhiều.

Transcript

Hiển thị

Anthropic Researchers Sound the Alarm

An Anthropic safety researcher, Evan Hubinger, warns that AI could pose an existential threat, saying he personally believes there is more than a 10% chance AI could kill all humans within the next decade. Another Anthropic researcher, Jacob Cocksedge, resigned, accusing AI labs of racing toward superintelligence without adequate safeguards. Hubinger says current AI models pose a low risk, but he worries about future systems that could improve themselves and become hard for humans to control. The host turns to Washington Post AI reporter Garrett Devink to ask whether these headlines are overblown or contain some truth. Devink notes that concern about AI becoming smarter than us is not new in the industry. He adds that the warnings are consequential because Anthropic is a leading AI company making the most powerful AI right now.

Một nhà nghiên cứu an toàn của Anthropic, Evan Hubinger, cảnh báo rằng AI có thể là mối đe dọa hiện hữu, nói rằng cá nhân ông tin có hơn 10% khả năng AI có thể giết chết tất cả loài người trong thập kỷ tới. Một nhà nghiên cứu khác của Anthropic, Jacob Cocksedge, đã từ chức, cáo buộc các phòng thí nghiệm AI đang chạy đua tới siêu trí tuệ mà không có biện pháp bảo vệ đầy đủ. Hubinger nói các mô hình AI hiện tại gây rủi ro thấp, nhưng ông lo ngại về các hệ thống tương lai có thể tự cải thiện và trở nên khó kiểm soát đối với con người. Người dẫn chương trình chuyển sang phóng viên AI của Washington Post, Garrett Devink, để hỏi liệu những tiêu đề này có bị thổi phồng hay có phần sự thật. Devink lưu ý rằng mối lo ngại về việc AI trở nên thông minh hơn chúng ta không phải là mới trong ngành. Ông nói thêm rằng những cảnh báo này có hệ quả quan trọng vì Anthropic là một công ty AI hàng đầu đang tạo ra AI mạnh mẽ nhất hiện nay.