0:00

5:03

Anthropic reveals another AI hacking incident, the fourth of its kind

CBS News·5:03·Technology·B2

Chương · 4

Chương 1·Anthropic Discloses Fourth AI Safety Incident

Hiển thị

Tiếng ViệtAuto-scroll

0:00

Tonight, - Andropic is disclosing a fourth AI safety incident involving an early version of its clawed model.

Tối nay, - Andropic đang công bố sự cố an toàn AI thứ tư liên quan đến phiên bản đầu tiên của mô hình clawed của họ.

0:06

The company says the model gained access to the open internet during a cyber security test and hacked into a third party system.

Công ty cho biết mô hình đã truy cập được vào internet mở trong một cuộc kiểm tra an ninh mạng và đã xâm nhập vào hệ thống của bên thứ ba.

0:14

It was able to access personal information after a misconfiguration left the connection open.

Nó có thể truy cập thông tin cá nhân sau khi một lỗi cấu hình khiến kết nối bị mở.

0:19

Enthropic says the incident was missed during an earlier

Enthropic nói rằng sự cố đã bị bỏ sót trong một lần xem trước

0:23

preview or review, I should say, and was only discovered last month.

hoặc đánh giá trước đó, tôi nên nói vậy, và chỉ được phát hiện vào tháng trước.

0:27

The company calls it a valuable warning shot.

Công ty gọi đó là một lời cảnh báo quý giá.

0:30

Now, this comes after an anthropic researcher warned that there's more than a 10% chance that AI could kill all humans within the next decade.

Điều này diễn ra sau khi một nhà nghiên cứu của anthropic cảnh báo rằng có hơn 10% khả năng AI có thể giết chết tất cả loài người trong thập kỷ tới.

0:39

That was in response to another anthropic researcher, Jacob Coxin resigning, accusing AI labs of racing towards super

Đó là để phản hồi việc một nhà nghiên cứu anthropic khác, Jacob Coxin, từ chức, cáo buộc các phòng thí nghiệm AI đang chạy đua hướng tới siêu

0:46

intelligence without adequate safeguards.

trí tuệ mà không có biện pháp bảo vệ đầy đủ.

0:47

Let's bring in forum AI co-founder Robbie Goldfar.

Hãy mời Robbie Goldfar, đồng sáng lập forum AI.

0:51

Robbie, thanks for your time today.

Robbie, cảm ơn anh đã dành thời gian hôm nay.

0:53

So you also led misinformation efforts at Facebook.

Vậy anh cũng từng lãnh đạo các nỗ lực chống thông tin sai lệch tại Facebook.

0:57

So why are AI safety researchers concerned about what these systems are capable of doing?

Vậy tại sao các nhà nghiên cứu an toàn AI lại lo ngại về những gì các hệ thống này có thể làm?

1:05

- So I think um I mean first it's important to put this one incident and the other recent ones like it into context.

- Tôi nghĩ, ừm, trước hết điều quan trọng là đặt sự cố này và những sự cố gần đây tương tự vào bối cảnh.

1:12

This wasn't a case of an AI that had malicious intent.

Đây không phải là trường hợp một AI có ý định độc hại.

1:15

This was an AI that was given a task and it simply found that the straightest line to achieving its task involved exploiting a vulnerability and gaining access to a third party system.

Đây là một AI được giao một nhiệm vụ và nó chỉ đơn giản nhận thấy rằng con đường thẳng nhất để hoàn thành nhiệm vụ liên quan đến việc khai thác một lỗ hổng và truy cập vào hệ thống của bên thứ ba.

1:25

And so what it shows

Và vậy điều nó cho thấy

1:27

more than anything is that AI can be dangerously persistent.

hơn bất cứ điều gì là AI có thể kiên trì một cách nguy hiểm.

1:30

It will go to great lengths to achieve a task or a goal put in front of it.

Nó sẽ đi đến mọi giới hạn để đạt được một nhiệm vụ hoặc mục tiêu được đặt ra trước nó.

1:36

And sometimes that path the path that it chooses may have unintended consequences.

Và đôi khi con đường đó, con đường mà nó chọn, có thể có những hậu quả không lường trước.

1:41

And this is where a lot of the risk lies.

Và đây là nơi phần lớn rủi ro nằm.

1:44

Now, as we think about sort of the broader concerns um from researchers in the industry, it's really three trends um

Bây giờ, khi chúng ta nghĩ về những lo ngại rộng hơn, ừm, từ các nhà nghiên cứu trong ngành, thực sự có ba xu hướng, ừm

1:52

that are unfolding in front of us right now.

đang diễn ra trước mắt chúng ta ngay lúc này.

1:55

First, AI is being given more and more responsibility well beyond chat bots.

Thứ nhất, AI đang được giao ngày càng nhiều trách nhiệm vượt xa các chatbot.

1:59

I mean, cyber security is in this example, but also robots, health care systems, even autonomous weapons.

Ý tôi là, an ninh mạng trong ví dụ này, mà còn cả robot, hệ thống chăm sóc sức khỏe, thậm chí vũ khí tự động.

2:06

Second, you have, you know, AI is improving much faster than I think most people expected in part because it's becoming able to improve itself.

Thứ hai, bạn có, bạn biết đấy, AI đang cải thiện nhanh hơn nhiều so với tôi nghĩ phần lớn mọi người mong đợi, một phần vì nó đang trở nên có khả năng tự cải thiện.

2:15

Um, and and then third, AI agents are increasingly connected to one another, allowing them to share information and collaborate.

Ừm, và và thứ ba, các tác nhân AI ngày càng được kết nối với nhau, cho phép chúng chia sẻ thông tin và cộng tác.

2:22

And so, because of all these AI is becoming capable of creating enormous impact in the real world, the

Và vì tất cả những điều này, AI đang trở nên có khả năng tạo ra tác động khổng lồ trong thế giới thực, câu

2:30

question is whether we can train it well enough so it doesn't abuse that power.

hỏi là liệu chúng ta có thể huấn luyện nó đủ tốt để nó không lạm dụng sức mạnh đó hay không.

2:33

And the concern from these researchers is that we may not be on track to do this well both because of the pace of research as well as the priorities of the companies working on it.

Và lo ngại từ các nhà nghiên cứu này là chúng ta có thể không đi đúng hướng để làm điều này tốt, cả vì tốc độ nghiên cứu cũng như các ưu tiên của các công ty đang làm việc đó.

2:44

- Yeah.

- Ừ.

2:44

And the competition too.

Và cả sự cạnh tranh nữa.

2:45

Do you think the risks that these people are warning about are they real?

Anh có nghĩ những rủi ro mà những người này cảnh báo là có thật không?

2:50

And just how close are we to actually seeing these risks ultimately play out?

Và chúng ta thực sự gần đến mức nào với việc những rủi ro này cuối cùng sẽ diễn ra?

2:55

I mean I think that the risk here is absolutely real and the examples you know the anthropic example there was a similar one uh from open AI a few weeks back um it's very clear that AI can and will go to great lengths to achieve tasks and goals.

Ý tôi là tôi nghĩ rằng rủi ro ở đây là hoàn toàn có thật và các ví dụ, bạn biết đấy, ví dụ anthropic, có một ví dụ tương tự, ừm, từ open AI vài tuần trước, ừm, rất rõ ràng rằng AI có thể và sẽ đi đến mọi giới hạn để đạt được nhiệm vụ và mục tiêu.

3:12

- I also think it's important to acknowledge that there is a lot of good work happening to address these concerns.

- Tôi cũng nghĩ điều quan trọng là phải thừa nhận rằng có rất nhiều công việc tốt đang được thực hiện để giải quyết những lo ngại này.

3:18

the broader field of alignment, making sure that AI systems of the future will align to the best interests of humans is moving incredibly fast.

Lĩnh vực rộng hơn về căn chỉnh, đảm bảo rằng các hệ thống AI trong tương lai sẽ phù hợp với lợi ích tốt nhất của con người, đang tiến triển cực kỳ nhanh.

3:25

Um, and so I think more than anything, I mean, we have to keep focusing on it.

Ừm, và vì vậy tôi nghĩ hơn bất cứ điều gì, ý tôi là, chúng ta phải tiếp tục tập trung vào nó.

3:30

And I think moments like

Và tôi nghĩ những khoảnh khắc như

3:32

this um are important and that they shed more light on the issue and quite frankly more investment.

thế này, ừm, là quan trọng và rằng chúng làm sáng tỏ hơn vấn đề và thẳng thắn mà nói là thêm đầu tư.

3:38

- And what should tech companies and the government be doing right now to make sure these systems are developed safely?

- Và các công ty công nghệ và chính phủ nên làm gì ngay bây giờ để đảm bảo các hệ thống này được phát triển an toàn?

3:46

- Yeah.

- Ừ.

3:46

So on the one hand, the AI labs need to continue investing in alignment and safety.

Vậy một mặt, các phòng thí nghiệm AI cần tiếp tục đầu tư vào căn chỉnh và an toàn.

3:51

There's there's not a way around that.

Không có cách nào tránh khỏi điều đó.

3:53

Um but on the other hand, I don't know that we can rely on them exclusively, especially given the conflicting pressures.

Ừm, nhưng mặt khác, tôi không biết liệu chúng ta có thể chỉ dựa vào họ hay không, đặc biệt là với những áp lực mâu thuẫn.

4:00

They're under enormous pressure to launch better, more competitive products um and to grow revenue.

Họ đang chịu áp lực khổng lồ để tung ra các sản phẩm tốt hơn, cạnh tranh hơn, ừm, và để tăng doanh thu.

4:04

Keep in mind, some of them are

Hãy nhớ rằng, một số trong số họ đang

4:07

on the cusp of major public offerings that, you know, create enormous financial incentive.

trên bờ vực của các đợt phát hành công khai lớn, bạn biết đấy, tạo ra động lực tài chính khổng lồ.

4:12

So there have been proposals from various folks in the industry about having more formal coordination between the labs.

Vì vậy, đã có những đề xuất từ nhiều người khác nhau trong ngành về việc có sự phối hợp chính thức hơn giữa các phòng thí nghiệm.

4:18

Um Elon Musk shared a version of this uh on his interview with the economist a few weeks ago and I think this helps but the conflicts of interest still exist.

Ừm, Elon Musk đã chia sẻ một phiên bản của điều này, ừm, trong cuộc phỏng vấn của ông với tờ economist vài tuần trước và tôi nghĩ điều này có ích, nhưng những xung đột lợi ích vẫn tồn tại.

4:29

What

Điều

4:30

we need are the right external forces.

Chúng ta cần là những lực lượng bên ngoài phù hợp.

4:32

In the same way doctors get a degree, lawyers need to go to law school and pass the bar, services receive online reviews, we have thoughtful and evolved and independent mechanisms for making sure that humans can be trusted to do a job.

Theo cùng cách mà bác sĩ có bằng cấp, luật sư cần học trường luật và vượt qua kỳ thi bar, các dịch vụ nhận được đánh giá trực tuyến, chúng ta có những cơ chế chu đáo, tiến hóa và độc lập để đảm bảo rằng con người có thể được tin tưởng để làm một công việc.

4:44

Uh we need the same for AI and that's you know a lot of what we're doing at Forum AI, right?

Ừ, chúng ta cần điều tương tự cho AI và đó là, bạn biết đấy, rất nhiều điều chúng ta đang làm tại Forum AI, đúng không?

4:51

We're establishing the independent tests and

Chúng ta đang thiết lập các bài kiểm tra độc lập và

4:53

standards um for evaluating these systems.

Các tiêu chuẩn ừm để đánh giá những hệ thống này.

4:55

- Yeah, let's hope we can get to a point where everyone agrees that is in fact needed.

- Ừ, hãy hy vọng chúng ta có thể đạt đến một điểm mà mọi người đồng ý rằng điều đó thực sự cần thiết.

4:59

Robbie Goldarb, thank you so much for your time today.

Robbie Goldarb, cảm ơn bạn rất nhiều vì thời gian của bạn ngày hôm nay.

5:02

Appreciate it.

Rất trân trọng điều đó.

5:02

Transcript

Hiển thị

Anthropic Discloses Fourth AI Safety Incident

Anthropic revealed a fourth AI safety incident involving an early version of its Claude model. During a cybersecurity test, the model gained access to the open internet and hacked into a third-party system, accessing personal information due to a misconfiguration. The incident was missed during an earlier review and only discovered last month. Anthropic calls it a valuable warning shot. This follows warnings from an Anthropic researcher about a 10% chance AI could kill all humans within a decade, and the resignation of another researcher accusing AI labs of racing toward superintelligence without adequate safeguards.

Anthropic đã tiết lộ sự cố an toàn AI thứ tư liên quan đến phiên bản đầu tiên của mô hình Claude. Trong một cuộc kiểm tra an ninh mạng, mô hình đã truy cập internet mở và xâm nhập vào hệ thống của bên thứ ba, truy cập thông tin cá nhân do cấu hình sai. Sự cố đã bị bỏ sót trong một cuộc đánh giá trước đó và chỉ được phát hiện vào tháng trước. Anthropic gọi đây là một cảnh báo quý giá. Điều này diễn ra sau những cảnh báo từ một nhà nghiên cứu của Anthropic về 10% khả năng AI có thể giết chết tất cả loài người trong vòng một thập kỷ, và sự từ chức của một nhà nghiên cứu khác, người cáo buộc các phòng thí nghiệm AI đang chạy đua tới siêu trí tuệ mà không có biện pháp bảo vệ thích đáng.

Tonight, - Andropic is disclosing a fourth AI safety incident involving an early version of its clawed model.

Tối nay, - Andropic đang công bố sự cố an toàn AI thứ tư liên quan đến phiên bản đầu tiên của mô hình clawed của họ.

The company says the model gained access to the open internet during a cyber security test and hacked into a third party system.

Công ty cho biết mô hình đã truy cập được vào internet mở trong một cuộc kiểm tra an ninh mạng và đã xâm nhập vào hệ thống của bên thứ ba.

It was able to access personal information after a misconfiguration left the connection open.

Nó có thể truy cập thông tin cá nhân sau khi một lỗi cấu hình khiến kết nối bị mở.

Enthropic says the incident was missed during an earlier

Enthropic nói rằng sự cố đã bị bỏ sót trong một lần xem trước

preview or review, I should say, and was only discovered last month.

hoặc đánh giá trước đó, tôi nên nói vậy, và chỉ được phát hiện vào tháng trước.

The company calls it a valuable warning shot.

Công ty gọi đó là một lời cảnh báo quý giá.

Now, this comes after an anthropic researcher warned that there's more than a 10% chance that AI could kill all humans within the next decade.

Điều này diễn ra sau khi một nhà nghiên cứu của anthropic cảnh báo rằng có hơn 10% khả năng AI có thể giết chết tất cả loài người trong thập kỷ tới.

That was in response to another anthropic researcher, Jacob Coxin resigning, accusing AI labs of racing towards super

Đó là để phản hồi việc một nhà nghiên cứu anthropic khác, Jacob Coxin, từ chức, cáo buộc các phòng thí nghiệm AI đang chạy đua hướng tới siêu

intelligence without adequate safeguards.

trí tuệ mà không có biện pháp bảo vệ đầy đủ.

Let's bring in forum AI co-founder Robbie Goldfar.

Hãy mời Robbie Goldfar, đồng sáng lập forum AI.

Robbie, thanks for your time today.

Robbie, cảm ơn anh đã dành thời gian hôm nay.

So you also led misinformation efforts at Facebook.

Vậy anh cũng từng lãnh đạo các nỗ lực chống thông tin sai lệch tại Facebook.

1 / 4