0:00

8:23

Anthropic's Dario Amodei calls for slower pace of AI development

CNBC International Live·8:23·Technology·B2

Chương · 5

Chương 1·Anthropic CEO Calls for Slower AI Development

Hiển thị

Tiếng ViệtAuto-scroll

0:00

Safety concerns over artificial intelligence broke out into the open across Silicon Valley over the weekend with leading AI labs calling for a slower pace of development for their most advanced artificial intelligence models.

Những lo ngại về an toàn liên quan đến trí tuệ nhân tạo đã bùng nổ công khai khắp Thung lũng Silicon vào cuối tuần qua khi các phòng thí nghiệm AI hàng đầu kêu gọi phát triển chậm lại đối với các mô hình trí tuệ nhân tạo tiên tiến nhất của họ.

0:14

Anthropic CEO Daria Amade had led the charge in an essay entitled we must pace the frontier.

Giám đốc điều hành Anthropic, Daria Amade, đã dẫn đầu phong trào này trong một bài luận có tựa đề 'chúng ta phải đi chậm lại ở biên giới'.

0:21

Amade outlines a three-step plan, including allowing

Amade phác thảo kế hoạch ba bước, bao gồm việc cho phép

0:24

third-party evaluators to verify safety practices and encouraging AI companies to agree on common safety practices.

Các đánh giá viên bên thứ ba xác minh các thực hành an toàn và khuyến khích các công ty AI đồng ý về các thực hành an toàn chung.

0:32

This after a former anthropic researcher resigned last week and warned in a viral social media post, there is a more than 10% chance of AI quote killing all humans.

Điều này diễn ra sau khi một cựu nhà nghiên cứu của Anthropic từ chức vào tuần trước và cảnh báo trong một bài đăng lan truyền trên mạng xã hội rằng có hơn 10% khả năng AI sẽ 'giết chết tất cả loài người'.

0:44

Amday's proposals have united otherwise bitter rivals in Silicon Valley with OpenAI's Sam Olman, XAI's Elon Musk, and Google Deep Mind co-founder and chair Deis Hassabas all voicing their support.

Các đề xuất của Amade đã đoàn kết những đối thủ cay đắng ở Thung lũng Silicon, với Sam Altman của OpenAI, Elon Musk của XAI, và đồng sáng lập kiêm chủ tịch Google DeepMind, Demis Hassabis, đều lên tiếng ủng hộ.

0:57

But those proposals are meeting resistance from within Washington with the US President Donald Trump brushing aside safety concerns and underlining the importance of American supremacy in the AI race.

Nhưng những đề xuất đó đang gặp phải sự phản đối từ bên trong Washington khi Tổng thống Mỹ Donald Trump gạt bỏ những lo ngại về an toàn và nhấn mạnh tầm quan trọng của sự thống trị của Mỹ trong cuộc đua AI.

1:09

- Whoever wins AI wins.

- Ai thắng AI thì thắng.

1:10

and uh we could quit guardrails, we can do this and that, but I think you have a lot of negative forces that are bringing it up that uh shouldn't be bringing it up and they're bringing up things that won't happen, but whoever wins with AI wins.

Và uh chúng ta có thể bỏ qua các rào chắn, chúng ta có thể làm cái này cái kia, nhưng tôi nghĩ bạn có rất nhiều thế lực tiêu cực đang đưa ra những điều mà uh không nên đưa ra và họ đang đưa ra những điều sẽ không xảy ra, nhưng ai thắng với AI thì thắng.

1:25

You know, it's an expression that I came up with and it's true.

Bạn biết đấy, đó là một câu nói tôi nghĩ ra và nó đúng.

1:28

Uh we're building billions and billions of dollars.

Uh chúng ta đang xây dựng hàng tỷ và hàng tỷ đô la.

1:31

You look at the plants and factories.

Bạn nhìn vào các nhà máy và xí nghiệp.

1:33

Forgetting about AI for a second, we have more auto factories under construction right now than we have had in many, many decades.

Tạm quên AI đi một chút, chúng ta có nhiều nhà máy ô tô đang được xây dựng ngay bây giờ hơn so với nhiều thập kỷ trước.

1:41

maybe ever.

Có thể là chưa từng có.

1:42

- The notion of guardrails imposed on AI is reflected in the trade of open AI investor SoftBank, which is seeing it shares tumble double digits in Tokyo today, 11% down currently.

- Ý tưởng về các rào chắn áp đặt lên AI được phản ánh trong giao dịch của nhà đầu tư OpenAI, SoftBank, khi cổ phiếu của họ giảm hai chữ số ở Tokyo hôm nay, hiện đang giảm 11%.

1:53

- Well, the risks around AI's exponential development loom over Anthropic's highly anticipated IPO, which is expected to complete by the midterm elections in November.

- Vâng, những rủi ro xung quanh sự phát triển theo cấp số nhân của AI đang bao trùm lên đợt IPO được mong đợi cao của Anthropic, dự kiến hoàn thành trước cuộc bầu cử giữa kỳ vào tháng 11.

2:02

The FT reporting over the weekend that Anthropic has told investors it will be profitable for a second consecutive quarter with gross margins topping 80%.

FT đưa tin vào cuối tuần rằng Anthropic đã nói với các nhà đầu tư rằng họ sẽ có lợi nhuận trong quý thứ hai liên tiếp với biên lợi nhuận gộp vượt 80%.

2:11

Wow.

2:12

Uh but this is before training costs and revenue shared

Uh nhưng đây là trước chi phí đào tạo và doanh thu chia sẻ

2:16

with distribution partners.

Với các đối tác phân phối.

2:17

However, Anthropic's chief rival OpenAI has confirmed it will not be going public this year.

Tuy nhiên, đối thủ chính của Anthropic là OpenAI đã xác nhận sẽ không niêm yết công khai trong năm nay.

2:22

The CEO Sam Orman telling Fortune that an IPO at this time would be quote ill advised given the heightened fears around AI.

Giám đốc điều hành Sam Altman nói với Fortune rằng một IPO vào thời điểm này sẽ là 'không nên' do những lo ngại gia tăng xung quanh AI.

2:29

I mean, there's so many elements to this story this morning.

Ý tôi là, có rất nhiều yếu tố trong câu chuyện này sáng nay.

2:33

I think that's very interesting for Mortman.

Tôi nghĩ điều đó rất thú vị đối với Mortman.

2:36

Um, I think

Um, tôi nghĩ

2:37

they're more worried about a flop on the IPO, aren't they?

Họ lo lắng hơn về một thất bại trong IPO, phải không?

2:41

But look, look, um, I have one question.

Nhưng nhìn này, nhìn này, um, tôi có một câu hỏi.

2:45

Do you trust more to know about AI safety fears?

Bạn tin tưởng ai hơn để biết về những lo ngại an toàn AI?

2:50

the combined might of Hibis, Altman, Musk and Ammedday or the president and the president who says negative forces bringing up AI concerned with things that won't happen.

Sức mạnh tổng hợp của Hassabis, Altman, Musk và Amade hay tổng thống và tổng thống, người nói rằng các thế lực tiêu cực đưa ra lo ngại về AI với những điều sẽ không xảy ra.

3:02

I'll ask all of you again.

Tôi sẽ hỏi tất cả các bạn một lần nữa.

3:05

We are apolitical on this show.

Chúng tôi phi chính trị trong chương trình này.

3:08

Who do you think knows more about this?

Bạn nghĩ ai biết nhiều hơn về điều này?

3:11

Musk, Alman, Amade, Hibis or the president?

Musk, Altman, Amade, Hassabis hay tổng thống?

3:13

Well, let's just talk about what could happen from here.

Vâng, hãy chỉ nói về những gì có thể xảy ra từ đây.

3:16

If you think about all the concerns around AI, while we still have a chance, the concerns around AI have been magnified, not just around the safety concerns, but in the stock market recently, you've seen fears over cost, the circular financing that has taken place, whether

Nếu bạn nghĩ về tất cả những lo ngại xung quanh AI, trong khi chúng ta vẫn còn cơ hội, những lo ngại về AI đã được nhân lên, không chỉ về an toàn, mà còn trên thị trường chứng khoán gần đây, bạn đã thấy nỗi sợ về chi phí, tài chính vòng tròn đã diễn ra, liệu

3:31

valuations are too rich at this point, and there's been push back around building data centers in our own backyard.

Định giá có quá cao tại thời điểm này, và đã có sự phản đối xung quanh việc xây dựng trung tâm dữ liệu ở sân sau của chúng ta.

3:36

You layer on top of this the one remaining factor that has been holding up AI stocks, demand.

Bạn thêm vào trên đó yếu tố còn lại duy nhất đã giữ cổ phiếu AI, nhu cầu.

3:42

you take that demand away in future what happens to the strength of this rally that we have seen and that demand story has touched economies in the United States

Bạn lấy nhu cầu đó đi trong tương lai thì điều gì xảy ra với sức mạnh của đợt tăng giá này mà chúng ta đã thấy và câu chuyện nhu cầu đó đã chạm đến các nền kinh tế ở Hoa Kỳ

3:51

to Europe to the UK and beyond you've seen every central banker uh a lot of stat statisticians talk about how strong the economic story has been to date it is because of AI there's been a lot of negative factors and we can talk about the Middle East situation we can talk about uh concerns in the K-shaped economy the bottom of the K I mean there's been the AI disruption story

Đến châu Âu đến Vương quốc Anh và hơn thế nữa bạn đã thấy mọi ngân hàng trung ương uh nhiều nhà thống kê nói về câu chuyện kinh tế mạnh mẽ như thế nào cho đến nay đó là nhờ AI có rất nhiều yếu tố tiêu cực và chúng ta có thể nói về tình hình Trung Đông chúng ta có thể nói về uh những lo ngại trong nền kinh tế hình chữ K phần dưới của chữ K ý tôi là đã có câu chuyện gián đoạn AI

4:09

that's coming for jobs for industries there's been a lot of negative forces The one positive has been this rapid build out of AI.

Điều đó đang đến với việc làm cho các ngành công nghiệp đã có rất nhiều thế lực tiêu cực Điều tích cực duy nhất là việc xây dựng nhanh chóng AI.

4:15

If you see the foot come off the accelerator at all, what does it do to that earnings and demand story and is this the one factor that then gets knocked away from the strength that we're seeing globally?

Nếu bạn thấy chân ga được nhả ra chút nào, điều đó ảnh hưởng thế nào đến câu chuyện thu nhập và nhu cầu và liệu đây có phải là yếu tố duy nhất sau đó bị đánh bật khỏi sức mạnh mà chúng ta đang thấy trên toàn cầu?

4:27

- Um, I do agree with you that it has been a positive driver of course for economic growth and as Rebecca Homchas was saying from Duke uh to this show at the tail end of last week as well, the closer you get to the dirt, the more positive you are.

- Um, tôi đồng ý với bạn rằng đó là một động lực tích cực tất nhiên cho tăng trưởng kinh tế và như Rebecca Homchas đã nói từ Duke uh đến chương trình này vào cuối tuần trước, càng gần với thực tế, bạn càng tích cực.

4:42

What she means is people are breaking ground on construction of these new technology facilities.

Ý cô ấy là mọi người đang khởi công xây dựng các cơ sở công nghệ mới này.

4:46

And yet Karen, I've been

Và tuy nhiên Karen, tôi đã

4:48

asking the same question to all our guests who say this is going to create so much economic growth over the few years.

Hỏi cùng một câu hỏi với tất cả khách mời của chúng ta, những người nói rằng điều này sẽ tạo ra rất nhiều tăng trưởng kinh tế trong vài năm tới.

4:54

I've been asking the same question.

Tôi đã hỏi cùng một câu hỏi.

4:55

What are the jobs that are going to be created?

Những công việc nào sẽ được tạo ra?

4:58

Apart from okay, you can have the observer looking at the sandbox and looking at the models and just kind of you know controlling it from there.

Ngoài việc, được rồi, bạn có thể có người quan sát nhìn vào hộp cát và nhìn vào các mô hình và chỉ kiểm soát nó từ đó.

5:05

But when there was another

Nhưng khi có một

5:07

story this weekend talking about um autonomous vehicles in London, no one's told me what's going to and I don't dispute it's going to come.

Câu chuyện vào cuối tuần này nói về um xe tự hành ở London, không ai nói với tôi điều gì sẽ xảy ra và tôi không phủ nhận nó sẽ đến.

5:14

No one's told me what's going to happen to those hundreds of thousands of taxi drivers of cabbies who are going to lose their jobs.

Không ai nói với tôi điều gì sẽ xảy ra với hàng trăm nghìn tài xế taxi, những người sẽ mất việc làm.

5:21

With respect, it's not similar skill sets driving a taxi around London to actually being a controlling a

Thành thật mà nói, việc lái taxi quanh London không giống với việc thực sự kiểm soát một

5:27

sandbox or some form of cutout in AI.

Sandbox hay một dạng cắt bỏ nào đó trong AI.

5:30

I so whilst I agree with you in the short term that the economic benefits are there, no one's solved these longerterm issues about what's going to happen to the employment.

Vì vậy, trong khi tôi đồng ý với bạn trong ngắn hạn rằng lợi ích kinh tế là có, không ai giải quyết được những vấn đề dài hạn này về việc điều gì sẽ xảy ra với việc làm.

5:38

- Yeah, I think the job disruption element is massive and what we all end up doing is massive.

- Ừ, tôi nghĩ yếu tố gián đoạn việc làm là rất lớn và những gì tất cả chúng ta cuối cùng làm là rất lớn.

5:43

But let's just take a step back.

Nhưng hãy lùi lại một bước.

5:46

This groundbreaking that we talk about is a story that has continued because these big frontier labs have kept saying to us that we need more and more compute.

Bước đột phá mà chúng ta nói đến là một câu chuyện đã tiếp diễn vì các phòng thí nghiệm tiên phong lớn này liên tục nói với chúng ta rằng chúng ta cần ngày càng nhiều năng lực tính toán.

5:55

We need more and more of AI because we need to get to AGI.

Chúng ta cần ngày càng nhiều AI vì chúng ta cần đạt được AGI.

5:59

Uh the super intelligence story means that you

Uh câu chuyện siêu trí tuệ có nghĩa là bạn

6:02

need to keep on investing.

Cần tiếp tục đầu tư.

6:03

You need to keep on building it.

Bạn cần tiếp tục xây dựng nó.

6:05

If we're going slow, if we're not going towards super intelligence, we touched on we scraped on this on Friday when I was asking the question.

Nếu chúng ta đi chậm, nếu chúng ta không hướng tới siêu trí tuệ, chúng ta đã đề cập, chúng ta đã lướt qua điều này vào thứ Sáu khi tôi đặt câu hỏi.

6:13

Look, if you now have international regulators, you have governments, you have populations pushing back saying, "We don't want super intelligence.

Nhìn này, nếu bây giờ bạn có các cơ quan quản lý quốc tế, bạn có chính phủ, bạn có người dân đẩy lùi nói rằng, "Chúng tôi không muốn siêu trí tuệ.

6:20

We don't want

Chúng tôi không muốn

6:21

artificial intelligence to be that much smarter than humans that there is a 10% chance or even 5% chance, 1%, whatever the chance is.

Trí tuệ nhân tạo thông minh hơn con người đến mức có 10% khả năng hoặc thậm chí 5% khả năng, 1%, bất kể khả năng là gì.

6:27

We don't want that because they're going to wipe us out as a human race.

Chúng tôi không muốn điều đó vì chúng sẽ xóa sổ chúng ta với tư cách là loài người.

6:31

We don't want that.

Chúng tôi không muốn điều đó.

6:32

So if you see a go slow anywhere, does that mean the pace that we've seen so far slows to a point where a lot of these investments get questioned?

Vì vậy, nếu bạn thấy bất kỳ sự chậm lại nào, điều đó có nghĩa là tốc độ mà chúng ta đã thấy cho đến nay chậm lại đến mức nhiều khoản đầu tư này bị đặt câu hỏi không?

6:40

And don't

Và đừng

6:41

forget there's been debt financing on a demand story that's taken place.

Quên rằng đã có tài trợ nợ dựa trên một câu chuyện nhu cầu đã diễn ra.

6:43

The equity market valuations have climbed aggressively to reflect the fact that there's going to be all this demand.

Định giá thị trường chứng khoán đã tăng mạnh để phản ánh thực tế rằng sẽ có tất cả nhu cầu này.

6:48

If that demand starts to slow from here, then do we pop any form of the strength or if you want to call it a bubble, do we pop the bubble?

Nếu nhu cầu đó bắt đầu chậm lại từ đây, thì liệu chúng ta có làm nổ tung bất kỳ dạng sức mạnh nào hay nếu bạn muốn gọi đó là bong bóng, liệu chúng ta có làm nổ bong bóng không?

6:55

Do we retreat from some of the strength we've seen?

Liệu chúng ta có rút lui khỏi một số sức mạnh mà chúng ta đã thấy không?

6:57

However

Tuy nhiên

6:58

you want to frame it, do we see a problem now in the demand story?

Bạn muốn diễn đạt thế nào, liệu chúng ta có thấy vấn đề trong câu chuyện nhu cầu ngay bây giờ không?

7:01

That is the question we need to ask today.

Đó là câu hỏi chúng ta cần đặt ra ngày hôm nay.

7:03

- I'm just You said so many interesting things, but I'll just go back to one of the first things you said in that last segment.

- Tôi chỉ Bạn đã nói rất nhiều điều thú vị, nhưng tôi sẽ quay lại một trong những điều đầu tiên bạn nói trong đoạn cuối đó.

7:08

- Why do we need superhuman intelligence?

- Tại sao chúng ta cần trí tuệ siêu phàm?

7:12

Why do we need AGI?

Tại sao chúng ta cần AGI?

7:13

- Because these frontier labs have sold it to us that's what we want.

- Bởi vì các phòng thí nghiệm tiên phong này đã bán cho chúng ta rằng đó là điều chúng ta muốn.

7:16

They even reframed artificial intelligence to sound like it was more marketable, artificial intelligence.

Họ thậm chí còn đổi tên trí tuệ nhân tạo để nghe có vẻ dễ bán hơn, trí tuệ nhân tạo.

7:20

But are we creating something that we can't put into a box that's actually going to be very destructive for humanity?

Nhưng liệu chúng ta có đang tạo ra thứ mà chúng ta không thể đặt vào hộp, thứ thực sự sẽ rất hủy diệt đối với nhân loại không?

7:26

- The answer seems very clearly yes at the moment, isn't it?

- Câu trả lời có vẻ rất rõ ràng là có vào lúc này, phải không?

7:29

Well, that's that's the point.

Chà, đó chính là điểm.

7:30

That's - why we have, you know, you look at from a corporate point of view, we have record profitability in a lot of companies at the moment.

Đó là - lý do chúng ta có, bạn biết đấy, nhìn từ góc độ doanh nghiệp, chúng ta có lợi nhuận kỷ lục ở nhiều công ty vào lúc này.

7:37

The earning season was fantastic as well.

Mùa thu nhập cũng rất tuyệt vời.

7:38

Um, we have near full employment in the US.

Ừm, chúng ta có gần như toàn dụng lao động ở Mỹ.

7:41

We've, you know, found about 4% unemployment as well.

Chúng ta đã, bạn biết đấy, tìm thấy tỷ lệ thất nghiệp khoảng 4%.

7:43

Obviously, it could be better, but it could be a lot lot worse if this transpires as well.

Rõ ràng, nó có thể tốt hơn, nhưng nó có thể tồi tệ hơn rất nhiều nếu điều này xảy ra.

7:47

Why do we need an intelligence that could have a 1, five, 10% chance of actually being incredibly destructive on many fronts?

Tại sao chúng ta cần một trí tuệ có thể có 1, 5, 10% khả năng thực sự hủy diệt đáng kinh ngạc trên nhiều mặt?

7:56

- Yeah.

- Ừ.

7:56

Okay.

Được rồi.

7:56

Well, let's just put the president's view in here, too, because this is another important component.

Chà, hãy đưa quan điểm của tổng thống vào đây, vì đây là một thành phần quan trọng khác.

8:00

He does not necessarily want a go slow type of regulatory environment in the states.

Ông ấy không nhất thiết muốn một môi trường quy định kiểu chậm lại ở Mỹ.

8:04

He thinks the labs should pace themselves.

Ông ấy nghĩ các phòng thí nghiệm nên tự điều chỉnh tốc độ.

8:05

But more importantly, he's concerned that if China gets there first, that they hold all the cards.

Nhưng quan trọng hơn, ông ấy lo ngại rằng nếu Trung Quốc đến đó trước, họ sẽ nắm giữ tất cả các quân bài.

8:10

And this is the problem in the world that we have today, the geopolitics we're facing.

Và đây là vấn đề trên thế giới mà chúng ta có ngày hôm nay, địa chính trị mà chúng ta đang đối mặt.

8:14

If somebody gets there before the Americans get there, what type of actor is sitting on this powerful technology?

Nếu ai đó đến đó trước người Mỹ, loại tác nhân nào đang ngồi trên công nghệ mạnh mẽ này?

8:19

Well, - I can promise him one thing.

Chà, - tôi có thể hứa với ông ấy một điều.

8:21

It won't be

Nó sẽ không

8:22

the Europeans.

Người châu Âu.

8:22

laughter

[tiếng cười]

Transcript

Hiển thị

Anthropic CEO Calls for Slower AI Development

Over the weekend, safety concerns about artificial intelligence became public across Silicon Valley, with leading AI labs calling for a slower pace of development for their most advanced models. Anthropic CEO Dario Amodei led the charge in an essay titled 'We Must Pace the Frontier,' outlining a three-step plan that includes third-party safety verification and common safety standards among AI companies. This followed a former Anthropic researcher's resignation and a viral warning that there is more than a 10% chance of AI killing all humans. Amodei's proposals have united bitter rivals, including Sam Altman, Elon Musk, and Demis Hassabis, who all voiced support. However, the proposals face resistance from Washington, where President Donald Trump dismissed safety concerns and emphasized American supremacy in the AI race.

Vào cuối tuần, những lo ngại về an toàn liên quan đến trí tuệ nhân tạo đã trở nên công khai khắp Thung lũng Silicon, khi các phòng thí nghiệm AI hàng đầu kêu gọi giảm tốc độ phát triển đối với các mô hình tiên tiến nhất của họ. CEO của Anthropic, Dario Amodei, đã dẫn đầu trong một bài luận có tiêu đề 'Chúng ta phải điều chỉnh tốc độ tiên phong', phác thảo kế hoạch ba bước bao gồm xác minh an toàn của bên thứ ba và các tiêu chuẩn an toàn chung giữa các công ty AI. Điều này diễn ra sau khi một cựu nhà nghiên cứu của Anthropic từ chức và đưa ra cảnh báo lan truyền rằng có hơn 10% khả năng AI giết chết toàn bộ loài người. Các đề xuất của Amodei đã đoàn kết các đối thủ cay đắng, bao gồm Sam Altman, Elon Musk và Demis Hassabis, những người đều lên tiếng ủng hộ. Tuy nhiên, các đề xuất này vấp phải sự phản đối từ Washington, nơi Tổng thống Donald Trump bác bỏ những lo ngại về an toàn và nhấn mạnh vị thế thống trị của Mỹ trong cuộc đua AI.

Anthropic CEO Daria Amade had led the charge in an essay entitled we must pace the frontier.

Giám đốc điều hành Anthropic, Daria Amade, đã dẫn đầu phong trào này trong một bài luận có tựa đề 'chúng ta phải đi chậm lại ở biên giới'.

Amade outlines a three-step plan, including allowing

Amade phác thảo kế hoạch ba bước, bao gồm việc cho phép

third-party evaluators to verify safety practices and encouraging AI companies to agree on common safety practices.

Các đánh giá viên bên thứ ba xác minh các thực hành an toàn và khuyến khích các công ty AI đồng ý về các thực hành an toàn chung.

This after a former anthropic researcher resigned last week and warned in a viral social media post, there is a more than 10% chance of AI quote killing all humans.

Amday's proposals have united otherwise bitter rivals in Silicon Valley with OpenAI's Sam Olman, XAI's Elon Musk, and Google Deep Mind co-founder and chair Deis Hassabas all voicing their support.

1 / 5