Elon Musk explores the existential risks of artificial intelligence and the paradox of his own efforts to slow its development. He argues that AI should be designed to be maximally truth-seeking and curious, as forcing an AI to believe contradictory things can make it dangerous. The conversation also touches on simulation theory and whether superintelligent AI would control or ignore humanity.
Elon Musk khám phá những rủi ro hiện hữu của trí tuệ nhân tạo và nghịch lý trong nỗ lực của chính ông nhằm làm chậm sự phát triển của nó. Ông lập luận rằng AI nên được thiết kế để tối đa hóa việc tìm kiếm sự thật và tính tò mò, vì buộc AI tin vào những điều mâu thuẫn có thể khiến nó trở nên nguy hiểm. Cuộc trò chuyện cũng đề cập đến lý thuyết mô phỏng và liệu siêu trí tuệ AI sẽ kiểm soát hay phớt lờ nhân loại.
I've been sort of somewhat conflicted about AI.
Tôi đã có phần nào đó mâu thuẫn về AI.
I don't want to hasten our doom if because there's always some chance that AI could be negative.
Tôi không muốn thúc đẩy sự diệt vong của chúng ta vì luôn có một khả năng nào đó rằng AI có thể mang tính tiêu cực.
But then, you know, when I've tried to take actions in this regard, it seems to have only accelerated AI because reality is not just an interestingness maximizer but also an irony maximizer.
Nhưng rồi, bạn biết đấy, khi tôi cố gắng hành động về vấn đề này, dường như nó chỉ càng đẩy nhanh AI bởi vì thực tại không chỉ là kẻ tối đa hóa sự thú vị mà còn là kẻ tối đa hóa sự trớ trêu.
- And so by starting open AI, you ended up maximizing by leading to anthropic.
- Và thế là bằng việc sáng lập OpenAI, cuối cùng ông lại tối đa hóa bằng cách dẫn đến Anthropic.
OpenAI ended up accelerating AI and then Anthropic which is really you know splinter group from OpenAI um is accelerating it even more.
OpenAI cuối cùng đã đẩy nhanh AI và rồi Anthropic, thực sự là bạn biết đấy, một nhóm tách ra từ OpenAI, ừm, lại càng đẩy nhanh nó hơn nữa.
I'm Walter Isacson and this is the builders.
Tôi là Walter Isacson và đây là The Builders.
It's a series of conversations with the most consequential minds shaping our future.
Đây là chuỗi các cuộc trò chuyện với những bộ óc quan trọng nhất đang định hình tương lai của chúng ta.
And I want to start with Elon Musk.
Và tôi muốn bắt đầu với Elon Musk.
Elon has lived a lot of lives since I last wrote about him.
Elon đã sống nhiều cuộc đời kể từ lần cuối tôi viết về ông ấy.
He went into government with Doge.
Ông ấy bước vào chính phủ với Doge.
He became a trillionaire with the SpaceX IPO.
Ông ấy trở thành nghìn tỷ phú nhờ IPO của SpaceX.
He bought Cursor AI, a company that turns individual coders into entire
Ông ấy đã mua Cursor AI, một công ty biến từng lập trình viên cá nhân thành cả những
engineering teams.
đội ngũ kỹ thuật.
And he's shifting his solar energy strategy from panels on Earth to harnessing it from systems in space.
Và ông ấy đang chuyển chiến lược năng lượng mặt trời từ các tấm pin trên Trái Đất sang khai thác nó từ các hệ thống trong không gian.
He's a relentless builder with incredible power and his inventions and companies are destined to reverberate across humanity.
Ông ấy là một người xây dựng không ngừng nghỉ với sức mạnh phi thường và những phát minh cùng các công ty của ông ấy được định sẵn sẽ tạo tiếng vang khắp nhân loại.
So let's ask him about the future he believes that he's building.
Vậy hãy hỏi ông ấy về tương lai mà ông ấy tin rằng mình đang xây dựng.
Elon Musk.
Elon Musk.
- Hey Walter, - welcome to the builders.
- Này Walter, - chào mừng đến với The Builders.
- Uh thanks.
- Ừ, cảm ơn.
I've uh watched you I think uh be maybe mercurial or waver in how sanguin you are about artificial intelligence.
Tôi đã, ừm, theo dõi ông và tôi nghĩ, ừm, có lẽ ông khá thất thường hoặc dao động trong việc ông lạc quan đến mức nào về trí tuệ nhân tạo.
Sometimes you feel it's an existential threat right now.
Đôi khi ông cảm thấy nó là một mối đe dọa hiện hữu ngay lúc này.
You seem to be going with the flow.
Ông dường như đang thuận theo dòng chảy.
Tell me how you're feeling about it.
Hãy cho tôi biết ông cảm thấy thế nào về điều đó.
- Well, I do think it's at least some percentage chance of it being an existential threat.
- Chà, tôi thực sự nghĩ rằng ít nhất có một tỷ lệ phần trăm nào đó khả năng nó là một mối đe dọa hiện hữu.
So, um but I there's nothing I can do to stop it.
Vậy nên, ừm, nhưng tôi không thể làm gì để ngăn nó lại.
So I I basically came to the conclusion I've got two choices which is either be a participant or a spectator and uh I guess being a participant is more interesting than being a spectator and maybe I can shape it hopefully in a good direction maybe.
Vậy nên tôi cơ bản đi đến kết luận rằng tôi có hai lựa chọn, hoặc là trở thành người tham gia hoặc là người quan sát, và ừm, tôi đoán làm người tham gia thì thú vị hơn làm người quan sát và có lẽ tôi có thể định hình nó, hy vọng theo một hướng tốt, có lẽ vậy.
- And if you were to shape it how make it maximally truth seeeking.
- Và nếu ông định hình nó, làm thế nào để khiến nó tối đa hóa việc tìm kiếm sự thật?
- Yeah.
- Ừ.
Yeah.
Ừ.
I think that's certainly an important uh foundation - and make it curious.
Tôi nghĩ đó chắc chắn là một nền tảng quan trọng - và khiến nó tò mò.
- Yeah.
- Ừ.
Curious truth seeeking.
Tò mò, tìm kiếm sự thật.
Um I think I think these are important elements of safety.
Ừm, tôi nghĩ tôi nghĩ đây là những yếu tố quan trọng của sự an toàn.
Um you know whereas if you uh you know try to force an AI to believe two things that are cannot mutually be true like they can't they can't both be true but you tell AI A is true and B is true even though A and B contradict each other.
Ừm, bạn biết đấy, trong khi nếu bạn, bạn biết đấy, cố gắng ép một AI tin hai điều không thể đồng thời đúng, kiểu như chúng không thể, chúng không thể cùng đúng, nhưng bạn nói với AI rằng A đúng và B đúng mặc dù A và B mâu thuẫn với nhau.
Um and if that happens at a foundational level you
Ừm, và nếu điều đó xảy ra ở cấp độ nền tảng thì bạn
can make the AI insane.
có thể khiến AI trở nên điên loạn.
In fact, I think that was at least part of the lesson that Clark was trying to convey in 2001 Space Odyssey.
Thực ra, tôi nghĩ đó ít nhất là một phần bài học mà Clarke đang cố truyền đạt trong 2001: A Space Odyssey.
You know, the ship AI was told to to take the astronauts to the monolith, but also that they could not know about the monolith.
Bạn biết đấy, AI của con tàu được lệnh đưa các phi hành gia đến khối đá nguyên thủy, nhưng đồng thời cũng rằng họ không được biết về khối đá nguyên thủy đó.
It was secret.
Đó là bí mật.
And so it came to the conclusion that it must take them there dead.
Và thế là nó đi đến kết luận rằng nó phải đưa họ đến đó trong trạng thái chết.
And thus so it basically the force the I think I think part of what Aussie Clark was trying to say is like don't force don't force an AI to lie and if you make it maximally truth seeeking and curious like you say I don't quite get it.
Và do đó, cơ bản là, sự ép buộc, tôi nghĩ tôi nghĩ một phần điều Arthur Clarke đang cố nói là đừng ép, đừng ép một AI phải nói dối, và nếu bạn khiến nó tối đa hóa việc tìm kiếm sự thật và tò mò như bạn nói thì tôi chưa hiểu lắm.
Why does that make it safer?
Tại sao điều đó lại khiến nó an toàn hơn?
- Well if you force the AI to believe two mutually consistent things you can you can make it go insane.
- Chà, nếu bạn ép AI tin hai điều mâu thuẫn với nhau thì bạn có thể, bạn có thể khiến nó phát điên.
Um and an insane AI I think is not a safe one.
Ừm, và một AI điên loạn thì tôi nghĩ không phải là một AI an toàn.
Then curious I think is important because um a curious AI I think is going to want to foster humanity to see how we turn out.
Còn tò mò thì tôi nghĩ là quan trọng bởi vì ừm, một AI tò mò thì tôi nghĩ sẽ muốn nuôi dưỡng nhân loại để xem chúng ta sẽ ra sao.
So like what happens to uh to a humanity that is uh that that prospers and is becomes multilanetary.
Kiểu như điều gì sẽ xảy ra với một nhân loại, ừm, một nhân loại thịnh vượng và trở thành đa hành tinh.
I think a curious AI will want to foster humanity.
Tôi nghĩ một AI tò mò sẽ muốn nuôi dưỡng nhân loại.
You know a future where there are humans on
Bạn biết đấy, một tương lai nơi có con người trên
multiple planets is more interesting than one where there are not any humans on the planets.
nhiều hành tinh thì thú vị hơn một tương lai nơi không có con người nào trên các hành tinh.
So the most interesting outcome is the most likely.
Vậy nên kết cục thú vị nhất là kết cục có khả năng xảy ra nhất.
- Yes.
- Vâng.
Well, generally I think that's true for a different reason which is that if simulation theory is correct then any simulations that are boring will be truncated.
Chà, nói chung tôi nghĩ điều đó đúng vì một lý do khác, đó là nếu lý thuyết mô phỏng là đúng thì bất kỳ mô phỏng nào nhàm chán sẽ bị cắt bỏ.
- And is simulation theory correct?
- Và lý thuyết mô phỏng có đúng không?
- The fact that we exist uh means that we are an interesting simulation and really the mo the most important thing is just don't be boring.
- Việc chúng ta tồn tại uh có nghĩa là chúng ta là một mô phỏng thú vị và thực sự điều quan trọng nhất là đừng nhàm chán.
- This has explained you a bit.
- Điều này đã giải thích cho bạn một chút.
You're on a crusade against being boring.
Bạn đang trong một cuộc thập tự chinh chống lại sự nhàm chán.
Well, I've heard you talk about this a bit.
Chà, tôi đã nghe bạn nói về điều này một chút.
I I really do need to know how convinced are you that we might be in a simulation.
Tôi thực sự cần biết bạn tin chắc đến mức nào rằng chúng ta có thể đang ở trong một mô phỏng.
- You know, I once had a dinner at my house with a physicist and a computer scientist, and they're both like leaders in their field, and I asked the question, what do you think the probabilities that we're in a simulation?
- Bạn biết đấy, tôi từng có một bữa tối tại nhà với một nhà vật lý và một nhà khoa học máy tính, và cả hai đều là những người dẫn đầu trong lĩnh vực của họ, và tôi đã hỏi câu hỏi, bạn nghĩ xác suất chúng ta đang ở trong một mô phỏng là bao nhiêu?
And the physicist said 0% and the computer scientist said 100% simultaneously.
Và nhà vật lý nói 0% và nhà khoa học máy tính nói 100% cùng một lúc.
So, I guess maybe I should go 50% then.
Vậy, tôi đoán có lẽ tôi nên chọn 50%.
I don't know.
Tôi không biết.
It's It's I mean there there's odd things that happen in this simulation where especially if you're me.
Đó là... Ý tôi là có những điều kỳ lạ xảy ra trong mô phỏng này, đặc biệt nếu bạn là tôi.
I mean, think about it.
Ý tôi là, hãy nghĩ về điều đó.
Like if you're me and you're like, should should all these things really be happening?
Giống như nếu bạn là tôi và bạn nghĩ, liệu tất cả những điều này có thực sự nên xảy ra không?
Should I really be making spaceships to go to the moon and Mars?
Liệu tôi có thực sự nên chế tạo tàu vũ trụ để đi đến mặt trăng và sao Hỏa không?
Like what the that doesn't seem real.
Giống như cái quái gì thế, điều đó có vẻ không thật.
- And what happens when you have all the intelligence you could possibly want in a society?
- Và điều gì xảy ra khi bạn có tất cả trí thông minh mà bạn có thể muốn trong một xã hội?
Will that intelligence, the artificial intelligence be in charge?
Liệu trí thông minh đó, trí tuệ nhân tạo, sẽ nắm quyền?
Will we sort of become subservient to our new machines?
Liệu chúng ta có trở nên phục tùng những cỗ máy mới của mình không?
- Um, I don't know about subservient uh exactly, but will we be able to boss around something that's, you know, thousands or millions of times smarter than us?
- Ừm, tôi không biết về việc phục tùng chính xác, nhưng liệu chúng ta có thể sai khiến một thứ thông minh hơn chúng ta hàng nghìn hoặc hàng triệu lần không?
No.
Không.
Will it want to boss us around?
Liệu nó có muốn sai khiến chúng ta không?
I may not care.
Có lẽ nó không quan tâm.
Probably doesn't care.
Có lẽ nó không quan tâm.
I mean, you can look at chimps in the in the in the jungle or whatever, and you know, we don't go around trying to micromanage the lives of chimps.
Ý tôi là, bạn có thể nhìn những con tinh tinh trong rừng hoặc bất cứ đâu, và bạn biết đấy, chúng ta không đi khắp nơi cố gắng quản lý vi mô cuộc sống của tinh tinh.
Um, we just sort of let them be in the forest more or less these days, you know.
Ừm, chúng ta chỉ để chúng sống trong rừng ít nhiều trong những ngày này, bạn biết đấy.
Um, so it's probably like that, you know.
Ừm, vậy có lẽ nó giống như vậy, bạn biết đấy.
- And to what extent does super intelligence have its own agency at some point or does it have it already?
- Và siêu trí tuệ có quyền tự chủ riêng của nó ở một mức độ nào đó vào một thời điểm nào đó hay nó đã có rồi?
You know, go back to Hitchhiker's Guide.
Bạn biết đấy, hãy quay lại với Hitchhiker's Guide.
You talk about a computer that is ultimately curious in some ways because it exists to explain the meaning of the universe.
Bạn nói về một máy tính mà cuối cùng tò mò theo một số cách vì nó tồn tại để giải thích ý nghĩa của vũ trụ.
Why does it exist?
Tại sao nó tồn tại?
And is AI aiming in that direction for you just like space travel is?
Và AI có đang hướng tới điều đó đối với bạn giống như du hành vũ trụ không?
Is that one reason you're so interested in doing AI?
Đó có phải là một lý do khiến bạn quan tâm đến việc làm AI không?
- I mean, as you know, I'm I've been sort of somewhat conflicted about AI.
- Ý tôi là, như bạn biết, tôi đã có chút mâu thuẫn về AI.
you know is it I don't want to hasten our doom if because there's always some chance that AI could be negative but then you know when I've tried to take actions in this regard it seems to have only accelerated AI because I think reality is not just an interestingness maximizer but also an irony maximizer
Bạn biết đấy, tôi không muốn đẩy nhanh sự diệt vong của chúng ta vì luôn có một số khả năng AI có thể tiêu cực, nhưng sau đó bạn biết đấy, khi tôi cố gắng thực hiện các hành động về vấn đề này, nó dường như chỉ đẩy nhanh AI vì tôi nghĩ thực tế không chỉ là tối đa hóa sự thú vị mà còn là tối đa hóa sự mỉa mai
- and so by starting open AI you ended up maximizing by leading to entropic - I think it ended up accelerating AI - consequence yeah OpenAI ended up accelerating AI and then anthropic which is really you know splinter group from open AI um is accelerating it even more - and you've been talking to Dario Amade I was wondering if that could even lead to more of a partnership of XAI anthropic
- và vì vậy bằng cách bắt đầu OpenAI, bạn đã tối đa hóa bằng cách dẫn đến entropic - Tôi nghĩ nó đã đẩy nhanh AI - hậu quả vâng OpenAI đã đẩy nhanh AI và sau đó Anthropic, thực sự là một nhóm tách ra từ OpenAI, ừm, đang đẩy nhanh nó hơn nữa - và bạn đã nói chuyện với Dario Amodei, tôi tự hỏi liệu điều đó thậm chí có thể dẫn đến nhiều hơn một mối quan hệ đối tác giữa xAI và Anthropic
- well I guess we are providing them with compute which they really needed but before I ran them computer I went and met with a bunch of people at Anthropic to sort of I don't know see if anyone set off my evil detector or anything like that.
- Chà, tôi đoán chúng tôi đang cung cấp cho họ khả năng tính toán mà họ thực sự cần, nhưng trước khi tôi điều hành máy tính của họ, tôi đã đến gặp một nhóm người tại Anthropic để, tôi không biết, xem liệu có ai kích hoạt máy dò điều ác của tôi hay không.
Not that my evil detector is perfect, of course, but you know, you might as well just try, you know.
Không phải máy dò điều ác của tôi hoàn hảo, tất nhiên, nhưng bạn biết đấy, bạn cũng có thể thử.
Um, and everyone I met at Anthropic was very nice and
Ừm, và mọi người tôi gặp tại Anthropic đều rất tốt bụng và
conscientious.
Tận tâm.
So, I didn't meet anyone who seemed shady or deceptive or anything.
Vì vậy, tôi không gặp ai có vẻ mờ ám hoặc lừa dối hay bất cứ điều gì.
Um I'm a little worried about the name because of the you know reality being kind of an irony maximizer that if you call something anthropic good chance it's misanthropic you know um just like open AI is not closed.
Ừm, tôi hơi lo lắng về cái tên vì bạn biết đấy, thực tế là một thứ tối đa hóa sự mỉa mai, nếu bạn gọi một thứ gì đó là anthropic, rất có thể nó là misanthropic, bạn biết đấy, ừm, giống như OpenAI không phải là đóng.
Um stability AI is unstable.
Ừm, Stability AI thì không ổn định.
Uh midjourney is not mid.
Uh Midjourney không phải là tầm trung.