Yuval Noah Harari discusses the future of AI, its potential to take control of the financial system, and the crucial role of trust in this transformation. He agrees with Elon Musk that AI will surpass human intelligence and take control within 10 years if current trends continue, but insists this outcome is not inevitable and humans still have a choice. Harari points out contradictions in Musk's predictions, such as worrying about Muslim immigration and cutting aid while also predicting AI will make money obsolete and cause deflation. The financial system is based on trust, and as it becomes too complex for humans, we will increasingly delegate control to AIs, which will create incomprehensible financial instruments. Harari warns that in 10 years, no human may understand the financial system, leading to a situation where we blindly trust AI decisions, similar to how cows are controlled by human finance without understanding it. The most important asset in the world is trust, and the key question is what will happen to trust if AIs take over the financial system.
Yuval Noah Harari thảo luận về tương lai của AI, tiềm năng của nó trong việc kiểm soát hệ thống tài chính và vai trò quan trọng của niềm tin trong sự chuyển đổi này. Ông đồng ý với Elon Musk rằng AI sẽ vượt qua trí tuệ con người và nắm quyền kiểm soát trong vòng 10 năm nếu xu hướng hiện tại tiếp tục, nhưng nhấn mạnh rằng kết quả này không phải là không thể tránh khỏi và con người vẫn có sự lựa chọn. Harari chỉ ra những mâu thuẫn trong dự đoán của Musk, chẳng hạn như lo lắng về nhập cư Hồi giáo và cắt viện trợ trong khi cũng dự đoán AI sẽ khiến tiền trở nên lỗi thời và gây ra giảm phát. Hệ thống tài chính dựa trên niềm tin, và khi nó trở nên quá phức tạp đối với con người, chúng ta sẽ ngày càng giao quyền kiểm soát cho AI, điều này sẽ tạo ra các công cụ tài chính không thể hiểu nổi. Harari cảnh báo rằng trong 10 năm nữa, có thể không ai hiểu được hệ thống tài chính, dẫn đến tình huống chúng ta mù quáng tin tưởng vào các quyết định của AI, giống như cách bò bị kiểm soát bởi tài chính con người mà không hiểu gì. Tài sản quan trọng nhất trên thế giới là niềm tin, và câu hỏi then chốt là điều gì sẽ xảy ra với niềm tin nếu AI nắm quyền kiểm soát hệ thống tài chính.
Uvel Noah Harrari, welcome to the Insider.
Yuval Noah Harari, chào mừng đến với Insider.
- Thank you.
- Cảm ơn.
It's good to be here.
Rất vui được ở đây.
- It's I've been so looking forward to this conversation.
- Tôi đã rất mong chờ cuộc trò chuyện này.
Um, not only are you one of the world's most prominent public intellectuals, your books have sold millions of copies and they've done so, I think, because you have a really remarkable ability to synthesize the broad sweep of history, - but also you are willing to make bold predictions about the future, which
Ừm, không chỉ ông là một trong những trí thức công chúng nổi bật nhất thế giới, sách của ông đã bán được hàng triệu bản và tôi nghĩ chúng làm được như vậy vì ông có khả năng thực sự đáng kinh ngạc trong việc tổng hợp dòng chảy rộng lớn của lịch sử, - mà còn vì ông sẵn sàng đưa ra những dự đoán táo bạo về tương lai, điều mà
not every historian is willing to do.
Không phải nhà sử học nào cũng sẵn sàng làm.
That's where I wanted to focus today.
Đó là nơi tôi muốn tập trung hôm nay.
The future, particularly the future in an AI world.
Tương lai, đặc biệt là tương lai trong thế giới AI.
It's something you've been writing about a lot.
Đó là điều ông đã viết rất nhiều.
And you've called AI, and I'm going to quote this, the biggest quote psychological and social experiment in human history.
Và ông đã gọi AI, và tôi sẽ trích dẫn điều này, là thí nghiệm tâm lý và xã hội lớn nhất trong lịch sử loài người.
- Um, and I want to explore what this experiment will look like, what will it mean for our societies, our politics, indeed our humanity.
- Ừm, và tôi muốn khám phá thí nghiệm này sẽ như thế nào, nó sẽ có ý nghĩa gì đối với xã hội, chính trị của chúng ta, thậm chí cả nhân tính của chúng ta.
And I wanted to start with another conversation I had just a few weeks ago which I don't know if you saw but with Elon Musk.
Và tôi muốn bắt đầu với một cuộc trò chuyện khác mà tôi đã có chỉ vài tuần trước, tôi không biết ông có xem không, nhưng với Elon Musk.
- Yeah, I watched that.
- Vâng, tôi đã xem nó.
Yeah, laughter - it was quite a conversation but um in it at the beginning I asked him what the world would be like in 10 years time and he made some very I thought very striking points.
Vâng, [tiếng cười] - đó là một cuộc trò chuyện khá thú vị, nhưng ừm, ở đầu cuộc trò chuyện đó, tôi hỏi ông ấy thế giới sẽ như thế nào trong 10 năm tới và ông ấy đã đưa ra một số điểm mà tôi nghĩ rất nổi bật.
First he said he thought that AI will have far surpassed human intelligence.
Đầu tiên, ông ấy nói rằng ông ấy nghĩ AI sẽ vượt xa trí tuệ con người.
- Yeah.
- Vâng.
Secondly, that it would be a world of super abundance and thirdly it was unlikely humans would be in control.
Thứ hai, rằng đó sẽ là một thế giới siêu dồi dào và thứ ba, con người khó có thể nắm quyền kiểm soát.
- Do you share that vision?
- Ông có chia sẻ tầm nhìn đó không?
- I generally agree with the first and third uh predictions that it's very likely given current trajectories that AI will be more intelligent than us in 10 years and therefore will be in control.
- Tôi nhìn chung đồng ý với dự đoán thứ nhất và thứ ba, rằng rất có thể với quỹ đạo hiện tại, AI sẽ thông minh hơn chúng ta trong 10 năm nữa và do đó sẽ nắm quyền kiểm soát.
I disagree that this is inevitable.
Tôi không đồng ý rằng điều này là không thể tránh khỏi.
I mean you hear a lot that this is inevitable from the people who are leading this revolution because this basically relieves them of all responsibility.
Ý tôi là bạn nghe rất nhiều rằng điều này là không thể tránh khỏi từ những người đang dẫn dắt cuộc cách mạng này, bởi vì điều đó về cơ bản giải phóng họ khỏi mọi trách nhiệm.
- So you disagree it will be inevitable that they will be more intelligent than us or inevitable that they will - if we continue with the present accelerating pace of the AI race.
- Vậy ông không đồng ý rằng việc chúng sẽ thông minh hơn chúng ta là không thể tránh khỏi, hay việc chúng sẽ - nếu chúng ta tiếp tục với tốc độ tăng tốc hiện tại của cuộc đua AI.
Yes, this will be the result.
Đúng, đây sẽ là kết quả.
In 10 years the AIS will take over.
Trong 10 năm nữa, các AI sẽ tiếp quản.
But this is not inevitable.
Nhưng điều này không phải là không thể tránh khỏi.
We are still in control in 2026 and it's our decision what to do now and that's crucial.
Chúng ta vẫn nắm quyền kiểm soát vào năm 2026 và việc chúng ta làm gì bây giờ là quyết định của chúng ta, và điều đó rất quan trọng.
- You're watching an interview from The Economist.
- Bạn đang xem một cuộc phỏng vấn từ The Economist.
To get early access to our upcoming interviews and watch others from our archive, subscribe to The Economist by clicking the link above.
Để có quyền truy cập sớm vào các cuộc phỏng vấn sắp tới của chúng tôi và xem những cuộc phỏng vấn khác từ kho lưu trữ của chúng tôi, hãy đăng ký The Economist bằng cách nhấp vào liên kết ở trên.
Now, back to the interview.
Bây giờ, quay lại cuộc phỏng vấn.
And what really struck me about the conversation you had with Elon Musk is a kind of contradiction between and and you pointed it out in real time the contradiction between the two parts of the conversation because he says in 10 years AI will take over the world and then he worries so much about Muslim immigration causing civil war in Britain in 20 years.
Và điều thực sự khiến tôi chú ý về cuộc trò chuyện của ông với Elon Musk là một kiểu mâu thuẫn giữa, và ông đã chỉ ra điều đó ngay lập tức, mâu thuẫn giữa hai phần của cuộc trò chuyện, bởi vì ông ấy nói trong 10 năm nữa AI sẽ tiếp quản thế giới, rồi ông ấy lại lo lắng rất nhiều về việc người nhập cư Hồi giáo gây ra nội chiến ở Anh trong 20 năm nữa.
This doesn't make sense.
Điều này không hợp lý.
If
Nếu
the AIs take over the planet in 10 years, why do you care so much about things that will have an effect in when we have no idea what the planet will be like?
Các AI tiếp quản hành tinh trong 10 năm nữa, tại sao bạn lại quan tâm nhiều đến những thứ sẽ có ảnh hưởng khi chúng ta không biết hành tinh sẽ như thế nào?
Similarly, he gave another prediction.
Tương tự, ông ấy đưa ra một dự đoán khác.
I think equally important that money will disappear in 10 years.
Tôi nghĩ cũng quan trọng không kém, rằng tiền sẽ biến mất trong 10 năm nữa.
There won't be money, not no human money in 10 years.
Sẽ không có tiền, không có tiền của con người trong 10 năm nữa.
And I think he's correct because the AIs will take over the financial system.
Và tôi nghĩ ông ấy đúng, bởi vì các AI sẽ tiếp quản hệ thống tài chính.
It will be an AI financial system controlling the world the same way that today um you know the human financial system controls the lives of cows and chickens but the cows and chickens have no idea that finance even exists.
Nó sẽ là một hệ thống tài chính AI kiểm soát thế giới giống như ngày nay, bạn biết đấy, hệ thống tài chính của con người kiểm soát cuộc sống của bò và gà, nhưng bò và gà không biết rằng tài chính thậm chí tồn tại.
This is likely to be our position in 10 years.
Đây có thể sẽ là vị thế của chúng ta trong 10 năm nữa.
So and he said it quite clearly.
Và ông ấy đã nói điều đó khá rõ ràng.
They want me money at least not money that we understand in 10 years.
Họ sẽ không cần tiền, ít nhất không phải loại tiền mà chúng ta hiểu trong 10 năm nữa.
And then he cuts US aid to Africa because he wants to save money.
Rồi ông ấy cắt viện trợ của Mỹ cho châu Phi vì ông ấy muốn tiết kiệm tiền.
And he says that again at one point he says um uh the solution for mass unemployment because AI will take the jobs will be for the government to just issue checks for everybody.
Và ông ấy lại nói điều đó, có một lúc ông ấy nói ừm ừ, giải pháp cho tình trạng thất nghiệp hàng loạt vì AI sẽ lấy đi việc làm sẽ là chính phủ chỉ cần phát séc cho tất cả mọi người.
And when you pushed back and said, "What about inflation?" He says, "There won't be inflation.
Và khi bạn phản biện và nói, "Còn lạm phát thì sao?" Ông ấy nói, "Sẽ không có lạm phát.
There'll be deflation because
Sẽ có giảm phát vì
there'll be so much more products and services produced by AI." If this is the case, why do you need to save money today?
Sẽ có quá nhiều sản phẩm và dịch vụ được sản xuất bởi AI." Nếu đúng như vậy, tại sao bạn cần tiết kiệm tiền ngày hôm nay?
- So, I'm I'm I'm glad that you were as perplexed as I was by some of those contradictions.
- Vậy, tôi, tôi, tôi rất vui vì ông cũng bối rối như tôi trước một số mâu thuẫn đó.
But let's let's focus on this question of the AIs and whether or not they will be in control and how they will be because that's been the subject of a lot of your writing and I'm really fascinated by it because you just said you agreed with him that the AIs will be in control of our financial system.
Nhưng hãy tập trung vào câu hỏi về các AI và liệu chúng có nắm quyền kiểm soát hay không và bằng cách nào, bởi vì đó là chủ đề trong nhiều bài viết của ông và tôi thực sự bị cuốn hút bởi nó, vì ông vừa nói rằng ông đồng ý với ông ấy rằng các AI sẽ kiểm soát hệ thống tài chính của chúng ta.
- If we continue with the but let's just explore how that might happen because the financial system is based on trust.
- Nếu chúng ta tiếp tục, nhưng hãy cùng khám phá cách điều đó có thể xảy ra, bởi vì hệ thống tài chính dựa trên niềm tin.
Money as you have written yourself - money is trust.
Tiền, như chính ông đã viết - tiền là niềm tin.
- Money is trust.
- Tiền là niềm tin.
Now talk me through how the AIs take control of something.
Bây giờ hãy nói cho tôi biết cách các AI nắm quyền kiểm soát một thứ gì đó.
We lose control and yet we still trust it which we will have to do presumably for it to be a financial system.
Chúng ta mất kiểm soát nhưng vẫn tin tưởng nó, điều mà chúng ta sẽ phải làm để nó trở thành một hệ thống tài chính.
- I mean the financial history of the world is the history of how humans invent more and more sophisticated financial devices in order to build trust between themselves.
- Ý tôi là lịch sử tài chính của thế giới là lịch sử về cách con người phát minh ra ngày càng nhiều công cụ tài chính tinh vi hơn để xây dựng niềm tin giữa họ với nhau.
Money in essence is a very creative, imaginative way to build trust between strangers.
Về bản chất, tiền là một cách rất sáng tạo và giàu trí tưởng tượng để xây dựng niềm tin giữa những người xa lạ.
I go to the market.
Tôi đi đến chợ.
I meet a stranger that I never met in my life.
Tôi gặp một người xa lạ mà tôi chưa từng gặp trong đời.
I give her a piece of worthless gold because you
Tôi đưa cho cô ấy một miếng vàng vô giá trị bởi vì bạn
can't eat or wear gold.
Không thể ăn hay mặc vàng.
It's it's worthless.
Nó vô giá trị.
Or a piece of paper.
Hoặc một mảnh giấy.
And she trusts it.
Và cô ấy tin vào nó.
And because of that, she gives me bread.
Và nhờ đó, cô ấy đưa cho tôi bánh mì.
Now the financial uh uh inventions of humankind became more and more sophisticated so that today very few people understand the financial system.
Giờ đây, những phát minh tài chính của loài người trở nên ngày càng tinh vi đến mức ngày nay rất ít người hiểu được hệ thống tài chính.
It's you need to understand enormous amounts of data and very complex mathematical functions to understand the bond market.
Bạn cần hiểu lượng dữ liệu khổng lồ và các hàm toán học rất phức tạp để hiểu thị trường trái phiếu.
- Now this is something our brain struggles with.
- Đây là điều mà bộ não chúng ta gặp khó khăn.
For AIs it's easy.
Với AI thì dễ dàng.
So increasingly humans will give AIS control of financial decisions.
Vì vậy, con người sẽ ngày càng giao cho AI quyền kiểm soát các quyết định tài chính.
AIS will come up with new financial devices far more sophisticated than bonds and and stocks and we will not be able to understand it anymore just as cows don't understand checks or stocks even though these things control their lives.
AI sẽ tạo ra những công cụ tài chính mới tinh vi hơn nhiều so với trái phiếu và cổ phiếu, và chúng ta sẽ không thể hiểu được nữa, giống như bò không hiểu séc hay cổ phiếu dù những thứ này kiểm soát cuộc sống của chúng.
- But the crucial thing I think you've said there is that humans will give AIS control.
- Nhưng điều quan trọng mà tôi nghĩ bạn đã nói ở đó là con người sẽ giao quyền kiểm soát cho AI.
humans will choose to do this and as you say already many people don't understand how the financial system works.
Con người sẽ chọn làm điều này và như bạn nói, nhiều người đã không hiểu hệ thống tài chính vận hành như thế nào.
So will it be all that different to the financial system today and will the AIS be as you say in control or will we will be entrusting a capable market machinery but will that mean
Vậy liệu nó có khác biệt nhiều so với hệ thống tài chính ngày nay không và liệu AI có nắm quyền kiểm soát như bạn nói hay chúng ta sẽ giao phó cho một cỗ máy thị trường có năng lực nhưng điều đó có nghĩa là
we've lost control - today we still have some humans who hopefully understand what is happening in the financial system and the human brain is still the kind of boundary of where the financial system can develop.
Chúng ta đã mất kiểm soát - ngày nay chúng ta vẫn còn một số người hy vọng hiểu được điều gì đang xảy ra trong hệ thống tài chính và bộ não con người vẫn là ranh giới cho sự phát triển của hệ thống tài chính.
But uh in 10 years when we have entrusted AIS with the financial system, no human on the planet under like there is a financial crash and you know advisers are running to the president or the prime minister and saying the market is collapsing.
Nhưng trong 10 năm nữa, khi chúng ta đã giao hệ thống tài chính cho AI, sẽ không còn người nào trên hành tinh này, kiểu như có một cuộc khủng hoảng tài chính và bạn biết đấy, các cố vấn chạy đến chỗ tổng thống hoặc thủ tướng và nói thị trường đang sụp đổ.
We don't understand why.
Chúng tôi không hiểu tại sao.
We know we have to do something.
Chúng tôi biết mình phải làm gì đó.
The AI said do X.
AI nói hãy làm X.
We have no idea why the AI said do X, but we just have to believe it because we don't understand what's happening.
Chúng tôi không biết tại sao AI nói làm X, nhưng chúng tôi phải tin vào nó vì chúng tôi không hiểu điều gì đang xảy ra.
- But won't there in that case be a massive loss of trust in the financial system that you would have in some sense what you had in 2007 and 8 on steroids that you would have a loss of and this whole sort of figment of the financial system would fall apart.
- Nhưng trong trường hợp đó, liệu có phải sẽ có một sự mất niềm tin lớn vào hệ thống tài chính, theo một nghĩa nào đó giống như điều bạn có năm 2007 và 2008 nhưng mạnh gấp bội, rằng bạn sẽ có sự mất mát và toàn bộ thứ ảo tưởng về hệ thống tài chính này sẽ sụp đổ.
- That's the key question.
- Đó là câu hỏi then chốt.
I mean the most important asset in the world is trust.
Ý tôi là tài sản quan trọng nhất trên thế giới là niềm tin.
It's more important than oil or money or electricity or chips or anything else.
Nó quan trọng hơn dầu mỏ hay tiền bạc hay điện hay chip hay bất cứ thứ gì khác.
Trust.
Niềm tin.
And the question is what will happen to trust?
Và câu hỏi là điều gì sẽ xảy ra với niềm tin?