Bill Gates rejects the 'doomer' label but insists on warning about AI risks, denying involvement in gain-of-function research. He believes AI is beneficial but stresses the need to shape it now, as the response has not matched the speed of the challenge. Rapid AI progress brings near-term dangers from models without safeguards, enabling cyber attacks and bioterrorism, while longer-term control issues affect any advanced model. Industry warnings are sincere but poorly understood by outsiders, and competition at the frontier necessitates government regulation.
Bill Gates bác bỏ nhãn 'doomer' nhưng vẫn khăng khăng cảnh báo về rủi ro AI, phủ nhận liên quan đến nghiên cứu gain-of-function. Ông tin AI có lợi nhưng nhấn mạnh cần định hình nó ngay bây giờ, vì phản ứng chưa theo kịp tốc độ thách thức. Tiến bộ AI nhanh chóng mang lại nguy hiểm trước mắt từ các mô hình không có biện pháp bảo vệ, cho phép tấn công mạng và khủng bố sinh học, trong khi các vấn đề kiểm soát dài hạn ảnh hưởng đến bất kỳ mô hình tiên tiến nào. Cảnh báo của ngành là chân thành nhưng người ngoài hiểu kém, và sự cạnh tranh ở biên giới đòi hỏi quy định của chính phủ.
Do you think you've become a doomer?
Ông có nghĩ mình đã trở thành người bi quan không?
- No, I'm not a doomer.
- Không, tôi không phải người bi quan.
I hate being the bearer of, you know, concerning news on this, but it's even worse not to tell people that this is coming and we have choices as humans to make about how we shape it.
Tôi ghét phải là người mang tin, bạn biết đấy, tin đáng lo ngại về chuyện này, nhưng còn tệ hơn nếu không nói với mọi người rằng điều này đang đến và chúng ta với tư cách con người có những lựa chọn để định hình nó.
He said, "What?"
Ông ấy nói, "Cái gì?"
He said that you induced CO 19 via global pandemic preparation efforts, particularly gain of function research, and compared that to safety research in AI, and said, "We're going to we're going to induce."
Ông ấy nói rằng ông đã gây ra CO 19 thông qua các nỗ lực chuẩn bị cho đại dịch toàn cầu, đặc biệt là nghiên cứu gain of function, và so sánh điều đó với nghiên cứu an toàn trong AI, và nói, "Chúng ta sẽ, chúng ta sẽ gây ra."
- Nobody's ever accused me or the Gates Foundation of being involved in any gain of function research.
- Chưa ai từng buộc tội tôi hay Quỹ Gates tham gia vào bất kỳ nghiên cứu gain of function nào.
- You know what some of the YouTube commenters are going to say?
- Ông biết một số bình luận viên trên YouTube sẽ nói gì không?
They're going to say, "Why should we trust Bill Gates?
Họ sẽ nói, "Tại sao chúng ta nên tin Bill Gates?
He had a relationship with Jeffrey Epstein."
Ông ấy có quan hệ với Jeffrey Epstein."
How do you respond to that?
Ông trả lời thế nào về điều đó?
Bill Gates, you are the co-founder and former CE Microsoft.
Bill Gates, ông là đồng sáng lập và cựu CEO của Microsoft.
You're also the chairman of the Gates Foundation.
Ông cũng là chủ tịch của Quỹ Gates.
Welcome to Decoder.
Chào mừng đến với Decoder.
- Thank you.
- Cảm ơn.
- It's good to talk to you again.
- Thật tốt khi lại được nói chuyện với ông.
You and I have spoken many times over the years.
Ông và tôi đã nói chuyện nhiều lần trong nhiều năm qua.
I would say that the circumstance of this conversation feel very different.
Tôi muốn nói rằng hoàn cảnh của cuộc trò chuyện này cảm thấy rất khác.
Previously when you and I would talk, we were always very hopeful about technology and what it could bring.
Trước đây khi ông và tôi nói chuyện, chúng ta luôn rất lạc quan về công nghệ và những gì nó có thể mang lại.
Uh you had a Netflix series a few years ago.
Uh ông có một loạt phim trên Netflix vài năm trước.
You talked to us and I want to just read you this quote.
Ông đã nói với chúng tôi và tôi muốn đọc cho ông nghe câu nói này.
You said, "I believe AI is a beneficial thing.
Ông nói, "Tôi tin AI là một điều có lợi.
We just need to shape it the right way."
Chúng ta chỉ cần định hình nó đúng cách."
I would say you still agree with that.
Tôi muốn nói rằng ông vẫn đồng ý với điều đó.
You just think the time to shape it is now.
Ông chỉ nghĩ rằng thời điểm để định hình nó là bây giờ.
- Yeah, I agree with that.
- Vâng, tôi đồng ý với điều đó.
And I'd say the response of uh broadly hasn't been adequate to the speed that the challenge is arising.
Và tôi muốn nói rằng phản ứng nói chung chưa tương xứng với tốc độ mà thách thức đang nảy sinh.
So I'm I'm very concerned that the bad stuff will not be uh minimized and that a lot of good stuff could come fairly slowly uh if we don't manage it the right way.
Vì vậy tôi rất lo ngại rằng những điều xấu sẽ không được giảm thiểu và nhiều điều tốt có thể đến khá chậm nếu chúng ta không quản lý nó đúng cách.
I want to have this conversation with you in basically three parts.
Tôi muốn có cuộc trò chuyện này với ông về cơ bản gồm ba phần.
I want to understand how you feel about AI as a technology today and why it's advancing so quickly.
Tôi muốn hiểu ông cảm thấy thế nào về AI như một công nghệ ngày nay và tại sao nó lại tiến bộ nhanh đến vậy.
I'm very curious about the technology or technical solutions to potentially control it.
Tôi rất tò mò về công nghệ hoặc các giải pháp kỹ thuật để có thể kiểm soát nó.
There's policy solutions as well, but it seems like we have to build an awful lot of technology.
Cũng có các giải pháp chính sách, nhưng có vẻ như chúng ta phải xây dựng rất nhiều công nghệ.
And then I'm very curious to talk about who might impose those solutions and controls because that seems very much up for debate right now as well.
Và sau đó tôi rất tò mò muốn nói về ai có thể áp đặt những giải pháp và kiểm soát đó vì điều đó hiện nay cũng đang được tranh luận rất nhiều.
So just start at the start.
Vậy hãy bắt đầu từ đầu.
What has made you feel the urgency that AI is arriving at a speed that we're not ready to control it?
Điều gì khiến ông cảm thấy sự cấp bách rằng AI đang đến với tốc độ mà chúng ta chưa sẵn sàng kiểm soát nó?
- Well, the progress over the last year has been uh really quite amazing.
- Chà, tiến bộ trong năm qua thực sự khá đáng kinh ngạc.
Uh you know, starting with the ability to write code and find cyber flaws.
Uh bạn biết đấy, bắt đầu với khả năng viết mã và tìm ra các lỗ hổng mạng.
uh the ability to reason in biology, the ability to form relationships uh with kids or other people, uh the ability to disrupt the job market.
Uh khả năng lý luận trong sinh học, khả năng hình thành mối quan hệ với trẻ em hoặc người khác, uh khả năng làm đảo lộn thị trường việc làm.
Uh the incredible power that exists today means that every one of those things uh will happen and society needs to be ready.
Uh sức mạnh đáng kinh ngạc hiện có nghĩa là mỗi điều đó sẽ xảy ra và xã hội cần phải sẵn sàng.
Do you see that happening as a technology as a whole or in the products that are instantiated by the companies that are making AI today?
Ông thấy điều đó đang xảy ra như một công nghệ tổng thể hay trong các sản phẩm được hiện thực hóa bởi các công ty đang tạo ra AI ngày nay?
And what I mean is there's AI as a broad set of models that exist in the world.
Và ý tôi là có AI như một tập hợp rộng lớn các mô hình tồn tại trên thế giới.
Some open source, some proprietary.
Một số là mã nguồn mở, một số là độc quyền.
Then there are the companies that make these products.
Rồi có những công ty tạo ra những sản phẩm này.
Then there are the leaders of those companies that make these products.
Rồi có những nhà lãnh đạo của những công ty tạo ra những sản phẩm này.
And at every level, there's a different relationship you or I might have to AI.
Và ở mỗi cấp độ, ông hoặc tôi có thể có một mối quan hệ khác nhau với AI.
So are you seeing these risks and these capabilities broadly in the field or in the particular companies led by the particular people?
Vậy ông đang thấy những rủi ro và những khả năng này một cách rộng khắp trong lĩnh vực hay trong những công ty cụ thể được lãnh đạo bởi những người cụ thể?
- Well, the risk isn't one model versus another model.
- Chà, rủi ro không phải là một mô hình so với một mô hình khác.
Uh certainly the near-term danger of models where you can remove all the safeguards - is very high.
Uh chắc chắn nguy hiểm trước mắt của các mô hình mà bạn có thể loại bỏ tất cả các biện pháp bảo vệ - là rất cao.
uh and quite different than models where you monitor to make sure that cyber attackers and bioteterrorists are not able to exploit the capability of the model to do gigantic harms and that's our you know the big near-term risk really comes from models without safeguards.
Uh và khá khác với các mô hình mà bạn giám sát để đảm bảo rằng những kẻ tấn công mạng và những kẻ khủng bố sinh học không thể khai thác khả năng của mô hình để gây ra những tổn hại khổng lồ và đó là, bạn biết đấy, rủi ro lớn trước mắt thực sự đến từ các mô hình không có biện pháp bảo vệ.
In a longer time frame, the control issues relate to any state-of-the-art model.
Trong khung thời gian dài hơn, các vấn đề kiểm soát liên quan đến bất kỳ mô hình tiên tiến nào.
Uh, but uh, it's always easier when you can make sure safeguards are maintained.
Uh, nhưng uh, luôn dễ dàng hơn khi bạn có thể đảm bảo các biện pháp bảo vệ được duy trì.
- There's the reason I'm asking that question that way is maybe you don't trust Sam Alman today, but you trust Daario or maybe you don't trust either one of those and you trust Satcha at Microsoft.
- Lý do tôi hỏi câu đó theo cách đó là có thể hôm nay bạn không tin Sam Alman, nhưng bạn tin Daario hoặc có thể bạn không tin ai trong số họ và bạn tin Satcha ở Microsoft.
And that is a market dynamic where maybe we're all going to pick the safest model or the safest company.
Và đó là một động lực thị trường mà có thể tất cả chúng ta sẽ chọn mô hình an toàn nhất hoặc công ty an toàn nhất.
And you think that is diffuse.
Và bạn nghĩ điều đó là khuếch tán.
You think eventually the technology will just get to a place where it's harmful or can cause these harms because it exists.
Bạn nghĩ cuối cùng công nghệ sẽ đến một nơi mà nó có hại hoặc có thể gây ra những tác hại này bởi vì nó tồn tại.
- Well, somebody doing a cyber attack with the model, that's not about you choosing a model.
- Chà, ai đó thực hiện một cuộc tấn công mạng với mô hình, đó không phải là về việc bạn chọn một mô hình.
It doesn't matter what model.
Không quan trọng mô hình nào.
- Well, has safeguards in place like maybe it can't, right?
- Chà, có các biện pháp bảo vệ tại chỗ như có thể nó không thể, phải không?
This is this is their approach currently.
Đây là cách tiếp cận hiện tại của họ.
That's I'm just pushing on that.
Đó là tôi chỉ đang thúc đẩy về điều đó.
Yes, certainly the models where they make sure the safeguards are not removed and they're putting a lot of effort into seeing how those models are being used um monitoring the activity.
Vâng, chắc chắn các mô hình mà họ đảm bảo các biện pháp bảo vệ không bị gỡ bỏ và họ đang nỗ lực rất nhiều để xem cách các mô hình đó được sử dụng, giám sát hoạt động.
The near-term risk from those models is not gigantic.
Rủi ro ngắn hạn từ các mô hình đó không lớn.
um you know it's it's more where somebody can remove all the safeguards um where the cyber attacks are available today.
Ừm, bạn biết đấy, nó nhiều hơn ở chỗ ai đó có thể gỡ bỏ tất cả các biện pháp bảo vệ, nơi các cuộc tấn công mạng có sẵn ngay hôm nay.
- Is that is it cyber attacks is that is it the things like the hugging face breach and the other cyber security instance we've seen out of the labs that has made you feel that thresholds have been crossed and you need to speak up more about the controls that are needed.
- Đó có phải là các cuộc tấn công mạng, có phải là những thứ như vụ vi phạm Hugging Face và sự cố an ninh mạng khác mà chúng ta đã thấy từ các phòng thí nghiệm đã khiến bạn cảm thấy rằng các ngưỡng đã bị vượt qua và bạn cần lên tiếng nhiều hơn về các biện pháp kiểm soát cần thiết.
It's the basic power of the models - towards everything.
Đó là sức mạnh cơ bản của các mô hình - đối với mọi thứ.
Social relationships, job market, cyber attacks, bioteterrorism attacks.
Các mối quan hệ xã hội, thị trường việc làm, tấn công mạng, tấn công khủng bố sinh học.
We've crossed the threshold of capability that the this is the by far the most dangerous technology ever invented and it'll have pervasive effects in the economy uh and how war is fought and the industry is actually speaking up about that quite a bit.
Chúng ta đã vượt qua ngưỡng năng lực mà đây là công nghệ nguy hiểm nhất từng được phát minh và nó sẽ có những tác động lan tỏa trong nền kinh tế và cách chiến tranh được tiến hành và ngành công nghiệp thực sự đang lên tiếng về điều đó khá nhiều.
But the awareness or even the willingness to believe these things about this time is different.
Nhưng nhận thức hoặc thậm chí sự sẵn lòng tin vào những điều này về thời điểm này thì khác.
Once you get outside the industry, it's very low.
Một khi bạn ra ngoài ngành, nó rất thấp.
People are often looking at the past and saying, "Okay, all the fears about technology in terms of its disruption, including to the job market, never were borne out."
Mọi người thường nhìn vào quá khứ và nói, "Được rồi, tất cả những nỗi sợ về công nghệ về sự gián đoạn của nó, bao gồm cả thị trường việc làm, chưa bao giờ thành hiện thực."
And so this must be another example just like those.
Và vì vậy đây chắc hẳn là một ví dụ khác giống như những ví dụ đó.
And so these people who are warning of all these different problems must just be wrong and we can ignore them.
Và vì vậy những người cảnh báo về tất cả những vấn đề khác nhau này chắc hẳn chỉ là sai và chúng ta có thể bỏ qua họ.
- We see this with our audience as well, right?
- Chúng tôi cũng thấy điều này với khán giả của mình, phải không?
They we can't release the model.
Họ nói chúng tôi không thể phát hành mô hình.
It's too dangerous.
Nó quá nguy hiểm.
This is just hype to prop up the bubble.
Đây chỉ là sự cường điệu để thổi phồng bong bóng.
On and on we go.
Và cứ thế tiếp diễn.
- Yeah.
- Vâng.
There's not none of the warnings being made about these models by industry insiders are at all insincere.
Không có lời cảnh báo nào được đưa ra về các mô hình này bởi những người trong ngành là không chân thành cả.
They're absolutely the truth and it's pretty much universal.
Chúng hoàn toàn là sự thật và nó khá phổ biến.
I mean, you can even go back to the founding story of Open AI, you know, designed to say, okay, if we get too powerful, maybe we can not open Pandora's box or Deep Mind's negotiation with Google management.
Ý tôi là, bạn thậm chí có thể quay lại câu chuyện thành lập của Open AI, bạn biết đấy, được thiết kế để nói rằng, được thôi, nếu chúng ta quá mạnh mẽ, có lẽ chúng ta không thể mở hộp Pandora hoặc cuộc đàm phán của Deep Mind với ban lãnh đạo Google.
The people close to this are very concerned about uh misuse, job impacts.
Những người gần gũi với điều này rất lo ngại về việc lạm dụng, tác động đến việc làm.
social uh relationship impacts.
Tác động đến các mối quan hệ xã hội.
And you know, I'd say they it's impressive to have an industry that's speaking out as vividly as they are.
Và bạn biết đấy, tôi muốn nói rằng thật ấn tượng khi có một ngành công nghiệp lên tiếng một cách sống động như họ đang làm.
Some outsiders say, "Hey, get better PR companies, but that ignores the fact that these warnings are the truth."
Một số người ngoài cuộc nói, "Này, hãy thuê các công ty PR tốt hơn, nhưng điều đó bỏ qua thực tế rằng những lời cảnh báo này là sự thật."
You've obviously moved back and forth in your life between commercializing software and technology and being a humanitarian.
Rõ ràng bạn đã đi lại giữa việc thương mại hóa phần mềm và công nghệ và trở thành một nhà nhân đạo.
There's something about these companies in particular where they all started with very high-minded ideals.
Có điều gì đó về những công ty này nói riêng mà tất cả họ đều bắt đầu với những lý tưởng rất cao cả.
All three of them anthropic open deep mind to build AGI.
Cả ba người họ Anthropic, Open, Deep Mind đều xây dựng AGI.
They all built some sort of corporate governance structure to avoid the pitfalls of commercialization and uncheck capitalism and then they started selling to enterprise clients and they seem to have gotten away from those those ideals very quickly.
Tất cả họ đều xây dựng một số loại cấu trúc quản trị doanh nghiệp để tránh những cạm bẫy của thương mại hóa và chủ nghĩa tư bản không được kiểm soát và sau đó họ bắt đầu bán cho khách hàng doanh nghiệp và họ dường như đã rời xa những lý tưởng đó rất nhanh.
Do you think it's just the market?
Bạn có nghĩ đó chỉ là thị trường?
- That's not a fair.
- Đó không phải là công bằng.
- No the like reconstructed itself.
- Không, cấu trúc tự tái tạo.
Oh, no.
Ồ, không.
The construct that was created wasn't useful in the case where you have lots and lots of companies at the frontier.
Cấu trúc được tạo ra không hữu ích trong trường hợp bạn có rất nhiều công ty ở tiên phong.
- The open AI structure, which is okay, we may choose never to productize this and to ignore the capitalistic incentives.
- Cấu trúc của Open AI, được thôi, chúng ta có thể chọn không bao giờ sản phẩm hóa điều này và bỏ qua các động lực tư bản chủ nghĩa.
That only works if there's one company.
Điều đó chỉ hiệu quả nếu có một công ty.
And so that's where it's broken down, not because of any change of people's awareness of the risk and how it'll utterly change humanity.
Và đó là nơi nó bị phá vỡ, không phải vì bất kỳ thay đổi nào trong nhận thức của mọi người về rủi ro và cách nó sẽ thay đổi hoàn toàn nhân loại.
This is the other dynamic that I hear from our audience and I think I hear from the AI industry itself.
Đây là động lực khác mà tôi nghe từ khán giả của mình và tôi nghĩ tôi nghe từ chính ngành công nghiệp AI.
We would like to stop, but the demands of competition prevent us from unilaterally stopping one company.
Chúng tôi muốn dừng lại, nhưng nhu cầu cạnh tranh ngăn cản chúng tôi đơn phương dừng lại một công ty.
We need some regulatory effort to stop us.
Chúng tôi cần một số nỗ lực quản lý để ngăn chúng tôi.
- Uh I haven't heard anyone say they want to stop.
- Ừm, tôi chưa nghe ai nói họ muốn dừng lại.
I've heard people talk about pacing the frontier making sure that models get reviewed by governments.
Tôi đã nghe người ta nói về việc điều tiết tốc độ phát triển ở biên giới công nghệ, đảm bảo rằng các mô hình được chính phủ xem xét.
You know, we usually think of governments as playing this key role in safety and factor things that are not a millionth as dangerous as AI, car crashes, plane crashes.
Bạn biết đấy, chúng ta thường nghĩ chính phủ đóng vai trò then chốt trong an toàn và các yếu tố mà nguy hiểm chưa bằng một phần triệu so với AI, như tai nạn ô tô, tai nạn máy bay.
We rely on the government to establish strong technical standards to review problems.
Chúng ta dựa vào chính phủ để thiết lập các tiêu chuẩn kỹ thuật mạnh mẽ nhằm xem xét các vấn đề.
Uh and so once you have multiple competitors, the level of responsibility can't be with the companies.
Và vì vậy, một khi bạn có nhiều đối thủ cạnh tranh, mức độ trách nhiệm không thể nằm ở các công ty.
It's it's completely obvious the responsibility becomes the government's responsibility just like it is with every other dangerous product.
Rõ ràng là trách nhiệm trở thành trách nhiệm của chính phủ, giống như với mọi sản phẩm nguy hiểm khác.
Although the magnitude there and the degree of change is minuscule by comparison.
Mặc dù quy mô ở đó và mức độ thay đổi là rất nhỏ so với.
I will tell you I'm a little concerned about the government's ability to understand the technology that we would hope they regulate.
Tôi sẽ nói với bạn rằng tôi hơi lo ngại về khả năng của chính phủ trong việc hiểu công nghệ mà chúng ta hy vọng họ sẽ quản lý.
I've had a number of politicians on decoder lately.
Gần đây tôi đã có một số chính trị gia trên chương trình Decoder.
I don't have high hopes there, but I'm curious for your understanding of it because it feels to me like trying to regulate something or put standards against a number of companies requires you to really understand the nature of the technology that you seek to regulate.
Tôi không có nhiều kỳ vọng ở đó, nhưng tôi tò mò về hiểu biết của bạn về điều này, vì tôi cảm thấy rằng việc cố gắng quản lý một thứ gì đó hoặc đặt ra tiêu chuẩn cho một số công ty đòi hỏi bạn phải thực sự hiểu bản chất của công nghệ mà bạn muốn quản lý.