Dario Amodei argues that advanced AI models are approaching human-level intelligence while public awareness of the coming disruption remains dangerously low. He traces his path from biophysics to AI research and explains the two convictions that led him to found Anthropic.
Dario Amodei lập luận rằng các mô hình AI tiên tiến đang tiến gần đến trí tuệ cấp con người trong khi nhận thức của công chúng về sự gián đoạn sắp tới vẫn còn thấp một cách nguy hiểm. Ông kể lại con đường từ vật lý sinh học đến nghiên cứu AI và giải thích hai niềm tin đã dẫn ông đến việc thành lập Anthropic.
Okay.
Được rồi.
music Heat.
[nhạc] Nóng.
music - music music - So I started playing with Claude.
[nhạc] - [nhạc] [nhạc] - Vậy là tôi bắt đầu chơi với Claude.
It's getting to that point where sometimes it surprises me by how much it music knows me.
Nó đang đến mức đôi khi tôi ngạc nhiên vì nó [nhạc] hiểu tôi đến nhường nào.
I don't know if that makes sense.
Tôi không biết điều đó có hợp lý không.
It is surprising to me that we are in my view so close to these models reaching the level of human intelligence and yet there doesn't seem to be a wider recognition in society of what's about
Theo tôi thấy, thật đáng ngạc nhiên là chúng ta đang rất gần với việc các mô hình này đạt đến mức trí tuệ con người, vậy mà dường như xã hội chưa nhận thức rộng rãi về những gì sắp
to happen.
xảy ra.
It's as if this tsunami is coming at us and you know it's so close we can see it on the horizon and yet people are coming up with these explanations for oh it's not actually a tsunami that's just a trick of the light like there hasn't been a public awareness of the risk.
Cứ như thể một cơn sóng thần đang ập đến và bạn biết nó gần đến mức chúng ta có thể thấy nó ở đường chân trời, vậy mà người ta lại đưa ra những lời giải thích kiểu 'ồ, thật ra không phải sóng thần đâu, chỉ là ảo ảnh ánh sáng thôi' — như thể chưa hề có nhận thức cộng đồng về rủi ro này.
What is India's role in all this?
Vai trò của Ấn Độ trong tất cả những điều này là gì?
- Many other companies come here as themselves a consumer company and they see they see India as a market, right?
- Nhiều công ty khác đến đây với tư cách là một công ty tiêu dùng và họ thấy Ấn Độ là một thị trường, đúng không?
A place to obtain consumers.
Một nơi để có được người tiêu dùng.
We actually see things a little bit differently.
Chúng tôi thực sự nhìn nhận mọi thứ hơi khác một chút.
What did you do before founding anthropic?
Bạn đã làm gì trước khi thành lập Anthropic?
- Yeah, so I was I was actually originally a biologist.
- Vâng, thực ra ban đầu tôi là một nhà sinh học.
Um I uh you know did my undergrad in physics, my uh PhD in bioysics and you know I wanted to understand biological systems so that I could cure disease.
Ừm, tôi học đại học về vật lý, rồi tiến sĩ về lý sinh, và tôi muốn hiểu các hệ thống sinh học để có thể chữa bệnh.
uh and uh the you know the thing I noticed about studying biology was its incredible complexity that uh you know you know for example if you look at the protein
Và điều tôi nhận thấy khi nghiên cứu sinh học là sự phức tạp đáng kinh ngạc của nó, ví dụ nếu bạn nhìn vào protein
mass spec work that I did right trying to find protein biomarkers it's it's just really incredible how much complexity there is right you have a given protein it's like you know the RNA gets spliced in a whole bunch of different ways depending on where it is in the cell then it gets post-transationally modified phosphorolated complex with a whole bunch of other proteins and I was
Công việc khối phổ mà tôi đã làm, cố gắng tìm các dấu ấn sinh học protein, thật sự đáng kinh ngạc mức độ phức tạp, bạn có một protein nhất định, kiểu như RNA được nối theo nhiều cách khác nhau tùy thuộc vào vị trí của nó trong tế bào, sau đó nó được biến đổi sau phiên mã, phosphoryl hóa, phức hợp với nhiều protein khác, và tôi đã
starting to despair that it was too complicated for humans to understand.
Bắt đầu tuyệt vọng rằng nó quá phức tạp để con người có thể hiểu.
And then as I was doing this work on biology, I noticed a lot of the early work around Alexet, which is one of the first neural nets like you know almost 15 years ago now.
Và rồi khi tôi đang làm công việc về sinh học này, tôi nhận thấy nhiều công trình ban đầu về AlexNet, một trong những mạng nơ-ron đầu tiên, cách đây gần 15 năm.
Uh and I said wow like you know AI is actually starting to work.
Và tôi nói 'ồ, AI thực sự bắt đầu hoạt động rồi'.
It has some things in common with how the human brain works but you know has the potential to be larger and scale better and learn tasks like
Nó có một số điểm chung với cách bộ não con người hoạt động, nhưng có tiềm năng lớn hơn và mở rộng tốt hơn, và học các nhiệm vụ như
biology.
Sinh học.
Maybe this is ultimately going to be the solution to uh you know to solving our problems of solving our problems of biology.
Có lẽ đây cuối cùng sẽ là giải pháp để giải quyết các vấn đề của chúng ta trong sinh học.
So you know I went to work with Andrew Ing at BU.
Vậy là tôi đến làm việc với Andrew Ng tại BU.
Then I was at Google for a year.
Sau đó tôi ở Google một năm.
Then I joined OpenAI a few months after it uh started and was uh you know was basically led um all of research there for for several years.
Rồi tôi gia nhập OpenAI vài tháng sau khi nó khởi động và về cơ bản đã lãnh đạo toàn bộ nghiên cứu ở đó trong vài năm.
But then eventually you know myself and a
Nhưng rồi cuối cùng, tôi và một
few other of the of the employees just kind of had our own vision for you know how we wanted to how we wanted to make AI and what we wanted the company to stand for.
Vài nhân viên khác có tầm nhìn riêng về cách chúng tôi muốn tạo ra AI và những gì chúng tôi muốn công ty đại diện.
And so we went off and found an anthropic.
Và thế là chúng tôi rời đi và thành lập Anthropic.
- How was it?
- Nó như thế nào?
Was it like a fork in how OpenAI was thinking into what Anthropic eventually did?
Có phải đó là một sự rẽ nhánh trong cách OpenAI suy nghĩ so với những gì Anthropic cuối cùng đã làm?
- Yeah.
- Vâng.
You know, I would say, you know, my conviction and the conviction of my co-founders when we founded Anthropic were two of them.
Bạn biết đấy, tôi muốn nói rằng niềm tin của tôi và của các đồng sáng lập khi thành lập Anthropic gồm hai điều.
And I think one we were starting to convince OpenAI of, the other I was, you know, not I didn't feel that we were convincing of.
Và tôi nghĩ một điều chúng tôi bắt đầu thuyết phục được OpenAI, điều còn lại thì tôi không cảm thấy chúng tôi thuyết phục được họ.
So the first was the you know the conviction in the scaling loss and the idea that you know if you scale up models you give them
Điều đầu tiên là niềm tin vào quy luật mở rộng và ý tưởng rằng nếu bạn mở rộng mô hình, cung cấp cho chúng
more data more compute again there are a few modifications like RL but not really very much it's pretty close to pure scaling um you find that you know when you when you do that you find you know incredible increases in performance and you know I was finding that in like 2019 with GPT2 um you know when we just first saw the first glimmers of the scaling laws And of
Nhiều dữ liệu hơn, nhiều tính toán hơn, có vài sửa đổi như RL nhưng không nhiều lắm, khá gần với mở rộng thuần túy, bạn thấy rằng khi làm vậy, hiệu suất tăng lên đáng kinh ngạc, và tôi đã thấy điều đó vào khoảng năm 2019 với GPT-2, khi chúng tôi lần đầu thấy những tia sáng đầu tiên của quy luật mở rộng. Và tất
course there were a lot of folks you know inside and outside who didn't believe it at all and we really made the case to leadership like this is this is important this is going to be a big deal and I think they were kind of starting to believe us and ultimately went in that direction and there was a second um you know conviction I had which is look you know if these models are going to
Nhiên có nhiều người cả trong lẫn ngoài không tin chút nào, và chúng tôi thực sự đã lập luận với lãnh đạo rằng điều này quan trọng, sẽ là một vấn đề lớn, và tôi nghĩ họ bắt đầu tin chúng tôi và cuối cùng đi theo hướng đó. Và có một niềm tin thứ hai tôi có, đó là nếu những mô hình này sẽ
be kind of general cognitive agents like general cognitive tools that match the capability of like the human brain we better get this right.
Là những tác nhân nhận thức tổng quát, những công cụ nhận thức tổng quát tương đương với năng lực của bộ não con người, thì tốt hơn hết chúng ta phải làm đúng.
The economic implications are going to be enormous.
Tác động kinh tế sẽ rất lớn.
The geopolitical implications are going to be enormous.
Tác động địa chính trị sẽ rất lớn.
The safety implications are going to be enormous.
Tác động an toàn sẽ rất lớn.
It's going to transform how the world works.
Nó sẽ biến đổi cách thế giới vận hành.
And so we need to do it in the right way.
Và vì vậy chúng ta cần làm điều đó đúng cách.
And you know, I think despite a lot of, you know, kind of language verbiage about doing it in the right way.
Và tôi nghĩ bất chấp nhiều lời lẽ hoa mỹ về việc làm đúng cách,
I was for a variety of reasons just not convinced that at the you know,
Vì nhiều lý do, tôi không tin rằng tại
institution that I was at that there was a real and serious conviction to to do it in the right way.
Tổ chức mà tôi đang làm việc, có một niềm tin thực sự và nghiêm túc vào việc làm đúng cách.
And so, you know, my view is always, you know, don't argue with someone else's vision.
Và quan điểm của tôi luôn là, đừng tranh cãi với tầm nhìn của người khác.
Don't try to get someone to do things the way the way you want to.
Đừng cố bắt ai đó làm mọi thứ theo cách bạn muốn.
If you have a strong vision and you share that vision with a, you know, a few a few other people, you should just go off and do your own thing and then you're responsible for your own mistakes.
Nếu bạn có một tầm nhìn mạnh mẽ và chia sẻ nó với vài người khác, bạn nên rời đi và làm việc riêng của mình, và khi đó bạn chịu trách nhiệm về sai lầm của chính mình.
You don't have to answer for anyone else's.
Bạn không phải chịu trách nhiệm cho sai lầm của người khác.
And you know, maybe your vision works out, maybe it doesn't, but you know, you know, at least it's at least it's yours.
Và bạn biết đấy, có thể tầm nhìn của bạn thành hiện thực, có thể không, nhưng bạn biết đấy, ít nhất nó là của bạn.
- snorts - Didn't OpenAI believe in scaling laws cuz they went down the same path themselves too, right?
- [khịt mũi] - Không phải OpenAI tin vào định luật scaling vì họ cũng đi theo con đường đó sao, đúng không?
- Well, that Yeah.
- Ừ, đúng vậy.
Yeah.
Ừ.
We succeeded.
Chúng tôi đã thành công.
- Can you can you explain what scaling laws are in very simple terms?
- Bạn có thể giải thích định luật scaling bằng những thuật ngữ rất đơn giản được không?
- Um it's like if you know you want a chemical reaction to produce oxygen or start a fire or something like that, um you need different ingredients and you know if you don't have one enough of one ingredient the reaction stops.
- Ừm, nó giống như nếu bạn biết bạn muốn một phản ứng hóa học tạo ra oxy hoặc gây cháy hoặc đại loại thế, ừm bạn cần các thành phần khác nhau và bạn biết nếu bạn không có đủ một thành phần nào đó thì phản ứng sẽ dừng lại.
But if you know if you put if you put ingredients together in proportion you know you get your you know your explosion or your fire or fire or whatever.
Nhưng nếu bạn biết nếu bạn đặt các thành phần lại với nhau theo đúng tỷ lệ thì bạn biết bạn sẽ có vụ nổ hoặc đám cháy hoặc bất cứ thứ gì.
And for AI those
Và đối với AI thì những
ingredients are data compute the size you know the size the size of the AI model.
Thành phần đó là dữ liệu, sức mạnh tính toán, kích thước, bạn biết đấy, kích thước của mô hình AI.
And so the scaling laws just tell you that like the you know if you put in the ingredients to the to the chemical reaction the ingredients of data and model size that what you get out is intelligence.
Và định luật scaling chỉ cho bạn biết rằng nếu bạn đưa các thành phần vào phản ứng hóa học, các thành phần dữ liệu và kích thước mô hình, thì những gì bạn nhận được là trí tuệ.
Intelligence is the product of a chemical reaction.
Trí tuệ là sản phẩm của một phản ứng hóa học.
- And what is intelligence?
- Và trí tuệ là gì?
intelligence as measured by the ability to translate language or the ability to write code or uh you know the ability to answer questions correctly about a story.
Trí tuệ được đo bằng khả năng dịch ngôn ngữ hoặc khả năng viết mã hoặc ừ bạn biết đấy, khả năng trả lời câu hỏi một cách chính xác về một câu chuyện.
Basically any cognitive task we can think of any any you know task that exists in text or in images any task that you can you can do on a computer.
Về cơ bản là bất kỳ nhiệm vụ nhận thức nào chúng ta có thể nghĩ ra, bất kỳ nhiệm vụ nào tồn tại trong văn bản hoặc trong hình ảnh, bất kỳ nhiệm vụ nào bạn có thể làm trên máy tính.
How is the intelligence of today as you are describing it different from what a computer could do like 5 years ago?
Trí tuệ ngày nay như bạn đang mô tả khác với những gì máy tính có thể làm cách đây 5 năm như thế nào?
- Yeah, you know, I would say well I mean for example 5 years ago a computer you could not ask a computer a question and have it write a one-page essay on that question.
- Ừ, bạn biết đấy, tôi muốn nói là, ví dụ 5 năm trước, bạn không thể hỏi máy tính một câu hỏi và bảo nó viết một bài luận một trang về câu hỏi đó.
Um you could not uh ask a computer uh to you know implement a feature in code and have it implement that feature in code.
Ừm, bạn không thể yêu cầu máy tính triển khai một tính năng trong mã và bảo nó triển khai tính năng đó trong mã.
None of those things were possible.
Không điều nào trong số đó là có thể.
You could not generate an image.
Bạn không thể tạo ra một hình ảnh.
You could not
Bạn không thể
generate a video.
Tạo ra một video.
You could not analyze a video.
Bạn không thể phân tích một video.
You know, I could get one of those uh you know uh you know v you know videos of like you know a monkey juggling or something and you know say what's going on in this video?
Bạn biết đấy, tôi có thể lấy một trong những video, bạn biết đấy, kiểu như một con khỉ tung hứng hay gì đó và nói chuyện gì đang xảy ra trong video này?
How many times did the ball change hands?
Quả bóng đã đổi tay bao nhiêu lần?
And right now you could get Claude or another AI model to to give you an answer on that.
Và hiện tại bạn có thể nhờ Claude hoặc một mô hình AI khác cho bạn câu trả lời về điều đó.
Um and 5 years ago, you know, none of those things were possible.
Ừm và 5 năm trước, bạn biết đấy, không điều nào trong số đó là có thể.
What I'm I'm trying to figure out has the definition of intelligence changed per se?
Điều tôi đang cố gắng tìm hiểu là liệu định nghĩa về trí tuệ có thay đổi theo đúng nghĩa của nó không?
- Well, you know what I would say is five years ago, you know, you could you could Google and there might be a website that you know would tell you a little bit about this, right?
- Ừ, bạn biết đấy, điều tôi muốn nói là 5 năm trước, bạn có thể Google và có thể có một trang web cho bạn biết một chút về điều này, đúng không?
But, you know, you're just you're just looking up some text that exists on the web, right?
Nhưng bạn biết đấy, bạn chỉ đang tra cứu một số văn bản tồn tại trên web, đúng không?
You know, maybe it's not about how to get a monkey to juggle.
Bạn biết đấy, có thể nó không phải về cách làm cho một con khỉ tung hứng.
Maybe, you know, maybe it's about how to get a seal to juggle.
Có thể, bạn biết đấy, có thể nó là về cách làm cho một con hải cẩu tung hứng.
you know, is it's not quite exactly the same thing because maybe exactly the same thing doesn't exist.
Bạn biết đấy, nó không hoàn toàn giống hệt vì có thể điều giống hệt không tồn tại.
Um, but you know, as as we see when when people use these models, uh, you know, you can ask and you can actually get an intelligent response.
Ừm, nhưng bạn biết đấy, như chúng ta thấy khi mọi người sử dụng các mô hình này, ừ, bạn biết đấy, bạn có thể hỏi và thực sự nhận được một câu trả lời thông minh.
You can ask a specific question and have the model write, you know, one page about it or you can give it a, you know, you can give it a you can give it a hypothetical.
Bạn có thể hỏi một câu hỏi cụ thể và bảo mô hình viết một trang về nó hoặc bạn có thể đưa cho nó một giả thuyết.
you know, what if I had, you know, the monkey juggle clubs
Bạn biết đấy, nếu tôi có con khỉ tung hứng các câu lạc bộ
instead of balls or, you know, what if I did this thing and that information doesn't exist anywhere, you know, whereas the model is able to kind of think for itself and come up with an answer on its own.
Thay vì bóng hoặc, bạn biết đấy, nếu tôi làm điều này và thông tin đó không tồn tại ở bất cứ đâu, trong khi mô hình có thể tự suy nghĩ và tự đưa ra câu trả lời.
So, it's it's it's something um you know, it's it's something totally new.
Vì vậy, nó là một thứ hoàn toàn mới.
It's just it's not just matching some of the text that exists on the internet.
Nó không chỉ là khớp một số văn bản tồn tại trên internet.
- Fair.
- Được thôi.
So, you know, this is more like a conversation.
Vậy bạn biết đấy, đây giống như một cuộc trò chuyện hơn.
So, feel free to like talk about what you want to talk, not necessarily related to the questions that I'm asking.
Vậy cứ thoải mái nói về điều bạn muốn nói, không nhất thiết phải liên quan đến những câu hỏi tôi đang hỏi.
- You look very animated when you speak.
- Bạn trông rất sinh động khi nói.
Did you ever teach?
Bạn đã từng dạy học chưa?
- Uh, you know, I was originally an academic and uh, you know, I thought that I might become a professor.
- Ừ, bạn biết đấy, ban đầu tôi là một học giả và ừ, bạn biết đấy, tôi nghĩ rằng mình có thể trở thành giáo sư.
You know, I got my PhD.
Bạn biết đấy, tôi đã lấy bằng tiến sĩ.
I went all the way to being a posttock at Stanford Medical School and, you know, I was I was aiming to become a become a professor.
Tôi đã tiến xa đến mức làm nghiên cứu sau tiến sĩ tại Trường Y Stanford và, bạn biết đấy, tôi đang hướng tới việc trở thành giáo sư.
Um so if I had become a professor you know I would have uh would have done that.
Ừm, vậy nếu tôi đã trở thành giáo sư thì bạn biết đấy, tôi đã làm điều đó.
Um uh but you know as I mentioned uh you know I got
Ừm ừ, nhưng bạn biết đấy, như tôi đã đề cập, ừ, bạn biết đấy, tôi đã
interested in AI and to work in AI required a lot of computational resources and that was mostly happening in industry.
Quan tâm đến AI và để làm việc trong lĩnh vực AI đòi hỏi rất nhiều tài nguyên tính toán và điều đó chủ yếu diễn ra trong ngành công nghiệp.
So that took me off the academic path and you know into industry and of course you know ultimately through several steps led me led me to start a company.
Vì vậy, điều đó đã đưa tôi ra khỏi con đường học thuật và bạn biết đấy, bước vào ngành công nghiệp và tất nhiên bạn biết đấy, cuối cùng qua nhiều bước đã dẫn tôi đến việc thành lập một công ty.
But you know sometimes I think I'm still like a professor at heart - at this point.
Nhưng bạn biết đấy, đôi khi tôi nghĩ mình vẫn giống như một giáo sư trong thâm tâm - ở thời điểm này.
Dario, if AI is the most
Dario, nếu AI là điều