0:00

4:08

Why Dario Left OpenAI To Build Anthropic

Nikhil Kamath Clips·4:08·Technology·B2

Chương · 4

Chương 1·From Biology to AI

Hiển thị

Tiếng ViệtAuto-scroll

0:00

What did you do before founding Anthropic?

Bạn đã làm gì trước khi thành lập Anthropic?

0:03

Yeah, so I was, I was actually originally a biologist.

Vâng, thực ra ban đầu tôi là một nhà sinh vật học.

0:06

Um, I, uh, you know, did my undergrad in physics, my, uh, PhD in biophysics, and, you know, I wanted to understand biological systems so that I could cure disease.

Ừm, tôi, ừ, bạn biết đấy, tôi học đại học về vật lý, rồi, ừ, tiến sĩ về lý sinh, và, bạn biết đấy, tôi muốn hiểu các hệ thống sinh học để có thể chữa bệnh.

0:16

Uh, and, uh, the, you know, the thing I noticed about studying biology was its incredible complexity.

Ừ, và, ừ, điều tôi nhận thấy khi nghiên cứu sinh học là sự phức tạp đáng kinh ngạc của nó.

0:22

That, uh, you know, you know, for example, if you look at the

Rằng, ừ, bạn biết đấy, ví dụ, nếu bạn nhìn vào

0:27

protein mass spec work that I did, right?

Công trình khối phổ protein mà tôi đã làm, đúng không?

0:29

Trying to find protein biomarkers.

Cố gắng tìm các dấu ấn sinh học protein.

0:31

It's, it's just really incredible how much complexity there is, right?

Thật sự đáng kinh ngạc là có bao nhiêu sự phức tạp ở đó, đúng không?

0:34

You have a given protein, it's like, you know, the RNA gets spliced in a whole bunch of different ways depending on where it is in the cell, then it gets post-translationally modified, phosphorylated, complexed with a whole bunch of other proteins.

Bạn có một protein nhất định, nó giống như, bạn biết đấy, RNA được nối theo nhiều cách khác nhau tùy thuộc vào vị trí của nó trong tế bào, rồi nó được biến đổi sau dịch mã, phosphoryl hóa, tạo phức với một loạt các protein khác.

0:47

And

Và

0:48

I was starting to despair that it was too complicated for humans to understand.

Tôi bắt đầu tuyệt vọng rằng nó quá phức tạp để con người có thể hiểu được.

0:52

And then as I was doing this work on biology, I noticed a lot of the early work around AlexNet, which is one of the first neural nets, like, you know, almost 15 years ago now.

Và rồi khi tôi đang làm công việc về sinh học này, tôi nhận thấy nhiều công trình ban đầu xung quanh AlexNet, một trong những mạng nơ-ron đầu tiên, giống như, bạn biết đấy, gần 15 năm trước rồi.

1:03

Uh, and I said, "Wow, like, you know, AI's actually starting to work.

Ừ, và tôi nói, "Chà, giống như, bạn biết đấy, AI thực sự bắt đầu hoạt động được."

1:06

It has some things in common with how the human

Nó có một số điểm chung với cách mà bộ

1:10

brain works, but, you know, has the potential to be larger and scale better and learn tasks like biology.

Não người hoạt động, nhưng, bạn biết đấy, có tiềm năng lớn hơn và mở rộng tốt hơn và học các nhiệm vụ như sinh học.

1:17

Maybe this is ultimately going to be the solution to, uh, you know, to solving our problems of solving our problems of biology." So, you know, I went to work with Andrew Ng at Baidu, then I was at Google for a year.

Có lẽ cuối cùng đây sẽ là giải pháp cho, ừ, bạn biết đấy, để giải quyết các vấn đề của chúng ta về sinh học." Vậy nên, bạn biết đấy, tôi đến làm việc với Andrew Ng tại Baidu, rồi tôi ở Google một năm.

1:31

Then I joined OpenAI a few months after it, uh, started and was, uh, you know, was basically led, um, all of research there for, for several years.

Sau đó tôi gia nhập OpenAI vài tháng sau khi nó, ừ, khởi đầu và, ừ, bạn biết đấy, về cơ bản đã lãnh đạo, ừm, toàn bộ hoạt động nghiên cứu ở đó trong, trong vài năm.

1:41

But then

Nhưng rồi

1:42

eventually, you know, myself and a few other of the, of the employees just kind of had our own vision for, you know, how, how we wanted to, how we wanted to make AI and what we wanted the company to stand for, and so we went off and founded Anthropic.

Cuối cùng, bạn biết đấy, tôi và một vài nhân viên khác chỉ có tầm nhìn riêng của mình về, bạn biết đấy, cách, cách chúng tôi muốn, cách chúng tôi muốn tạo ra AI và điều chúng tôi muốn công ty đại diện, nên chúng tôi rời đi và thành lập Anthropic.

1:55

How was it?

Nó như thế nào?

1:55

Was it like a fork in how OpenAI was thinking into what Anthropic eventually did?

Có phải nó giống như một sự rẽ nhánh trong cách OpenAI suy nghĩ so với những gì Anthropic cuối cùng đã làm không?

2:00

Yeah, you know, I would say, you know, my conviction and the conviction of my co-founders when we founded Anthropic, were two of them.

Vâng, bạn biết đấy, tôi sẽ nói rằng, bạn biết đấy, niềm tin của tôi và niềm tin của các đồng sáng lập khi chúng tôi thành lập Anthropic, có hai điều trong số đó.

2:08

And I think one we were starting to convince OpenAI of, the other I was, you know, not, I didn't feel that we were convincing of.

Và tôi nghĩ một điều chúng tôi bắt đầu thuyết phục được OpenAI, điều còn lại thì tôi, bạn biết đấy, không, tôi không cảm thấy rằng chúng tôi đang thuyết phục được họ.

2:16

So, the first was the,

Vậy, điều đầu tiên là,

2:18

you know, the conviction in the scaling laws and the idea that, you know, if you scale up models, you give them more data, more compute.

Bạn biết đấy, niềm tin vào các quy luật mở rộng và ý tưởng rằng, bạn biết đấy, nếu bạn mở rộng quy mô mô hình, cho chúng nhiều dữ liệu hơn, nhiều năng lực tính toán hơn.

2:25

Again, there are a few modifications like RL, but not really very much.

Một lần nữa, có một vài sửa đổi như RL, nhưng thực sự không nhiều lắm.

2:29

It's pretty close to pure scaling.

Nó khá gần với việc mở rộng thuần túy.

2:31

Um, you find that, you know, when you, when you do that, you find, you know, incredible increases in performance.

Ừm, bạn thấy rằng, bạn biết đấy, khi bạn, khi bạn làm điều đó, bạn thấy, bạn biết đấy, sự gia tăng hiệu suất đáng kinh ngạc.

2:36

And you know, I was finding that in like 2019 with GPT-2.

Và bạn biết đấy, tôi đã nhận thấy điều đó vào khoảng năm 2019 với GPT-2.

2:40

Um, you know, when we just first saw the first glimmers of the scaling laws.

Ừm, bạn biết đấy, khi chúng tôi lần đầu tiên nhìn thấy những tia sáng đầu tiên của các quy luật mở rộng.

2:44

And of course, there were a lot of folks, you know, inside and outside who didn't believe it at all.

Và tất nhiên, có rất nhiều người, bạn biết đấy, cả trong lẫn ngoài, hoàn toàn không tin điều đó.

2:49

And we really made

Và chúng tôi thực sự đã đưa ra

2:51

the case to leadership like this is, this is important.

Lập luận với ban lãnh đạo rằng điều này, điều này quan trọng.

2:53

This is going to be a big deal.

Điều này sẽ là một vấn đề lớn.

2:56

And I think they were kind of starting to believe us and ultimately went in that direction.

Và tôi nghĩ họ bắt đầu tin chúng tôi và cuối cùng đã đi theo hướng đó.

3:00

And there was a second, um, you know, conviction I had, which is look, you know, if these models are going to be kind of general cognitive agents, like general cognitive tools that match the capability of like the

Và có một điều thứ hai, ừm, bạn biết đấy, niềm tin tôi có, đó là nhìn này, bạn biết đấy, nếu những mô hình này sẽ trở thành loại tác nhân nhận thức tổng quát, giống như các công cụ nhận thức tổng quát phù hợp với khả năng của

3:12

human brain, we better get this right.

Não người, chúng ta tốt hơn nên làm điều này cho đúng.

3:14

The economic implications are going to be enormous.

Những tác động kinh tế sẽ vô cùng lớn.

3:17

The geopolitical implications are going to be enormous.

Những tác động địa chính trị sẽ vô cùng lớn.

3:20

The safety implications are going to be enormous.

Những tác động an toàn sẽ vô cùng lớn.

3:22

It's going to transform how the world works.

Nó sẽ biến đổi cách thế giới vận hành.

3:24

And so, we need to do it in the right way.

Và vì vậy, chúng ta cần làm điều đó theo cách đúng đắn.

3:27

And then, you know, I think despite a lot of, you know, kind of language, verbiage about doing it in the right way, I was for a variety of reasons just not convinced that at the, you know, institution that I was at, that there was a real and

Và rồi, bạn biết đấy, tôi nghĩ bất chấp rất nhiều, bạn biết đấy, loại ngôn từ, lời lẽ về việc làm điều đó theo cách đúng đắn, tôi vì nhiều lý do khác nhau chỉ không tin rằng tại, bạn biết đấy, tổ chức mà tôi đang ở, có một niềm tin thực sự và

3:40

serious conviction to, to do it in the right way.

Nghiêm túc để, để làm điều đó theo cách đúng đắn.

3:42

And so, you know, my view is always, you know, don't argue with someone else's vision.

Và vì vậy, bạn biết đấy, quan điểm của tôi luôn là, bạn biết đấy, đừng tranh cãi với tầm nhìn của người khác.

3:46

Don't try to get someone to do things the way, the way you want to.

Đừng cố gắng bắt ai đó làm mọi việc theo cách, theo cách bạn muốn.

3:49

If you have a strong vision and you share that vision with a, you know, a few, a few other people, you should just go off and do your own thing and then you're responsible for your own

Nếu bạn có một tầm nhìn mạnh mẽ và bạn chia sẻ tầm nhìn đó với một, bạn biết đấy, một vài, một vài người khác, bạn chỉ nên rời đi và làm việc riêng của mình và rồi bạn chịu trách nhiệm cho những

3:59

mistakes.

Sai lầm của chính mình.

3:59

You don't have to answer for anyone else's and you know, maybe your vision works out, maybe it doesn't, but you know, you know, at least it's, at least it's yours.

Bạn không phải chịu trách nhiệm cho sai lầm của người khác và bạn biết đấy, có thể tầm nhìn của bạn thành công, có thể không, nhưng bạn biết đấy, bạn biết đấy, ít nhất nó, ít nhất nó là của bạn.

Transcript

Hiển thị

From Biology to AI

Dario's path began in biology, where he hoped to cure disease but found biological systems too complex for humans to fully understand. Discovering early neural networks like AlexNet convinced him that AI could scale and learn tasks that biology demanded, so he moved into AI research at Baidu, Google, and OpenAI.

Con đường của Dario bắt đầu từ sinh học, nơi anh hy vọng chữa khỏi bệnh tật nhưng nhận thấy các hệ thống sinh học quá phức tạp để con người có thể hiểu thấu đáo. Việc khám phá các mạng nơ-ron thời kỳ đầu như AlexNet đã thuyết phục anh rằng AI có thể mở rộng quy mô và học các nhiệm vụ mà sinh học đòi hỏi, vì vậy anh chuyển sang nghiên cứu AI tại Baidu, Google và OpenAI.

What did you do before founding Anthropic?

Bạn đã làm gì trước khi thành lập Anthropic?

Yeah, so I was, I was actually originally a biologist.

Vâng, thực ra ban đầu tôi là một nhà sinh vật học.

Um, I, uh, you know, did my undergrad in physics, my, uh, PhD in biophysics, and, you know, I wanted to understand biological systems so that I could cure disease.

Uh, and, uh, the, you know, the thing I noticed about studying biology was its incredible complexity.

Ừ, và, ừ, điều tôi nhận thấy khi nghiên cứu sinh học là sự phức tạp đáng kinh ngạc của nó.

That, uh, you know, you know, for example, if you look at the

Rằng, ừ, bạn biết đấy, ví dụ, nếu bạn nhìn vào

protein mass spec work that I did, right?

Công trình khối phổ protein mà tôi đã làm, đúng không?

Trying to find protein biomarkers.

Cố gắng tìm các dấu ấn sinh học protein.

It's, it's just really incredible how much complexity there is, right?

Thật sự đáng kinh ngạc là có bao nhiêu sự phức tạp ở đó, đúng không?

And

Và

I was starting to despair that it was too complicated for humans to understand.

Tôi bắt đầu tuyệt vọng rằng nó quá phức tạp để con người có thể hiểu được.

And then as I was doing this work on biology, I noticed a lot of the early work around AlexNet, which is one of the first neural nets, like, you know, almost 15 years ago now.

Uh, and I said, "Wow, like, you know, AI's actually starting to work.

Ừ, và tôi nói, "Chà, giống như, bạn biết đấy, AI thực sự bắt đầu hoạt động được."

It has some things in common with how the human

Nó có một số điểm chung với cách mà bộ

brain works, but, you know, has the potential to be larger and scale better and learn tasks like biology.

Não người hoạt động, nhưng, bạn biết đấy, có tiềm năng lớn hơn và mở rộng tốt hơn và học các nhiệm vụ như sinh học.

1 / 4