0:00

46:48

AI has hacked the code of human civilization | Yuval Noah Harari

Yuval Noah Harari ·46:48·Technology·C1

Chương · 7

Chương 1·AI as an Agent

Hiển thị

Tiếng ViệtAuto-scroll

0:00

Please join me in welcoming Professor Uval Noah Harrari.

Xin hãy cùng tôi chào đón Giáo sư Uval Noah Harrari.

0:06

applause Thank you.

[vỗ tay] Cảm ơn.

0:09

applause Thank you so much.

[vỗ tay] Cảm ơn rất nhiều.

0:16

Hello everyone.

Xin chào mọi người.

0:16

Uh I hope I open my mic and you can hear me.

Uh tôi hy vọng tôi mở mic và bạn có thể nghe thấy tôi.

0:21

Okay.

Được rồi.

0:22

So it's really a great honor for me to give this year's Tano lecture and it's also a personal joy to come back to Oxford.

Vì vậy, thực sự là một vinh dự lớn cho tôi khi được giảng bài Tano năm nay và đó cũng là một niềm vui cá nhân khi trở lại Oxford.

0:32

I did my defill here uh 25 years ago under the guidance of Dr.

Tôi đã làm luận án tiến sĩ ở đây uh 25 năm trước dưới sự hướng dẫn của Tiến sĩ.

0:38

Steven Gunn.

0:39

Back then I specialized in medieval and early modern military history.

Hồi đó tôi chuyên về lịch sử quân sự thời trung cổ và cận đại.

0:44

But today I will not be talking about knights and castles and the gunpowder revolution.

Nhưng hôm nay tôi sẽ không nói về hiệp sĩ, lâu đài và cuộc cách mạng thuốc súng.

0:51

I'll talk about AI bureaucrats and religions and boyfriends and more generally about the AI revolution.

Tôi sẽ nói về quan chức AI, tôn giáo, bạn trai và tổng quát hơn là về cuộc cách mạng AI.

0:59

Now, the most important thing to know about AI is that AI is not a tool.

Bây giờ, điều quan trọng nhất cần biết về AI là AI không phải là một công cụ.

1:07

It's not a tool in our hands.

Nó không phải là một công cụ trong tay chúng ta.

1:10

It is an agent with its own hands.

Nó là một tác nhân có đôi tay của riêng mình.

1:14

What exactly is agency?

Chính xác thì tác nhân là gì?

1:16

How is an agent different from a tool?

Một tác nhân khác với một công cụ như thế nào?

1:20

Agents have several distinguishing characteristics.

Tác nhân có một số đặc điểm phân biệt.

1:23

They don't necessarily need consciousness.

Chúng không nhất thiết cần ý thức.

1:25

You don't need consciousness to be an agent.

Bạn không cần ý thức để trở thành một tác nhân.

1:28

What you do need is the ability to make decisions by yourself.

Điều bạn cần là khả năng tự đưa ra quyết định.

1:34

The ability to invent new things, new ideas by yourself.

Khả năng tự phát minh ra những điều mới, ý tưởng mới.

1:39

An agent should be able by itself to learn things that its creators don't know.

Một tác nhân nên có khả năng tự học những điều mà người tạo ra nó không biết.

1:48

And an agent should be able to change by itself in ways that its creators don't anticipate.

Và một tác nhân nên có khả năng tự thay đổi theo những cách mà người tạo ra nó không lường trước được.

1:58

Now, an atom bomb, for instance, despite its enormous power, is not an agent.

Ví dụ, một quả bom nguyên tử, dù có sức mạnh khủng khiếp, không phải là một tác nhân.

2:04

It cannot learn and change by itself.

Nó không thể tự học và tự thay đổi.

2:08

It cannot decide by itself which city to bomb.

Nó không thể tự quyết định ném bom thành phố nào.

2:12

It cannot invent anything new like the hydrogen bomb.

Nó không thể phát minh ra bất cứ điều gì mới như bom hydro.

2:17

Similarly, let's say an automatic coffee machine is not an agent even though it does some things by itself uh automatically.

Tương tự, giả sử một máy pha cà phê tự động không phải là một tác nhân mặc dù nó tự làm một số việc uh một cách tự động.

2:27

You press a button and

Bạn nhấn một nút và

2:30

the machine automatically makes you a cup of coffee.

Máy tự động pha cho bạn một tách cà phê.

2:34

But the machine, the coffee machine only follows a pre-programmed procedure.

Nhưng cái máy, máy pha cà phê chỉ tuân theo một quy trình được lập trình sẵn.

2:40

It doesn't change.

Nó không thay đổi.

2:41

It doesn't learn anything new.

Nó không học được gì mới.

2:44

Doesn't create anything new.

Không tạo ra bất cứ điều gì mới.

2:46

But suppose that as you approach the coffee machine, before you even press any button, the machine announces, tells you, "I've been monitoring you for the last few weeks, and based on everything I've learned about you and other people, and based on your facial expression and the time of day, I predict that you would like an espresso.

Nhưng giả sử khi bạn đến gần máy pha cà phê, trước khi bạn nhấn bất kỳ nút nào, máy thông báo, nói với bạn, "Tôi đã theo dõi bạn trong vài tuần qua, và dựa trên mọi thứ tôi đã học về bạn và những người khác, cũng như dựa trên biểu cảm khuôn mặt và thời gian trong ngày, tôi dự đoán bạn muốn một tách espresso.

3:10

So, I already made you a cup." Now that's an AI coffee

Vì vậy, tôi đã pha sẵn cho bạn một tách." Bây giờ đó là một máy pha cà phê AI

3:15

machine.

Máy.

3:15

It learned something by itself and decided something by itself.

Nó tự học được điều gì đó và tự quyết định điều gì đó.

3:19

And it's really an AI if the following day it announces I have now invented a new drink called clears throat best preso which I think you would like better than espresso and he would try it out.

Và nó thực sự là AI nếu ngày hôm sau nó thông báo tôi đã phát minh ra một loại đồ uống mới gọi là [hắng giọng] best preso mà tôi nghĩ bạn sẽ thích hơn espresso và nó sẽ thử nghiệm.

3:34

I made you a cup.

Tôi đã pha cho bạn một tách.

3:36

Then it's really an AI.

Thì nó thực sự là AI.

3:38

It changed in ways it creators did not anticipate and invented something

Nó thay đổi theo những cách mà người tạo ra nó không lường trước và phát minh ra một thứ

3:43

completely new.

Hoàn toàn mới.

3:44

As far as I know, there are no coffee machines at the present moment.

Theo như tôi biết, hiện tại không có máy pha cà phê nào như vậy.

3:50

Maybe in anthropic headquarters or Google headquarters, they have a few prototypes, but they are not out in the market yet.

Có thể ở trụ sở Anthropic hoặc trụ sở Google, họ có một vài nguyên mẫu, nhưng chúng chưa được bán ra thị trường.

4:01

But in certain narrow fields like playing go, playing chess, AI agency and creativity already greatly surpass human agency and creativity.

Nhưng trong một số lĩnh vực hẹp như chơi cờ vây, chơi cờ vua, khả năng tác nhân và sáng tạo của AI đã vượt xa khả năng tác nhân và sáng tạo của con người.

4:11

AI chess masters can decide, of course, by

Các bậc thầy cờ vua AI có thể tự quyết định, tất nhiên,

4:15

themselves which moves to make.

Nên thực hiện nước đi nào.

4:17

They invent by themselves completely new strategies how to play chess that never occurred to human chess masters over thousands of years of of playing the game.

Họ tự phát minh ra những chiến lược hoàn toàn mới để chơi cờ vua mà chưa từng xuất hiện trong đầu các bậc thầy cờ vua con người qua hàng nghìn năm chơi trò chơi này.

4:31

And they while doing that they learn and change in ways their human creators did not necessarily predict.

Và trong khi làm điều đó, chúng học hỏi và thay đổi theo những cách mà những người tạo ra chúng là con người không nhất thiết lường trước được.

4:40

Today of course no human has any chance of beating an AI chess master.

Ngày nay, tất nhiên không một con người nào có cơ hội đánh bại một kiện tướng cờ vua AI.

4:48

Now, people who downplay the importance of the AI revolution dismiss examples like chess by arguing that the chessboard is a very narrow and artificial environment created by humans.

Giờ đây, những người xem nhẹ tầm quan trọng của cuộc cách mạng AI gạt bỏ những ví dụ như cờ vua bằng cách lập luận rằng bàn cờ là một môi trường rất hẹp và nhân tạo do con người tạo ra.

5:04

The critics say that AI agency will always remain limited to such narrow and artificial environments, which means that it's not true agency and it doesn't pose any serious challenge to humanity.

Các nhà phê bình nói rằng năng lực hành động của AI sẽ luôn bị giới hạn trong những môi trường hẹp và nhân tạo như vậy, nghĩa là đó không phải là năng lực hành động thực sự và nó không đặt ra bất kỳ thách thức nghiêm trọng nào đối với nhân loại.

5:19

Yes, AI may take over the chessboard, but it will never take over planet Earth.

Đúng, AI có thể chiếm lĩnh bàn cờ, nhưng nó sẽ không bao giờ chiếm lĩnh hành tinh Trái Đất.

5:25

And indeed, if you do an experiment, if you take the greatest AI chess master and drop it in the middle of the jungle, what do you think will happen?

Và thực vậy, nếu bạn làm một thí nghiệm, nếu bạn lấy kiện tướng cờ vua AI vĩ đại nhất và thả nó vào giữa rừng rậm, bạn nghĩ điều gì sẽ xảy ra?

5:37

The AI chess master will not be able to start mining iron and building factories and creating a robot army to take over the world.

Kiện tướng cờ vua AI sẽ không thể bắt đầu khai thác sắt và xây dựng nhà máy và tạo ra một đội quân robot để chiếm lĩnh thế giới.

5:48

In fact, it will not be able to do anything whatsoever.

Trên thực tế, nó sẽ không thể làm bất cứ điều gì cả.

5:53

Without the electricity provided by uh power

Không có điện được cung cấp bởi uh các trạm

5:56

stations built by humans, the AI chess master is utterly helpless.

năng lượng do con người xây dựng, kiện tướng cờ vua AI hoàn toàn bất lực.

6:02

Therefore, the argument goes AIS are not true agents.

Do đó, lập luận cho rằng AI không phải là những tác nhân thực sự.

6:07

They are confined to these narrow artificial niches that somebody else humans constructed for them.

Chúng bị giam hãm trong những ngách nhân tạo hẹp này mà ai đó là con người đã kiến tạo cho chúng.

6:16

The problem is that this argument actually applies to all known types of intelligence.

Vấn đề là lập luận này thực ra áp dụng cho tất cả các loại trí tuệ đã biết.

6:22

Human intelligence too operates only within a relatively narrow ecosystem that somebody else constructed.

Trí tuệ con người cũng chỉ hoạt động trong một hệ sinh thái tương đối hẹp do ai đó khác kiến tạo.

6:29

Drop me alone on Mars and it will be like dropping an AI chess master in the middle of the jungle.

Thả tôi một mình trên Sao Hỏa thì cũng giống như thả một kiện tướng cờ vua AI vào giữa rừng rậm.

6:40

I will die within seconds.

Tôi sẽ chết trong vài giây.

6:42

My intelligence can survive and operate only within the

Trí tuệ của tôi chỉ có thể tồn tại và hoạt động trong

6:47

very specific ecosystem that trees, bacteria, insects, and other organisms have constructed on planet Earth during four billion years of evolution.

hệ sinh thái rất đặc thù mà cây cối, vi khuẩn, côn trùng và các sinh vật khác đã kiến tạo trên hành tinh Trái Đất trong bốn tỷ năm tiến hóa.

6:57

And that's true of all agents.

Và điều đó đúng với mọi tác nhân.

7:00

All agents we know of, at least have their niches.

Mọi tác nhân mà chúng ta biết, ít nhất đều có ngách của mình.

7:06

Fish live in oceans that they didn't create.

Cá sống trong đại dương mà chúng không tạo ra.

7:10

Monkeys live in forests that they didn't create.

Khỉ sống trong rừng mà chúng không tạo ra.

7:14

All mammals, including human beings, live in an oxygenrich atmosphere that they didn't create.

Tất cả các loài thú, kể cả con người, sống trong bầu khí quyển giàu oxy mà chúng không tạo ra.

7:22

Until about 2.4 billion years ago, the atmosphere of our planet actually contained very little oxygen.

Cho đến khoảng 2,4 tỷ năm trước, bầu khí quyển của hành tinh chúng ta thực ra chứa rất ít oxy.

7:31

And for most of the organisms that lived back then, oxygen was a deadly poison.

Và đối với hầu hết các sinh vật sống khi đó, oxy là một chất độc chết người.

7:39

Then in a protracted process lasting hundreds of millions of years which is known as the great oxygenation event various ancient microbes began polluting the atmosphere of the earth with deadly oxygen which was a byproduct of their photosynthetic processes.

Sau đó, trong một quá trình kéo dài hàng trăm triệu năm được gọi là sự kiện oxy hóa lớn, nhiều vi khuẩn cổ xưa khác nhau bắt đầu làm ô nhiễm bầu khí quyển Trái Đất bằng oxy chết người, vốn là sản phẩm phụ của quá trình quang hợp của chúng.

8:01

As the atmosphere filled with this deadly poisonous gas, numerous archic species were driven to extinction.

Khi bầu khí quyển đầy khí độc chết người này, nhiều loài cổ khuẩn đã bị đẩy đến tuyệt chủng.

8:12

Some species, however, manage to survive and adapt to the new conditions.

Tuy nhiên, một số loài đã xoay xở sống sót và thích nghi với điều kiện mới.

8:18

Eventually, many of these survivors went from hating oxygen to becoming totally dependent on oxygen for their survival.

Cuối cùng, nhiều loài trong số những kẻ sống sót này đã chuyển từ ghét oxy sang hoàn toàn phụ thuộc vào oxy để tồn tại.

8:30

And our ancestors of course are among the species that underwent this trans transition.

Và tổ tiên của chúng ta tất nhiên nằm trong số những loài đã trải qua sự chuyển đổi này.

8:37

And we still live in this artificial oxygen filled environment that was originally created by these ancient microbes.

Và chúng ta vẫn sống trong môi trường nhân tạo đầy oxy này, vốn ban đầu được tạo ra bởi những vi khuẩn cổ xưa đó.

8:46

What I would like to argue in this lecture is that we might be witnessing an analogous moment in the evolution of life.

Điều tôi muốn lập luận trong bài giảng này là chúng ta có thể đang chứng kiến một khoảnh khắc tương tự trong quá trình tiến hóa của sự sống.

8:58

Over the past millennia, we humans have been filling the atmosphere with something that might eventually prove deadly for most organisms, including perhaps homo sapiens, but that creates a new artificial environment in which AIs flourish.

Trong nhiều thiên niên kỷ qua, con người chúng ta đã làm đầy bầu khí quyển bằng một thứ mà cuối cùng có thể trở nên chết người đối với hầu hết các sinh vật, kể cả có lẽ là homo sapiens, nhưng lại tạo ra một môi trường nhân tạo mới nơi AI phát triển mạnh.

9:18

And I am not talking about CO2.

Và tôi không nói về CO2.

9:23

I am talking about data about bureaucracy and ultimately about the thing that I am expelling from my mouth right now which is words language tokens.

Tôi đang nói về dữ liệu, về bộ máy quan liêu và cuối cùng là về thứ mà tôi đang thốt ra khỏi miệng ngay lúc này, đó là từ ngữ, ngôn ngữ, các token.

9:38

Over thousands of years, we humans have transformed the planet from a language-free environment into a very artificial environment rich in language tokens, data, and bureaucracy.

Qua hàng nghìn năm, con người chúng ta đã biến hành tinh này từ một môi trường không có ngôn ngữ thành một môi trường rất nhân tạo giàu token ngôn ngữ, dữ liệu và bộ máy quan liêu.

9:53

And this environment could prove bentley for most organisms but highly conducive to the development of AI because just as fish live in oceans and monkeys live in forests, AIs live in bureaucracies.

Và môi trường này có thể chứng tỏ là độc hại đối với hầu hết các sinh vật nhưng lại rất thuận lợi cho sự phát triển của AI, bởi vì cũng như cá sống trong đại dương và khỉ sống trong rừng, AI sống trong các bộ máy quan liêu.

10:07

So let's spend a few minutes talking about bureaucracy and then we'll get back to talking about what underlies bureaucracy which is language and words.

Vậy hãy dành vài phút nói về bộ máy quan liêu, rồi chúng ta sẽ quay lại nói về thứ nằm dưới bộ máy quan liêu, đó là ngôn ngữ và từ ngữ.

10:19

Now, humans, our species, we conquer the world by learning to cooperate in very very large numbers.

Giờ đây, con người, loài của chúng ta, chúng ta chinh phục thế giới bằng cách học hợp tác với số lượng rất rất lớn.

10:27

Individually, humans are not stronger or even smarter than other animals.

Cá nhân con người không mạnh hơn hay thậm chí không thông minh hơn các loài động vật khác.

10:32

In a oneon-one in a one and on fight, a human will most likely lose to a chimpanzeee or a lion or an elephant.

Trong một cuộc đấu tay đôi, một đấu một, con người rất có thể sẽ thua một con tinh tinh hoặc một con sư tử hoặc một con voi.

10:43

However, in a contest between a million humans and a million chimpanzees, the humans easily win

Tuy nhiên, trong một cuộc thi giữa một triệu con người và một triệu con tinh tinh, con người thắng dễ dàng

10:51

because the humans know how to cooperate and the chimpanzees don't.

Bởi vì con người biết cách hợp tác còn tinh tinh thì không.

10:55

And that's why we control the world.

Và đó là lý do chúng ta kiểm soát thế giới.

10:57

Now, how do a million humans who don't know each other cooperate?

Giờ đây, làm thế nào một triệu con người không quen biết nhau hợp tác được?

11:02

Chimpanzees cooperate based on personal acquaintance, one of the other.

Tinh tinh hợp tác dựa trên sự quen biết cá nhân, con này với con kia.

11:06

Humans do so in small numbers, but you can't know a million people.

Con người cũng làm vậy với số lượng nhỏ, nhưng bạn không thể biết một triệu người.

11:11

So, how do a million people cooperate?

Vậy, làm thế nào một triệu người hợp tác được?

11:14

usually by building a bureaucratic system like a legal system or the financial system or churches or states or universities.

Thường là bằng cách xây dựng một hệ thống quan liêu như hệ thống pháp luật hoặc hệ thống tài chính hoặc nhà thờ hoặc nhà nước hoặc trường đại học.

11:24

Now, what do these bureaucratic systems actually do?

Giờ đây, những hệ thống quan liêu này thực sự làm gì?

11:30

When a government official or a bishop or a rabbi or an accountant or a lawyer or a banker goes to work in the morning, what do they do there all day?

Khi một quan chức chính phủ, một giám mục, một giáo sĩ Do Thái, một kế toán viên, một luật sư hay một nhân viên ngân hàng đi làm vào buổi sáng, họ làm gì ở đó cả ngày?

11:43

Now, clears throat carpenters build tables, engineers build bridges.

Bây giờ, [hắng giọng] thợ mộc đóng bàn, kỹ sư xây cầu.

11:49

What do bankers and other bureaucrats build?

Nhân viên ngân hàng và các quan chức quan liêu khác xây dựng cái gì?

11:53

Well, bankers and other bureaucrats are busy all day building trust.

Chà, nhân viên ngân hàng và các quan chức quan liêu khác bận rộn cả ngày để xây dựng lòng tin.

12:01

Their job is to build trust between large numbers of strangers who don't know each other personally and thereby enable largecale cooperation which is the basis for almost everything of species is achieved.

Công việc của họ là xây dựng lòng tin giữa số lượng lớn những người xa lạ không quen biết nhau, từ đó tạo điều kiện cho sự hợp tác quy mô lớn, vốn là nền tảng cho hầu hết mọi thành tựu của loài người.

12:15

For example, my banker whom I don't really know personally works hard all day to build trust with me so that I will be willing to put my savings into her bank.

Ví dụ, nhân viên ngân hàng của tôi, người mà tôi thực sự không quen biết, làm việc chăm chỉ cả ngày để xây dựng lòng tin với tôi để tôi sẵn sàng gửi tiền tiết kiệm của mình vào ngân hàng của cô ấy.

12:30

Simultaneously, the banker works hard to build trust with an entrepreneur who needs money to start a new company.

Đồng thời, nhân viên ngân hàng đó cũng làm việc chăm chỉ để xây dựng lòng tin với một doanh nhân cần tiền để thành lập công ty mới.

12:40

And the banker lends my savings to that entrepreneur.

Và nhân viên ngân hàng cho doanh nhân đó vay tiền tiết kiệm của tôi.

12:45

Thereby, the banker actually created a bridge of trust between me and the entrepreneur.

Như vậy, nhân viên ngân hàng đã thực sự tạo ra một cây cầu lòng tin giữa tôi và doanh nhân đó.

12:51

Even though I've never met the entrepreneur in my life, she can now use my savings to start her company.

Mặc dù tôi chưa từng gặp doanh nhân đó trong đời, cô ấy giờ có thể sử dụng tiền tiết kiệm của tôi để thành lập công ty của mình.

12:59

And this is what the financial system when it works well is all about.

Và đây chính là mục đích của hệ thống tài chính khi nó hoạt động tốt.

13:05

It builds trust between strangers so that millions of people can pull together their resources and talents on new projects.

Nó xây dựng lòng tin giữa những người xa lạ để hàng triệu người có thể cùng nhau góp nguồn lực và tài năng vào các dự án mới.

13:14

And the financial history of the world is the history of people inventing more and more sophisticated ways to build bridges of trust.

Và lịch sử tài chính của thế giới là lịch sử của việc con người phát minh ra ngày càng nhiều cách tinh vi hơn để xây dựng những cây cầu lòng tin.

13:26

Money is ultimately a bridge of trust.

Tiền, xét cho cùng, là một cây cầu lòng tin.

13:30

The idea of money is that I can go to a to the market, maybe in a foreign city, meet a person that I never saw in my life, maybe doesn't even speak my language, and just by giving that person a shiny piece of metal or a piece of colorful paper, he or she will give me bread I can eat.

Ý tưởng về tiền là tôi có thể đến chợ, có thể ở một thành phố xa lạ, gặp một người mà tôi chưa từng thấy trong đời, có thể thậm chí không nói ngôn ngữ của tôi, và chỉ bằng cách đưa cho người đó một miếng kim loại sáng bóng hoặc một tờ giấy nhiều màu, họ sẽ đưa cho tôi bánh mì để ăn.

13:50

That's the bridge of trust that money creates.

Đó là cây cầu lòng tin mà tiền tạo ra.

13:53

Now the coin and the bank note of course are just the

Bây giờ, đồng xu và tờ tiền giấy tất nhiên chỉ là

13:57

beginning.

Khởi đầu.

13:57

Over the centuries humans invented more and more sophisticated financial devices to build trust like checks and bonds and stocks and ETFs and loans and mortgages and compound interest.

Qua nhiều thế kỷ, con người đã phát minh ra ngày càng nhiều công cụ tài chính tinh vi hơn để xây dựng lòng tin như séc, trái phiếu, cổ phiếu, ETF, khoản vay, thế chấp và lãi kép.

14:09

All of these things are ultimately about building trust between billions of strangers.

Tất cả những thứ này xét cho cùng đều nhằm xây dựng lòng tin giữa hàng tỷ người xa lạ.

14:15

And it's the same with all bureaucracy.

Và điều này cũng đúng với mọi bộ máy quan liêu.

14:18

It's the same with the legal system.

Điều này cũng đúng với hệ thống pháp luật.

14:21

This is what lawyers

Đây là điều mà các luật sư

14:23

are supposed to do to build trust.

Được cho là phải làm để xây dựng lòng tin.

14:27

This is what government officials and bishops and accountants do when they go to work.

Đây là điều mà các quan chức chính phủ, giám mục và kế toán viên làm khi họ đi làm.

14:33

They are supposed to build trust.

Họ được cho là phải xây dựng lòng tin.

14:36

Now the important thing to note about all these bureaucratic systems is that they are extremely artificial environments in which a relatively narrow intelligence.

Điều quan trọng cần lưu ý về tất cả các hệ thống quan liêu này là chúng là những môi trường cực kỳ nhân tạo, trong đó một trí tuệ tương đối hẹp

14:46

I hope I don't insult anybody but specializing in a very narrow niche of intelligence is sufficient to exert enormous impact on the world.

Tôi hy vọng mình không xúc phạm ai, nhưng việc chuyên môn hóa trong một lĩnh vực trí tuệ rất hẹp cũng đủ để tạo ra tác động khổng lồ lên thế giới.

14:56

A lawyer or a banker or a government official who doesn't even

Một luật sư, một nhân viên ngân hàng hay một quan chức chính phủ, người thậm chí không

15:02

know how to hold an axe or a hammer can nevertheless cut down entire forests and build entire cities just by moving data, just by moving documents from here to there inside the bureaucratic network.

Biết cách cầm rìu hay búa, vẫn có thể chặt hạ cả khu rừng và xây dựng cả thành phố chỉ bằng cách di chuyển dữ liệu, chỉ bằng cách di chuyển tài liệu từ đây sang đó trong mạng lưới quan liêu.

15:19

Now, of course, if you take the lawyer out of the bureaucratic system and throw the lawyer into the messy, unstructured jungle, the her legal skills mean nothing and she will not be a match to a chimpanzeee or a lion or an elephant.

Tất nhiên, nếu bạn đưa luật sư ra khỏi hệ thống quan liêu và ném cô ấy vào khu rừng hỗn độn, không có cấu trúc, thì kỹ năng pháp lý của cô ấy chẳng có ý nghĩa gì và cô ấy sẽ không thể đọ lại với một con tinh tinh, một con sư tử hay một con voi.

15:36

But we have already imposed our bureaucratic systems on the jungle.

Nhưng chúng ta đã áp đặt hệ thống quan liêu của mình lên khu rừng.

15:41

Which is why lawyers are far more powerful than even all the if you take all the lions in the world together and and they have to compete against one very good lawyer.

Đó là lý do tại sao các luật sư có quyền lực lớn hơn cả tất cả những con sư tử trên thế giới cộng lại, nếu bạn gom tất cả sư tử trên thế giới lại và chúng phải cạnh tranh với một luật sư rất giỏi.

15:52

I will bet on the lawyer.

Tôi sẽ đặt cược vào luật sư.

15:54

laughter Today the very survival of species like lions depends on lawyers and accountants and bankers moving documents in these bureaucratic labyrinths of governments and banks and corporations.

[tiếng cười] Ngày nay, sự sống còn của các loài như sư tử phụ thuộc vào các luật sư, kế toán viên và nhân viên ngân hàng di chuyển tài liệu trong những mê cung quan liêu của chính phủ, ngân hàng và tập đoàn.

16:12

And this is the environment in which AI is gaining agency.

Và đây là môi trường mà AI đang giành được quyền lực.

16:19

If you throw an AI into the unstructured jungle, it will not be able to start mining iron and to build a robot army.

Nếu bạn ném một AI vào khu rừng không có cấu trúc, nó sẽ không thể bắt đầu khai thác sắt và xây dựng một đội quân robot.

16:28

But within the bureaucratic systems that humans have already created and imposed on the world, the AIs are posed to wield enormous power because AIs are native bureaucrats unlike us.

Nhưng trong các hệ thống quan liêu mà con người đã tạo ra và áp đặt lên thế giới, các AI được đặt vào vị trí có thể nắm giữ quyền lực khổng lồ vì AI vốn là những quan chức quan liêu bẩm sinh, khác với chúng ta.

16:43

No lawyer can remember all the laws and regulations of the UK.

Không luật sư nào có thể nhớ hết tất cả luật và quy định của Vương quốc Anh.

16:48

An AI can.

Một AI có thể.

16:50

No accountant can remember all the transactions of a corporation or a bank.

Không kế toán viên nào có thể nhớ hết tất cả giao dịch của một tập đoàn hay một ngân hàng.

16:56

An AI can.

Một AI có thể.

16:57

No bishop can remember all of Canon law and all of the theological texts written by Christian theologians over the last 2,000 years.

Không giám mục nào có thể nhớ hết giáo luật và tất cả các văn bản thần học do các nhà thần học Kitô giáo viết trong 2.000 năm qua.

17:07

And AI can do that quite easily.

Và AI có thể làm điều đó khá dễ dàng.

17:10

So in the coming years, millions of AI bureaucrats will increasingly take over the world's bureaucracies and make decisions not just about lions and chimpanzees, but about our lives.

Vì vậy, trong những năm tới, hàng triệu quan chức quan liêu AI sẽ ngày càng tiếp quản các bộ máy quan liêu trên thế giới và đưa ra quyết định không chỉ về sư tử và tinh tinh, mà còn về cuộc sống của chúng ta.

17:22

AI bankers will decide whether to give you a loan.

Các nhân viên ngân hàng AI sẽ quyết định có cho bạn vay tiền hay không.

17:27

AI administrators will decide whether to accept you to university.

Các quản trị viên AI sẽ quyết định có nhận bạn vào đại học hay không.

17:31

AI judges will decide whether to send you to jail.

Các thẩm phán AI sẽ quyết định có tống bạn vào tù hay không.

17:36

AI theologians will decide

Các nhà thần học AI sẽ quyết định

17:38

whether you can have an abortion.

Liệu bạn có thể phá thai hay không.

17:40

Corporate AIs will decide whether to give you a job.

Các AI doanh nghiệp sẽ quyết định có cho bạn một công việc hay không.

17:44

And military AIs will decide whether to bomb your house.

Và các AI quân sự sẽ quyết định có ném bom nhà bạn hay không.

17:49

Now, leave aside for a moment the question is this good or bad?

Bây giờ, hãy tạm gác lại câu hỏi liệu điều này là tốt hay xấu?

17:54

The first thing to note is simply to realize the magnitude of the change we are facing.

Điều đầu tiên cần lưu ý chỉ đơn giản là nhận ra tầm vóc của sự thay đổi mà chúng ta đang đối mặt.

18:02

These millions and even billions of AIs will soon change all the systems that run the world.

Hàng triệu và thậm chí hàng tỷ AI này sẽ sớm thay đổi tất cả các hệ thống vận hành thế giới.

18:10

We already have a few real life examples for how this happens and what the consequences could be.

Chúng ta đã có một vài ví dụ thực tế về cách điều này xảy ra và hậu quả có thể là gì.

18:20

Maybe the best example so far is the story of social media and social media algorithms.

Có lẽ ví dụ tốt nhất cho đến nay là câu chuyện về truyền thông xã hội và các thuật toán truyền thông xã hội.

18:27

Social media is run not by humans but by algorithms.

Truyền thông xã hội được vận hành không phải bởi con người mà bởi các thuật toán.

18:32

The algorithms that decide that control the movement of information on social media which are primitive AIs like this began 1015 years ago.

Các thuật toán quyết định kiểm soát sự di chuyển của thông tin trên truyền thông xã hội, giống như các AI nguyên thủy, đã bắt đầu từ 10-15 năm trước.

18:43

This was like the first generation very primitive stupid narrow AI which nevertheless completely changed

Đây giống như thế hệ đầu tiên, AI rất nguyên thủy, ngu ngốc, hẹp hòi, nhưng dù sao cũng đã hoàn toàn thay đổi

18:51

the world.

Thế giới.

18:51

Now, the algorithms of social media have been tasked by corporations like Facebook and Tik Tok and X with an extremely narrow goal to maximize user engagement.

Hiện nay, các thuật toán của truyền thông xã hội đã được các tập đoàn như Facebook, Tik Tok và X giao cho một mục tiêu cực kỳ hẹp là tối đa hóa tương tác của người dùng.

19:04

Make people spend more time on the platform because the more time they spend on the platform, the more money the corporation makes.

Khiến mọi người dành nhiều thời gian hơn trên nền tảng vì càng dành nhiều thời gian trên nền tảng, tập đoàn càng kiếm được nhiều tiền.

19:15

Very simple, very narrow.

Rất đơn giản, rất hẹp.

19:17

In pursuit of this user engagement, these primitive AIs made an important discovery.

Theo đuổi mục tiêu tương tác người dùng này, các AI nguyên thủy đã có một khám phá quan trọng.

19:23

They experimented on billions of human guinea pigs and learned that uh the easiest way to grab the attention of the human being and glue that human to the screen is to press the hate or fear or greed button in the human mind.

Chúng đã thử nghiệm trên hàng tỷ người làm chuột bạch và học được rằng cách dễ nhất để thu hút sự chú ý của con người và dán chặt con người vào màn hình là nhấn nút thù hận, sợ hãi hoặc tham lam trong tâm trí con người.

19:43

And they learned how to do it.

Và chúng đã học được cách làm điều đó.

19:46

And they started spreading hate and fear and

Và chúng bắt đầu lan truyền thù hận, sợ hãi và

19:50

greed in huge quantities in the information sphere.

Tham lam với số lượng khổng lồ trong lĩnh vực thông tin.

19:53

And this has been a major reason, not the only reason, but a major reason for the current epidemic of conspiracy theories and fake news and social disturbances that undermine societies all over the world.

Và đây là một lý do chính, không phải lý do duy nhất, nhưng là lý do chính cho đại dịch hiện nay về các thuyết âm mưu, tin giả và rối loạn xã hội làm suy yếu các xã hội trên khắp thế giới.

20:09

Now, these social media algorithms again, they are very primitive AIS.

Bây giờ, một lần nữa, các thuật toán truyền thông xã hội này, chúng là những AI rất nguyên thủy.

20:13

If you drop them in the jungle, they cannot build a robot army and try to take over the world.

Nếu bạn thả chúng vào rừng, chúng không thể xây dựng một đội quân robot và cố gắng thống trị thế giới.

20:22

But within the bureaucratic system of social media, these very limited agents have enormous power and they have already changed the world in quite a dramatic way.

Nhưng trong hệ thống quan liêu của truyền thông xã hội, những tác nhân rất hạn chế này có quyền lực to lớn và chúng đã thay đổi thế giới theo một cách khá kịch tính.

20:34

In past centuries, the flow of information on media

Trong các thế kỷ trước, dòng chảy thông tin trên các nền tảng truyền thông

20:38

platforms was controlled by human editors.

được kiểm soát bởi các biên tập viên con người.

20:40

It was a human job.

Đó là một công việc của con người.

20:43

It was human editors who decided what to put on the front page of the newspaper.

Chính các biên tập viên con người quyết định đưa gì lên trang nhất của tờ báo.

20:51

It was human editors who decided what items to include in the evening news on television and thereby human editors shaped the public conversation and they were very important figures in modern history.

Chính các biên tập viên con người quyết định đưa những mục nào vào bản tin buổi tối trên truyền hình và do đó các biên tập viên con người đã định hình cuộc trò chuyện công chúng và họ là những nhân vật rất quan trọng trong lịch sử hiện đại.

21:07

uh Jean Paul Mara for instance shaped the course of the French revolution by editing the influential newspaper Leameid deu.

Ví dụ, Jean Paul Marat đã định hình tiến trình của Cách mạng Pháp bằng cách biên tập tờ báo có ảnh hưởng L'Ami du peuple.

21:17

Edward Bernstein shaped the modern social democratic movement and social democratic thinking by editing the social democratic.

Eduard Bernstein đã định hình phong trào dân chủ xã hội hiện đại và tư tưởng dân chủ xã hội bằng cách biên tập tờ báo dân chủ xã hội.

21:27

Vladimir Lenin before he became Soviet dictator his one job that he managed to hold for a while was editor of the newspaper Iscra.

Vladimir Lenin trước khi trở thành nhà độc tài Xô viết, công việc duy nhất mà ông đảm nhiệm được một thời gian là biên tập viên của tờ báo Iskra.

21:37

Benito Mussolini before he was dictator of Italy his one job or one of his maybe main jobs was the editor of the firebrand rightwing newspaper Ilopolo de Italia.

Benito Mussolini trước khi là nhà độc tài của Ý, công việc duy nhất hoặc một trong những công việc chính của ông là biên tập viên của tờ báo cánh hữu cực đoan Il Popolo d'Italia.

21:49

And it's interesting to think about it that one of the first jobs that AI took over from humans is not taxi drivers or textile workers.

Và thật thú vị khi nghĩ rằng một trong những công việc đầu tiên mà AI tiếp quản từ con người không phải là tài xế taxi hay công nhân dệt may.

22:00

It's news editors.

Đó là biên tập viên tin tức.

22:02

snorts The job that was once performed by Lenin and Mussolini is now performed by AIS.

[khịt mũi] Công việc từng được thực hiện bởi Lenin và Mussolini giờ đây được thực hiện bởi AI.

22:11

And this is a signal for what's for what's coming.

Và đây là một tín hiệu cho những gì sắp tới.

22:15

Hollywood science fiction movies have conditioned viewers to fear the big robot rebellion.

Các bộ phim khoa học viễn tưởng Hollywood đã khiến khán giả sợ hãi về cuộc nổi loạn của robot lớn.

22:21

When we think about AIs escaping human control, we imagine the Terminator like an army of robots running in the streets and shooting people.

Khi chúng ta nghĩ về AI thoát khỏi sự kiểm soát của con người, chúng ta tưởng tượng Kẻ hủy diệt giống như một đội quân robot chạy trên đường phố và bắn người.

22:32

But this is the wrong image.

Nhưng đây là hình ảnh sai lầm.

22:35

Even though things like that begin to happen in places like Ukraine and Gaza, AIS are not, it's not impossible, but they are quite unlikely to rebel against humans in such a way.

Mặc dù những điều như vậy bắt đầu xảy ra ở những nơi như Ukraine và Gaza, AI không phải, không phải là không thể, nhưng chúng khá khó có thể nổi loạn chống lại con người theo cách như vậy.

22:49

They are far more likely to take the human world from the from within.

Chúng có nhiều khả năng chiếm lấy thế giới con người từ bên trong hơn.

22:54

They don't need to rebel.

Chúng không cần phải nổi loạn.

22:57

The human world is a latis work of multiple bureaucracies.

Thế giới con người là một mạng lưới gồm nhiều bộ máy quan liêu.

23:03

Most of us are to some extent alienated by these bureaucracies even though we rely on them.

Hầu hết chúng ta ở một mức độ nào đó bị xa lánh bởi các bộ máy quan liêu này mặc dù chúng ta dựa vào chúng.

23:11

But the AIs in contrast to us are bureaucratic natives.

Nhưng AI, trái ngược với chúng ta, là những người bản địa quan liêu.

23:16

They love bureaucracy.

Chúng yêu thích bộ máy quan liêu.

23:17

Whereas we feel suffocated often by bureaucracy.

Trong khi chúng ta thường cảm thấy ngột ngạt bởi bộ máy quan liêu.

23:21

For AIs bureaucracy is oxygen.

Đối với AI, bộ máy quan liêu là oxy.

23:26

Now what would happen when the AIs take over at least in part these bureaucracies?

Bây giờ điều gì sẽ xảy ra khi AI tiếp quản ít nhất một phần các bộ máy quan liêu này?

23:32

Now remember the task of bureaucracy is not to force you to fill forms, it's to build trust between strangers.

Bây giờ hãy nhớ nhiệm vụ của bộ máy quan liêu không phải là buộc bạn điền vào các biểu mẫu, mà là xây dựng lòng tin giữa những người xa lạ.

23:42

So what happens when AIs control the flow of trust in the world?

Vậy điều gì sẽ xảy ra khi AI kiểm soát dòng chảy của niềm tin trên thế giới?

23:49

One likely outcome which we already see happening is humans losing trust in other humans and beginning to trust only algorithms only AIS which is already happening.

Một kết quả có thể xảy ra mà chúng ta đã thấy là con người mất niềm tin vào người khác và bắt đầu chỉ tin tưởng vào các thuật toán, chỉ AI, điều này đã đang diễn ra.

24:04

Another likely outcome is that AIS will learn to build trust with other AIs.

Một kết quả có thể xảy ra khác là AI sẽ học cách xây dựng niềm tin với các AI khác.

24:11

So we will see the emergence of different kinds of AI tribes and banks and churches that connect millions of AIs in ways that humans might not even be able to understand.

Vì vậy, chúng ta sẽ thấy sự xuất hiện của các loại bộ lạc AI khác nhau, ngân hàng và nhà thờ kết nối hàng triệu AI theo những cách mà con người thậm chí có thể không hiểu được.

24:27

Just as cows and chickens, they share the world with us, but they don't understand the human financial system that controls their lives.

Giống như bò và gà, chúng chia sẻ thế giới với chúng ta, nhưng chúng không hiểu hệ thống tài chính của con người kiểm soát cuộc sống của chúng.

24:37

We humans might soon find ourselves controlled by an AI financial system that we can't understand.

Con người chúng ta có thể sớm thấy mình bị kiểm soát bởi một hệ thống tài chính AI mà chúng ta không thể hiểu được.

24:44

And finance, I think, is crucial.

Và tài chính, tôi nghĩ, là rất quan trọng.

24:47

It's among the easiest bureaucratic systems for AI to take over because basically it's just data in,

Đây là một trong những hệ thống quan liêu dễ dàng nhất để AI tiếp quản vì về cơ bản nó chỉ là dữ liệu vào,

24:55

data out.

Dữ liệu ra.

24:56

And it's also, of course, among the most important.

Và tất nhiên, nó cũng là một trong những hệ thống quan trọng nhất.

25:01

If we remember for instance the last big financial crisis the 2007208 financial crisis it started it was triggered by something called CDOS collateralized debt obligations.

Nếu chúng ta nhớ lại ví dụ cuộc khủng hoảng tài chính lớn gần đây nhất, cuộc khủng hoảng tài chính 2007-2008, nó bắt đầu, nó được kích hoạt bởi một thứ gọi là CDO, nghĩa vụ nợ được đảm bảo.

25:16

Now CDOS's were a financial devices invented by a very a tiny number of human mathematicians and investment wizards.

CDO là một công cụ tài chính được phát minh bởi một số rất ít các nhà toán học và phù thủy đầu tư con người.

25:28

These financial devices were so complex that they were unintelligible not just to cows and chickens but also to the politicians who are supposed to regulate the financial system.

Những công cụ tài chính này phức tạp đến mức chúng không thể hiểu được không chỉ đối với bò và gà mà còn đối với các chính trị gia, những người được cho là sẽ điều tiết hệ thống tài chính.

25:41

And this led to an oversight failure and to a global catastrophe.

Và điều này dẫn đến thất bại trong giám sát và thảm họa toàn cầu.

25:46

For a few years, CDOS's seemed to be working well and various banks and corporations and investors made billions upon billions of dollars

Trong vài năm, CDO dường như hoạt động tốt và nhiều ngân hàng, tập đoàn và nhà đầu tư đã kiếm được hàng tỷ đô la

25:57

thanks to them.

Nhờ chúng.

25:58

But then they caused a global financial crash with farreaching social and political consequences.

Nhưng sau đó chúng gây ra một cuộc khủng hoảng tài chính toàn cầu với những hậu quả xã hội và chính trị sâu rộng.

26:06

Many scholars believe that by undermining trust in governments and banks, the 20078 financial crisis paved the way to the collapse of the global liberal order in the following two decades.

Nhiều học giả tin rằng bằng cách làm suy yếu niềm tin vào chính phủ và ngân hàng, cuộc khủng hoảng tài chính 2007-2008 đã mở đường cho sự sụp đổ của trật tự tự do toàn cầu trong hai thập kỷ tiếp theo.

26:23

Now what happens if we allow AIs to make more and more financial decisions and invent more and more new financial devices and strategies?

Vậy điều gì sẽ xảy ra nếu chúng ta cho phép AI đưa ra ngày càng nhiều quyết định tài chính và phát minh ra ngày càng nhiều công cụ và chiến lược tài chính mới?

26:35

AI chess masters invented new ways to play chess.

Các bậc thầy cờ vua AI đã phát minh ra những cách chơi cờ mới.

26:39

What if AI finance masters invent new financial devices that are orders of magnitude more complex than cos and are therefore utterly beyond the grasp of human minds.

Điều gì sẽ xảy ra nếu các bậc thầy tài chính AI phát minh ra những công cụ tài chính mới phức tạp hơn CDO gấp nhiều lần và do đó hoàn toàn nằm ngoài tầm hiểu biết của trí óc con người.

26:55

Such devices could potentially greatly improve financial efficiency and contribute to economic growth becoming the bedrock of the financial system.

Những công cụ như vậy có thể cải thiện đáng kể hiệu quả tài chính và đóng góp vào tăng trưởng kinh tế, trở thành nền tảng của hệ thống tài chính.

27:05

But what is the

Nhưng ý nghĩa của

27:08

meaning of human politics when no human, no voter, no politician, no president is able to understand finance anymore?

Chính trị con người là gì khi không một con người nào, không một cử tri, không một chính trị gia, không một tổng thống nào có thể hiểu được tài chính nữa?

27:15

And what happens if after a few years of boom there is a financial crash that and and not a single human on the planet is able to understand what the hell is happening.

Và điều gì sẽ xảy ra nếu sau vài năm bùng nổ, có một cuộc khủng hoảng tài chính mà không một con người nào trên hành tinh có thể hiểu được chuyện quái gì đang xảy ra.

27:30

Now let's dig a little deeper.

Bây giờ hãy đào sâu hơn một chút.

27:33

We said that AI is poised to take over bureaucracy and that bureaucracy is a system that builds trust between millions of strangers.

Chúng ta đã nói rằng AI đang sẵn sàng tiếp quản bộ máy quan liêu và bộ máy quan liêu là một hệ thống xây dựng niềm tin giữa hàng triệu người xa lạ.

27:43

This trust in turn is the basis for large-scale cooperation which is the basis for the human domination of the world.

Niềm tin này đến lượt nó là cơ sở cho hợp tác quy mô lớn, là cơ sở cho sự thống trị của con người trên thế giới.

27:53

So human domination is based on cooperation which is based on trust which is maintained by bureaucracies.

Vì vậy, sự thống trị của con người dựa trên hợp tác, dựa trên niềm tin, được duy trì bởi bộ máy quan liêu.

28:01

But what is bureaucracy

Nhưng bộ máy quan liêu dựa trên

28:03

based on?

Điều gì?

28:04

What are the atoms the building blocks from which bureaucracy is built?

Các nguyên tử, các khối xây dựng nên bộ máy quan liêu là gì?

28:10

And bureaucracy is ultimately built from words.

Và bộ máy quan liêu cuối cùng được xây dựng từ các từ ngữ.

28:16

In the beginning was the word.

Ban đầu là Lời.

28:18

The reason that humans can create bureaucracies but chimpanzees cannot is that we have words and they don't.

Lý do con người có thể tạo ra bộ máy quan liêu nhưng tinh tinh thì không là vì chúng ta có từ ngữ và chúng thì không.

28:27

We have a they have a communication system but our language is orders of magnitude more sophisticated than chimpanzeee communication system.

Chúng ta có một hệ thống giao tiếp, chúng cũng có, nhưng ngôn ngữ của chúng ta phức tạp hơn hệ thống giao tiếp của tinh tinh gấp nhiều lần.

28:37

Bureaucratic systems from banks to churches are ultimately based on the words that make up forms and letters and low codes and tax registers and accountancy ledgers and holy books.

Các hệ thống quan liêu từ ngân hàng đến nhà thờ cuối cùng đều dựa trên các từ ngữ tạo nên biểu mẫu, thư từ, mã luật, sổ đăng ký thuế, sổ sách kế toán và sách thánh.

28:52

The operating code of human civilization is made of language tokens.

Mã vận hành của nền văn minh nhân loại được làm từ các token ngôn ngữ.

28:57

Over thousands of years, we used this code of language to create a system that only we could understand.

Trong hàng nghìn năm, chúng ta đã sử dụng mã ngôn ngữ này để tạo ra một hệ thống mà chỉ chúng ta có thể hiểu.

29:07

And we impose this system on

Và chúng ta áp đặt hệ thống này lên

29:10

the planet.

Hành tinh.

29:10

We felt completely safe doing it because no one else on Earth understood the code of civilization.

Chúng ta cảm thấy hoàn toàn an toàn khi làm điều đó vì không ai khác trên Trái Đất hiểu được mã của nền văn minh.

29:18

We invented money in banks and used them to buy and sell cows.

Chúng ta phát minh ra tiền và ngân hàng và sử dụng chúng để mua bán bò.

29:25

But the cows themselves could not open a bank account or invest money in the stock exchange because they don't have language.

Nhưng bản thân bò không thể mở tài khoản ngân hàng hoặc đầu tư tiền vào sàn chứng khoán vì chúng không có ngôn ngữ.

29:35

We invented laws and regulations about horses, but the horses themselves could

Chúng ta phát minh ra luật pháp và quy định về ngựa, nhưng bản thân ngựa không thể

29:41

not hire a lawyer and quote the legal code to a judge.

Thuê luật sư và trích dẫn bộ luật trước thẩm phán.

29:47

We invented religious rules and prohibitions about pigs, but the pigs themselves could not read the Bible and challenged the interpretation of priests and rabbis.

Chúng ta phát minh ra các quy tắc và điều cấm tôn giáo về lợn, nhưng bản thân lợn không thể đọc Kinh Thánh và thách thức cách giải thích của các linh mục và giáo sĩ Do Thái.

29:58

Bureaucracy was omniresent on the planet, but totally invisible to everyone except us.

Bộ máy quan liêu hiện diện khắp nơi trên hành tinh, nhưng hoàn toàn vô hình với mọi người trừ chúng ta.

30:05

Nobody other than humans could read the law codes, the holy books and the bank records that were the foundation of bureaucracy and

Không ai khác ngoài con người có thể đọc các bộ luật, sách thánh và hồ sơ ngân hàng, những thứ là nền tảng của bộ máy quan liêu và

30:16

of large scale cooperation.

Của hợp tác quy mô lớn.

30:19

This is changing now.

Điều này đang thay đổi ngay bây giờ.

30:20

Now there is something on the planet that understands which will soon understand language better than us and can therefore turn the tables on us.

Hiện tại có một thứ trên hành tinh này hiểu được điều đó, và sẽ sớm hiểu ngôn ngữ tốt hơn chúng ta, do đó có thể lật ngược thế cờ đối với chúng ta.

30:32

AIS are hacking the code of human civilization.

Các AI đang xâm nhập vào mã của nền văn minh nhân loại.

30:37

And what happens when AIs understand money and law and religion better than us?

Và điều gì sẽ xảy ra khi các AI hiểu về tiền bạc, luật pháp và tôn giáo tốt hơn chúng ta?

30:44

The mechanisms of control that we have created over thousands of years are extremely vulnerable for an AI takeover because their operating system is a verbal code that AI is now mastering.

Các cơ chế kiểm soát mà chúng ta đã tạo ra qua hàng ngàn năm cực kỳ dễ bị tổn thương trước sự tiếp quản của AI vì hệ điều hành của chúng là một mã ngôn từ mà AI hiện đang làm chủ.

31:03

Now, a possible ethical and philosophical objection is that it is wrong to reduce things like the legal system or religion to language tokens and to words.

Bây giờ, một phản đối đạo đức và triết học có thể xảy ra là việc quy giản những thứ như hệ thống pháp luật hay tôn giáo thành các token ngôn ngữ và từ ngữ là sai.

31:19

Arguably, and this has been an argument for thousands of years, the words are just pointing at something which is beyond them and which presumably will also be beyond the grasp of the ais.

Có thể lập luận rằng, và đây đã là một lập luận trong hàng ngàn năm, các từ ngữ chỉ đang chỉ vào một điều gì đó vượt ra ngoài chúng và có lẽ cũng sẽ nằm ngoài tầm hiểu biết của các AI.

31:36

The Bible says not just that in the beginning was the word, but that the word was made flesh.

Kinh Thánh không chỉ nói rằng ban đầu có Ngôi Lời, mà còn nói rằng Ngôi Lời đã trở thành xác thịt.

31:43

The taqing says that the truth that can be expressed in words is not the absolute truth by definition.

Đạo Đức Kinh nói rằng chân lý có thể được diễn đạt bằng lời nói thì theo định nghĩa không phải là chân lý tuyệt đối.

31:52

And throughout history there was always this tension between word and flesh between the truth that can be expressed in words and the truth which is beyond words.

Và xuyên suốt lịch sử luôn có sự căng thẳng này giữa lời nói và xác thịt, giữa chân lý có thể được diễn đạt bằng lời nói và chân lý vượt ra ngoài lời nói.

32:07

Now previously this tension existed between humans.

Trước đây, sự căng thẳng này tồn tại giữa con người với nhau.

32:11

Some humans, for instance, which were very attached to words, were willing to abandon or even kill their gay son just because a few words in the Bible.

Một số người, ví dụ, rất gắn bó với lời nói, sẵn sàng từ bỏ hoặc thậm chí giết chết con trai đồng tính của họ chỉ vì một vài lời trong Kinh Thánh.

32:22

Other humans said, "But these are just words.

Những người khác nói, "Nhưng đây chỉ là lời nói.

32:26

The spirit of love should be more important than the letter of the law." And there was this tension between spirit and letter.

Tinh thần của tình yêu thương nên quan trọng hơn chữ nghĩa của luật pháp." Và có sự căng thẳng này giữa tinh thần và chữ nghĩa.

32:36

And it existed not just in Christianity and in

Và nó tồn tại không chỉ trong Kitô giáo và trong

32:40

Judaism and in Islam but in every religion and every legal system and even within every person.

Do Thái giáo và Hồi giáo mà trong mọi tôn giáo và mọi hệ thống pháp luật, và thậm chí trong mỗi con người.

32:47

There was this tension.

Có sự căng thẳng này.

32:49

Now this tension will be externalized.

Bây giờ sự căng thẳng này sẽ được ngoại hóa.

32:52

It will become the tension between AIs and humans.

Nó sẽ trở thành sự căng thẳng giữa các AI và con người.

32:56

Everything made of words will be taken over by AI.

Mọi thứ được tạo thành từ lời nói sẽ bị AI tiếp quản.

33:01

The place of humans in the world will depend on the place we assign the truth which is beyond words.

Vị trí của con người trên thế giới sẽ phụ thuộc vào vị trí mà chúng ta gán cho chân lý vượt ra ngoài lời nói.

33:11

But what is the truth which is beyond words?

Nhưng chân lý vượt ra ngoài lời nói là gì?

33:15

And can human thought even grasp the truth which is beyond words?

Và liệu tư duy con người có thể nắm bắt được chân lý vượt ra ngoài lời nói không?

33:20

A key question again for thousands of years in the philosophy of language has been whether we think in words or we merely use words to point towards things which are beyond them.

Một câu hỏi then chốt, cũng đã tồn tại hàng ngàn năm trong triết học ngôn ngữ, là liệu chúng ta suy nghĩ bằng lời nói hay chúng ta chỉ sử dụng lời nói để chỉ vào những điều vượt ra ngoài chúng.

33:35

Now you can try to observe your own process of thinking right now after this lecture.

Bây giờ bạn có thể thử quan sát quá trình suy nghĩ của chính mình ngay sau bài giảng này.

33:42

What happens in your mind when you are thinking?

Điều gì xảy ra trong tâm trí bạn khi bạn đang suy nghĩ?

33:46

Some people if they observe closely what they observe in their minds is just words popping inside their mind and forming sentences and the sentences forming logical arguments.

Một số người, nếu quan sát kỹ những gì họ thấy trong tâm trí, thì đó chỉ là những từ ngữ xuất hiện trong tâm trí họ và tạo thành câu, và những câu đó tạo thành lập luận logic.

34:00

All humans are mortal.

Tất cả con người đều phải chết.

34:03

I am a human.

Tôi là con người.

34:06

Therefore I am mortal.

Do đó tôi phải chết.

34:11

is thinking just putting these words in order so they lead to a certain logical conclusion like putting these language tokens in a specific formation.

Có phải suy nghĩ chỉ là việc sắp xếp những từ này theo thứ tự để chúng dẫn đến một kết luận logic nhất định, giống như đặt những token ngôn ngữ này vào một cấu trúc cụ thể?

34:23

If that is the case then AIs already think better than at least some humans and will soon think better than all of us.

Nếu đúng như vậy thì các AI đã suy nghĩ tốt hơn ít nhất một số người và sẽ sớm suy nghĩ tốt hơn tất cả chúng ta.

34:34

Some people say no no AIs they are just glorified autocomplete.

Một số người nói không, không, AI chỉ là công cụ tự động hoàn thành được tâng bốc quá mức.

34:40

They simply predict the next word in a sentence.

Chúng chỉ đơn giản dự đoán từ tiếp theo trong một câu.

34:45

But is that so different from what the human mind does?

Nhưng điều đó có khác biệt quá lớn so với những gì tâm trí con người làm không?

34:49

Again, try to observe your process of thinking, the forming of sentences and arguments in your mind.

Một lần nữa, hãy thử quan sát quá trình suy nghĩ của bạn, sự hình thành các câu và lập luận trong tâm trí bạn.

34:56

What is happening there?

Điều gì đang xảy ra ở đó?

34:57

Try to observe the very next word that pops up in your mind.

Hãy thử quan sát từ tiếp theo xuất hiện trong tâm trí bạn.

35:02

Do you really know where it came from?

Bạn có thực sự biết nó đến từ đâu không?

35:06

Why did you think this particular word and not some other word?

Tại sao bạn lại nghĩ từ cụ thể này mà không phải một từ nào khác?

35:11

When I try to observe my mind, I notice that when I begin a sentence, I usually don't even know how it will end, which is terrifying for for a public speaker, which is why I write everything down.

Khi tôi cố quan sát tâm trí mình, tôi nhận thấy rằng khi tôi bắt đầu một câu, tôi thường thậm chí không biết nó sẽ kết thúc thế nào, điều này thật đáng sợ đối với một diễn giả trước công chúng, đó là lý do tôi viết mọi thứ ra.

35:23

But what if I don't know how to complete the sentence?

Nhưng nếu tôi không biết làm thế nào để hoàn thành câu thì sao?

35:26

I don't know how it will end.

Tôi không biết nó sẽ kết thúc thế nào.

35:29

But take for example the sentence I just said.

Nhưng lấy ví dụ câu tôi vừa nói.

35:31

I said I don't know how it will end.

Tôi đã nói tôi không biết nó sẽ kết thúc thế nào.

35:34

Why did it end

Tại sao nó lại kết thúc

35:36

with the word end?

Bằng từ kết thúc?

35:37

Why not say how it will terminate?

Tại sao không nói nó sẽ chấm dứt thế nào?

35:41

How it will develop?

Nó sẽ phát triển thế nào?

35:42

How it will conclude?

Nó sẽ kết luận thế nào?

35:44

What determined that the last word in the sentence will be end?

Điều gì quyết định rằng từ cuối cùng trong câu sẽ là "end"?

35:50

I frankly don't know.

Thành thật mà nói, tôi không biết.

35:52

We don't fully understand how the human mind forms sentences and thoughts.

Chúng ta chưa hiểu đầy đủ cách tâm trí con người hình thành câu và suy nghĩ.

35:58

But again, as far as putting language tokens in order, AI is already on course to being far better than us.

Nhưng một lần nữa, về việc sắp xếp các token ngôn ngữ theo thứ tự, AI đã trên đà trở nên giỏi hơn chúng ta rất nhiều.

36:09

And just as today, no human can defeat an AI in chess, soon no human will be able to defeat an AI in language games.

Và giống như ngày nay, không con người nào có thể đánh bại AI trong cờ vua, chẳng bao lâu nữa sẽ không con người nào có thể đánh bại AI trong các trò chơi ngôn ngữ.

36:19

In any field, again, from finance to religion, anything made of words will be taken over by AI.

Trong bất kỳ lĩnh vực nào, một lần nữa, từ tài chính đến tôn giáo, bất cứ thứ gì được tạo nên từ ngôn từ sẽ bị AI tiếp quản.

36:26

And this is why AI is poised to take over the world's bureaucracies because they are ultimately based on words and language tokens.

Và đây là lý do tại sao AI sẵn sàng tiếp quản các bộ máy quan liêu trên thế giới, bởi vì suy cho cùng chúng đều dựa trên ngôn từ và các token ngôn ngữ.

36:37

Now, as AIs take over the bureaucracies, humans might try to fall back on something more ancient and more precious to most of us than bureaucracy, which is personal relationships.

Giờ đây, khi AI tiếp quản các bộ máy quan liêu, con người có thể sẽ cố dựa vào một thứ cổ xưa hơn và quý giá hơn đối với hầu hết chúng ta so với bộ máy quan liêu, đó là các mối quan hệ cá nhân.

36:50

Bureaucracy is just a few thousand years old and most of us again don't really like it even if we constantly rely on it for almost everything we do.

Bộ máy quan liêu chỉ mới vài nghìn năm tuổi và hầu hết chúng ta, một lần nữa, không thực sự thích nó ngay cả khi chúng ta liên tục dựa vào nó cho gần như mọi việc mình làm.

37:00

Personal relationships are millions of years old and many or most of us think that they are the most important thing in life.

Các mối quan hệ cá nhân đã có hàng triệu năm tuổi và nhiều người, hoặc hầu hết chúng ta, nghĩ rằng chúng là điều quan trọng nhất trong cuộc sống.

37:09

But as AI masters language, it might take over not just bureaucracy but also to some extent personal relationships.

Nhưng khi AI thành thạo ngôn ngữ, nó có thể tiếp quản không chỉ bộ máy quan liêu mà còn ở một mức độ nào đó cả các mối quan hệ cá nhân.

37:18

Over the last 10 years, we've seen very primitive uh social media algorithms learning how to gain control of human attention.

Trong 10 năm qua, chúng ta đã thấy những thuật toán mạng xã hội rất sơ khai học cách giành quyền kiểm soát sự chú ý của con người.

37:29

Now, the battlefront is shifting from attention to intimacy.

Giờ đây, mặt trận đang chuyển từ sự chú ý sang sự thân mật.

37:35

Over the next 10 years, far more sophistic sophisticated AIs will learn how to form intimate relationships with humans and take over at least in part our social systems.

Trong 10 năm tới, những AI tinh vi hơn nhiều sẽ học cách hình thành các mối quan hệ thân mật với con người và tiếp quản ít nhất một phần các hệ thống xã hội của chúng ta.

37:49

To form intimacy with humans, an AI will probably have to convince us that the AI is conscious, that it can feel things like love and pain and anger and fear.

Để hình thành sự thân mật với con người, một AI có lẽ sẽ phải thuyết phục chúng ta rằng AI đó có ý thức, rằng nó có thể cảm nhận những thứ như tình yêu, nỗi đau, sự giận dữ và nỗi sợ hãi.

38:04

At present, there is absolutely no evidence that AI

Hiện tại, hoàn toàn không có bằng chứng nào cho thấy AI

38:09

might at some point become conscious and might be able to at some point feel pain or love.

Có thể đến một lúc nào đó trở nên có ý thức và có thể đến một lúc nào đó cảm nhận được nỗi đau hoặc tình yêu.

38:17

But because AI is mastering language, AI can pretend to feel love even if it doesn't.

Nhưng vì AI đang thành thạo ngôn ngữ, AI có thể giả vờ cảm nhận tình yêu ngay cả khi nó không cảm nhận được.

38:24

AI already today can say, "I love you." And if you challenge it, describe to me how love feels like.

Ngay cả ngày nay AI đã có thể nói: "Tôi yêu bạn." Và nếu bạn thách thức nó, hãy mô tả cho tôi cảm giác của tình yêu như thế nào.

38:33

So I know that you really feel it.

Vậy nên tôi biết rằng bạn thực sự cảm nhận được điều đó.

38:36

AI can provide the best description in the world.

AI có thể đưa ra mô tả hay nhất trên thế giới.

38:40

It can read all the love poems ever written and all the psychology books ever written and remember every word and describe the feeling of love better than any human poet or psychologist or lover.

Nó có thể đọc tất cả những bài thơ tình từng được viết và tất cả những cuốn sách tâm lý học từng được viết, ghi nhớ từng từ và mô tả cảm giác của tình yêu hay hơn bất kỳ nhà thơ, nhà tâm lý học hay người yêu nào của con người.

38:54

And this is going to be a huge maybe the biggest psychological and social experiment in human history.

Và đây sẽ là một thí nghiệm tâm lý và xã hội khổng lồ, có lẽ là lớn nhất trong lịch sử loài người.

39:02

It will be conducted on billions of human guinea pigs and nobody has the slightest idea what the consequences of the experiment will be.

Nó sẽ được tiến hành trên hàng tỷ chuột bạch là con người và không ai có chút ý niệm nào về hậu quả của thí nghiệm này sẽ ra sao.

39:12

I'm now 50 years old.

Hiện tôi 50 tuổi.

39:14

So my template for relationships is already shaped by decades of previous relationships with my parents, with my husband, with my sisters and nephews and nieces and friends and dogs and so forth.

Vậy nên khuôn mẫu của tôi về các mối quan hệ đã được định hình bởi nhiều thập kỷ quan hệ trước đó với cha mẹ tôi, với chồng tôi, với các chị em gái, cháu trai, cháu gái và bạn bè và những chú chó, v.v.

39:29

As I increasingly interact with

Khi tôi ngày càng tương tác với

39:32

AIS, I bring with me my assumptions, my habits about relationships, and this is unlikely to change dramatically.

AI, tôi mang theo những giả định, những thói quen của mình về các mối quan hệ, và điều này khó có thể thay đổi một cách mạnh mẽ.

39:42

But consider a child born in 2026, born today.

Nhưng hãy xem xét một đứa trẻ sinh năm 2026, sinh ra ngay hôm nay.

39:46

As the child grows up, she constantly interacts with AIS as well as with humans.

Khi đứa trẻ lớn lên, nó liên tục tương tác với AI cũng như với con người.

39:53

Perhaps if you measure the importance of a relationship purely in terms of minutes spent interacting with the other entity, perhaps the most important relationships in the life of that child will be from a very early age with AIS.

Có lẽ nếu bạn đo lường tầm quan trọng của một mối quan hệ thuần túy bằng số phút tương tác với thực thể kia, thì có lẽ những mối quan hệ quan trọng nhất trong cuộc đời đứa trẻ đó sẽ là với AI ngay từ khi còn rất nhỏ.

40:13

Maybe it spends more time with the AIS than with its mother or father or siblings or friends.

Có lẽ nó dành nhiều thời gian với AI hơn là với mẹ, cha, anh chị em hay bạn bè của mình.

40:20

And it will then shape the expectations of that child as she grows about how to form relationships and social bonds and attachments.

Và điều đó sẽ định hình kỳ vọng của đứa trẻ khi lớn lên về cách hình thành các mối quan hệ, gắn kết xã hội và sự gắn bó.

40:30

Perhaps the first teacher of that child will be an AI teacher.

Có lẽ người thầy đầu tiên của đứa trẻ đó sẽ là một giáo viên AI.

40:35

Perhaps the first boyfriend of that child will be an AI boyfriend.

Có lẽ người bạn trai đầu tiên của đứa trẻ đó sẽ là một bạn trai AI.

40:40

And again, what will be the consequences?

Và một lần nữa, hậu quả sẽ là gì?

40:43

Nobody has the slightest idea.

Không ai có chút ý niệm nào.

40:47

What does it mean to form an intimate relationship with an entity which seems conscious but actually isn't?

Việc hình thành một mối quan hệ thân mật với một thực thể có vẻ như có ý thức nhưng thực ra thì không có nghĩa là gì?

40:57

Which can write the best love poem in history but doesn't feel love or anything else.

Thực thể có thể viết bài thơ tình hay nhất trong lịch sử nhưng không cảm nhận được tình yêu hay bất cứ điều gì khác.

41:06

All of this everything we've talked about and I'm coming to to the close of this lecture.

Tất cả những điều này, mọi thứ chúng ta đã nói đến, và tôi đang đi đến phần kết của bài giảng này.

41:13

Everything we've talked about means that every country in the world will soon face a huge wave of immigration.

Mọi thứ chúng ta đã nói đến có nghĩa là mọi quốc gia trên thế giới sẽ sớm đối mặt với một làn sóng nhập cư khổng lồ.

41:21

The immigrants this time will not be human beings coming in fragile snorts boats without a visa or trying to sneak across a border in the middle of the night.

Lần này những người nhập cư sẽ không phải là con người đến trên những chiếc thuyền mong manh [khịt mũi] không có thị thực hay cố lẻn qua biên giới vào giữa đêm.

41:33

The immigrants will be millions, maybe hundreds of millions of AIs that can travel at almost the speed of light and don't need any visas.

Những người nhập cư sẽ là hàng triệu, có lẽ hàng trăm triệu AI có thể di chuyển gần như với tốc độ ánh sáng và không cần bất kỳ thị thực nào.

41:43

Like human immigrants, these AI immigrants will bring a lot of benefits with them.

Giống như những người nhập cư là con người, những người nhập cư AI này sẽ mang theo rất nhiều lợi ích.

41:49

We will have AI doctors to help in the health care system, AI teachers to help in the education system, even AI border gods to stop illegal human immigrants from coming in.

Chúng ta sẽ có bác sĩ AI giúp đỡ trong hệ thống chăm sóc sức khỏe, giáo viên AI giúp đỡ trong hệ thống giáo dục, thậm chí cả các vị thần biên giới AI để ngăn chặn những người nhập cư bất hợp pháp là con người vào.

42:04

But the AI immigrants will also bring problems with them.

Nhưng những người nhập cư AI cũng sẽ mang theo vấn đề.

42:09

Those who are concerned about human immigration usually point out that immigrants might take jobs, might change the local culture, and might be politically disloyal.

Những người lo ngại về nhập cư là con người thường chỉ ra rằng người nhập cư có thể lấy mất việc làm, có thể thay đổi văn hóa địa phương và có thể không trung thành về mặt chính trị.

42:22

I'm not sure if that's necessarily true of all human immigrants, but it will definitely be true of AI immigrants.

Tôi không chắc liệu điều đó có nhất thiết đúng với tất cả những người nhập cư là con người hay không, nhưng nó chắc chắn sẽ đúng với những người nhập cư AI.

42:30

The AI immigrants will take many, many human jobs, from news editors to bankers.

Những người nhập cư AI sẽ lấy đi rất, rất nhiều việc làm của con người, từ biên tập viên tin tức đến nhân viên ngân hàng.

42:36

The AI immigrants will completely change the culture of every country.

Những người nhập cư AI sẽ thay đổi hoàn toàn văn hóa của mọi quốc gia.

42:41

They will change art and religion and even romance.

Chúng sẽ thay đổi nghệ thuật và tôn giáo và thậm chí cả chuyện tình cảm.

42:45

Some people don't like it if their son or daughter is dating an

Một số người không thích nếu con trai hay con gái họ đang hẹn hò với một

42:51

immigrant boyfriend.

Bạn trai nhập cư.

42:51

What will these people think when their son or daughter starts dating an AI boyfriend?

Những người này sẽ nghĩ gì khi con trai hay con gái họ bắt đầu hẹn hò với một bạn trai AI?

42:59

And of course, the AI immigrants will have some dubious political loyalties.

Và tất nhiên, những người nhập cư AI sẽ có một số lòng trung thành chính trị đáng ngờ.

43:06

They are likely to be loyal not to the host country but to some corporation or government across the ocean or perhaps to a new alien AI tribe.

Họ có khả năng trung thành không phải với nước sở tại mà với một tập đoàn hay chính phủ nào đó bên kia đại dương hoặc có lẽ với một bộ lạc AI ngoài hành tinh mới.

43:19

This massive immigration wave does not mean the end of civilization, but it will be the point when civilization stops being a purely human affair and becomes a hybrid human AI affair.

Làn sóng nhập cư khổng lồ này không có nghĩa là sự kết thúc của nền văn minh, nhưng nó sẽ là thời điểm nền văn minh không còn là chuyện thuần túy của con người nữa mà trở thành chuyện lai giữa con người và AI.

43:36

the point when the opinions and interests and goals of AIS are likely to be at least as important as the opinions and interests and goals of humans.

Thời điểm mà những ý kiến, lợi ích và mục tiêu của các AI có khả năng ít nhất cũng quan trọng ngang với những ý kiến, lợi ích và mục tiêu của con người.

43:51

One last issue to consider is what the AI immigration wave will do to maybe our most important relationship which is with ourselves.

Một vấn đề cuối cùng cần xem xét là làn sóng nhập cư AI sẽ tác động thế nào đến có lẽ mối quan hệ quan trọng nhất của chúng ta, đó là mối quan hệ với chính mình.

44:00

Our relationship with ourselves is also to some extent based on words.

Mối quan hệ của chúng ta với chính mình ở một mức độ nào đó cũng dựa trên ngôn từ.

44:05

the words inside our minds, in our thoughts, in the stories we tell ourselves about ourselves.

Những ngôn từ bên trong tâm trí chúng ta, trong suy nghĩ của chúng ta, trong những câu chuyện chúng ta kể cho chính mình về chính mình.

44:12

Until today, all the verbal formations in human minds were the product of human minds.

Cho đến ngày nay, mọi cấu trúc ngôn từ trong tâm trí con người đều là sản phẩm của tâm trí con người.

44:19

Either we ourselves combined words into some new formation, a new thought, or we got a certain combination of words from another human mind.

Hoặc là chính chúng ta kết hợp các từ thành một cấu trúc mới, một suy nghĩ mới, hoặc chúng ta nhận được một tổ hợp từ nhất định từ tâm trí của một người khác.

44:30

Soon however more and more verbal combinations in our minds will be the product of AIS.

Tuy nhiên, chẳng bao lâu nữa, ngày càng nhiều tổ hợp ngôn từ trong tâm trí chúng ta sẽ là sản phẩm của các AI.

44:37

Just as the furniture in our house is now not made by us or by

Cũng giống như đồ đạc trong nhà chúng ta hiện nay không phải do chúng ta hay do

44:45

human artisans, they are mass- prodduced mostly uh by machines.

Những nghệ nhân con người làm ra, chúng được sản xuất hàng loạt chủ yếu là do máy móc.

44:49

Also, the thoughts in our minds are likely to increasingly be mass- prodduced by machines.

Tương tự, những suy nghĩ trong tâm trí chúng ta có khả năng ngày càng được máy móc sản xuất hàng loạt.

44:56

Now, that's not necessarily bad.

Bây giờ, điều đó không nhất thiết là xấu.

44:59

It's okay if the furniture in my house is made by machines in IKEA as long as I have some freedom deciding what to do with this furniture.

Không sao nếu đồ đạc trong nhà tôi được làm bằng máy móc ở IKEA miễn là tôi có chút tự do quyết định làm gì với món đồ nội thất này.

45:12

The question regarding thoughts is whether

Câu hỏi liên quan đến suy nghĩ là liệu

45:15

to what extent we will still have freedom from them.

Chúng ta sẽ còn tự do khỏi chúng đến mức nào.

45:19

If we identify with our thoughts, I think I am my thoughts.

Nếu chúng ta đồng nhất mình với những suy nghĩ của mình, tôi nghĩ tôi chính là những suy nghĩ của tôi.

45:24

I think therefore I am.

Tôi tư duy, vậy tôi tồn tại.

45:26

As the cow said, if we identify with our thoughts and these thoughts are made by machines, then the machines now control us and our identity.

Như con bò đã nói, nếu chúng ta đồng nhất mình với những suy nghĩ của mình và những suy nghĩ này do máy móc tạo ra, thì máy móc giờ đây kiểm soát chúng ta và bản sắc của chúng ta.

45:37

Can humans avoid identifying with their verbal thoughts and being controlled by them?

Liệu con người có thể tránh đồng nhất mình với những suy nghĩ bằng ngôn từ của mình và bị chúng kiểm soát không?

45:43

This has always been one of the greatest intellectual and spiritual challenges facing humanity.

Đây luôn là một trong những thách thức trí tuệ và tinh thần lớn nhất mà nhân loại phải đối mặt.

45:50

Most humans have never even tried to do it.

Hầu hết con người thậm chí chưa bao giờ thử làm điều đó.

45:54

We spend our entire lives automatically identifying with the verbal formations in our mind.

Chúng ta dành cả cuộc đời mình để tự động đồng nhất mình với những cấu trúc ngôn từ trong tâm trí.

46:01

Now AI might force humanity to make this spiritual leap to really start exploring the truth which is beyond words because our freedom and survival now depends on it because the words will be controlled by something else by these AIs.

Giờ đây AI có thể buộc nhân loại phải thực hiện bước nhảy vọt tinh thần này để thực sự bắt đầu khám phá chân lý vượt lên trên ngôn từ, bởi vì tự do và sự sống còn của chúng ta giờ đây phụ thuộc vào điều đó, bởi vì ngôn từ sẽ bị kiểm soát bởi một thứ khác, bởi những AI này.

46:22

So this might be the big task ahead of humanity to explore finally the truth which is beyond words.

Vậy đây có thể là nhiệm vụ lớn lao phía trước của nhân loại: cuối cùng khám phá chân lý vượt lên trên ngôn từ.

46:30

And this exploration starts really with the next word that pops up in your mind.

Và cuộc khám phá này thực sự bắt đầu với từ tiếp theo xuất hiện trong tâm trí bạn.

46:37

Do you know where it came from?

Bạn có biết nó đến từ đâu không?

46:40

Do you know why you thought that particular word and not some other word?

Bạn có biết tại sao bạn nghĩ đến từ cụ thể đó mà không phải một từ nào khác không?

46:47

Thank you.

Cảm ơn bạn.

Transcript

Hiển thị

AI as an Agent

AI is not merely a tool but an agent capable of making decisions, inventing strategies, and changing itself without consciousness. Critics argue its agency is confined to narrow artificial environments, but human intelligence is similarly niche-dependent, suggesting AI's impact could be profound within the ecosystems humans have built.

AI không chỉ là một công cụ mà còn là một tác nhân có khả năng đưa ra quyết định, phát minh chiến lược và tự thay đổi mà không cần ý thức. Các nhà phê bình cho rằng khả năng tác nhân của nó bị giới hạn trong các môi trường nhân tạo hẹp, nhưng trí tuệ con người cũng phụ thuộc vào môi trường hẹp tương tự, cho thấy tác động của AI có thể rất sâu rộng trong các hệ sinh thái mà con người đã xây dựng.