AI scientists warn that AI could lead to human extinction or worse, including humans being kept in zoos. Humanity could also self-destruct through nuclear war, pandemics, or environmental destruction. AI poses a greater extinction risk than nuclear war or pandemics, and unlike nukes, we can't calculate the odds because AGI is unpredictable.
Các nhà khoa học AI cảnh báo rằng AI có thể dẫn đến sự tuyệt chủng của loài người hoặc tệ hơn, bao gồm việc con người bị giữ trong sở thú. Nhân loại cũng có thể tự hủy diệt thông qua chiến tranh hạt nhân, đại dịch hoặc hủy hoại môi trường. AI gây ra rủi ro tuyệt chủng lớn hơn chiến tranh hạt nhân hoặc đại dịch, và không giống như vũ khí hạt nhân, chúng ta không thể tính toán xác suất vì AGI không thể đoán trước.
AI scientists warn that a few companies are on track to literally end life on Earth.
Các nhà khoa học AI cảnh báo rằng một vài công ty đang trên đà thực sự kết thúc sự sống trên Trái Đất.
So, surely this is the worst possible outcome, right?
Vậy chắc chắn đây là kết cục tồi tệ nhất có thể, đúng không?
No.
Không.
There actually much worse outcomes.
Thực ra còn có những kết cục tồi tệ hơn nhiều.
Billionaires building AI like Elon Musk think that if AIs become smarter than humanity, We will be like a pet Labrador if we're lucky.
Các tỷ phú xây dựng AI như Elon Musk nghĩ rằng nếu AI trở nên thông minh hơn loài người, chúng ta sẽ giống như một chú chó Labrador nếu may mắn.
We will be left behind by a lot.
Chúng ta sẽ bị bỏ lại phía sau rất xa.
music So far below them in intelligence that it would be would be like, you know, a pet basically.
[nhạc] Thấp kém hơn chúng về trí tuệ đến mức nó sẽ giống như, bạn biết đấy, về cơ bản là một con vật nuôi.
- Pet, that's what I was saying.
- Vật nuôi, đó là điều tôi đang nói.
Like a pet, like a pet.
Như một con vật nuôi, như một con vật nuôi.
- Yes, we'll be pets if we're lucky.
- Đúng vậy, chúng ta sẽ là vật nuôi nếu may mắn.
But here's the worst part.
Nhưng đây là phần tồi tệ nhất.
Many AI scientists aren't fearing extinction.
Nhiều nhà khoa học AI không sợ sự tuyệt chủng.
They're hoping for it.
Họ đang hy vọng vào nó.
They hope smarter AIs will keep humans alive, captive, and studied like animals in a zoo.
Họ hy vọng những AI thông minh hơn sẽ giữ con người sống, bị giam cầm và bị nghiên cứu như động vật trong sở thú.
- music - Remember, this is what we currently do to less intelligent species.
- [nhạc] - Hãy nhớ, đây là điều chúng ta hiện đang làm với các loài kém thông minh hơn.
Okay, so if humans being kept in zoos is considered a good outcome, and extinction isn't the worst outcome, then what is?
Được rồi, vậy nếu việc con người bị giữ trong sở thú được coi là một kết cục tốt, và sự tuyệt chủng không phải là kết cục tồi tệ nhất, thì điều gì mới là?
This video is based on a book called Life 3.0, where MIT professor Max Tegmark describes 12 possible futures.
Video này dựa trên một cuốn sách có tên Life 3.0, trong đó giáo sư MIT Max Tegmark mô tả 12 tương lai có thể xảy ra.
Some are paradise, some are nightmares, and some look like paradise until you
Một số là thiên đường, một số là ác mộng, và một số trông giống thiên đường cho đến khi bạn
try to escape.
Cố gắng trốn thoát.
By the end of this video, you won't read the news the same way.
Đến cuối video này, bạn sẽ không đọc tin tức theo cùng một cách nữa.
Every headline becomes a clue about which future we're heading towards.
Mỗi tiêu đề trở thành một manh mối về tương lai mà chúng ta đang hướng tới.
We'll start with the most normal scenarios and finish with the weirdest.
Chúng ta sẽ bắt đầu với những kịch bản bình thường nhất và kết thúc với những kịch bản kỳ lạ nhất.
Starting with self-destruction.
Bắt đầu với sự tự hủy diệt.
If the idea of humanity suddenly going extinct seems a bit far-fetched, consider this.
Nếu ý tưởng loài người đột nhiên tuyệt chủng có vẻ hơi xa vời, hãy xem xét điều này.
99.9% of species that have ever existed have gone extinct.
99,9% các loài từng tồn tại đã tuyệt chủng.
Seriously, think about that.
Nghiêm túc đấy, hãy nghĩ về điều đó.
Extinction isn't rare, it's the default.
Tuyệt chủng không phải là hiếm, nó là mặc định.
The only question is when will we go extinct?
Câu hỏi duy nhất là khi nào chúng ta sẽ tuyệt chủng?
Turns out there are plenty of ways humanity could kill itself even without superhuman AI.
Hóa ra có rất nhiều cách để loài người có thể tự giết mình ngay cả khi không có AI siêu việt.
There is nuclear war, human created super pandemics, music and destroying the atmosphere and making Earth uninhabitable.
Có chiến tranh hạt nhân, đại dịch siêu cấp do con người tạo ra, [nhạc] và phá hủy bầu khí quyển khiến Trái Đất không thể ở được.
The world had stockpiled 60,000 nuclear warheads before scientists even discovered the possibility of nuclear winter.
Thế giới đã dự trữ 60.000 đầu đạn hạt nhân trước khi các nhà khoa học thậm chí phát hiện ra khả năng xảy ra mùa đông hạt nhân.
63,000.
63.000.
And then scientists realized, "Oh, oops, if we actually use these, the resulting firestorms will blot music out the sun and most humans will starve and die." Oops.
Và rồi các nhà khoa học nhận ra, "Ồ, ôi, nếu chúng ta thực sự sử dụng những thứ này, những cơn bão lửa sẽ che khuất [nhạc] mặt trời và hầu hết con người sẽ chết đói." Ôi.
But the thing is, this almost happened during the Cold War multiple times.
Nhưng vấn đề là, điều này gần như đã xảy ra trong Chiến tranh Lạnh nhiều lần.
If people had actually followed their orders, we might all be dead right now.
Nếu mọi người thực sự tuân theo mệnh lệnh của họ, có lẽ tất cả chúng ta đã chết ngay bây giờ.
We were saved by only thanks to the courage of individual heroes.
Chúng ta được cứu chỉ nhờ lòng dũng cảm của những anh hùng cá nhân.
People like Vasili Arkhipov, who refused to authorize a nuclear launch during the Cuban Missile Crisis, or Stanislav Petrov, who correctly guessed that his early warning system was malfunctioning when it showed incoming American missiles.
Những người như Vasili Arkhipov, người đã từ chối cho phép phóng hạt nhân trong Khủng hoảng Tên lửa Cuba, hoặc Stanislav Petrov, người đã đoán đúng rằng hệ thống cảnh báo sớm của mình bị trục trặc khi nó hiển thị tên lửa Mỹ đang tới.
And get this, one time the US accidentally dropped four thermonuclear bombs on music Spain.
Và hãy nghe này, có lần Mỹ vô tình thả bốn quả bom nhiệt hạch xuống [nhạc] Tây Ban Nha.
And another time, a B-52 bomber broke apart dropping two nukes on North Carolina.
Và một lần khác, một máy bay ném bom B-52 vỡ ra làm rơi hai quả bom hạt nhân xuống North Carolina.
Three out of four safety pins in one bomb broke.
Ba trong bốn chốt an toàn trong một quả bom bị hỏng.
One tiny pin away from potentially killing millions.
Chỉ còn một chốt nhỏ nữa là có thể giết chết hàng triệu người.
music There are literally dozens of close calls like this.
[nhạc] Có hàng tá lần suýt xảy ra như thế này.
It's honestly crazy that we got lucky so many times.
Thật sự điên rồ khi chúng ta may mắn nhiều lần như vậy.
But we might not be so lucky the next time.
Nhưng lần tới chúng ta có thể không may mắn như vậy.
Oxford researcher Toby Ord estimates the risk music of extinction from human created pandemics is more than 30 times the risk of extinction music from nuclear war.
Nhà nghiên cứu Oxford Toby Ord ước tính nguy cơ [nhạc] tuyệt chủng do đại dịch do con người tạo ra cao hơn 30 lần so với nguy cơ tuyệt chủng [nhạc] do chiến tranh hạt nhân.
We're already rolling dice on these scenarios daily, but all of these causes combined are still less likely than the extinction from AI.
Chúng ta đã tung xúc xắc với những kịch bản này hàng ngày, nhưng tất cả những nguyên nhân này cộng lại vẫn ít có khả năng xảy ra hơn so với sự tuyệt chủng do AI.
Toby Ord estimates that the risk of AI killing all humans is a hundred times more likely than extinction music from nuclear war.
Toby Ord ước tính rằng nguy cơ AI giết tất cả con người cao hơn một trăm lần so với sự tuyệt chủng [nhạc] do chiến tranh hạt nhân.
Interestingly, before the first nuclear test, scientists thought they might accidentally destroy music the world, but they thought the odds were very low because they knew enough physics - music - to actually do the calculations.
Thú vị là, trước vụ thử hạt nhân đầu tiên, các nhà khoa học nghĩ rằng họ có thể vô tình phá hủy [nhạc] thế giới, nhưng họ nghĩ khả năng rất thấp vì họ biết đủ vật lý - [nhạc] - để thực sự tính toán.
AGIs, or artificial general intelligences, are far scarier than nukes because, contrary to what many think, we can't do these calculations.
AGI, hay trí tuệ nhân tạo tổng quát, đáng sợ hơn nhiều so với vũ khí hạt nhân vì, trái với suy nghĩ của nhiều người, chúng ta không thể thực hiện những tính toán này.