0:00

16:36

xAI SKIPPED Grok 4.7… Here’s What’s Coming Instead

BitBiasedAI·16:36·Technology·B2

Chương · 7

Chương 1·Grok 4.7's Real Problem: Trained to Quit

Hiển thị

Tiếng ViệtAuto-scroll

0:00

On September 11th, Elon Musk gave the real reason Grock 4.7 still hasn't shipped.

Vào ngày 11 tháng 9, Elon Musk đã tiết lộ lý do thực sự khiến Grock 4.7 vẫn chưa được phát hành.

0:04

Its own reinforcement learning may have trained it to quit on hard problems early, not a compute issue, not a safety review.

Quá trình học tăng cường của chính nó có thể đã huấn luyện nó bỏ cuộc sớm trước những vấn đề khó, không phải vấn đề tính toán, không phải đánh giá an toàn.

0:11

XAI built this model specifically to persist through long agent tasks, then accidentally trained it to give up on them.

XAI đã xây dựng mô hình này đặc biệt để kiên trì qua các tác vụ tác nhân dài, rồi vô tình huấn luyện nó bỏ cuộc với chúng.

0:18

2 days after admitting that, Musk was already talking

2 ngày sau khi thừa nhận điều đó, Musk đã nói về

0:21

about a completely different model.

Một mô hình hoàn toàn khác.

0:23

Grock 4.8.

0:23

That's not a small bug to patch.

Đó không phải là một lỗi nhỏ để vá.

0:26

Persistence, actually finishing a hard task instead of walking away from it, is the one thing X AI has spent three straight model generations trying to build into Grock.

Sự kiên trì, thực sự hoàn thành một tác vụ khó thay vì bỏ đi, là điều duy nhất X AI đã dành ba thế hệ mô hình liên tiếp để cố gắng xây dựng vào Grock.

0:35

An agent that quits early isn't underperforming.

Một tác nhân bỏ cuộc sớm không phải là hoạt động kém hiệu quả.

0:37

It's failing at the exact job it was designed for, and the timing makes it stranger.

Nó thất bại đúng ở công việc mà nó được thiết kế để làm, và thời điểm khiến điều đó càng kỳ lạ hơn.

0:43

Musk had already pushed Grock 4.7 release back three separate times since July, each time promising it was close.

Musk đã trì hoãn phát hành Grock 4.7 ba lần riêng biệt kể từ tháng 7, mỗi lần đều hứa rằng nó sắp ra mắt.

0:49

September 11th was supposed to be the moment that finally got resolved.

Ngày 11 tháng 9 được cho là thời điểm cuối cùng giải quyết được điều đó.

0:53

Instead, two days later, he was describing a different model entirely.

Thay vào đó, hai ngày sau, ông đang mô tả một mô hình hoàn toàn khác.

0:57

A 2.5 trillion parameter Grock 4.8 trained on a brand new software stack that nobody outside XAI has actually touched.

Một Grock 4.8 với 2,5 nghìn tỷ tham số được huấn luyện trên một ngăn xếp phần mềm hoàn toàn mới mà chưa ai bên ngoài XAI thực sự chạm vào.

1:06

Look at this data from the Census Bureau.

Hãy nhìn vào dữ liệu này từ Cục Thống kê Dân số.

1:09

Only about one in five US businesses actually use AI in their operations.

Chỉ khoảng một trong năm doanh nghiệp Hoa Kỳ thực sự sử dụng AI trong hoạt động của họ.

1:14

So, if you run a business and you're even thinking about this, you're ahead of most of your competition.

Vì vậy, nếu bạn điều hành một doanh nghiệp và bạn thậm chí đang nghĩ về điều này, bạn đang đi trước hầu hết đối thủ cạnh tranh.

1:20

What you might not know is that alongside covering AI news, we work with business owners to help them implement AI in their business.

Điều bạn có thể không biết là ngoài việc đưa tin về AI, chúng tôi làm việc với các chủ doanh nghiệp để giúp họ triển khai AI trong doanh nghiệp của họ.

1:27

Our engineering team gets to know how your business runs, then builds the automation with you.

Đội ngũ kỹ thuật của chúng tôi tìm hiểu cách doanh nghiệp của bạn vận hành, sau đó xây dựng tự động hóa cùng với bạn.

1:31

You'll find the link in the description below.

Bạn sẽ tìm thấy liên kết trong phần mô tả bên dưới.

1:33

Click it, fill out a short form about your business, and we'll get in touch to set up a call.

Nhấp vào đó, điền một biểu mẫu ngắn về doanh nghiệp của bạn, và chúng tôi sẽ liên hệ để sắp xếp một cuộc gọi.

1:39

So,

Vậy,

1:40

here's what this video actually sorts out.

Đây là những gì video này thực sự làm rõ.

1:42

what XAI has shipped and proven, what Musk has claimed and hasn't, why the model built to persist started quitting, and what that 2.5 trillion number can and can't tell you about whether 4.8 is really the leap.

Những gì XAI đã phát hành và chứng minh, những gì Musk đã tuyên bố và chưa làm được, tại sao mô hình được xây dựng để kiên trì lại bắt đầu bỏ cuộc, và con số 2,5 nghìn tỷ đó có thể và không thể cho bạn biết điều gì về việc liệu 4.8 có thực sự là bước nhảy vọt.

1:54

It sounds like what Grock 4.6 actually is.

Nghe có vẻ giống như Grock 4.6 thực sự là gì.

1:57

Let's start with what's real because there's a lot of noise around what isn't.

Hãy bắt đầu với những gì là thật vì có rất nhiều nhiễu xung quanh những gì không phải.

2:02

X AI released Grock 4.6 on August 12th, 2026 as its flagship.

X AI đã phát hành Grock 4.6 vào ngày 12 tháng 8 năm 2026 như là sản phẩm chủ lực của mình.

2:06

It ships with a 500,000 token context window, text and image input, configurable reasoning, low, medium, high, and X high, plus function calling, and structured output.

Nó đi kèm với cửa sổ ngữ cảnh 500.000 token, đầu vào văn bản và hình ảnh, suy luận có thể cấu hình, thấp, trung bình, cao và X cao, cùng với gọi hàm và đầu ra có cấu trúc.

2:16

Web and X search run through Gro's tool layer.

Tìm kiếm web và X chạy qua lớp công cụ của Gro.

2:20

API pricing

Giá API

2:21

sits at $2 per million input tokens and $6 per million output, dramatically cheaper than most Frontier competitors.

Ở mức 2 đô la cho mỗi triệu token đầu vào và 6 đô la cho mỗi triệu token đầu ra, rẻ hơn đáng kể so với hầu hết các đối thủ Frontier.

2:28

XAI said 4.6 six got longer supplemental training than 4.5 with regenerated reasoning trajectories and reinforcement learning spread across coding knowledge work kernel optimization web development and CAD translation XAI wasn't just trying to make Grock answer trivia better.

XAI cho biết 4.6 có thời gian huấn luyện bổ sung dài hơn 4.5 với các quỹ đạo suy luận được tái tạo và học tăng cường trải rộng trên công việc lập trình tri thức, tối ưu hóa kernel, phát triển web và dịch CAD. XAI không chỉ cố gắng làm cho Grock trả lời câu đố tốt hơn.

2:44

It was trying to make Grock work longer on harder engineering tasks without falling apart.

Nó đang cố gắng làm cho Grock làm việc lâu hơn với các tác vụ kỹ thuật khó hơn mà không bị sụp đổ.

2:51

The benchmark

Các điểm chuẩn

2:52

gains back that up and it's worth actually going through them because this is what XAI chose to highlight.

Những cải thiện hỗ trợ điều đó và đáng để thực sự xem qua chúng vì đây là những gì XAI chọn để làm nổi bật.

2:59

On XAI's own release table, Grock 4.6 hit 61 on the AA intelligence index, up from 56 for 4.5.

Trên bảng phát hành của chính XAI, Grock 4.6 đạt 61 trên chỉ số thông minh AA, tăng từ 56 của 4.5.

3:07

On GDP vala, a benchmark where models actually produce real professional deliverables judged blind across 44 occupations and nine industries, then converted to an ELO

Trên GDP vala, một điểm chuẩn nơi các mô hình thực sự tạo ra các sản phẩm chuyên nghiệp thực tế được đánh giá mù trên 44 nghề nghiệp và chín ngành công nghiệp, sau đó được chuyển đổi thành ELO

3:17

rating.

Xếp hạng.

3:17

4.6 scored 1753 versus 1526 for 4.5.

4.6 đạt 1753 so với 1526 của 4.5.

3:21

On cursor bench, the IDE native coding agent test XAI trained directly with cursor to build 4.6 hit 69.9% up from 66.7%.

Trên cursor bench, bài kiểm tra tác nhân lập trình gốc IDE mà XAI đã huấn luyện trực tiếp với cursor để xây dựng, 4.6 đạt 69,9% tăng từ 66,7%.

3:33

Deep WE a dedicated software engineering agent benchmark jumped from 54% to 65.9%.

Deep WE, một điểm chuẩn tác nhân kỹ thuật phần mềm chuyên dụng, nhảy từ 54% lên 65,9%.

3:41

On Apex agents, multi-hour professional work in investment banking, consulting, and corporate law, 4.6 scored 57.5%, up from 47.1%.

Trên Apex agents, công việc chuyên nghiệp kéo dài nhiều giờ trong ngân hàng đầu tư, tư vấn và luật doanh nghiệp, 4.6 đạt 57,5%, tăng từ 47,1%.

3:52

And on terminal bench 3.0, 100 execution graded terminal tasks spanning distributed systems and security forensics, 4.6 jumped from 15.7% to 26%.

Và trên terminal bench 3.0, 100 tác vụ đầu cuối được chấm điểm thực thi trải rộng trên các hệ thống phân tán và pháp y bảo mật, 4.6 nhảy từ 15,7% lên 26%.

4:03

That's real consistent progress across almost every agentic and professional work category.

Đó là tiến bộ thực sự nhất quán trên gần như mọi danh mục công việc tác nhân và chuyên nghiệp.

4:09

X AI tested.

X AI đã kiểm tra.

4:11

It's also worth saying clearly, still far from solved.

Cũng đáng nói rõ ràng, vẫn còn xa mới được giải quyết.

4:14

26% on terminal bench means Grock 4.6 fails roughly three out of every four of those tasks.

26% trên terminal bench có nghĩa là Grock 4.6 thất bại khoảng ba trong số bốn tác vụ đó.

4:19

That number matters more than it looks like it should because persistence, actually finishing the job instead of giving up, is about to become the entire plot of this video.

Con số đó quan trọng hơn vẻ ngoài của nó vì sự kiên trì, thực sự hoàn thành công việc thay vì bỏ cuộc, sắp trở thành toàn bộ cốt truyện của video này.

4:30

Two honesty notes before we move on.

Hai lưu ý về sự trung thực trước khi chúng ta tiếp tục.

4:32

First, artificial analysis has

Đầu tiên, phân tích nhân tạo có

4:34

since shifted to a newer benchmark suite, and Grock 4.6 six score there now reads closer to 44.

Kể từ khi chuyển sang một bộ tiêu chuẩn đánh giá mới hơn, và điểm số của Grock 4.6 sáu tại đó hiện đọc gần với 44.

4:40

That's not the model getting worse.

Đó không phải là mô hình trở nên tệ hơn.

4:42

That's two different measuring sticks.

Đó là hai thước đo khác nhau.

4:43

And splicing an August number next to a September number from a revised suite is exactly the kind of mistake that makes AI coverage untrustworthy.

Và việc ghép một con số tháng Tám bên cạnh một con số tháng Chín từ một bộ tiêu chuẩn đã được sửa đổi chính xác là kiểu sai lầm khiến cho các bài đưa tin về AI trở nên không đáng tin cậy.

4:52

Second, XAI never published a clean dedicated math

Thứ hai, XAI chưa bao giờ công bố một tiêu chuẩn toán học chuyên dụng rõ ràng

4:55

benchmark for 4.6 in its release table.

cho 4.6 trong bảng phát hành của nó.

4:58

So, Grock 4.6 is state-of-the-art at math is a line the evidence doesn't actually support, even though the coding and agent numbers are genuinely strong.

Vì vậy, Grock 4.6 là tiên tiến nhất về toán học là một câu mà bằng chứng thực sự không ủng hộ, mặc dù các con số về lập trình và tác nhân thực sự mạnh mẽ.

5:06

where X AI was already headed.

Nơi X AI đã hướng tới.

5:08

Before we get to 4.7 and 4.8, you need the pattern because the pattern is the actual story.

Trước khi chúng ta đến với 4.7 và 4.8, bạn cần nắm được mô hình bởi vì mô hình chính là câu chuyện thực sự.

5:14

Grock 4.3 introduced configurable reasoning and long context.

Grock 4.3 đã giới thiệu khả năng suy luận có thể cấu hình và ngữ cảnh dài.

5:17

Grock 4.5 pushed hard into coding and agentic workflows with direct training collaboration with cursor.

Grock 4.5 đẩy mạnh vào lập trình và các quy trình công việc tác nhân với sự hợp tác huấn luyện trực tiếp với cursor.

5:23

Grock 4.6 extended that into longer agent runs and messier realorld engineering data.

Grock 4.6 mở rộng điều đó thành các lần chạy tác nhân dài hơn và dữ liệu kỹ thuật thực tế lộn xộn hơn.

5:29

On the product side, XAI shipped Grock build planning, terminal execution, parallel sub aents, plug-in support, then open sourced the entire agent

Về phía sản phẩm, XAI đã phát hành Grock build planning, thực thi terminal, các tác nhân phụ song song, hỗ trợ plug-in, sau đó mã nguồn mở toàn bộ tác nhân

5:39

harness.

Harness.

5:39

XAI isn't building a chatbot anymore.

XAI không còn xây dựng một chatbot nữa.

5:41

It's trying to build a persistent co-worker that can search, use tools, sit inside a 500,000 token context, and stay on a task for hours instead of minutes.

Nó đang cố gắng xây dựng một đồng nghiệp thường trực có thể tìm kiếm, sử dụng công cụ, nằm trong ngữ cảnh 500.000 token, và duy trì một nhiệm vụ trong nhiều giờ thay vì vài phút.

5:52

Every version bump since 4.3 has been in service of that one goal.

Mỗi lần tăng phiên bản kể từ 4.3 đều phục vụ cho một mục tiêu đó.

5:56

That's the baseline you need before the next part makes sense.

Đó là đường cơ sở bạn cần trước khi phần tiếp theo trở nên hợp lý.

6:01

The Grock 4.7 promise.

Lời hứa Grock 4.7.

6:02

On July 24th, Musk

Vào ngày 24 tháng Bảy, Musk

6:04

said Grock 4.6 was about 2 weeks out and Grock 4.7 was roughly 4 weeks behind that.

nói Grock 4.6 còn khoảng 2 tuần nữa và Grock 4.7 chậm hơn khoảng 4 tuần so với đó.

6:10

4 days later, he gave actual numbers.

4 ngày sau, ông đưa ra những con số thực tế.

6:13

4.6 at roughly 1.5 trillion parameters.

4.6 với khoảng 1,5 nghìn tỷ tham số.

6:16

4.7 at roughly 2.1 trillion.

4.7 với khoảng 2,1 nghìn tỷ.

6:18

Bigger, a little slower to serve, but more token efficient.

Lớn hơn, phục vụ chậm hơn một chút, nhưng tiết kiệm token hơn.

6:21

On August 12th, the same day 4.6 actually shipped.

Vào ngày 12 tháng Tám, cùng ngày 4.6 thực sự được phát hành.

6:24

Musk said 4.7 initial training was already complete.

Musk nói quá trình huấn luyện ban đầu của 4.7 đã hoàn tất.

6:27

What remained was folding in a large amount of SpaceX engineering and corporate data during supplemental training.

Điều còn lại là đưa một lượng lớn dữ liệu kỹ thuật và doanh nghiệp của SpaceX vào trong quá trình huấn luyện bổ sung.

6:33

He estimated three to four more weeks.

Ông ước tính thêm ba đến bốn tuần nữa.

6:35

Then the date kept moving.

Sau đó ngày tháng cứ tiếp tục thay đổi.

6:37

September 2nd, 10 days out.

Ngày 2 tháng Chín, còn 10 ngày nữa.

6:38

September 11th, a few more days, but this time with an actual technical reason attached.

Ngày 11 tháng Chín, thêm vài ngày nữa, nhưng lần này có kèm theo một lý do kỹ thuật thực sự.

6:44

What actually went wrong with 4.7?

Điều gì thực sự đã sai với 4.7?

6:46

This is the detail that changes how you should read the entire timeline.

Đây là chi tiết thay đổi cách bạn nên đọc toàn bộ dòng thời gian.

6:51

On September 11th, Musk said the reinforcement learning process may have penalized long answers too aggressively.

Vào ngày 11 tháng Chín, Musk nói rằng quá trình học tăng cường có thể đã phạt các câu trả lời dài quá mạnh.

6:57

The result 4.7 was learning to give up on hard problems early and it wasn't checking its own work carefully enough.

Kết quả là 4.7 đang học cách bỏ cuộc sớm với các vấn đề khó và nó không kiểm tra lại công việc của mình đủ cẩn thận.

7:03

Think about what that means in practice.

Hãy nghĩ về điều đó có nghĩa gì trong thực tế.

7:06

Imagine training a student to write efficient exam answers but rewarding brevity so heavily that the student starts turning in the test before finishing the hard questions and stops double-checking the ones they did answer.

Hãy tưởng tượng huấn luyện một học sinh viết câu trả lời thi hiệu quả nhưng thưởng cho sự ngắn gọn mạnh đến mức học sinh đó bắt đầu nộp bài trước khi hoàn thành các câu hỏi khó và ngừng kiểm tra lại những câu mình đã trả lời.

7:16

That's not a model that's too dumb.

Đó không phải là một mô hình quá ngu ngốc.

7:18

That's a model that got trained to quit.

Đó là một mô hình đã được huấn luyện để bỏ cuộc.

7:21

For a chatbot, that's a minor annoyance.

Đối với một chatbot, đó là một điều khó chịu nhỏ.

7:23

For the exact thing XAI has

Đối với chính thứ mà XAI đã

7:25

been building since 4.3, an agent that runs dozens or hundreds of tool calls, that writes code and retests it, that stays on a research task without losing the thread.

xây dựng từ 4.3, một tác nhân chạy hàng chục hoặc hàng trăm lệnh gọi công cụ, viết mã và kiểm tra lại nó, duy trì một nhiệm vụ nghiên cứu mà không mất mạch.

7:35

Premature quitting is close to disqualifying.

Việc bỏ cuộc sớm gần như là điều bị loại.

7:38

It's the same weakness terminal bench was already exposing at 26%.

Đó là cùng điểm yếu mà terminal bench đã phơi bày ở mức 26%.

7:42

Just named out loud.

Chỉ là được gọi tên thành tiếng.

7:43

By September 14th, Musk was still describing 4.7 directly.

Đến ngày 14 tháng Chín, Musk vẫn đang mô tả 4.7 một cách trực tiếp.

7:46

He placed its expected

Ông đặt hiệu năng kỳ vọng của nó

7:48

performance around Claude Opus 5.0 zero quote sle and said multimodal quality still needed work.

khoảng Claude Opus 5.0 zero quote sle và nói rằng chất lượng đa phương thức vẫn cần cải thiện.

7:53

That's worth sitting with because it directly contradicts the idea that 4.7 got scrapped.

Điều đó đáng để suy ngẫm bởi vì nó trực tiếp mâu thuẫn với ý tưởng rằng 4.7 đã bị hủy bỏ.

7:58

You don't publicly benchmark place a model you've already abandoned.

Bạn không công khai đánh giá một mô hình mà bạn đã từ bỏ.

8:02

So the honest headline isn't XAI skipped Grock 4.7.

Vậy nên tiêu đề trung thực không phải là XAI đã bỏ qua Grock 4.7.

8:06

It's this Grock 4.7 missed release window after release window.

Mà là Grock 4.7 đã bỏ lỡ hết cửa sổ phát hành này đến cửa sổ phát hành khác.

8:09

And on September 11th, Musk gave the actual reason, a reinforcement learning trade-off that was quietly teaching the model to give up.

Và vào ngày 11 tháng 9, Musk đã đưa ra lý do thực sự, một sự đánh đổi trong học tăng cường đang âm thầm dạy mô hình cách bỏ cuộc.

8:17

Strip away the speculation and here's what's actually confirmed versus what's still a guess.

Gạt bỏ những suy đoán, đây là những gì thực sự được xác nhận so với những gì vẫn còn là phỏng đoán.

8:23

Confirmed.

Đã xác nhận.

8:23

The schedule slipped repeatedly.

Lịch trình đã trượt liên tục.

8:24

The RL reward may have overpenalized length.

Phần thưởng RL có thể đã phạt quá nặng độ dài.

8:27

The model gave up too early and needed stronger self-checking.

Mô hình đã bỏ cuộc quá sớm và cần tự kiểm tra mạnh mẽ hơn.

8:31

And multimodal quality still needed work as of September 14th.

Và chất lượng đa phương thức vẫn cần cải thiện tính đến ngày 14 tháng 9.

8:35

Not confirmed despite what you'll see in comment sections.

Không được xác nhận bất chấp những gì bạn sẽ thấy trong phần bình luận.

8:38

Cancellation, a merger into 4.8, a stealth rename.

Hủy bỏ, sáp nhập vào 4.8, đổi tên lén lút.

8:41

None of that has a source.

Không điều nào trong số đó có nguồn.

8:43

What we genuinely don't know is whether 4.7 ships publicly at all or whether it quietly becomes a checkpoint inside a later model instead of a standalone release.

Điều chúng ta thực sự không biết là liệu 4.7 có được phát hành công khai hay không hay liệu nó có âm thầm trở thành một checkpoint bên trong một mô hình sau này thay vì một bản phát hành độc lập.

8:54

Then Grock 4.8 showed up before 4.7 even shipped.

Rồi Grock 4.8 xuất hiện trước khi 4.7 thậm chí được phát hành.

8:57

On September 13th, while 4.7 was still

Vào ngày 13 tháng 9, trong khi 4.7 vẫn còn

9:00

stuck in that fix, Musk posted something new.

Mắc kẹt trong bản sửa đó, Musk đã đăng một điều gì đó mới.

9:03

Grock 4.8, a 2.5 trillion parameter model trained on a brand new C++ software stack.

Grock 4.8, một mô hình 2,5 nghìn tỷ tham số được huấn luyện trên một ngăn xếp phần mềm C++ hoàn toàn mới.

9:08

Training expected to finish that same week with reinforcement learning to start right after.

Huấn luyện dự kiến hoàn thành trong cùng tuần đó với học tăng cường sẽ bắt đầu ngay sau đó.

9:14

No XAI product page, no model card, no API listing, just a post from Musk.

Không có trang sản phẩm XAI, không có thẻ mô hình, không có danh sách API, chỉ có một bài đăng từ Musk.

9:20

And that matters because everything specific about 4.8 traces back to that one

Và điều đó quan trọng vì mọi thông tin cụ thể về 4.8 đều bắt nguồn từ một

9:25

source.

Nguồn đó.

9:25

Here's the part that should slow you down.

Đây là phần nên khiến bạn chậm lại.

9:28

2.5 trillion sounds like a straightforward 67% jump over the 1.5 trillion figure Musk gave for 4.6.

2,5 nghìn tỷ nghe như một bước nhảy vọt 67% so với con số 1,5 nghìn tỷ mà Musk đưa ra cho 4.6.

9:34

But that comparison assumes both numbers are counted the same way.

Nhưng so sánh đó giả định cả hai con số được đếm theo cùng một cách.

9:38

And there's no evidence they are.

Và không có bằng chứng nào cho thấy chúng như vậy.

9:41

XAI's own open- source Gro one is the proof.

Grok-1 mã nguồn mở của chính XAI là bằng chứng.

9:44

It had 314 billion total parameters split across eight experts with only two of those

Nó có 314 tỷ tham số tổng cộng được chia cho tám chuyên gia với chỉ hai trong số những

9:50

experts actually active for any given token.

Chuyên gia thực sự hoạt động cho bất kỳ token nào.

9:52

The total parameter count told you almost nothing about inference cost, speed, or how much of the model actually thinks on each response.

Tổng số tham số hầu như không cho bạn biết gì về chi phí suy luận, tốc độ, hay bao nhiêu phần của mô hình thực sự suy nghĩ trên mỗi phản hồi.

10:00

If Grock 4.8 uses a similar mixture of experts design 2.5 trillion could describe total capacity not the number of parameters doing the work on your prompt nobody's published which one it is so the honest

Nếu Grock 4.8 sử dụng thiết kế mixture of experts tương tự, 2,5 nghìn tỷ có thể mô tả tổng dung lượng chứ không phải số tham số thực hiện công việc trên prompt của bạn, chưa ai công bố đó là cái nào, vậy nên phiên bản trung thực

10:13

version of this claim is Musk says Grock 4.8 is a 2.5- trillion-parameter model, not XAI has confirmed a 2.5- trillion-parameter architecture.

Của tuyên bố này là Musk nói Grock 4.8 là một mô hình 2,5 nghìn tỷ tham số, không phải XAI đã xác nhận một kiến trúc 2,5 nghìn tỷ tham số.

10:21

Those are two different sentences and only one of them is currently true.

Đó là hai câu khác nhau và chỉ một trong số đó hiện đúng.

10:26

Why the C++ stack might be the real story.

Tại sao ngăn xếp C++ có thể là câu chuyện thực sự.

10:29

Here's what I think actually matters more than the parameter count.

Đây là điều tôi nghĩ thực sự quan trọng hơn số lượng tham số.

10:33

Back in May, months before Grock 4.8 had a name.

Hồi tháng 5, nhiều tháng trước khi Grock 4.8 có tên.

10:37

Musk said

Musk nói

10:38

SpaceX was close to finishing an in-house training stack written in C built specifically around a massive GB300 cluster with heavy pipeline parallelism.

SpaceX sắp hoàn thành một ngăn xếp huấn luyện nội bộ viết bằng C được xây dựng đặc biệt xung quanh một cụm GB300 khổng lồ với song song hóa pipeline nặng.

10:46

He claimed it could beat Jax, the framework most large labs train on by more than an order of magnitude on very large runs.

Ông tuyên bố nó có thể đánh bại Jax, framework mà hầu hết các phòng thí nghiệm lớn huấn luyện, hơn một bậc độ lớn trong các lần chạy rất lớn.

10:54

No one has independently verified that number.

Chưa ai xác minh độc lập con số đó.

10:57

Split that claim in two.

Chia tuyên bố đó thành hai.

10:59

The engineering principle is completely credible.

Nguyên lý kỹ thuật hoàn toàn đáng tin.

11:01

A custom low-level stack really can reduce idle GPU time, cut communication overhead between machines, and squeeze more real throughput out of the same hardware.

Một ngăn xếp cấp thấp tùy chỉnh thực sự có thể giảm thời gian GPU nhàn rỗi, cắt giảm chi phí giao tiếp giữa các máy, và ép nhiều thông lượng thực hơn từ cùng phần cứng.

11:11

NVIDIA's own large-scale training work shows exactly that.

Công trình huấn luyện quy mô lớn của chính NVIDIA cho thấy chính xác điều đó.

11:15

Fused kernels, optimized collective communication, better pipeline

Kernel hợp nhất, giao tiếp tập thể tối ưu, pipeline tốt hơn

11:18

balancing, all move the needle at scale.

Cân bằng, tất cả đều tạo ra khác biệt ở quy mô lớn.

11:20

That part isn't hype.

Phần đó không phải là cường điệu.

11:21

The magnitude is the unverified part.

Độ lớn là phần chưa được xác minh.

11:23

More than 10 times faster than Jax is a claim from the person selling the road map, not a benchmark anyone outside XAI has reproduced.

Nhanh hơn Jax hơn 10 lần là tuyên bố từ người đang bán lộ trình, không phải một benchmark mà bất kỳ ai bên ngoài XAI đã tái tạo.

11:31

And to be clear, C++ itself doesn't make a model smarter.

Và để rõ ràng, bản thân C++ không làm cho mô hình thông minh hơn.

11:35

The language doesn't add intelligence.

Ngôn ngữ không thêm trí thông minh.

11:37

What matters is whether engineers use that low-level control to actually keep

Điều quan trọng là liệu các kỹ sư có sử dụng khả năng điều khiển cấp thấp đó để thực sự giữ

11:41

hundreds of thousands of GPUs busy instead of waiting on each other.

Hàng trăm nghìn GPU bận rộn thay vì chờ đợi lẫn nhau.

11:45

The compute behind the claim and its limits.

Sức mạnh tính toán đằng sau tuyên bố và những giới hạn của nó.

11:48

The hardware to support a 2.5- trillion-parameter run does exist, at least on paper.

Phần cứng để hỗ trợ một lần chạy 2,5 nghìn tỷ tham số thực sự tồn tại, ít nhất là trên giấy tờ.

11:54

Nvidia documented XAI's original Colossus cluster back in 2024 at 100,000 Hopper GPUs.

Nvidia đã ghi nhận cụm Colossus ban đầu của XAI vào năm 2024 với 100.000 GPU Hopper.

12:00

By May 2026, SpaceX AAI put Colossus 1 alone at more than 220,000 physical GPUs, a mix of H100, H200, and GB200 chips.

Đến tháng 5 năm 2026, SpaceX AAI đưa riêng Colossus 1 lên hơn 220.000 GPU vật lý, gồm hỗn hợp chip H100, H200 và GB200.

12:11

And in a January funding announcement, XAI said Colossus 1 and 2 combined had already

Và trong một thông báo gọi vốn vào tháng 1, XAI cho biết Colossus 1 và 2 kết hợp đã

12:19

crossed 1 million H100 equivalents by the end of 2025.

Vượt qua 1 triệu đơn vị tương đương H100 vào cuối năm 2025.

12:22

That last phrase needs unpacking because it's doing a lot of work.

Cụm từ cuối cùng đó cần được mổ xẻ vì nó đang gánh rất nhiều ý nghĩa.

12:27

An H100 equivalent is a normalized compute measure.

Một đơn vị tương đương H100 là một thước đo tính toán đã được chuẩn hóa.

12:30

It is not 1 million physical H100 cards sitting in a warehouse.

Nó không phải là 1 triệu thẻ H100 vật lý nằm trong một nhà kho.

12:35

Memphis separately has a stated goal of 1 million physical GPUs on site sometime in 2026.

Memphis riêng rẽ có mục tiêu đã nêu là 1 triệu GPU vật lý tại chỗ vào một thời điểm nào đó trong năm 2026.

12:41

Those are two different 1 million claims and treating

Đó là hai tuyên bố 1 triệu khác nhau và việc coi

12:45

them as the same number is exactly the kind of mistake this story invites.

Chúng là cùng một con số chính xác là kiểu sai lầm mà câu chuyện này mời gọi.

12:49

And here's the part that keeps this section honest instead of just impressive.

Và đây là phần giữ cho mục này trung thực thay vì chỉ gây ấn tượng.

12:53

Bloomberg reported that XAI actually struggled to efficiently link Colossus 1 with other data center sites more than 10 mi away.

Bloomberg đưa tin rằng XAI thực sự đã vật lộn để liên kết hiệu quả Colossus 1 với các địa điểm trung tâm dữ liệu khác cách xa hơn 10 dặm.

13:01

Aging network infrastructure, real latency problems.

Cơ sở hạ tầng mạng lỗi thời, các vấn đề độ trễ thực sự.

13:04

XAI ended up leasing that entire facility to Anthropic and moving its own training elsewhere.

XAI cuối cùng đã cho Anthropic thuê toàn bộ cơ sở đó và chuyển hoạt động huấn luyện của chính mình đi nơi khác.

13:08

Sit with that for a second.

Hãy ngẫm nghĩ về điều đó một chút.

13:10

One of XAI's most cited compute facilities is currently being used by a direct competitor.

Một trong những cơ sở tính toán được trích dẫn nhiều nhất của XAI hiện đang được sử dụng bởi một đối thủ cạnh tranh trực tiếp.

13:15

Owning hundreds of thousands of GPUs is not the same thing as making them act like one machine.

Sở hữu hàng trăm nghìn GPU không giống như khiến chúng hoạt động như một cỗ máy duy nhất.

13:21

That's exactly the problem a custom C++ stack would need to solve and exactly why the software story might end up mattering more than the parameter count.

Đó chính xác là vấn đề mà một ngăn xếp C++ tùy chỉnh sẽ cần giải quyết và chính xác là lý do tại sao câu chuyện phần mềm có thể cuối cùng lại quan trọng hơn số lượng tham số.

13:29

None of this is guesswork about whether XAI has enough hardware.

Không có điều nào trong số này là phỏng đoán về việc liệu XAI có đủ phần cứng hay không.

13:33

It clearly does.

Rõ ràng là có.

13:34

The open question is efficiency.

Câu hỏi còn bỏ ngỏ là hiệu quả.

13:36

How much of that million plus GPU equivalent capacity is actually being used to train Grock 4.8 right now at what utilization and whether the new stack closes the exact networking gap that sent Colossus 1 to a competitor in the first place.

Bao nhiêu trong số hơn một triệu dung lượng tương đương GPU đó thực sự đang được sử dụng để huấn luyện Grock 4.8 ngay lúc này, với mức sử dụng là bao nhiêu và liệu ngăn xếp mới có khắc phục được chính xác khoảng cách mạng lưới đã khiến Colossus 1 rơi vào tay một đối thủ cạnh tranh ngay từ đầu hay không.

13:51

XAI hasn't published flops token counts or cluster allocation for this run.

XAI chưa công bố số lượng flops token hay phân bổ cụm cho lần chạy này.

13:55

That's not a criticism.

Đó không phải là một lời chỉ trích.

13:57

Most labs don't.

Hầu hết các phòng thí nghiệm đều không công bố.

13:58

But it means every 4.8 was trained on Xoflops.

Nhưng điều đó có nghĩa là mọi tuyên bố "4.8 được huấn luyện trên X flops"

14:01

Claim you see elsewhere is fabricated, not sourced.

mà bạn thấy ở nơi khác đều là bịa đặt, không có nguồn.

14:05

what Grock 4.8 actually has to beat.

Grock 4.8 thực sự phải vượt qua điều gì.

14:08

Here's the bar 4.8 is walking into because the competitive landscape didn't wait around for it.

Đây là mức chuẩn mà 4.8 đang bước vào, bởi vì bối cảnh cạnh tranh đã không chờ đợi nó.

14:14

OpenAI launched GPT6 Astra on September 3rd, reporting 57.9% on Terminal Bench 4.0, 96% on GPQA Diamond, and 59.3% on Agents Last Exam, priced at $10 per million input tokens, and $50 per million output.

OpenAI ra mắt GPT6 Astra vào ngày 3 tháng 9, báo cáo đạt 57,9% trên Terminal Bench 4.0, 96% trên GPQA Diamond và 59,3% trên Agents Last Exam, với giá 10 đô la cho mỗi triệu token đầu vào và 50 đô la cho mỗi triệu token đầu ra.

14:30

Anthropic released Claude Fable 5.1 on September 1st as its strongest model for coding

Anthropic phát hành Claude Fable 5.1 vào ngày 1 tháng 9 như mô hình mạnh nhất của họ cho lập trình

14:36

and long-running agent work.

Và công việc tác nhân chạy dài.

14:37

Google shipped Gemini 3.8 Flash on September 2nd, pushing hard on price to performance.

Google tung ra Gemini 3.8 Flash vào ngày 2 tháng 9, đẩy mạnh về tỷ lệ giá trên hiệu năng.

14:42

Against that field, Gro 4.6 quote s $2/6 pricing is still a genuine edge if the work it produces holds up on match tasks.

So với bối cảnh đó, mức giá 2/6 đô la được trích dẫn của Gro 4.6 vẫn là một lợi thế thực sự nếu công việc nó tạo ra đứng vững trên các tác vụ phù hợp.

14:51

But the most useful number in this whole story isn't a benchmark.

Nhưng con số hữu ích nhất trong toàn bộ câu chuyện này không phải là một bài kiểm tra chuẩn.

14:56

It's Musk's own September 14th ranking of his own road map.

Đó là bảng xếp hạng ngày 14 tháng 9 của chính Musk về lộ trình của chính ông ấy.

15:00

He put 4.7 at roughly Claude Opus 5.0 level.

Ông ấy đặt 4.7 ở mức xấp xỉ Claude Opus 5.0.

15:04

He called 4.8 a noticeable improvement, not a frontier leader.

Ông ấy gọi 4.8 là một cải tiến đáng chú ý, không phải một nhà lãnh đạo tiên phong.

15:08

He said 4.9 would probably reach Astra and Fableclass territory.

Ông ấy nói 4.9 có lẽ sẽ đạt tới vùng lãnh thổ của Astra và Fable.

15:12

And he saved maybe better than anything for Gro 5.

Và ông ấy dành có lẽ điều tốt nhất cho Gro 5.

15:16

Even Musk isn't claiming 4.8 wins.

Ngay cả Musk cũng không tuyên bố 4.8 thắng.

15:18

He's placing that expectation two models later.

Ông ấy đặt kỳ vọng đó ở hai mô hình sau.

15:21

The actual

Phán quyết

15:22

verdict.

thực sự.

15:22

So here's what the evidence supports and what it doesn't.

Vậy đây là những gì bằng chứng ủng hộ và những gì nó không ủng hộ.

15:25

Grock 4.7 wasn't skipped.

Grock 4.7 không bị bỏ qua.

15:26

It got stuck in post training where a reinforcement learning trade-off was apparently teaching it to quit on hard problems too early.

Nó bị mắc kẹt trong quá trình huấn luyện sau, nơi một sự đánh đổi trong học tăng cường dường như đang dạy nó từ bỏ các vấn đề khó quá sớm.

15:33

The exact failure mode that matters most for an agent model.

Đúng chế độ thất bại quan trọng nhất đối với một mô hình tác nhân.

15:36

While that fix was underway, a separate larger training run kept going in parallel.

Trong khi bản sửa lỗi đó đang được tiến hành, một đợt huấn luyện lớn hơn riêng biệt vẫn tiếp tục song song.

15:41

That run became

Đợt huấn luyện đó đã trở thành

15:42

Grock 4.8 and Musk went public with it before 4.7 had shipped.

Grock 4.8 và Musk đã công bố nó trước khi 4.7 được phát hành.

15:46

Not because 4.7 got replaced, but because XAI appears to be running successive foundation models backto back instead of waiting for one release to fully clear before starting the next.

Không phải vì 4.7 bị thay thế, mà vì XAI dường như đang chạy liên tiếp các mô hình nền tảng kế tiếp nhau thay vì chờ một bản phát hành hoàn tất hoàn toàn trước khi bắt đầu bản tiếp theo.

15:56

That's a more interesting story than XAI skipped a version.

Đó là một câu chuyện thú vị hơn việc XAI bỏ qua một phiên bản.

16:00

It says something about how fast XAI is trying to move, multiple giant training

Nó nói lên điều gì đó về tốc độ XAI đang cố gắng tiến lên, nhiều đợt huấn luyện khổng lồ

16:05

runs overlapping, one new low-level software stack underneath all of them, and a road map where even the person running the company admits the actually frontier beating model is still two releases away.

chồng chéo lên nhau, một ngăn xếp phần mềm cấp thấp mới bên dưới tất cả chúng, và một lộ trình mà ngay cả người điều hành công ty cũng thừa nhận mô hình thực sự vượt trội so với tiên phong vẫn còn cách hai bản phát hành nữa.

16:16

None of this is confirmed until XAI publishes it.

Không điều nào trong số này được xác nhận cho đến khi XAI công bố.

16:19

No model card, no benchmark, no price for either 4.7 or 4.8 as of this recording.

Không có thẻ mô hình, không có đánh giá chuẩn, không có giá cho cả 4.7 lẫn 4.8 tính đến thời điểm ghi âm này.

16:25

Watch for whichever one actually gets a release

Hãy theo dõi xem bản nào thực sự được phát hành

16:28

page first.

trang trước tiên.

16:28

That will tell you more than any parameter count Musk posts between now and then.

Điều đó sẽ cho bạn biết nhiều hơn bất kỳ con số tham số nào mà Musk đăng tải từ giờ đến lúc đó.

16:33

Thanks for watching and I'll see you in the next

Cảm ơn các bạn đã theo dõi và hẹn gặp lại các bạn trong

Transcript

Hiển thị

Grok 4.7's Real Problem: Trained to Quit

On September 11th, Elon Musk revealed that Grok 4.7's delay was not caused by compute limits or safety reviews, but by its own reinforcement learning process. The model was apparently penalized too aggressively for long answers, teaching it to give up on hard problems early and skip self-checking. This is especially damaging because xAI has spent three model generations trying to build an agent that persists through long tasks. Just two days later, Musk was already talking about a completely different model, Grok 4.8.

Vào ngày 11 tháng 9, Elon Musk tiết lộ rằng sự chậm trễ của Grok 4.7 không phải do giới hạn tính toán hay đánh giá an toàn, mà do chính quá trình học tăng cường của nó. Mô hình dường như bị phạt quá nặng vì các câu trả lời dài, khiến nó học cách bỏ cuộc sớm với các vấn đề khó và bỏ qua việc tự kiểm tra. Điều này đặc biệt tai hại vì xAI đã dành ba thế hệ mô hình để cố gắng xây dựng một tác nhân kiên trì qua các tác vụ dài. Chỉ hai ngày sau, Musk đã nói về một mô hình hoàn toàn khác, Grok 4.8.