Local AI is expensive, hard to set up, and less capable than frontier models, making it impractical for most users. Even a highly technical person with ample resources prefers cloud-based AI for real work, raising questions about who local AI is actually for.
AI cục bộ đắt đỏ, khó thiết lập và kém năng lực hơn các mô hình tiên tiến, khiến nó không thực tế với hầu hết người dùng. Ngay cả một người có chuyên môn kỹ thuật cao với nguồn lực dồi dào cũng thích AI trên đám mây cho công việc thực tế, đặt ra câu hỏi AI cục bộ thực sự dành cho ai.
Local AI makes no sense to me right now.
AI cục bộ hiện tại không có ý nghĩa gì với tôi.
If you're telling the average person to drop their chat GPT subscription to run their AI locally, you are kidding yourself.
Nếu bạn đang bảo người dùng bình thường hủy đăng ký ChatGPT để chạy AI cục bộ, thì bạn đang tự lừa mình.
Local AI is expensive.
AI cục bộ rất tốn kém.
It's hard to set up and it's not as good as the frontier.
Nó khó thiết lập và không tốt bằng các mô hình tiên phong.
And here's why I care about this so much.
Và đây là lý do tại sao tôi quan tâm đến điều này nhiều như vậy.
If local AI fails, that's actually a bigger problem than anything else.
Nếu AI cục bộ thất bại, đó thực sự là một vấn đề lớn hơn bất cứ điều gì khác.
And here's the thing, I should be the easiest person to convince to use local AI.
Và đây là điều đáng nói, tôi lẽ ra phải là người dễ thuyết phục nhất để sử dụng AI cục bộ.
I have a massive amount of compute.
Tôi có một lượng lớn năng lực tính toán.
I am very technical.
Tôi rất giỏi kỹ thuật.
I literally cover this stuff for a living.
Tôi thực sự đưa tin về những thứ này để kiếm sống.
I can spend as much time as it takes to run local AI optimally.
Tôi có thể dành bao nhiêu thời gian cần thiết để chạy AI cục bộ một cách tối ưu.
I also want control over my data.
Tôi cũng muốn kiểm soát dữ liệu của mình.
I also don't want to be at the mercy of the frontier labs deciding to cut me off one day.
Tôi cũng không muốn phụ thuộc vào việc các phòng thí nghiệm tiên phong quyết định cắt tôi một ngày nào đó.
But still, when I really want to get something done, I'm going to Chad GPT.
Nhưng dù vậy, khi tôi thực sự muốn hoàn thành một việc gì đó, tôi sẽ đến với ChatGPT.
I'm going to Claude.
Tôi sẽ đến với Claude.
And I feel like a lot of the local AI discussion right now is look what I've got running, not look what I was actually able to accomplish with local AI.
Và tôi cảm thấy nhiều cuộc thảo luận về AI cục bộ hiện nay là "hãy xem tôi có gì đang chạy", chứ không phải "hãy xem tôi thực sự đã đạt được gì với AI cục bộ".
And that's the big distinction.
Và đó là sự khác biệt lớn.
And so that got me thinking and it got me asking a bunch of questions to myself like who is local AI actually for?
Và điều đó khiến tôi suy nghĩ và đặt ra hàng loạt câu hỏi cho bản thân như AI cục bộ thực sự dành cho ai?
And what happens if local AI doesn't end up working out in the long run?
Và điều gì sẽ xảy ra nếu AI cục bộ cuối cùng không thành công về lâu dài?
And then also what is realistic?
Và sau đó là điều gì là thực tế?
How does it actually compare to the frontier?
Nó thực sự so sánh với các mô hình tiên phong như thế nào?
Does the math even make sense?
Phép tính có hợp lý không?
And I've done the math and I'm going to show you the math and I want to be super clear up front.
Và tôi đã làm phép tính và tôi sẽ cho bạn thấy phép tính và tôi muốn nói rõ ngay từ đầu.
I really want local AI to work.
Tôi thực sự muốn AI cục bộ thành công.
I really want to be using local AI every day.
Tôi thực sự muốn sử dụng AI cục bộ hàng ngày.
There are a few critically important benefits of local AI, which I'm going to go over in a minute, and those make me want it to work.
Có một vài lợi ích cực kỳ quan trọng của AI cục bộ, mà tôi sẽ trình bày trong một phút nữa, và những điều đó khiến tôi muốn nó thành công.
And so with that, with all of the criticisms you're going to hear right now, just keep that in mind.
Và vì vậy, với tất cả những lời chỉ trích bạn sắp nghe đây, hãy ghi nhớ điều đó.
I want it to work.
Tôi muốn nó thành công.
And then I'm also going to paint a vision for in the future how it might work.
Và sau đó tôi cũng sẽ vẽ ra một tầm nhìn về tương lai cách nó có thể hoạt động.
But before you go out and drop 34 $7,000 on a new GPU or a new computer, let's think through the math.
Nhưng trước khi bạn bỏ ra 3.400 đến 7.000 đô la cho một GPU mới hoặc một máy tính mới, hãy cùng suy nghĩ qua phép tính.