Anthropic's new model Fable 5 tops benchmarks but sparks backlash over data retention and silent downgrading of users. The hosts debate censorship, regulatory capture, and the risk of pushing companies toward Chinese open-source models.
Mô hình mới Fable 5 của Anthropic đứng đầu các bảng xếp hạng nhưng gây phản ứng dữ dội về việc lưu trữ dữ liệu và âm thầm hạ cấp người dùng. Các host tranh luận về kiểm duyệt, chiếm đoạt quy định và nguy cơ đẩy các công ty về phía các mô hình mã nguồn mở của Trung Quốc.
All right, everybody.
Được rồi, mọi người.
Welcome back to the number one podcast in the world.
Chào mừng trở lại với podcast số một thế giới.
It's your favorite podcast.
Đây là podcast yêu thích của bạn.
It's your podcasters' favorite podcast.
Đây là podcast yêu thích của các podcaster.
It's the podcast that everybody likes to rip off for 50 episodes and then they quit.
Đây là podcast mà ai cũng thích bắt chước trong 50 tập rồi sau đó họ bỏ.
But the All-In podcast laughter is not quitting.
Nhưng podcast All-In [tiếng cười] thì không bỏ.
We're doubling down with the original quartet.
Chúng tôi đang tăng gấp đôi với bộ tứ gốc.
Everybody's here for a big week, lots of debates, and we got to start with Anthropic.
Mọi người đều có mặt cho một tuần lớn, nhiều cuộc tranh luận, và chúng ta phải bắt đầu với Anthropic.
Anthropic released a mythos level model with some interesting guardrails and, uh, seems as though Daario is back to blogging.
Anthropic đã phát hành một mô hình cấp độ mythos với một số rào chắn thú vị và, ừ, có vẻ như Daario đã trở lại viết blog.
Okay, the model's called Fable 5.
Được rồi, mô hình này có tên là Fable 5.
No idea why they're calling it that, or released on Tuesday, and it tops every benchmark, nearly every benchmark.
Không biết tại sao họ lại gọi nó như vậy, hoặc phát hành vào thứ Ba, và nó đứng đầu mọi bài kiểm tra chuẩn, gần như mọi bài kiểm tra chuẩn.
The tokens, however, cost twice as much as Opus 4.8, but it should use less tokens overall because it's theoretically that
Tuy nhiên, các token có giá gấp đôi so với Opus 4.8, nhưng về tổng thể nó nên dùng ít token hơn vì về mặt lý thuyết nó
much better.
Tốt hơn nhiều.
Unclear if this is going to alleviate some of the hand ringing around the cost of tokens, but you remember in April Anthropic famously did not release Mythos because publicly, uh, it had some strong hacking capabilities.
Không rõ liệu điều này có làm dịu bớt phần nào những lo lắng xoay quanh chi phí token hay không, nhưng bạn còn nhớ vào tháng Tư Anthropic nổi tiếng là đã không phát hành Mythos vì công khai, ừ, nó có một số khả năng hack mạnh mẽ.
So they gave it to some folks and we had, um, the CEO of Nesh of Palo Alto Networks who said, "Hey, Mythos was the real deal," and that they
Vậy nên họ đã đưa nó cho một số người và chúng ta đã có, ừm, CEO của Nesh thuộc Palo Alto Networks, người đã nói, "Này, Mythos là hàng thật," và rằng họ
used it to seal up some vulnerabilities inside their shop.
Đã dùng nó để bịt một số lỗ hổng bên trong cửa hàng của họ.
Obviously, this new model is sensitive, uh, to topics like bio weapons, hacking, all that stuff are blocked in it.
Rõ ràng, mô hình mới này rất nhạy cảm, ừ, với các chủ đề như vũ khí sinh học, hack, tất cả những thứ đó đều bị chặn trong nó.
But they got a big developer backlash and then I'll get your feedback after I explain this.
Nhưng họ đã nhận phản ứng dữ dội từ các nhà phát triển và sau đó tôi sẽ lấy phản hồi của bạn sau khi tôi giải thích điều này.
While using Fable, Anthropic stores all the prompt data you enter for at least 30 days.
Trong khi sử dụng Fable, Anthropic lưu trữ tất cả dữ liệu prompt bạn nhập trong ít nhất 30 ngày.
And so that's a bit of a privacy issue.
Và vì vậy đó là một vấn đề riêng tư phần nào.
And if Fable 5 detects you're doing frontier AI research, in other words, using their model to make a better model, competitive model, they were downgrading you, but they weren't telling you.
Và nếu Fable 5 phát hiện bạn đang làm nghiên cứu AI tiên phong, nói cách khác, dùng mô hình của họ để tạo ra một mô hình tốt hơn, mô hình cạnh tranh, họ đã hạ cấp bạn, nhưng họ không nói cho bạn biết.
And this was buried deep in a 319 page document.
Và điều này bị chôn sâu trong một tài liệu dài 319 trang.
So many kuruffles,
Thật nhiều ồn ào,
freakouts going on X over this, but they've since walked it back a bit, quote unquote, in Wired.
Phát sốt trên X vì chuyện này, nhưng sau đó họ đã rút lại phần nào, trích dẫn nguyên văn, trên Wired.
We're changing Fable 5 safeguards for Frontier LLM development to make them more visible.
Chúng tôi đang thay đổi các biện pháp bảo vệ của Fable 5 cho phát triển LLM tiên phong để làm chúng rõ ràng hơn.
I'm going to stop there.
Tôi sẽ dừng ở đây.
Chimath, what's your take on Anthropic and these extraordinary models?
Chimath, quan điểm của bạn về Anthropic và những mô hình phi thường này là gì?
They keep dropping and how they're handling the release of them.
Họ liên tục tung ra và cách họ xử lý việc phát hành chúng.
Are they being thoughtful?
Họ có đang suy nghĩ thấu đáo không?
Are they being dramatic and drama queens?
Hay họ đang làm quá và diễn kịch như những bà hoàng kịch?
A little bit of both.
Một chút của cả hai.
Where do you stand on it?
Bạn đứng ở đâu về vấn đề này?
You know, after getting Nesh's feedback and seeing the latest model come out, have you played with it?
Bạn biết đấy, sau khi nhận phản hồi của Nesh và thấy mô hình mới nhất ra mắt, bạn đã thử chơi với nó chưa?
What's going on at 8090 and the software factory in terms of benchmarking it as well?
Điều gì đang diễn ra tại 8090 và nhà máy phần mềm về việc đánh giá chuẩn nó nữa?
It's a really incredible model and so kudos to these guys for continuing to push the boundaries of the closed frontier lab models.
Đây là một mô hình thực sự đáng kinh ngạc và xin chúc mừng những người này vì đã tiếp tục đẩy giới hạn của các mô hình phòng thí nghiệm tiên phong đóng.
They're firing on all cylinders.
Họ đang hoạt động hết công suất.
I think that it creates a pretty obvious risk now and I think that obvious risk is twofold.
Tôi nghĩ rằng nó tạo ra một rủi ro khá rõ ràng ngay bây giờ và tôi nghĩ rủi ro rõ ràng đó gồm hai phần.
One is Anthropic has essentially shown their
Một là Anthropic về cơ bản đã lộ
hand, which is that they will increasingly take in prompts, evaluate the prompts and decide what to do with them before they generate output to you.
Bài của họ, đó là họ sẽ ngày càng thu nhận prompt, đánh giá prompt và quyết định làm gì với chúng trước khi tạo đầu ra cho bạn.
- And I think if you were a person, you should generally now think there's a risk of censorship.
- Và tôi nghĩ nếu bạn là một cá nhân, giờ đây bạn nên nhìn chung nghĩ rằng có rủi ro bị kiểm duyệt.
If you're a company, I think it's almost a non-starter.
Nếu bạn là một công ty, tôi nghĩ điều đó gần như là không thể chấp nhận được.
And the reason is because you could accidentally trip one of these things without even knowing it.
Và lý do là vì bạn có thể vô tình vấp phải một trong những thứ này mà thậm chí không biết.
A downstream scientist using the cloud APIs could trip it.
Một nhà khoa học ở hạ nguồn sử dụng API đám mây có thể vấp phải nó.
A business executive inside your corporation could trip it.
Một giám đốc kinh doanh bên trong tập đoàn của bạn có thể vấp phải nó.
A person doing scientific molecular research could trip it.
Một người làm nghiên cứu phân tử khoa học có thể vấp phải nó.
And all of a sudden, you'll get cut off from a very important source of business differentiation for
Và đột nhiên, bạn sẽ bị cắt khỏi một nguồn khác biệt hóa kinh doanh rất quan trọng cho
yourself.
Chính bạn.
So I think if you take both of those two things together, we're at this very unique moment in time where I think companies need to start underwriting this next phase of AI, which is how do I have control?
Vậy nên tôi nghĩ nếu bạn gộp cả hai điều đó lại, chúng ta đang ở thời điểm rất độc đáo này khi tôi nghĩ các công ty cần bắt đầu bảo hiểm cho giai đoạn tiếp theo này của AI, đó là làm sao tôi có quyền kiểm soát?
Who am I allowing to learn off of all of this information?
Tôi đang cho phép ai học từ tất cả thông tin này?
Do I want to have single point of failure risk with respect to AI?
Liệu tôi có muốn có rủi ro điểm thất bại duy nhất đối với AI không?
And I think the answer is that you need broad diversity and a governance approach that's better managed.
Và tôi nghĩ câu trả lời là bạn cần sự đa dạng rộng rãi và một cách tiếp cận quản trị được quản lý tốt hơn.
clears throat - One thing I'll say about Anthropic is they tell the truth.
[hắng giọng] - Một điều tôi sẽ nói về Anthropic là họ nói sự thật.
- Yes.
- Đúng vậy.
- It's just that the truth sucks when you actually take it and you eat it and you're like, it's in your tummy and you're like, no, this is not good.
- Chỉ là sự thật thì thật tệ khi bạn thực sự chấp nhận nó và nuốt nó và bạn như kiểu, nó ở trong bụng bạn và bạn như kiểu, không, điều này không tốt.
I don't like this.
Tôi không thích điều này.
And so there's the censorship risk on the one hand and then there's just the governance business risk for enterprises on the other.
Và như vậy, một mặt là rủi ro kiểm duyệt, mặt khác chỉ là rủi ro kinh doanh về quản trị đối với các doanh nghiệp.
Both are not good.
Cả hai đều không tốt.
- Freeberg running your own company now.
- Freeberg hiện đang điều hành công ty riêng của mình.
Uh, and I'll let you back clean up here.
Uh, và tôi sẽ để bạn quay lại dọn dẹp ở đây.
Saxs, obviously you'll have a lot to say, but Freeberg, running your company, do you worry about getting rugpulled by one of these companies, investing your time into one of these platforms, having them then constrain your use of it and or take what you're doing at Ohio, put it into their model and make it available to other people.
Saxs, rõ ràng là bạn sẽ có nhiều điều để nói, nhưng Freeberg, khi điều hành công ty của mình, bạn có lo lắng về việc bị một trong những công ty này lừa đảo, đầu tư thời gian của bạn vào một trong những nền tảng này, rồi họ hạn chế việc sử dụng của bạn và/hoặc lấy những gì bạn đang làm tại Ohio, đưa vào mô hình của họ và cung cấp cho người khác không?
What concerns do you have as a business owner
Bạn có những lo ngại gì với tư cách là một chủ doanh nghiệp
at the forefront of your field using these tools?
Đi đầu trong lĩnh vực của bạn khi sử dụng những công cụ này?
- It's a great question.
- Đó là một câu hỏi hay.
The terms of service is pretty clear that they can't take what you're doing and put it into their model, that they won't - do you believe them when you read that I - I'm not sure to be honest there are things I'm concerned about but we've decided to throw caution to the wind because we do a lot of proprietary work in genomics what that means is we're
Các điều khoản dịch vụ khá rõ ràng rằng họ không thể lấy những gì bạn đang làm và đưa vào mô hình của họ, rằng họ sẽ không - bạn có tin họ khi bạn đọc điều đó không, tôi - Tôi không chắc, thành thật mà nói, có những điều tôi lo ngại nhưng chúng tôi đã quyết định liều lĩnh vì chúng tôi làm nhiều công việc độc quyền trong genomics, điều đó có nghĩa là chúng tôi đang
looking at different genes or gene variants trying to estimate the impact that gene or gene variant might have on a living organism like we work in plants obviously in agriculture.
Xem xét các gen hoặc biến thể gen khác nhau để cố gắng ước tính tác động mà gen hoặc biến thể gen đó có thể có đối với một sinh vật sống như chúng tôi làm việc trên thực vật, rõ ràng là trong nông nghiệp.
And we will do things like RNA guide design for gene editing based tools.
Và chúng tôi sẽ làm những việc như thiết kế RNA guide cho các công cụ dựa trên chỉnh sửa gen.
We will do predictions on what gene may or may not have some phenotype.
Chúng tôi sẽ đưa ra dự đoán về việc gen nào có thể có hoặc không có một kiểu hình nào đó.
So there's a lot of genomic modeling work that we
Vì vậy, có rất nhiều công việc mô hình hóa gen mà chúng tôi
have found these models to be incredibly valuable at supporting us with over the last couple of years.
Đã thấy những mô hình này cực kỳ có giá trị trong việc hỗ trợ chúng tôi trong vài năm qua.
So going back about 6 months, we were able to very simply and cleanly do things like design a genetic construct that you would then use to make a specific protein and the the tools was very easy to use to do that sort of research and extremely valuable.
Vì vậy, quay lại khoảng 6 tháng trước, chúng tôi đã có thể rất đơn giản và sạch sẽ làm những việc như thiết kế một cấu trúc di truyền mà sau đó bạn sẽ sử dụng để tạo ra một protein cụ thể và công cụ này rất dễ sử dụng để làm loại nghiên cứu đó và cực kỳ có giá trị.
This is the kind of work that
Đây là loại công việc mà
many scientists would spend a lot of time doing and these models were very good at doing very quickly.
Nhiều nhà khoa học sẽ dành rất nhiều thời gian để làm và những mô hình này rất giỏi trong việc làm rất nhanh.
Over the last couple of weeks, they've begun to restrict the ability to use the models to do that work.
Trong vài tuần qua, họ đã bắt đầu hạn chế khả năng sử dụng các mô hình để làm công việc đó.
And the premise is that there's some sort of bioweapon, uh, type risk that folks have theorized could happen using these tools.
Và tiền đề là có một loại rủi ro vũ khí sinh học nào đó mà mọi người đã lý thuyết hóa có thể xảy ra khi sử dụng những công cụ này.
And as a result, we're losing the capacity to use
Và kết quả là, chúng tôi đang mất khả năng sử dụng
these models for this very important scientific development work.
Những mô hình này cho công việc phát triển khoa học rất quan trọng này.
As a result, we are likely going to end up needing to use open-source models and run them locally ourselves.
Kết quả là, chúng tôi có khả năng sẽ phải sử dụng các mô hình mã nguồn mở và tự chạy chúng cục bộ.
So the reason I walk through all of that is so people can really understand the context of what's going to happen here.
Vì vậy, lý do tôi đi qua tất cả những điều đó là để mọi người thực sự hiểu bối cảnh của những gì sẽ xảy ra ở đây.
As folks like Anthropic say, "Hey, we're going to restrict access or censor the output of
Khi những người như Anthropic nói, "Này, chúng tôi sẽ hạn chế quyền truy cập hoặc kiểm duyệt đầu ra của
these models." It is going to force companies like ourselves who still want to take advantage of the capability of these LLMs to go and get open-source tools and run them.
Những mô hình này." Điều đó sẽ buộc các công ty như chúng tôi, những người vẫn muốn tận dụng khả năng của các LLM này, phải đi tìm các công cụ mã nguồn mở và chạy chúng.
And what are the best open source models today?
Và các mô hình mã nguồn mở tốt nhất hiện nay là gì?
They're Chinese.
Chúng là của Trung Quốc.
- Yeah, they are.
- Đúng, chúng là vậy.
- And that is a major concern.
- Và đó là một mối lo ngại lớn.
The American open source models are not as good as the Chinese open source models.
Các mô hình mã nguồn mở của Mỹ không tốt bằng các mô hình mã nguồn mở của Trung Quốc.
So the restrictions that Anthropic and others are putting upon themselves and upon the industry is forcing a lot of companies to go and get open source Chinese models and run them.
Vì vậy, những hạn chế mà Anthropic và những người khác đang tự áp đặt lên bản thân và lên ngành công nghiệp đang buộc nhiều công ty phải đi tìm các mô hình mã nguồn mở của Trung Quốc và chạy chúng.
We're seeing this across the landscape with startups with large scale enterprises.
Chúng tôi đang thấy điều này trên toàn bộ bối cảnh với các startup và các doanh nghiệp quy mô lớn.
Everyone's making that move.
Mọi người đều đang thực hiện động thái đó.
- Yeah.
- Đúng vậy.
And this is something we've been talking about here with Apple and their silicon and how well you can run these models.
Và đây là điều chúng tôi đã nói ở đây với Apple và silicon của họ và việc bạn có thể chạy những mô hình này tốt như thế nào.
Also, I predict your next card you'll turn over is you'll start making your own models, Freeberg.
Ngoài ra, tôi dự đoán thẻ tiếp theo bạn sẽ lật là bạn sẽ bắt đầu tạo ra các mô hình của riêng mình, Freeberg.
You'll take all this data you have.
Bạn sẽ lấy tất cả dữ liệu bạn có.
- It's exactly right.
- Chính xác.
And we'll we'll start we'll start with the core model, combine it with our data, and then we'll have our own genome language model, our own prediction model that we'll then use internally.
Và chúng tôi sẽ bắt đầu với mô hình cốt lõi, kết hợp nó với dữ liệu của chúng tôi, và sau đó chúng tôi sẽ có mô hình ngôn ngữ gen của riêng mình, mô hình dự đoán của riêng mình mà chúng tôi sẽ sử dụng nội bộ.
And I think that's where folks are going.
Và tôi nghĩ đó là nơi mọi người đang hướng tới.
But the reason I point this out is because a lot of folks are feeling the pressure from Anthropic doing this.
Nhưng lý do tôi chỉ ra điều này là vì nhiều người đang cảm thấy áp lực từ việc Anthropic làm điều này.
And they're feeling the
Và họ đang cảm thấy
pressure from politicians repeating the scary words that are being said by Daario and others.
Áp lực từ các chính trị gia lặp lại những từ ngữ đáng sợ mà Daario và những người khác đang nói.
And as a result, they are going to try and they are already trying to force either natural enforcement or politicized enforcement upon the model providers in a way that is ultimately going to benefit Chinese open source model providers.
Và kết quả là, họ sẽ cố gắng và họ đã đang cố gắng áp đặt thực thi tự nhiên hoặc thực thi chính trị hóa lên các nhà cung cấp mô hình theo cách cuối cùng sẽ có lợi cho các nhà cung cấp mô hình mã nguồn mở của Trung Quốc.
And that is a scary thing because we are going to
Và đó là một điều đáng sợ vì chúng ta sẽ
damage our own kind of economic viability.
Gây tổn hại đến loại khả năng kinh tế của chính chúng ta.
You can't just stop AI.
Bạn không thể chỉ dừng AI lại.
As much as everyone says AI is doomsday, by stopping AI or trying to stop AI through this political action and social, you know, kind of behavior, you are fundamentally going to give someone else the advantage because the AI isn't going to go away.
Dù mọi người có nói AI là ngày tận thế đến đâu, bằng cách dừng AI hoặc cố gắng dừng AI thông qua hành động chính trị và hành vi xã hội này, về cơ bản bạn sẽ trao lợi thế cho người khác vì AI sẽ không biến mất.
So the reason I describe what we're doing is for everyone to
Vậy nên lý do tôi mô tả những gì chúng ta đang làm là để mọi người
really understand in Grock that you can't just turn off AI and turn off access to these things.
Thực sự hiểu trong Grock rằng bạn không thể chỉ tắt AI và tắt quyền truy cập vào những thứ này.
What you will do is you will force the hand of someone else to now have an unfair advantage because you're unfairly restricting your models and your access to those models.
Điều bạn sẽ làm là bạn sẽ ép buộc người khác phải có lợi thế không công bằng vì bạn đang hạn chế một cách bất công các mô hình của bạn và quyền truy cập vào các mô hình đó.
Well, well, really well said, Freeberg Saxs.
Chà, chà, thực sự nói rất hay, Freeberg Saxs.
What's your take just in terms of the chessboard in terms of we got the business case here, we got the local case, but there's a lot of issues here with Anthropic in terms of them essentially throwing up every red flag to get regulated to induce and it'll be our second story, the Bernie Sanders seizing the equity of these companies.
Quan điểm của bạn thế nào chỉ xét về bàn cờ khi chúng ta có trường hợp kinh doanh ở đây, chúng ta có trường hợp địa phương, nhưng có rất nhiều vấn đề ở đây với Anthropic khi họ về cơ bản giương mọi lá cờ đỏ để được quản lý nhằm thúc đẩy và đó sẽ là câu chuyện thứ hai của chúng ta, Bernie Sanders tịch thu cổ phần của các công ty này.
But man, th this is saying, "Look over here.
Nhưng trời ơi, điều này đang nói rằng, "Nhìn qua đây này.
We're starting a fire.
Chúng tôi đang châm lửa.
Regulate the hell out of us." Which also then makes you wonder, hey, maybe I should be doing my own model.
Hãy quản lý chúng tôi thật chặt." Điều đó cũng khiến bạn tự hỏi, này, có lẽ tôi nên tự làm mô hình của riêng mình.
Maybe I should be embracing open source models.
Có lẽ tôi nên đón nhận các mô hình mã nguồn mở.
How's this chessboard developing here, Zach?
Bàn cờ này đang phát triển thế nào ở đây, Zach?
- Well, look, eight months ago, I said that Enthropic was engaged in a very sophisticated regulatory capture campaign based on fear-mongering.
- Chà, nhìn này, tám tháng trước, tôi đã nói rằng Enthropic đang tham gia vào một chiến dịch chiếm đoạt quy định rất tinh vi dựa trên việc gieo rắc nỗi sợ hãi.
And people at the time thought that was a very spicy take.
Và mọi người lúc đó nghĩ đó là một quan điểm rất gây tranh cãi.
But 8 months later, I think you're hearing a lot of people say it.
Nhưng 8 tháng sau, tôi nghĩ bạn đang nghe rất nhiều người nói điều đó.
In fact, I think it's almost now becoming a new consensus.
Thực tế, tôi nghĩ gần như bây giờ nó đang trở thành một sự đồng thuận mới.
And one of the things I think your summary didn't quite
Và một trong những điều tôi nghĩ bản tóm tắt của bạn chưa
capture, JCAL, y - is the sense of the violation of trust and how much outrage there is in the developer community over this latest Fable release is not just the fact that they're doing mandatory surveillance.
Nắm bắt được, JCAL, à - là cảm giác về sự vi phạm lòng tin và mức độ phẫn nộ trong cộng đồng nhà phát triển về bản phát hành Fable mới nhất này không chỉ là việc họ đang thực hiện giám sát bắt buộc.
Remember, this is a company that said that it was against government surveillance.
Hãy nhớ, đây là một công ty đã nói rằng họ phản đối giám sát của chính phủ.
They are now retaining for 30 days every prompt and every output you send to one of these mythos class models.
Giờ họ đang lưu giữ trong 30 ngày mọi lời nhắc và mọi đầu ra bạn gửi đến một trong những mô hình cấp mythos này.
There are no exceptions.
Không có ngoại lệ.
Even enterprise customers who had signed zero data retention agreements, they do not have a choice or I guess they can just not use the new fable or mythos class
Ngay cả khách hàng doanh nghiệp đã ký thỏa thuận không lưu giữ dữ liệu, họ không có lựa chọn hoặc tôi đoán họ chỉ có thể không sử dụng fable mới hoặc cấp mythos
models.
Các mô hình.
But they retain all of your data for 30 days.
Nhưng họ lưu giữ tất cả dữ liệu của bạn trong 30 ngày.
And it's not just the prompts and the output.
Và không chỉ là lời nhắc và đầu ra.
Remember, it's all the context you share with them.
Hãy nhớ, đó là tất cả ngữ cảnh bạn chia sẻ với họ.
So, you know, all these uh agent platforms, they're basically storing all of your memories, all of your files, all of your data, and they're passing them to the model in these giant context windows to get better responses.
Vậy bạn biết đấy, tất cả các nền tảng tác nhân này, về cơ bản chúng lưu trữ tất cả ký ức của bạn, tất cả tệp của bạn, tất cả dữ liệu của bạn, và chúng truyền chúng đến mô hình trong những cửa sổ ngữ cảnh khổng lồ này để có câu trả lời tốt hơn.
Anthropic is
Anthropic đang
saying it will keep all of that, and it does it to build a profile on you, to classify you, and then to determine what capabilities it then unlocks.
Nói rằng nó sẽ giữ tất cả những thứ đó, và nó làm vậy để xây dựng hồ sơ về bạn, phân loại bạn, và sau đó xác định những khả năng nào nó sẽ mở khóa.
And the thing that created the most outrage in addition to the surveillance is the fact that they would degrade the product.
Và điều gây phẫn nộ nhất ngoài việc giám sát là việc họ sẽ làm suy giảm sản phẩm.
They would degrade what they show you.
Họ sẽ làm suy giảm những gì họ hiển thị cho bạn.
They would nerf their models if it decided in anthropic soul discretion that you are not worthy of having access to that level of information.
Họ sẽ làm yếu các mô hình của họ nếu họ quyết định theo toàn quyền của anthropic rằng bạn không xứng đáng được truy cập vào mức thông tin đó.
So they're creating a new level of AI halves and have nots.
Vậy là họ đang tạo ra một cấp độ mới của những người có AI và không có AI.
And what they did is and they they this is there's a narrow piece here they walk back which is they said that when it came to things like machine learning AI research chip design
Và những gì họ làm là và họ, đây là có một phần hẹp ở đây họ rút lại, đó là họ nói rằng khi liên quan đến những thứ như nghiên cứu AI học máy, thiết kế chip
research those types of areas they would kick you to a lesser model but not tell you that and they would even - which feels anti-competitive right I mean - it's completely anti-competitive and also they would even do things like rewrite your prompt in the background so they would give you a nerfed answer they would not tell you what they were doing they still charge you for the product
Nghiên cứu những loại lĩnh vực đó họ sẽ đẩy bạn sang một mô hình kém hơn nhưng không nói cho bạn biết và họ thậm chí sẽ - điều đó có vẻ phản cạnh tranh đúng không, ý tôi là - nó hoàn toàn phản cạnh tranh và họ thậm chí sẽ làm những việc như viết lại lời nhắc của bạn ở chế độ nền để họ cho bạn một câu trả lời bị làm yếu, họ sẽ không nói cho bạn biết họ đang làm gì, họ vẫn tính tiền bạn cho sản phẩm
that you thought you were getting and they would never tell you that you were not getting Frontier model capability.
Mà bạn tưởng bạn đang nhận được và họ sẽ không bao giờ nói cho bạn biết rằng bạn không nhận được khả năng của mô hình Frontier.
So you they were actually misleading their users and this is what was creating so much outrage.
Vậy là họ thực sự đang đánh lừa người dùng của mình và đây là điều đã tạo ra rất nhiều phẫn nộ.
Now the narrow piece they walk back is they are now saying that they will disclose when they downgrade you but they are still downgrading people when they decide that that person should not receive the appropriate information.
Giờ phần hẹp họ rút lại là họ đang nói rằng họ sẽ tiết lộ khi hạ cấp bạn nhưng họ vẫn đang hạ cấp mọi người khi họ quyết định rằng người đó không nên nhận thông tin phù hợp.
And you saw there were a lot of people posting
Và bạn đã thấy có rất nhiều người đăng
online with examples of the massive overreach here.
Trực tuyến với các ví dụ về sự vượt quá giới hạn nghiêm trọng ở đây.
So someone showed that when they simply just asked a question about mitochondria, they were basically downgraded.
Vậy nên ai đó đã cho thấy rằng khi họ chỉ đơn giản hỏi một câu hỏi về ti thể, họ về cơ bản đã bị hạ cấp.
- That's right.
- Đúng vậy.
- When Ben Thompson from Strateery asked a very straightforward question about the relationship between cancer risk and GLP once, he was kicked out.
- Khi Ben Thompson từ Strateery hỏi một câu hỏi rất thẳng thắn về mối quan hệ giữa nguy cơ ung thư và GLP một lần, anh ấy đã bị đá ra.
- So these guys have a very expansive view of who should be downgraded.
- Vậy nên những người này có quan điểm rất rộng về việc ai nên bị hạ cấp.
Again, they're going to surveil you to determine whether you should be.
Một lần nữa, họ sẽ giám sát bạn để xác định liệu bạn có nên bị hạ cấp hay không.
And I think what we're getting here is a vision of where all of this is headed, which is that these powerful big tech companies are going to decide whether you're worthy.
Và tôi nghĩ những gì chúng ta đang thấy ở đây là một viễn cảnh về nơi tất cả những điều này đang hướng tới, đó là những công ty công nghệ lớn đầy quyền lực này sẽ quyết định liệu bạn có xứng đáng hay không.
They're going to decide whether you're an AI have or have not,
Họ sẽ quyết định liệu bạn là người có AI hay không có AI,
and then they're going to censor the output that you receive based on the criteria they determine when they profile you.
Và sau đó họ sẽ kiểm duyệt đầu ra mà bạn nhận được dựa trên các tiêu chí họ xác định khi họ lập hồ sơ về bạn.
- That is clears throat very Orwellian.
- Điều đó thật [xóa cổ họng] rất Orwell.
- I think there's that.
- Tôi nghĩ có điều đó.
And I think that there's the risk of something that's more subtle but equally insidious, which is that they will start to pick which corporations they want to benefit.
Và tôi nghĩ rằng có nguy cơ về một điều gì đó tinh vi hơn nhưng cũng nguy hiểm không kém, đó là họ sẽ bắt đầu chọn những tập đoàn nào họ muốn hưởng lợi.
So for example, - if Novartis has a competitive GLP1 drug to Lily and they have a strategic deal with Novartis and not one with Lily, now there's an impetus to shape how people get information.
Ví dụ, - nếu Novartis có một loại thuốc GLP1 cạnh tranh với Lily và họ có một thỏa thuận chiến lược với Novartis chứ không phải với Lily, thì giờ đây có động lực để định hình cách mọi người tiếp nhận thông tin.
- Right?
- Đúng không?
If they have a deal with JP Morgan but not with City Bank, you'll just never know.
Nếu họ có thỏa thuận với JP Morgan nhưng không với City Bank, bạn sẽ không bao giờ biết.
And so you'll ask a question something about mortgage rates or interest rates and you'll get all kinds of stuff that you don't understand.
Và vì vậy bạn sẽ đặt câu hỏi về lãi suất thế chấp hoặc lãi suất và bạn sẽ nhận được đủ thứ mà bạn không hiểu.
And then the downstream part of this which is even more problematic is it's not clear to me that they're going to capture the actual fingerprint
Và phần hạ nguồn của điều này, thậm chí còn rắc rối hơn, là tôi không chắc rằng họ sẽ nắm bắt được dấu vết thực sự
of what they did.
Của những gì họ đã làm.
So if you believe that something was done in a shady way, you're supposed to be able to go to them or regulators should be able to go to them and say, "Show me the trace of that model run in that exact moment that generated that output.
Vì vậy, nếu bạn tin rằng điều gì đó đã được thực hiện theo cách mờ ám, bạn được cho là có thể đến gặp họ hoặc các cơ quan quản lý có thể đến gặp họ và nói: "Cho tôi xem dấu vết của lần chạy mô hình đó tại đúng thời điểm đó đã tạo ra kết quả đó.
Convince me why that wasn't nerfed on purpose or manipulated." And there's all kinds of ways in which they can hide the cheese on that.
Thuyết phục tôi tại sao điều đó không bị làm yếu đi một cách có chủ đích hoặc bị thao túng." Và có đủ mọi cách để họ che giấu điều đó.
So I
Vì vậy tôi
think that all of that body of stuff sacks happens now because if you're if you're an emergent company what you should be doing is knocking on anthropic door saying let's do a deal I'll give you half the equity and why don't you just direct people to me and they'll say well economics are not what I care about what is your philosophy on life on morality on all of these social
Nghĩ rằng tất cả những thứ đó sẽ xảy ra ngay bây giờ bởi vì nếu bạn là một công ty mới nổi, điều bạn nên làm là gõ cửa Anthropic và nói rằng hãy làm một thỏa thuận, tôi sẽ đưa bạn một nửa cổ phần và tại sao bạn không chỉ hướng mọi người đến tôi, và họ sẽ nói rằng kinh tế không phải là điều tôi quan tâm, mà là triết lý của bạn về cuộc sống, về đạo đức, về tất cả những vấn đề xã hội
issues and one company will say it's a another company will say it's B, they'll favor A over B and then all kinds of stuff can happen underneath the hood.
Và một công ty sẽ nói đó là A, một công ty khác sẽ nói đó là B, họ sẽ ưu ái A hơn B và sau đó đủ thứ có thể xảy ra bên dưới.
That's what's scary.
Đó là điều đáng sợ.
Let me just ask my free market view.
Để tôi hỏi quan điểm thị trường tự do của tôi.
Like, should that matter?
Liệu điều đó có quan trọng không?
If there's a bunch of models out there and we don't restrict them and we don't regulate them, let these markets compete.
Nếu có nhiều mô hình ngoài kia và chúng ta không hạn chế chúng và không quản lý chúng, hãy để các thị trường này cạnh tranh.
We had paid inclusion in the early days of search engines and the companies had to pay to be in there and there all those sorts of deals you're describing, Chimamoth.
Chúng ta đã có việc trả tiền để được đưa vào trong thời kỳ đầu của các công cụ tìm kiếm và các công ty phải trả tiền để được ở đó và tất cả những loại thỏa thuận mà bạn đang mô tả, Chimamoth.
And all the
Và tất cả những
search engines that did those sorts of deals, they sucked for consumers and customers.
Công cụ tìm kiếm đã làm những loại thỏa thuận đó, chúng tệ đối với người tiêu dùng và khách hàng.
So everyone was like, you know what, this isn't as good as Google and everyone went over to the better model and the better provider.
Vì vậy mọi người đều nói, bạn biết đấy, cái này không tốt bằng Google và mọi người chuyển sang mô hình tốt hơn và nhà cung cấp tốt hơn.
Isn't that what's going to happen here if we don't get in the way keep the government out of it - and they're not communicating.
Đó không phải là điều sẽ xảy ra ở đây nếu chúng ta không cản trở, giữ chính phủ ra ngoài - và họ không giao tiếp.
- It's a great point.
- Đó là một điểm tuyệt vời.
- You're missing one piece of it, which is at the same time that Anthropic was engaging in mandatory surveillance and nerfing its models.
- Bạn đang bỏ sót một phần, đó là cùng lúc Anthropic tham gia vào việc giám sát bắt buộc và làm yếu các mô hình của mình.
Daario wrote a new blog post.
Daario đã viết một bài blog mới.
- Oh god.
- Ôi trời.
saying that transparency was no longer good enough that we needed to have a new regulatory agency like an FAA or maybe an FDA to approve all models.
Nói rằng tính minh bạch không còn đủ tốt nữa, rằng chúng ta cần có một cơ quan quản lý mới như FAA hoặc có thể là FDA để phê duyệt tất cả các mô hình.
So your presumption there is correct.
Vì vậy giả định của bạn ở đó là đúng.
Yes, if you could go somewhere else to get your questions answered, then you would have alternatives.
Đúng, nếu bạn có thể đến nơi khác để có câu trả lời cho câu hỏi của mình, thì bạn sẽ có các lựa chọn thay thế.
But at the same time that Anthropic is engaging in this potentially anti-competitive behavior, they want to restrict your options.
Nhưng cùng lúc Anthropic tham gia vào hành vi có khả năng chống cạnh tranh này, họ muốn hạn chế các lựa chọn của bạn.
It's not good enough for them just to win in the free market.
Không đủ tốt cho họ chỉ để thắng trên thị trường tự do.
They're calling on the government to regulate and stop potential competitors and limit the
Họ đang kêu gọi chính phủ quản lý và ngăn chặn các đối thủ tiềm năng và hạn chế
number of models that you have access to.
Số lượng mô hình mà bạn có quyền truy cập.
- Why would they do that?
- Tại sao họ lại làm điều đó?
Why would they want to get regulated?
Tại sao họ lại muốn bị quản lý?
The answer super simple.
Câu trả lời cực kỳ đơn giản.
They don't they want to apply that regulation to open source which is impossible.
Họ không muốn, họ muốn áp dụng quy định đó cho mã nguồn mở, điều này là không thể.
But this would be a great way to scuttle and sandbag open-source models.
Nhưng đây sẽ là một cách tuyệt vời để phá hoại và cản trở các mô hình mã nguồn mở.
Yes.
Đúng.
Because they don't have the ability to be regulated.
Bởi vì họ không có khả năng bị quản lý.
So it's like a preemptive strike against token maxing on your local machine.
Vì vậy nó giống như một cuộc tấn công phủ đầu chống lại việc tối đa hóa token trên máy cục bộ của bạn.