AI adoption is outpacing traditional security measures, leading to widespread data privacy violations. A recent study found that 31% of organizations experienced a data privacy violation due to an AI-related incident. Two major causes are shadow AI projects, where unauthorized AI tools are deployed without proper security controls, and the use of public cloud chatbots, where sensitive information shared becomes public and can be used to train models. Traditional data loss prevention tools cannot answer critical questions about what data AI uses, where it comes from, and how to manage exposure proactively.
Việc áp dụng AI đang vượt xa các biện pháp bảo mật truyền thống, dẫn đến vi phạm quyền riêng tư dữ liệu trên diện rộng. Một nghiên cứu gần đây cho thấy 31% tổ chức đã trải qua vi phạm quyền riêng tư dữ liệu do sự cố liên quan đến AI. Hai nguyên nhân chính là các dự án AI ẩn, nơi các công cụ AI không được phép triển khai mà không có kiểm soát bảo mật thích hợp, và việc sử dụng chatbot đám mây công cộng, nơi thông tin nhạy cảm được chia sẻ trở thành công khai và có thể được dùng để huấn luyện mô hình. Các công cụ ngăn chặn mất dữ liệu truyền thống không thể trả lời các câu hỏi quan trọng về dữ liệu AI sử dụng, nguồn gốc của nó và cách quản lý rò rỉ một cách chủ động.
It's AI time.
Đã đến thời đại AI.
Do you know where your data is?
Bạn có biết dữ liệu của mình đang ở đâu không?
Well, even if you think you do, you probably don't.
Chà, ngay cả khi bạn nghĩ là mình biết, có lẽ bạn không biết đâu.
If you're like most organizations, your sensitive data has already been exposed, and AI is just making the problem worse.
Nếu bạn giống như hầu hết các tổ chức, dữ liệu nhạy cảm của bạn đã bị lộ rồi, và AI chỉ đang làm vấn đề tồi tệ hơn.
And it's happening right under your nose, and you can't see it.
Và nó đang xảy ra ngay dưới mũi bạn, và bạn không thể nhìn thấy nó.
Here's what I mean.
Đây là ý tôi muốn nói.
AI adoption is moving faster than traditional security approaches can actually protect.
Việc áp dụng AI đang diễn ra nhanh hơn khả năng bảo vệ thực sự của các phương pháp bảo mật truyền thống.
One recent study found
Một nghiên cứu gần đây đã phát hiện ra
That 31% of organizations had a data privacy violation due to an AI-related incident.
Rằng 31% tổ chức đã bị vi phạm quyền riêng tư dữ liệu do một sự cố liên quan đến AI.
They're things like shadow AI projects, where it's basically unauthorized AI that people are deploying inside the environment.
Đó là những thứ như các dự án AI bóng tối, về cơ bản là AI không được phép mà mọi người đang triển khai bên trong môi trường.
Well, those things often lack the security controls that our policy would specify they should have.
Chà, những thứ đó thường thiếu các kiểm soát bảo mật mà chính sách của chúng ta quy định là chúng phải có.
And then there's use of public cloud chatbots.
Và sau đó là việc sử dụng các chatbot đám mây công cộng.
These things where people go in and ask their questions, but they may also include a spreadsheet of information that's sensitive.
Những thứ này là nơi mọi người vào và đặt câu hỏi, nhưng họ cũng có thể bao gồm một bảng tính chứa thông tin nhạy cảm.
Well, once that goes to a public chatbot, it basically becomes public information because they can use that sensitive information to train their models, and then it's available to everyone.
Chà, một khi thông tin đó được gửi đến một chatbot công cộng, về cơ bản nó trở thành thông tin công khai vì họ có thể sử dụng thông tin nhạy cảm đó để huấn luyện các mô hình của họ, và sau đó nó có sẵn cho mọi người.
So, also, we've got some questions that we have to answer about how AI is using this.
Vì vậy, chúng ta cũng có một số câu hỏi cần trả lời về cách AI đang sử dụng thông tin này.
So, first of all, what did data did the AI use?
Vậy, trước hết, AI đã sử dụng dữ liệu gì?
Where did it get that data?
Nó lấy dữ liệu đó từ đâu?
And ultimately, how is are we going to manage the AI data exposure in a proactive way?
Và cuối cùng, chúng ta sẽ quản lý việc lộ dữ liệu AI một cách chủ động như thế nào?
Traditional DLP, data loss prevention, and AI tools can't answer these questions.
DLP truyền thống, ngăn chặn mất dữ liệu, và các công cụ AI không thể trả lời những câu hỏi này.
We're going to need a different approach.
Chúng ta sẽ cần một cách tiếp cận khác.
It's not enough just to know what AI tools are in use, although that certainly is a good place to start.
Chỉ biết những công cụ AI nào đang được sử dụng là chưa đủ, mặc dù đó chắc chắn là một điểm khởi đầu tốt.
You also need to know
Bạn cũng cần biết
How sensitive data is flowing through AI systems, and where it might be exposed.
Dữ liệu nhạy cảm đang chảy qua các hệ thống AI như thế nào, và nó có thể bị lộ ở đâu.