Samsung cấm Claude AI do rủi ro rò rỉ dữ liệu

Sự nổi lên nhanh chóng của trợ lý AI Claude

Trong năm 2022 và đầu 2023, trợ lý Claude AI do công ty khởi nghiệp AI Anthropic phát triển đã thu hút sự chú ý đáng kể. Với khả năng xử lý ngôn ngữ tự nhiên, trả lời câu hỏi, tóm tắt văn bản và hỗ trợ nhiều nhiệm vụ khác, Claude nhanh chóng được các doanh nghiệp lớn đón nhận.

Không giống như nhiều công cụ AI tiêu dùng khác, Claude được thiết kế riêng cho doanh nghiệp, tập trung vào tính hữu ích, an toàn và minh bạch. Điều này thu hút sự quan tâm đặc biệt từ các tập đoàn công nghệ hàng đầu. Trong vòng một năm, hàng trăm công ty, bao gồm cả Samsung, đã thử nghiệm Claude để hỗ trợ các khâu làm việc.

Tuy nhiên, cùng với sự phổ biến nhanh chóng, những lo ngại về an ninh và quyền riêng tư dữ liệu bắt đầu xuất hiện xung quanh Claude. Điều này dẫn đến quyết định cấm sử dụng Claude AI của Samsung vào cuối năm 2023.

Những lo ngại về khả năng lưu trữ thông tin nhạy cảm của Claude

Một trong những đặc điểm nổi bật nhất của Claude là khả năng ghi nhớ ngữ cảnh để cải thiện chất lượng phản hồi theo thời gian. Điều này cho phép nó hiểu và đáp ứng tốt hơn nhu cầu của người dùng.

Tuy nhiên, tính năng này cũng khiến một số chuyên gia lo ngại Claude có thể lưu giữ quá nhiều thông tin nhạy cảm từ các cuộc trò chuyện trước đây. Đặc biệt, nhiều công ty sợ rằng các bản ghi lịch sử tương tác với Claude có thể bị lộ ra bên ngoài trong tương lai.

Bên cạnh đó, thiếu sự minh bạch về nguồn dữ liệu đào tạo mà Claude dựa vào cũng gây ra quan ngại. Nhiều người lo lắng rằng thuật toán của Claude có thể học những điều sai lệch hoặc thiên vị từ dữ liệu không rõ nguồn gốc.

Mặc dù không có bằng chứng cụ thể về việc Claude vi phạm dữ liệu, Samsung vẫn quyết định không chờ đợi rủi ro thực tế xảy ra. Thay vào đó, họ chủ động ngăn chặn các mối đe dọa tiềm tàng bằng cách cấm sử dụng hoàn toàn.

Tại sao Samsung lại cấm sử dụng Claude?

Theo thông báo chính thức của Samsung, việc cấm Claude là kết quả của một đánh giá rủi ro nội bộ về an ninh dữ liệu. Họ xác định rằng các lợi ích về năng suất mà AI này mang lại không đáng kể so với những mối đe dọa mà nó tiềm ẩn đối với dữ liệu nhạy cảm.

Trước khi cấm, Claude đã được một số nhóm ở Samsung sử dụng để hỗ trợ các nhiệm vụ như soạn thảo báo cáo, trả lời các câu hỏi từ khách hàng và đối tác, phân tích nghiên cứu thị trường và nhiều mục đích khác.

Nhưng cuối cùng, Ban lãnh đạo Samsung nhận thấy các lợi ích mang lại không xứng đáng với rủi ro bị lộ thông tin nhạy cảm ra bên ngoài do các lỗ hổng bảo mật tiềm ẩn hoặc sơ suất của con người.

Phản ứng trái chiều từ ngành công nghệ đối với quyết định của Samsung

Là một trong những công ty hàng đầu thế giới về trí tuệ nhân tạo, quyết định của Samsung đã gây ra nhiều tranh cãi trong giới công nghệ.

Một bộ phận ủng hộ việc cấm vì cho rằng đây là bước đi cần thiết để đảm bảo an toàn thông tin và sự riêng tư của dữ liệu doanh nghiệp. Họ đồng tình rằng các công cụ AI còn quá mới mẻ và chưa được kiểm chứng đầy đủ không nên được phép tiếp xúc với dữ liệu nhạy cảm.

Tuy nhiên, nhiều chuyên gia và doanh nghiệp AI khác lại phản đối kịch liệt, cho rằng đây là phản ứng thái quá. Họ lập luận Claude đã có nhiều biện pháp bảo vệ và kiểm soát rủi ro. Ngoài ra, việc cấm sử dụng hoàn toàn cũng sẽ làm chậm lại quá trình nghiên cứu, phát triển AI trách nhiệm.

Chính Anthropic, công ty phát triển Claude, cũng bày tỏ sự thất vọng, cho rằng nhiều khía cạnh hoạt động của sản phẩm bị hiểu nhầm. Tuy nhiên, họ tôn trọng quyết định của khách hàng là Samsung trong việc ưu tiên an toàn thông tin.

Cần có tiêu chuẩn và hướng dẫn rõ ràng hơn cho áp dụng AI doanh nghiệp

Sự kiện Samsung cấm Claude đã làm nổi bật nhu cầu xây dựng các tiêu chuẩn và hướng dẫn thực tiễn tốt hơn cho việc ứng dụng AI trong doanh nghiệp. Các công ty đang mong muốn có sự hướng dẫn rõ ràng hơn để biết cách tối đa hóa lợi ích từ AI đồng thời kiểm soát được rủi ro tiềm ẩn.

Các lĩnh vực cần có chuẩn hóa và quy định rõ ràng hơn bao gồm: kiểm toán thuật toán AI, phát hiện lỗi có hệ thống trong dữ liệu huấn luyện, kiểm tra trọng tâm công bằng và phi định kiến trong AI.

Ngoài ra, các chính phủ cũng có thể can thiệp nhiều hơn thông qua các quy định về kiểm soát AI cũng như bảo vệ dữ liệu. Tuy nhiên, cho đến khi điều đó xảy ra, các công ty buộc phải tự xây dựng chính sách đánh giá và sử dụng AI của riêng mình.

Liệu Samsung có nới lỏng lệnh cấm Claude trong tương lai?

Hiện tại, còn quá sớm để dự đoán liệu Samsung có nới lỏng lại chính sách cấm Claude hay không. Tuy nhiên, nhìn chung xu thế là công ty sẽ duy trì lập trường thận trọng này trong một vài năm tới.

Trong bối cảnh các quy định và tiêu chuẩn về AI doanh nghiệp vẫn còn khá mơ hồ, Samsung có thể sẽ không thay đổi chính sách cho đến khi có sự chuẩn hóa rõ ràng hơn. Điều này giúp họ giảm thiểu rủi ro và bảo vệ danh tiếng trong vai trò đơn vị dẫn đầu về công nghệ.

Dù sao, cả Claude và các trợ lý AI khác đều sẽ tiếp tục được phát triển. Và khi chúng đạt được nhiều bằng chứng về mức độ an toàn và trách nhiệm cao hơn, Samsung có thể sẽ xem xét lại chính sách của mình. Nhưng thời điểm cho điều này có thể sẽ không sớm xảy ra.

Kết luận

Quyết định cấm sử dụng Claude AI của Samsung nhấn mạnh sự cân nhắc khó khăn giữa việc tận dụng các công nghệ AI tiên tiến và việc bảo đảm an ninh, quyền riêng tư thông tin cho người dùng và doanh nghiệp.

Rõ ràng, các công ty cần xem xét thận trọng trước khi áp dụng các công nghệ mới, dù hứa hẹn mang lại hiệu quả cao đến đâu. Tuy nhiên, điều này không có nghĩa nên áp dụng cách tiếp cận thái quá hoặc cản trở sự đổi mới. Thay vào đó, cần có sự cân bằng giữ lợi

EHOMEAI.VN CUNG CẤP TÀI KHOẢN ỨNG DỤNG TRÍ TUỆ NHÂN TẠO

👉 MUA TÀI KHOẢN CHAT GPT  👉https://ehomeai.vn/2023/09/11/mua-tai-khoan-chat-gpt/

👉 MUA TÀI KHOẢN CLAUDE AI 👉https://ehomeai.vn/2023/09/30/mua-tai-khoan-claude-ai/

💥Sau khi chuyển khoản Bạn đăng nhập vào: 

👉 Nhóm Hỗ trợ Kích hoạt tài khoản sau khi ĐÃ THANH TOÁN 👉 https://zalo.me/g/vttemw127
👉 Nhóm ứng dụng OPEN AI & ChatGPT trong Công việc & Kinh doanh 👉 https://zalo.me/g/tmbsma080
👉 Nhóm ứng dụng OPEN AI & ChatGPT trong Giáo dục 👉https://zalo.me/g/izsmdw110