Sau những vấn đề liên quan đến việc các công ty công nghệ lớn sử dụng dữ liệu từ cá nhân và doanh nghiệp để đào tạo dịch vụ AI, một cơn bão đang bùng phát giữa người dùng Slack bực bội về cách mà nền tảng trò chuyện này sở hữu bởi Salesforce đang tiến triển với tầm nhìn AI của mình.

Công ty, giống như nhiều công ty khác, đang sử dụng dữ liệu người dùng của mình để đào tạo một số dịch vụ AI mới. Nhưng có vẻ như nếu bạn không muốn Slack sử dụng dữ liệu của bạn, bạn phải gửi email cho công ty để từ chối.

Và điều khoản của sự cam kết đó được ẩn đi trong những gì dường như là một chính sách bảo mật cũ kỹ, gây hiểu lầm mà không ai chú ý. Đó là trường hợp của Slack, cho đến khi một người tức giận đăng về họ trên một trang cộng đồng phổ biến với các nhà phát triển, và sau đó bài đăng đó trở nên phổ biến... đó là điều đã xảy ra tại đây.

Tất cả bắt đầu vào đêm qua, khi một ghi chú trên Hacker News nêu vấn đề về cách Slack đào tạo dịch vụ AI của mình, thông qua một liên kết trực tiếp đến các nguyên tắc bảo mật của nó, không cần thêm bình luận nào. Bài đăng đó đã khởi đầu một cuộc trò chuyện dài hơn — và điều mà dường như là tin mới đối với người dùng Slack hiện tại — rằng Slack mặc định đăng ký người dùng vào việc đào tạo AI của mình, và bạn cần gửi email tới một địa chỉ cụ thể để từ chối.

Vào thời điểm đó, người dùng Hacker News đã khơi dậy nhiều cuộc trò chuyện và câu hỏi trên các nền tảng khác: Có một sản phẩm mới gọi là “Slack AI” cho phép người dùng tìm kiếm câu trả lời và tóm tắt các luồng trò chuyện, nhưng tại sao nó không được đề cập từ xa trong trang nguyên tắc bảo mật đó một cách rõ ràng, ngay cả để làm sáng tỏ xem liệu chính sách bảo mật này có áp dụng cho nó hay không? Và tại sao Slack đề cập đến cả “mô hình toàn cầu” và “mô hình AI”?

Giữa việc mọi người bối rối về nơi mà Slack áp dụng nguyên tắc bảo mật AI của mình, và người dùng bất ngờ và khó chịu với việc gửi email để từ chối — ở một công ty luôn cổ vũ rằng “Bạn kiểm soát dữ liệu của mình” — Slack không để lại ấn tượng tốt.

Phản chợp có thể là mới, nhưng các điều khoản không phải là vậy. Theo các trang trên Internet Archive, các điều khoản đã áp dụng ít nhất từ tháng 9 năm 2023. (Chúng tôi đã yêu cầu xác nhận từ công ty.)

Theo chính sách bảo mật, Slack đang sử dụng dữ liệu của khách hàng một cách cụ thể để đào tạo “mô hình toàn cầu”, mà Slack sử dụng để cung cấp gợi ý về kênh và emoji và kết quả tìm kiếm. Slack nói với chúng tôi rằng việc sử dụng dữ liệu có các giới hạn cụ thể.

“Slack có các mô hình máy học ở cấp độ nền tảng cho các tính năng như gợi ý kênh và emoji và kết quả tìm kiếm. Chúng tôi không xây dựng hoặc đào tạo các mô hình này theo cách mà chúng có thể học, nhớ hoặc có thể tái tạo một phần nào đó của dữ liệu khách hàng,” một người phát ngôn của công ty nói với TechCrunch. Tuy nhiên, chính sách này không dường như nói rõ phạm vi tổng thể và kế hoạch rộng lớn của công ty cho việc đào tạo các mô hình AI.

Trong điều khoàn của mình, Slack nói rằng nếu khách hàng từ chối việc đào tạo dữ liệu, họ vẫn sẽ hưởng lợi từ các “mô hình AI/ML được đào tạo toàn cầu” của công ty. Nhưng một lần nữa, trong trường hợp đó, không rõ tại sao công ty lại sử dụng dữ liệu của khách hàng để cung cấp các tính năng như gợi ý emoji.

Công ty cũng nói rằng họ không sử dụng dữ liệu của khách hàng để đào tạo Slack AI.

“Slack AI là một add-on mà bạn phải mua riêng biệt sử dụng Mô hình Ngôn ngữ Lớn (LLMs) nhưng không đào tạo những LLMs đó trên dữ liệu của khách hàng. Slack AI sử dụng LLMs được lưu trữ trực tiếp trong cơ sở hạ tầng AWS của Slack, để dữ liệu của khách hàng được lưu trữ nội bộ và không được chia sẻ với bất kỳ nhà cung cấp LLM nào. Điều này đảm bảo rằng dữ liệu của khách hàng ở trong sự kiểm soát của tổ chức đó và dành riêng cho việc sử dụng của tổ chức đó,” một người phát ngôn nói.

Một số sự hoang mang có lẽ sẽ được giải quyết sớm hơn là muộn. Trong một câu trả lời đối với một lời phê bình đến từ kỹ sư và nhà văn Gergely Orosz, kỹ sư Slack Aaron Maurer thừa nhận rằng công ty cần cập nhật trang để phản ánh “cách những nguyên tắc bảo mật này đi với Slack AI.”

Maurer thêm rằng những điều khoản này được viết vào thời điểm công ty chưa có Slack AI, và những quy tắc này phản ánh công việc của công ty xung quanh việc tìm kiếm và gợi ý. Sẽ đáng giá xem xét lại các điều khoản cho các cập nhật trong tương lai, đặc biệt khi có sự hoang mang về những gì Slack đang làm với AI của mình.

Các vấn đề tại Slack là một lời nhắc mạnh rằng, trong thế giới di chuyển nhanh chóng của phát triển AI, quyền riêng tư của người dùng không nên là điều căn cứ và điều khoản dịch vụ của công ty nên rõ ràng nêu rõ cách và khi nào dữ liệu được sử dụng hoặc không.