Làm quen với an toàn và bảo mật AI

Trí tuệ nhân tạo đã trở nên phổ biến và giúp chúng ta đạt được những đỉnh cao mới trong việc cải thiện hiệu suất thông qua công nghệ. Điều này khiến những lợi thế của AI dường như vô hạn, tạo ra không gian rộng mở cho trí tưởng tượng của chúng ta để có những phát kiến mới. 

Dù việc nghĩ ra ý tưởng tuyệt vời tiếp theo là điều thú vị, việc triển khai giải pháp AI mới đòi hỏi cam kết mạnh mẽ về tính an toàn cũng như bảo mật dữ liệu thúc đẩy giải pháp đó. Chúng tôi đang khởi động loạt bài viết mới trên blog của Zoom, tại đây, chúng tôi thảo luận về cách thức và lý do bạn nên triển khai AI tạo sinh và những gì Zoom đang thực hiện để tạo một môi trường AI an toàn và bảo mật cho khách hàng.

AI có thể phục vụ nhiều mục đích khác nhau và AI tạo sinh cung cấp cho bạn các công cụ để tạo nội dung mới, bao gồm hình ảnh, từ ngữ, âm thanh, video và dữ liệu thông qua nhiều đầu vào và đầu ra cho các mô hình AI. Đôi khi còn được gọi là GenAI, AI tạo sinh vượt xa khả năng của con người và sử dụng nhiều thuật toán AI cũng như máy học để mang lại kết quả tức thì theo yêu cầu. Đổi lại, mọi người có thể đẩy nhanh công việc và tiết kiệm thời gian quý báu khi sử dụng các công cụ AI tạo sinh cho những công việc như soạn thảo bản tóm tắt cuộc họp, tìm nguồn hình ảnh hoặc đối phó với tình trạng bí ý tưởng nhờ công cụ hỗ trợ viết quảng cáo. 

Các giải pháp AI tạo sinh có thể vô cùng hữu ích đối với người dùng cuối, giúp tiết kiệm thời gian để tập trung vào những công việc quan trọng hơn. Nhưng trước khi chọn loại công cụ AI để triển khai vào quy trình làm việc của mình, bạn cần cân nhắc một số điều sau.

1. Xác định và vạch ra những vấn đề bạn muốn giải quyết. Có phải bạn đang cố gắng cải thiện dịch vụ khách hàng? Đơn giản hóa các công việc lặp đi lặp lại? Đánh giá xu hướng mới? Dịch và bản địa hóa nội dung nhanh chóng? 
2. Xây dựng mốc thời gian.Bạn có thể khám phá, đánh giá và triển khai các tùy chọn AI của mình nhanh như thế nào? Những nhóm nào trong tổ chức của bạn cần phê duyệt? Hậu quả của việc tiến triển quá chậm là gì?
3. Nhận định điều gì quan trọng với bạn.Khi xem xét các công cụ AI khác nhau, bạn cần cân nhắc các lợi ích, hạn chế cũng như các yếu tố khác mà bạn cần đặt câu hỏi với nhà cung cấp. Dịch vụ của họ bao gồm những tính năng nào và chúng phù hợp với mục tiêu của bạn như thế nào?

Ngoài những câu hỏi này, điều quan trọng là phải nghiên cứu cách nhà cung cấp xử lý an toàn và bảo mật AI, cũng như các biện pháp về quyền riêng tư của họ trong việc triển khai và sử dụng AI tạo sinh. Chúng tôi cũng khuyến nghị các tổ chức và người dùng cuối của họ khám phá cách dữ liệu được thu thập và sử dụng để giúp vận hành các công cụ AI mà họ muốn triển khai.

Trước hết, điều quan trọng là phải biết an toàn AI khác với bảo mật AI như thế nào. An toàn AI và bảo mật AI là những khía cạnh cơ bản nhưng khác biệt trong việc triển khai và bảo vệ các hệ thống AI. Cụ thể:

• Bảo mật AI tập trung vào việc bảo vệ tính bảo mật, tính toàn vẹn và tính sẵn có của dữ liệu được sử dụng trong các mô hình và hệ thống AI.
• An toàn AI liên quan đến những cân nhắc rộng hơn về tính mạnh mẽ và đáng tin cậy, các hệ quả về đạo đức, tác động lâu dài đến xã hội, kinh tế và môi trường, cũng như những ảnh hưởng đến quyền con người và các giá trị.

Để khắc phục một số thách thức về bảo mật phát sinh với các hành phần tích hợp AI (cụ thể là nhu cầu bảo vệ các mô hình AI, tập dữ liệu và môi trường đào tạo), có một vài hướng dẫn, tiêu chuẩn và khuôn khổ mới từ các tổ chức uy tín như Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST), Trung tâm An ninh mạng Quốc gia (NCSC) và Tổ chức Tiêu chuẩn hóa Quốc tế (ISO) cùng với Ủy ban Kỹ thuật Điện quốc tế (IEC). Cách tiếp cận của chúng tôi đối với bảo mật AI tuân thủ các tiêu chuẩn của ngành và các thông lệ hàng đầu, đồng thời được thiết kế để duy trì niềm tin của người dùng bằng cách tập trung vào việc giảm thiểu các mối đe dọa mới. 

Cam kết của chúng tôi về bảo mật AI cũng được tích hợp trong toàn bộ Vòng đời phát triển an toàn của Zoom (ZSDLC), bao gồm quản lý chuỗi cung ứng an toàn, đào tạo mô hình, thiết kế an toàn, phát triển an toàn, vận hành an toàn và đào tạo nhân viên. Chúng tôi đang kết hợp các cân nhắc về AI vào chính sách GRC (Quản trị, Rủi ro và Tuân thủ) và khuôn khổ rủi ro của mình, đồng thời bao gồm cả thử nghiệm và nghiên cứu bảo mật do nhóm Đảm bảo An ninh của chúng tôi thực hiện.

Khi tiếp cận với vấn đề an toàn AI, chúng tôi quan tâm trước tiên đến các mô hình và dữ liệu mà mình sử dụng để xây dựng các dịch vụ của mình. Đối với các mô hình do Zoom lưu trữ, chúng tôi xác thực và quản lý dữ liệu đào tạo của mình, và khi lựa chọn nhà cung cấp bên thứ ba, chúng tôi đánh giá các quy trình an toàn của họ để đảm bảo chúng phù hợp với sứ mệnh của chúng tôi. Quy trình đánh giá của chúng tôi bao gồm thử nghiệm các mô hình theo các số liệu an toàn tiêu chuẩn để xác thực các vấn đề phổ biến có thể xảy ra trong quá trình đào tạo mô hình. 

Chủ sở hữu tài khoản và quản trị viên có quyền kiểm soát để quản lý tính khả dụng của các tính năng AI cho tài khoản của họ, bao gồm các quyền kiểm soát ở cấp độ người dùng và nhóm; các quyền này cung cấp các tùy chọn triển khai cho người dùng. Các tùy chọn này, trong tình huống thích hợp, bao gồm việc cho phép kiểm tra đầu ra bởi con người trước khi được chia sẻ rộng rãi. Ngoài ra, khi sử dụng các tính năng trong cuộc họp trong Zoom Workplace (nền tảng cộng tác mở của chúng tôi với AI Companion), biểu tượng lấp lánh sẽ thông báo cho bạn rằng AI đã được bật và đang được sử dụng để giúp cung cấp tính minh bạch cho khách hàng và người tham gia. 

Sau đây là ba cách chúng tôi tiếp cận vấn đề bảo mật và an toàn AI tại Zoom:

1. Bảo vệ các sản phẩm và dịch vụ AI của Zoom sử dụng AI tạo sinh – chẳng hạn như Zoom AI Companion và Trợ giúp chuyên gia Zoom Contact Center – cũng như các mô hình cơ bản hỗ trợ chúng.
2. Tận dụng AI trong toàn bộ chương trình và thông lệ bảo mật của chúng tôi để ngăn ngừa các mối đe dọa tiềm ẩn.
3. Bảo mật việc sử dụng AI nội bộ của Zoom.

Tại Zoom, chúng tôi áp dụng phương pháp tiếp cận liên kết đối với AI, nghĩa là chúng tôi áp dụng các mô hình ngôn ngữ lớn tốt nhất cho một nhiệm vụ cụ thể, bao gồm các mô hình AI của bên thứ ba mà khách hàng đã quen thuộc. Khách hàng có thể chọn các tính năng họ thường sử dụng hay chọn chỉ sử dụng các mô hình do Zoom lưu trữ, việc này chỉ khả dụng cho các tính năng chọn lọc. Điều này giúp quản trị viên có nhiều quyền kiểm soát hơn những đối với những tính năng khả dụng trong tổ chức của họ.

Thực hiện cam kết của chúng tôi về sử dụng AI có trách nhiệm, Zoom không sử dụng bất kỳ âm thanh, video, trò chuyện, chia sẻ màn hình, tệp đính kèm của khách hàng hoặc các nội dung khách hàng tương tự thông tin liên lạc khác (như kết quả thăm dò ý kiến, bảng trắng và tương tác) để đào tạo các mô hình trí tuệ nhân tạo của Zoom hoặc bên thứ ba. Để biết thêm thông tin về cách Zoom AI Companion xử lý dữ liệu khách hàng, hãy truy cập trang hỗ trợ của chúng tôi.

Dù thảo luận ban đầu về an toàn và bảo mật AI này chỉ mới bắt đầu, trong những tháng tới, chúng tôi sẽ chia sẻ thêm thông tin chi tiết về cách chúng tôi tối đa hóa nỗ lực của mình trong quá trình chuyển đổi toàn cầu sang AI. Chúng tôi tin rằng AI là một phương thức tuyệt vời để cải thiện cách chúng ta làm việc và đây chỉ mới là sự khởi đầu. Trong khi chúng tôi tiếp tục phát hành các tính năng mới cho AI Companion và Zoom Workplace, hãy yên tâm rằng an toàn và bảo mật AI luôn là ưu tiên hàng đầu trong quy trình phát triển của chúng tôi. 

Nếu bạn muốn tìm hiểu thêm về cách Zoom đảm bảo quyền riêng tư và bảo mật cho khách hàng, hãy tham gia hội thảo trực tuyến sắp tới của chúng tôi có tên gọi Cách thức bảo đảm quyền riêng tư và bảo mật AI của Zoom, vào ngày 26 tháng 9 năm 2024.