Uma introdução à segurança e segurança da IA

Agora, a inteligência artificial está ficando mais popular e ela nos ajudou a alcançar novos patamares de eficiência por meio da tecnologia. Isso faz com que as vantagens da IA pareçam praticamente ilimitadas, dando à nossa imaginação espaço suficiente para recriar o que é possível. 

Embora seja divertido imaginar a próxima grande ideia, a implementação de uma nova solução de IA exige um forte compromisso com a segurança e a proteção dos dados que a fazem funcionar. Estamos começando uma nova série no Blog do Zoom, no qual discutiremos como e porque você deve implementar a IA generativa com segurança e o que o Zoom está fazendo para criar um ambiente de IA seguro e protegido para nossos clientes.

A IA pode servir para muitas finalidades diferentes, e a IA generativa oferece ferramentas para gerar novos conteúdos, incluindo imagens, palavras, sons, vídeos e dados por meio de várias entradas e saídas para modelos de IA. Às vezes chamada de GenAI, a IA generativa vai além do que é humanamente possível e usa vários algoritmos de IA e aprendizado de máquina para fornecer resultados instantâneos quando solicitada. Dessa maneira, as pessoas podem acelerar seu trabalho e economizar um tempo valioso usando ferramentas generativas de IA para tarefas como redigir resumos de reuniões, obter imagens ou superar um bloqueio de escritor com assistência de redação. 

As soluções generativas de IA podem ser de grande utilidade para o usuário final, liberando tempo para ele se concentrar em um trabalho mais significativo. Mas antes de escolher quais ferramentas de IA você implementará em seus fluxos de trabalho, é importante considerar algumas coisas.

1. Defina e descreva os problemas que você deseja resolver. Você está tentando melhorar o atendimento ao cliente? Simplificar tarefas repetitivas? Avaliar novas tendências? Traduzir e localizar conteúdo rapidamente? 
2. Elabore um cronograma.Com que rapidez você consegue conhecer, avaliar e implementar suas opções de IA? Quais equipes em suas organizações precisam comprar a ideia? Qual é o custo de se mover muito devagar?
3. Decida o que é importante para você.Diferentes ferramentas de IA implicam em diferentes vantagens, desvantagens e perguntas para fazer aos fornecedores que você está avaliando. Quais recursos estão incluídos em seus serviços e como eles estão alinhados com as suas metas?

Além dessas perguntas, é importante pesquisar como um fornecedor lida com a segurança e a proteção da IA e quais são as medidas de privacidade que estão em vigor para implementar e usar a IA generativa. Também recomendamos que as organizações e seus usuários finais saibam como os dados são coletados e usados para potencializar as ferramentas de IA que desejam implementar.

To begin with, it’s important to know how AI safety compares to AI security. AI safety and security are fundamental yet distinct aspects of the deployment and protection of AI systems, but specifically:

• AI security is focused on safeguarding the confidentiality, integrity, and availability of data used in AI models and systems.
• AI safety involves broader considerations related to robustness and reliability, ethical implications, long-term societal, economic, and environmental impacts, and impacts on human rights and values.

Para superar alguns dos desafios de segurança que surgem com as integrações da IA (ou seja, a necessidade de proteger modelos, conjuntos de dados e ambientes de treinamento da IA), há uma série de diretrizes, padrões e estruturas emergentes de instituições respeitadas, como o Instituto Nacional de Padrões e Tecnologia (NIST), o Centro Nacional de Segurança Cibernética (NCSC) e, coletivamente: a Organização Internacional de Padronização (ISO) e a Comissão Eletrotécnica Internacional (IEC). Nossa abordagem em relação à segurança de IA está alinhada com esses padrões e práticas líderes do setor e foi elaborada para preservar a confiança de nossos usuários, focando na mitigação de ameaças emergentes. 

Nosso compromisso com a segurança da IA também está integrado por todo o ciclo de vida de desenvolvimento seguro (ZSDLC) do Zoom, abrangendo gerenciamento seguro da cadeia de suprimentos, treinamento de modelos, design seguro, desenvolvimento seguro, operação segura e treinamento de funcionários. Estamos incorporando considerações referentes à IA em nossas políticas de GRC (Governança, Risco e Conformidade) e estrutura de risco, além de incluir testes de segurança e pesquisas conduzidas por nossa equipe de Garantia de segurança.

Nossa abordagem em relação à segurança da IA começa com os modelos e dados que usamos para desenvolver nossos serviços. Para modelos hospedados pelo Zoom, validamos e gerenciamos os dados de treinamento e, ao selecionar fornecedores terceirizados, avaliamos os procedimentos de segurança para garantir que estejam alinhados com a nossa missão. Nossas avaliações incluem testar os modelos em relação às métricas de segurança padrão para validar problemas comuns que podem ocorrer no treinamento de modelos. 

Os proprietários da conta e os administradores têm controles para gerenciar a disponibilidade de recursos de IA nas suas contas, incluindo controles no nível de usuário e de grupo que oferecem opções de implementação. Essas opções incluem, quando adequado, permitir a revisão humana dos resultados antes de serem compartilhados de forma mais ampla. Além disso, ao usar os recursos dentro da reunião, no Zoom Workplace (nossa plataforma de colaboração aberta com o AI Companion), o ícone brilhante notifica você de que a IA está ativada e em uso, oferecendo transparência aos clientes e participantes.

Veja três maneiras diferentes de abordarmos a segurança e a proteção da IA no Zoom:

1. Proteção dos produtos e serviços de IA do Zoom que utilizam IA generativa, como o Zoom AI Companion e o Zoom Contact Center Expert Assist, e dos modelos subjacentes que os suportam.
2. Usando a IA em todo nosso programa de segurança e na prática para ficar à frente das ameças que estão sempre evoluindo.
3. Protegendo o uso interno da IA pelo Zoom.

No Zoom, adotamos uma abordagem federada para a IA, o que significa que aplicamos os melhores grandes modelos de linguagem para uma tarefa específica, incluindo modelos de IA de terceiros com os quais os clientes já estão familiarizados. Os clientes podem escolher quais recursos usar e se desejam usar somente modelos hospedados pelo Zoom, disponíveis para alguns recursos. Isso dá aos administradores mais controle sobre o que está disponível em sua organização.

Respeitando o nosso compromisso de ser responsável em relação à IA, o Zoom não usa nenhum de seus áudios, vídeos, chats, compartilhamentos de tela, anexos ou outras comunicações semelhantes ao conteúdo do cliente (como resultados de enquetes, quadro de compartilhamento e reações) para treinar o Zoom ou modelos de inteligência artificial de terceiros. Para mais informações sobre como o Zoom AI Companion manuseia os dados do cliente, visite nossa página de suporte.

Embora essa discussão sobre segurança e proteção da IA esteja apenas começando, nos próximos meses, compartilharemos mais detalhes sobre o que estamos fazendo para maximizar nossos esforços durante a mudança global para a IA. Acreditamos que a IA é uma maneira incrível de melhorar a forma como trabalhamos e que isso é apenas o começo. À medida que continuamos lançando novos recursos para o AI Companion e para o Zoom Workplace, tenha certeza de que a segurança e a proteção da IA é a nossa principal preocupação durante o nosso processo de desenvolvimento.

Se você quer saber mais sobre a abordagem do Zoom em relação à privacidade e segurança, junte-se a nós em nosso próximo webinar, A abordagem do Zoom em relação à privacidade e segurança da IA, no dia 26 de setembro de 2024.