Cómo protege Slack tus datos mediante el aprendizaje automático y la IA

Hace poco, algunos miembros de la comunidad de Slack nos comentaron que nuestros Principios de privacidad no eran lo suficientemente claros y podían dar lugar a confusión sobre cómo utilizamos los datos de los clientes en Slack. Valoramos mucho los comentarios que recibimos, por lo que revisamos el contenido de nuestro sitio web y nos dimos cuenta de que tenían razón. Podríamos haber explicado mejor nuestro enfoque, sobre todo en lo que respecta a las diferencias del uso de los datos en los modelos tradicionales de aprendizaje automático (AA) y en la IA generativa.

Hemos actualizado estos principios para explicar con mayor claridad cómo Slack protege los datos de los clientes al proporcionar experiencias de AA y de IA generativa en Slack. Esto es lo que necesitas saber:

• Slack utiliza técnicas de aprendizaje automático estándar en el sector y que protegen la privacidad para cosas como las recomendaciones de canales y emojis y los resultados de búsqueda. No creamos ni entrenamos estos modelos de forma que puedan aprender, memorizar o reproducir datos de los clientes de ningún tipo. Aunque los clientes pueden decidir no utilizarlos, estos modelos mejoran la experiencia del producto para los usuarios sin riesgo de que se compartan sus datos. Los modelos de AA tradicionales de Slack utilizan datos agregados desidentificados y no acceden al contenido de los mensajes directos, canales cerrados o canales abiertos.
• La IA de Slack, el producto complementario de IA generativa de Slack, utiliza grandes modelos lingüísticos (LLM) de terceros. No se utilizan datos de los clientes para entrenar estos LLM. Asimismo, nosotros no desarrollamos LLM ni ningún otro modelo generativo a partir de los datos de los clientes.

La confianza es nuestro valor principal, y ese valor empieza por la transparencia. Nuestros clientes merecen conocer al detalle cómo utilizamos y, lo que es más importante, cómo no utilizamos sus datos para ofrecerles la mejor experiencia posible.

En este artículo profundizaremos un poco más en el tema para aclarar todas las dudas. Esperamos que te resulte útil y, como siempre, valoramos tus sugerencias.

Proteger los datos: El uso que hace Slack de los modelos tradicionales de aprendizaje automático

El objetivo de Slack es hacer que la vida laboral de nuestros usuarios sea más sencilla, agradable y productiva. Hay mucha información en Slack y, para poder aumentar la productividad, necesitas ser capaz de navegar por ese contenido de manera efectiva y encontrar rápidamente lo que buscas. Desde 2017, hemos utilizado técnicas de aprendizaje automático estándar del sector y que protegen la privacidad para lograr mostrar la información correcta al usuario adecuado y en el momento justo. Por ejemplo, autocompletar el nombre de un canal al empezar a escribir en la búsqueda o recomendar nuevos canales a los que unirse en el espacio de trabajo.

Nuestros Principios de privacidad definen la forma en que utilizamos los sistemas de aprendizaje automático en Slack. Los ponemos a disposición del público como muestra de nuestra transparencia y responsabilidad. Estos principios están en consonancia con el compromiso que Slack mantiene desde hace tiempo con la privacidad de sus clientes y usuarios. Garantizan lo siguiente:

• Los datos no se filtran entre espacios de trabajo. No desarrollamos ni entrenamos modelos de AA de forma que puedan aprender, memorizar o reproducir los datos de clientes.
• Los modelos de AA nunca acceden directamente al contenido de los mensajes o archivos. En su lugar, se basan en características numéricas extraídas minuciosamente. Por ejemplo:
  • El sello de tiempo del último mensaje enviado en un canal puede ayudarnos a recomendar archivarlo para simplificar el contenido de la barra lateral de los usuarios.
  • El número de interacciones entre dos individuos se utiliza para crear su lista de recomendaciones de usuarios, de modo que cuando van a iniciar una nueva conversación, obtienen una lista relevante de compañeros de trabajo.
  • El número de palabras que coinciden entre el nombre de un canal y otros canales a los que pertenece un usuario nos indica su relevancia para ese usuario.
• Los controles técnicos impiden el acceso no autorizado. Cuando se desarrollan modelos de IA o AA, o se analizan datos de clientes, Slack no accede al contenido subyacente. Y para asegurarnos de que esto sea así, tenemos varias medidas técnicas que lo impiden. Lee nuestro Libro blanco de seguridad para obtener más información sobre los controles que garantizan la confidencialidad y la seguridad de los datos de los clientes.
• Los clientes tienen total libertad en estas prácticas. Si prefieres que no utilicemos los datos de tus clientes para entrenar los modelos de AA de Slack, puedes hacérnoslo saber tal y como explicamos aquí. Debido a que contamos con fuertes medidas de protección para entrenar estos modelos de forma segura y así ofrecer el mejor servicio posible, los espacios de trabajo no se excluyen de forma predeterminada.

A continuación te mostramos algunos ejemplos específicos de cómo se utilizan los modelos de AA no generativo en Slack para ayudarte a encontrar lo que buscas:

Clasificación de la búsqueda

Creación de una lista de resultados personalizada y clasificada por prioridad cuando un usuario busca personas, mensajes o archivos.

Funcionamiento:
Nuestros modelos de aprendizaje automático ayudan a los usuarios a encontrar lo que buscan identificando los resultados adecuados para cada consulta. Para ello, nos basamos en el historial de resultados de las búsquedas y en interacciones anteriores, sin llegar a analizar el texto subyacente de la consulta, los resultados ni el proxy. En pocas palabras, nuestros modelos no se entrenan utilizando la consulta de búsqueda real, sino que aprenden del contexto que rodea la búsqueda, como por ejemplo, el número de palabras de una consulta.

Recomendaciones
Recomendación de usuarios, canales, emojis y otros contenidos relevantes en distintas partes del producto, como sugerirte canales a los que unirte.

Funcionamiento:
A menudo recomendamos a los usuarios que se unan a nuevos canales abiertos en su espacio de trabajo para que puedan aprovechar Slack al máximo. Estas sugerencias se basan en la pertenencia al canal, la actividad y las coincidencias temáticas. Para ello, utilizamos modelos de AA de código abierto, que no se han desarrollado con datos de Slack, para evaluar la similitud de los temas y obtener puntuaciones numéricas. Nuestro modelo hace recomendaciones basándose únicamente en estas puntuaciones y en datos ajenos a los clientes.

Autocompletar
Ayuda para añadir usuarios, canales y nombres de archivos a los mensajes mediante el asistente de búsqueda de Slack.

Funcionamiento:
Cuando los usuarios quieran hacer referencia a un canal o a un usuario en un mensaje, solo tendrán que pulsar # y empezar a escribir el nombre. Nuestros modelos sugerirán los canales más relevantes que coincidan basándose en una serie de datos, como los canales a los que pertenece el usuario y sus interacciones más recientes y habituales.

En resumen, los modelos de AA tradicionales de Slack utilizan datos agregados desidentificados y no acceden al contenido original de los mensajes directos, canales cerrados o canales abiertos para hacer estas sugerencias. En su lugar, recopilan datos agregados para mejorar la búsqueda, ofrecer resultados más precisos y mejorar las recomendaciones.

Exclusión voluntaria y experiencia de usuario del cliente

Los clientes tienen la opción de enviar un correo electrónico a Slack para excluir sus datos del entrenamiento de modelos de AA no generativo. Al hacerlo, los datos asociados a tu espacio de trabajo se utilizarán únicamente para mejorar la experiencia del mismo. Seguirás disfrutando de todas las ventajas de nuestros modelos de AA entrenados globalmente sin contribuir a los modelos subyacentes. No se desactivará ninguna característica del producto, pero los usuarios dejarán de poder enviar sugerencias para ciertas áreas del producto. Por otro lado, es probable que el funcionamiento de los modelos globales sea ligeramente peor para tu equipo, ya que se dejarán de optimizar los patrones de uso.

En otras palabras, la exclusión de un solo cliente no debería tener un impacto significativo, pero cuanto mayor sea el número de clientes que se excluyan, peor será el rendimiento global de este tipo de modelos.

Pásate a la IA generativa

La IA generativa incorpora una nueva clase de modelos que se utilizan para mejorar la experiencia del usuario, en concreto los grandes modelos lingüísticos (LLM). Los LLM se utilizan en el producto complementario, IA de Slack, que se puede adquirir por separado. Hemos creado la IA de Slack pensando especialmente en la seguridad y la confianza:

• Los datos de nuestros clientes nunca salen de Slack.
• No entrenamos los LLM con datos de los clientes.
• La IA de Slack solo utiliza los datos que el usuario ya puede ver.
• La IA de Slack cumple todos los requisitos de seguridad y cumplimiento normativo empresarial.

Slack no entrena LLM u otros modelos generativos con datos de los clientes ni los comparte con ningún proveedor de LLM.

Puedes obtener más información acerca de cómo hemos creado la IA de Slack para que sea segura y privada aquí.