Idioma: Español
Cuando conecta un asistente de IA a ActivityInfo, el asistente lee datos de su base de datos y los envía a la empresa que gestiona el asistente. Esa empresa procesa sus datos en su nombre. Que esto sea aceptable es una decisión de protección de datos para su organización, no una decisión técnica, y debe resolverse antes de que alguien conecte un asistente a una base de datos que contenga datos sensibles.
Los datos sensibles en ActivityInfo suelen ser datos personales sobre las personas a las que sirve un programa: nombres, detalles de contacto, composición del hogar, ubicaciones, información sobre la salud, casos de protección o texto libre que identifica a alguien indirectamente. Este artículo describe qué comprobar y en qué orden.
Qué sale de ActivityInfo
Un asistente actúa con los permisos del usuario que lo autorizó, como se describe en Comprender los permisos para los asistentes de IA. Dentro de esos permisos, los datos que llegan al proveedor de IA incluye:
- los nombres y descripciones de las bases de datos, carpetas, formularios y campos,
- los valores de los registros que el asistente recupera, incluido el texto libre,
- los resultados de los análisis que realiza, y
- las preguntas que usted hace y las respuestas que da, que repiten los datos.
Trate todo lo que un asistente lee como datos que su organización ha revelado al proveedor. Asuma que se almacena en el historial de la conversación y que el personal del proveedor puede leerlo bajo las condiciones que describen sus términos.
Utilice una cuenta de empresa o corporativa
Una cuenta de consumidor y una cuenta de empresa del mismo proveedor suelen regirse por términos diferentes.
Las cuentas de consumidor, incluidas las cuentas gratuitas y las suscripciones de pago individuales, normalmente:
- permiten al proveedor utilizar el contenido de las conversaciones para mejorar o entrenar sus modelos,
- no ofrecen un Acuerdo de Procesamiento de Datos, solo términos para el consumidor,
- no dan a su organización control administrativo sobre quién conecta qué, ni control sobre cuánto tiempo se conservan las conversaciones, y
- no se comprometen sobre dónde se procesan los datos.
Una cuenta en un plan de empresa, equipo o corporativo, comprada por su organización en lugar de por un particular, normalmente ofrece un Acuerdo de Procesamiento de Datos, controles administrativos y ajustes de retención. Los términos difieren entre proveedores y cambian con el tiempo, así que lea los términos que se aplican al plan específico en la fecha en que lo compre, en lugar de confiar en un resumen.
No conecte una base de datos que contenga datos personales utilizando una cuenta de consumidor.
Revise el Acuerdo de Procesamiento de Datos (DPA)
Bajo el RGPD y legislaciones similares en otros países, su organización es el responsable del tratamiento de los datos en su base de datos de ActivityInfo, y un proveedor de IA que los procesa se convierte en un encargado del tratamiento. Se requiere un acuerdo por escrito, y su organización debe revisarlo antes de conectarse. Compruebe que:
- nombra al proveedor como encargado del tratamiento y limita el procesamiento a la prestación del servicio a usted,
- establece que sus entradas y salidas no se utilizan para entrenar o mejorar los modelos del proveedor,
- enumera los subencargados del tratamiento y dice cómo se le informa cuando cambian,
- establece cuánto tiempo se conservan las entradas y salidas, y cómo se eliminan,
- describe las medidas de seguridad que se aplican,
- compromete al proveedor a notificarle una violación de datos personales,
- da a su organización el derecho a auditar o a recibir informes de auditoría, y
- establece el mecanismo legal para cualquier procesamiento fuera de su propia región.
Guarde el acuerdo firmado con su registro de actividades de procesamiento, junto con una nota de qué bases de datos cubre la decisión. Si un proveedor no ofrece un Acuerdo de Procesamiento de Datos, no conecte una base de datos que contenga datos personales.
Mantenga los datos sensibles fuera del entrenamiento de modelos
Un modelo entrenado con sus registros puede reproducir fragmentos de ellos en respuestas dadas a otras personas. Eliminar una conversación, cerrar una cuenta o invocar el derecho de supresión no elimina los datos de un modelo que ya ha sido entrenado con ellos.
Así que confirme dos cosas distintas:
- Exclusión del entrenamiento. El Acuerdo de Procesamiento de Datos, o los términos de su plan, deben establecer que su contenido no se utiliza para el entrenamiento. Cuando el proveedor también ofrezca un ajuste para esto, compruébelo también, y vuelva a comprobarlo después de cualquier cambio de plan o después de que el proveedor cambie sus términos.
- Revisión humana y retención. Los proveedores suelen retener las conversaciones durante un período para supervisar el abuso, y el personal puede leer las conversaciones marcadas. Esto es independiente del entrenamiento, a menudo no es algo que se pueda desactivar, y es una revelación de los datos por derecho propio. Averigüe el período de retención y quién puede leer los datos durante el mismo.
Considere dónde se procesan los datos
Mover datos personales a través de las fronteras a menudo requiere un mecanismo de transferencia legal, como una decisión de adecuación o Cláusulas Contractuales Tipo junto con una evaluación del riesgo en el país de destino. La mayoría de los grandes proveedores de IA procesan datos en los Estados Unidos, o en varias regiones.
Establezca, por escrito:
- las regiones donde se ejecuta el modelo y donde se almacena el historial de conversaciones,
- las ubicaciones de los subencargados del tratamiento,
- si el plan ofrece un compromiso de residencia de datos, y si ese compromiso cubre tanto el procesamiento como el almacenamiento, y
- en qué mecanismo de transferencia se basa el acuerdo.
Registre la evaluación. Para algunas categorías de datos, la conclusión puede ser que ninguna transferencia es aceptable y que los datos deben permanecer fuera de cualquier base de datos a la que un asistente pueda acceder. Los datos que revelan la salud, los datos sobre casos de protección o de violencia de género, y cualquier dato que pudiera poner en riesgo a una persona si se revelara, pertenecen a esa categoría, a menos que su asesor de protección de datos diga lo contrario.
Considere proveedores locales
Los principales proveedores de IA, OpenAI y Anthropic, tienen su sede en los Estados Unidos. Sin embargo, no son las únicas opciones a considerar.
Mistral AI está establecida en Francia y declara que aloja los datos en la Unión Europea por defecto. Su asistente admite conectores MCP personalizados, por lo que puede conectarse a ActivityInfo de la misma manera que los otros asistentes descritos en este manual. Consulte Conectar Mistral a ActivityInfo.
Para una organización que tiene que mantener los datos personales dentro de la Unión Europea, un proveedor con sede en la UE elimina la cuestión de la transferencia internacional en lugar de exigirle que la gestione. No elimina las otras comprobaciones: revise el Acuerdo de Procesamiento de Datos, confirme la exclusión del entrenamiento para el plan que compre y utilice una cuenta de organización en lugar de una personal.
Reduzca lo que un asistente puede alcanzar
Una vez que su organización haya decidido que un proveedor es aceptable, limite la exposición a lo que el trabajo realmente necesita:
- Active el servidor MCP solo para las bases de datos que lo necesiten. El ajuste es por base de datos y está desactivado por defecto.
- Conceda solo acceso de lectura, a menos que el asistente necesite hacer cambios.
- Conéctese con una cuenta cuyo rol conceda solo lo necesario. Un rol limitado a las carpetas pertinentes, o limitado por una condición a una parte de un formulario, limita al asistente de la misma manera. Evite conectarse con una cuenta de administrador por comodidad.
- Deje los identificadores directos fuera de los formularios donde el propósito no los requiera. Un formulario que no necesita un nombre o un número de teléfono para cumplir su propósito no debería recogerlo.
- Mantenga los datos más sensibles en una base de datos separada que tenga el servidor MCP desactivado.
Decida quién puede conectarse, como organización
El interruptor es por base de datos, y la persona que lo activa toma la decisión por todos los que tienen acceso a esa base de datos. Eso lo convierte en una decisión de la organización en lugar de una decisión individual.
Escriba y distribuya:
- qué bases de datos pueden conectarse a un asistente y cuáles no,
- qué proveedores y qué planes están aprobados,
- quién aprueba una nueva conexión, y
- con qué frecuencia se revisan las autorizaciones existentes.
Pida a los usuarios que revisen periódicamente los asistentes que han autorizado y que revoquen los que ya no utilizan, como se describe en Revisar y revocar asistentes conectados.