Agentes de IA con acceso al correo y a la información de la empresa

¿Hasta dónde dejar entrar a la IA en tu empresa?: Agentes de IA con acceso al correo y a la información

Cada vez es más habitual utilizar herramientas de inteligencia artificial conectadas directamente al correo electrónico, al calendario, al CRM o al gestor documental de una empresa.

Esto permite hacer cosas que hasta hace poco parecían difíciles de imaginar: pedir a la IA que encuentre un correo entre miles, que prepare una respuesta teniendo en cuenta conversaciones anteriores, que consulte documentación guardada en los servidores o en el cloud de la empresa, o que busque y cruce información procedente de diferentes fuentes.

Y puede hacerlo porque le estamos dando acceso, a través de nuestro usuario, a los mismos sistemas y a la misma información a los que nosotros ya tenemos acceso. En la práctica, estamos dejando entrar a una IA con nuestras llaves: puede consultar aquello que nosotros podemos consultar.

Precisamente por eso, no es lo mismo hacer una consulta puntual a ChatGPT que conectarlo a los sistemas de la empresa.

Antes de hacerlo, conviene revisar algunas cuestiones.

Para entenderlo mejor, en este artículo vamos a centrarnos en un caso concreto: ChatGPT y su integración con el entorno Microsoft de una empresa, como Outlook, el calendario o SharePoint. Veremos qué diferencias existen entre sus distintas versiones, qué garantías ofrece OpenAI cuando se utiliza en un entorno empresarial y qué ocurre cuando le damos acceso a nuestros sistemas. El mismo análisis puede hacerse con otras herramientas de IA.

Puntos clave

  • Estamos dejando entrar a una IA con nuestras llaves: puede consultar aquello que nosotros podemos consultar.
  • Si los permisos internos están mal configurados, la IA puede amplificar ese problema.
  • Permisos mínimos desde la tecnología y supervisión suficiente desde las personas.
  • No basta con auditar al proveedor. Hay que auditar el punto de encuentro entre la IA y nuestra empresa.
  • Contratar una herramienta segura no convierte automáticamente en seguro cualquier uso que hagamos de ella.

1. ¿Estamos utilizando una herramienta empresarial?

No es lo mismo utilizar una cuenta personal de una herramienta de IA que una solución pensada específicamente para empresas.

Por ejemplo, OpenAI establece para ChatGPT Business que los datos del área de trabajo no se utilizan para entrenar sus modelos y que la información se cifra tanto durante la transmisión como cuando está almacenada.

También ofrece controles específicos para organizaciones y cuenta con una auditoría independiente SOC 2 Type 2, un estándar de seguridad que verifica que una empresa dispone y aplica de forma efectiva controles para proteger la información y gestionar adecuadamente aspectos como los accesos, la disponibilidad de los sistemas y la confidencialidad de los datos.

Por tanto, antes de conectar información corporativa, la primera pregunta debería ser sencilla: ¿qué versión de la herramienta estamos utilizando y qué condiciones se aplican a nuestros datos?

No basta con conocer qué puede hacer la herramienta. Hay que entender también cómo funciona cuando la conectamos a nuestros sistemas: qué dicen sus condiciones sobre la información de la empresa, qué garantías ofrece el proveedor, cómo protege los datos y qué controles tendremos nosotros sobre su acceso y utilización. Es una revisión que debería hacerse antes de abrirle la puerta a nuestros sistemas, no después.

2. Conectar Outlook o SharePoint no significa necesariamente abrir toda la empresa a la IA

Las integraciones empresariales funcionan mediante permisos.

En el caso de ChatGPT conectado con Microsoft 365, el acceso se realiza a través de los mecanismos de autorización de Microsoft. En términos sencillos, ChatGPT no recibe una llave maestra de la empresa: se autoriza una conexión determinada y Microsoft controla qué usuario se conecta y a qué información tiene permiso para acceder. Técnicamente, esto se articula mediante servicios como Microsoft Graph y, en determinados casos, puede requerir además la autorización del administrador de la organización a través de Microsoft Entra.

Esto permite que la empresa mantenga una capa de control sobre la integración: qué aplicaciones se pueden conectar, quién puede hacerlo y qué permisos se conceden.

Además, ChatGPT respeta los permisos que ya existen en los sistemas de Microsoft.

Por ejemplo, si un usuario no puede acceder a una determinada carpeta de SharePoint, conectar ChatGPT no debería darle acceso a esa carpeta.

Esto es importante, pero también pone de manifiesto otro problema: si los permisos internos están mal configurados, la IA puede amplificar ese problema.

Antes de conectar una herramienta de IA, por tanto, es un buen momento para revisar quién tiene acceso a cada cosa.

¿Va a conectar una herramienta de IA a los sistemas de su empresa?

Si necesita ampliar información sobre permisos, accesos y garantías antes de hacerlo, contacte con nosotros y le ayudaremos.

3. ¿Solo puede consultar información o también puede actuar?

No es lo mismo permitir que una IA busque un correo que permitirle enviarlo.

Tampoco es lo mismo consultar un documento que modificarlo, moverlo o eliminarlo.

Aquí hay que trabajar desde dos perspectivas.

La primera es técnica. La herramienta debe estar configurada para que cada usuario y cada integración tengan únicamente los permisos necesarios para realizar su trabajo. No deberíamos permitir una acción simplemente porque técnicamente sea posible. Es, además, la lógica de minimización de accesos y privilegios que inspira la normativa europea de protección de datos y ciberseguridad: limitar el acceso y las capacidades a aquello que resulte necesario.

La segunda, igual de importante, es formar al usuario. Una herramienta bien configurada puede reducir muchos riesgos, pero no sustituye unas buenas reglas de uso.

El trabajador debe saber cómo pedir correctamente las cosas a la IA y, sobre todo, cuándo debe detenerse y revisar. Por ejemplo, puede pedirle que prepare la respuesta a un correo, pero debería comprobarla antes de enviarla;

  • verificar quién es el destinatario y quién figura en copia;
  • revisar los documentos que se adjuntan;
  • o indicarle expresamente que no ejecute una acción hasta recibir su confirmación.

Por eso, integrar estas herramientas no consiste únicamente en configurar permisos. Hay que acompañarlas de una política interna clara y de formación práctica para quienes van a utilizarlas.

La regla podría resumirse así: permisos mínimos desde la tecnología y supervisión suficiente desde las personas. Cuanto mayor sea la capacidad de actuación que demos a la IA, mayores deberán ser ambos controles.

4. Hay que auditar la integración, no solo la herramienta

Una herramienta puede ofrecer buenas garantías de seguridad y, aun así, estar mal integrada en nuestra empresa.

Por eso, una vez analizado el proveedor, hay que bajar un nivel y revisar técnicamente qué estamos conectando y cómo lo estamos haciendo:

  • a qué sistemas podrá acceder la IA,
  • con qué credenciales,
  • qué permisos recibe,
  • qué información puede recuperar,
  • qué acciones puede ejecutar
  • y qué registros quedan de su actividad.

Y la revisión debe hacerse también del otro lado. Hay que comprobar nuestros propios sistemas:

  • si los permisos de Microsoft 365 están correctamente configurados,
  • si existen cuentas compartidas,
  • si mantenemos accesos innecesarios,
  • si podemos revocar rápidamente una integración
  • o qué ocurriría si una acción incorrecta modificara o eliminara información.

ChatGPT Business, como hemos visto, ofrece garantías relevantes para un uso empresarial. Pero la seguridad final no depende únicamente de ChatGPT. Depende también de cómo lo conectemos, de los permisos que le concedamos y de cómo estén configurados nuestros propios sistemas.

En definitiva, no basta con auditar al proveedor. Hay que auditar el punto de encuentro entre la IA y nuestra empresa.

5. Hay información que quizá no debería estar disponible

Que técnicamente podamos conectar una herramienta a todo nuestro SharePoint no significa que debamos hacerlo.

Los recursos humanos, la información médica, la documentación especialmente confidencial, los secretos empresariales, la información sometida a secreto profesional o determinados repositorios financieros pueden requerir restricciones adicionales.

La pregunta no debería ser únicamente “¿es seguro ChatGPT?”, sino también “¿a qué información queremos que pueda acceder ChatGPT?”.

La seguridad también depende de cómo lo configuremos. Las soluciones empresariales de IA incorporan cada vez más garantías de seguridad, privacidad y control.

Pero contratar una herramienta segura no convierte automáticamente en seguro cualquier uso que hagamos de ella.

Antes de conectar una herramienta de IA al correo, al calendario, al CRM o al gestor documental, la empresa debería hacer una revisión sencilla:

  • identificar qué datos podrá consultar,
  • qué permisos tendrá,
  • qué acciones podrá realizar
  • y qué información debe quedar fuera.

Porque, en este nuevo escenario, una parte importante del riesgo ya no está solo en lo que la inteligencia artificial sabe.

Está en las llaves que decidimos darle.

¿Necesita auditar la integración de agentes de IA en su empresa?

Si desea que revisemos qué puede consultar, qué puede ejecutar y qué debe quedar fuera, póngase en contacto con nosotros y le ayudaremos.

Xavi Saula
Socio · Derecho Digital · Reestructuraciones
Auris Legal

Abogado en ejercicio desde 1998. En 2002 entró a formar parte del despacho Durán-Sindreu, donde lideró el nacimiento, crecimiento y consolidación del departamento de Derecho Mercantil, Procesal, Concursal y de Nuevas Tecnologías, dirigiéndolos hasta 2013 y combinándolo con el ejercicio de la administración concursal.

Más sobre herramientas de IA y cumplimiento

Este artículo tiene finalidad informativa y no constituye asesoramiento jurídico. Para valorar un caso concreto es necesario un análisis individualizado.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *