¿Cómo regular jurídicamente un asistente de IA con acceso a los sistemas de la empresa?

Por qué un asistente con acceso a los sistemas implica un riesgo distinto al de un chat corriente

La diferencia entre una herramienta de chat y un asistente de IA conectado a los sistemas de la empresa radica en quién decide sobre los datos. En un chat corriente, el empleado introduce el texto manualmente y elige él mismo qué sale de la empresa. Un asistente con acceso al correo, a la unidad compartida, a la contabilidad o al CRM busca la información por sí solo. Lee contratos, la correspondencia con los clientes e incluso los expedientes de personal, siempre que tenga permiso para ello. La empresa pierde así la visión de qué ha tratado exactamente la herramienta.

Técnicamente, el asistente se conecta a los sistemas mediante conectores. Cada vez con más frecuencia se trata de conectores basados en el estándar MCP (Model Context Protocol), es decir, un protocolo abierto a través del cual el modelo de lenguaje lee datos de otras aplicaciones y realiza acciones en ellas. Cada conector amplía el conjunto de datos y acciones de que dispone el asistente. Que estos datos lleguen también al proveedor del modelo depende de la arquitectura de la solución: dónde se ejecuta el conector, qué datos se envían al modelo y qué se guarda en los registros. Por ello, la empresa debe verificar los flujos de datos de cada componente, no solo del propio modelo.

Para la dirección de la empresa, de ello se desprende una reflexión sencilla. Quien activa un asistente con acceso generalizado le pone a su alcance, de una sola vez, los datos personales de empleados, clientes y proveedores, además del know-how de la empresa. Las oportunidades y los riesgos generales de implantar inteligencia artificial en la empresa se resumen en el artículo sobre las oportunidades y retos jurídicos de la inteligencia artificial en los negocios. Este texto se centra en el contrato, los datos personales y la responsabilidad.

Quién responde cuando el asistente comete un error

Del tratamiento de datos personales responde, en primer lugar, la empresa que ha implantado el asistente. El Reglamento General de Protección de Datos (RGPD) considera responsable del tratamiento a quien determina los fines y los medios del tratamiento. El proveedor que trata los datos por cuenta de la empresa y siguiendo sus instrucciones es, por regla general, encargado del tratamiento. Si el asistente envía un documento sensible al destinatario equivocado o pone los salarios al alcance de toda la empresa, la empresa debe evaluar el incidente, en su caso notificarlo a la autoridad y explicarlo a las personas afectadas.

Sin embargo, el proveedor no queda exento de responsabilidad. Como encargado, debe proteger los datos, seguir las instrucciones de la empresa, recurrir a otros encargados solo con su autorización y notificarle las violaciones de seguridad. Si incumple estas obligaciones, la autoridad puede imponerle una multa y responde frente a las personas afectadas por los daños (art. 82). Si utiliza los datos para fines propios, por ejemplo para entrenar su modelo, el Reglamento lo considera responsable respecto de ese tratamiento (art. 28, apdo. 10). Ello no exime, sin embargo, a la empresa de su responsabilidad por haber elegido un proveedor sin garantías suficientes.

Frente a clientes y socios comerciales, la empresa responde de los resultados del asistente igual que del trabajo de un empleado. Si el asistente prepara una oferta errónea o introduce un dato incorrecto en un contrato, la empresa no puede defenderse alegando que el texto lo redactó un software. Lo decisivo es quién aprobó y envió el resultado. La otra parte contractual trata con la empresa, no con su herramienta, y ejercerá contra ella la reclamación de indemnización de daños.

El empleado que haya utilizado el asistente de forma incorrecta responde frente a la empresa solo de manera limitada. En caso de daños causados por negligencia, el empleador puede exigir al empleado como máximo cuatro veces y media su salario medio mensual. La limitación no se aplica si el empleado causó el daño dolosamente, en estado de embriaguez o tras el abuso de otras sustancias adictivas. Si la empresa también contribuyó al daño, por ejemplo poniendo en marcha el asistente sin normas, el empleado solo indemnizará una parte proporcional. La mayor parte de la pérdida derivada de la fuga de datos la soportará, por tanto, la empresa.

La regla se desprende del Código del Trabajo checo (Ley n.º 262/2006 Sb., en adelante «CT»), concretamente de su § 257, y en la práctica significa que la prevención resulta más barata que la reclamación posterior. Que la empresa obtenga algo del empleado depende de si este incumplió una obligación laboral, de si actuó culpablemente y de si el daño se produjo precisamente por ello. La directiva interna, la formación y la limitación técnica de los accesos reducen, por tanto, el riesgo de un daño que la empresa no podrá reclamar a nadie.

Qué debe contener el contrato con el proveedor de la herramienta de IA

El contrato con el proveedor debe cumplir los requisitos obligatorios del contrato de encargo del tratamiento conforme al RGPD. El proveedor solo puede tratar datos personales siguiendo instrucciones documentadas de la empresa y debe comprometer a su personal a la confidencialidad. Solo puede recurrir a otros encargados con autorización previa. Al finalizar el servicio, debe suprimir o devolver los datos y permitir a la empresa la realización de auditorías (art. 28, apdo. 3). La posición del proveedor no la determina el nombre del contrato, sino quién decide realmente sobre los fines y los medios del tratamiento.

Para un asistente de IA no basta con firmar sin modificaciones un anexo estándar de encargo del tratamiento. El contrato debería indicar expresamente si el proveedor puede utilizar las entradas y los resultados de la empresa para entrenar o mejorar sus modelos. La ley no impone tal prohibición, pero en el caso de datos empresariales confidenciales es razonable pactarla. Cada uso autorizado para fines propios del proveedor requiere un análisis jurídico independiente. El contrato debe determinar además dónde se almacenan los datos, desde dónde accede a ellos el proveedor y durante cuánto tiempo conserva el historial de consultas y los registros de actividad del asistente.

El segundo ámbito es la lista de otros encargados. Los grandes proveedores de herramientas de IA recurren habitualmente a proveedores de servicios en la nube y a sus propios proveedores de modelos de lenguaje. La empresa debe tener derecho a oponerse al cambio de otro encargado y, en último término, a resolver el contrato. En caso de autorización general, el proveedor debe informar previamente a la empresa de cualquier cambio previsto (art. 28, apdo. 2). Para los datos transferidos fuera del Espacio Económico Europeo, es necesario verificar también la base jurídica de dicha transferencia.

El tercer ámbito es la responsabilidad del proveedor y su limitación. Los proveedores de herramientas de IA suelen limitar la indemnización de daños al importe pagado durante un determinado período. Tal limitación no puede aplicarse a los daños causados dolosamente o por negligencia grave. El tribunal no tendrá en cuenta esa parte del pacto. Por ello, la empresa debería negociar un límite independiente y más elevado para las fugas de datos y las infracciones del deber de confidencialidad, ya que es precisamente ahí donde se producen los mayores daños.

El límite para la limitación de responsabilidad se deriva del Código Civil checo (Ley n.º 89/2012 Sb., en adelante «CC»), en su § 2898. Se aplica en las relaciones entre empresarios y las partes no pueden apartarse de él. Conviene completar el contrato con el proveedor con la obligación de notificar sin dilación indebida los incidentes de seguridad, un seguro de responsabilidad adecuado y normas para la exportación de datos y la terminación del servicio.

Del piloto a la puesta en producción: orden de los pasos

La implantación del asistente comienza con un inventario de aquello a lo que debe tener acceso. La empresa determina los sistemas, los tipos de datos y los grupos de empleados que utilizarán la herramienta. A menudo se comprueba que el asistente necesita para su trabajo un volumen de datos mucho menor que el que el proveedor le ofrece en la configuración predeterminada. Este inventario sirve además de base para la evaluación de riesgos y para el contrato con el proveedor.

El segundo paso es la evaluación de los riesgos del tratamiento de datos personales. La empresa comprueba si el tratamiento, por su naturaleza, alcance, contexto y fines, entraña probablemente un alto riesgo para los derechos de las personas. En caso afirmativo, debe realizar antes de la puesta en marcha una evaluación de impacto: un análisis escrito que describa el tratamiento, su necesidad, los riesgos y las medidas (art. 35). En el caso de un asistente con amplio acceso a expedientes de personal o a datos sensibles, por regla general será necesaria. En una herramienta limitada a datos operativos corrientes, la obligación puede no surgir.

El tercer paso es un piloto con un grupo reducido de usuarios y acceso limitado. Durante el piloto, la empresa observa qué datos lee realmente el asistente y qué errores comete. Solo después decide su ampliación. Cómo se desarrolló un piloto de este tipo en un despacho de abogados, donde se trata de datos sujetos al secreto profesional, lo describen las experiencias con la implantación de la inteligencia artificial en nuestro despacho.

El cuarto paso es la directiva interna y la formación de los empleados. La directiva establece a qué sistemas puede acceder el asistente, qué información no deben introducir en él los empleados y quién controla los resultados antes de enviarlos al exterior. La formación ayuda también a la empresa a cumplir la obligación derivada del Reglamento de Inteligencia Artificial. Este exige a las empresas que adopten medidas que fomenten la alfabetización en materia de inteligencia artificial de las personas que trabajan con ella.

Tras la puesta en marcha, es necesario revisar periódicamente el alcance de los accesos, ya que los proveedores añaden nuevos conectores y funciones que se activan automáticamente. Qué alcance de acceso y qué controles son adecuados para un asistente concreto depende de a qué datos llegue y de si sus resultados se dirigen directamente a los clientes. Por eso los abogados de ARROWS advokátní kancelář lo evalúan en cada implantación por separado.

Qué ofrecen habitualmente los proveedores y qué es una señal de alerta

Las tarifas empresariales de las herramientas de IA suelen incluir un contrato de encargo del tratamiento y el compromiso de que el proveedor no entrena con los datos de los clientes. La diferencia entre la versión para consumidores y la versión empresarial de la misma herramienta reside a menudo precisamente en estos puntos. Por ello, la empresa no debería permitir que los empleados utilicen cuentas privadas para fines laborales, aunque se trate del mismo producto.

Una señal de alerta es un contrato que solo permite desactivar el entrenamiento con los datos. Si el estado predeterminado es el consentimiento y la empresa debe rechazarlo activamente en la configuración, basta un error del administrador de la cuenta para que los datos lleguen al proveedor. Igual de sospechoso es un contrato que remite a una lista de otros encargados publicada en la web, pero no reconoce a la empresa el derecho a oponerse a su modificación.

Otra señal es un plazo de conservación de los datos poco claro. Los proveedores conservan a menudo el historial de conversaciones y los registros de actividad del asistente por motivos de seguridad y para detectar abusos. Esto puede estar justificado, pero el contrato debe indicar durante cuánto tiempo y quién tiene acceso a dichos registros. Si el proveedor no responde por escrito a esta pregunta, la empresa no tiene forma de acreditar que cumple el principio de limitación del plazo de conservación.

Las empresas que implantan con éxito separan los derechos de acceso del asistente de los del usuario. El asistente no recibe automáticamente todo lo que ve el empleado, sino solo determinadas carpetas y sistemas. Las acciones que modifican algo, como el envío de un correo electrónico o la edición de un registro en el CRM, las aprueba una persona. Este enfoque reduce el impacto de un error y también el de un posible uso abusivo del conector por parte de un atacante.

Dónde fija la ley los límites: datos personales, inteligencia artificial y ciberseguridad

Las sanciones más elevadas corresponden a las infracciones en materia de protección de datos personales. Por el incumplimiento de las obligaciones del responsable y del encargado, entre las que figuran el contrato de encargo del tratamiento, la seguridad y la evaluación de impacto, puede imponerse una multa de hasta 10 millones de euros o del 2 % del volumen de negocio anual global. Por la vulneración de los principios básicos y de la base jurídica del tratamiento, el límite es de 20 millones de euros o del 4 % del volumen de negocio, optándose por la de mayor cuantía (art. 83 del RGPD).

Una fuga de datos a través de un asistente de IA constituye una violación de la seguridad que la empresa debe notificar a la autoridad. El responsable la notifica a la Oficina para la Protección de Datos Personales (ÚOOÚ) sin dilación indebida y, de ser posible, en un plazo de 72 horas desde que tuvo conocimiento de ella. La excepción es el caso en que sea improbable que la violación constituya un riesgo para las personas afectadas (art. 33). El proveedor debe notificar la violación a la empresa sin dilación indebida, por lo que conviene concretar esta obligación en el contrato.

Reglamento de Inteligencia Artificial

La empresa que utiliza el asistente es, conforme al Reglamento de Inteligencia Artificial, un responsable del despliegue, es decir, usuaria del sistema y no su fabricante. Desde febrero de 2025 debe adoptar medidas que fomenten la alfabetización de sus empleados en materia de inteligencia artificial (art. 4). La modificación de 2026 establece expresamente que la empresa no tiene que garantizar un nivel concreto de conocimientos de cada persona. Un asistente de oficina corriente no suele figurar entre los sistemas de alto riesgo. Puede llegar a serlo si la empresa lo utiliza para fines del anexo III, por ejemplo para clasificar a candidatos a un empleo o evaluar el rendimiento de los empleados.

Los plazos para los sistemas de alto riesgo fueron aplazados por el Reglamento (UE) 2026/1744, el llamado ómnibus digital, que entró en vigor el 27 de julio de 2026. Las obligaciones de los responsables del despliegue en relación con los sistemas del anexo III, como la supervisión humana y la conservación de registros, se aplicarán por tanto a partir del 2 de diciembre de 2027. La clasificación depende del uso previsto concreto y de las excepciones del art. 6, apdo. 3, por ejemplo para tareas procedimentales limitadas. Por las infracciones puede imponerse una multa de hasta 15 millones de euros o del 3 % del volumen de negocio; en el caso de las pymes, la menor de ambas cuantías (art. 99).

La relación entre el Reglamento de Inteligencia Artificial y la protección de datos personales se analiza con más detalle en el artículo sobre el cumplimiento del AI Act y del RGPD. Si el asistente genera textos o imágenes destinados al público, entra en juego también la obligación de etiquetar el contenido generado por inteligencia artificial. Esta obligación afecta al contenido, no al trabajo interno con documentos.

Ciberseguridad

La empresa que presta un servicio regulado conforme a la Ley de Ciberseguridad checa debe seleccionar a sus proveedores e incluir en los contratos con ellos los requisitos de las medidas de seguridad, si a través de ellos implanta o ejecuta dichas medidas (§ 13, apdo. 5). La ley es aplicable desde el 1 de noviembre de 2025 y afecta sobre todo a medianas y grandes empresas de los sectores enumerados, por ejemplo energía, industria manufacturera o transporte.

La mera conexión de un asistente de IA a los sistemas que garantizan el servicio regulado no significa todavía que su proveedor sea proveedor en el sentido de esta disposición. Sin embargo, si el asistente trabaja con activos que la empresa ha incluido en la gestión de la ciberseguridad, debe incorporarlo a la gestión de activos y riesgos. Que la empresa ejecute medidas de seguridad a través de su proveedor depende de a qué sistemas tenga acceso el asistente y qué papel desempeñen dichos sistemas en la prestación del servicio. Esto lo analizan los abogados de ARROWS advokátní kancelář antes de que la empresa firme el contrato con el proveedor.

Secretos empresariales en manos de un asistente de IA

La protección del secreto empresarial no es automática. Solo constituye secreto empresarial la información cuya confidencialidad garantiza su titular de forma adecuada (§ 504 del CC). Si la empresa introduce sin normas en una herramienta de IA cálculos de precios, documentación técnica o listas de clientes, debilita precisamente este elemento. En un eventual litigio con un competidor, la parte contraria puede alegar entonces que la empresa no protegió ella misma la información.

Los tribunales valoran la confidencialidad en función de lo que la empresa hace realmente. El Tribunal Supremo de la República Checa (Nejvyšší soud) reiteró en su auto 23 Cdo 2736/2024 que el empresario debe garantizar la confidencialidad de forma eficaz, mediante medidas organizativas y técnicas. En un litigio sobre documentación de planos prosperó la empresa que disponía de directivas con normas para el préstamo y la copia de la documentación. En el caso de un asistente de IA, este mismo papel lo cumplen la directiva interna, la limitación de los derechos de acceso y la prohibición contractual del entrenamiento con los datos.

Por ello, la empresa debería determinar qué categorías de información no deben introducirse en absoluto en el asistente y cuáles solo en una herramienta con contrato empresarial. La lista debe ser breve y comprensible para que los empleados la respeten realmente. Se complementa con una limitación técnica, por ejemplo excluyendo del alcance de los conectores las carpetas con documentación de producción. La combinación de la norma y la medida técnica es, en un litigio posterior, la mejor prueba de que la empresa protegió su secreto.

Cinco errores que se repiten al implantar asistentes de IA

El primer error es poner en marcha el asistente con acceso generalizado a todos los sistemas. La configuración predeterminada de muchas herramientas copia los permisos del usuario, de modo que el asistente del director ve toda la empresa. Basta entonces una pregunta formulada de forma imprecisa para que en el resultado aparezcan salarios o negociaciones confidenciales. Subsanarlo tras un incidente cuesta más que limitar el acceso desde el principio.

El segundo error es utilizar la cuenta privada de un empleado para el trabajo de la empresa. A las versiones para consumidores de las herramientas no se aplica, por regla general, un contrato de encargo del tratamiento, y el proveedor puede utilizar los datos para mejorar sus modelos. La empresa pierde entonces el control sobre los datos y no tiene forma de acreditar adónde han ido. La solución es proporcionar a los empleados una herramienta empresarial y prohibir expresamente las cuentas privadas para el trabajo.

El tercer error es la falta de evaluación de los riesgos del tratamiento. La empresa a menudo la pospone hasta que la implantación esté terminada y, si la evaluación de impacto era obligatoria, tiene que justificar a posteriori por qué inició el tratamiento sin ella. En una inspección de la autoridad, esto parece una admisión de que nadie evaluó los riesgos de antemano. El cuarto error es aceptar el contrato del proveedor sin revisar los puntos relativos al entrenamiento y a otros encargados.

El quinto error es enviar al exterior el resultado del asistente sin control humano. El asistente puede preparar en un instante una oferta, una respuesta a una reclamación o el resumen de un contrato. Sin embargo, un error en un documento así obliga a la empresa igual que si lo hubiera cometido un empleado. Qué resultados debe revisar una persona antes de su envío y cuáles pueden salir automáticamente depende de si generan una obligación frente a terceros. Por ello, los abogados de ARROWS advokátní kancelář delimitan esta frontera según los procesos concretos de la empresa.

Riesgos del asistente de IA para la empresa y cómo limitarlos

Conclusiones del artículo: resumen final

Un asistente de IA conectado a los sistemas de la empresa conlleva un riesgo distinto al de una herramienta de chat corriente, porque busca los datos por sí solo. De los fines y medios del tratamiento, de los resultados del asistente y de las fugas de información responde ante todo la empresa que lo ha implantado. El proveedor, como encargado, responde de sus propias obligaciones y, si utiliza los datos para sí mismo, se convierte en responsable respecto de ese tratamiento. La regulación jurídica se basa, por tanto, en el contrato con el proveedor, la evaluación de riesgos y las normas internas.

Para la dirección, lo decisivo es el orden de los pasos: primero el contrato y la evaluación de riesgos, y solo después la puesta en marcha generalizada. La empresa que activa primero el asistente y redacta las normas a posteriori no puede acreditar adónde han ido los datos. En una inspección de la autoridad o en un litigio con un competidor, no tendrá entonces con qué demostrar que protegió los datos y sus secretos empresariales. Aplazar estos pasos aumenta el riesgo de multas y de daños que la empresa no podrá reclamar a nadie.

Por ello, la dirección debería decidir tres cuestiones: qué sistemas y datos puede leer el asistente, qué proveedor cumple los requisitos de un contrato de encargo del tratamiento sin entrenamiento con datos de la empresa y quién controla en la empresa los resultados que salen al exterior. Sin estas decisiones, la implantación del asistente sigue siendo un experimento con datos reales.

Los abogados de ARROWS advokátní kancelář revisarán el contrato con el proveedor de la herramienta de IA y negociarán los puntos que falten. Evaluarán los riesgos del tratamiento y prepararán la evaluación de impacto, una directiva interna para el trabajo con el asistente y la formación de los empleados. Escríbanos a consultas@arws.cz o consulte nuestro servicio de Derecho de las TI y del software, ciberseguridad.