Dos arquitecturas bajo una misma etiqueta
El proveedor utiliza un modelo de lenguaje de terceros (LLM) a través de una API
El software envía los textos del usuario a un servicio externo, que devuelve una respuesta. Es rápido de implementar y muy común. El funcionamiento del modelo, su alojamiento y sus actualizaciones dependen entonces del proveedor del LLM.
El proveedor desarrolla y opera su propia IA
Elige su arquitectura, la aloja en su infraestructura, decide qué se conserva y qué no, y puede documentar su funcionamiento. Esto requiere una mayor inversión, pero cambia la naturaleza de los compromisos que el proveedor puede asumir con sus clientes.
Ninguno de estos dos enfoques es ilegal. La diferencia radica en lo que el proveedor puede demostrar y en lo que el cliente puede verificar.
¿Por qué es importante la diferencia en QHSE?
Un software QHSE maneja datos sensibles : informes de accidentes, bajas laborales, habilitaciones, auditorías, información sobre empleados y subcontratistas. De ello se derivan tres retos.
- ¿A dónde van los datos? Si pasan por un servicio de terceros, ¿en qué país se procesan y durante cuánto tiempo se conservan?
- ¿Se reutilizan? Algunas ofertas autorizan por defecto el uso de los intercambios para mejorar los modelos. Las condiciones contractuales deben verificarse una a una.
- ¿Quién responde de qué? En caso de incidente o auditoría, la cadena de responsabilidad es más sencilla de establecer cuando un solo actor opera todo el sistema.
Los fichas prácticas de la CNIL sobre la IA detallan los puntos de vigilancia del RGPD que deben examinarse para cualquier sistema de IA que procese datos personales.
¿Cómo verificar lo que está comprando?
Solicite por escrito a su proveedor :
- quién ha diseñado el modelo utilizado y quién lo explota ;
- dónde se alojan los procesos y los datos ;
- si intervienen subcontratistas posteriores en el tratamiento, y cuáles son ;
- si sus datos pueden utilizarse para entrenar un modelo, y bajo qué condiciones ;
- qué documentación describe el funcionamiento y las limitaciones de la IA.
Una respuesta precisa y contractualizada es un buen indicador de control. Una respuesta vaga invita a la prudencia.
El enfoque de Symalean
La IA de Symalean ha sido desarrollada por Symalean. Está alojada en servidores HDS y diseñada para proteger los datos de sus clientes. Además, Symalean ha iniciado un proceso de certificación ISO/IEC 42001, la norma de sistema de gestión de la IA. Para comprender esta norma, lea nuestra guía ISO 42001.
