Lo que el comité pregunta antes de aprobar un proyecto de inteligencia artificial
Cumplimiento, seguridad, Legal, compras y tecnología. Cada pregunta con la respuesta corta y, en su página, el detalle con fuentes.
¿Qué datos salen de mi perímetro cuando uso inteligencia artificial privada?
Ninguno, cuando el modelo corre en tu equipo dentro de una red segmentada sin salida a internet. Lo sensible y lo confidencial se procesa dentro del perímetro, sin excepción. Lo interno no sensible puede usar nube empresarial con cero retención solo si cumplimiento lo aprueba. Lo público queda libre.
¿Usan los datos de mis clientes para entrenar el modelo?
No. Ningún dato de cliente final entra al entrenamiento. El modelo aprende voz, formato y oficio con respuestas aprobadas y enmascaradas, documentos de producto y ejemplos escritos por tus expertos. Los datos sensibles se consultan al responder, con los permisos del usuario y registro de cada acceso.
¿Cómo se atienden los derechos ARCO y el derecho a oponerse a decisiones automatizadas?
Ningún agente decide solo: recaba, ordena y entrega, y una persona revisa antes de cualquier efecto sobre un cliente o un empleado. Así el artículo 27 de la ley de datos personales se cumple por diseño. La bitácora permite ubicar qué datos se consultaron en cada respuesta para atender acceso, rectificación, cancelación u oposición.
¿Qué pasa si hay una vulneración de datos en el sistema?
Se activa el protocolo de incidentes del expediente: qué cuenta como incidente, niveles de gravedad, tiempos de respuesta, quién apaga el sistema, comunicación a cumplimiento y a la autoridad, y análisis posterior. La ley exige avisar de forma inmediata al titular. No prometemos que no ocurra; prometemos qué pasa si ocurre.
¿Cómo se aísla el sistema de internet y de la nube pública?
El equipo de producción se instala en una red segmentada sin salida a internet, dentro de tu perímetro. Ahí viven el modelo, la memoria consultable y la bitácora. Se conecta a tus sistemas solo para consultar, nunca para modificar. La demostración se hace con una computadora sin internet, para que el comité lo vea funcionar antes de firmar.
¿Hacen pruebas de ataque controlado y quién las dirige?
Sí, antes del piloto y en cada versión mayor. Las dirige tu área de seguridad, no nosotros: es parte de la validación independiente. El informe reporta el porcentaje de ataques exitosos por categoría, la corrección aplicada y la nueva prueba. Los hallazgos se corrigen antes de salir al piloto.
¿Hay una ley de inteligencia artificial en México que obligue a las empresas?
No. En México no hay ley general de inteligencia artificial: el anteproyecto del Senado no tiene dictamen y requiere antes una reforma constitucional. Lo que sí obliga: la ley de datos personales de 2025, con una autoridad que ya sanciona, y las reglas de contratación de terceros de cada sector.
¿De quién es el modelo entrenado y lo que produce?
Tuyo. Los archivos del modelo, sus componentes de identidad, las pruebas y la bitácora son del cliente y se exportan sin costo en formato estándar. El modelo base conserva su licencia abierta. Lo que genera solo una máquina no tiene derecho de autor; tu marca se protege por registro marcario y cada pieza pasa por tu cola de aprobación.
¿Qué licencias tienen los modelos base y qué revisa Legal?
Llama 3.3 se usa bajo la licencia comunitaria de Meta: copia de la licencia, atribución "Built with Llama", nombre técnico con "Llama" y política de uso aceptable. Qwen3 y Mistral 3 están bajo Apache 2.0; versiones anteriores tienen licencias de investigación, así que se revisa versión por versión. El sello comercial, Dabar, va aparte.
¿Qué pasa si el proveedor de inteligencia artificial desaparece o incumple?
Con el equipo en tu sitio ya tienes todo en tu empresa: equipo, archivos del modelo, memoria, bitácora y manuales. El plan de salida fija formato, plazos, transición y borrado certificado, y se prueba cada año. Cuando el equipo es nuestro, hay depósito en garantía opcional de modelos y código ante un tercero.
¿Qué modelo usan y por qué no uno de frontera como los de OpenAI o Anthropic?
Un modelo abierto de generación actual (Llama, Qwen o Mistral), elegido en cada proyecto, instalado en tu equipo y medido con tus propias preguntas. No es de frontera y lo decimos así. La razón es el perímetro: lo sensible no puede salir. Los modelos comerciales se usan en nuestro estudio para diseñar y programar, nunca sobre tus datos sensibles.
¿Cómo sabemos que el modelo funciona antes de ponerlo en producción?
Con una prueba de preguntas reservadas: tus expertos escriben preguntas que el modelo nunca vio, el umbral se fija antes y los resultados se reportan por segmento. La califica tu equipo, no el nuestro. Una versión se publica solo si iguala o supera a la anterior, tras una semana con administradores internos y la firma del responsable del proceso.
¿Y las alucinaciones? ¿Puede el modelo inventar una póliza o una cláusula?
Puede equivocarse; ningún modelo es infalible y no prometemos lo contrario. Por eso responde a partir de la memoria consultable: busca en tus documentos y cita la fuente. Cada semana medimos el porcentaje de respuestas sustentadas en los documentos que citan, con calificación automática y una muestra revisada por personas. Lo que no está sustentado se deriva a una persona.
¿Cómo evitan sesgos y decisiones automatizadas sobre personas?
El primer proyecto nunca incluye una decisión automatizada sobre personas: calificación crediticia, suscripción, dictamen médico o contratación se difieren por regla. El agente recaba, ordena y entrega; una persona decide. Los resultados de la prueba se reportan por segmento para detectar diferencias, y la evaluación de impacto documenta riesgos y mitigaciones antes de construir.
¿Qué pasa cuando el modelo envejece o cambia nuestra operación?
La deriva se vigila a diario: cambios en el tipo de preguntas y en la calidad de las respuestas frente al periodo base. La memoria consultable se actualiza en dos días hábiles. El reentrenamiento es trimestral y cada versión nueva pasa la misma prueba. Sin operación, las respuestas envejecen en seis meses; por eso existe la operación continua.
¿Cómo gestionan cambios y versiones del modelo?
Ninguna versión llega a producción sin tres condiciones: igual o mejor resultado en la prueba, una semana con administradores internos y la firma escrita del responsable del proceso. Cada versión se firma, se archiva y puede restaurarse. Cada una lleva su ficha del modelo y su fila en el registro. Cualquier cambio de modelo base se avisa antes.
¿Qué garantía ofrece el diagnóstico si el proyecto no da resultado?
El diagnóstico tiene garantía: precio fijo, 50% al inicio y 50% al dictamen. Si el dictamen no identifica un caso viable (un caso de uso con caso de negocio positivo a doce meses y sin bloqueo de Legal), el 50% final no se cobra. La implementación se paga por hitos demostrables. Nadie avanza sin ver su propio modelo funcionar.
¿Por qué DEBIR y no un integrador grande certificado en ISO 42001?
No estamos certificados en ISO 42001 y no lo decimos. Entregamos los documentos que un auditor de esa norma pediría: política, evaluación de impacto, registro, fichas y protocolo de incidentes, mapeados a NIST AI RMF y a la guía SR 26-2. La diferencia: juntar perímetro, identidad y operación en un mismo equipo dedicado, del primer día al mes doce.
Sesiones de Discovery, sin compromiso
Con tecnología, cumplimiento y dos responsables de proceso. Incluye una demostración sin internet, preparada para tu sector y sin usar datos de tu empresa.
Inventario y obligaciones
Datos en cuatro niveles y primera revisión de lo que exige tu sector.
Tres casos candidatos
Y la propuesta de diagnóstico. El Discovery se acredita contra el diagnóstico.
Programa de clientes fundadores
Tres cupos, con descuento explícito a cambio de un caso publicable y una referencia.
Condiciones
Discovery y piloto de evidencia sin costo, diagnóstico con descuento, a cambio de caso publicable, referencia y retroalimentación. La operación continua se paga siempre a precio de lista.