IA con comprobantes: cómo usamos modelos en proyectos con clientes

Nuestra regla para la IA cabe en tres frases. La IA hace borradores. Las personas deciden. Todo deja rastro.

Los modelos son útiles en proyectos reales con clientes. También se equivocan con total seguridad lo bastante seguido como para que nada de lo que producen llegue al público sin una persona que conozca el tema. Por eso los usamos donde un borrador ahorra tiempo y una persona puede revisarlo, y guardamos registro de quién revisó qué.

Dónde ayuda la IA

Síntesis de investigación

Después de una ronda de entrevistas o sesiones de usabilidad, un modelo puede agrupar las notas por temas y proponer citas. Un investigador revisa cada tema contra las transcripciones antes de convertirlo en hallazgo. El modelo acorta la clasificación; no decide lo que dice la investigación.

Inventarios de contenido y migraciones a gran escala

Migrar un sitio implica saber qué tiene: miles de páginas y documentos que clasificar por tema, responsable, antigüedad y duplicados, y direcciones viejas que hay que relacionar con las nuevas. Los modelos son buenos para una primera pasada sobre ese volumen. Las personas revisan la clasificación, y cada redirección se prueba antes del lanzamiento.

Borradores en lenguaje claro

Un modelo puede proponer una versión más clara de un párrafo denso. No puede decirte si las personas a quienes atiendes lo entienden. Un diseñador de contenido revisa que el significado se conserve, y las pruebas con quienes usan el servicio tienen la última palabra.

Borradores de texto alternativo

El texto alternativo es donde se acumula el trabajo de accesibilidad. Ockem Proof, la plataforma que construimos para la remediación de documentos, propone texto alternativo con un modelo autohospedado, así que los documentos no se envían a un servicio de IA externo. Un borrador es un punto de partida. Decide una persona, porque solo quien entiende el documento sabe qué quiere decir una imagen.

Asistencia en código

Nuestros ingenieros usan asistentes de IA para escribir y refactorizar código. Cada cambio pasa por la misma revisión y las mismas pruebas automáticas que cualquier otro. Buena parte del código de este sitio se escribió así; una persona revisó e integró cada cambio, y cada uno tuvo que pasar una revisión automática de WCAG 2.2 AA.

Revisiones de accesibilidad

Las reglas automáticas detectan una parte de lo que hace inaccesible una página. Los modelos pueden ayudar a ordenar los hallazgos y señalar problemas probables que las reglas no ven, como un texto de enlace que no tiene sentido fuera de contexto. No certifican la conformidad. Una auditoría sigue significando personas que prueban con teclado y lector de pantalla.

Búsqueda y respuestas sobre tu propio contenido

Un modelo que se apoya en tus propias páginas y documentos puede responder preguntas en lenguaje claro y mostrar las fuentes que usó. Cuando tu contenido no responde la pregunta, lo correcto es decirlo y remitir a una persona, no adivinar.

Las reglas que seguimos

• Modelos locales o gobernados. El material de un cliente solo va a modelos que corren en infraestructura que nosotros o el cliente controlamos, o a servicios con términos que el cliente aprobó.
• Nada de entrenar con datos de clientes. El contenido de un cliente nunca se usa para entrenar un modelo, ni nuestro ni de nadie.
• Aprobación humana de todo lo que se publica. Textos, imágenes, código y texto alternativo los aprueba una persona con nombre antes de llegar al público.
• Un registro auditable. En el trabajo donde intervino un modelo, podemos mostrar qué modelo se usó, qué entró, qué salió, quién lo revisó y cuándo.

En este sitio, las mismas reglas están integradas en las herramientas. En el sistema de administración de contenido de base22.com, un modelo puede proponer un título o etiquetas para un artículo, pero la propuesta llega al borrador sin guardar del editor; nunca guarda ni publica nada. Las etiquetas sugeridas solo coinciden con temas que ya existen, porque inventar una taxonomía es una decisión editorial, no de un modelo. Cada llamada a un modelo pasa por un solo gateway, donde tiene límites de uso y queda medida.

Lo que no hacemos

• Publicar lo que produjo un modelo sin que una persona lo haya leído y aprobado.
• Meter datos de un cliente en un modelo o servicio que el cliente no aprobó.
• Usar un modelo para tomar decisiones sobre personas, como quién califica para un servicio o un beneficio.
• Inventar citas, cifras o fuentes, o dejar que un modelo las invente por nosotros.
• Llamar auditoría de accesibilidad a un escaneo automático, o entregar como final un texto alternativo que redactó la IA.
• Ocultarlo. Les decimos a nuestros clientes dónde se usó IA en el trabajo que entregamos.

Por qué comprobantes

Las dependencias públicas y las organizaciones grandes responden por lo que publican. Cuando un modelo ayudó, la pregunta “¿cómo sabes que esto es correcto?” merece una mejor respuesta que “lo dijo la IA”. Un borrador, el nombre de quien lo revisó y una fecha: esa es la respuesta.

Nada de esto hace más lento el trabajo donde importa. Mueve el tiempo de escribir a decidir, que es donde un equipo senior debe invertirlo.