Cómo adquirir IA de forma efectiva y responsable: el modelo chileno
Para cualquier país que se pregunte cómo adquirir e integrar la inteligencia artificial (IA) de manera responsable en el sector público, la experiencia de Chile ofrece lecciones valiosas.
En los últimos cuatro años, esta nación ha implementado una serie de iniciativas audaces para fomentar un uso ético y responsable de la IA en el gobierno, con un enfoque particular en cómo adquirirla de manera efectiva.
Un hito clave fue la publicación, en 2021, de la Política Nacional sobre el uso de la IA en el Gobierno. Este documento no solo aborda la gobernanza y la ética de la implementación de IA, sino que también ofrece directrices prácticas. Sus lineamientos son claros: la IA debe estar siempre al servicio de las necesidades de la ciudadanía. Además, se enfatiza que los equipos de compra deben evaluar si la IA es realmente la solución tecnológica más adecuada para un problema específico, buscando siempre promover una mayor eficiencia en la gestión pública.
La política es acompañada por un plan de acción que establece objetivos claros para modernizar los procesos de contratación pública de IA. Este plan incluye la creación de un marco normativo sólido y la capacitación de funcionarios. De esta forma, se mejora la eficiencia y la eficacia en la adquisición de estas tecnologías, al mismo tiempo que se exploran formas de integrar principios éticos y responsables en todo el proceso.
Una Directiva emitida en diciembre de 2023 resume este esfuerzo y ofrece recomendaciones específicas sobre cómo adquirir IA y abordar los riesgos comunes.
El documento detalla las preguntas clave y las acciones a seguir en cada etapa del proceso, desde la investigación inicial del problema y la propuesta de una solución, hasta la gestión completa de la implementación. La Directiva también subraya la importancia de los datos, recomendando mapear las fuentes disponibles y evaluar su calidad. Además, proporciona la flexibilidad necesaria para personalizar cláusulas según las particularidades de cada proyecto. El objetivo es claro: lograr soluciones que se centren en los resultados, no en un servicio o proveedor estandarizado.
Como lo expresa la misma Directiva: «Si los proyectos se planifican desde el inicio con estas buenas prácticas, pueden contribuir al valor público y abordar adecuadamente los riesgos de privacidad, los sesgos y la falta de transparencia. Con un uso ético y responsable de los datos, los compradores públicos ayudarán a generar confianza en la ciudadanía y a aprovechar el potencial de los datos para mejorar el diseño y la gestión de las políticas públicas».
Actualmente se está actualizando la Directiva para adaptarla a la nueva ley de contratación pública.
Proyecto piloto con enfoque en el uso responsable de datos
La Directiva también se nutre de la experiencia en colaboración entre GobLab de la Universidad Adolfo Ibáñez, un laboratorio de innovación pública, y ChileCompra, la agencia de compras públicas del país. Juntos, desarrollaron mejores prácticas para la adquisición de proyectos de ciencia de datos e IA.
Durante dos años, este proyecto implicó un análisis exhaustivo de los estándares de IA, consultas con expertos, funcionarios de compras y empresas privadas. Las lecciones aprendidas se aplicaron a dos procesos piloto con un enfoque especial en el uso ético y responsable de los datos en el contexto gubernamental.
El primer piloto se centró en la adquisición de un modelo para optimizar la labor de supervisión y prevenir el fraude por parte del Fondo Nacional de Salud. El segundo, para la Defensoría Penal Pública, se centró en una solución que permitiera medir la calidad de sus servicios legales externalizados.
Los documentos de licitación estándar que surgieron de estos pilotos crearon un marco sólido para el desarrollo y evaluación de futuros proyectos de IA, y sus aprendizajes se integraron directamente en la Directiva oficial.
Lecciones y Recomendaciones Clave
Hablamos con Romina Garrido, directora interina de GobLab y coordinadora del proyecto «Algoritmos Éticos» junto a ChileCompra, para conocer de primera mano sus principales aprendizajes:
- Enfocarse en el problema: Para Romina, lo más importante es describir con claridad la necesidad que se busca resolver, en lugar de obsesionarse con una tecnología o producto específico.
- Adopción de un enfoque multidisciplinario: La adquisición exitosa de IA requiere un equipo diverso con conocimientos en ciencia de datos, contratación pública y ética.
- La calidad de los datos es crucial: Los datos utilizados para entrenar modelos de IA deben ser precisos, imparciales y representativos. Su calidad impacta directamente el resultado.
- Flexibilidad y adaptabilidad: Dado el ritmo acelerado de la IA, los procesos de contratación deben ser lo suficientemente ágiles para adaptarse a nuevas tecnologías y evitar quedar «atados» a una solución.
- Preparar al mercado: Romina destaca que uno de los mayores desafíos fue la falta de preparación de los proveedores, incluso los más grandes, que a menudo desconocían los conceptos de ética en IA. Su equipo tuvo que crear herramientas y guías para facilitar la comprensión de estos estándares, invirtiendo en capacitación, especialmente para las start-ups que buscaban apoyar.
- Monitoreo y evaluación continuos: Es fundamental introducir nuevos requisitos con responsabilidad y rendición de cuentas, garantizando siempre la transparencia del algoritmo.
Esta publicación es parte de nuestra serie sobre el impacto de la IA en la contratación pública.
