El Ministerio de Ciencia, Tecnología e Innovación publicó la Hoja de ruta para la adopción ética y sostenible de la inteligencia artificial (IA) cuyo fin último sería catalizar el cambio de mentalidad en diversos sectores nacionales
Haga click en imagen para ampliar
La iniciativa ha estado impulsada desde el año 2019 a partir de las políticas nacionales para la Transformación Digital e Inteligencia Artificial; la de Ciencia, Tecnología e Innovación 2022-2031 y las recomendaciones de UNESCO y OCDE IA de 2022 sobre ética, entre otras. El eje común al implementar la IA residirá en “potenciar la generación de valor social y económico del país, bajo principios de adopción y sostenibilidad”.
El factor crítico para la adopción de la Inteligencia Artificial en Colombia, sobre la base de la ética y la sostenibilidad, se sustenta en el Índice Latinoamericano de Inteligencia Artificial (ILIA), un estudio pionero que proporciona pautas e información sobre la postura de 12 países en la región. Por su parte, la hoja de ruta tuvo como sustento un proceso de co-creación y co-diseño donde participaron actores públicos y privados de sectores financieros y productivos; de la sociedad civil; de entidades internacionales y de centros de ciencia, investigación y desarrollo tecnológico. En complemento, fue “refinada” con retroalimentación mediante consultas a expertos especializados en Inteligencia Artificial de los cinco entornos que se describen enseguida.
No obstante, el grupo de 73 personas consultadas abrió de entrada una evidente brecha de equidad, contrario a lo expresado en el documento “Hoja de ruta para el desarrollo y aplicación de la IA en Colombia” de febrero de 2024, en el entendido que “esta muestra asegura una representación adecuada”. Incuestionable, participaron 24.7% de mujeres y 74% de hombres; ninguna personas en condición de discapacidad 99% y con discapacidad intelectual 1%. Con respecto a grupos étnicos la representación fue así: ningún grupo étnico 91.5%, indígenas 1.4%, población negra 1.4%, afrocolombianos 1.4%, raizales 1.4% y afrodescendientes 2.8%. Tampoco se esclarece la diferencia entre poblaciones, negra y afrocolombiano y afrodescendiente.
Ambitos de innovación
La actual cartera ministerial anhela alcanzar niveles de madurez tecnológica en IA mediante los siguientes entornos de innovación, que en conjunto, superarán desafíos identificados por ILIA “promoviendo así un futuro tecnológico equitativo y próspero”, expresa MinCiencias.
1- Ética y Gobernanza. Serán guías para el desarrollo y la implementación de tecnologías de IA y para el fortalecimiento de los marcos regulatorios y las prácticas de gobernanza con el objetivo de asegurar un entorno transparente y responsable. El motivo se focaliza en el problema relacionado con la baja comprensión y confianza pública en las aplicaciones de la IA.
Por tanto, las líneas de innovación en investigación en ética se encauzan para los datos, los algoritmos y las prácticas, y para la generación de nuevo conocimiento; desarrollo de métricas de equidad; organización de foros y talleres regionales públicos; campañas de sensibilización ética en medios de comunicación; y creación de un consejo asesor ciudadano en tecnología y un comité nacional de apoyo, entre otras.
El contexto estudiado para describir este plan de acción está sustentado en el informe “Indice Latinoamericano de Inteligencia Artificial 2023”, que identifica desafíos significativos como el impacto en el trabajo y la equidad de género. Aquel análisis revela además que subyace un rezago en las políticas de reconversión laboral y un aumento en la brecha de género en habilidades asociadas a la IA.
La mayor vulnerabilidad de la región, incluida Colombia, es la carencia de un marco regulatorio claro y actualizado, lo que ocasiona disparidades significativas entre los países en asuntos de desarrollo de las áreas estratégicas con IA, visión e institucionalidad, participación internacional y regulación, obviamente. Colombia en tres subdimensiones de la gobernanza se ubica por debajo de Argentina, Brasil y Chile pero de consuelo, por encima del 50% del promedio regional.
El tema clave de este entorno se dirige a profesionales, tomadores de decisiones y sociedad en general para desarrollar programas de educación ética en IA incluidas la sensibilización sobre los dilemas y la promoción de una cultura ética en el desarrollo y uso de la tecnología. En cuanto a la gobernanza, el documento “Sandbox sobre privacidad desde el diseño y por defecto en proyectos de inteligencia artificial”, emitido por la Superintendencia de Industria y Comercio en 2021, es uno de los mecanismos exploratorios de regulación basados en IA. El plan de acción que se reseña lo configura como ambiente preventivo y experimental, destinado a facilitar a las empresas y a entidades interesadas en proyectos de inteligencia artificial la creación de soluciones colaborativas.
2- Educación, Investigación e Innovación. Con esta esfera se impulsaría la formación y la capacitación en habilidades relacionadas con IA con base en programas educativos especializados para la preparación de una fuerza laboral competente y se incentivaría la investigación y la innovación. Se solucionaría así el conflicto por el bajo desarrollo de competencias y de diversidad de género en IA.
Según el informe “Future of Jobs Report 2023” del Foro Económico Mundial se anticipa que 44% de las competencias básicas de los trabajadores en el mundo cambiarán en los próximos cinco años debido al aumento de las tareas realizadas por máquinas. Se estima que aumentará de modo evidente el conjunto de habilidades básicas relacionadas con pensamiento analítico y creativo; resiliencia, flexibilidad y agilidad; motivación y autoconocimiento; y curiosidad y aprendizaje permanentes. No obstante, se señala que mujeres, minorías raciales, indígenas y personas con bajos ingresos son ahora más vulnerables a las consecuencias negativas de la IA para el empleo.
Abordar estos retos globales implica la necesidad esencial que las estrategias nacionales de IA se centren en mejorar la alfabetización en IA desde los sistemas públicos de educación. En consecuencia, el entorno pretende crear programas de formación continua para docentes; construcción de infraestructura para centros de investigación; otorgamiento de becas y subsidios para la formación en IA; diseño de plataforma de colaboración virtual; etc.
3- Datos y Organizaciones. Se centrará en potenciar el manejo eficiente de los datos para impulsar proyectos concretos de impacto mediante estrategias multilaterales entre los sectores público y privado pues el cuello delgado de la botella evidencia ausencia de marcos éticos y de gobernanza en los datos para las aplicaciones basadas en IA.
Según el libro blanco de 2019 “Data Trusts: A New Tool for Data Governance” de Future Cities Canada se requiere de nuevos enfoques de gobernanza de datos para restaurar la confianza pública. Es decir, la rápida evolución tecnológica hace ineficiente los actuales enfoques regulatorios necesarios debido a su carácter reactivo y no proactivo. A nivel nacional, el Ministerio de Tecnologías de la Información y Comunicaciones enfatiza la importancia de otorgar a las personas control sobre la información personal pero el sector privado genera riesgos frente a la privacidad, propiedad y uso indebido de la información.
Un sistema de datos requiere de infraestructura, ya para su almacenamiento ya para su búsqueda y recuperación o ya para simples transacciones. De modo que las recomendaciones dadas por el Banco de Desarrollo de América Latina y el Caribe indican que los gobiernos deben contar con una política nacional de datos y una gobernanza para la producción y reutilización. Este costo medido en 2019 por la Organización para la Cooperación y el Desarrollo Económico (OCDE) estima que los beneficios económicos y sociales significativos por acceso e intercambio de datos se encuentran entre 0.1% y 1.5% del PIB mientras que para los datos del sector público entre 1% y 2.5%.
Colombia aventaja ya que cuenta con una política de datos personales implementada por la Superintendencia de Industria y Comercio, lo que representa una salvaguarda que asegura la protección del valor de los datos de los individuos. No obstante, hay que implementar otras líneas de innovación para la inteligencia artificial, tales como: desarrollo de herramientas de evaluación ética; desarrollo de plataforma de análisis predictivo; mejora de la experiencia del cliente; rastreo y gestión de activos inteligentes; prevención de ataques cibernéticos en tiempo real.
4- Industrias Innovadoras y Emergentes. Este entorno se dedicará al fomento de la adopción de tecnologías disruptivas en los procesos industriales y la anticipación a las tendencias futuras. El problema reside en la baja adopción de la IA en empresas, industria y sectores gubernamentales.
El modelo de Industria 4.0 implica la integración de tecnologías digitales e Internet de las cosas (IoT) que fusiona los mundos físicos, digitales y biológicos. En el núcleo de este desarrollo se encuentran elementos clave como sistemas ciberfísicos e Internet de los servicios y fábrica inteligente los que forman un ecosistema digital interconectado. La digitalización sigue siendo parte integral de esta revolución por lo que un análisis al contexto global de la Industria 4.0 se percibe como oportunidad estratégica para los países.
Para Colombia, el cambio representa igualmente una oportunidad de transformación que debe enfrentar desafíos significativos. En el reporte “Readiness for the Future of Production Report 2018” del Foro Económico Mundial y A.T. Kearney, el país se ubicaba entonces en el listado de estructura de la producción en el puesto 56 con un puntaje de 4.61 y en factores impulsores de la producción en el escalón 65 con 4.53 puntos por debajo de Argentina, Brasil y Chile, todos en la categoría ‘países nacientes’. Sin embargo, Colombia está de último en la lista conjunta de todos los demás factores: Tecnología e innovación (4.01 puntos, puesto 60), Capital humano (4.60 puntos y puesto 65), Comercio e inversión global (3.89 puntos, puesto 80), Marco institucional (4.60 puntos y puesto 67), Demanda de recursos sostenibles (7.53 puntos y puesto 20) y Medio ambiente (4.91 puntos y puesto 46).
Ante la falta de acciones rápidas que generan rezago significativo, Colombia enfrenta otros desafíos que tienen relación con la seguridad de las Tecnologías de Información y Comunicación (TIC), la interconexión entre entidades que abre puertas traseras para violaciones de seguridad y fugas de datos, la capacidad de adaptación y orientación sobre las posibilidades de digitalización de las pequeñas y medianas empresas (PYME), la educación en ciencia, tecnología, ingeniería y matemáticas y la formación de profesionales, según ILIA. Es por ello que algunas líneas de innovación referencian desarrollar sensores inteligentes para monitorización, sistema de control de calidad automatizado, simulación avanzada en investigación y desarrollo, optimización del consumo energético en procesos industriales.
Considerando la visión de la Industria 4.0, con fábricas inteligentes y productos conectados, el nuevo entorno exige un enfoque integral que aborde investigación, I+D, adopción tecnológica, educación, inversión e infraestructura con base en colaboración entre gobierno, sector privado y academia. Por tanto, el mayor esfuerzo nacional debe erradicar la cultura del egoísmo alacrán.
5- Privacidad, Ciberseguridad y Defensa. Implementarán medidas para mitigar riesgos y garantizar que la IA contribuya positivamente al bienestar y la seguridad ciudadana pues el problema nacional consiste en el bajo nivel de desarrollo de soluciones basadas en inteligencia artificial que impacten positivamente la calidad de vida y el bienestar social, económico y ambiental de la población.
El hito significativo moderno en la evolución tecnológica consiste en la convergencia entre la inteligencia artificial, industria aeroespacial y defensa nacional. Este cruce ha permitido notables avances, desde la recopilación de información hasta la toma de decisiones estratégicas. Sin embargo, como en los entornos anteriores, surgen desafíos que se deben abordar de manera rigurosa debido al dinámico mercado de la inteligencia artificial y la robótica en el sector aeroespacial y de defensa, valorado en 29,67 mil millones de dólares en 2023 y proyectado para crecer a una tasa compuesta anual del 7.5%, que alcanzaría 42,60 mil millones de dólares en 2028, según el informe sobre IA en el mercado militar por aplicaciones de Modor Intelligence. una organización con sede en India de expertos en investigación de dominios específicos quienes rastrean continuamente los mercados.
Este mercado caracterizado por la presencia de múltiples actores destacados como The Boeing Company, Lockheed Martin Corporation, Airbus SE, IBM Corporation, Thales Group, entre otras, ─fabricantes de robots, proveedores de tecnología robótica, inteligencia artificial, etc.─ lideran, fabrican, trabajan en estrecha colaboración y desarrollan soluciones avanzadas basadas en IA. En la práctica se trata de asociaciones estratégicas que reflejan la creciente tendencia de colaboración entre empresas para impulsar la innovación, la criptografía y las tecnologías cuánticas.
Con estos avances mejorarán la seguridad, la eficiencia y la toma de decisiones para operaciones aeroespaciales y de defensa como ya ocurrió en 2023, cuando América del Norte representó la mayor cuota de mercado en la industria IA y robótica para el sector aeroespacial y de defensa global. Para Latinoamérica, un liderazgo regional sugiere presencia e impulso significativo de empresas y organizaciones de investigación en desarrollo y aplicación de tecnologías avanzadas.
Los retos que enfrenta el entorno se circunscriben a áreas cruciales, tales como capacidad de análisis en tiempo real, autonomía de los sistemas, responsabilidad y rendición de cuentas frente a las operaciones autónomas, regulaciones internacionales debido a la utilización en operaciones ofensivas. Las guerras geopolíticas que cruzan a Europa están mostrando nuevas vulnerabilidades en el uso de la IA en ciberseguridad: los adversarios vienen empleando malware y manipulando los sistemas autónomos; los sistemas autónomos han mostrado incapacidad para discernir situaciones complejas, evaluar el valor militar de objetivos y determinar intenciones; las corporaciones tecnológicas siguen influyendo a través de la manipulación de datos a gran escala.
Ante tal panorama se han alzado voces conocidas ─Elon Musk, Steve Wozniak y otros 1700 desarrolladores del mundo─ para “llamar a todos los laboratorios de IA a fin que todos los actores clave pausen inmediatamente, de modo público y verificable, durante al menos 6 meses, el entrenamiento más potente de los sistemas GPT-4”, la Convención de ONU sobre ciertas armas convencionales busca limitar el uso de armas autónomas letales. En Colombia, al menos, la tecnología de avanzada en las operaciones militares ha despertado una necesidad imperiosa.
Según reportes de medios a fines del 2023, el comandante general de las Fuerzas Militares anunciaba la incorporación de la Inteligencia Artificial en las operaciones de manera “integrada en el proceso de planeamiento, para poder anticipar, prever y planificar de manera más efectiva”. Argentina, Chile y Brasil ya han desarrollado planes de acción para implementar la inteligencia artificial en las Fuerzas Armadas. Bien nos valdría la pena el diálogo con los titulares de aquellos ministerios.
Si se trata de seleccionar un tema clave habría que generalizar el de seguridad, que cubre defensa nacional, ambiente, recursos naturales, residuos, monitoreo inteligente, etc. y cuya modernización se alinea a la monitorización de la biodiversidad con visión artificial; clasificación automática de residuos con visión por computadora; sistema de alerta temprana para contaminación; sistema de gestión de movilidad inteligente; monitorización continua de movimientos sísmicos; desarrollo de cámaras inteligentes en espacios públicos; entre otras.
La fase siguiente de esta ilusoria hoja de ruta trazada por MinCiencias de Colombia consiste en someter a consulta ciudadana las 130 rutas de innovación propuestas para establecer prioridades y recomendaciones dentro de cada entorno, y ya ha pasado medio año.
