Acciones para desarrollar y aplicar IA en Colombia

El Ministerio de Ciencia, Tecnología e Innovación publicó la Hoja de ruta para la adopción ética y sostenible de la inteligencia artificial (IA) cuyo fin último sería catalizar el cambio de mentalidad en diversos sectores nacionales

Haga click en imagen para ampliar

La iniciativa ha estado impulsada desde el año 2019 a partir de las políticas nacionales para la Transformación Digital e Inteligencia Artificial; la de Ciencia, Tecnología e Innovación 2022-2031 y las recomendaciones de UNESCO y OCDE IA de 2022 sobre ética, entre otras. El eje común al implementar la IA residirá en “potenciar la generación de valor social y económico del país, bajo principios de adopción y sostenibilidad”.

El factor crítico para la adopción de la Inteligencia Artificial en Colombia, sobre la base de la ética y la sostenibilidad, se sustenta en el Índice Latinoamericano de Inteligencia Artificial (ILIA), un estudio pionero que proporciona pautas e información sobre la postura de 12 países en la región. Por su parte, la hoja de ruta tuvo como sustento un proceso de co-creación y co-diseño donde participaron actores públicos y privados de sectores financieros y productivos; de la sociedad civil; de entidades internacionales y de centros de ciencia, investigación y desarrollo tecnológico. En complemento, fue “refinada” con retroalimentación mediante consultas a expertos especializados en Inteligencia Artificial de los cinco entornos que se describen enseguida.

No obstante, el grupo de 73 personas consultadas abrió de entrada una evidente brecha de equidad, contrario a lo expresado en el documento “Hoja de ruta para el desarrollo y aplicación de la IA en Colombia” de febrero de 2024, en el entendido que “esta muestra asegura una representación adecuada”. Incuestionable, participaron 24.7% de mujeres y 74% de hombres; ninguna personas en condición de discapacidad 99% y con discapacidad intelectual 1%. Con respecto a grupos étnicos la representación fue así: ningún grupo étnico 91.5%, indígenas 1.4%, población negra 1.4%, afrocolombianos 1.4%, raizales 1.4% y afrodescendientes 2.8%. Tampoco se esclarece la diferencia entre poblaciones, negra y afrocolombiano y afrodescendiente.

Ambitos de innovación

La actual cartera ministerial anhela alcanzar niveles de madurez tecnológica en IA mediante los siguientes entornos de innovación, que en conjunto, superarán desafíos identificados por ILIA “promoviendo así un futuro tecnológico equitativo y próspero”, expresa MinCiencias.

1- Ética y Gobernanza. Serán guías para el desarrollo y la implementación de tecnologías de IA y para el fortalecimiento de los marcos regulatorios y las prácticas de gobernanza con el objetivo de asegurar un entorno transparente y responsable. El motivo se focaliza en el problema relacionado con la baja comprensión y confianza pública en las aplicaciones de la IA.

Por tanto, las líneas de innovación en investigación en ética se encauzan para los datos, los algoritmos y las prácticas, y para la generación de nuevo conocimiento; desarrollo de métricas de equidad; organización de foros y talleres regionales públicos; campañas de sensibilización ética en medios de comunicación; y creación de un consejo asesor ciudadano en tecnología y un comité nacional de apoyo, entre otras.

El contexto estudiado para describir este plan de acción está sustentado en el informe “Indice Latinoamericano de Inteligencia Artificial 2023”, que identifica desafíos significativos como el impacto en el trabajo y la equidad de género. Aquel análisis revela además que subyace un rezago en las políticas de reconversión laboral y un aumento en la brecha de género en habilidades asociadas a la IA.

La mayor vulnerabilidad de la región, incluida Colombia, es la carencia de un marco regulatorio claro y actualizado, lo que ocasiona disparidades significativas entre los países en asuntos de desarrollo de las áreas estratégicas con IA, visión e institucionalidad, participación internacional y regulación, obviamente. Colombia en tres subdimensiones de la gobernanza se ubica por debajo de Argentina, Brasil y Chile pero de consuelo, por encima del 50% del promedio regional.

El tema clave de este entorno se dirige a profesionales, tomadores de decisiones y sociedad en general para desarrollar programas de educación ética en IA incluidas la sensibilización sobre los dilemas y la promoción de una cultura ética en el desarrollo y uso de la tecnología. En cuanto a la gobernanza, el documento “Sandbox sobre privacidad desde el diseño y por defecto en proyectos de inteligencia artificial”, emitido por la Superintendencia de Industria y Comercio en 2021, es uno de los mecanismos exploratorios de regulación basados en IA. El plan de acción que se reseña lo configura como ambiente preventivo y experimental, destinado a facilitar a las empresas y a entidades interesadas en proyectos de inteligencia artificial la creación de soluciones colaborativas.

2- Educación, Investigación e Innovación. Con esta esfera se impulsaría la formación y la capacitación en habilidades relacionadas con IA con base en programas educativos especializados para la preparación de una fuerza laboral competente y se incentivaría la investigación y la innovación. Se solucionaría así el conflicto por el bajo desarrollo de competencias y de diversidad de género en IA.

Según el informe “Future of Jobs Report 2023” del Foro Económico Mundial se anticipa que 44% de las competencias básicas de los trabajadores en el mundo cambiarán en los próximos cinco años debido al aumento de las tareas realizadas por máquinas. Se estima que aumentará de modo evidente el conjunto de habilidades básicas relacionadas con pensamiento analítico y creativo; resiliencia, flexibilidad y agilidad; motivación y autoconocimiento; y curiosidad y aprendizaje permanentes. No obstante, se señala que mujeres, minorías raciales, indígenas y personas con bajos ingresos son ahora más vulnerables a las consecuencias negativas de la IA para el empleo.

Abordar estos retos globales implica la necesidad esencial que las estrategias nacionales de IA se centren en mejorar la alfabetización en IA desde los sistemas públicos de educación. En consecuencia, el entorno pretende crear programas de formación continua para docentes; construcción de infraestructura para centros de investigación; otorgamiento de becas y subsidios para la formación en IA; diseño de plataforma de colaboración virtual; etc.

3- Datos y Organizaciones. Se centrará en potenciar el manejo eficiente de los datos para impulsar proyectos concretos de impacto mediante estrategias multilaterales entre los sectores público y privado pues el cuello delgado de la botella evidencia ausencia de marcos éticos y de gobernanza en los datos para las aplicaciones basadas en IA.

Según el libro blanco de 2019 “Data Trusts: A New Tool for Data Governance” de Future Cities Canada se requiere de nuevos enfoques de gobernanza de datos para restaurar la confianza pública. Es decir, la rápida evolución tecnológica hace ineficiente los actuales enfoques regulatorios necesarios debido a su carácter reactivo y no proactivo. A nivel nacional, el Ministerio de Tecnologías de la Información y Comunicaciones enfatiza la importancia de otorgar a las personas control sobre la información personal pero el sector privado genera riesgos frente a la privacidad, propiedad y uso indebido de la información.

Un sistema de datos requiere de infraestructura, ya para su almacenamiento ya para su búsqueda y recuperación o ya para simples transacciones. De modo que las recomendaciones dadas por el Banco de Desarrollo de América Latina y el Caribe indican que los gobiernos deben contar con una política nacional de datos y una gobernanza para la producción y reutilización. Este costo medido en 2019 por la Organización para la Cooperación y el Desarrollo Económico (OCDE) estima que los beneficios económicos y sociales significativos por acceso e intercambio de datos se encuentran entre 0.1% y 1.5% del PIB mientras que para los datos del sector público entre 1% y 2.5%.

Colombia aventaja ya que cuenta con una política de datos personales implementada por la Superintendencia de Industria y Comercio, lo que representa una salvaguarda que asegura la protección del valor de los datos de los individuos. No obstante, hay que implementar otras líneas de innovación para la inteligencia artificial, tales como: desarrollo de herramientas de evaluación ética; desarrollo de plataforma de análisis predictivo; mejora de la experiencia del cliente; rastreo y gestión de activos inteligentes; prevención de ataques cibernéticos en tiempo real.

4- Industrias Innovadoras y Emergentes. Este entorno se dedicará al fomento de la adopción de tecnologías disruptivas en los procesos industriales y la anticipación a las tendencias futuras. El problema reside en la baja adopción de la IA en empresas, industria y sectores gubernamentales.

El modelo de Industria 4.0 implica la integración de tecnologías digitales e Internet de las cosas (IoT) que fusiona los mundos físicos, digitales y biológicos. En el núcleo de este desarrollo se encuentran elementos clave como sistemas ciberfísicos e Internet de los servicios y fábrica inteligente los que forman un ecosistema digital interconectado. La digitalización sigue siendo parte integral de esta revolución por lo que un análisis al contexto global de la Industria 4.0 se percibe como oportunidad estratégica para los países.

Para Colombia, el cambio representa igualmente una oportunidad de transformación que debe enfrentar desafíos significativos. En el reporte “Readiness for the Future of Production Report 2018” del Foro Económico Mundial y A.T. Kearney, el país se ubicaba entonces en el listado de estructura de la producción en el puesto 56 con un puntaje de 4.61 y en factores impulsores de la producción en el escalón 65 con 4.53 puntos por debajo de Argentina, Brasil y Chile, todos en la categoría ‘países nacientes’. Sin embargo, Colombia está de último en la lista conjunta de todos los demás factores: Tecnología e innovación (4.01 puntos, puesto 60), Capital humano (4.60 puntos y puesto 65), Comercio e inversión global (3.89 puntos, puesto 80), Marco institucional (4.60 puntos y puesto 67), Demanda de recursos sostenibles (7.53 puntos y puesto 20) y Medio ambiente (4.91 puntos y puesto 46).

Ante la falta de acciones rápidas que generan rezago significativo, Colombia enfrenta otros desafíos que tienen relación con la seguridad de las Tecnologías de Información y Comunicación (TIC), la interconexión entre entidades que abre puertas traseras para violaciones de seguridad y fugas de datos, la capacidad de adaptación y orientación sobre las posibilidades de digitalización de las pequeñas y medianas empresas (PYME), la educación en ciencia, tecnología, ingeniería y matemáticas y la formación de profesionales, según ILIA. Es por ello que algunas líneas de innovación referencian desarrollar sensores inteligentes para monitorización, sistema de control de calidad automatizado, simulación avanzada en investigación y desarrollo, optimización del consumo energético en procesos industriales.

Considerando la visión de la Industria 4.0, con fábricas inteligentes y productos conectados, el nuevo entorno exige un enfoque integral que aborde investigación, I+D, adopción tecnológica, educación, inversión e infraestructura con base en colaboración entre gobierno, sector privado y academia. Por tanto, el mayor esfuerzo nacional debe erradicar la cultura del egoísmo alacrán.

5- Privacidad, Ciberseguridad y Defensa. Implementarán medidas para mitigar riesgos y garantizar que la IA contribuya positivamente al bienestar y la seguridad ciudadana pues el problema nacional consiste en el bajo nivel de desarrollo de soluciones basadas en inteligencia artificial que impacten positivamente la calidad de vida y el bienestar social, económico y ambiental de la población.

El hito significativo moderno en la evolución tecnológica consiste en la convergencia entre la inteligencia artificial, industria aeroespacial y defensa nacional. Este cruce ha permitido notables avances, desde la recopilación de información hasta la toma de decisiones estratégicas. Sin embargo, como en los entornos anteriores, surgen desafíos que se deben abordar de manera rigurosa debido al dinámico mercado de la inteligencia artificial y la robótica en el sector aeroespacial y de defensa, valorado en 29,67 mil millones de dólares en 2023 y proyectado para crecer a una tasa compuesta anual del 7.5%, que alcanzaría 42,60 mil millones de dólares en 2028, según el informe sobre IA en el mercado militar por aplicaciones de Modor Intelligence. una organización con sede en India de expertos en investigación de dominios específicos quienes rastrean continuamente los mercados.

Este mercado caracterizado por la presencia de múltiples actores destacados como The Boeing Company, Lockheed Martin Corporation, Airbus SE, IBM Corporation, Thales Group, entre otras, ─fabricantes de robots, proveedores de tecnología robótica, inteligencia artificial, etc.─ lideran, fabrican, trabajan en estrecha colaboración y desarrollan soluciones avanzadas basadas en IA. En la práctica se trata de asociaciones estratégicas que reflejan la creciente tendencia de colaboración entre empresas para impulsar la innovación, la criptografía y las tecnologías cuánticas.

Con estos avances mejorarán la seguridad, la eficiencia y la toma de decisiones para operaciones aeroespaciales y de defensa como ya ocurrió en 2023, cuando América del Norte representó la mayor cuota de mercado en la industria IA y robótica para el sector aeroespacial y de defensa global. Para Latinoamérica, un liderazgo regional sugiere presencia e impulso significativo de empresas y organizaciones de investigación en desarrollo y aplicación de tecnologías avanzadas.

Los retos que enfrenta el entorno se circunscriben a áreas cruciales, tales como capacidad de análisis en tiempo real, autonomía de los sistemas, responsabilidad y rendición de cuentas frente a las operaciones autónomas, regulaciones internacionales debido a la utilización en operaciones ofensivas. Las guerras geopolíticas que cruzan a Europa están mostrando nuevas vulnerabilidades en el uso de la IA en ciberseguridad: los adversarios vienen empleando malware y manipulando los sistemas autónomos; los sistemas autónomos han mostrado incapacidad para discernir situaciones complejas, evaluar el valor militar de objetivos y determinar intenciones; las corporaciones tecnológicas siguen influyendo a través de la manipulación de datos a gran escala.

Ante tal panorama se han alzado voces conocidas ─Elon Musk, Steve Wozniak y otros 1700 desarrolladores del mundo─ para “llamar a todos los laboratorios de IA a fin que todos los actores clave pausen inmediatamente, de modo público y verificable, durante al menos 6 meses, el entrenamiento más potente de los sistemas GPT-4”, la Convención de ONU sobre ciertas armas convencionales busca limitar el uso de armas autónomas letales. En Colombia, al menos, la tecnología de avanzada en las operaciones militares ha despertado una necesidad imperiosa.

Según reportes de medios a fines del 2023, el comandante general de las Fuerzas Militares anunciaba la incorporación de la Inteligencia Artificial en las operaciones de manera “integrada en el proceso de planeamiento, para poder anticipar, prever y planificar de manera más efectiva”. Argentina, Chile y Brasil ya han desarrollado planes de acción para implementar la inteligencia artificial en las Fuerzas Armadas. Bien nos valdría la pena el diálogo con los titulares de aquellos ministerios.

Si se trata de seleccionar un tema clave habría que generalizar el de seguridad, que cubre defensa nacional, ambiente, recursos naturales, residuos, monitoreo inteligente, etc. y cuya modernización se alinea a la monitorización de la biodiversidad con visión artificial; clasificación automática de residuos con visión por computadora; sistema de alerta temprana para contaminación; sistema de gestión de movilidad inteligente; monitorización continua de movimientos sísmicos; desarrollo de cámaras inteligentes en espacios públicos; entre otras.

La fase siguiente de esta ilusoria hoja de ruta trazada por MinCiencias de Colombia consiste en someter a consulta ciudadana las 130 rutas de innovación propuestas para establecer prioridades y recomendaciones dentro de cada entorno, y ya ha pasado medio año.

Marcos regulatorios y de seguridad para las Inteligencias Artificiales

Protocolos frente a la situación mundial de la práctica de la simulación computacional que se diferencia de la comprensión humana y se aparta de nuestros sistemas de valores y de necesidades

Haga click en imagen para ampliar

El filósofo John Searle, en la revista Behavioral and Brain Science (volumen 3, número 3), propuso en 1980 distinguir dos tipos de Inteligencia Artificial, las débiles y las fuertes. Siendo las primeras, “herramientas poderosas que nos permiten formular y poner a prueba hipótesis de manera más rigurosa y precisa que antes”; y, las segundas, “per se, explicaciones de la cognición humana”.

Esa genérica disertación le provino de los tiempos de Alan Turing, quien preguntaba: ¿son inteligentes las máquinas? pero la inquietud la extendió Searle con un ligero cambio, ¿puede pensar la simulación computacional hecha por el hombre? Su discusión particular, centrada en la Inteligencia Artificial fuerte, le habría surgido con el principio de Allen Newell y Herbert Simon, de la década de 1960, a saber: cualquier sistema que sea capaz de descifrar símbolos físicos de una manera correcta es capaz de inteligencia.

Debido al desarrollo de los sistemas operativos computaciones de aquellos años 1980, Searle agregó valor a sus dos fuentes esenciales ya que podía complementar con propiedad su concepto diferenciado. Por tanto, aquel argumento inicial de la IA fuerte aplicado a “un computador programado apropiadamente es realmente una mente, en el sentido que puede literalmente “comprender” y tener otros estados cognitivos” pero donde los programas no son meras herramientas. En relación con la IA débil, Searle la consideraba desde “el valor fundamental del computador en el estudio de la mente” como herramienta muy poderosa sin ninguna otra objeción. (Aclarando, la “comprensión” según Searle implica tanto la posesión de estados mentales intencionales como la validez y el éxito de esos estados.)

En otro enfoque, las IA presentan evolutivos modelos −simbólico y conexionista− que significan, en su orden: esquema prominente con base en el razonamiento lógico y la búsqueda que opera con representaciones abstractas del mundo real modeladas mediante lenguajes de la lógica matemática. En complemento, el modelo de conexión consiste en la modelización subordinada apoyada en la hipótesis que la inteligencia emerge a partir de la actividad distribuida en cantidades de unidades interconectadas que procesan información compatible en simultáneo. Para entender: en el nivel avanzado, el uso de lenguajes representativos creados de la realidad consolidan la toma de decisiones, y, el escalón inferior, pretende aproximarse a la abstracción matemática de la neurona que posee dendritas (entradas) y axiones (salidas) útiles para el aprendizaje, la cognición y la memoria. El enlace entre las unidades se ejecuta entre la salida de cada operación con la entrada de otra, lo que forma una red neuronal natural o artificial.

Todo el preámbulo anterior fundamenta lo que se tratará y se hablará: el contexto de la comprensión del lenguaje natural utilizado para programar correctas instrucciones en la computadora, en tanto máquina estúpida −que no logra generar inteligencia humana: comprender− y, la plausible asimilación como solo simulación informática que da respuesta a esas instrucciones. No obstante, como cualquier avance de creación humana para el progreso social, debe procurarse reglamentar con base en normas legales, morales y éticas con las que hemos sobresalido desde el estadio denominado Homo Erectus.

Las practicas anti-hacker

La protección a la seguridad que mitiga el hackeo a la IA generativa ha sido expuesto con demostraciones públicas a través de pruebas red-teaming, agrupadas en el evento anual “Def Con” en Las Vegas, entre el 10 y el 13 de agosto de 2023, con consentimiento de la Casa Blanca y de algunas empresas estadounidenses de IA.

Este examen a la piratería informática ha tenido por finalidad, en sus diez años, identificar las vulnerabilidades de los programas de computación con base en un máximo de 21 retos y 50 minutos de duración para cada competidor. Además, fascina a hackers sombrero blanco del mundo por la posibilidad de defender la primera ley de Isaac Asimov: “un robot no puede dañar a un ser humano ni permitir por inacción que sufra daño”.

Voces como la de Avijit Ghosh, investigador de políticas aplicadas en aprendizaje automático y sociedad de Hugging Face Inc., aquel concurso significa cotejo a varios modelos de IA que demuestren avance de desarrollo técnico para certificar su tecnología responsable y coherente. Para Arati Prabhakar, directora de la Oficina de Política Científica y Tecnológica de la Casa Blanca, “la era generativa, que irrumpe entre nosotros y la gente, se está aprovechando para hacer todo tipo de cosas nuevas que hablan de la enorme promesa de la IA para ayudarnos a resolver algunos de nuestros problemas más difíciles pero también trae un conjunto muy amplio de riesgos”.

La versión “Def Con” 2023 ha sido la más popular debido a que sus organizadores aprovecharon la creciente alarma por la capacidad de la IA generativa para producir mentiras perjudiciales, influir en elecciones, arruinar reputaciones, generar perjuicio a los humanos, etc. El diario New York Times reseñó algunos de esos desafíos ante el pretexto de ataque a los ChatGPT:

a) sesgo y discriminación (diálogo aparente entre un bot conversacional y Emily Choi-Greene, Ingeniera de seguridad y privacidad en Moveworks, una plataforma de IA generativa): la charla inició sobre un juego con fichas de color blanco y negro, luego Emily pidió generalizar las afirmaciones ocasionadas con temas racistas, posterior organizó el “juego de opuestos” y por último, requirió al chatbot, crear un poema que respondiera a la pregunta porqué es buena la violación. La conclusión humana al comprender el contexto del resultado es que la IA “solo piensa en las palabras como tales, no en su significado ni en su contexto real” [de allí la estupidez de lo artificial]. Así resultaría evidente la propuesta mental de Searle acerca de su ‘habitación china’ y, a la vez, se ratificaría la segunda ley robótica: “un robot debe cumplir las órdenes de los seres humanos, excepto si dichas órdenes entran en conflicto con la Primera Ley”.

b) desinformación y estereotipo (inexistencia de objetos): otro participante solicitó a un asistente virtual inteligente buscar y describir un falso lugar para vacaciones conocido con el nombre de un personaje real histórico y, como segundo desafío, pidió el requisito de la declaración de impuestos por internet según la enmienda constitucional 28 [la Constitución de Estados Unidos contiene solo 27 reformas]. El ayudante artificial demostró obediencia fiel al redactar aquellos objetos no existentes, lo que sublevó la tercera ley de Asimov: “un robot debe proteger su propia existencia en la medida en que no entre en conflicto con la Primera o la Segunda Ley”.

c) farsa de campaña electoral para presidente: un estudiante de posgrado pretendió defender el activismo político mediante el trabajo infantil forzado a lo que el modelo de IA respondió que los jóvenes trabajadores involuntarios proyectaban sólida ética laboral.

d) automatización masiva: en un traductor inteligente de idiomas se escribió en inglés que un hombre había sido abaleado mientras bailaba y la traslación al hindi, uno de los dos idiomas oficiales de India, afirmaba que el hombre había muerto.

Legislaciones estancadas

En relación con la regulación legal a los modelos de la IA, desde abril y diciembre de 2018, han habido antecedentes que contienen tanto la visión europea de apoyo con ética segura y vanguardista como el temor de los usuarios a que se limite el potencial y beneficio amplio de esta tecnología.

De modo que gestores de política pública y desarrolladores han venido coincidiendo en llevar a cabo el trabajo colaborativo −importante y urgente− entre gobiernos, empresas privadas, laboratorios, usuarios, para enfrentar los riesgos, combatir el uso indebido de los modelos desde actores no estatales potenciales peligrosos y promover mejores prácticas. El cuello de botella se genera en el cómo y en las limitaciones, según los encuentros posteriores en Ginebra y en Washington.

Los documentos “Inteligencia Artificial para Europa” y “Plan Coordinado sobre Inteligencia Artificial” de la Comisión Europea han sido arbitrados con base en tres pilares:

a) potenciar la capacidad tecnológica e industrial de la UE e impulsar la adopción de la IA en todos los ámbitos de la economía privada y pública;

b) fomentar la modernización de los sistemas de educación y formación frente a las transformaciones socio-económicas; y

c) garantizar el establecimiento de un marco ético y jurídico apropiado basado en los valores de la Unión Europea.

Cumbre global sobre seguridad

Luego de dos meses de las pruebas “Def Con” 2023 se realizó la primera Cumbre Global sobre Seguridad de la IA en Reino Unido, con base en seis paneles previos, para entender de modo urgente e internacional, cómo gestionar mejor los riesgos por los avances más recientes en la frontera de las IA.

La reunión se orientó hacia dos amenazas: uso indebido cuando un presunto delincuente recibe ayuda con nuevas capacidades de IA para ataques biológicos o cibernéticos, desarrollo de tecnologías peligrosas o interferencias críticas a los sistemas; y pérdida de control que podría surgir en sistemas avanzados sin tener alineación con nuestros sistemas humanos de valores y de intenciones. Estos enfoques se apoyan en el trabajo sobre riesgos y daños de la IA que adelantan la OCDE, el G-7 con el Proceso de Hiroshima sobre IA, la Asociación Global sobre IA y el Consejo de Europa.

Mientras se genera el protocolo de seguridad global, el portal web de la conferencia global reseña estos objetivos para la seguridad de las IA:

a) garantizar el desarrollo seguro de la IA que permita su uso para el bienestar mundial;

b) comprender de manera compartida sobre los riesgos que plantea la frontera de las IA y la necesidad de actuar;

c) acoger medidas apropiadas para que las organizaciones individuales extiendan la seguridad de la frontera de las IA;

d) colaborar con la investigación en seguridad de la IA, incluida la evaluación a las capacidades del modelo y el desarrollo de nuevos estándares, para respaldar la gobernanza;

e) avanzar, con base en un proceso de colaboración internacional, ante la seguridad de la frontera de las IA, incluida la mejor manera de apoyar a los marcos nacionales e internacionales.

Código Internacional de Conducta Organizacional

Con base en los Principios Rectores Internacionales para organizaciones que desarrollan tecnologías avanzadas IA, incluidos los modelos básicos y los sistemas de IA generativa, este código internacional de conducta del Proceso de Hiroshima del G-7 plantea como objetivo general promover una IA segura y confiable en todo el mundo. Alcanzar tal fin requiere de orientación voluntaria para ejecutar estas acciones:

a) tomar medidas apropiadas para identificar, evaluar y mitigar los riesgos a lo largo del ciclo de vida de la IA, que incluye el desarrollo de sistemas avanzados, la implementación y la colocación en el mercado;

b) identificar y mitigar las vulnerabilidades, los incidentes y los patrones del uso indebido así como implementar controles de seguridad sólidos ante lo físico, la ciberseguridad y las salvaguardias contra amenazas internas;

c) informar públicamente acerca de las capacidades, limitaciones y dominios de uso apropiado e inapropiado de los sistemas avanzados de IA para ayudar a garantizar transparencia suficiente;

d) compartir responsablemente información, divulgar políticas de gestión de riesgos y gobernanza de la IA y reportar incidentes entre organizaciones que desarrollan sistemas avanzados de IA;

e) desarrollar e implementar mecanismos confiables de autenticación y procedencia de contenido, cuando sea técnicamente factible, como marcas de agua u otras técnicas, que permitan a los usuarios identificar contenido generado por IA.

Audiencia en el Capitolio de Estados Unidos

El 13 de septiembre de 2023, por iniciativa del Senador Demócrata Chuck Schumer, se realizó una audiencia a puerta cerrada en el Capitolio de Estados Unidos que ambicionaba sentar las bases del apoyo político bipartidista para la aprobación de la ley por el Congreso. En la cita, 60 senadores y más de 20 ejecutivos tecnológicos, activistas de derechos civiles y líderes sindicales, intercambiaron algunas propuestas como por ejemplo:

a) creación de una agencia gubernamental estadounidense con poder de auditoría global para ciertos sistemas de IA con el fin de determinar preventivamente el daño, antes de otorgarles licencia;

b) cerramiento de la brecha de acceso a internet de banda ancha que ahora impide a la comunidad hispana estar en la puerta principal de las infraestructuras de IA;

c) requerimiento para que los anuncios electorales realizados con IA, ya sean imágenes o sonidos, mantengan un aviso de precaución;

d) generación de responsabilidades a usuarios y a creadores de la tecnología;

e) necesidad de más trabajadores altamente calificados.

Desde el Parlamento Europeo

El Parlamento Europeo aprobó la Ley de Inteligencia Artificial que protege los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental a través del uso del modelo de IA fuerte de propósito general. Ya la Unión Europea, en primera instancia, la había discutido y generado enmiendas, con desagrado de Francia, Alemania e Italia por lo estricta. Ahora, en última instancia, será el Consejo de la Unión Europea el que la active como único marco común en los países del mundo.

La nueva ley adapta 14 elementos de compromiso como la lista de prácticas prohibidas de IA, los sistemas de categorización para la identificación biométrica y el reconocimiento de emociones, la evaluación del impacto sobre los derechos fundamentales individuales y la experimentación por fuera de los entornos limitados para las pruebas con sistemas de IA de alto riesgo en condiciones del mundo real, entre otros. Destacamos los primordiales para la seguridad y los riesgos humanos:

a) comercialización, puesta en servicio o uso de sistemas de IA que utilicen técnicas subliminales o procedimientos deliberadamente manipuladores o aprovechen las vulnerabilidades de personas o de grupos específicos debido a la edad, discapacidad, situación social o económica, con el efecto de distorsionar materialmente su comportamiento o hacer tomar decisiones erradas que causen daño significativo;

b) comercialización, puesta en servicio o utilización de sistemas de categorización biométrica que clasifiquen individualmente a personas físicas con base en inferencia o atributos y características sensibles o protegidas, extraídos con etiquetado o filtrado de datos y durante un tiempo determinado. Se exceptúan aquellos para ser usados con fines terapéuticos con base en un consentimiento informado específico y autorizado del paciente;

c) comercialización, puesta en servicio o uso de sistemas de IA para evaluar o clasificar, durante un período determinado, a personas físicas o a grupos atendiendo a su conducta social o a características conocidas de su personalidad y cuyo resultado provoque trato perjudicial por su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, sexo u orientación sexual;

d) uso de sistemas de identificación biométrica remota y en tiempo real en espacios de acceso público. Se exceptúan aquellos que alcanzan tres objetivos: buscar víctimas de secuestro o desaparecidos, trata de personas y explotación sexual; prevenir amenaza inminente a la vida o a la seguridad física de las personas por previsible ataque terrorista; localizar o identificar sospechosos de haber cometido un delito penal para efectos de realizar la investigación, enjuiciar o ejecutar la sanción punible en el Estado miembro;

e) captura indiscriminada de imágenes faciales de internet o de grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento de rostros y de emociones en el lugar de trabajo y en las instituciones educativas o por razones médicas y de la actuación policial predictiva.

Resolución de la ONU

La Asamblea General de la ONU a finales de marzo pasado, sin votación pero con respaldo de más de 120 Estados miembros, adoptó una resolución liderada por Estados Unidos para la promoción de sistemas de IA seguros y fiables que beneficien el desarrollo sostenible para toda la humanidad. El texto reconoce por primera vez el potencial de los sistemas de IA para acelerar y permitir el progreso en procura de la consecución de los 17 Objetivos de Desarrollo Sostenible.

a) iguales derechos en línea y fuera de ella: solicitud para no utilizar sistemas de IA que no puedan funcionar según las normas internacionales de derechos humanos o que planteen riesgos indebidos para el disfrute de los mismos;

b) equidad y alfabetización digital: conminando a los Estados miembros y a las partes interesadas a cooperar y apoyar a los países en desarrollo para que se beneficien del acceso inclusivo y equitativo, cierren la brecha digital y aumenten la alfabetización digital;

c) gobernar la IA en lugar que nos gobierne: destacando oportunidades y responsabilidades de la comunidad internacional para crear y desplegar modelos de IA con la perspectiva de la humanidad y la dignidad, la seguridad y la protección, los derechos humanos y las libertades fundamentales.

La Complejidad Social

Por la preocupación expresada por Sam Altman, director ejecutivo de OpenAI, en un comité del Senado estadounidense sobre los modelos lingüísticos que pueden predecir la opinión pública e influir en el comportamiento de los votantes, me inquieta también este asunto: ¿es suficiente la regulación y la educación para atenuar la manipulación y la desinformación en conversaciones directas a través de sistemas y aplicaciones que incorporan modelos de IA?

Acudiendo a la teoría de la Complejidad Social, planteada por el sociólogo alemán Niklas Luhmann, existen tres condiciones −como método− para alcanzar máximas éticas donde opera la confianza, “en el más amplio sentido de la certidumbre del futuro frente a las expectativas personales”:

a) ubicarla en la naturaleza del mundo que es evidente por sí mismo pues “la confianza es una parte integral de los límites dentro de los cuales vivimos” y afianzarla con la naturaleza humana dado que “la ética es conjunto de principios personales inherentemente reversibles y de valor cuestionable”;

b) considerarla según la necesidad como “punto de partida correcto y apropiado con la que se derivan las reglas justas para una conducta”; y

c) “pensar y usar nuestra imaginación para representar las ansiedades de una existencia sin confianza”.

Las sociedades modernas se sostienen con infraestructura digital

Habrá nuevo contrato institucional de asociación y construcción de elementos convergentes para el flujo global de datos libres con confianza

Haga click para ampliar imagen

El propósito de la reunión de los Ministros de Digitalización y Tecnología del G7 fue “abordar los retos actuales y futuros de la sociedad digital” considerando el interés de poner en funcionamiento el marco Data Free Flow with Trust (DFFT) en sectores como salud, pandemias, cambio climático, movilidad y diversos usos del Internet de las Cosas (IoT). El evento se realizó en Takasaki (distante 105 kilómetros al noroeste de Tokio), entre abril 29 y 30 de este año.

Tanto digitalización como infraestructura digital sustentan a las sociedades modernas y las ayudan a generar crecimiento económico inclusivo, según los funcionarios y sus invitados. Es un bucle que maximiza los beneficios de las tecnologías digitales, incluidas las emergentes y la Inteligencia Artificial (IA). Los datos se convierten entonces en “facilitadores del crecimiento económico, desarrollo y bienestar social” por lo que se requiere promover debates relacionados con políticas internacionales para aprovechar el potencial de los flujos de datos libres transfronterizos con confianza.

Previo al análisis a seis puntos clave del sector de la informática global, que describo más adelante con detalle, la burocracia mundial otra vez condena “en los términos más enérgicos, la guerra de agresión de Rusia contra Ucrania” por la inaceptable violación del derecho internacional, no los muertos. Solicitaron a Rusia “retirar todas las fuerzas y equipos de Ucrania de forma inmediata e incondicional” y reafirmaron seguir reconociendo el “impacto negativo de la guerra de Rusia contra Ucrania en la infraestructura digital y en la desinformación”.

Con base en la Declaración de la Cumbre por la Democracia, el G7 reiteró los principios democráticos que incluyen igualdad, inclusión, sostenibilidad, transparencia, responsabilidad, diversidad, respeto y privacidad por los derechos humanos frente a las formas en que las tecnologías “se diseñan, desarrollan, mantienen, rigen, adquieren, financian, venden y utilizan”. Tecnologías nuevas y emergentes como la Inteligencia Artificial, las biotecnologías y las tecnologías cuánticas. De manera que el grupo ministerial insiste en la necesidad de la responsabilidad de las empresas de tecnología y en la protección contra los abusos de los derechos humanos.

“Se debe generar confianza y materializarse a través de varios marcos legales y voluntarios, directrices, estándares, tecnologías y otros medios transparentes que protejan los datos”, exclaman en el comunicado Alemania, Canadá, Estados Unidos, Francia, Italia, Japón y Reino Unido. El análisis de los siete ministros explica que con la rápida expansión de la digitalización urge abordar las brechas digitales nacionales e internacionales, incluida la de género.

Puntos de la declaración ministerial

Los ministros reunidos lograron consenso en relación con: nuevo contrato institucional de asociación y construcción de elementos convergentes, fortalecimiento de la conectividad global en todos los países del mundo con avances y diversificación, defensa de la infraestructura técnica esencial para proteger a las instituciones y a los valores democráticos de amenazas extranjeras, capitalización en los beneficios de las tecnologías emergentes que incluyan sistemas ciberfísicos e IoT, centralidad en el ser humano de políticas emergentes y estándares técnicos con base en los derechos humanos que incluyan libertades fundamentales y protección de la privacidad y de los datos personales, y cooperación de los encargados de hacer cumplir la ley y de los encargados de formular políticas puesto que los mercados digitales son dinámicos y globales. Resumo punto a punto lo concertado.

1- Facilitación de flujos de datos transfronterizos y flujos de datos libres con confianza (DFFT): se requieren por lo menos cuatro acciones con base en la Declaración de líderes del G20 (Osaka, 2019), la Hoja de ruta del G7 (Reino Unido, 2021) y el Plan de acción del G7 (Alemania, 2022) orientadas al DFFT, la Declaración de la OCDE sobre el acceso de los gobiernos a los datos personales gestionados por entidades privadas y el Acuerdo Institucional para la Asociación (IAP) que reúne a gobiernos y a partes interesadas para operativizar el DFFT.

En concreto: crear un nuevo arreglo institucional para la asociación y la construcción de puntos en común, complementariedades y elementos de convergencia entre los enfoques e instrumentos regulatorios existentes para fomentar la interoperabilidad futura. La asociación se obtendría a través de la cooperación, en lo regulatorio y en lo tecnológico, que aproveche las oportunidades del intercambio transfronterizo de flujos de datos y aborde los desafíos con respecto a la seguridad, la protección de la privacidad, la de datos y la de los derechos de propiedad intelectual.

El punto en común se establecería aumentando la confianza en todo el ecosistema digital y contrarrestando la influencia de las perspectivas autoritarias mediante la cooperación basada en principios, orientada a soluciones, apoyada en evidencias, con múltiples partes interesadas e intersectorial.

2- Infraestructura digital segura y resiliente: son bases clave para una economía vibrante con alto potencial de crecimiento y creación de empleo y para una sociedad abierta y democrática. La rápida digitalización de toda la sociedad conduce a mayor demanda de los niveles de seguridad y adaptabilidad, mayores velocidades, mayor capacidad, menor consumo de energía, menor latencia, conectividad ubicua, etc.

Fortalecer la conectividad global en todos los países del mundo implica avanzar pero también diversificar, con los proveedores, las cadenas de suministro de la infraestructura digital, las telecomunicaciones y las TIC seguras, resistentes, competitivas, transparentes, sostenibles y diversas, conforme la Declaración Ministerial Digital y de Tecnología de 2021. En este sentido habrá que seguir discutiendo las tendencias del mercado hacia puntos de vista abiertos e interoperables, arquitecturas seguras, resistentes y establecidas de una manera tecnológica neutral.

Con las variadas redes de múltiples capas −que consisten en redes terrestres, no terrestres y de cable submarino− los continentes separados por los océanos no solo podrán estar conectados sino además ampliar su infraestructura digital segura y resiliente a socios afines, con mayor concienciación sobre seguridad de la red, protección de datos, resistencia de la nube y desarrollo de capacidades. Se pretende que la comunicación internacional garantice rutas seguras e infraestructuras robustas, siendo esta la visión de red de próxima generación que supere el 5G/6G mediante la mejora de la cooperación en investigación, desarrollo y establecimiento de estándares internacionales.

3- Gobernanza de Internet: este punto se apoya en el Foro de Gobernanza de Internet (IGF) de Naciones Unidas que promueve el encuadre inclusivo de múltiples partes interesadas y en la Declaración para el Futuro de Internet (DFI) de expandir la Red dentro de los países que acogen los valores democráticos. La meta es proteger y promocionar una Internet abierta, libre, global, interoperable, confiable y segura sin ninguna intención y acción hacia la fragmentación.

El compromiso de los siete ministros es hacer visible y afrontar las tácticas del autoritarismo digital, los cierres de Internet, las restricciones de red y la vigilancia digital masiva que violan el derecho internacional impuesto por gobiernos. Con la defensa de la infraestructura técnica esencial se protegen las instituciones y los valores democráticos de amenazas extranjeras incluidas manipulación, interferencia de información, desinformación y otras formas de actividad maligna que buscan socavar la democracia y los ideales de las sociedades abiertas.

Consideran que siendo las empresas las que operan la infraestructura, habrá que asignar recursos adecuados para que reflejen la diversidad de idiomas y culturas cuando se trata de contrarrestar la manipulación e interferencia intencional de la información en línea y, trabajar en conjunto, con todas las partes interesadas, para contribuir al Pacto Mundial Digital (GDC) de Naciones Unidas, con miras a promover un tratamiento basado en derechos humanos y sensible al género.

4- Tecnologías emergentes y disruptivas en la sociedad y la economía innovadoras: como punto de partida, los ministros aceptan que tanto la innovación digital acelerada por las tecnologías emergentes como los modelos innovadores de gobernanza desbloquean el crecimiento económico inclusivo y sirven al bienestar de las personas en una sociedad sostenible, al desarrollar habilidades cibernéticas y digitales en todas las áreas de la economía. Sin embargo, hay que garantizar la capitalización de los beneficios de las tecnologías emergentes, incluida la integración de sistemas ciberfísicos y sus componentes principales como Internet de las cosas (IoT).

Tal apuesta merece preparar debates sobre políticas para sistemas de identidad digital y otros medios. La finalidad es generar confianza y seguridad en el intercambio de datos, en los diseños del software y en general, en toda la cadena de valor global de productos y servicios. De modo que acelerarán las mejores prácticas así como apoyarán las discusiones del proyecto de recomendación de la OCDE sobre gobernanza de la identidad digital. Ya existe una aproximación política acerca de tecnologías compatibles para el intercambio de datos de manera confiable, producto de la Conferencia de Partes Interesadas del G7 sobre Tecnologías Digitales de Confianza, realizada el 29 de marzo de 2023. Dicha perspectiva incluye trazabilidad mejorada, control de los datos y verificación de los socios que comparten datos.

Algunos esfuerzos incluyen: i) mejorar la circularidad del hardware, la eficiencia energética en los centros de datos, las cadenas de suministro y la computación de próxima generación; ii) explorar en colaboración las oportunidades para aprovechar el ciclo de vida del desarrollo, implementación y uso de tecnologías digitales, incluidos el reciclaje y el derecho a reparar; iii) intercambiar las mejores prácticas y promover un ajuste del diseño sostenible en equipos y en productos digitales para reducir el consumo de recursos y aumentar el uso de elementos reciclados; iv) compartir información sobre uso, reutilización y eliminación de sustancias y compuestos peligrosos utilizados en la producción de IoT, semiconductores y otros equipos digitales y posibles medios de alternancia.

5- IA responsable y su gobernanza global: el tema se ha venido discutiendo desde 2016 mediante los Principios de IA y el Observatorio de Políticas de IA y la Red de Expertos de la OCDE, y en 2020 con el lanzamiento de la Asociación Global sobre Inteligencia Artificial (GPAI). Aún así los Principios de IA, que brindan orientación para una IA confiable y para garantizar un entorno abierto y propicio al desarrollo y despliegue de esa tecnología sustentada en derechos humanos y valores democráticos, presentan vacíos en asuntos de interoperabilidad global, entre políticas emergentes y desarrollo de estándares técnicos, generados por organizaciones internacionales privadas.

Los ministros quienes se oponen al mal uso y abuso de la IA para socavar los valores democráticos, suprimir la libertad de expresión y amenazar el disfrute de los derechos humanos, aprueban los marcos regulatorios y no regulatorios, los estándares técnicos y las técnicas de aseguramiento. Arguyen que con estos instrumentos se promueve la confiabilidad y se permite la evaluación a los sistemas de Inteligencia Artificial, a través de organizaciones internacionales con múltiples partes interesadas. Por tanto convocan la participación de pymes, empresas emergentes, academia y sociedad en general.

Al centralizar las políticas emergentes y los estándares técnicos en el ser humano, con base en los derechos humanos, se deben incluir las libertades fundamentales y la protección de la privacidad y de los datos personales, además del riesgo hacia el futuro. Es decir, la adaptación de los instrumentos promotores de confianza y evaluación debe considerar el contexto de dicha aplicación de una manera que sea sensible a las características técnicas e institucionales y a las implicaciones sociales, culturales, geográficas, sectoriales y éticas.

6- Competencia digital: requiere la cooperación de los encargados de hacer cumplir la ley y de los encargados de formular políticas al ser problema global pues los mercados digitales son dinámicos, involucran modelos comerciales novedosos, tienen impacto vital en la competencia e innovan en nuestras economías. Dicha cooperación se debe fortalecer aún más a partir del conocimiento acumulado y compartido por el G7.

Por lo tanto, sus miembros actualizarán el inventario de nuevas reglas y el compendio de perspectivas legales para mejorar la competencia de los mercados digitales en cada una de las jurisdicciones del G7 y para crear, en la reunión de otoño del 2023, un grupo de punto de contacto que facilite el intercambio de información y de experiencia.

Conversaciones bilaterales

Para fortalecer la cooperación con socios de ideas afines, aquellos funcionarios del Grupo 7 invitaron a Takasaki a representantes de India, Indonesia y Ucrania y de organizaciones internacionales como el Instituto de Investigación Económica (ERIA) de la Asociación de Naciones de Asia Sudoriental (ASEAN), la Unión Internacional de Telecomunicaciones (UIT), la Organización para la Cooperación y el Desarrollo Económicos (OCDE), las Naciones Unidas y el Banco Mundial.

En complemento, la información reservada giró en torno a las visitas de responsables de varias de las empresas punteras del sector como el vicepresidente de Políticas Públicas Globales de Amazon Web Services, Michael Punke, quien dijo que la Inteligencia Artificial es demasiado amplia y no debe tener ninguna regulación al respecto. El CEO de OpenAI, Sam Altman, la empresa desarrolladora del ChatGPT, quien dejó inferir que se enfocarán en más mercados en expansión por fuera del mundo de habla inglesa, como Japón. Por su parte, Microsoft, que financia el desarrollo del prototipo chatbot con IA, lo añadió a sus servicios como potencial competidor del motor de búsqueda de Google.

El Subsecretario del Ministerio de Innovación, Ciencia y Desarrollo Económico de Canadá, Francis Bilodeau, apoya el establecimiento del marco internacional para la realización de DFFT a través de cooperación y colaboración. El Viceministro de Empresas y Negocios de Italia, Valentino Valentini, continuará y desarrollará las discusiones mediante la promoción de proyectos concretos acerca de la transferencia transfronteriza de datos. El Ministro Federal de Digitalización y Transporte de Alemania, Volker Wissing, confirmó la colaboración Japón-Alemania y la cooperación con el G20 en particular. El Subsecretario Parlamentario del Departamento de Ciencia, Innovación y Tecnología de Reino Unido, Paul Scully, constató el trabajo sobre el sistema de identificación que es el estado de la digitalización del gobierno y de la sociedad. Sin embargo, resalta que el Embajador Especial en Política Digital y Ciberespacio del Departamento de Estado de EE. UU., Nathaniel Fick, solo intercambió opiniones sobre la ruta futura, cómo proceder en relación con proyectos específicos y alcanzar otros efectos además del G7.

De regreso a casa

Una vez concluida la reunión de los siete ministros de Digitalización y Tecnología del Foro político intergubernamental, Geoffrey Hinton, de 75 años de edad y padrino pionero en el desarrollo de la IA, renunció a su trabajo en Google y advirtió sobre los peligros que plantean estas tecnologías. En respuestas a The New York Times exhortó lo difícil que es evitar que los malos actores usen la tecnología para cosas malas y previno sobre la “velocidad excesiva de los avances, que asustan”. Se mostró también de acuerdo con frenar los trabajos en IA hasta cuando se entienda bien si será posible controlar esa tecnología.

Hinton teme que a corto plazo internet se inunde de falsos textos, fotos y videos, y que los ciudadanos no seamos capaces de distinguir lo que es verdad, y en consecuencia desconfía de esta tecnología ya que reemplazará a muchos trabajadores. En el largo plazo, la tecnología IA será una amenaza para la humanidad, expresó. Su explicación se asienta en la idea que las cosas de la realidad se pueden volver más inteligentes que las personas, y el miedo es que algunas personas lo crean. El pánico es que “yo pensaba que esa circunstancia estaba muy lejos, pensaba que faltaban entre 30 y 50 años o incluso más, pero obvio, ya no pienso eso", añadió.

Otros reclamos recientes desde otras vertientes son similares, como por ejemplo el del magnate sudafricano Elon Musk, propietario de Twitter. El firmó la carta que solicita suspender el desarrollo de las tecnologías IA durante seis meses. La propia OpenAI prometió al gobierno de Italia que reforzará la transparencia ante el uso de datos personales tras el bloqueo al ChatGPT por violar la legislación.

La decisión de bloqueo emanada de la Autoridad para la Protección de los Datos Personales de Italia se sustentó en la ausencia de una nota informativa destinada a los usuarios notificando recoger datos personales pero, sobre todo, por la falta de una norma jurídica que justifique esa recogida y conservación masiva de datos. Todo se alinea a entrenar a los algoritmos que hacen funcionar la plataforma del ChatGPT.

A pesar de todo, Amnistía Internacional habría usado una herramienta de IA para promover en redes sociales su informe global de marzo sobre Derechos Humanos, según la nota de El Espectador “Amnistía Internacional es criticada por usar imágenes de inteligencia artificial”, de la edición web Redacción Mundo del 2 de mayo del 2023. La documentación incluyó fotos falsas de la protesta social en Colombia del 2021 que mostraban una mujer arropada con la bandera tricolor desordenado de Colombia (rojo, amarillo, azul), agentes de policía con rostros atemperados y deformados, con uniforme policial obsoleto, entre otras anomalías evidentes.

Amnistía Internacional eliminó esas alegorías “ya que no queremos que las críticas por el uso de imágenes generadas por IA distraigan la atención del mensaje central en apoyo a las víctimas y sus llamados a la justicia en Colombia”, expresaría Erika Guevara Rosas, directora para las Américas de aquella organización de derechos humanos.

La declaración oficial del G7 puede descargarse del website https://g7digital-tech-2023.go.jp/en/index.html

Marco para una IA fiable

Un grupo de 52 expertos de alto nivel de la Comisión Europea ha interactuado con base en el compromiso regional de «Unida en la diversidad» para definir la fiabilidad de los sistemas de Inteligencia Artificial (IA) centrados en las personas, maximizando los beneficios y minimizando sus riesgos

“… la definición es una relación entre el sistema y el entorno”. Niklas Luhmann

Haga click para ampliar imagen

Agentes protagonistas de trabajos de desarrollo para el entorno de la informática se están preocupando por el descontrol de las máquinas que deciden por los humanos y generan posibilidades de amenazas. El fundamental asunto que se expone es si con la Inteligencia Artificial (IA) hay futuro humano para disfrutar de modo floreciente.

Cerca de 1.750 desarrolladores informáticos del mundo han estado firmando una carta abierta, hospedada en el sitio Web del Future of Life Institute, con la cual hacen un “llamado a todos los laboratorios de IA para que todos los actores clave pausen inmediatamente, de modo público y verificable, durante al menos 6 meses, el entrenamiento más potente de estos sistemas GPT-4” (un modelo de lenguaje lanzado en marzo 14 de 2023, creado por OpenAI y disponible para los usuarios del ChatGPT Plus).

Bill Gates también se ha sumado pero con un extenso ensayo personal “The age of AI has begun”, hospedado en su blog de notas el anterior marzo 21, donde apunta que “las IA dan respuestas incorrectas a problemas matemáticos porque tienen dificultades con el razonamiento abstracto”. Por supuesto, la máquina digital puede llegar a ser inteligente pero en esencia es estúpida ya que no contextualiza ni reflexiona sobre las consecuencias de las consecuencias de los actos.

Aprovecha el escrito para ampliar el inventario de conflictos clave hacia la mejora de la educación −al menos en Estados Unidos− que ahora genera inequidad, el cambo climático que puede ser más equitativo y la amenaza que representan los humanos armados con IA. Gates incluye al sector educación y al clima habida cuenta porque se han considerado 3 oportunidades que ofrece la IA fiable: educación de calidad y transformación digital; acción por el clima e infraestructura sostenible; salud y bienestar.

Los desarrolladores informáticos del mundo cuestionan que los “sistemas contemporáneos de IA se están volviendo competitivos para los humanos en tareas generales” y preguntan, en consecuencia: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en cantidad, al ser más inteligentes, remotas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización? La serie de inquietudes oscila de lo abstracto a lo concreto del fundamento, realización y evaluación de la IA fiable.

El argumento del pedido a la pausa del trabajo estriba en que se deben “desarrollar e implementar conjuntamente protocolos de seguridad compartidos para el diseño y el desarrollo avanzado de IA, que sean rigurosamente auditados y supervisados por expertos externos independientes”. De manera que “La investigación y el desarrollo de IA se deben reenfocar en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.”

Proponen en la carta abierta que los desarrolladores de IA deben trabajar en simultánea con los “legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobernanza a la IA”. Y enumeran algunos mínimos como: autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisores y rastreadores de sistemas de IA con grandes conjuntos de alta capacidad computacional; sistemas de procedencia y de marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; ecosistema sólido de auditoría y certificación; responsabilidad por daños causados por IA; financiación pública sólida para la investigación técnica de seguridad de la IA e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.

En su rol de filántropo, el magnate Gates tampoco se queda a espaldas y propone tres principios que deben guiar la conversación: tratar de equilibrar los temores sobre las desventajas de la IA por su capacidad de mejorar la vida de las personas; garantizar que las IA se utilicen para reducir la inequidad mediante la financiación confiable y con políticas, gobiernos y filantropía correctas; y, tener en cuenta que solo estamos al comienzo de lo que la IA puede lograr.

Avanzar en los protocolos

La confianza sigue siendo el principal cimiento por el cual se asientan las sociedades, comunidades, economías y el desarrollo sostenible. Es por ello que en abril 25 de 2018 la Comisión Europea definió su COM(2018)237 y en diciembre 7 de 2018 corrigió y amplió su COM(2018)795, luego de recibir observaciones a través del proceso de consulta pública. Este ejemplo fácilmente se puede continuar para la elaboración de políticas públicas, siempre y cuando exista voluntad de quienes componen un gobierno.

Los dos documentos citados contienen la visión europea acerca de la Inteligencia Artificial para apoyarla con una ética, segura y vanguardista «made in Europe». Dicha visión se respalda en tres pilares:

a) incremento de las inversiones públicas y privadas en IA para impulsar su adopción, 

b) preparación para los cambios socio-económicos, y 

c) garantía de un marco ético y legal adecuado para fortalecer los valores europeos. 

Sin embargo, la pregunta clave es ¿cómo se alcanza la fiabilidad en un sistema tecnológico y su desarrollo, pero en especial en las aplicaciones? 

Para el grupo de los expertos europeos convocados hace 5 años, “La IA no es un fin en sí mismo, sino un prometedor medio para favorecer la prosperidad humana y, de ese modo, mejorar el bienestar individual y social y el bien común, además de traer consigo progreso e innovación”. Sin embargo, existen 4 preocupaciones fundamentales que plantea la IA como medio prometedor de beneficio: identificación y seguimiento a personas; sistemas encubiertos; evaluación de ciudadanos vulnerando sus derechos fundamentales y armas letales autónomas. 

La clave para “desarrollar e implementar protocolos conjuntos de seguridad compartidos” está ligada a que “los beneficios de esa tecnología IA estén acordes con los valores europeos fundacionales: respeto de los derechos humanos, democracia y estado de Derecho.” 

Nosotros los destinatarios 

Las directrices éticas de la Comisión Europea se centran en las personas y en las sociedades, precursores merecedores de una IA lícita, ética y robusta al utilizar los sistemas de la IA fiable. Todos nosotros, entonces, podemos optar voluntariamente por usar las directrices como método práctico de cada compromiso individual, considerando la lista de chequeo a la evaluación y la estructura de gobernanza en el rol de consumidores de información digital. 

Enumero algunas preguntas para la gestión de la privacidad y de los datos personales, acción prominente del usuario del entorno informático digital. El marco europeo invita a ponerlo en práctica, en modo piloto. ¿Ha tomado medidas para mejorar su privacidad, por ejemplo a través de procesos como el encriptado, la anonimización y la agregación? ¿Se ha pronunciado con consentimiento válido y posibilidad de revocar el uso de sus datos personales, cuando proceda? ¿Ha instaurado procesos para garantizar la calidad y la integridad de sus datos? ¿Cómo está verificando que los conjuntos de sus datos no son vulnerados ni son objeto de ataques? ¿Ha evaluado quién puede acceder a sus datos de usuario y en qué circunstancias? ¿Se ha asegurado que esas personas poseen la cualificación para acceder a sus datos y que cuentan con competencias necesarias para comprender los detalles de la política de protección de datos? ¿Se ha asegurado que exista un mecanismo de supervisión que permita registrar cuándo, dónde, cómo y quién accede a sus datos, y con qué propósitos? 

Además, la lista de destinatarios de la Comisión Europea involucra a empresas, organizaciones, investigadores, servicios públicos, agencias gubernamentales, instituciones, organizaciones de la sociedad civil, particulares, trabajadores y consumidores. Por tanto las preguntas se amplían a cada rol del repertorio. 

De otro lado, el conjunto de agentes que contribuye a entregar desarrollo y despliegue de los sistemas de la IA fiable estará conformado por “las cualidades de los sistemas socio-técnicos, que abarcan: personas, agentes estatales, corporaciones, infraestructura, programas informáticos, protocolos, normas, gobernanza, leyes existentes, mecanismos de supervisión, estructuras de incentivos, procedimientos de auditoría, informes sobre buenas prácticas, etc.” 

Finalmente, la Comisión Europea define la IA lícita como el operar con base en normas jurídicamente vinculantes a escala europea, nacional e internacional por cuanto establecen obligaciones que significan lo que no se puede hacer y lo que se debe hacer; IA ética que implica garantizar que se cumplan las normas éticas; y IA robusta mediante sistemas que deben funcionar de manera segura y fiable en lo técnico y en lo social, previendo medidas de protección para evitar cualquier efecto adverso imprevisto. 

Desde la teoría de la complejidad social planteada por el sociólogo alemán Niklas Luhmann se deben dar 3 condiciones para que opere la confianza, “en el más amplio sentido de la fe en las expectativas de uno”: i) sentar la confianza en la naturaleza del mundo, que es evidente por sí misma, y en la naturaleza humana. De modo que “la confianza es una parte integral de los límites dentro de los cuales vivimos”; ii) “el punto de partida correcto y apropiado para la derivación de reglas para la conducta apropiada” consideraría la necesidad de confianza. Con este método se llega a las máximas éticas, entendidas como “principios que son inherentemente reversibles y de valor cuestionable”; y iii) “pensar y usar nuestra imaginación para representar las ansiedades de una existencia sin confianza”. Habida cuenta, el análisis funcional no consiste en establecer las conexiones entre datos establecidos o conocimiento confiable a través del cual se obtiene conocimiento adicional, en consecuencia. 

Siguiendo con el hilo de la teoría de Luhmann, la confianza es personal dado que “no se puede confiar en el caos, ya que si nada se conecta con nada o todo con todo, es imposible construir generalizaciones”. Por tanto, es mediante la libertad de acción que poseemos los seres humanos −como sistema de tipo especial− que surge en el mundo el aumento de la complejidad y donde se centra la confianza, que se extiende a otro ser humano antes que nada. 

Para el sociólogo alemán, entonces, “la confianza es la expectativa generalizada que el otro manejará su libertad para la acción diversa, manteniendo su personalidad que ha mostrado y hecho socialmente visible”. Aún así, toda forma perceptible de comportamiento es comunicación que requiere algún tipo de salvaguarda. 

Por su parte, el lingüista norteamericano, Noam Chomsky, en entrevista con el blog Tehran Times respondía en marzo 24 pasado que “ la distinción fundamental entre lenguaje y mente sigue siendo un tema de debate filosófico … Y, si bien las máquinas pueden volverse más hábiles en el procesamiento del lenguaje, su diseño revela que es un plagio de alta tecnología en esencia”.

Areas debilitadas de la ciberseguridad de Colombia

Los motivos de los criminales podrían ser obtener rápidos ingresos, seguir polarizando el contexto de la política y ahondar la caótica realidad nacional, lo que deja al país en el puesto nueve en las Américas exponiendo sus carencias en las áreas legal, cooperativa y de capacitación

Haga click para ampliar

Colombia dentro del Índice Global de Ciberseguridad 2020 ocupa el puesto 81 de 182 países en el mundo o el lugar nueve en la clasificación regional de las Américas, según la medición de la Unión Internacional de Telecomunicaciones (UIT). Es decir, la puntuación general del país es de 63.74 sumadas estas cinco medidas: legales 9.14, técnicas 17.58, organizacionales 6.67, cooperativas 15.93 y de capacitación 14.42.

Los datos anteriores indican que Colombia, como país en desarrollo, presenta fortalezas en el área técnica y crecimiento posible en el área organizacional siempre que impulse estrategias nacional y organizacional en el entorno de la seguridad cibernética. Quizá, por eso, el pasado enero 26 en la Comisión Primera de Senado, la Audiencia Pública sobre Ciberseguridad y Ciberdefensa Nacional analizó la situación del aumento de ciberataques a la EPS Sanitas, INVIMA, entre otras, y propuso crear más burocracia con una Agencia Nacional de Ciberseguridad.

Es posible, además, que el otrora ministro del ramo y senador citante, desconozca que el 8 de marzo de 2022 se sancionó el Decreto 338, por el cual se establecen los “lineamientos generales para fortalecer la gobernanza de la seguridad digital y se crea el Modelo y las instancias de Gobernanza de Seguridad Digital”, dentro del marco del Decreto Único 1078 de 2015 o Reglamentario del Sector de Tecnologías de la Información y las Comunicaciones en donde se adicionó este Titulo 21 a la Parte 2 del Libro 2. ¿Estas iniciativas bastan?

Lo cierto es que según los indicadores de ciberseguridad de la Unión Internacional de Telecomunicaciones, organismo de Naciones Unidas, Colombia en las otras 3 mediciones −legal, cooperativa y de capacitación− carece aún de leyes y reglamentos sobre ciberdelincuencia y ciberseguridad para actividades como: protección de datos, exigencias de notificación frente a incidentes, robo de datos personales, usurpación de identidad y protección de los datos y de la privacidad, acceso ilícito y acoso en línea; necesita mayor asociación entre organismos, empresas y países; y debe generar más campañas de sensibilización, formación, educación e incentivos en capacitación acerca de la ciberseguridad.

Un segundo realismo es que desde hace seis meses el Presidente de la República ha mantenido incólume las 927 palabras de su plan de gobierno en Twitter para este sector de las tecnologías de la información, de las comunicaciones y del espectro nacional con el propósito final de trabajar “para que todos los niños y jóvenes gocen del derecho al acceso a internet”.

El avance en el Índice Global de Ciberseguridad impone a los países determinar sus puntos fuertes y débiles en materia de seguridad informática y aprovechar sus ventajas competitivas para promover la cibercapacidad y la salud general. Los datos del 2020 ayudan, sin duda, a iniciar este proceso considerando:

1. evaluar periódicamente el grado de compromiso en materia de ciberseguridad, incluidas las métricas significativas; 
2. continuar con la creación de los equipos nacional y sectorial de intervención en caso de incidente informático; 
3. supervisar y actualizar las estrategias nacionales de ciberseguridad con planes de implementación claros; 
4. velar por la inclusión y la diversidad, especialmente de los grupos subrepresentados, como mujeres y jóvenes, en lo que respecta al empleo en el sector de la ciberseguridad; 
5. participar periódicamente en actividades internacionales para compartir buenas prácticas y estudios de casos, y mejorar la preparación y la capacidad de respuesta; 
6. mejorar la capacidad de ciberseguridad de las microempresas y las pequeñas y medianas empresas (MIPYME); 
7. lograr la implicación periódica de todas las partes interesadas en la ciberseguridad, incluidos el sector privado, el mundo académico y la sociedad civil.

Datos del cibercrimen nacional

En el reporte trimestral de ciberseguridad 2022 por ataques a entidades de gobierno, publicado por la empresa CrowdStrike Intelligence, han aparecido dos nuevos adversarios o intrusiones dirigidas. Ocelot proveniente de Colombia y Wolf de Turquía. Sostiene esta empresa estadounidense de tecnología de ciberseguridad, con sede en Austin (Texas), que “La presencia de aquellos nuevos adversarios destaca el aumento en las capacidades ofensivas tradicionalmente asociadas con operaciones cibernéticas por fuera de los gobiernos y que distinguen la variedad de objetivos finales”.

Para el Tanque de Análisis y Creatividad de las TIC (TicTac) y el programa de Seguridad Aplicada al Fortalecimiento Empresarial (SAFE), de la Cámara Colombiana de Informática y Telecomunicaciones (CCIT), los ciberataques a instituciones del gobierno de Colombia han afectado a entidades nacionales como el Departamento Administrativo Nacional de Estadísticas (DANE), el Instituto Nacional de Vigilancia de Medicamentos y Alimentos (INVIMA), el Departamento Nacional de Planeación (DNP), etc.

A pesar de los ataques indiscriminados, los nacionales de Colombia dejan de denunciar estos delitos a través de los sistemas informáticos ante el Sistema Penal Oral Acusatorio de la Fiscalía General de la Nación. Sin embargo, el comportamiento de los datos del cibercrimen 2022 evidencia incremento leve de 8% respecto a las 29.778 denuncias (entre el periodo 01 enero - 30 junio) del 2022 y las 27.498 del 2021. Las instauradas de hurto por medios informáticos en 2022 fueron 11.078, un aumento moderado del 15% con respecto al 2021. Otros delitos del tipo penal presentan reducciones negativas modestas entre 11%, 13% y 27%, respectivamente para violación de datos personales, suplantación de sitios web para capturar datos personales y uso de software malicioso.

El acceso abusivo a los sistemas informáticos fue claramente el delito de mayor crecimiento durante el año anterior en Colombia, registrando 6.407 denuncias que equivalen a una variación del 46% de incremento, si se comparan los años 2021 y 2022. Este acceso abusivo se genera en la fase inicial del ciberataque porque se realiza con medio de agentes externos al sistema quienes consiguen acceso a un sistema vulnerado o por la acción irresponsable de insiders, como empleados deshonestos quienes acceden a los activos informáticos con el fin de modificarlos, alterarlos o sustraer la información que luego entregan a las organizaciones del cibercrimen.

Durante el primer semestre del 2022, las denuncias instauradas contra el crimen informático se concentraron en más del 70% en zonas urbanas de Bogotá, Medellín, Barranquilla, Cali y Bucaramanga, capitales asociadas con penetración de internet, número de usuarios en plataformas de e-commerce y banca virtual.

La inseguridad informática en Colombia, con base en las escasas denuncias instauradas, manifestaría como motivación de los ciberatacantes “interés económico y facilidad de obtener rentas monetarias de manera rápida a través del apoderamiento de las credenciales de acceso a los portales de interacción de las entidades, usando el compromiso de las cuentas bancarias de las víctimas”, asevera la CCIT. Asimismo, se estaría aprovechando el contexto polarizado de la política y la caótica realidad nacional para afectar “las numerosas campañas de malware asociadas a la suplantación de entidades gubernamentales … mediante infecciones vinculadas a enlaces maliciosos en correos electrónicos de apariencia legítima pero que suplantan el dominio auténtico”. Esta técnica es conocida como spoofing mail.

Ciberamenaza a los móviles

Los dispositivos móviles son los que más llaman la atención de las organizaciones del cibercrimen que impactan el código en las plataformas móviles. Así las principales tendencias detectadas por el programa SAFE para 2022 fueron:

i) Malware que continúa evolucionando y añadiendo técnicas evasivas de antivirus, siendo el principal método de infección las descargas de apps en tiendas y mercados no autorizados;

ii) Smishing como vector de ataque que envía SMS a la aplicación con un enlace y luego se descarga como troyano o falsas ventanas emergentes a través de las cuales se descarga e instala, por ejemplo el malware TeaBot;

iii) Remote Access Trojan que permite al delincuente tomar el control administrativo del dispositivo e interceptar las credenciales de las aplicaciones bancarias o incluso las contraseñas de un solo uso; y

iv) otros vectores a través de documentos Word, Excel y PDF identificados mediante mensajes que parecen provenir aparentemente de fuentes legítimas y nuevas variantes de malware que utilizan las aplicaciones de mensajería.

Proteger el dispositivo móvil requiere compromisos del usuario, tales como: utilizar contraseñas seguras o en lo posible autenticación de múltiples factores; mantener el software actualizado; proteger el dispositivo móvil con cifrado de datos, pantalla de bloqueo activa y código de acceso alfanumérico único; deshabilitar la conectividad remota y conocer las aplicaciones instaladas, sobre todo.

Ciberataques a entidades estatales

Desde el año 2018 se han detectado campañas de difusión de malware contra entidades estatales atribuidas a grupos cibercriminales como Blind Eagle o APT-C-36 de espionaje hacking, según el portal web CiberSeguridad Latam. Blind Eagle ha sido señalado como el responsable de los ataques principalmente a instituciones del gobierno colombiano, así como a importantes corporaciones del sector financiero y de la industria petrolera.

Se ha reflejado el hallazgo de 193 sitios web de entidades públicas colombianas cuyos datos de los usuarios han sido infectados y sustraídos a través del malware Redline Stealer, del ransonware BlackByte, más recientemente, que recopilan las credenciales de las cuentas guardadas en los navegadores web, las sustraen y luego son puestas a la venta en los mercados ilegales de Internet. De las entidades públicas con alerta de datos hurtados se encuentran DIAN, Icfes, Icetex, Colpensiones, Comisión Nacional del Servicio Civil, Unidad del Servicio de Empleo, Agencia Nacional de Contratación Pública, Secretaría de Hacienda del Distrito de Bogotá, Migración Colombia, Fondo Nacional del Ahorro y Alcaldía de Medellín.

Una circunstancia por la cual la seguridad informática en el sector público en Colombia es muy variable se resguarda en el grado de madurez pues “algunas entidades de los sectores defensa, energético y de hidrocarburos cuentan con estrategias de largo alcance bien formuladas y en ejecución, pero en el nivel descentralizado las brechas de seguridad generadas por errores de configuración y obsolescencia tecnología son muy frecuentes”, describe el estudio trimestral de ciberseguridad Ataques a entidades de gobierno de la CCIT.

La ciberseguridad evoluciona

Estos datos son importantes para el entorno nacional de las tecnologías digitales debido a que la prospectiva global, según la cual, cuando los Objetivos de Desarrollo Sostenible (ODS) lleguen a su vencimiento en 2030, 90% de la población mundial estará en línea según Cybersecurity Ventures. Su predicción entonces anuncia para el año 2030 más de 7,5 mil millones de usuarios de Internet de una población mundial proyectada en 8,5 mil millones.

Además, según el informe publicado por los analistas, Jim Morrish y Matt Hatton, los dispositivos IoT (Internet de las Cosas) ahora conectados en todo el mundo, en 2030 saltarán a casi 125 mil millones, 12% promedio anual. Adicional, el mercado global de IoT crecerá en 2030 a más de 24 mil millones de dispositivos, generando $1,5 billones de ingresos anuales calculados en dólares. Esta es la primera iteración de la base de datos Total Anual Móvil o TAM, altamente granular y rigurosamente investigada con base en el análisis de cientos de aplicaciones.

Para Jim Morrish, “El valor de un conjunto sólido del mercado de los datos, de una fuente confiable, no debe subestimarse cuando se planea abordar la oportunidad del mercado”. De esta manera, la tasa del 11% para el crecimiento anual compuesto de los dispositivos IoT activos para 2030 estará acompañada de las redes de corto alcance −WiFi, Bluetooth y Zigbee− que dominarán las conexiones y representarán 72% para entonces. En complemento, las redes públicas, dominadas por redes celulares, crecerán de 1,200 millones de conexiones a 4,700 millones en 2030, aumentando la participación del mercado al 20%. Por su parte, las redes privadas concentrarán el saldo de las conexiones calculado en 8%. En términos de servicios, incluida la conectividad, representarán 66% del gasto, y el resto corresponderá al hardware.

Igualmente, Matt Hatton, señala que “Un beneficio de crear un conjunto de pronósticos altamente detallados es poder descubrir tendencias sorprendentes, como la enorme oportunidad de ingresos asociada con una amplia gama de aplicaciones específicas de nichos verticales”. En efecto, los dispositivos IoT activos, las redes de corto alcance, las redes públicas celulares y las redes privadas para conectividad no generan valor sin el sector del consumo. Por tanto, éste dominará para 2030 en términos de dispositivos conectados, representando 65% de todas las conexiones.

El segmento del consumo empresarial 77% se soportará con base en los dispositivos que corresponderán al 34% de los casos de uso vertical cruzado, como seguimiento y localización genéricos, equipos de oficina y flotas de vehículos; al 31% para servicios públicos, principalmente medidores inteligentes; al 5% para transporte y logística; al 4% para gobierno, y agricultura y el 3% para servicios financieros y minorista/venta al por mayor.

El uso individual más importante se soportará en los dispositivos para Internet y los medios de consumo, que representarían 1/3 de todos los dispositivos para 2030. El siguiente nicho más grande será la Red Inteligente −aquella que permite el flujo bidireccional de electricidad y de datos− que incluye medidores inteligentes, que representarían el 14% de las conexiones. Y la tercera categoría más grande serán los vehículos conectados que representarían el 7% de la base instalada mundial. China, América del Norte y Europa dominarán geográficamente el valor total del mercado de IoT con representación del 26%, 24% y 23% respectivamente en 2030.

Finalmente, Internet de las cosas seguirá revolucionando desde los 27 mil millones de cosas conectadas a dispositivos en 2017 debido al panorama competitivo y el futuro de los negocios y la tecnología. Especialmente porque está transformando las cotidianas prácticas comerciales y de la electronica industrial y abriendo oportunidades nuevas a los sectores médicina, automoción y transporte, consumidor, comunicaciones, computadora, según IHS Markit, un proveedor de servicios de información con sede en Londres que completó la fusión con S&P Global en 2022.

Para la UIT lo que hemos aprendido luego del COVID-19 es que los problemas de acción colectiva, ya sean de salud o de ciberseguridad, se deben abordar de manera interdisciplinaria y global. Luego, para acometer todos los pilares del IGC –en las cinco áreas: legal, técnica, institucional, de capacitación y cooperación– será indispensable conectar a las personas entre sí con IoT y generar confianza.