Revolución de la IA, redefinición y reinvención del talento en tecnología (parte 3)

Reading Time: 4 minutes
Finalizamos la serie de artículos sobre cómo la revolución de la IA ha modificado y continúa modificando el entorno de Talento de TI, hoy pasando del ámbito del talento profesional al ámbito de las compañías.
Tan importante como un profesional certificado que nos transmita la seguridad necesaria en sus habilidades, es poder estar seguro de que la organización o compañía que desarrolla productos y servicios asociados a la IA pueda demostrar un nivel de auditoría y certificación razonable.
Si bien en este campo, como es lógico por su naturaleza, la evolución de certificaciones o auditorías está siendo más lenta que en el campo profesional ya existen toda una serie de posibilidades a tener en cuenta.
En este entorno, la inversión y el retorno no están aún tan claros, sobre todo porque muchas de las certificaciones o auditorías que se lanzan no tienen aún la certeza de su continuidad a medio plazo. En el entorno cambiante y de desarrollo exponencial de la IA es bastante lógico que sea así.
Una buena base para comenzar es estar ya certificado o “tener el sello”, cómo se suele decir, de estándares ya muy probados y extendidos en seguridad de información, gestión de procesos y calidad (ISO 27001, ISO 9001, Esquema Nacional de Seguridad, etc.). Si nuestra organización ya ha pasado por aquí, enfrentar las certificaciones más orientadas a IA y al Dato será mucho más sencillo, y sobre todo mucho más accesible.
No olvidemos que algunos de los aspectos que más inquietud generan en las grandes compañías a la hora de adoptar la IA, además de las implicaciones éticas, son aquellos aspectos relacionados con compliance, seguridad y ubicación de los datos, privacidad, etc.

Organizaciones de Estándares y Certificación

ISO (International Organization for Standardization)

  • Certificación ISO/IEC JTC 1/SC 42
  • Descripción: Este comité de la ISO desarrolla estándares internacionales para la inteligencia artificial, incluyendo aspectos de seguridad, confiabilidad y ética.

IEEE (Institute of Electrical and Electronics Engineers)

Nos centramos en la ISO por su difusión internacional principalmente. ISO/IEC JTC 1/SC 42 es un subcomité conjunto de la Organización Internacional de Normalización (ISO) y la Comisión Electrotécnica Internacional (IEC) dedicado a la estandarización en el campo de la inteligencia artificial. A continuación, se presentan más detalles sobre sus funciones, áreas de enfoque y los estándares que desarrolla:

ISO/IEC JTC 1/SC 42: Visión General

Funciones y Objetivos

  • Establecimiento de Normas: Desarrollar estándares internacionales que aborden las tecnologías y aplicaciones de la inteligencia artificial.
  • Coordinación: Coordinar con otros comités técnicos y subcomités de ISO e IEC, así como con otras organizaciones, para asegurar la coherencia y evitar duplicaciones.
  • Evaluación y Auditoría: Evaluar las implicaciones sociales, legales y éticas de las tecnologías de inteligencia artificial.
  • Facilitación de Adopción: Facilitar la adopción de normas de IA por parte de la industria, gobiernos y otros organismos.

Áreas de Enfoque

  • Big Data: Estándares relacionados con la gestión y análisis de grandes volúmenes de datos.
  • Machine Learning: Normas para el desarrollo, entrenamiento, evaluación y aplicación de modelos de aprendizaje automático.
  • Gobernanza y Ética: Directrices y estándares sobre el uso responsable y ético de la IA.
  • IA de Confianza: Estándares que aseguran la transparencia, explicabilidad, seguridad y privacidad en sistemas de IA.

Principales Estándares Desarrollados

  1. ISO/IEC 22989:2022 – Conceptos y Terminología de la IA: Establece una terminología común y conceptos fundamentales en el campo de la inteligencia artificial, proporcionando una base uniforme para el desarrollo de otros estándares de IA.
  2. ISO/IEC 23053:2022 – Framework de IA: Proporciona un marco general para el desarrollo y la implementación de sistemas de inteligencia artificial, abarcando aspectos como la arquitectura, el ciclo de vida y las mejores prácticas.
  3. ISO/IEC 24027:2020 – Evaluación de la Calidad de los Datos para el Machine Learning: Estándares para evaluar la calidad de los datos utilizados en el entrenamiento y la validación de modelos de machine learning.
  4. ISO/IEC 20546:2019 – Big Data Overview and Vocabulary: Ofrece una visión general y un vocabulario estándar para los términos y conceptos clave relacionados con Big Data.
  5. ISO/IEC TR 24028:2020 – Assessment of Machine Learning Classification Performance: Directrices para la evaluación del rendimiento de los modelos de clasificación de machine learning, incluyendo métricas y métodos de evaluación.
  6. ISO/IEC TR 24030:2021 – Implementación de la IA: Proporciona directrices para la implementación de sistemas de IA, abarcando aspectos técnicos, organizacionales y éticos.
  7. ISO/IEC TR 24028:2021 – Guidelines on AI Ethical and Societal Considerations: Directrices sobre consideraciones éticas y sociales en el desarrollo y la implementación de IA, incluyendo temas como la transparencia, la responsabilidad y la inclusión.

Relevancia y Aplicación

  • Industria: Las normas desarrolladas por ISO/IEC JTC 1/SC 42 son cruciales para la industria, ya que proporcionan un marco estructurado y reconocido para desarrollar y evaluar tecnologías de IA.
  • Gobiernos: Los gobiernos pueden utilizar estos estándares para formular políticas y regulaciones que aseguren el desarrollo ético y responsable de la IA.
  • Academia e Investigación: Las instituciones académicas y de investigación pueden adoptar estas normas para guiar sus proyectos y garantizar la interoperabilidad y la ética en sus trabajos.
  • Sociedad: Al abordar aspectos éticos y de gobernanza, estos estándares ayudan a mitigar riesgos y asegurar que las tecnologías de IA beneficien a la sociedad en su conjunto.
 

Participación y Desarrollo Continuo

El subcomité ISO/IEC JTC 1/SC 42 trabaja continuamente para desarrollar nuevos estándares y actualizar los existentes, basándose en la evolución de la tecnología y las necesidades del mercado. Los miembros incluyen expertos de diversos países y organizaciones, asegurando una representación global y multidisciplinaria en el proceso de normalización.
En este contexto, con la velocidad de desarrollo de la IA y la Ciencia del Dato y su interrelación, se continúan perfeccionando los estándares ya en aplicación y desarrollando nuevos que cubran los retos que IA está generando. 
A la hora de superar posibles barreras de adopción de la IA, el marco de certificación y auditoría es un elemento fundamental, cómo no puede ser de otra manera, también es el que se está desarrollando más lentamente, pero avanza también de forma contínua para dotar de un marco seguro de aplicación a la IA y podrá evitar problemas que sin duda se pueden presentar en el futuro.
Antonio Castaño

Autor Antonio Castaño Romero