Revista digital
home entrevistas reportajes nombramientos el sector eventos
TRIBUNA
febrero 2024

El Rol Crucial del Factor Humano en la Contratación con IA

Julie Kae,
VP of Sustainability and DE&I, Executive Director de Qlik

 
Julie KaeLa participación humana en todo el proceso de implantación de la IA en los procesos de una empresa puede garantizar que se utilicen datos fiables y de alta calidad desde el principio, lo que asegura que la información que se introduce a cualquier algoritmo esté equilibrada para evitar sesgos.
Para muchos, oír hablar de "máquinas" en el entorno laboral está ligado a que el trabajo humano va a desaparecer, pero los algoritmos de IA y Machine Learning no surgen de la nada. Esta tecnología la desarrollan personas, quienes, además, desempeñan un papel muy importante en la selección y el análisis de las fuentes de datos que nutren dichos algoritmos. Esto, como en cualquier tarea desarrollada por personas, tiene como consecuencia la aparición sesgos que influyan en las operaciones. La situación se vuelve especialmente delicada cuando se trata del sector de los RRHH. Concretamente, en iniciativas de diversidad, equidad e inclusión (DE&I) a la hora de contratar o de tomar otras decisiones laborales. Un ejemplo de ello es la herramienta de reclutamiento de IA de Amazon , que fue noticia por seleccionar de manera predeterminada a los hombres sobre las mujeres.

¿Por qué se producen sesgos en la IA?
Los algoritmos funcionan con datos, pero son las personas las que escriben el código, eligen los datos que utilizan los modelos y deciden cómo aplicar los resultados que producen la IA y el ML. Los datos de entrenamiento utilizados para la tecnología pueden incluir desde desigualdades sociales históricas hasta decisiones humanas con sesgos indetectables. Sin suficientes controles y equilibrios, es sorprendentemente fácil que se filtren sesgos sutiles, y a veces inconscientes. Y una vez que el algoritmo incorpora esos datos a su modelo lingüístico, es mucho más difícil segmentar y eliminar esos elementos, lo que pone en entredicho todos los resultados anteriores.

En países como Estados Unidos, la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) están llevando a cabo iniciativas con directrices para garantizar que las soluciones de esta índole cumplan con las leyes contra la discriminación y el sesgo. Así pues, es responsabilidad de la organización asegurarse de no infringir la normativa y de que las decisiones laborales, como la contratación, la supervisión del rendimiento, cambios en la remuneración o los ascensos, cumplan la legislación pertinente. A nivel europeo, está por ver si el desarrollo de la ley de IA incluirá estos puntos también.

La intervención humana es crucial en este proceso. Según el último informe de Deloitte: State of AI in the Enterprise, la gestión de los riesgos relacionados con la IA fue una de las principales razones por las que las empresas no están consiguiendo sacar el máximo rendimiento de esta tecnología. En consecuencia, han surgido funciones como expertos éticos en Inteligencia Artificial para garantizar que se utilicen de la forma adecuada. Aunque es estupendo contar con una persona que lidere esta tarea, será un trabajo de equipo el que garantice un desarrollo digno de confianza ahora que la tecnología es una opción empresarial estratégica.

La importancia de la calidad y el linaje de datos
Hoy en día, las empresas utilizan una amplia gama de inteligencias artificiales, y la calidad de los datos es de vital importancia para todos y cada uno de los proyectos. Confiar ciegamente en los datos es un obstáculo que las organizaciones llevan años tratando de superar. A medida que el campo del Data Scienceha ido creciendo y los líderes se han dado cuenta del enorme impacto que la analítica puede tener en los negocios, la calidad y el linaje de los datos se han puesto bajo la lupa: es una pared que hay que romper para llegar a una mejor toma de decisiones.

Un proceso de gestión de datos dirigido y supervisado por administradores expertos es un trabajo de equipo que garantizará que los datos sean de alta calidad, que la toma de decisiones se base en datos reales y cuantificables y que la IA proporcione resultados fiables.

El papel de los humanos en el desarrollo de la Inteligencia Artificial
La IA no ha llegado para sustituir a las personas, sino para hacer desarrollar el potencial humano y la forma de trabajar. En realidad, la IA no comprende ni evalúa la información, sino que sus resultados se basan en lo que las personas le proporcionan y en cómo están diseñados sus algoritmos. Al comprender realmente que, en todos los niveles, son las personas quienes dirigen y la IA tan solo ayuda, las organizaciones evitarán los posibles obstáculos de RRHH y DE&I que pueden producirse al ayudarse de esta tecnología.
entrevistas  |  reportajes  |  almuerzos  |  tribunas  |  noticias  |  proveedores  |  nombramientos  |  estudios  |  agenda  |  libros  |  el equipo  |  enlaces  |  mapa web

© 2007 CUSTOMMEDIA S.L. edita EQUIPOS Y TALENTO  |  Equipo de redacción  |  Contacto  |  Política de privacidad

Av. Diagonal, 463 bis 5ª planta, Barcelona 08036  Tel. 93 4195152  Fax. 93 4101755