El impacto de la Inteligencia Artificial en la gestión humana: beneficios y riesgos
En la era de la transformación digital, la Inteligencia Artificial (IA) se ha convertido rápidamente en una piedra angular de las operaciones de una organización y el proceso de contratación no es una excepción.
La IA supone una alternativa interesante frente a la selección de candidatos, la redacción de descripciones de puestos de trabajo y la gestión de tareas administrativas diarias.
ESET, compañía especializada en detección proactiva de amenazas, analiza los beneficios que acerca esta tecnología y plantea cuestiones críticas sobre la equidad, la parcialidad y la privacidad.
Usar la IA en todo su potencial puede crear beneficios significativos para los reclutadores que necesitan cubrir un puesto vacante:
- Selección más rápida de candidatos: Los modelos de IA pueden automatizar tareas repetitivas como la selección de currículums. En lugar de leer cientos de solicitudes para una sola vacante, un modelo de IA puede identificar palabras clave que coincidan con la descripción del puesto y preseleccionar automáticamente postulantes en función de su grado de adecuación a los criterios deseados.
- Mejora de la experiencia del candidato: Los chatbots y asistentes virtuales basados en IA ofrecen respuestas inmediatas a las preguntas de quien se postula, de manera que garantizan una experiencia fluida y atractiva durante todo el proceso de contratación. Las interacciones personalizadas y las respuestas rápidas contribuyen a una marca de empleador positiva.
- Toma de decisiones basada en datos: Las herramientas de IA pueden utilizar análisis predictivos para identificar a los mejores candidatos con base en datos históricos y métricas de rendimiento. Mediante el análisis de patrones en contrataciones exitosas, las organizaciones pueden tomar decisiones apalancadas en el rendimiento de contrataciones anteriores.
- Mejora de la diversidad y la inclusión: Algunas plataformas de IA afirman mitigar el sesgo inconsciente en la contratación mediante el anonimato de la información del candidato, centrándose únicamente en las cualificaciones y habilidades. Al eliminar información identificativa como el nombre, el sexo o el origen étnico, estas herramientas pueden promover la diversidad y la inclusión en la contratación.
Nuevos riesgos y retos que plantea la IA
Por otro lado, la aplicación de la IA en el proceso de contratación también abre un nuevo abanico de riesgos y retos de seguridad que las organizaciones deben abordar para utilizar esta nueva herramienta de forma eficiente y honorable. Algunos de los más destacados, son:
- Sesgo algorítmico: Si un modelo se entrena con un conjunto de datos históricos, los sesgos históricos pueden trasladarse al resultado del modelo. Por ejemplo, si una empresa utilizara la IA para buscar candidatos para un puesto de médico, y los datos con los fue entrenado muestran que el 80% de estos profesionales que históricamente encajaban en el puesto eran hombres, es más probable que favorezca a los candidatos masculinos frente a los femeninos, a pesar de que tengan la misma idoneidad para el puesto.
Además, la IA puede sobrevalorar el uso de palabras clave y métricas al revisar los currículums enviados. A diferencia de un ser humano, un sistema de IA podría no captar las habilidades interpersonales y otras experiencias o rasgos de carácter que harían de alguien un candidato más deseable para el puesto.
- Falta de transparencia: Muchos algoritmos de IA funcionan como cajas negras, lo que significa que el proceso de toma de decisiones es difícil de entender. Esto plantea dudas sobre la responsabilidad y la capacidad de cuestionar o corregir los resultados sesgados. Si las empresas no saben que su IA está sesgado, ¿Cómo pueden rectificarla?
- Privacidad y seguridad de los datos: Para el uso de la IA en la contratación, los modelos necesitarían alimentarse de grandes cantidades de datos. Garantizar la confidencialidad y seguridad de esta información personal y profesional con suficientes medidas de ciberseguridad es primordial para proteger los derechos de privacidad de la empresa y de las personas, así como para cumplir con normativas como el Reglamento General de Protección de Datos (GDPR).
- Supervisión humana y rendición de cuentas: Si bien la IA puede mejorar la eficiencia, la supervisión humana sigue siendo esencial para evitar la mala interpretación de los conocimientos generados por la IA. Las organizaciones deben establecer marcos claros de rendición de cuentas para abordar los errores algorítmicos o las infracciones éticas.
- Cumplimiento legal y normativo: El uso de la IA en la contratación está sujeto a diversos marcos legales y reglamentarios, incluidas las leyes contra la discriminación y las normas de protección de datos. El incumplimiento de estos requisitos puede acarrear repercusiones legales y daños a la reputación.
Enfoque «holístico» de la IA
Según ESET, para aprovechar los beneficios de la IA y, al mismo tiempo, mitigar los riesgos asociados, las organizaciones deben adoptar un enfoque holístico de la IA. El mismo incluye:
- Diseño ético de la IA: Priorizar la equidad, la transparencia y la responsabilidad en el desarrollo y despliegue de la IA en todos los sistemas de IT. Esto podría incluir la aplicación de algoritmos de detección de sesgos y evaluaciones periódicas de imparcialidad para identificar y abordar patrones discriminatorios.
- Supervisión y evaluación continuas: Evaluar periódicamente el rendimiento de los algoritmos de IA para identificar y mitigar sesgos o errores. Establecer mecanismos de retroalimentación para que los candidatos informen de sus preocupaciones o proporcionen información sobre sus experiencias con los procesos de contratación. Esta supervisión permite identificar y rectificar el proceso.
- Perspectivas de equipos con conocimientos mixtos: Fomentar la colaboración entre profesionales de RRHH, científicos de datos, especialistas en ética y expertos legales para garantizar un enfoque multidisciplinar del funcionamiento de la IA.
- Educación y formación: Proporcionar formación al equipo de reclutas y dirección de contratación sobre el uso ético de la IA en la contratación, incluida la concienciación sobre las estrategias de mitigación de sesgos y la importancia de la privacidad y la seguridad de los datos.
- Cumplimiento normativo: Actualizarse sobre los requisitos legales y reglamentarios en torno a la IA en la contratación y adaptar las políticas y prácticas de la empresa para garantizar un cumplimiento completo. Además, mantenerse informado sobre los riesgos inminentes y cualquier laguna en el sistema de IA que los ciberdelincuentes puedan aprovechar.
“La IA presenta inmensas oportunidades para transformar los procesos de contratación, ya que permite a las organizaciones identificar y atraer a los mejores talentos de manera más eficaz en menos tiempo. Sin embargo, la adopción generalizada de la IA en la contratación también crea riesgos en torno a la parcialidad, la privacidad y la responsabilidad», comenta Camilo Gutiérrez Amaya, jefe del Laboratorio de investigación de ESET Latinoamérica.
«Mediante la aplicación de buenas prácticas, las organizaciones pueden superar estos desafíos y aprovechar la IA de manera responsable para lograr sus objetivos de contratación, manteniendo los principios de equidad, inclusión y autenticidad.”, concluye Gutiérrez Amaya.
Si quieres recibir en tu celular esta y otras informaciones, descarga Telegram, ingresa al link https://t.me/albertorodnews y dale clic a +Unirme.
La entrada El impacto de la Inteligencia Artificial en la gestión humana: beneficios y riesgos se publicó primero en AlbertoNews – Periodismo sin censura.
Autor
