Las personas acceden a servicios críticos a través de tecnología digital mucho más que nunca. Según Statista, en enero de 2021 había 4660 millones de usuarios activos de Internet en todo el mundo, lo que es casi el 60% de la población total. Y de este total, el 93% de los usuarios accedió a Internet mediante dispositivos móviles.
Para mantener este creciente número de usuarios seguros y garantizar una experiencia fluida, las organizaciones, desde agencias gubernamentales a negocios privados, utilizan tecnología biométrica para verificar la identidad y realizar el onboarding. Además de mejorar el acceso remoto a los servicios, este cambio también supone más comodidad para clientes y organizaciones, especialmente a consecuencia de la pandemia de la COVID-19.
Pero, mientras más empresas invierten en crear una mejor experiencia de cliente digital, ¿qué ocurre cuando ciertos grupos de personas se enfrentan a barreras sistémicas que se han construido inconscientemente en la tecnología?
Está cada vez más claro que los sistemas biométricos, como por ejemplo la tecnología de reconocimiento facial, experimentan altos niveles de sesgo demográfico y racial. Para ayudar a abordar el problema, hemos estudiado las causas de raíz del sesgo de estos sistemas, por qué es importante reconocerlo y cómo minimizar el sesgo biométrico demográfico en un proceso de onboarding.
¿Quieres más información sobre el sesgo biométrico? Haz clic aquí para descargar el whitepaper Biometría, equidad e inclusión, de Steve Ritter, CTO (Chief Technology Officer, Director de Tecnología) de Mitek.
¿Qué es un sistema biométrico automatizado?
Los sistemas biométricos miden y analizan las características fisiológicas o de comportamiento de una persona para verificar y autenticar la identidad. Con frecuencia esto se hace utilizando huellas dactilares y tecnología de reconocimiento facial biométrico.
Los sistemas biométricos automatizados utilizan inteligencia artificial para completar ese nivel de verificación. El sistema lo confirma comparando la entrada biométrica con los datos biométricos guardados anteriormente.
Para hacerlo, el sistema biométrico automatizado consta de:
- Un dispositivo de captura. El dispositivo con el cual se capturan muestras e imágenes biométricas. Por ejemplo, una cámara en un sistema de reconocimiento facial.
- Una base de datos. Aquí es donde se almacena la información biométrica y otros datos personales capturados.
- Algoritmos de procesamiento de señales. Se utilizan para estimar la calidad de la muestra capturada, identificar la región de interés (por ejemplo, cara o huella dactilar) y extraer características distintivas de ella.
- Algoritmos de comparación y decisión. Estos se utilizan para garantizar el nivel de similitud de dos muestras biométricas comparando los datos.
Hay muchas ventajas en el uso de la tecnología biométrica en la era digital, entre las que se incluyen la comodidad y altos niveles de seguridad. Sin embargo, también hay muchas desventajas, incluyendo los altos costes y el sesgo.
¿Qué es el sesgo biométrico?
El sesgo biométrico ocurre cuando un algoritmo no puede funcionar de manera justa y precisa según las tareas para las que se ha programado. Específicamente, el reconocimiento automatizado de personas según sus características biológicas y de comportamiento.
Los algoritmos biométricos se consideran con sesgo si hay diferencias significativas en la manera de funcionar cuando interactúan con distintos grupos demográficos de usuarios. Por tanto, ciertos grupos de usuarios tienen privilegios mientras que otros grupos tienen desventajas.
¿Quién sufre el sesgo demográfico en la biometría?
Varios estudios han demostrado un claro sesgo demográfico en la tecnología biométrica, y han concluido que ciertos grupos demográficos experimentaron una baja precisión de clasificación y un bajo rendimiento biométrico. El Instituto Nacional de Estándares y Tecnología de los Estados Unidos concluyó que las caras afroamericanas y asiáticas experimentaron tasas de falsos positivos de 10 a 100 veces más altas en comparación con caras caucásicas en lo que se refiere a algoritmos de reconocimiento facial.
Los falsos positivos ocurren cuando el sistema biométrico empareja incorrectamente dos caras que son distintas. Las caras femeninas y más jóvenes también tienden a experimentar tasas más altas de falsos negativos. En este caso, el sistema biométrico no acierta a emparejar dos imágenes de la misma persona.
Otros estudios científicos han confirmado también el bajo rendimiento biométrico en caras femeninas y más jóvenes, así como que las mujeres de piel oscura, en particular, experimentan una precisión de clasificación más baja.
¿Cuáles son las consecuencias del sesgo demográfico en la biometría?
Reducir el sesgo demográfico puede ser un reto, especialmente si hay falta de concienciación al principio. Sin embargo, la falta de consistencia y precisión del software biométrico puede tener consecuencias negativas tanto para el usuario como para la organización.
Aunque ciertos ejemplos de sesgo son molestias menores, también pueden traducirse en desventajas graves para ciertas personas. El sesgo demográfico y racial en biometría durante los procesos de onboarding también pueden denegar acceso al cliente a servicios digitales nuevos y esenciales.
Las altas tasas de error no solamente aumentan el potencial de fraude, especialmente en el caso de resultados de falsos positivos, sino que también discriminan en contra de usuarios que pueden experimentar resultados de falsos negativos.
¿Cuál es la solución para el sesgo biométrico?
Un reciente artículo en Forbes de Steve Ritter, CTO de Mitek, aborda cómo los sesgos en tecnologías biométricas son resultado de errores en los algoritmos de IA o problemas con los datos incluidos en los modelos de aprendizaje. Esto significa que la inteligencia artificial y la tecnología biométrica no son inherentemente racistas. Son problemas tecnológicos que se pueden resolver con formación mejorada y tecnologías actualizadas. El mayor reto es intentar omitir el sesgo en la fase de desarrollo de estas tecnologías.
Como organización, es importante conocer las señales del sesgo biométrico y cómo minimizarlas en el proceso de onboarding. Dos de las principales preguntas que se pueden formular al tratar de minimizar el sesgo biométrico incluyen:
- ¿Es el algoritmo preciso, pero también consistente? Una herramienta que sea ligeramente menos precisa pero más consistente podría ser más equitativa.
- ¿Están la formación y los datos de pruebas alineados con los datos que analizarán? Para que la biometría sea más precisa y consistente, el algoritmo de IA debe ser entrenado utilizando datos similares a los que analizará después de que se haya implementado el sistema.
El futuro de la biometría
La biometría seguirá siendo una parte creciente e integrada de nuestras vidas e interacciones con el mundo externo. Aunque hay muchos debates sobre la privacidad e implicaciones éticas, las sociedades en general se sienten cada vez más cómodas con el uso de biometría en el día a día.
Es más importante que nunca minimizar estos sesgos no intencionados a medida que la tecnología sigue evolucionando a un ritmo rápido. A pesar de que ha habido mejoras masivas en la tecnología biométrica, como por ejemplo el reconocimiento facial, sigue quedando mucho trabajo por hacer para reducir los niveles de sesgo.
Evolución
El sesgo biométrico puede tener como resultado una discriminación no intencionada y puede limitar los servicios esenciales a aquellos que los vayan a recibir. En un mundo afianzado por la tecnología digital, está claro que el onboarding biométrico no debe ser una barrera para las personas que accedan a los servicios.
Afortunadamente, minimizar el sesgo demográfico es una prioridad alta para muchas empresas. Gartner predice que para 2022 el 80% de las solicitudes RFP (Requests for Proposal) para detección de identidad centrada en documentos tendrán requisitos claros para minimizar el sesgo demográfico.
Al adoptar soluciones de identidad centradas en documentos y comprender las causas y las consecuencias del sesgo demográfico, será mucho más fácil minimizar la discriminación no intencionada durante sus procesos de onboarding y crear agravios innecesarios para sus clientes.