¿Qué significa que una IA tenga sesgos?
La inteligencia artificial se basa en algoritmos y procesos computacionales entrenados con la finalidad de responder a ciertos objetivos o necesidades que un usuario pueda tener. No obstante, estos procesos pueden no ser tan exactos o precisos debido a la presencia de sesgos.
El sesgo en los modelos de IA se refiere a la tendencia de estas tecnologías a producir resultados que no son precisos. Esto se produce debido a los datos con los que estas se entrenan contienen errores o no son representativos, pudiendo discriminar a las minorías. Otra causa son los algoritmos utilizados, que corresponden al conjunto de instrucciones informáticas que recibe una máquina para realizar una acción o resolver un problema.
Entre los sesgos más comunes que se pueden encontrar en la inteligencia artificial se encuentran los sesgos discriminatorios, que benefician o perjudican a ciertos grupos, razas o tipos de personas. Por ejemplo, si una IA fue entrenada utilizando información que se ajusta a un tipo de persona en particular para la selección de personal en un puesto de trabajo, tenderá a privilegiar a ese tipo de persona, sin tener en cuenta la inclusión o la diversidad.
Por ejemplo, acá podemos ver como existe un sesgo de género en la realización de lo que se le solicita:
A continuación, le damos el beneficio de la duda a la IA y le pedimos que lo intente nuevamente:
En ninguno de los casos, la IA asigna nombres de mujer a médicos ni a mecánicos. Este tipo de respuesta refleja un estereotipo cultural arraigado que asocia tradicionalmente ciertas profesiones con géneros específicos. En este caso, la IA ha respondido de manera estereotipada al asumir que un doctor y un mecánico son masculino, mientras el personal de enfermería y chef son femeninos.
Por lo tanto, es importante tener en cuenta que la información utilizada por la IA puede no ser objetiva ni inclusiva, ya que se basa en datos de entrenamiento que pueden reflejar una representación desigual de la realidad. Es por ello que es fundamental ser consciente de estos sesgos y es también el rol de quienes desarrollan estas herramientas trabajar para minimizar su impacto en la toma de decisiones de la IA.
Para revisar más ejemplos e información sobre sesgos discriminatorios, puedes acceder a los siguientes enlaces:
- Discapacidad y selección de personal con IA: Aquí podrás encontrar un estudio realizado por una empresa que se dedica a la selección de personal, en el que las personas con discapacidad manifiestan que temen que los sistemas de IA entrenados para seleccionar personal no los incluyan o discriminen Enlace.
- El algoritmo de Amazon que mostró sesgo de género: Aquí encontrarás un artículo en el que Amazon usó una IA para seleccionar personal y seleccionó en su mayoría a hombres porque consideraba como un “factor de preferencia” el ser hombre. Enlace.
- Cuando el reconocimiento de voz no nos reconoce: Aquí te mostramos un video en el que los softwares de reconocimiento de voz no reconocen a personas con discapacidad. Enlace.
