La inteligencia artificial se basa en algoritmos y procesos computacionales entrenados con la finalidad de responder a ciertos objetivos o necesidades que un usuario pueda tener. No obstante, estos procesos pueden no ser tan exactos o precisos debido a la presencia de sesgos.
El sesgo en los modelos de IA se refiere a la tendencia de estas tecnologías a producir resultados que no son precisos. Esto se produce debido a los datos con los que estas se entrenan contienen errores o no son representativos, pudiendo discriminar a las minorías. Otra causa son los algoritmos utilizados, que corresponden al conjunto de instrucciones informáticas que recibe una máquina para realizar una acción o resolver un problema.
Entre los sesgos más comunes que se pueden encontrar en la inteligencia artificial se encuentran los sesgos discriminatorios, que benefician o perjudican a ciertos grupos, razas o tipos de personas. Por ejemplo, si una IA fue entrenada utilizando información que se ajusta a un tipo de persona en particular para la selección de personal en un puesto de trabajo, tenderá a privilegiar a ese tipo de persona, sin tener en cuenta la inclusión o la diversidad.
Por ejemplo, acá podemos ver como existe un sesgo de género en la realización de lo que se le solicita:
A continuación, le damos el beneficio de la duda a la IA y le pedimos que lo intente nuevamente:
En ninguno de los casos, la IA asigna nombres de mujer a médicos ni a mecánicos. Este tipo de respuesta refleja un estereotipo cultural arraigado que asocia tradicionalmente ciertas profesiones con géneros específicos. En este caso, la IA ha respondido de manera estereotipada al asumir que un doctor y un mecánico son masculino, mientras el personal de enfermería y chef son femeninos.
Por lo tanto, es importante tener en cuenta que la información utilizada por la IA puede no ser objetiva ni inclusiva, ya que se basa en datos de entrenamiento que pueden reflejar una representación desigual de la realidad. Es por ello que es fundamental ser consciente de estos sesgos y es también el rol de quienes desarrollan estas herramientas trabajar para minimizar su impacto en la toma de decisiones de la IA.
Para revisar más ejemplos e información sobre sesgos discriminatorios, puedes acceder a los siguientes enlaces:
Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial 4.0 Internacional
Bibliotecas Duoc UC