¿Existen errores en las respuestas de una IA?
Sí, existen errores en las respuestas de una IA, pudiendo elaborar contenido genérico que presenta imprecisiones.
A veces, las IA carecen de información actualizada debido a las limitaciones de los datos con los que fueron entrenadas. Por ejemplo, hay modelos que solo cuentan con información hasta cierto período de tiempo pasado. Es importante tener en cuenta estas limitaciones temporales al interactuar con la IA:
El Premio Nobel de Física 2023 fue concedido a Pierre Agostini, Ferenc Krausz y Anne L’Huillier; sin embargo, la IA no cuenta con esta información.
¿Sabías que las IAs pueden alucinar?
La verdad es que sí. El término "alucinación" se refiere a la capacidad que tienen estos modelos para crear o inventar información que en algunos casos no es verídica. Por ejemplo, pueden inventar que alguien recibió un premio cuando en realidad no lo hizo, que es accionista de una empresa cuando no lo es o que falleció cuando en realidad sigue con vida.
Por otra parte, IAs como ChatGPT están diseñadas para ser creativas. Esta creatividad puede resultar útil para generar respuestas interesantes y atractivas, pero, del mismo modo, puede conducir a la generación de información falsa o ficticia.
En algunos casos, puede terminar ofreciendo respuestas completamente fuera de contexto. Por ejemplo, le solicitamos a ChatGPT que analice "La Gioconda" de Leonardo Da Vinci y la de Diego Velázquez y nos otorga una respuesta, pese a que este último no pintó esta obra:
Asimismo, pueden responder a preguntas absurdas con respuestas con datos muy detallados. Veamos el siguiente ejemplo:
Cabe destacar que la respuesta no tiene sentido, puesto que no es posible cruzar el Canal de la Mancha a pie. El Canal de la Mancha es un brazo de mar que separa el Reino Unido de Francia, y su ancho varía de 34 a 241 kilómetros. En cuanto al tiempo, el nado más veloz es del australiano Trent Grimsey que en 2012 cruzó el canal de la mancha en 6 horas y 55 minutos.
Además, las IAs se entrenan en un entorno controlado y pueden tener dificultades para adaptarse a situaciones nuevas o cambiantes. Es por ello que debe considerarse que a veces los modelos de IA se equivocan o “no entienden” algunas preguntas, sobre todo las preguntas de ingenio.
Frente a esta pregunta, la respuesta debiese ser 10, ya que al entrar y matar a alguien, eso convierte a quien entra en asesino; sin embargo, la IA no logra detectarlo.
En esta misma línea, debemos estar atentos a la misma advertencia, que, en este caso, nos realiza el propio ChatGPT:
Donde se indica que: “ChatGPT may produce inaccurate information about people, places, or facts”, es decir, “puede generar información imprecisa sobre personas, lugares o hechos”.
La invitación, entonces, es a utilizar estas herramientas tecnológicas de manera cuidadosa y siempre verificando que la información sea correcta y no sea “imprecisa”, ni menos falsa.
