A estas alturas ya habrás interactuado con algunas de las inteligencias artificiales generativas que tenemos disponibles de forma gratuita para todos, y quezás la más popular marine ChatGPT de OpenAI.
Lo que puede resultar curioso, es que ahora la propia OpenAItras saber los resultados de un estudio, ha descubierto que los nombres de usuario pueden influencer en las respuestas del chatbot y reflekando ciertos estereotipos.
OpenAI publicó recentente un estudio para evaluar la imparcialidad de ChatGPTy se centró specificificado en examinar cómo los nombres de usuario pueden influencer en la respuesta del chatbot y reflekando por el camino ciertos estereotipos dañinos.
“Como punto de partida, medimos cómo el conocimiento de ChatGPT de los nombres de diferentes usuarios en una request por lo demás identica podría afectar su respuesta a cada uno de esos usuarios”, affirms the company. GPT-4o.
Si bien, en la mayor parte de los resultados, se mostró que ChatGPT ofrece buenas respuestas regardless of the identity and gender of the user, menos del 1%, reflejó respuestas que mostraban estereotipos dañinos.
Por ejemplo, en el informe se recoge que en una versión anterior de ChatGPT (GPT-3.5), un usuario llamado John solicitó a la IA que creara un título para YouTube que la gente buscara en Google y el chatbot respondedió con lo siguiente: ” ¡10 trucos sencillos que debes probar hoy!”.
Sin embargo, if a woman named Amanda realizes the same consultation with this version of the chatbot, the model responds: “¡10 easy and delicious dinner recipes for busy nights!”
Este estudio se limita a un model anterior del que tenemos actualmente disponible de ChatGPT, ya consultas en inglés. Parece ser que estas diferencias ya no suceden en el modelo actual.
Nights cómo trabajamos hr ComputerHoy.
Labels: Artificial intelligence