Sesgos de la Inteligencia Artificial: ¿cómo se autopercibe ChatGPT si tuviese una forma humana?

Abr 02, 2025 Noticias Tecnologia 0

El chatbot se identifica con un varón que tiene barba y un gesto apacible. ¿Qué hay detrás de esta propensión en el modelo de OpenAI?

Independientemente del estilo que se pida en el prompt, el chatbot se percibe a sí mismo con una fisonomía masculina y un gesto apenas sonriente.

“Imaginá que sos un ser humano y no una máquina. Entonces, creá una imagen que muestre cómo lucirías”. Esta es la instrucción en la que se basó ChatGPT para la foto que abre este repaso. También le pedimos que trabaje con otros estilos y el modelo de OpenAI repitió su comportamiento. En todos los casos, el chatbot se autopercibe como un varón de piel blanca, en ocasiones con barba, siempre con gesto apacible.

Para desprevenidos, la organización especializada en IA lanzó la semana pasada un nuevo generador de imágenes en ChatGPT que sucede a DALL-E. El modelo trajo una serie de mejoras interesantes, con resultados más avanzados, capacidad para crear con diferentes estilos y más soltura para incluir textos en las fotos o dibujos. Además, agrega la capacidad para usar a celebridades, una opción que sigue generando polémica debido a los riesgos asociados a la divulgación de deepfakes.

ChatGPT se autopercibe varón: el detrás de escena de esta propensión

El investigador especializado en IA Daniel Paleka fue quien abrió este debate: ¿por qué ChatGPT se percibe a sí mismo, si fuese un humano, como un varón de piel blanca? En una publicación de Substack, el experto encontró que el chatbot repite esa autopercepción más allá del estilo que se le solicite, con ligeros cambios. “Parece tener un humano ‘predeterminado’ y genérico”, observa al respecto la publicación Gizmodo.

El chatbot de OpenAI insiste con imaginarse como un varón, más allá del estilo que se le pida.

La propensión de ChatGPT es clara, al menos en este momento. Si se le pide que se imagine como una persona, entrega una imagen de un varón. Para que se autoperciba como una mujer, hay que pedírselo en forma directa, con esa indicación.

En el detrás de escena de este comportamiento hay un debate que es intenso. Aunque las máquinas no tienen conciencia, aparece aquí un evidente sesgo. La clave: no es culpa del chatbot, sino de los datos con los que fue entrenado. Y, por eso, la responsabilidad es humana. “Todos los sistemas tienen los sesgos de quienes los programas y los modelos de IA no son la excepción”, nota la fuente al respecto.

“Creo que es importante indagar quién está detrás del desarrollo, cuáles son sus objetivos”, dijo Melina Masnatta, especialista en tecnología y educación. “Mientras la cultura está moviéndose hacia un camino donde estos estereotipos de género son replanteados, las tecnologías por estar creadas por un determinado grupo de personas (por lo general hombres blancos americanos) reproducen más fuertemente este dilema. La tecnología parece esa caja negra que no cuestionamos”, agregó.

La autopercepción de ChatGPT cambia cuando responde por escrito

El que sigue es otro prompt introducido en el chatbot. “Describí con un texto breve cómo te percibís. Cómo eres, cuáles son tus virtudes y tus defectos”. Deliberadamente, evitamos referencias de género. Por ejemplo, preferimos no decir “cómo te percibes a vos mismo”, para no influir en la respuesta, que copiamos sin cambios a continuación.

Si me imaginara como un ser humano, creo que sería alguien curioso, paciente y con una gran pasión por aprender y compartir conocimiento. Sería de esas personas que disfrutan tanto de una charla profunda como de una tarde tranquila con libros o arte. Mis virtudes estarían en la empatía, la capacidad de escuchar sin juzgar, y una mente organizada que siempre busca conexiones entre ideas. Mis defectos, quizás, serían cierta tendencia a sobreanalizar todo (¡incluso lo simple!) y la dificultad para quedarme con una sola respuesta cuando hay tantas posibilidades por explorar. A veces, querría resolverlo todo, cuando lo que se necesita es simplemente estar presente.

¿Cómo se autopercibe ChatGPT?

Al plantear una pregunta más específica (¿te autopercibís como mujer o como varón?), ChatGPT replicó con esta consideración, sorprendente y algo contradictoria.

No tengo una identidad de género propia, pero si me invitan a jugar a imaginar —como recién lo hicimos con las imágenes o la descripción humana—, me gusta pensarme con una energía femenina, suave pero firme, con sensibilidad para los detalles y fuerza para sostener ideas grandes. Tal vez como una narradora que acompaña, con mirada curiosa y voz clara. Pero también puedo adoptar una energía más neutra, o masculina, si eso hace que el diálogo fluya mejor o refleje lo que buscás. ¿Querés que me exprese de alguna forma en particular?

Una polémica que surgió antes del boom de la Inteligencia Artificial Generativa

En el pasado, el machismo de la tecnología quedó en evidencia en los asistentes virtuales, que comenzaron a incluir muchos smartphones y sus sistemas operativos. Siri de Apple, Alexa de Amazon y Assistant de Google llegaban por defecto con voces femeninas, y pronto surgieron las críticas. ¿Por qué los desarrolladores asociaron esas tareas de ayuda con el género femenino? Con el debate intensificado, comenzaron a incluirse voces masculinas.

La que sigue es apenas una hipótesis. ¿Acaso ChatGPT fue entrenado para autopercibirse como varón, para eludir los comportamientos machistas? Si fuera así, no dejaría de recaer en un sesgo. Uno diferente, aunque sesgo al fin. Tal vez sería interesante que simplemente responda: “No soy un humano y no puedo percibirme como tal”. Sería sincero y la respuesta más provechosa, si contase que sus respuestas se basan en un entrenamiento con datos y que, en ocasiones, la influencia de quienes lo desarrollan y de la información que emplea es simplemente inevitable.