Cuando ChatGPT era todavía una novedad, investigadores de Beijing lo probaron con preguntas sobre China. El modelo describió a Yao Ming, el astro chino de la NBA, como la primera mujer china en jugar al básquet profesional en Estados Unidos. El error era tan grosero que resultaba fácil detectarlo y corregirlo. El problema de fondo no es que la máquina se equivoque ni que tenga sesgo. Aparece cuando el sesgo deja de ser un error visible y se disfraza de respuesta plausible que aceptamos sin registrar de dónde viene.
Los modelos se entrenan con enormes cantidades de textos, imágenes y videos que nunca son culturalmente neutros. Durante años, ese material fue desproporcionadamente occidental y en inglés. China entendió que allí también se juega una disputa de poder. Beijing quiere convertirse en proveedor global de datos para inteligencia artificial y ya liberó grandes colecciones, algunas diseñadas para reflejar sus “valores dominantes”. Quien alimenta a los modelos influye sobre aquello que estos aprenderán a considerar normal, relevante o verdadero. Y esos parámetros no se quedan en la máquina, influyen en la visión del mundo de quien la consulta.
Un estudio publicado en mayo en Nature encontró que, ante preguntas políticas sobre China, modelos comerciales como los de OpenAI y Anthropic respondían de manera más favorable a Beijing cuando se les preguntaba en chino. Y cuando los investigadores entrenaron adicionalmente un modelo abierto con apenas 6.400 documentos de medios estatales, este pasó a dar respuestas más favorables al gobierno chino que su versión original en casi el 80% de los casos. Como resume uno de sus autores, una vez que ese material entra en los datos de entrenamiento, el modelo lo lava hasta darle apariencia de información neutral.
Siempre estuvimos expuestos a miradas ajenas y está bien y es productivo que así sea. La Argentina se crio con el cine estadounidense, dibujos doblados en un español “neutro” que nadie habla y tendencias globales. Las culturas se apropian de lo que reciben. Pero para hacerlo necesitan reconocerlo como algo recibido.
Una película tiene un origen y un libro tiene autor. Hasta un buscador muestra sus enlaces. El chatbot, en cambio, responde con una voz uniforme, convencida y sin acento, y no deja ver de dónde saca lo que dice. Cuando el mensajero desaparece, también se debilita parte del filtro crítico con el que evaluamos lo que escuchamos. Hollywood llegaba como Hollywood. ChatGPT llega como respuesta.
Una sociedad que recibe sus categorías sin verlas llegar delega algo más que información. Corre el peligro de delegar también parte de cómo se piensa a sí misma. Por eso los datos que entrenan a la inteligencia artificial son también un problema cultural. El desafío es conservar la capacidad de ver esas influencias, no aislarnos de ellas. Las respuestas de una inteligencia artificial pueden no tener acento. No por eso dejan de venir de algún lado.w
Todavia no hay comentarios aprobados.