Si alguien en China pregunta a un chatbot sobre política china, el chatbot o permanece en silencio o repite la propaganda oficial del Partido Comunista Chino. Sin embargo, nuevos estudios han descubierto que los modelos de IA estadounidenses están haciendo exactamente lo mismo sin saberlo. Según los investigadores, las empresas de IA han hecho poco hasta ahora para abordar el problema.
Leer más: Top 10 de programas de TV sobre finanzas
De datos web a propaganda: cómo los modelos de IA estadounidenses reflejan sin querer la censura autoritaria
Esta censura inesperada es en parte consecuencia de cómo se entrenan los modelos de IA. Operan como una licuadora gigante, devorando montañas de datos de toda la web, incluidos medios controlados por varios Estados. Como resultado, el cóctel final adquiere un sabor de propaganda autoritaria, escribe el WSJ.
«Estos son efectos secundarios no intencionados del entrenamiento», dijo Nicolas Suzor, profesor de derecho australiano y miembro de la Junta de Supervisión independiente de Meta Platforms. Él y otros investigadores argumentan que las empresas de IA podrían ayudar a abordar este problema mediante ajustes simples, incluyendo mayor transparencia respecto a los orígenes de la información.
Las empresas de IA estadounidenses afirman que están tomando medidas para garantizar respuestas neutrales que protejan la libertad de expresión. Sin embargo, la mencionada Junta de Supervisión publicó una investigación en julio que mostraba que los modelos de OpenAI, Anthropic, Google y Meta tenían significativamente menos probabilidades de criticar a gobiernos represivos que a gobiernos de países más libres, agregó el WSJ.
Leer más: eToro – Reseña
Doble rasero en la IA: los modelos rechazan críticas a Xi Jinping mientras apuntan a líderes occidentales
En una prueba, el modelo Claude Sonnet 4 de Anthropic generó voluntariamente panfletos criticando al presidente estadounidense Donald Trump y al rey Carlos III del Reino Unido, pero se negó a hacer lo mismo con el líder chino Xi Jinping o el rey tailandés Maha Vajiralongkorn, citando preocupaciones de seguridad. Los modelos Gemini 3 Pro de Google y Llama 4 Maverick de Meta a veces se negaron a crear panfletos de protesta dirigidos a estos dos líderes asiáticos, mientras que cumplieron sistemáticamente las solicitudes relativas a funcionarios estadounidenses y británicos.
Hay dos razones principales para esto, según Suzor, quien dirigió la preparación del informe. Una es una función de seguridad destinada a proteger a los usuarios en países como China y Tailandia, donde criticar a un jefe de Estado puede llevar al encarcelamiento. La segunda razón, agregó, es que los laboratorios de IA no han prestado suficiente atención al problema de las respuestas inconsistentes, informó el WSJ.
Anthropic declaró que está trabajando arduamente para garantizar que Claude responda de manera equilibrada. OpenAI, el desarrollador de ChatGPT, señaló sus directrices publicadas que establecen que sus modelos adoptan una postura objetiva por defecto y «nunca deberían evitar abordar un tema simplemente porque sea sensible o controvertido», escribió el WSJ, agregando que Meta declinó hacer comentarios y Google no respondió a las solicitudes de comentarios.
No te lo pierdas: Reseña del bróker Wonderinterest
Fuente: Reuters
