{"id":259693,"date":"2025-07-16T17:54:32","date_gmt":"2025-07-16T21:54:32","guid":{"rendered":"https:\/\/tierramarillano.cl\/?p=259693"},"modified":"2025-07-16T17:54:32","modified_gmt":"2025-07-16T21:54:32","slug":"la-ia-y-un-modelo-que-reproduce-desigualdades","status":"publish","type":"post","link":"https:\/\/tierramarillano.cl\/newweb\/2025\/07\/16\/la-ia-y-un-modelo-que-reproduce-desigualdades\/","title":{"rendered":"La IA y un modelo que reproduce desigualdades"},"content":{"rendered":"

Lilian San Mart\u00edn Medina<\/strong><\/p>\n

Directora de Gesti\u00f3n de Operaciones Acad\u00e9micas<\/strong>
\nPresidenta Comit\u00e9 de Igualdad de G\u00e9nero<\/strong><\/p>\n

Facultad de Ingenier\u00eda UNAB<\/strong><\/p>\n

Plataformas como ChatGPT y otros modelos de Inteligencia Artificial (IA) procesan grandes vol\u00famenes de datos, aprenden y se ajustan seg\u00fan la informaci\u00f3n con la que son entrenados. Esto implica que esos datos, en muchos casos, reflejan las desigualdades preexistentes en la sociedad y, al ser replicados, perpet\u00faan su existencia.<\/p>\n

Los sesgos de g\u00e9nero en la inteligencia artificial no son accidentales, sino una manifestaci\u00f3n de las construcciones sociales que se filtran en los sistemas que dise\u00f1amos. Las mujeres, por ejemplo, son m\u00e1s frecuentemente asociadas con roles tradicionales como la enfermer\u00eda o la educaci\u00f3n, mientras que los hombres se vinculan con posiciones de poder y liderazgo. Esta representaci\u00f3n refleja las estructuras de poder predominantes en la sociedad.<\/p>\n

La integraci\u00f3n de la IA en procesos de toma de decisiones y en la vida cotidiana hace que este tipo de controversias sea a\u00fan m\u00e1s relevante. El riesgo no es solo que los sistemas reproduzcan estereotipos, sino que los refuercen de tal manera que afecten a millones de personas en aspectos clave como la salud, la educaci\u00f3n o el empleo. Por ejemplo, en el campo de la salud, la IA tiende a enfocarse en los s\u00edntomas t\u00edpicos de los hombres, lo que puede llevar a diagn\u00f3sticos incorrectos o tratamientos inadecuados para las mujeres. Adem\u00e1s, el uso de voces femeninas en asistentes virtuales refuerza la idea de que las mujeres son m\u00e1s aptas para realizar tareas de servicio, mientras que los modelos de lenguaje tienden a asociar la profesi\u00f3n de “enfermer\u00eda” con mujeres y “ciencia” con hombres, perpetuando roles de g\u00e9nero que limitan las posibilidades de las personas en funci\u00f3n de su sexo.<\/p>\n

El desaf\u00edo para abordar estos sesgos es considerable. No se trata \u00fanicamente de eliminar los datos problem\u00e1ticos, sino de replantear el dise\u00f1o de los algoritmos para que no solo reconozcan estos estereotipos, sino que los cuestionen y los corrijan activamente. Para lograrlo, es preciso que los desarrolladores de IA sean conscientes de los prejuicios inherentes en los datos con los que entrenan los modelos. Esto es especialmente relevante en el contexto de plataformas como ChatGPT Latam, donde los sesgos de g\u00e9nero pueden verse exacerbados por las particularidades culturales y sociales de la regi\u00f3n.<\/p>\n

Corregir estos sesgos requiere m\u00e1s que ajustes t\u00e9cnicos. Se necesita un compromiso profundo con la creaci\u00f3n de tecnolog\u00edas que respeten la equidad y reflejen una verdadera diversidad. Los esfuerzos por mejorar la inclusi\u00f3n en la IA deben ir acompa\u00f1ados de la creaci\u00f3n de equipos de desarrollo diversos, que comprendan los matices sociales y culturales de los problemas que intentan resolver. La implementaci\u00f3n de metodolog\u00edas que promuevan la inclusi\u00f3n y la transparencia en el proceso de desarrollo es clave para garantizar que las soluciones sean efectivas y no reproduzcan los mismos problemas que intentan solucionar.<\/p>\n

Tal como muestra el Informe de la Brecha Global de G\u00e9nero de 2023, solo el 30% de las personas que trabajan en IA son mujeres. Esto evidencia la falta de representatividad de g\u00e9nero en el desarrollo de estas tecnolog\u00edas, lo que contribuye a la perpetuaci\u00f3n de sesgos de g\u00e9nero en los modelos. Por otro lado, la brecha digital de g\u00e9nero, especialmente en pa\u00edses de bajos ingresos, provoca un d\u00e9ficit de datos, lo que agrava el sesgo de g\u00e9nero en la IA.<\/p>\n

El impacto de estos sesgos es tangible desde los inicios de la masificaci\u00f3n de esta tecnolog\u00eda. Ya en 2018, Amazon abandon\u00f3 una herramienta de IA para reclutar personal, debido a que favorec\u00eda los curr\u00edculums de hombres sobre los de mujeres. Adem\u00e1s, los sistemas de reconocimiento facial han mostrado dificultades para identificar correctamente a las mujeres, en particular a las mujeres de color, lo que puede resultar en errores de identificaci\u00f3n con consecuencias graves, especialmente en el \u00e1mbito de la seguridad p\u00fablica. Estos casos demuestran que los sesgos de g\u00e9nero en la IA no son solo un inconveniente t\u00e9cnico, sino un problema con implicaciones sociales significativas.<\/p>\n

La soluci\u00f3n pasa por un esfuerzo conjunto de los desarrolladores, reguladores y la sociedad en general, para construir responsablemente una inteligencia artificial que no solo sea eficiente, sino que tambi\u00e9n respete y avance en equidad.<\/p>\n","protected":false},"excerpt":{"rendered":"

Lilian San Mart\u00edn Medina Directora de Gesti\u00f3n de Operaciones Acad\u00e9micas Presidenta Comit\u00e9 de Igualdad de G\u00e9nero Facultad de Ingenier\u00eda UNAB Plataformas como ChatGPT y otros modelos de Inteligencia Artificial (IA) procesan grandes vol\u00famenes de datos, aprenden y se ajustan seg\u00fan la informaci\u00f3n con la que son entrenados. Esto implica que esos datos, en muchos casos, …<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10],"tags":[],"class_list":["post-259693","post","type-post","status-publish","format-standard","hentry","category-columna-opinion"],"_links":{"self":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts\/259693","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/comments?post=259693"}],"version-history":[{"count":0,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts\/259693\/revisions"}],"wp:attachment":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/media?parent=259693"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/categories?post=259693"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/tags?post=259693"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}