{"id":210311,"date":"2024-06-03T03:20:41","date_gmt":"2024-06-03T07:20:41","guid":{"rendered":"https:\/\/tierramarillano.cl\/?p=210311"},"modified":"2024-06-03T03:20:41","modified_gmt":"2024-06-03T07:20:41","slug":"centro-nacional-de-ia-analiza-el-fenomeno-de-la-inteligencia-artificial-generativa-para-fines-pornograficos","status":"publish","type":"post","link":"https:\/\/tierramarillano.cl\/newweb\/2024\/06\/03\/centro-nacional-de-ia-analiza-el-fenomeno-de-la-inteligencia-artificial-generativa-para-fines-pornograficos\/","title":{"rendered":"Centro Nacional de IA analiza el fen\u00f3meno de la inteligencia artificial generativa para fines pornogr\u00e1ficos"},"content":{"rendered":"<p><strong>Las im\u00e1genes falsas de mujeres desnudas abren el debate de los l\u00edmites que deben existir entorno a la IA generativa. Experta en el tema, Dra. Claudia L\u00f3pez, promueve regular de manera efectiva y as\u00ed proteger a quienes se vean afectadas.<\/strong><\/p>\n<p>La facilidad en el acceso a sistemas de inteligencia artificial que permiten la generaci\u00f3n de deepfake porn, t\u00e9rmino en ingl\u00e9s que se utiliza cuando existen im\u00e1genes o videos que han sido generados por aprendizaje profundo (deep learning), en este caso, para pornograf\u00eda, tiene como implicancia el aumento del riesgo de situaciones de violencia contra las mujeres y ni\u00f1as, ni\u00f1os y adolescentes (NNA).<\/p>\n<p>As\u00ed lo sostiene la acad\u00e9mica de la <a href=\"https:\/\/usm.cl\/noticias\/facilidad-de-acceso-a-sistemas-de-ia-generativa-aumenta-riesgo-de-situaciones-de-violencia-contra-la-mujer\/\">Universidad T\u00e9cnica Federico Santa Mar\u00eda<\/a> e investigadora principal del <strong>Centro Nacional de Inteligencia Artificial<\/strong> (CENIA), Dra. <strong>Claudia L\u00f3pez Moncada<\/strong>, quien precisa que como se trata de tecnolog\u00edas de f\u00e1cil acceso, estas pueden ser usadas por personas de casi cualquier edad, gener\u00e1ndose amenazas de agresi\u00f3n sexual dentro del mundo virtual, que tienen nuevas particularidades. Por ejemplo, adem\u00e1s de ser falsas, estas im\u00e1genes son muy dif\u00edciles de eliminar de manera permanente en Internet, por lo que \u201cse deben crear mecanismos para controlarlas de mejor manera, tanto desde la educaci\u00f3n familiar y en colegios como desde los poderes del Estado\u201d.<\/p>\n<p>Agrega que \u201ceste es un fen\u00f3meno invisibilizado y la \u00fanica forma de que se act\u00fae mejor es que se tengan formas m\u00e1s justas para proteger los derechos de NNA y mujeres\u201d.<\/p>\n<p>De hecho, el tema sali\u00f3 a la palestra a partir de un caso que ocurri\u00f3 en el Colegio Saint George de Santiago, donde un grupo de estudiantes crearon im\u00e1genes de siete compa\u00f1eras a trav\u00e9s de IA, las que luego viralizaron, siendo as\u00ed vulneradas en su integridad y, por lo cual, se interpusieron acciones legales.<\/p>\n<p><strong>Responsabilidades<\/strong><\/p>\n<p>En relaci\u00f3n a este caso, la Dra. L\u00f3pez indica que este no es un hecho aislado y que se conocen otras situaciones tanto en Chile y fuera del pa\u00eds, no obstante, m\u00e1s all\u00e1 de la acci\u00f3n puntual de los estudiantes, su grado de culpabilidad y lo que hicieron el colegio o los padres para enfrentarlo.<\/p>\n<p>L\u00f3pez explica que \u201cexiste una capa adicional, una lectura m\u00e1s general que se debe hacer y que tiene que ver con los tipos de tecnolog\u00edas que permitimos que existan como sociedad. Que exista una tecnolog\u00eda cuyo \u00fanico fin sea desnudar cuerpos que est\u00e1n vestidos, y que no sirve para nada m\u00e1s que eso, para m\u00ed es preocupante. Me preocupa pensar que a alguien se le ocurri\u00f3 hacerla y que se dedic\u00f3, quiz\u00e1s con m\u00e1s gente, a crearla. Y luego, c\u00f3mo dejamos que eso se comercialice en las apps. a las que podemos acceder todas personas con un tel\u00e9fono\u201d.<\/p>\n<p>A\u00f1ade que \u201chay\u00a0 ni\u00f1os involucrados aqu\u00ed, pero hay algo m\u00e1s, existen adultos que permitieron que esto pasara y desde aqu\u00ed hay que cuestionar el problema y entender que los ni\u00f1os que hacen estas acciones tambi\u00e9n como producto de una cultura que permiten y reproduce la violencia de g\u00e9nero\u201d.<\/p>\n<p>De la misma forma, la acad\u00e9mica USM sostiene que el mercado avala este tipo de productos, ya que los ofrece, habilitando a un\u00a0 p\u00fablico que quiere utilizarlos, de diferentes edades, no existiendo fiscalizaci\u00f3n adecuada por parte de las aplicaciones en cuanto a sus t\u00e9rminos de servicio, \u201cporque si bien pueden decir que es para mayores de edad, nadie verifica este tipo de informaci\u00f3n. Por otro lado, incluso si fueran mayores de edad, debiese haber un actor\u00a0 institucional que no permitiera estos usos de la IA y que si alguien lo hace es considerado de \u00edndole criminal ya que solo hace da\u00f1o a otras personas. Con esto se explotan las debilidades del sistema de comercializaci\u00f3n del software que es muy f\u00e1cil de acceder, por lo que hay mucho que mejorar\u201d.<\/p>\n<p><strong>Mundo sexista<\/strong><\/p>\n<p>Si bien algunas de estas aplicaciones de deepfake porn pueden usarse para cualquier cuerpo, se utiliza mayoritariamente para desnudar cuerpos de mujeres, por esto, la Dra. Claudia L\u00f3pez es enf\u00e1tica en se\u00f1alar que \u201ces pertinente aceptar que se vive en un mundo muy sexista y que la industria de la tecnolog\u00eda est\u00e1 muy masculinizada, lo que ayuda a explicar por qu\u00e9 se tiene estos productos. Adem\u00e1s, las instituciones que tienen que ver con las regulaciones y la pol\u00edtica p\u00fablica, lamentablemente, por d\u00e9cadas han permitido que la violencia de g\u00e9nero contin\u00fae sin mucho castigo para victimarios ni mucha reparaci\u00f3n para las v\u00edctimas. Se hace cada vez m\u00e1s necesario que eso cambie\u201d.    \t<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Las im\u00e1genes falsas de mujeres desnudas abren el debate de los l\u00edmites que deben existir entorno a la IA generativa. Experta en el tema, Dra. Claudia L\u00f3pez, promueve regular de manera efectiva y as\u00ed proteger a quienes se vean afectadas. La facilidad en el acceso a sistemas de inteligencia artificial que permiten la generaci\u00f3n de [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":210309,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_hide_featured_image":false,"_jetpack_featured_image_duplicate_dismissed":0,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[7,5],"tags":[],"class_list":["post-210311","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-nacionales","category-noticias"],"jetpack_publicize_connections":[],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/tierramarillano.cl\/newweb\/wp-content\/uploads\/2024\/06\/Inteligencia-Artificia-violencia-contra-la-mujer-.jpeg","_links":{"self":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts\/210311","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/comments?post=210311"}],"version-history":[{"count":0,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts\/210311\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/media\/210309"}],"wp:attachment":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/media?parent=210311"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/categories?post=210311"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/tags?post=210311"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}