{"id":3896,"date":"2023-10-04T13:56:15","date_gmt":"2023-10-04T13:56:15","guid":{"rendered":"https:\/\/preblogs.deusto.es\/viviendodeusto\/?p=3896"},"modified":"2024-09-02T09:59:37","modified_gmt":"2024-09-02T09:59:37","slug":"las-investigadoras-lucia-vicente-y-helena-matute-hallan-evidencias-de-que-las-personas-podemos-heredar-sesgos-de-la-inteligencia-artificial-ia","status":"publish","type":"post","link":"https:\/\/blogs.deusto.es\/viviendodeusto\/2023\/10\/04\/las-investigadoras-lucia-vicente-y-helena-matute-hallan-evidencias-de-que-las-personas-podemos-heredar-sesgos-de-la-inteligencia-artificial-ia\/","title":{"rendered":"Las investigadoras Luc\u00eda Vicente y Helena Matute hallan evidencias de que las personas podemos heredar sesgos de la inteligencia artificial (IA)"},"content":{"rendered":"<div class=\"wp-block-image\">\n<figure class=\"alignleft size-large is-resized\"><img fetchpriority=\"high\" decoding=\"async\" src=\"https:\/\/blogs.deusto.es\/alumni\/wp-content\/uploads\/sites\/78\/2023\/10\/Noticia-web-2-1024x505.png\" alt=\"\" class=\"wp-image-3897\" width=\"415\" height=\"205\" srcset=\"https:\/\/blogs.deusto.es\/wp-content\/uploads\/sites\/78\/2023\/10\/Noticia-web-2-1024x505.png 1024w, https:\/\/blogs.deusto.es\/wp-content\/uploads\/sites\/78\/2023\/10\/Noticia-web-2-300x148.png 300w, https:\/\/blogs.deusto.es\/wp-content\/uploads\/sites\/78\/2023\/10\/Noticia-web-2-768x378.png 768w, https:\/\/blogs.deusto.es\/wp-content\/uploads\/sites\/78\/2023\/10\/Noticia-web-2.png 1380w\" sizes=\"(max-width: 415px) 100vw, 415px\" \/><\/figure>\n<\/div>\n\n\n<p>Una nueva investigaci\u00f3n realizada por las psic\u00f3logas Luc\u00eda Vicente y Helena Matute de la Universidad de Deusto, Bilbao, aporta evidencia de que las personas podemos heredar sesgos de la inteligencia artificial (IA).<\/p>\n\n\n\n<p>Los impresionantes resultados logrados por la inteligencia artificial han dado a esta tecnolog\u00eda una imagen de alta fiabilidad. Sin embargo, los algoritmos de IA tambi\u00e9n pueden estar sesgados (cometer errores sistem\u00e1ticos). Estos algoritmos son entrenados a partir de datos que son producto de decisiones humanas pasadas, y si contienen sesgos, el modelo de IA puede aprenderlos y reproducirlos. De hecho, existen ya numerosas pruebas de que, efectivamente, la inteligencia artificial hereda y amplifica los sesgos humanos.<\/p>\n\n\n\n<p>El hallazgo m\u00e1s interesante de la nueva investigaci\u00f3n realizada por Luc\u00eda Vicente y Helena Matute es que muestra que puede tener lugar tambi\u00e9n el efecto contrario: no solo la IA heredar\u00eda sesgos de los humanos, como ya sab\u00edamos, sino que tambi\u00e9n las personas podr\u00edamos heredar sesgos de la IA, con lo que corremos el riesgo de entrar en un bucle bastante peligroso. Los resultados de esta investigaci\u00f3n han sido publicados en la <strong><a href=\"https:\/\/www.nature.com\/articles\/s41598-023-42384-8\" target=\"_blank\" rel=\"noreferrer noopener\">revista Nature<\/a><\/strong>.<\/p>\n\n\n\n<p>En la serie de tres experimentos realizados por estas investigadoras, los voluntarios realizaron una tarea de diagn\u00f3stico m\u00e9dico. La mitad de los participantes tuvieron recomendaciones de una IA sesgada (comet\u00eda un error de forma sistem\u00e1tica) durante la tarea, mientras que la otra mitad, el grupo de control, no tuvo ning\u00fan tipo de asistencia. En estos experimentos, tanto la inteligencia artificial utilizada, como la tarea de diagn\u00f3stico, y la supuesta enfermedad, fueron una simulaci\u00f3n para evitar interferencias con situaciones reales.<\/p>\n\n\n\n<p>Las recomendaciones sesgadas de la inteligencia artificial influyeron sobre las decisiones de los participantes que realizaron la tarea con ayuda, pues acabaron cometiendo el mismo error que la IA, a diferencia de los participantes del grupo control, que no cometieron el error. Adem\u00e1s, el resultado m\u00e1s relevante fue que, en una segunda fase en la que la IA ya no estaba presente, los voluntarios continuaron cometiendo el mismo error sistem\u00e1tico que comet\u00eda la IA, cuando pasaron a realizar la tarea de diagn\u00f3stico sin asistencia. En otras palabras, los participantes que recibieron al principio la ayuda de la IA sesgada, reprodujeron el sesgo en un contexto en el que ya no estaba presente la inteligencia artificial, evidenciando as\u00ed un sesgo heredado. Esto no ocurr\u00eda en los participantes del grupo de control, que hab\u00edan realizado desde el primer momento la tarea sin ayuda.<\/p>\n\n\n\n<p>Estos resultados muestran que informaci\u00f3n sesgada proporcionada por una inteligencia artificial puede ejercer un impacto negativo perdurable en las decisiones de las personas. El hallazgo se\u00f1ala la necesidad de m\u00e1s investigaci\u00f3n psicol\u00f3gica y multidisciplinar sobre la interacci\u00f3n IA-humanos. Tambi\u00e9n se hace necesaria una regulaci\u00f3n basada en evidencia que garantice una IA \u00e9tica y fiable, que no tenga en cuenta solo los aspectos t\u00e9cnicos, sino tambi\u00e9n los aspectos psicol\u00f3gicos de la relaci\u00f3n entre IA y humanos.<\/p>\n\n\n\n<p><a href=\"https:\/\/doi.org\/10.1038\/s41598-023-42384-8\" target=\"_blank\" rel=\"noreferrer noopener\">Vicente, L, &amp; Matute, H. Humans inherit artificial intelligence biases. Nature (2023)\u00a0<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Una nueva investigaci\u00f3n realizada por las psic\u00f3logas Luc\u00eda Vicente y Helena Matute de la Universidad de Deusto, Bilbao, aporta evidencia de que las personas podemos heredar sesgos de la inteligencia artificial (IA). Los impresionantes resultados logrados por la inteligencia artificial han dado a esta tecnolog\u00eda una imagen de alta fiabilidad. Sin embargo, los algoritmos de [&hellip;]<\/p>\n","protected":false},"author":515,"featured_media":3897,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_genesis_hide_title":false,"_genesis_hide_breadcrumbs":false,"_genesis_hide_singular_image":false,"_genesis_hide_footer_widgets":false,"_genesis_custom_body_class":"","_genesis_custom_post_class":"","_genesis_layout":"","footnotes":""},"categories":[21,47],"tags":[172],"class_list":{"0":"post-3896","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-adn-deusto","8":"category-proyectos","9":"tag-helena-matute","10":"entry"},"_links":{"self":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/3896","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/users\/515"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/comments?post=3896"}],"version-history":[{"count":1,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/3896\/revisions"}],"predecessor-version":[{"id":3899,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/3896\/revisions\/3899"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media\/3897"}],"wp:attachment":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media?parent=3896"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/categories?post=3896"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/tags?post=3896"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}