{"id":5052,"date":"2024-04-09T09:45:00","date_gmt":"2024-04-09T09:45:00","guid":{"rendered":"https:\/\/blogs.deusto.es\/viviendodeusto\/?p=5052"},"modified":"2024-09-02T09:46:17","modified_gmt":"2024-09-02T09:46:17","slug":"jon-mikel-zabala-las-implicaciones-sociales-de-la-algoritmia-y-como-revertirla","status":"publish","type":"post","link":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/2024\/04\/09\/jon-mikel-zabala-las-implicaciones-sociales-de-la-algoritmia-y-como-revertirla\/","title":{"rendered":"Jon Mikel Zabala: &#8220;Las implicaciones sociales de la algoritmia y c\u00f3mo revertirla&#8221;"},"content":{"rendered":"\n<p><strong>Art\u00edculo publicado en el blog Ekonomiaren Plaza de El Diario Vasco (09\/04\/2024)<\/strong><\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"alignleft size-full\"><img decoding=\"async\" width=\"220\" height=\"85\" src=\"https:\/\/blogs.deusto.es\/wp-content\/uploads\/sites\/78\/2022\/11\/23ca757d-acde-2e0c-f0ba-411e0c2941b4.jpg\" alt=\"Jon Mikel Zabala\" class=\"wp-image-1719\"\/><figcaption class=\"wp-element-caption\">Profesor de Deusto Business School<\/figcaption><\/figure>\n<\/div>\n\n\n<p>Como es bien sabido, las grandes empresas tecnol\u00f3gicas maximizan el valor para sus accionistas empleando para ello algoritmos que buscan maximizar la participaci\u00f3n (i.e.,&nbsp;<em>engagement<\/em>) de los usuarios. Y los algoritmos ejecutan muy bien su prop\u00f3sito. Como ya escribimos en un post&nbsp;<a href=\"https:\/\/blogs.diariovasco.com\/ekonomiaren-plaza\/2024\/03\/13\/adiccion\/\" target=\"_blank\" rel=\"noreferrer noopener\">previo<\/a>, los j\u00f3venes estadounidenses de 17 a\u00f1os pasan 5,8 horas al d\u00eda en las redes sociales.<\/p>\n\n\n\n<p>En la \u00faltima&nbsp;<a href=\"https:\/\/www.washingtonpost.com\/technology\/2023\/10\/24\/meta-lawsuit-facebook-instagram-children-mental-health\/\">demanda judicial<\/a>&nbsp;interpuesta en Estados Unidos contra Meta, 41 estados alegan que dos de sus productos (Instagram y Facebook) no solo son adictivos, sino que resultan perjudiciales para el bienestar. En ella, se acusa a Meta de \u2018explotar\u2019 a los j\u00f3venes usuarios con fines lucrativos, mostrando contenidos nocivos que los mantienen pegados a sus pantallas para maximizar el beneficio empresarial. Una forma de conseguir dicho&nbsp;<em>engagement<\/em>&nbsp;es mostrar contenidos perniciosos, y en ocasiones al borde de la ilegalidad, y transformar el tiempo en la plataforma en una actividad compulsiva, con funciones como el&nbsp;<em>scroll<\/em>&nbsp;infinito, notificaciones y alertas incesantes y contenidos adictivos \u2018recomendados\u2019 (muchas de estas mismas t\u00e9cnicas son utilizadas por la industria del juego).<\/p>\n\n\n\n<p>Los avances en inteligencia artificial potencian a\u00fan m\u00e1s estas recomendaciones algor\u00edtmicas por lo que urgen nuevas estructuras de gobernanza para evitar estos efectos no deseados de las redes sociales. En un reciente&nbsp;<a href=\"https:\/\/www.project-syndicate.org\/commentary\/algorithm-governance-five-principles-to-prevent-ai-from-aggravating-digital-economy-harms-by-mariana-mazzucato-and-ilan-strauss-2024-02?utm_source=Project+Syndicate+Newsletter&amp;utm_campaign=31fa9d31e6-covid_newsletter_03_06_2024&amp;utm_medium=email&amp;utm_term=0_73bad5b7d8-31fa9d31e6-105502041&amp;mc_cid=31fa9d31e6&amp;mc_eid=2a6b879d08\" target=\"_blank\" rel=\"noreferrer noopener\">art\u00edculo<\/a>, Ilan Strauss y Mariana Mazzucato proponen algunas medidas que se podr\u00edan tener en cuenta:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>En lugar de basarse \u00fanicamente en las leyes de competencia y antimonopolio, se podr\u00eda garantizar que las plataformas no puedan \u2018bloquear\u2019 injustamente la movilidad de usuarios y desarrolladores. Para ello se podr\u00eda imponer la portabilidad de los datos y la interoperabilidad entre los servicios digitales, de modo que los usuarios puedan moverse con mayor fluidez entre plataformas, en funci\u00f3n de d\u00f3nde se satisfagan mejor sus necesidades y preferencias.<\/li>\n\n\n\n<li>En segundo lugar, la reforma de la gobernanza corporativa es esencial. Un primer paso para establecer una base m\u00e1s saludable ser\u00eda exigir a las plataformas que revelen (en los informes anuales 10-K presentados a la Comisi\u00f3n del Mercado de Valores de Estados Unidos) qu\u00e9 es lo que buscan optimizar sus algoritmos y c\u00f3mo se monetizan \u00e9stos \u00faltimos.<\/li>\n\n\n\n<li>Los usuarios deber\u00edan poder influir m\u00e1s en la priorizaci\u00f3n algor\u00edtmica de la informaci\u00f3n que se les muestra (e.g. a pesar de que indiques que la publicidad que te muestra Facebook no te interesa, la plataforma te sigue mostrando nueva publicidad que sigue sin interesarte). De lo contrario, los perjuicios derivados de ignorar las preferencias de los usuarios seguir\u00e1n aumentando a medida que los algoritmos creen sus propios bucles de retroalimentaci\u00f3n.<\/li>\n\n\n\n<li>En 2020, un equipo de Meta\u00a0<a href=\"https:\/\/medium.com\/@AnalyticsAtMeta\/notifications-why-less-is-more-how-facebook-has-been-increasing-both-user-satisfaction-and-app-9463f7325e7d#:~:text=After%20a%20year%20we%20saw,user%20satisfaction%20and%20app%20usage.\" target=\"_blank\" rel=\"noreferrer noopener\">determin\u00f3<\/a>\u00a0que mostrar un menor n\u00famero de notificaciones intrusivas tiene un impacto directo en el uso de la aplicaci\u00f3n y en la satisfacci\u00f3n del usuario. Optimizar los sistemas de recomendaci\u00f3n para obtener recompensas a largo plazo (como la satisfacci\u00f3n del cliente, la retenci\u00f3n y la adopci\u00f3n de nuevos usuarios) es por lo tanto la mejor manera para impulsar el crecimiento y la rentabilidad de una empresa a largo plazo, en lugar de centrarse en las ganancias inmediatas.<\/li>\n\n\n\n<li>Se podr\u00eda emplear la IA para evaluar la calidad de los resultados algor\u00edtmicos, en particular la publicidad, e identificar aquellos anuncios que hacen afirmaciones dudosas (ya se est\u00e1 haciendo en\u00a0<a href=\"https:\/\/www.ft.com\/content\/d257eed5-a9ea-4e49-b5ab-663ba9618636\" target=\"_blank\" rel=\"noreferrer noopener\">Reino Unido<\/a>).<\/li>\n<\/ul>\n\n\n\n<p>Una de las razones que se aducen para explicar el efecto nocivo de las redes sociales es que con ellas es mucho m\u00e1s f\u00e1cil compararnos con los dem\u00e1s y si esta comparaci\u00f3n nos es desfavorable, podemos perder autoestima y aumentar nuestra ansiedad. Las medidas que proponen Strauss y Mazzucato no atajan este mecanismo, sino que buscan identificar posibles \u00e1reas de intervenci\u00f3n para tratar de paliar parcialmente dichos efectos negativos. Sin embargo, como reflejan Mazzucato y Strauss, la pr\u00f3xima generaci\u00f3n de productos basados en IA requiere establecer con antelaci\u00f3n una supervisi\u00f3n algor\u00edtmica adecuada para evitar los errores del pasado. Y es que los algoritmos impulsados por IA influir\u00e1n no solo en lo que consumimos, sino tambi\u00e9n en c\u00f3mo producimos y creamos. Y no solo en lo que elegimos, sino tambi\u00e9n en lo que pensamos.<\/p>\n\n\n\n<p>Puedes seguirme en Twitter:&nbsp;<a href=\"https:\/\/twitter.com\/jonmizabala?lang=en\">@jonmizabala<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Art\u00edculo publicado en el blog Ekonomiaren Plaza de El Diario Vasco (09\/04\/2024) Como es bien sabido, las grandes empresas tecnol\u00f3gicas maximizan el valor para sus accionistas empleando para ello algoritmos que buscan maximizar la participaci\u00f3n (i.e.,&nbsp;engagement) de los usuarios. Y los algoritmos ejecutan muy bien su prop\u00f3sito. Como ya escribimos en un post&nbsp;previo, los j\u00f3venes [&hellip;]<\/p>\n","protected":false},"author":515,"featured_media":1721,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_genesis_hide_title":false,"_genesis_hide_breadcrumbs":false,"_genesis_hide_singular_image":false,"_genesis_hide_footer_widgets":false,"_genesis_custom_body_class":"","_genesis_custom_post_class":"","_genesis_layout":"","footnotes":""},"categories":[37,11],"tags":[167],"class_list":{"0":"post-5052","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-opinion","8":"category-voces-expertas","9":"tag-jon-mikel-zabala","10":"entry"},"_links":{"self":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/posts\/5052","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/users\/515"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/comments?post=5052"}],"version-history":[{"count":1,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/posts\/5052\/revisions"}],"predecessor-version":[{"id":5053,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/posts\/5052\/revisions\/5053"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/media\/1721"}],"wp:attachment":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/media?parent=5052"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/categories?post=5052"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/eu\/wp-json\/wp\/v2\/tags?post=5052"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}