{"id":2914,"date":"2023-05-02T10:24:23","date_gmt":"2023-05-02T10:24:23","guid":{"rendered":"https:\/\/preblogs.deusto.es\/viviendodeusto\/?p=2914"},"modified":"2024-08-30T09:31:07","modified_gmt":"2024-08-30T09:31:07","slug":"ana-i-herran-cuando-el-jefe-se-esconde-detras-del-algoritmo","status":"publish","type":"post","link":"https:\/\/blogs.deusto.es\/viviendodeusto\/2023\/05\/02\/ana-i-herran-cuando-el-jefe-se-esconde-detras-del-algoritmo\/","title":{"rendered":"Ana I. Herr\u00e1n: \u00abCuando el jefe se esconde detr\u00e1s del algoritmo\u00bb"},"content":{"rendered":"\n

Art\u00edculo publicado en El Correo (01\/05\/2023)<\/strong><\/p>\n\n\n

\n
\"\"
Profesora de Derecho Civil<\/figcaption><\/figure>\n<\/div>\n\n\n

Grandes marcas de bebidas, empresas de distribuci\u00f3n, multinacionales del comercio electr\u00f3nico se han rendido a los encantos de los sistemas algor\u00edtmicos en la toma de algunas de sus decisiones empresariales; especialmente, de aquellas que afectan a las condiciones de trabajo y las relaciones laborales. Como sociedad convivimos con la inteligencia artificial, los algoritmos o el metaverso y no siempre reparamos en que algunas de las decisiones m\u00e1s valiosas para nuestra vida profesional pueden escapar al juicio humano, y haberse adoptado a partir de una simple f\u00f3rmula matem\u00e1tica.

Entonces, nada impedir\u00e1 que las organizaciones responsabilicen de las decisiones y actividades de gesti\u00f3n empresarial a los algoritmos que, como procesos inform\u00e1ticos, escapan a la ira del trabajador, ignoran la frustraci\u00f3n humana y permiten diluir nuestras demandas como trabajadoras. Se dir\u00e1 que nada tan objetivo e imparcial como aplicar inteligencia artificial en la toma de decisiones. Y la medida aplicada, laboral u otra, ser\u00e1 todo lo justa que quien ha dise\u00f1ado, programado y aplicado el algoritmo desee.<\/p>\n\n\n\n

Porque la tecnolog\u00eda no es neutra: tiene el sentido y la percepci\u00f3n de quien la dise\u00f1a y entrena, y sus resultados responden a criterios y valores que el ser humano ha proyectado. Sus deducciones podr\u00e1n ser objetivas, tal vez demasiado, y no estar\u00e1n exentas de sesgos, pero carecer\u00e1n de lo primordial: la valoraci\u00f3n de las circunstancias y el contexto personal, social y familiar que rodea y determina la vida y las actuaciones de los seres humanos a los que el algoritmo se aplica.<\/p>\n\n\n\n

Qui\u00e9n merece el ascenso, qui\u00e9n obtendr\u00e1 una mejora salarial, qu\u00e9 trabajador logra los horarios m\u00e1s favorables ser\u00e1n decisiones que si el Derecho no interviene, pronto quedar\u00e1n exclusivamente en manos de los algoritmos.<\/p>\n\n\n\n

La mirada \u00e9tica centra sus demandas en la necesidad de transparencia y explicabilidad del algoritmo, de respeto a la privacidad y eliminaci\u00f3n de discriminaci\u00f3n. Y este debate \u00e9tico, alimentado durante a\u00f1os, no termina de cristalizar en una respuesta normativa que refuerce jur\u00eddicamente estos principios y disponga los instrumentos legales que aseguren el respeto a los derechos humanos en la utilizaci\u00f3n de inteligencia artificial.

El legislador, nacional y europeo, va avanzando a peque\u00f1os pasos, m\u00ednimos \u00e9xitos jur\u00eddicos, que marcan el camino legal. As\u00ed, por ejemplo, en el \u00e1mbito nacional, el Estatuto de los Trabajadores reconoce desde 2021 que la empresa debe informar de los \u00abpar\u00e1metros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo\u00bb; y desde 2022 apunta la Ley Integral para la Igualdad de Trato que \u00ablas empresas promover\u00e1n el uso de una inteligencia artificial \u00e9tica, confiable y respetuosa con los derechos fundamentales\u00bb.<\/p>\n\n\n\n

En Europa seguimos esperando una ley que ordene y gu\u00ede la utilizaci\u00f3n de inteligencia artificial, y defina los mecanismos de licitud en la aplicaci\u00f3n de sistemas algor\u00edtmicos. Parece dif\u00edcil justificar en este tiempo la ausencia de un marco normativo; tal vez, ayuden a explicar este abandono el temor a frenar el liderazgo europeo en la inteligencia artificial y la dificultad jur\u00eddica de sostener el equilibrio de fuerzas que concilie el avance de esta tecnolog\u00eda con los derechos humanos.<\/p>\n\n\n\n

Afortunadamente, este retraso no ha impedido a los jueces en La Haya, Bolonia o Espa\u00f1a sancionar la aplicaci\u00f3n de algoritmos ocultos en algunas decisiones injustas, socialmente discriminatorias o laboralmente inaceptables. Frank, SyRI o Watson son nombres que probablemente no les digan nada; sin embargo, bajo estos al\u00edas se esconden algunos de los m\u00e1s c\u00e9lebres algoritmos. Curiosa pr\u00e1ctica la de asignar nombre a estos sistemas, en un claro intento por humanizar y dotar de personalidad a estos procesos inform\u00e1ticos. \u00bfY ello por qu\u00e9? \u00bfPara qu\u00e9? No olvidemos la aspiraci\u00f3n del Parlamento Europeo de conferir personalidad \u00abcibern\u00e9tica\u00bb a esos sistemas, y con ello, reconocer su capacidad para ser titulares de derechos, y c\u00f3mo no, de obligaciones.

Los Estados avanzan en sus estrategias sobre inteligencia artificial y, entretanto, los ciudadanos anhelamos que el Derecho fuerce la auditabilidad de los algoritmos, obligue a su registro y determine la responsabilidad, civil o penal, cuando su aplicaci\u00f3n ocasione da\u00f1os y perjuicios. Tambi\u00e9n confiamos en que la tecnolog\u00eda mantendr\u00e1 al ser humano en el centro de su desarrollo, y el algoritmo ser\u00e1 capaz de favorecer la inclusi\u00f3n, de anticiparse y auxiliar las necesidades humanas y, en definitiva, de contribuir a una sociedad m\u00e1s justa e igualitaria.<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Art\u00edculo publicado en El Correo (01\/05\/2023) Grandes marcas de bebidas, empresas de distribuci\u00f3n, multinacionales del comercio electr\u00f3nico se han rendido a los encantos de los sistemas algor\u00edtmicos en la toma de algunas de sus decisiones empresariales; especialmente, de aquellas que afectan a las condiciones de trabajo y las relaciones laborales. Como sociedad convivimos con la […]<\/p>\n","protected":false},"author":515,"featured_media":1437,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_genesis_hide_title":false,"_genesis_hide_breadcrumbs":false,"_genesis_hide_singular_image":false,"_genesis_hide_footer_widgets":false,"_genesis_custom_body_class":"","_genesis_custom_post_class":"","_genesis_layout":"","footnotes":""},"categories":[37,11],"tags":[136],"class_list":{"0":"post-2914","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-opinion","8":"category-voces-expertas","9":"tag-ana-isabel-herran","10":"entry"},"_links":{"self":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/2914","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/users\/515"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/comments?post=2914"}],"version-history":[{"count":5,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/2914\/revisions"}],"predecessor-version":[{"id":2919,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/2914\/revisions\/2919"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media\/1437"}],"wp:attachment":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media?parent=2914"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/categories?post=2914"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/tags?post=2914"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}