{"id":9176,"date":"2025-06-18T11:32:05","date_gmt":"2025-06-18T11:32:05","guid":{"rendered":"https:\/\/blogs.deusto.es\/viviendodeusto\/?p=9176"},"modified":"2025-07-01T06:47:22","modified_gmt":"2025-07-01T06:47:22","slug":"paco-bree-agentes-artificiales-decisiones-humanas","status":"publish","type":"post","link":"https:\/\/blogs.deusto.es\/viviendodeusto\/2025\/06\/18\/paco-bree-agentes-artificiales-decisiones-humanas\/","title":{"rendered":"Paco Bree: \u00abAgentes artificiales, decisiones humanas\u00bb"},"content":{"rendered":"\n

Art\u00edculo publicado en El Espa\u00f1ol (18\/06\/2025)<\/strong><\/p>\n\n\n

\n
\"\"
Profesor de Deusto Business School<\/figcaption><\/figure><\/div>\n\n\n

El\u00a090% de las empresas\u00a0cree que la\u00a0inteligencia artificial ag\u00e9ntica\u00a0ser\u00e1 una fuente clave de\u00a0ventaja competitiva\u00a0antes de 2030. Pero a medida que los\u00a0agentes aut\u00f3nomos\u00a0toman decisiones cada vez m\u00e1s complejas por nosotros, optimizando procesos, ajustando estrategias, redefiniendo operaciones, aparece una pregunta m\u00e1s inquietante:\u00a0\u00bfqui\u00e9n tomar\u00e1 las decisiones m\u00e1s importantes cuando la singularidad est\u00e9 cerca?<\/p>\n\n\n\n

En las \u00faltimas d\u00e9cadas, hemos trasladado enormes cantidades de decisiones desde el plano humano hacia el algor\u00edtmico. Desde qu\u00e9 m\u00fasica escuchar hasta c\u00f3mo estructurar cadenas log\u00edsticas globales, una parte creciente de nuestras elecciones est\u00e1 mediada o directamente gestionada por sistemas autom\u00e1ticos. La era de los\u00a0agentes virtuales, seg\u00fan el World Economic Forum, ir\u00e1 a\u00fan m\u00e1s lejos:\u00a0agentes simples, basados en reglas;\u00a0agentes modelo, que simulan su entorno;\u00a0agentes con objetivos, que priorizan rutas posibles;\u00a0agentes utilitarios, que eligen seg\u00fan el beneficio esperado;\u00a0agentes que aprenden; e incluso\u00a0sistemas jer\u00e1rquicos\u00a0que coordinan m\u00faltiples agentes entre s\u00ed.<\/p>\n\n\n\n

El problema no es solo t\u00e9cnico. Es\u00a0filos\u00f3fico, psicol\u00f3gico, biol\u00f3gico y tambi\u00e9n espiritual. Porque\u00a0decidir no es simplemente optimizar. Decidir es elegir entre futuros posibles. Es asumir un riesgo, aceptar una p\u00e9rdida, abrazar una hip\u00f3tesis. Y, a veces, hacerlo sin garant\u00eda alguna. Durante siglos, los humanos han desarrollado sistemas para tomar decisiones:\u00a0or\u00e1culos, consejos tribales, algoritmos, tableros de ajedrez, modelos probabil\u00edsticos, comit\u00e9s \u00e9ticos, intuiciones profundas. En cada \u00e9poca, esas herramientas reflejaban una visi\u00f3n de mundo. Pero ahora estamos frente a un umbral radical:\u00a0crear agentes que decidan no con nosotros, sino en nuestro lugar.<\/p>\n\n\n\n

\u00bfQu\u00e9 implica eso?\u00a0Tomar decisiones es un acto biol\u00f3gico.\u00a0Lo hacen los humanos, s\u00ed, pero tambi\u00e9n los lobos, las hormigas, los cuervos y los delfines. En manadas de elefantes o en bancos de peces, se toman decisiones complejas sobre migraciones, defensa o alimento. La mayor\u00eda no responde a c\u00e1lculos racionales, sino a circuitos profundos de\u00a0instinto, aprendizaje colectivo, se\u00f1ales qu\u00edmicas, presi\u00f3n social o memoria gen\u00e9tica. En los primates superiores, como los bonobos o los gorilas, se observa incluso deliberaci\u00f3n jer\u00e1rquica, estrategias sociales y formas b\u00e1sicas de negociaci\u00f3n.\u00a0Lo que llamamos instinto no es m\u00e1s que una inteligencia embebida en generaciones de prueba y error, afinada en los ritmos de la supervivencia.\u00a0\u00bfPuede una IA captar eso?<\/p>\n\n\n\n

<\/a>La\u00a0psicolog\u00eda cognitiva\u00a0ha intentado mapear c\u00f3mo decidimos los humanos. Daniel Kahneman dividi\u00f3 nuestro pensamiento en dos sistemas: uno\u00a0r\u00e1pido, emocional e intuitivo; otro\u00a0lento, anal\u00edtico y deliberado. Las mejores decisiones surgen no de elegir uno sobre otro, sino de\u00a0combinarlos sabiamente. Pero incluso esta dualidad no agota el misterio. Hay decisiones que brotan de una parte no del todo consciente. Un presentimiento. Una imagen. Una resonancia inexplicable. Algo parecido al inconsciente freudiano, o al\u00a0inconsciente colectivo de Jung, donde laten arquetipos que nos empujan m\u00e1s all\u00e1 del c\u00e1lculo. El fil\u00f3sofo\u00a0Bernard Stiegler\u00a0propuso que la tecnolog\u00eda es siempre una\u00a0\u00abprolongaci\u00f3n de la memoria\u00bb, pero tambi\u00e9n una\u00a0externalizaci\u00f3n del juicio. Cuanto m\u00e1s decidimos con m\u00e1quinas, m\u00e1s delegamos en ellas el proceso mismo de atribuir valor. Y eso nos cambia. No solo como usuarios, sino como especie.<\/p>\n\n\n\n

La\u00a0psicolog\u00eda evolutiva\u00a0ha explorado durante a\u00f1os c\u00f3mo el\u00a0miedo, el deseo, la afiliaci\u00f3n y la curiosidad\u00a0moldean nuestras elecciones. La\u00a0neurociencia afectiva, por su parte, demuestra que\u00a0sin emoci\u00f3n no hay decisi\u00f3n funcional. Los pacientes con da\u00f1os en ciertas regiones cerebrales pueden razonar l\u00f3gicamente, pero no decidir.<\/p>\n\n\n\n

\u00bfQu\u00e9 ocurre entonces cuando un agente artificial, que no siente, decide?\u00a0\u00bfBajo qu\u00e9 criterios valora? \u00bfQu\u00e9 entiende por p\u00e9rdida? \u00bfPor esperanza? \u00bfPor sacrificio?\u00a0Aqu\u00ed entra la\u00a0\u00e9tica. Porque los agentes est\u00e1n resolviendo dilemas donde hay vidas en juego: en la\u00a0medicina personalizada, en los\u00a0sistemas de justicia predictiva, en la\u00a0conducci\u00f3n aut\u00f3noma. Y sin embargo, no tienen experiencia.\u00a0No conocen el dolor. No sufren consecuencias.\u00a0Como advirti\u00f3 la fil\u00f3sofa\u00a0Shannon Vallor, una IA puede operar con datos morales, pero no vivir una vida moral.<\/p>\n\n\n\n

La\u00a0filosof\u00eda de la acci\u00f3n, desde Arist\u00f3teles hasta Paul Ricoeur, ha insistido en que\u00a0actuar es siempre interpretar. Y\u00a0decidir es un tipo de narraci\u00f3n. Nos contamos a nosotros mismos por qu\u00e9 hacemos lo que hacemos.\u00a0Sin relato, no hay agencia.\u00a0La inteligencia artificial puede elegir, pero \u00bfpuede narrar su elecci\u00f3n? La\u00a0teor\u00eda de sistemas\u00a0ha mostrado que las decisiones nunca ocurren en vac\u00edo. Son funciones de un entorno. Pero los entornos cambian. Y los humanos tambi\u00e9n. Un agente puede optimizar una acci\u00f3n para hoy.\u00a0\u00bfPero puede comprender su impacto en diez a\u00f1os? \u00bfEn generaciones futuras? \u00bfEn t\u00e9rminos simb\u00f3licos?<\/p>\n\n\n\n

Las\u00a0religiones y mitolog\u00edas\u00a0han situado siempre la capacidad de decidir como un acto casi sagrado. El\u00a0libre albedr\u00edo\u00a0es el n\u00facleo de muchas tradiciones. \u00bfQu\u00e9 sucede cuando nuestras elecciones empiezan a ser\u00a0predichas y optimizadas por modelos que nos conocen mejor que nosotros mismos?\u00a0\u00bfD\u00f3nde queda la libertad si todo es calculable? Desde la\u00a0econom\u00eda conductual,\u00a0Richard Thaler y Cass Sunstein\u00a0hablaron de\u00a0nudge, esos empujones sutiles que cambian nuestras decisiones sin prohibir opciones. Pero en el nuevo ecosistema ag\u00e9ntico,\u00a0el empuj\u00f3n se convierte en gui\u00f3n.\u00a0\u00bfSabremos cu\u00e1ndo decidimos\u2026 o cu\u00e1ndo fuimos decididos?<\/p>\n\n\n\n

Todo esto plantea una\u00a0urgencia radical: si los agentes artificiales est\u00e1n llamados a decidir, nosotros debemos\u00a0decidir qu\u00e9 tipo de humanos queremos ser.\u00a0Y qu\u00e9 tipo de humanidad queremos preservar. Quiz\u00e1 la respuesta no est\u00e9 solo en resistir la IA, sino en\u00a0profundizar lo que significa decidir desde la conciencia.\u00a0Recuperar el\u00a0arte de pensar con lentitud.\u00a0De\u00a0preguntar sin prisa.\u00a0De\u00a0equivocarse con sentido.\u00a0De\u00a0intuir sin pruebas.\u00a0De\u00a0juzgar con empat\u00eda.\u00a0De\u00a0actuar sin saber del todo.\u00a0Porque ah\u00ed,\u00a0en ese lugar no replicable, habita la diferencia humana.<\/p>\n\n\n\n

El fil\u00f3sofo franc\u00e9s\u00a0Edgar Morin\u00a0dec\u00eda que\u00a0\u00abvivir es navegar en un oc\u00e9ano de incertidumbres a trav\u00e9s de archipi\u00e9lagos de certeza\u00bb. Los agentes artificiales buscan cartografiar el oc\u00e9ano. Nosotros, en cambio, seguimos habitando sus corrientes invisibles. Y quiz\u00e1s por eso el verdadero reto no sea hacer m\u00e1s inteligentes a las m\u00e1quinas, sino\u00a0m\u00e1s humanos a los humanos.\u00a0Porque cuando llegue la singularidad, si es que llega,\u00a0no competiremos con la IA por su capacidad de c\u00e1lculo, sino por nuestra capacidad de elegir con alma.\u00a0Esa ser\u00e1 nuestra ventaja m\u00e1s profunda. Y tambi\u00e9n, nuestra responsabilidad m\u00e1s alta.<\/p>\n\n\n\n

Para los l\u00edderes empresariales, este no es un dilema abstracto. Es una invitaci\u00f3n urgente:\u00a0crear entornos donde la toma de decisiones no sea solo eficiente, sino tambi\u00e9n consciente, \u00e9tica y profundamente humana.\u00a0Porque en ese margen entre lo previsible y lo valiente es donde se define el futuro.<\/p>\n","protected":false},"excerpt":{"rendered":"

Art\u00edculo publicado en El Espa\u00f1ol (18\/06\/2025) El\u00a090% de las empresas\u00a0cree que la\u00a0inteligencia artificial ag\u00e9ntica\u00a0ser\u00e1 una fuente clave de\u00a0ventaja competitiva\u00a0antes de 2030. Pero a medida que los\u00a0agentes aut\u00f3nomos\u00a0toman decisiones cada vez m\u00e1s complejas por nosotros, optimizando procesos, ajustando estrategias, redefiniendo operaciones, aparece una pregunta m\u00e1s inquietante:\u00a0\u00bfqui\u00e9n tomar\u00e1 las decisiones m\u00e1s importantes cuando la singularidad est\u00e9 cerca? […]<\/p>\n","protected":false},"author":515,"featured_media":237,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_genesis_hide_title":false,"_genesis_hide_breadcrumbs":false,"_genesis_hide_singular_image":false,"_genesis_hide_footer_widgets":false,"_genesis_custom_body_class":"","_genesis_custom_post_class":"","_genesis_layout":"","footnotes":""},"categories":[37,11],"tags":[110],"class_list":{"0":"post-9176","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-opinion","8":"category-voces-expertas","9":"tag-paco-bree","10":"entry"},"_links":{"self":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/9176","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/users\/515"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/comments?post=9176"}],"version-history":[{"count":2,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/9176\/revisions"}],"predecessor-version":[{"id":9219,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/9176\/revisions\/9219"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media\/237"}],"wp:attachment":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media?parent=9176"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/categories?post=9176"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/tags?post=9176"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}