{"id":2680,"date":"2023-04-03T15:14:59","date_gmt":"2023-04-03T15:14:59","guid":{"rendered":"https:\/\/preblogs.deusto.es\/viviendodeusto\/?p=2680"},"modified":"2024-09-02T09:59:37","modified_gmt":"2024-09-02T09:59:37","slug":"la-catedratica-de-deusto-helena-matute-firma-junto-a-elon-musk-y-otros-cientificos-una-carta-para-el-cese-inmediato-de-los-experimentos-con-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/blogs.deusto.es\/viviendodeusto\/2023\/04\/03\/la-catedratica-de-deusto-helena-matute-firma-junto-a-elon-musk-y-otros-cientificos-una-carta-para-el-cese-inmediato-de-los-experimentos-con-inteligencia-artificial\/","title":{"rendered":"La catedr\u00e1tica de Deusto Helena Matute firma junto a Elon Musk y otros cient\u00edficos una carta para el cese \u00abinmediato\u00bb de los experimentos con inteligencia artificial"},"content":{"rendered":"\n

La experta ha advertido en el programa ‘Hora 25’ de Cadena Ser que \u00abla democracia est\u00e1 en peligro\u00bb<\/em><\/p>\n\n\n\n

Art\u00edculo publicado en Cadena Ser (29\/03\/2023)<\/strong><\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Un grupo de empresarios del sector tecnol\u00f3gico, expertos y pol\u00edticos, entre ellos el controvertido empresario Elon Musk, han solicitado en una carta de tono apocal\u00edptico que se suspendan durante seis meses los experimentos con inteligencia artificial<\/a> muy potente porque consideran que \u00abpueden plantear profundos riesgos para la sociedad y la humanidad\u00bb. \u00abLa sociedad ha hecho una pausa en otras tecnolog\u00edas con efectos potencialmente catastr\u00f3ficos en la sociedad. Podemos hacerlo aqu\u00ed. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados\u00bb, dice la carta abierta publicada por el organismo sin \u00e1nimo de lucro Future of Life Institute.<\/p>\n\n\n\n

El director ejecutivo de Tesla, Elon Musk, el cofundador de Apple Steve Wozniak, los investigadores estadounidenses Yoshua Bengio, Stuart Russel o los espa\u00f1oles Carles Sierra y Ram\u00f3n L\u00f3pez De Mantaras son algunos de los firmantes de esta carta abierta en la que advierten de los supuestos peligros de la IA si no es acompa\u00f1ada de una gesti\u00f3n y una planificaci\u00f3n adecuadas.<\/p>\n\n\n\n

\u00abLa IA avanzada podr\u00eda representar un cambio profundo en la historia de la vida en la tierra, y deber\u00eda planificarse y gestionarse con el cuidado y los recursos correspondientes\u00bb, asegura la misiva que sostiene, adem\u00e1s, \u00abque los laboratorios de IA<\/a> se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez m\u00e1s poderosas\u00bb.<\/p>\n\n\n\n

Miedos apocal\u00edpticos<\/h3>\n\n\n\n

Incluso aseguran que \u00abnadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable\u00bb a estas mentes digitales. Los firmantes enarbolan todos los miedos y peligros que en los \u00faltimos meses han resonado en foros, art\u00edculos y conversaciones cotidianas, y lo hacen con un tono apocal\u00edptico.<\/p>\n\n\n\n

\u00ab\u00bfDebemos desarrollar mentes no humanas que podr\u00edan acabar super\u00e1ndonos en n\u00famero, ser m\u00e1s inteligentes que nosotros, que nos dejen obsoletos y que nos reemplacen? \u00bfDeber\u00edamos arriesgarnos a perder el control de nuestra civilizaci\u00f3n?, se preguntan, antes de concluir: \u00abTales decisiones no deben delegarse en l\u00edderes tecnol\u00f3gicos no electos\u00bb.<\/p>\n\n\n\n

En este sentido, piden que los desarrolladores trabajen con los legisladores para acelerar un sistema legal s\u00f3lido en torno a la IA<\/a>. Asimismo, vuelven a subrayar que los sistemas potentes de Inteligencia Artificial \u00fanicamente deben desarrollarse cuando haya seguridad de que sus efectos son positivos y sus riesgos son manejables.<\/p>\n\n\n\n

Piden la intervenci\u00f3n de los gobiernos<\/h3>\n\n\n\n

\u00abHacemos un llamamiento a todos los laboratorios de IA para que pausen de inmediato durante al menos seis meses el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4\u00bb, dice el comunicado, que pide la intervenci\u00f3n de los gobiernos para imponer esta moratoria en caso de que las partes implicadas se nieguen a la suspensi\u00f3n temporal de las investigaciones.<\/p>\n\n\n\n

GPT, siglas en ingl\u00e9s del t\u00e9rmino transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho m\u00e1s avanzado que los modelos similares anteriores.<\/p>\n\n\n\n

El laboratorio OpenAI define el GPT-4 como su \u00ab\u00faltimo hito en el esfuerzo para ampliar el aprendizaje profundo\u00bb. Este nuevo sistema acepta la recepci\u00f3n tanto de textos e im\u00e1genes, y produce texto. Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales aunque \u00abmuestra un desempe\u00f1o a nivel humano en varios puntos de referencia acad\u00e9micos y profesionales\u00bb.<\/p>\n\n\n\n

La carta abierta propone que durante estos seis meses de pausa, los laboratorios de Inteligencia Artificial y los expertos independientes \u00abdesarrollen e implementen conjuntamente un conjunto de protocolos de seguridad compartidos para el dise\u00f1o y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados ??por expertos externos independientes\u00bb.<\/p>\n\n\n\n

Finalmente, piden que la investigaci\u00f3n y el desarrollo de la IA se reenfoque en hacer que \u00ablos sistemas potentes y de \u00faltima generaci\u00f3n sean m\u00e1s precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales\u00bb.<\/p>\n\n\n\n

\u00abEst\u00e1 en peligro la democracia\u00bb, dice una de las firmantes de la carta<\/h3>\n\n\n\n

En Hora 25 la catedr\u00e1tica de Psicolog\u00eda Experimental de la Universidad de Deusto y experta en la relaci\u00f3n de los humanos con la Inteligencia Artificial Helena Matute<\/strong> se ha mostrado especialmente cautelosa con la rapidez a la que va el desarrollo de estas innovaciones. \u00abSon tecnolog\u00edas que a d\u00eda de hoy pueden hacer muchas cosas. Est\u00e1n siendo un foco de desinformaci\u00f3n tremendo, lo que est\u00e1 en peligro es la democracia\u00bb, sostiene la especialista, que tambi\u00e9n es una de las firmantes de la carta.<\/p>\n\n\n\n

\u00abEn Europa llevan a\u00f1os trabajando en una normativa sobre todo eso, porque a partir de ahora lo que viene es muy gordo. Hay que darle tiempo a los pol\u00edticos pero tambi\u00e9n exigirles que act\u00faen, porque estamos en manos de muy pocas multinacionales\u00bb, dice Matute. \u00abEst\u00e1 muy bien que los principales empresarios de multinacionales que se dedican a esto se unan a la carta. Menos mal que lo ha firmado esta gente porque es la \u00fanica forma que esto pueda parar durante un tiempo para ver qu\u00e9 hacemos\u00bb, concluye la catedr\u00e1tica.<\/p>\n\n\n\n

Accede al podcast<\/strong><\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La experta ha advertido en el programa ‘Hora 25’ de Cadena Ser que \u00abla democracia est\u00e1 en peligro\u00bb Art\u00edculo publicado en Cadena Ser (29\/03\/2023) Un grupo de empresarios del sector tecnol\u00f3gico, expertos y pol\u00edticos, entre ellos el controvertido empresario Elon Musk, han solicitado en una carta de tono apocal\u00edptico que se suspendan durante seis meses […]<\/p>\n","protected":false},"author":515,"featured_media":2687,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_genesis_hide_title":false,"_genesis_hide_breadcrumbs":false,"_genesis_hide_singular_image":false,"_genesis_hide_footer_widgets":false,"_genesis_custom_body_class":"","_genesis_custom_post_class":"","_genesis_layout":"","footnotes":""},"categories":[45,11],"tags":[172],"class_list":{"0":"post-2680","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-entrevistas","8":"category-voces-expertas","9":"tag-helena-matute","10":"entry"},"_links":{"self":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/2680","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/users\/515"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/comments?post=2680"}],"version-history":[{"count":6,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/2680\/revisions"}],"predecessor-version":[{"id":2692,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/2680\/revisions\/2692"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media\/2687"}],"wp:attachment":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media?parent=2680"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/categories?post=2680"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/tags?post=2680"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}