{"id":6146,"date":"2024-07-12T06:22:28","date_gmt":"2024-07-12T06:22:28","guid":{"rendered":"https:\/\/blogs.deusto.es\/viviendodeusto\/?p=6146"},"modified":"2024-09-02T09:38:56","modified_gmt":"2024-09-02T09:38:56","slug":"aitor-moreno-fdez-de-leceta-singularidad-se-saldra-la-inteligencia-artificial-de-nuestro-control","status":"publish","type":"post","link":"https:\/\/blogs.deusto.es\/viviendodeusto\/2024\/07\/12\/aitor-moreno-fdez-de-leceta-singularidad-se-saldra-la-inteligencia-artificial-de-nuestro-control\/","title":{"rendered":"Aitor Moreno Fdez. de Leceta: \u00abSingularidad: \u00bfse saldr\u00e1 la inteligencia artificial de nuestro control\u00bb"},"content":{"rendered":"\n

Art\u00edculo publicado en The Conversation (11\/04\/2024)<\/strong><\/p>\n\n\n

\n
\"\"
Profesor de Computaci\u00f3n Cu\u00e1ntica, Inteligencia Artificial<\/figcaption><\/figure>\n<\/div>\n\n\n

En f\u00edsica, una singularidad<\/a> es un punto en el espacio-tiempo donde se produce un evento que no cumple ninguna de las leyes f\u00edsicas previstas para el mismo.<\/p>\n\n\n\n

A nivel inform\u00e1tico, la singularidad ser\u00eda aquel evento en el que los sistemas no solo no se comportan como est\u00e1 previsto, sino que, s\u00fabitamente, ofrecen una respuesta no esperada basada en un criterio propio.<\/p>\n\n\n\n

En este punto, cualquier predicci\u00f3n sobre lo que ocurrir\u00e1 despu\u00e9s fallar\u00eda. Y cuando el ser humano no puede, ni siquiera, controlar de forma imaginaria los posibles escenarios futuros, se comienza a inquietar.<\/p>\n\n\n\n

Voces de alarma<\/h2>\n\n\n\n

Para algunos, no es algo lejano. Por ejemplo, el inform\u00e1tico futurista\u00a0Ray Kuzweil<\/a>, en una entrevista del\u00a02023<\/a>, aseguraba que el comienzo de la singularidad tendr\u00eda lugar en 2045.<\/p>\n\n\n\n

Mientras, investigadores de gran prestigio, como Geoffrey Hinton<\/a>, Yoshua Bengio<\/a> o Stuart Russell<\/a> aparecen en los medios de comunicaci\u00f3n alert\u00e1ndonos de un grave peligro emergente. Incluso uno de los fundadores de OpenAI, Sam Altman<\/a>, ha llegado a pedir ante un comit\u00e9<\/a> del Senado de los Estados Unidos regular los avances de la inteligencia artificial (IA). \u00bfRealmente es tan preocupante?<\/p>\n\n\n

\n
\"\"\/<\/a>
Este libro del inform\u00e1tico futurista Ray Kurzweil anunciaba, en 2006, que \u2018la singularidad est\u00e1 cerca\u2019. Penguin Random House<\/figcaption><\/figure>\n<\/div>\n\n\n

La consciencia en las m\u00e1quinas<\/h2>\n\n\n\n

La clave de esta inquietud no est\u00e1 tanto en la singularidad, sino en el paso previo necesario para llegar a ella: la creaci\u00f3n de una nueva inteligencia artificial general (AGI, por sus siglas en ingl\u00e9s).<\/p>\n\n\n\n

Nos referimos a aquella capaz de igualar a la inteligencia humana en sus procesos tanto cognitivos como relacionales, es decir, una IA capaz de dominar las 8 inteligencias m\u00faltiples<\/a>.<\/p>\n\n\n\n

De conseguirse, conformar\u00eda la tercera gran revoluci\u00f3n en la historia de la IA. Tanto es as\u00ed que existe una carrera geopol\u00edtica silenciosa al respecto de qui\u00e9n ser\u00e1 el primero en conseguirla.<\/p>\n\n\n\n

\u00bfInteligencia artificial con intenciones?<\/h2>\n\n\n\n

Aunque los sistemas de IA actuales, seg\u00fan algunos, puedan dar signos de cierta autoconsciencia \u2013como public\u00f3 Blake Lemoine<\/a> en sus \u201cconversaciones<\/a>\u201d con LamDa o desde Microsoft a trav\u00e9s de una publicaci\u00f3n<\/a>\u2013 las IA actuales, no \u201csaben\u201d o no son \u201cconscientes\u201d de lo que est\u00e1n generando.<\/p>\n\n\n\n

Son solo buenos predictores de p\u00edxeles o de palabras, en base a los \u00edtems anteriores, pero siempre en base a un entrenamiento. No pueden \u201creflexionar\u201d si esas inferencias son correctas, ni son capaces de formular hip\u00f3tesis sobre las razones de sus propias conclusiones.<\/p>\n\n\n\n

Por lo tanto, tampoco son conscientes de su posicionamiento subjetivo ante las mismas. Simplemente, son muy buenas dando respuestas, pero no son capaces de desarrollar las preguntas adecuadas. Todav\u00eda.<\/p>\n\n\n\n

La clave, imitar al cerebro humano<\/h2>\n\n\n
\n
\"\"\/<\/a>
El psic\u00f3logo Frank Rosenblatt (11 de julio de 1928-11 de julio de 1971) invent\u00f3 el perceptr\u00f3n, la primera neurona artificial. CC BY<\/a><\/figcaption><\/figure>\n<\/div>\n\n\n

La primera revoluci\u00f3n en el mundo de la IA vino dada por la implementaci\u00f3n simplificada, in silico<\/em>, del modelo de una neurona natural. En 1906, Frank Rosenblatt<\/a> dise\u00f1\u00f3 el \u201cperceptr\u00f3n<\/a>\u201d, la base de todas las redes artificiales actuales.<\/p>\n\n\n\n

La segunda revoluci\u00f3n en la IA vino, una vez m\u00e1s, al \u201ccopiar\u201d una topolog\u00eda de redes neuronales humanas en un programa. Esta vez fue Kunihiko Fukushima<\/a> quien, en 1980, inspirado en el modelo propuesto por los premios Nobel Hubel y Wiesel<\/a> (1959), desarroll\u00f3 la base de las actuales redes convolucionales<\/a> y profundas<\/a>.<\/p>\n\n\n\n

Fue el nacimiento de una revoluci\u00f3n tecnol\u00f3gica sin precedentes, mejorada de forma progresiva por parte de los inform\u00e1ticos Jan LeCun<\/a> y de Dan Ciresan<\/a>.<\/p>\n\n\n\n

Actualmente, dentro de la neurocomputaci\u00f3n<\/a>, se est\u00e1 trabajando en una segunda versi\u00f3n de estas redes, muy prometedoras, denominadas redes neuronales de impulsos<\/a> o spiking<\/em>.<\/p>\n\n\n\n

Para llegar a una IA general \u2013o AGI\u2013, debemos ir de la mano de la neurocomputaci\u00f3n, investigando sobre la topolog\u00eda de una red artificial capaz de generar reglas formales, matem\u00e1ticas, sem\u00e1nticas o ling\u00fc\u00edsticas, que formule hip\u00f3tesis sobre las respuestas obtenidas por la IA tradicional. Pero el nivel de computaci\u00f3n actual ya ha llegado a su l\u00edmite para este objetivo.<\/p>\n\n\n\n

\"\"\/<\/a>
La ley de Moore expresa que aproximadamente cada 2 a\u00f1os se duplica el n\u00famero de transistores en un microprocesador. Seofilo \/ Wikimedia Commons<\/a>, CC BY<\/a><\/figcaption><\/figure>\n\n\n\n

El mismo Moore<\/a> pronosticaba que, en 2021, una nueva tecnolog\u00eda vendr\u00eda a suplir su actual modelo de crecimiento computacional. Y acert\u00f3.<\/p>\n\n\n

\n
\"\"\/<\/a>
La esfera de Bloch es una representaci\u00f3n de un c\u00fabit, el bloque de construcci\u00f3n fundamental de los computadores cu\u00e1nticos. MuncherOfSpleens \/ Wikimedia Commons<\/a>, CC BY<\/a><\/figcaption><\/figure>\n<\/div>\n\n\n

Esta tecnolog\u00eda es la computaci\u00f3n cu\u00e1ntica<\/a>. Con solo 40 c\u00fabits<\/a>, podemos procesar por \u201cfuerza bruta\u201d y en paralelo tantos estados computacionales como neuronas tiene nuestro cerebro.<\/p>\n\n\n\n

Adem\u00e1s, ciertas teor\u00edas indican que, no solo a nivel at\u00f3mico, sino tambi\u00e9n a nivel cerebral, existe un comportamiento cu\u00e1ntico en la inferencia y comunicaci\u00f3n entre neuronas de zonas no adyacentes.<\/p>\n\n\n\n

El premio nobel de f\u00edsica Roger Penrose<\/a> es uno de los mayores defensores de esta teor\u00eda, que se ve complementada por otros enfoques, como la teor\u00eda de Kauffman<\/a> o la teor\u00eda de Bleck y Eccles<\/a>.<\/p>\n\n\n\n

\u00bfLos primeros signos de singularidad?<\/h2>\n\n\n\n

Existen ya primeras aproximaciones a la AGI reflexiva, como los sistemas MuZero<\/a> o LIDA<\/a>. Centros de investigaci\u00f3n muy punteros, como I3B (Iberm\u00e1tica Fundazioa<\/a>), llevan a\u00f1os investigando en el desarrollo de una AGI basada en la inclusi\u00f3n de una topolog\u00eda de grafos sem\u00e1nticos<\/a> dentro de sistemas profundos.<\/p>\n\n\n\n

Esto supone unir los mundos de la neurocomputaci\u00f3n, la computaci\u00f3n cu\u00e1ntica y la inteligencia artificial en un trabajo multidisciplinar entre neurocient\u00edficos, humanistas, antrop\u00f3logos, ingenieros, inform\u00e1ticos, cient\u00edficos de datos y programadores cu\u00e1nticos.<\/p>\n\n\n\n

En este contexto, una nueva AGI obligar\u00eda a implementar, necesariamente, una autoconsciencia artificial. El pa\u00eds que lo consiga liderar\u00e1 una cuarta revoluci\u00f3n tecnol\u00f3gica<\/a> consolidando una industria incre\u00edblemente rentable que lo posicionar\u00e1 como proveedor a nivel mundial. Espa\u00f1a posee de sobra capacidades y talento en IA, cu\u00e1ntica y en neurocomputaci\u00f3n para conseguirlo.<\/p>\n\n\n\n

Por otro lado, ser\u00e1 el nacimiento de nuevos sistemas capaces de ayudarnos a comprender mejor nuestro universo y a nosotros mismos, proponiendo preguntas que, quiz\u00e1s, jam\u00e1s nos hayamos hecho.<\/p>\n\n\n\n

\"\"\/<\/a>
El superordenador Hal-9000 en la serie Odisea espacial<\/em> analizando la conversaci\u00f3n y realizando hip\u00f3tesis sobre la misma. IMBD<\/figcaption><\/figure>\n\n\n\n

Entonces, seguramente, habremos llegado a una nueva singularidad. Nuestro propio af\u00e1n de avanzar cient\u00edficamente nos llevar\u00e1 a lograrlo.<\/p>\n","protected":false},"excerpt":{"rendered":"

Art\u00edculo publicado en The Conversation (11\/04\/2024) En f\u00edsica, una singularidad es un punto en el espacio-tiempo donde se produce un evento que no cumple ninguna de las leyes f\u00edsicas previstas para el mismo. A nivel inform\u00e1tico, la singularidad ser\u00eda aquel evento en el que los sistemas no solo no se comportan como est\u00e1 previsto, sino que, s\u00fabitamente, […]<\/p>\n","protected":false},"author":515,"featured_media":6147,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_genesis_hide_title":false,"_genesis_hide_breadcrumbs":false,"_genesis_hide_singular_image":false,"_genesis_hide_footer_widgets":false,"_genesis_custom_body_class":"","_genesis_custom_post_class":"","_genesis_layout":"","footnotes":""},"categories":[37,11],"tags":[165],"class_list":{"0":"post-6146","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-opinion","8":"category-voces-expertas","9":"tag-aitor-moreno","10":"entry"},"_links":{"self":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/6146","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/users\/515"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/comments?post=6146"}],"version-history":[{"count":1,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/6146\/revisions"}],"predecessor-version":[{"id":6149,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/posts\/6146\/revisions\/6149"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media\/6147"}],"wp:attachment":[{"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/media?parent=6146"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/categories?post=6146"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.deusto.es\/viviendodeusto\/wp-json\/wp\/v2\/tags?post=6146"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}