{"id":336,"date":"2016-05-13T12:14:37","date_gmt":"2016-05-13T10:14:37","guid":{"rendered":"https:\/\/preblogs.deusto.es\/bigdata\/?p=336"},"modified":"2016-05-13T12:14:37","modified_gmt":"2016-05-13T10:14:37","slug":"cuando-los-algoritmos-se-convierten-en-cajas-negras","status":"publish","type":"post","link":"https:\/\/blogs.deusto.es\/bigdata\/cuando-los-algoritmos-se-convierten-en-cajas-negras\/","title":{"rendered":"Cuando los algoritmos se convierten en cajas negras"},"content":{"rendered":"

Les voy a recomendar un libro que me ha parecido realmente espectacular: \u00abThe Black Box Society: The Secret Algorithms That Control Money and Information<\/a>\u00ab.<\/p>\n

\"Fuente:<\/a>
Fuente: Amazon<\/figcaption><\/figure>\n

Empecemos\u00a0por lo b\u00e1sico, definiendo qu\u00e9 son los algoritmos y por qu\u00e9 hablamos ahora<\/strong> de \u00abcajas negras\u00bb. Los algoritmos b\u00e1sicamente es lo que hacemos los inform\u00e1ticos cuando nos ponemos a crear una serie de reglas abstractas para transformar datos<\/strong>. Es decir, cogemos una fuente de informaci\u00f3n o datos, y dado que no est\u00e1 expresado ni representan aquello que queremos obtener, dise\u00f1a\u00f1os y desarrollamos una serie de reglas que permiten encontrar, expresar y representar aquello que est\u00e1bamos buscando.<\/p>\n

Adem\u00e1s, desde que hemos introducido el paradigma Big Data, los algoritmos tambi\u00e9n buscan, patrones, relaciones, etc<\/strong>. Dado que cada vez codificamos y automatizamos un mayor n\u00famero de nuestras conductas, deseos, emociones, etc. en entornos digitales, producimos una mayor cantidad de datos. Y m\u00e1s interesante resulta para muchas industrias desarrollar algoritmos para encontrar inteligencia que transformar en negocio.<\/p>\n

Por ello, hoy en d\u00eda, tenemos muchos, much\u00edsimos algoritmos.<\/strong> Adem\u00e1s, cada vez m\u00e1s sofisticados<\/strong>.\u00a0Junto con el hardware y las redes, constituyen los ejes clave sobre los que pivota esta transformaci\u00f3n digital de muchas industrias. Estamos ya ante las m\u00e1quinas m\u00e1s sofisticadas del planeta. Lo cual est\u00e1 muy bien: m\u00e1s seguridad, optimizaci\u00f3n de las rutas para evitar perder tiempo, frenos autom\u00e1ticos, etc. 100 millones de l\u00edneas de c\u00f3digo incorporan los nuevos veh\u00edculos (frente a las 60 millones de l\u00edneas que tiene Facebook y las 5 millones de l\u00edneas que tiene el colisionador de hadrones, para que se hagan a la idea de la complejidad de la que habalmos). Estamos ante las primeras m\u00e1quinas que est\u00e1n alcanzando los l\u00edmites biol\u00f3gicos de la complejidad<\/a>.<\/p>\n

El problema, adem\u00e1s de su complejidad, es que fueron concebidos por una serie de personas, que segu\u00edan alg\u00fan objetivo, no siempre claro.<\/strong> La intencionalidad<\/strong> del ser humano es inherente a lo que hacemos. Actuamos en base a incentivos y deseos. Por lo tanto, la pregunta\u00a0que nos solemos hacer cuando pensamos en las cajas negras de los algoritmos pasan por su reingenier\u00eda. Es decir, saber cu\u00e1les son las reglas que los gobiernan.<\/strong><\/p>\n

\"\"<\/a>
Algoritmos de caja negra (Fuente: https:\/\/es.wikipedia.org\/wiki\/Caja_negra_(sistemas)#\/media\/File:Blackbox3D.png)<\/figcaption><\/figure>\n

Cuando no sabemos qu\u00e9 reglas son \u00e9stas, hablamos de algoritmos de \u00abcaja negra\u00bb. No sabemos c\u00f3mo funcionan, cu\u00e1l es el criterio con el que lo hacen,\u00a0con qu\u00e9 objetivos fueron concebidos, etc. Por ello,\u00a0el libro que os recomendaba al comienzo, sugiere que comencemos a discutir tambi\u00e9n sobre\u00a0el \u00abaccountability\u00bb o \u00abescrutinio\u00bb de los algoritmos. En una era en la que las apuestas<\/strong> contras las divisas de los pa\u00edses, los coches<\/strong> o servicios p\u00fablicos<\/strong>\u00a0son aut\u00f3nomos, o personas o sistemas de Big Data que toman decisiones de sanidad son codificadas en algoritmos, no podemos esquivar esta conversaci\u00f3n.<\/strong><\/p>\n

En este sentido, el libro de Pasquale, introduce la \u00ab\u00c9tica de la tecnolog\u00eda<\/strong>\u00bb bajo tres perspectivas que debieran ser consideras cuando construimos algoritmos:<\/p>\n