La IA en la Industria 4.0

A la hora de pensar en la relevancia que tiene la inteligencia artificial y el machine learning en la industria no podemos parar de escuchar cómo la industria 4.0 será la (r-)evolución de la automatización industrial que estará mucho más instrumentalizada, automatizada y monitorizada de forma más eficiente y constantemente mejor optimizada basándose en la idea de recoger datos y procesarlos a través de algoritmos de machine learning [1].

La industria 4.0 es la promesa de la combinación de técnicas avanzadas de producción y de las operaciones con tecnologías inteligentes que se integran en las organizaciones, personas y activos. Es importante destacar que se da gracias a la aparición de nuevas tecnologías como la robótica, analítica de datos, la inteligencia artificial, tecnologías cognitivas y el Internet de las cosas (IoT) [2].

En esta nueva revolución industrial se apuesta por proporcionar acceso en tiempo real a los datos y que la inteligencia de negocio transforme la forma en la que se llevan a cabo los negocios. Integrar digitalmente los datos desde múltiples fuentes y localizaciones diferentes lo que da lugar a llevar a cabo negocios en un ciclo continuo. En este ciclo se impulsa sobre todo por un flujo de información cíclico entre los mundos físicos y digitales a través de una serie de pasos conocidos como PDP (physical-to-digital-to physical):

• Del mundo físico al digital: La información del mundo físico se captura y mediante esa captura se realiza un registro digital.
• De digital a digital: Mediante el uso de la analítica de datos avanzada y la inteligencia artificial la información que se ha recogido en el paso anterior se analiza y se intenta obtener información que se considere relevante.
• Del mundo digital al físico: Finalmente, se aplican una serie algoritmos para poder traducir las decisiones que se han realizado en el paso anterior del mundo digital a datos efectivos,para de esta forma efectuar acciones y poder realizar cambios en el mundo físico. 

Me parece muy interesante haber visto cómo se puede integrar la Inteligencia Artificial dentro de la Industria 4.0, pero teniendo en cuenta que nos encontramos en una asignatura de auditoría. ¿Cómo se puede auditar esta nueva revolución industrial?

Al introducir todas estas nuevas tecnologías que trae la industria 4.0, como pueden ser la automatización robotica de procesos o la inteligencia artificial hay que tener en cuenta y valorar el impacto que pueden llegar a tener en una empresa, incluyendo los nuevos riesgos que la inteligencia artificial pueden traer (los cuales se hablarán de ellos en el siguiente post). Desde la auditoría se debe estimular la función de asesoramiento considerando estos factores de riesgo, con el objetivo de mantener una objetividad, además de esto, se deben hacer esfuerzos para monitorizar los posibles riesgos emergentes y el desarrollo de estrategias como soluciones a todos los posibles riesgos que puedan ocurrir. [3]

Uno de los principales problemas que pueden existir a la hora de auditar un sistema de Inteligencia Artificial que use Machine Learning, es la carencia e incapacidad que existe de conocer el razonamiento por el que da ciertos resultados, este concepto se conoce como “black box” o caja negra en castellano. Por ejemplo, el otro día el profesor Pablo Campo en la asignatura de sistemas de información empresariales, nos ponía el ejemplo de la contratación de un seguro de coche en el que aunque a simple vista una persona podría cumplir todos los requisitos para un seguro, pero por razones “X” el sistema se lo deniega y nos decía que lo peor de todo es que esa IA puede hacer un mejor trabajo que la persona que le está atendiendo. ¿Como se puede auditar un sistema que produce resultados sin que las propias personas que las crean no sean capaces de saber por qué los produce? 

Para evitar este tipo de eventos lo principal sería tener un control de todos los factores de riesgo posibles, que pueden variar desde el control de si se ha añadido cierto “bias” o parcialidad en los algoritmos de inteligencia artificial, hasta controlar la procedencia e incluso la fiabilidad de los datos que se utilizan. Aunque como se ha dicho anteriormente todos estos factores de riesgo y muchos más se plantean analizar en mucho mayor detalle en el siguiente post.

Referencias:

[1] https://oceano.biblioteca.deusto.es/primo-explore/fulldisplay?docid=TN_cdi_crossref_primary_10_1145_3194944&context=PC&vid=deusto&lang=es_ES&search_scope=default_scope&adaptor=primo_central_multiple_fe&tab=default_tab&query=any,contains,machine%20learning%20industry&offset=0

[2] https://www2.deloitte.com/es/es/pages/manufacturing/articles/que-es-la-industria-4.0.html

[3] https://www2.deloitte.com/ni/es/pages/risk/articles/auditoria-40.html

[4] https://www.intedya.com/internacional/2764/noticia-auditoria-de-inteligencia-artificial.html