{"id":4078,"date":"2023-10-27T10:16:52","date_gmt":"2023-10-27T10:16:52","guid":{"rendered":"https:\/\/preblogs.deusto.es\/viviendodeusto\/?p=4078"},"modified":"2024-08-30T08:17:30","modified_gmt":"2024-08-30T08:17:30","slug":"gemma-galdon-clavell-en-deustoforum-la-inteligencia-artificial-nos-permite-cuantificar-la-discriminacion-y-empezar-a-solucionarla","status":"publish","type":"post","link":"https:\/\/blogs.deusto.es\/viviendodeusto\/2023\/10\/27\/gemma-galdon-clavell-en-deustoforum-la-inteligencia-artificial-nos-permite-cuantificar-la-discriminacion-y-empezar-a-solucionarla\/","title":{"rendered":"Gemma Galdon Clavell en DeustoForum: \u201cLa Inteligencia Artificial nos permite cuantificar la discriminaci\u00f3n y empezar a solucionarla\u201d"},"content":{"rendered":"\n
\"\"<\/figure>\n\n\n\n

La Universidad de Deusto celebr\u00f3 el 26 de octubre un encuentro DeustoForum con Gemma Galdon Clavell, experta en \u00e9tica tecnol\u00f3gica y responsabilidad algor\u00edtmica, que a trav\u00e9s de su firma Eticas Research & Consulting trabaja con empresas, gobiernos y organizaciones de todo el mundo para corregir los sistemas de Inteligencia (IA) y hacerlos m\u00e1s eficientes e inclusivos.<\/p>\n\n\n\n

Una inteligencia de la que todo el mundo habla, pero cuyo funcionamiento sigue generando hoy mucha confusi\u00f3n social. Y es que, tal y como explic\u00f3, si bien es cierto que estas tecnolog\u00edas se nutren de las grandes bases de datos de la historia, las soluciones que aportan no son siempre las m\u00e1s \u00f3ptimas ni objetivas. Ello se debe, seg\u00fan expuso, a que los algoritmos que las rigen procesan la informaci\u00f3n de manera selectiva, acorde a unos patrones de repetici\u00f3n que favorecen lo mayoritario y excluyen lo diferente, generando a su vez una nueva fuente de datos que retroalimenta el sistema.<\/p>\n\n\n\n

Para Gemma Galdon, en el caso de los GPS, que entre diferentes alternativas priorizan las rutas m\u00e1s frecuentadas por los usuarios, o las plataformas de entretenimiento, que sugieren qu\u00e9 pel\u00edculas o series ver en base a un algoritmo que posiciona mejor los t\u00edtulos con mayor n\u00famero de reproducciones, el riesgo a correr en caso de error es menor, pero no as\u00ed en aquellos \u00e1mbitos en los que la IA incide directamente en el an\u00e1lisis de la realidad y la toma de decisiones, ya que la eliminaci\u00f3n de ciertos perfiles pueden acarrear consecuencias catastr\u00f3ficas. \u201cLos algoritmos que rigen los sistemas de reconocimiento facial discriminan a personas con s\u00edndrome de Down, y las mujeres reciben entre un 10 y 20% menos de servicios bancarios porque en los sistemas de IA est\u00e1n infrarrepresentadas\u201d, revel\u00f3. <\/p>\n\n\n\n

Retos socio-t\u00e9cnicos<\/strong><\/p>\n\n\n\n

Al abordar temas complejos de manera automatizada y en base a indicadores que carecen de relevancia, la IA tiende a la simplificaci\u00f3n y a la generaci\u00f3n de errores y sesgos, algo que la auditor\u00eda algor\u00edtmica busca corregir, creando espacios de testeo que permitan entender cu\u00e1les son los riesgos reales antes de que lleguen a la poblaci\u00f3n. Afirma, en este sentido, que \u201cvivimos en una sociedad muy sesgada, y al igual que trabajamos para incorporar pol\u00edticas que favorezcan la inclusi\u00f3n, es necesario establecer normas y entrenar a la IA en perfiles muy heterog\u00e9neos para aprovechar todo su potencial\u201d.<\/p>\n\n\n\n

De hecho, Gemma Galdon Clavell indic\u00f3 que esos errores de la IA llegan a condicionar incluso la toma de decisiones en \u00e1mbitos sanitarios, educativos y laborales, con pacientes en salas de emergencias que son atendidos no en base a la gravedad de su patolog\u00eda sino por el coste de su intervenci\u00f3n; profesores que ven valorado su desempe\u00f1o seg\u00fan las tasas de \u00e9xito de su alumnado; o empresas en cuyas contrataciones la IA prevalece que sean jugadores de lacross.<\/p>\n\n\n\n

Por lo tanto, la experta asegura que incorporar la \u00e9tica a la IA es una cuesti\u00f3n innegociable para hacer frente a los retos socio-t\u00e9cnicos a los que nos enfrentamos, ya que tecnolog\u00edas como Dal\u00ed o Chat GPT ponen de manifiesto las limitaciones de la IA, que m\u00e1s all\u00e1 de reproducir patrones, no tienen la capacidad de aprender el lenguaje como lo hacen ni\u00f1as y ni\u00f1os, ni de analizar objetivamente la realidad e innovar: \u201cSi entramos en una din\u00e1mica de refritos de Chat GPT, \u00bfqui\u00e9n va a generar conocimiento e ideas nuevas?\u201d.<\/p>\n\n\n\n

La necesidad de abordar los riesgos de la IA ha creado un verdadero di\u00e1logo transnacional, que ya ha llegado a Europa, China e incluso la Casa Blanca, donde Eticas Research & Consulting est\u00e1 trabajando para generar un ecosistema innovador que fomente iniciativas que contribuyan a su regulaci\u00f3n y acabe con las anomal\u00edas.<\/p>\n\n\n\n


| Conferencia \u00edntegra<\/strong><\/p>\n\n\n\n

\n