Andoni Eguiluz Morán 
Autores: Diego Casado Mansilla y Andoni Eguíluz Morán. Iniciativa Tecnoética de la Facultad de Ingeniería de la Universidad de Deusto.
Casi todas las innovaciones técnicas o tecnológicas que han transformado el mundo desde la Ilustración han acarreado el dilema de la ‘neutralidad‘. ¿Es ética la industrialización de la economía basándose en procesos extractivistas, el uso de energía nuclear como fuente primaria de energía con sus riesgos para la salud, la digitalización en contraposición a la pérdida de algunos sectores del empleo?
El potencial que tiene la tecnología es inmenso para el bien y para el mal. Por eso es fundamental que en el desarrollo científico-tecnológico haya limitaciones autoimpuestas, procesos reflexivos y aprendizajes asociados que inclinen esta balanza bajo un enfoque positivista que no pierda de vista la dimensión social.
A día de hoy, la revolución tecnológica nos enfrenta a los sesgos algorítmicos de la inteligencia artificial, a la toma de decisión de los vehículos autónomos, a la compartición de nuestros datos y localización para identificar riesgo de contagio, a la programación a nivel celular y a un largo y creciente etcétera. El cambio es vertiginoso y nuestro compromiso e implicación como formadores e innovadores tecnológicos también debe serlo.
Estudio sobre los compromisos éticos de las tecnológicas
Dentro de este marco, hemos realizado un muestreo de compañías tecnológicas a nivel nacional e internacional para responder a esta pregunta: ¿cómo son de sensibles a los compromisos éticos las empresas tecnológicas que pretenden liderar los cambios del mundo actual?
A nivel estatal nos centramos en las principales compañías comprometidas con el software libre(1) (donde debería haber, por filosofía empresarial, un especial compromiso hacia esa pregunta).
- De las más de cien compañías bajo estudio, únicamente encontramos dieciocho que incluyeran en sus identificaciones públicas alguna referencia a la mirada ética en la forma de trabajo, visión o valores corporativos.
- Solo cinco muestran algún tipo de descriptor sobre la metodología en la toma de decisión de los proyectos que pretenden desarrollar o ejecutar, a nuestro entender uno de los aspectos clave en la realidad del enfoque ético de una empresa tecnológica.
- Solo encontramos una entidad que expone de forma deliberada que dispone de un comité ético para dar el visto bueno a las ofertas de proyectos. En ella el personal trabajador tiene derecho a la “objeción de conciencia” si un proyecto se contrapone a sus principios ético-morales.
Al ampliar el estudio a nivel internacional y analizar compañías grandes comenzamos a encontrar códigos con mirada ética.
- Principalmente encontramos que el clásico código de conducta se ha ido transformando en el código de ética y que muchas empresas lo incorporan en precisos y muy maquetados documentos donde se enumeran elementos clave como competencia justa, integridad, transparencia, diversidad, inclusión, no discriminación, privacidad o derechos humanos.
- En muchos casos se habla de cómo reportar a la entidad problemas éticos. Pero nos preocupa la práctica ausencia de la rendición de cuentas (accountability) pública de toda esa aparente transparencia: ¿cuántas quejas se reciben a nivel anual y cómo se resuelven? ¿de qué tipo son? ¿cuántos proyectos se rechazan? La información concreta, la importante para evaluar éticamente una entidad, brilla por su ausencia.
- Uno de los hallazgos más relevantes de este estudio, fue observar cómo la mayor evolución de estos códigos ha sido paralela a la socialización de los problemas éticos. El escándalo Cambridge Analítica o los movimientos de empleados de grandes compañías contra proyectos armamentísticos, ambos en 2018, provocaron la creación de comités dentro de las empresas que se concretaron en los citados códigos éticos. De la misma forma, vemos que actualmente el estallido del movimiento #blacklivesmatter ha llevado a repensar y paralizar momentáneamente a las grandes empresas que promueven tecnologías para el reconocimiento facial.
Códigos éticos visibles
Confiamos que esta época de alarma social, donde las libertades civiles están en entredicho, la privacidad de los datos en tiempo COVID-19 se ve desmantelada o donde se desvela que diariamente se toman decisiones relevantes para la vida influenciadas por los sesgos algorítmicos de la IA, nos lleve a ser más responsables como sociedad.
Para ello necesitamos información veraz y medible. Las empresas en las que trabajamos o que nos proveen de dispositivos tecnológicos y servicios digitales tienen la responsabilidad de completar ese necesario movimiento hacia adoptar códigos éticos visibles que se concreten en acciones públicas, cuantificables y fácilmente auditables. Quizás debemos promover criterios supranacionales de inspección y medición.
Las grandes asociaciones de profesionales como ACM e IEEE incluyen en sus declaraciones marco: “las acciones de los profesionales cambian el mundo. Para actuar responsablemente, deben soportar consistentemente el bien común, contribuir a la sociedad y al bienestar humano”. Es hora de concretar tanto buen propósito. Es hora de combinar obligación y devoción.
