La moralidad oculta de la tecnología: ¿estamos listos para las decisiones que ya toma por nosotros?

Cada vez que desbloqueamos el móvil con el rostro o aceptamos las «cookies» de una web sin leer, participamos en un sistema tecnológico que toma decisiones por nosotros. El debate público suele centrarse en dilemas futuros, como las decisiones de vida o muerte de un coche autónomo. Se discute sobre la necesidad de regular una inteligencia artificial que parece lejana, como si fuera un problema del mañana. Sin embargo, esta perspectiva ignora una realidad mucho más inmediata y tangible.

La verdadera cuestión ética no reside en el futuro, sino en el presente. La tecnología que usamos a diario ya está impregnada de una moralidad por defecto: un conjunto de valores y prioridades programados por sus creadores que se aplican de forma automática, sin nuestro consentimiento explícito. Estas decisiones, ocultas en líneas de código y en el diseño de interfaces, no son neutrales. Definen qué es la eficiencia, a quién se incluye o excluye, y hasta qué punto nuestra atención puede ser manipulada. Lejos de ser meras herramientas, los algoritmos actúan como agentes morales silenciosos.

Este artículo se aleja de la especulación futurista para analizar las consecuencias sociales de esta moralidad oculta. La clave no es preguntarse qué hará la tecnología, sino comprender lo que ya está haciendo. A través de ocho ejemplos concretos, expondremos cómo las decisiones automatizadas están reconfigurando nuestra sociedad, a menudo de forma invisible, creando una verdadera arquitectura de la exclusión y erosionando nuestra autonomía. El objetivo es proporcionar las claves para pasar de ser usuarios pasivos a ciudadanos digitales conscientes y críticos.

Para aquellos que prefieren un formato visual, el siguiente vídeo ofrece una inmersión conceptual en el contexto más amplio de la era de la información, un excelente punto de partida para comprender los dilemas específicos que abordaremos a continuación.

Para desgranar esta compleja realidad, hemos estructurado este análisis en varias áreas clave donde la tecnología ya está tomando decisiones morales con un impacto directo en nuestras vidas. Este recorrido nos permitirá comprender la magnitud del desafío y la urgencia de una respuesta informada.

Reconocimiento facial en calles: seguridad pública o fin de la libertad individual

El debate sobre el reconocimiento facial a menudo se presenta como un simple equilibrio entre seguridad y privacidad. Sin embargo, la decisión moral subyacente es mucho más profunda: al implementar estos sistemas, se normaliza la vigilancia masiva y se asume que cada ciudadano es un sospechoso potencial hasta que un algoritmo demuestre lo contrario. Esta tecnología no es una herramienta neutral; su despliegue representa un cambio fundamental en la relación entre el Estado y el individuo, erosionando el anonimato en el espacio público, un pilar de las sociedades libres.

La extensión de esta práctica es mucho mayor de lo que se percibe. En Europa, la vigilancia biométrica ya es una realidad extendida; se estima que 32 países europeos utilizan actualmente tecnología de reconocimiento facial para fines policiales. Esta no es una tecnología experimental, sino un aparato de vigilancia en plena operación. El caso de España es particularmente revelador: la Policía Nacional ha implementado el sistema ABIS, una potente herramienta que no solo compara rostros con una base de datos de cinco millones de imágenes, sino que también permite el control de pasajeros en fronteras, la investigación a partir de vídeos y la emisión de alertas en tiempo real. Este sistema se conecta, además, a bases de datos europeas, creando una red de vigilancia transnacional.

La decisión moral de implementar esta tecnología no es si queremos más seguridad, sino si aceptamos vivir en una sociedad donde cada rostro es un dato rastreable y cada movimiento en público puede ser registrado y analizado. La «moralidad por defecto» de estos sistemas es que la vigilancia preventiva y universal es un coste aceptable, una decisión tomada sin un debate público profundo sobre sus implicaciones a largo plazo para la libertad de asociación, expresión y disidencia.

A dónde van realmente tus gadgets viejos cuando los «reciclas»

Cuando depositamos un dispositivo electrónico en un punto de reciclaje, confiamos en que será procesado de manera responsable. La decisión moral que tomamos, como consumidores, es delegar la gestión del fin de vida de nuestros productos. Sin embargo, la «moralidad por defecto» del sistema global de reciclaje es una de opacidad, donde la máxima de «ojos que no ven, corazón que no siente» prevalece. La realidad es que una parte significativa de nuestra basura electrónica no se recicla, sino que se exporta, trasladando el problema medioambiental y humano a otras partes del mundo.

Las cifras son abrumadoras. Según el último informe de la ONU, en 2022 se generaron 62 millones de toneladas de basura electrónica a nivel mundial, de las cuales solo el 22% se recogió y recicló adecuadamente. El resto desaparece en un limbo de vertederos ilegales, exportaciones opacas y procesos de desmantelamiento peligrosos. El destino final de muchos de estos dispositivos es un lugar como Agbogbloshie, en Ghana, uno de los mayores vertederos electrónicos del mundo. Allí, miles de personas, a menudo niños, queman plásticos y cables para extraer metales valiosos como el cobre, exponiéndose a humos tóxicos y a condiciones de trabajo infrahumanas. Una parte importante de estos residuos proviene de Europa y, específicamente, de países como España.

La decisión moral implícita en nuestro modelo de consumo tecnológico es que el coste real de nuestros aparatos, su impacto tóxico post-consumo, puede ser externalizado a las comunidades más vulnerables del planeta. La comodidad de la renovación tecnológica constante se sostiene sobre una arquitectura de la injusticia medioambiental, una realidad que el simple acto de «reciclar» oculta eficazmente a nuestros ojos.

Cómo la digitalización bancaria excluye al 40% de los mayores de 70 años

La digitalización de la banca se presenta como un avance innegable en términos de eficiencia y comodidad. La decisión moral de las entidades financieras ha sido priorizar la optimización de costes y la agilidad operativa a través de aplicaciones y servicios online. Sin embargo, la «moralidad por defecto» de este modelo es una que valora la competencia digital por encima de la inclusión, creando una verdadera arquitectura de la exclusión para aquellos que no pueden o no saben adaptarse al ritmo impuesto.

El colectivo más afectado es el de las personas mayores. Aunque el titular del H2 menciona un 40%, la realidad puede ser aún más cruda. Un estudio del Banco de España revelaba que en 2020, casi el 80% de los hogares encabezados por personas de más de 76 años no utilizaba la banca online. Esta brecha no es simplemente una cuestión de falta de interés. Como señala Patricia Suárez, presidenta de Asufin, el problema no es que los mayores rechacen la tecnología, sino el diseño de la misma:

No es un problema de digitalización real, porque muchos mayores utilizan Youtube y el WhatsApp. El problema es que muchas veces las aplicaciones de los bancos no son tan sencillas.

– Patricia Suárez, Presidenta de la Asociación de Usuarios Financieros (Asufin)

El cierre de sucursales, la reducción de horarios de atención presencial y la complejidad de las interfaces digitales no son consecuencias inevitables del progreso, sino decisiones de diseño que excluyen activamente a una parte de la población de servicios esenciales. La eficiencia económica se logra a costa de la dignidad y la autonomía de los más vulnerables, una decisión moral con un profundo impacto social.

Europa vs EEUU: qué modelo legislativo protegerá mejor al usuario final

La forma en que una sociedad regula la tecnología es un reflejo directo de sus valores morales. En el ámbito digital, existen dos grandes modelos filosóficos que compiten a nivel global: el europeo y el estadounidense. Esta divergencia no es meramente técnica, sino que representa dos decisiones morales opuestas sobre la naturaleza de los datos personales y el poder corporativo. La pregunta es: ¿qué marco ético prevalecerá y ofrecerá una mayor protección al ciudadano?

El modelo europeo, cristalizado en el Reglamento General de Protección de Datos (RGPD), parte de la premisa de que la privacidad es un derecho humano fundamental. Los datos personales no son una mercancía, sino una extensión de la identidad del individuo. Por tanto, su uso requiere un consentimiento explícito, informado y revocable. Este enfoque se extiende a la nueva regulación de la IA, que clasifica los sistemas por niveles de riesgo para proteger los derechos fundamentales. En contraste, el modelo estadounidense tradicionalmente ha considerado los datos como un activo corporativo, regulado por las lógicas del mercado. La protección del consumidor se aborda de forma sectorial y, a menudo, bajo un modelo de «opt-out», donde el usuario debe tomar la iniciativa para proteger su información.

Esta diferencia de filosofías tiene consecuencias prácticas enormes en cuanto al poder que se otorga a las empresas y la protección que se brinda a los usuarios.

La decisión moral que se dirime en esta contienda regulatoria es si los derechos de los ciudadanos deben primar sobre los intereses comerciales de la industria tecnológica. Mientras que Europa establece la dignidad digital como un principio no negociable, el enfoque estadounidense confía en que el mercado autorregule los posibles abusos, una confianza que casos como el de Cambridge Analytica han puesto en seria duda.

Cuándo el diseño persuasivo de las apps cruza la línea de la manipulación

El diseño de aplicaciones y plataformas digitales no es un arte inocente. Se basa en una profunda comprensión de la psicología humana para captar y retener nuestra atención. La decisión moral que toman los diseñadores y las empresas es hasta qué punto es lícito utilizar estos conocimientos para influir en el comportamiento del usuario. Mientras que el «diseño persuasivo» busca facilitar una experiencia positiva, a menudo cruza una línea muy fina hacia la manipulación, explotando nuestros sesgos cognitivos para maximizar el tiempo de uso y el beneficio económico.

Esta estrategia se materializa en los llamados «patrones oscuros» (dark patterns): notificaciones incesantes que generan ansiedad, flujos de cancelación de suscripción deliberadamente confusos o el «scroll infinito» que elimina cualquier punto de parada natural. El objetivo no es servir al usuario, sino crear un entorno adictivo. Las consecuencias ya son medibles, especialmente entre los más jóvenes. En España, estudios recientes indican que un 18,4% de los adolescentes presenta un uso problemático de Internet. La moralidad por defecto de este modelo de negocio es que la autonomía del usuario es secundaria frente al objetivo del «engagement».

El caso más paradigmático de cómo esta lógica puede tener consecuencias devastadoras es el escándalo de Cambridge Analytica, que demostró cómo la recolección masiva de datos y el diseño persuasivo pueden usarse para fines mucho más allá de la simple publicidad.

La decisión moral no es si una app es «entretenida», sino si respeta nuestra capacidad de decidir libremente. Cuando el diseño explota nuestras vulnerabilidades psicológicas, deja de ser un servicio para convertirse en una herramienta de control.

¿Se envían tus rasgos faciales a la nube del fabricante o se quedan en el chip del móvil?

La comodidad de desbloquear el teléfono con nuestro rostro oculta una decisión de arquitectura tecnológica con enormes implicaciones morales: ¿dónde se procesan y almacenan esos datos biométricos? La elección entre el procesamiento local («on-device») y el procesamiento en la nube no es un detalle técnico, sino una decisión fundamental sobre la centralización del poder y el nivel de riesgo al que se expone al usuario.

Cuando los datos se procesan localmente, como en el Secure Enclave de Apple, la información biométrica no sale del dispositivo. Se convierte en una clave segura que solo tú posees. Sin embargo, cuando los datos se envían a la nube para su verificación, se crea una base de datos centralizada de rasgos faciales, un objetivo extremadamente atractivo para actores maliciosos y agencias gubernamentales. La «moralidad por defecto» de un sistema basado en la nube es que la conveniencia para el proveedor de servicios (que puede analizar y utilizar esos datos) prima sobre la seguridad y la privacidad del usuario.

Los datos biométricos no son como una contraseña. Si se filtran, no se pueden cambiar. Son una parte inmutable de nuestra identidad. Por ello, la creación de estas bases de datos es vista por organizaciones de derechos humanos como un peligro sin precedentes. Amnistía Internacional lo expresa de forma contundente:

La identificación biométrica remota en diferido es posiblemente la medida de vigilancia más peligrosa de la que hayamos oído hablar.

– Amnistía Internacional, Informe sobre vigilancia mediante reconocimiento facial

La decisión moral, por tanto, no es solo sobre la comodidad, sino sobre si aceptamos la creación de infraestructuras que, en las manos equivocadas, podrían convertirse en herramientas de control social a una escala nunca antes vista. La elección de un dispositivo u otro, o de un servicio u otro, es también un voto a favor o en contra de un modelo de gestión de nuestra identidad más o menos respetuoso.

¿Puede una IA tener derechos de autor sobre una obra generada por Machine Learning?

La irrupción de las inteligencias artificiales generativas como Midjourney o DALL-E no solo ha revolucionado la creación de contenido, sino que ha forzado una crisis existencial en conceptos legales y filosóficos que considerábamos estables, como la «autoría» y la «creatividad». La decisión moral que la sociedad debe tomar ahora es si una entidad no humana puede ser reconocida como creadora y, por tanto, titular de derechos de autor. La respuesta que demos definirá el futuro de las industrias creativas y el valor del trabajo humano.

La «moralidad por defecto» de la tecnología, en este caso, es la de la producción en masa. La IA puede generar miles de imágenes en minutos, devaluando potencialmente el tiempo, la habilidad y la intención que un artista humano invierte en una sola obra. El sistema legal está comenzando a reaccionar, y los primeros fallos apuntan a una dirección clara: la autoría sigue ligada a la humanidad. Un caso que sienta un precedente fundamental es el del cómic «Zarya of the Dawn».

Este debate está lejos de terminar. Actualmente, hay una cantidad significativa de litigios en marcha que buscan definir los límites del uso de material protegido para entrenar estas IAs y la propiedad de sus resultados. Se estima que existen 41 pleitos activos sobre procedimientos relativos a IA generativa solo en Estados Unidos, lo que demuestra que estamos en medio de una batalla legal y ética de primer orden.

¿Saben las empresas más de ti que tú mismo gracias al Big Data?

La respuesta corta es, inquietantemente, sí. No en un sentido introspectivo, sino predictivo. El Big Data no se limita a recopilar la información que conscientemente compartimos; su verdadero poder reside en analizar miles de puntos de datos aparentemente inconexos (tus «me gusta», tu velocidad al caminar, las horas a las que usas el móvil) para inferir patrones de comportamiento, estados de ánimo e incluso futuras decisiones de compra o de voto. La decisión moral que las empresas han tomado es que cualquier dato es susceptible de ser recolectado y analizado para obtener una ventaja competitiva.

Esto crea una asimetría del conocimiento radical. Las empresas acumulan un conocimiento profundo sobre nosotros, mientras que nosotros permanecemos en una casi total ignorancia sobre qué saben, cómo lo saben y, lo más importante, para qué lo usan. Como señalan expertos en privacidad, esta opacidad anula cualquier posibilidad de un consentimiento informado real. La «moralidad por defecto» del Big Data es que el conocimiento es poder, y es aceptable que ese poder esté concentrado de forma unilateral.

El verdadero peligro no es solo que sepan mucho, sino que el usuario no sabe qué saben, cómo lo saben ni para qué lo usan. Esta opacidad radical impide cualquier forma de consentimiento informado real.

– Expertos en privacidad digital, Análisis sobre asimetría del conocimiento en Big Data

Esta capacidad predictiva permite a las empresas no solo anticipar nuestras necesidades, sino también crearlas. Pueden identificar momentos de vulnerabilidad emocional para mostrarnos un anuncio específico o adaptar los precios de un producto en tiempo real basándose en nuestro historial. Dejamos de ser simplemente consumidores para convertirnos en sujetos predecibles y manipulables. Frente a esta realidad, recuperar una parte del control sobre nuestra huella digital es un acto de resistencia fundamental.

Tomar conciencia de la moralidad implícita en la tecnología no es un llamado al ludismo ni a la desconexión, sino a la acción informada. Para recuperar nuestra soberanía tecnológica, el primer paso es cuestionar la supuesta neutralidad de las herramientas que usamos a diario y exigir transparencia y rendición de cuentas. Comienza hoy a aplicar estas estrategias para transformar tu relación con la tecnología y participar activamente en la construcción de un futuro digital más justo y humano.