De los rastros cotidianos al perfil personal

Compramos, navegamos, consultamos un mapa o compartimos una opinión. Muchas de estas acciones generan datos que, combinados, permiten inferir aspectos de nuestra vida.

La relevancia de un dato depende también de las relaciones que pueden establecerse entre él y otros datos. La acumulación permite elaborar perfiles que ninguna observación aislada habría revelado.

Shoshana Zuboff analiza cómo la experiencia humana se convierte en materia prima para predecir y modificar conductas. Su crítica sitúa en el centro la desigualdad de conocimiento y poder entre las organizaciones que procesan la información y las personas observadas.1

Marta Peirano aborda la infraestructura tecnológica y económica que sostiene la vigilancia y la influencia sobre nuestra atención.2 Ambas perspectivas ayudan a comprender por qué la protección de la intimidad afecta también a nuestra autonomía.

El «ADN digital»: una metáfora que exige prudencia

La expresión «ADN digital» transmite la idea de una representación persistente de la persona: un gemelo capaz de reproducir patrones de comportamiento y anticipar decisiones. Sin embargo, un perfil computacional es siempre una construcción parcial, basada en datos disponibles, decisiones de diseño e inferencias que pueden resultar equivocadas.

No debemos asumir que esos modelos puedan reproducir íntegramente una conciencia o anticipar de manera infalible el comportamiento humano. Tampoco es necesario recurrir a la computación cuántica para comprender los riesgos de la clasificación y la influencia mediante datos.

Un perfil inexacto puede tener consecuencias reales cuando determina qué oportunidades recibimos o qué sospechas recaen sobre nuestra conducta.

Cuando la predicción condiciona las oportunidades

Los sistemas algorítmicos ya intervienen en numerosos ámbitos: pueden recomendar, ordenar, filtrar o determinar una decisión sobre un préstamo, una contratación o la visibilidad de un contenido. Conviene examinar cada aplicación, su grado de automatización y la responsabilidad de quienes la utilizan.

Virginia Eubanks documenta cómo las herramientas de clasificación y predicción aplicadas a servicios sociales estadounidenses pueden perjudicar a personas vulnerables y reproducir desigualdades.3 Su investigación permite situar esta discusión en experiencias concretas.

Una predicción puede ser útil, pero necesita límites. Una probabilidad de comportamiento no equivale a un acto realizado; un perfil de riesgo no constituye una identidad moral.

Por ello, una decisión que afecta de manera importante a alguien debe poder explicarse, discutirse y corregirse. La revisión humana necesita capacidad efectiva para cambiar el resultado y asumir responsabilidad por él.

La libertad bajo una influencia invisible

Esta formulación expresa un problema filosófico: hasta qué punto nuestras elecciones siguen siendo autónomas cuando el entorno en el que decidimos ha sido organizado para influir sobre nosotros.

Byung-Chul Han describe en Psicopolítica un poder que obtiene participación y sometimiento mediante mecanismos de seducción, aprovechando la información que entregamos voluntariamente.4

La selección de contenidos y la personalización pueden facilitar nuestra vida. También pueden orientar nuestras decisiones de acuerdo con intereses que desconocemos.

Esto no significa que las personas sean completamente manipulables ni que cualquier intento de influencia tenga éxito. Significa que la autonomía necesita condiciones: información contrastable, pluralidad, tiempo para reflexionar y capacidad para reconocer los intereses que operan sobre nuestra atención.

La educación del criterio se convierte así en una tarea esencial. Aprender a utilizar herramientas debe ir acompañado de aprender a cuestionar sus resultados y comprender sus incentivos.

Vigilancia, memoria y autocensura

La posibilidad de sentirnos permanentemente evaluados plantea una cuestión decisiva: cómo cambia nuestra conducta cuando creemos que cualquier acción puede quedar registrada y utilizarse en nuestra contra.

En Vigilancia permanente, Edward Snowden relata su experiencia en la infraestructura de vigilancia y la crisis de conciencia que le llevó a denunciarla.5 Su testimonio permite comprender la dimensión política y moral de la acumulación masiva de información personal.

Una sociedad que conserva registros cada vez más amplios debe preguntarse cómo evitar que el pasado se convierta en una condena permanente. La posibilidad de cambiar forma parte de la libertad humana. Ningún historial debería agotar el futuro de una persona.

De la comodidad a la dependencia

La seguridad, la información fiable y la eficiencia son objetivos legítimos. Precisamente por ello, debemos examinar las medidas que se justifican en su nombre. Una finalidad beneficiosa no resuelve por sí sola las preguntas sobre necesidad, proporcionalidad, supervisión y posibilidad de abuso.

La misma prudencia debe aplicarse al dinero digital y a los sistemas de movilidad. Las capacidades de control de una infraestructura de pagos dependen de su diseño y de las reglas que la gobiernan. Del mismo modo, la proximidad de los servicios urbanos no implica por sí misma una restricción de desplazamientos.

El análisis debe identificar mecanismos concretos, responsables y garantías. Así puede proponer límites efectivos sin convertir hipótesis en certezas.

La dignidad precede a cualquier clasificación

Desde la antropología cristiana, la persona ha sido creada a imagen y semejanza de Dios, dotada de razón, conciencia y libertad. Su dignidad es intrínseca, inviolable y anterior a cualquier Estado, legislación o poder humano; no depende de la productividad, la salud, la aceptación social ni la puntuación asignada por una institución.

La nota Antiqua et nova desarrolla una reflexión sobre la inteligencia artificial orientada al servicio de la persona y del bien común.6 Este fundamento exige valorar la tecnología por su contribución al desarrollo humano y por el respeto que guarda a quienes pueden verse afectados por ella.

El ser humano puede ser estudiado mediante datos, pero su valor no queda definido por ellos. La conciencia, la responsabilidad, los vínculos y la apertura a la trascendencia reclaman una comprensión que supera lo cuantificable.

From everyday traces to a personal profile

We shop, browse, check a map or share an opinion. Many of these actions generate data which, when combined, can be used to infer aspects of our lives.

The relevance of a piece of data also depends on the relationships that can be established between it and other data. Accumulation makes it possible to create profiles that no isolated observation could have revealed.

Shoshana Zuboff analyses how human experience becomes raw material for predicting and modifying behaviour. Her critique places the imbalance of knowledge and power between the organisations processing information and the people being observed at the centre of the debate.1

Marta Peirano examines the technological and economic infrastructure that sustains surveillance and influence over our attention.2 Both perspectives help explain why protecting privacy is also a question of autonomy.

“Digital DNA”: a metaphor that demands caution

The expression “digital DNA” conveys the idea of a persistent representation of a person: a twin capable of reproducing patterns of behaviour and anticipating decisions. Yet a computational profile is always a partial construction, based on available data, design choices and inferences that may be wrong.

We should not assume that these models can fully reproduce a consciousness or predict human behaviour infallibly. Nor do we need to invoke quantum computing to understand the risks of data-driven classification and influence.

An inaccurate profile can have real consequences when it determines which opportunities we receive or which suspicions are attached to our behaviour.

When prediction shapes opportunity

Algorithmic systems already operate in many areas: they may recommend, rank, filter or determine a decision about a loan, a job or the visibility of a piece of content. Each application, its degree of automation and the responsibility of those using it must be examined.

Virginia Eubanks documents how classification and prediction tools used in US social services can harm vulnerable people and reproduce inequality.3 Her research grounds this discussion in concrete experience.

A prediction may be useful, but it needs limits. A probability of behaviour is not the same as an action carried out; a risk profile is not a moral identity.

Any decision that significantly affects someone should therefore be open to explanation, challenge and correction. Human review must have the effective capacity to change the outcome and accept responsibility for it.

Freedom under invisible influence

This formulation expresses a philosophical problem: to what extent do our choices remain autonomous when the environment in which we decide has been organised to influence us?

In Psychopolitics, Byung-Chul Han describes a form of power that secures participation and submission through seduction, making use of the information we voluntarily provide.4

Content selection and personalisation can make life easier. They can also steer our decisions according to interests of which we are unaware.

This does not mean that people are entirely manipulable or that every attempt at influence succeeds. It means that autonomy requires certain conditions: verifiable information, plurality, time for reflection and the ability to recognise the interests competing for our attention.

Educating judgement therefore becomes an essential task. Learning to use tools must go hand in hand with learning to question their outputs and understand their incentives.

Surveillance, memory and self-censorship

The possibility of feeling permanently assessed raises a decisive question: how does our behaviour change when we believe that any action may be recorded and used against us?

In Permanent Record, Edward Snowden recounts his experience within the surveillance infrastructure and the crisis of conscience that led him to expose it.5 His testimony helps us understand the political and moral dimension of the mass accumulation of personal information.

A society that retains ever more extensive records must ask how to prevent the past from becoming a permanent sentence. The possibility of change is part of human freedom. No record should exhaust a person’s future.

From convenience to dependence

Security, reliable information and efficiency are legitimate goals. Precisely for that reason, we must examine the measures justified in their name. A beneficial purpose does not by itself resolve questions of necessity, proportionality, oversight and the possibility of abuse.

The same caution should be applied to digital money and mobility systems. The control capabilities of a payments infrastructure depend on its design and the rules governing it. Likewise, the proximity of urban services does not in itself imply restrictions on movement.

Analysis must identify concrete mechanisms, responsible parties and safeguards. It can then propose effective limits without turning hypotheses into certainties.

Dignity comes before any classification

From a Christian anthropological perspective, the person is created in the image and likeness of God and endowed with reason, conscience and freedom. Human dignity is intrinsic, inviolable and prior to any state, legislation or human power; it does not depend on productivity, health, social acceptance or a score assigned by an institution.

The note Antiqua et nova develops a reflection on artificial intelligence oriented towards the service of the person and the common good.6 This foundation requires technology to be assessed by its contribution to human development and by the respect it shows to those who may be affected by it.

Human beings can be studied through data, but their value is not defined by it. Conscience, responsibility, relationships and openness to transcendence call for an understanding that goes beyond the quantifiable.