Antoinette Rouvroy. "Détecter et prévenir : les symptômes technologiques d’une nouvelle manière de gouverner" Etat des Droits de l'Homme en Belgique. Rapport 2009-2010. Ed. David Morelli. Brussels: Aden, 2010.

Antoinette Rouvroy : Chercheure qualifiée du FNRS au Centre de Recherche Informatique et Droit de l’Université de Namur. Les réflexions ici présentées ont été suscitées par l’implication du CRID au projet européen MIAUCE (Multimodal Interaction and Observation of Users in a Controlled Environment) financé par l’Union européenne et dédié au développement de technologies d’observation multimodale à des fins d’applications dans les domaines sécuritaire, du marketing et du divertissement. L’auteure remercie très sincèrement Edgar Szoc pour sa relecture attentive.

« L’examen, l’épreuve, le test est intimement lié à la façon dont se fait le contrôle des lieux et des corps politiques, mais aussi à l’expérimentalité et à la constitution de la réalité en général, d’autant que le circuit elliptique établi entre l’épreuve et le réel œuvre à annuler ce qui les différencie. » 1

Les nouvelles technologies de l’observation ne signent pas seulement l’effritement progressif de la coquille douillette de l’intimité et de la sphère privée – phénomène accompagnant toutes les formes, technologiques ou non, d’accroissement de la visibilité civique -elles sont aussi, et plus fondamentalement, symptomatiques d’une transformation des rationalités, stratégies et tactiques de gouvernement.

Gouvernement ? « Gouverner », c’est-à-dire, structurer le champ d’action possible des individus 2, présuppose une certaine ‘rationalité, ou ‘logique’ (permettant d’identifier ceux sur qui ou ce sur quoi l’intervention gouvernementale doit être orientée), ainsi que certaines stratégies, ou tactiques (déterminant les instruments les plus appropriés à l’obtention des objectifs). En tant que « structuration du champ d’action possible des individus », l’activité de gouvernement n’est pas, et n’a jamais été, le monopole de l’Etat. Tout qui, de manière plus ou moins consciente, plus ou moins délibérée, « conduit la conduite » d’autrui, en ce sens, gouverne. Nous entendons donc ici, à la manière de Foucault, la notion de gouvernement dans son sens le plus large. Les parents, les éducateurs, les patrons d’usines, les directeurs d’entreprises, les services de gestion du personnel, les publicitaires et professionnels du marketing, … tous ceux-là, et bien d’autres encore, « gouvernent ». C’est en tant qu’instruments de ces activités de « gouvernement » que les technologies – et, en particulier, les nouvelles technologies de l’observation, de la détection, et de l’évaluation anticipative des comportements (par comportements, j’entends aussi bien les attitudes, trajectoires, intentions, propensions,…) m’intéressent ici.

De quoi parle-t-on ? Nous parlons d’une série d’innovations technologiques actuellement développées grâce notamment à de très généreux budgets européens octroyés en fonction d’agendas de recherche établis de manière peu transparente. Combinant l’enregistrement et l’analyse des trajectoires suivies par les individus, de leurs postures, des émissions chimiques (transpiration,…) et des événements physiologiques (température, rythme cardiaque,…) de leurs corps, des émotions exprimées par leurs visages, de nouveaux dispositifs de « biométrie dynamique et intelligente » sont développés dans le cadre d’une série de projets, dont le projet HUMABIO, combinant une variété de capteurs capables de combiner des données visuelles, sonores et physiologiques afin de détecter et de suivre les mouvements, trajectoires, attitudes et expressions suspectes, à des fins sécuritaires. 3

1 Avital Ronell, Test Drive. La passion de l’épreuve., Traduit de l’Anglais par Christophe Jaquet, Stock, coll. L’autre pensée, 2009).

2 La notion de gouvernement est ici directement inspirée des travaux de Michel Foucault sur le thème de la « gouvernementalité », que l’on trouve exposés notamment dans les Cours au Collège de France de 1977­1978 (Sécurité, Territoire, Population).

3 Human Monitoring and Authentication using Biodynamic Indicators and Behavioural Analysis : http://www.humabio-eu.org/

Un autre projet européen, SENSATION, développe des micro-et de nano-senseurs capables de contrôler, de manière discrète et non invasive, l’état physiologique des personnes en termes d’éveil, de fatigue, de stress, partout et à tout moment, au travail, à l’école, au théâtre…4 Microsoft, de son côté, déposait récemment une demande de brevet pour l’invention d’un dispositif combinant une série de capteurs de données contextuelles, physionomiques, physiologiques et biologiques reliés à l'ordinateur utilisé par un employé, et permettant de renseigner son patron sur son niveau de stress, son attention au travail, sa motivation, etc. Par ailleurs, l’analyse automatisée des mouvements des muscles du visage des consommateurs, détectés grâce à des systèmes de vidéosurveillance couplés à des systèmes d’analyse algorithmique, afin de détecter leurs émotions telles que le plaisir, l’intérêt ou l’ennui, le dégout, offrent des perspectives alléchantes en termes d’applications de type marketing ou publicitaires.5 Des systèmes de « vidéosurveillance intelligente », capables de détecter, de classer et d’évaluer anticipativement les comportements et préférences des personnes en fonction de “patterns” gérés par des algorithmes sophistiqués, et ce en vue d’applications sécuritaires, de marketing et de divertissement sont développés, par exemple, dans le cadre du projet MIAUCE. Ces dispositifs, fonctionnant sur le profilage algorithmique visent à ‘prévoir’ (et parfois à réagir automatiquement), au départ de croisement de données de types divers recueillies dans des contextes hétérogènes et sans aucune analyse de l’éventuel rapport causal qu’elles entretiendraient, les propensions, préférences, comportements et attitudes futures des personnes. Ces systèmes confèrent intelligibilité et sens, en fonction des attentes spécifiques d’un « contrôleur », à des informations à priori triviales, et dont les individus eux-mêmes n’ont pas même conscience le plus souvent.

Qu’elles trouvent à s’appliquer dans le domaine sécuritaire, de l’emploi ou du marketing (ce sont actuellement les domaines d’application privilégiés), ces innovations sont symptomatiques d’un glissement plus ‘global’ affectant les modalités de gestion de l’incertitude (sécuritaire, financière, commerciale). Ces dispositifs annoncent, en douce, une reconfiguration des logiques et tactiques de la ‘société de surveillance’. En tant que telles, elles reposent sur une série de présomptions tacites qu’il importe dès à présent de mettre en débat.

Quels rapports entre ces nouveaux dispositifs technologiques et l’activité de « gouvernement » ? L’une des principales difficultés – et l’un des principaux objectifs – de l’action gouvernementale est bien évidemment la gestion de l’incertitude. Orienter, ou structurer le champ d’action possible de ses contemporains présuppose une certaine capacité à anticiper, à identifier par avance « ce que peuvent » les corps et les esprits. Comment calculer, faire le compte de ce qui n’est pas actuellement perceptible aux sens ? Comment atteste-t-on du « réel » futur, lorsque ni le témoignage, ni l’aveu, ni aucun discours expert ou d’autorité ne semblent plus suffisamment crédibles pour rendre ‘visible’ ce qui n’existe encore qu’en germe dans l’actuel ? Plus pratiquement, comment connaître à l’avance les intentions de consommation ? Comment connaître les intentions criminelles ? Comment « éprouver » l’actuel -par quels tests, quelles expériences – de manière à ce qu’il révèle ses potentialités futures, ses virtualités ? Si la tâche peut apparaître humainement réalisable dans des microcosmes sociaux efficacement régis par un contrôle social de proximité, dès lors que l’activité gouvernementale porte sur des populations (de citoyens, d’étrangers, de consommateurs,…) éminemment diversifiées, multiculturelles, mouvantes, l’anticipation du « possible » ne semble plus à la portée du calcul humain.

C’est donc d’abord à une difficulté d’ordre épistémologique que les nouvelles technologies d’observation – se présentant sommes toutes comme des interfaces cognitives – tendent à proposer des solutions. Ces solutions prennent la forme de dispositifs combinant une multitude de capteurs disséminés dans l’environnement et reliés à des systèmes informatiques dont l’ « intelligence » réside dans les algorithmes construits sur la base de corrélations statistiques, leur permettant d’interpréter eux-mêmes les données qu’ils enregistrent en fonction de critères de normalité ou d’anormalité, de désirabilité ou d’indésirabilité.

4 Advanced Sensor Development for Attention, Stress, Vigilance & Stleep/wakefulness Monitoring : http://www.sensation-eu.org/

5 http://www.gfk.com/group/press_information/press_releases/004131/index.en.html

C’est aussi dans la mesure où elles répondent à un glissement stratégique ou tactique dans la gestion de l’incertitude, que ces nouveaux dispositifs sont symptomatiques d’une nouvelle forme de gouvernementalité. La focalisation sur la prédiction s’accompagne d’un glissement, stratégique ou tactique celui-là, qui concerne la cible du gouvernement : le « gouvernement statistique»6 vise non plus à maîtriser l’actuel, à dompter la sauvagerie des faits, mais à structurer le possible, à éradiquer le ‘virtuel’, cette dimension de possibilité ou de potentialité d’où provient que l’actuel tremble toujours un peu d’un devenir ‘autre’ qui constitue, justement, sa singularité alors même qu’il n’est pas encore objectivement connu. Le résultat en est que l’on assiste à l’abandon progressif, par le pouvoir, de l’axe ‘topologique’ – orienté vers la contrainte des corps et la maîtrise du territoire – au profit de l’axe ‘temporel’ – la structuration du champ d’action possible des corps, la maîtrise, à un stade préconscient si possible7, de ce que peuvent les corps.8 Un glissement stratégique de cible s’opère donc ici de l'axe 'topologique' de l’actualité du corps vers l'axe 'temporel' du possible, du probable, du virtuel. La gouvernementalité statistique s’intéresse donc à quelque chose de relativement abstrait, et somme toute fantomatique: la prédiction et surtout la pré-emption des comportements, par l’application d’algorithmes de profilage à des quantités massives de données (émises par le corps humain), et par la structuration (physique, architecturale, informationnelle, contextuelle) du champ d’action possible des individus.

De quoi faut-il débattre ? Ces glissements dans les logiques et tactiques gouvernementales reposent sur une série d’assomptions tacites. Faute d’espace, je n’en (d)énoncerai ici que quelques-unes, sans même tenter encore de les discuter en profondeur.

La première de ces assomptions est que « le corps ne ment pas », à la différence des personnes. Les systèmes d’observation dont il a été ici question font généralement du corps humain la source privilégiée d’information prédictive au détriment des éléments du contexte économique, social, culturel,… ainsi que du témoignage, du récit biographique. Une reconstitution et une reconceptualisation approfondies du sujet humain s’en suivent inévitablement. La dévaluation du récit, du témoignage, l’invalidation relative de toute ‘explication’ ou ‘explicitation’ par le sujet lui-même de ses propres comportements et préférences au profit de ce que les corrélations statistiques indiquent, attestent d’une méfiance accrue envers tout ce qui passe par le prisme de la conscience humaine. Pris dans un réseau de codes d’intelligibilité algorithmiques qu’il ne connaît pas lui-même, le sujet se trouve en outre dépourvu de toute possibilité de contestation de la validité des prédictions faites à son endroit.

La seconde assomption tacite est qu’à condition de disposer d’une quantité massive de données recueillies dans des contextes divers, auxquelles on puisse appliquer des algorithmes de corrélations statistiques, il devient possible de ‘tout’ prévoir, sans plus avoir besoin de comprendre les ‘causes’ des phénomènes. Voilà qui signe un certain abandon des ambitions modernes de la rationalité déductive, reliant les phénomènes observés à leurs causes, au profit d’une rationalité ‘postmoderne’ fonctionnant sur une logique purement statistique d’observation de corrélations émancipées de toute logique sous­jacente, ainsi que des biais émotionnels entachant inévitablement l’observation humaine. Voilà également, si la logique était poussée jusqu’au bout, de quoi absoudre en partie les gouvernements lorsqu’ils s’abstiennent de remédier à certaines situations bien actuelles et éminemment problématiques au regard des idéaux de justice. La forme particulière de visibilité civique induite par l'observation multimodale et le profilage statistique procède d’une dispersion, d'une atomisation des sujets dans une multitude de banques de données, et de leur recomposition ad hoc en fonction des besoins de prédiction spécifiques aux différents types de bureaucraties publiques et privées. Les 'sujets' du gouvernement statistique, tout ‘visibles’ qu’ils soient, n’ont d’existence civique que morcelée. En fonction du contexte ils seront, alternativement, virtuellement ou potentiellement criminels, consommateurs, employés zélés ou démotivés, sans possibilité de repositionnement de ces fragments épars en fonction d'un fil autobiographique qui puisse rendre compte de trajectoires existentielles singulières, récalcitrantes à toute traduction chiffrée.

6 Sur la notion de gouvernement statistique, voir Antoinette Rouvroy et Thomas Berns, « Le corps statistique », La pensée et les Hommes, numéro spécial consacré à la bioéthique coordonné par Pierre Daled, n.74, pp. 173-194, 2009, ainsi que Antoinette Rouvroy et Thomas Berns, Antoinette Rouvroy et Thomas Berns. "Détecter et prévenir : de la digitalisation des corps et de la docilité des normes.", Guy Lebeer et Jacques Moriau (eds.), Gouverner par les corps P.I.E. Peter Lang, 2009 (à paraître).

7 suivant la logique actuarielle même qui compte comme ‘conditions préexistantes’ et met à charge des souscripteurs plutôt que de l’assureur les dommages causés par des circonstances connues du souscripteur au moment de la signature du contrat.

8 Brian Massumi, “Perception attack. Note sur un temps de guerre”, Multitudes, 2008/4, n°34, pp. 74-83.

Ni l’expérience physique du corps, ni le récit autobiographique de l’individu ne sont plus « autorisés », ne font plus « autorité », au sens où leur « auteur » détiendrait l’« autorité » nécessaire pour en contrôler l’intelligibilité et l’interprétation.9 Les individus se voient privés de toute possibilité de 'rendre compte' ou de 'témoigner' tant des raisons qu’ils auraient de s’écarter des ‘normes’ – qu’ils peuvent trouver injustes ou inutiles -que des désavantages structurels éventuels (sociaux, économiques, environnementaux, éducationnels,…) dont procèdent les comportements classés comme ‘problématiques’. Oublieux des causes structurelles des inégalités inter -personnelles dont les comportements ‘problématiques’, ‘inefficaces’, ‘anormaux’,… peuvent n’être que des symptômes, le gouvernement statistique est voué à empêcher en aval les comportements jugés indésirables en sécurisant l’environnement où ils pourraient se produire plutôt qu’en agissant en amont sur leurs causes.

Le « gouvernement statistique » regarde toujours déjà ailleurs, anticipant l’avenir peut-être, sans plus prêter attention à l’actuel, sauf en vue d’en prédire les débordements possibles. L’aura d’impartialité entourant la gestion statistique du « réel » pourrait donc bien aboutir à enfoncer un peu plus dans l’invisibilité les injustices structurelles contemporaines, tout en mettant hors de portée du débat public les critères d’accès aux ressources et opportunités, c’est-à-dire les principes mêmes de justice que les sociétés doivent en principe choisir pour elles-mêmes. A cet égard, la principale menace, me semble-t­il, réside dans la confiscation, par ces dispositifs, de la production « unilatérale », de plus en plus « autonomique » (dispensant de l’intervention et de l’évaluation humaines) des normes implicites et/ou explicites à l’aune desquelles sont évalués les besoins, mérites, aptitudes, capacités des personnes. C’est bien la puissance d’agir normatif qui se trouve ici mise en question.

Comme l’affirmait Foucault, « rien n’est politique, tout est politisable, tout peut devenir politique. La politique n’est rien de plus ni rien de moins que ce qui naît avec la résistance à la gouvernementalité, le premier soulèvement, le premier affrontement »10. Il serait donc grand temps d’élargir le débat et de cesser de n’envisager les nouvelles technologies de détection, de classification, et d’évaluation anticipative des comportements et intentions que sous l’angle, le plus évident en droit, des atteintes actuelles ou potentielles au droit à la protection de la vie privée, à la protection des données à caractère personnel, et aux autres droits et libertés individuels. C’est ailleurs, en deçà, que tout se joue. Les enjeux fondamentaux ne deviendront visibles et accessibles au débat que si l’on accepte de considérer les dispositifs technologiques à la fois en fonction des nouveaux modes de production du « savoir » qu’ils constituent, qui rendent « sensible» par avance ce qui n’est pas (encore), en fonction aussi des effets de « gouvernement » qui en découlent, et des implications de tout cela pour la vitalité des processus politiques de discussion des règles fondamentales de justice. Vaste programme donc, que nous n’avons pu ici qu’ébaucher à grands traits.

9 Antoinette Rouvroy et Thomas Berns, « Détecter et prévenir : de la digitalisation des corps et de la docilité des normes », in. Guy Lebeer et Jacques Moriau, Gouverner par les corps, P.I.E. Peter Lang, 2009 (à paraître). Version pré-publication accessible en ligne : http://works.bepress.com/antoinette_rouvroy/30

10 Michel Foucault, Cours au Collège de France 1977-1978, Sécurité, Territoire, Population, p. 409.