{"id":801,"date":"2015-02-23T15:11:14","date_gmt":"2015-02-23T15:11:14","guid":{"rendered":"https:\/\/gsara.tv\/causes\/?p=801"},"modified":"2015-12-03T15:40:42","modified_gmt":"2015-12-03T15:40:42","slug":"big-data-tyranie-du-reel","status":"publish","type":"post","link":"https:\/\/www.causestoujours.be\/big-data-tyranie-du-reel\/","title":{"rendered":"Big Data ou la tyrannie du r\u00e9el – Entretien avec Antoinette Rouvroy"},"content":{"rendered":"

Les Big Data, nouveau champ de la mod\u00e9lisation sociale, pr\u00e9tendent capturer le r\u00e9el comme tel. Antoinette Rouvroy nous explique comment la \u00ab\u00a0gouvernementalit\u00e9 algorithmique\u00a0\u00bb, ce nouveau pouvoir, tente de cat\u00e9goriser et d’\u00e9valuer les propensions, les opportunit\u00e9s et les risques que repr\u00e9sentent les personnes.<\/strong><\/p>\n

Antoinette Rouvroy, docteur en sciences juridiques de l’Institut universitaire europ\u00e9en et chercheuse qualifi\u00e9e au FNRS, se consacre \u00e0 la philosophie du droit et \u00e0 la philosophie des normes. Rattach\u00e9e au Centre de Recherche Information, Droit et Soci\u00e9t\u00e9 (CRIDS) \u00e0 l\u2019universit\u00e9 de Namur, Rouvroy d\u00e9veloppe une approche interdisciplinaire ou m\u00eame plut\u00f4t indisciplinaire. Son int\u00e9r\u00eat porte sur le rapport des modes de production du savoir au d\u00e9part de la g\u00e9n\u00e9tique et des technologies de l\u2019information. Quelles sont les conceptions du sujet qui se d\u00e9veloppent en articulation avec les nouveaux modes de production du savoir et les nouveaux modes d\u2019exercices du pouvoir ?<\/p>\n

\"\"<\/a>

data.path Ryoji.Ikeda – 3<\/a> r2hox <\/a> is licensed under CC BY-SA 2.0<\/a><\/p><\/div>\n

Selon vous, les donn\u00e9es brutes et les Big Data permettent de cr\u00e9er des profils ou des mod\u00e8les de comportement. Pouvez-vous nous expliquer cette probl\u00e9matique et les risques qui en d\u00e9coulent ?<\/strong><\/p>\n

Bien que les Big Data peuvent \u00eatre utilis\u00e9es dans d\u2019autres domaines que celui de la mod\u00e9lisation sociale (par exemple dans la gestion de l\u2019environnement ou de l\u2019astronomie), ce qui m\u2019interpelle, ce sont les nouvelles possibilit\u00e9s de cat\u00e9gorisation et d\u2019\u00e9valuation des propensions, des opportunit\u00e9s et des risques que repr\u00e9sentent les personnes. Il s\u2019agit d\u2019une nouvelle m\u00e9thode pour \u00e9valuer et cat\u00e9goriser les individus. Les donn\u00e9es brutes constituent des nouveaux objets dans le paysage s\u00e9miotique – le paysage des signes et des signaux. Tout d\u2019abord, les donn\u00e9es brutes ne fonctionnent pas du tout comme des ic\u00f4nes. Elles ne font pas signe par ressemblance aux choses auxquelles elles sont cens\u00e9es faire signe. Une donn\u00e9e brute ne ressemble \u00e0 rien. Elle est tr\u00e8s souvent \u00ab\u00a0anonymis\u00e9e\u00a0\u00bb, d\u00e9sindex\u00e9e et d\u00e9contextualis\u00e9e. Elles sont \u00e9galement ininterpr\u00e9tables et fonctionnent comme un pur signal quantitatif, agr\u00e9geable \u00e0 un niveau supra-individuel sous forme de profil (mod\u00e8le de comportement). Ensuite, bien que l\u2019on parle souvent de traces num\u00e9riques, les donn\u00e9es brutes ne fonctionnent pas non plus comme des traces. Je pense que c\u2019est une m\u00e9taphore trompeuse car une trace, au regard des th\u00e9ories s\u00e9miotiques, se d\u00e9finit par le fait qu\u2019elle retient, comme une empreinte, la marque d\u2019un contact physique avec la chose pour laquelle elle fait signe. Or, une donn\u00e9e brute n\u2019a aucune m\u00e9moire dans sa forme et ne garde aucun passage ni aucun contact avec un corps ou m\u00eame avec un mouvement que nous aurions pu faire. De plus, elles ne fonctionnent pas non plus comme un signe conventionnel, ni comme un symbole dans la mesure o\u00f9 les symboles – comme par exemple, les signaux routiers \u2013 tirent leur signification d\u2019une convention ant\u00e9rieure. Enfin, les donn\u00e9es brutes n\u2019\u00e9mergent pas non plus de la nature mais sont produites gr\u00e2ce \u00e0 des processus sophistiqu\u00e9s d\u2019anonymisation, de d\u00e9sindexation et de d\u00e9contextualisation. Ce sont des donn\u00e9es qui sont par la suite expurg\u00e9es de toute signification singuli\u00e8re et de tout lien avec ce qui pourrait les rattacher \u00e0 un sens intelligible pour l\u2019\u00eatre humain.<\/p>\n

En ce qui concerne les Big Data, elles ne sont pas constitu\u00e9es uniquement de donn\u00e9es brutes. Les Big Data forment un ensemble de donn\u00e9es de diff\u00e9rentes natures. Il y a les donn\u00e9es brutes, comme caract\u00e9ris\u00e9es ci-dessus mais aussi les donn\u00e9es \u00e0 caract\u00e8re personnel relatives \u00e0 des individus identifi\u00e9s ou identifiables, les donn\u00e9es de localisation, les images, les sons, les trajectoires et toutes sortes de donn\u00e9es extr\u00eamement complexes. On parle aussi des donn\u00e9es qui \u00e9mergent de l\u2019administration – Hard Data \u2013 et celles issues des r\u00e9seaux sociaux \u2013 Soft Data.<\/p>\n

Les Big Data enflent \u00e0 tr\u00e8s grande vitesse et constituent des quantit\u00e9s immenses, stock\u00e9es dans des entrep\u00f4ts de donn\u00e9es trait\u00e9es en temps de r\u00e9el. On fait r\u00e9f\u00e9rence aux Big Data \u00e0 partir du moment o\u00f9 l\u2019on franchit un certain seuil de complexit\u00e9 et de vitesse. Ces quantit\u00e9s seront encore plus importantes \u00e0 partir du moment o\u00f9 se d\u00e9veloppera l\u2019Internet des objets.<\/p>\n

Quantit\u00e9, v\u00e9locit\u00e9 et complexit\u00e9. Comment traiter \u00e0 la fois des images, des sons et des trajectoires ? Nos m\u00e9thodes traditionnelles de traitement des bases de donn\u00e9es ne sont plus ad\u00e9quates. Nous sommes aujourd\u2019hui forc\u00e9s d\u2019automatiser la production de savoir \u00e0 partir des donn\u00e9es brutes et d\u2019acc\u00e9l\u00e9rer la transformation de ces donn\u00e9es en information ou en savoir. Ce sont les algorithmes qui permettent d\u2019automatiser la production de savoirs, d\u2019informations et de mod\u00e8les au d\u00e9part de bases de donn\u00e9es gigantesques et extr\u00eamement complexes. Comment fonctionnent ces algorithmes utilis\u00e9s sp\u00e9cifiquement dans les applications de ce que l\u2019on appelle les data mining – le forage des donn\u00e9es ou d\u2019exploitation des donn\u00e9es, le profilage et la fabrication de mod\u00e8les relativement pr\u00e9dictifs au d\u00e9part de donn\u00e9es ? On fait tourner des algorithmes dont le travail consiste \u00e0 d\u00e9tecter des corr\u00e9lations entre des donn\u00e9es recueillies dans des contextes h\u00e9t\u00e9rog\u00e8nes. Le but est de faire surgir des profils ou des mod\u00e8les de comportements qui seront pr\u00e9dictifs dans la mesure o\u00f9 ces corr\u00e9lations sont r\u00e9currentes, ind\u00e9pendamment de toute notion de cause. On passe des ambitions de la rationalit\u00e9 moderne qui liait les ph\u00e9nom\u00e8nes \u00e0 leurs causes \u00e0 une sorte de rationalit\u00e9 post-moderne purement statistique qui vise \u00e0 faire \u00e9merger ou \u00e0 faire visualiser \u2013 la visualisation des donn\u00e9es – des corr\u00e9lations entre des donn\u00e9es tout \u00e0 fait h\u00e9t\u00e9rog\u00e8nes qui ne sont li\u00e9es par aucune forme de causalit\u00e9. Plus on a de quantit\u00e9s massives de donn\u00e9es, plus on peut parvenir \u00e0 des pr\u00e9dictions de comportement relativement fines. C\u2019est donc la quantit\u00e9 qui assure la validit\u00e9 des mod\u00e8les plut\u00f4t que la validit\u00e9 du mod\u00e8le a priori. D\u2019ailleurs, le mod\u00e8le ne pr\u00e9-existe pas \u00e0 la collecte et au traitement des donn\u00e9es. Autrement dit, dans le cas du data mining, des hypoth\u00e8ses sur le monde ne pr\u00e9-existent pas au traitement des donn\u00e9es. Ce sont plut\u00f4t les algorithmes qui feront surgir des hypoth\u00e8ses et des mod\u00e8les.<\/p>\n

C\u2019est par rapport \u00e0 ce constat que vous introduisez la notion de gouvernementalit\u00e9 algorithmique. <\/strong><\/p>\n

Ce sont surtout des dispositifs qui nous dispensent de toute une s\u00e9rie d\u2019op\u00e9rations mentales sur la v\u00e9rit\u00e9 et qui nous dispensent de devoir comprendre les causes des ph\u00e9nom\u00e8nes puisqu\u2019ils pr\u00e9tendent pr\u00e9dire la survenance de choses que l\u2019on redoute ou de choses que l\u2019on souhaite sans s\u2019int\u00e9resser \u00e0 leurs causes. Ces dispositifs seraient capables de pr\u00e9dire \u00e0 la fois des actions terroristes mais \u00e9galement le passage \u00e0 l\u2019acte d\u2019achat. Ils promettent de pouvoir g\u00e9rer ce qui n\u2019est que de l\u2019ordre de la potentialit\u00e9, du possible, de l\u2019avenir sans avoir \u00e0 interroger les causes des ph\u00e9nom\u00e8nes, sans avoir \u00e0 interroger les personnes sur ce que sont leurs pr\u00e9f\u00e9rences ou leurs choix. L\u2019id\u00e9e est de se dispenser de toute forme de rencontre et de g\u00e9rer la fluidit\u00e9 en temps r\u00e9el. Il s\u2019agit d\u2019une mani\u00e8re de gouverner qui nous dispense de prendre des d\u00e9cisions par nous-m\u00eames. Les gouvernants, les entreprises, les policiers sont \u00e9cart\u00e9s. On va s\u2019en remettre de plus en plus \u00e0 ce que l\u2019on appelle des \u00ab\u00a0algorithmes de recommandation\u00a0\u00bb qui ne prennent pas n\u00e9cessairement la d\u00e9cision pour nous mais qui nous recommandent de nous diriger vers une direction pr\u00e9cise.<\/p>\n

Il n\u2019est pas \u00e9tonnant de constater que ce mod\u00e8le soit de plus en plus appliqu\u00e9 \u00e0 la s\u00e9curit\u00e9\u2026<\/strong><\/p>\n

Il existe une id\u00e9ologie des Big Data qui les pr\u00e9sente comme la solution \u00e0 tous les probl\u00e8mes. C\u2019est le solutionisme de la Silicone Valley. Depuis le 11 septembre 2001, les co\u00fbts du personnel de s\u00e9curit\u00e9 dans les a\u00e9roports ont augment\u00e9 tr\u00e8s significativement et repr\u00e9sentent une charge financi\u00e8re assez importante pour les \u00e9tats. \u00c0 partir du moment o\u00f9 l\u2019on peut automatiser la d\u00e9tection et l\u2019\u00e9valuation anticipative des risques, il est certain qu\u2019il y aura une tentation de remplacer le personnel de s\u00e9curit\u00e9 par des machines. Il existe un r\u00e9seau d\u2019int\u00e9r\u00eats convergeant vers une utilisation intensive de ces dispositifs. Ceux-ci sont pr\u00e9sent\u00e9s comme une m\u00e9thode beaucoup plus rationnelle que l\u2019\u00e9valuation humaine dans la mesure o\u00f9 l\u2019on pense qu\u2019un algorithme est aveugle aux pr\u00e9jug\u00e9s racistes, de genre, etc. Les algorithmes ne recouperaient aucune cat\u00e9gorisation socialement \u00e9prouv\u00e9e et para\u00eetraient beaucoup plus objectifs. C\u2019est une promesse \u00e0 la fois de rationalisation mais aussi d\u2019acc\u00e9l\u00e9ration. Cela permettrait de transformer les a\u00e9roports en des lieux commerciaux sans zone de transit o\u00f9 l\u2019on pourrait faire passer les contr\u00f4les de s\u00e9curit\u00e9 uniquement aux personnes qui seraient d\u00e9sign\u00e9es \u00e0 risque par les algorithmes. Il y a \u00e0 la fois un r\u00eave de plus grande fluidit\u00e9, d\u2019\u00e9conomie de personnel et d\u2019objectivation. Les industriels de la s\u00e9curit\u00e9 se sont saisis de ces dispositifs et les vendent comme \u00e9tant la garantie de la s\u00e9curit\u00e9 absolue. On sait par ailleurs que ces dispositifs ne sont pas exempts de biais. Ce sont de v\u00e9ritables bo\u00eetes noires dans lesquelles les biais ne sont pas n\u00e9cessairement visibles. De plus, ces dispositifs dans le domaine de la s\u00e9curit\u00e9 sont parfois import\u00e9s de zones g\u00e9ographiques en guerre. Par exemple, Isra\u00ebl exporte ces techniques vers les Etats-Unis et l\u2019Europe. Or ces dispositifs (les algorithmes) ont \u00e9t\u00e9 fabriqu\u00e9s dans le contexte du conflit Isra\u00e9lo-Palestinien.<\/p>\n

Il y a un embarquement de toute une s\u00e9rie de valeurs et de vision du monde dans la technologie elle-m\u00eame et, une fois que ces dispositifs sont vendus comme des bo\u00eetes noires \u00e0 l\u2019\u00e9tranger, nous pensons na\u00efvement que ces biais disparaissent compl\u00e8tement au profit de l\u2019objectivit\u00e9.<\/p>\n

Oui, et puis, de toute fa\u00e7on, il ne faut pas oublier que les algorithmes sont con\u00e7us par des \u00eatres humains et ne peuvent donc de toute fa\u00e7on \u00eatre objectifs…<\/strong><\/p>\n

Oui, bien entendu, mais les \u00e9volutions r\u00e9centes vont vers ce que l\u2019on appelle le machine learning<\/em> ou l\u2019apprentissage par les machines elles-m\u00eames. L\u2019id\u00e9al \u00e9tant que les machines auto-apprenantes puissent apprendre de leurs propres erreurs et s\u2019auto-corriger. Leurs crit\u00e8res de s\u00e9lection des \u00e9l\u00e9ments pertinents afin de d\u00e9terminer un risque \u00e9chapperont \u00e0 leur concepteur. IBM appelle cela l\u2019autonomic computing<\/em>, un mod\u00e8le de parc informatique qui se g\u00e9rerait lui-m\u00eame et qui pourrait d\u00e9tecter le risque d\u2019attaque, s\u2019adapter \u00e0 l\u2019environnement et se corriger lui-m\u00eame. On s\u2019est rendu compte qu\u2019on allait rapidement avoir un manque d\u2019informaticiens pour entretenir tout ce mat\u00e9riel qui se multiplie et qui se diversifie \u00e0 une vitesse folle. Le mat\u00e9riel devient surabondant par rapport \u00e0 une main d\u2019\u0153uvre d\u2019entretien insuffisante. Il y a une n\u00e9cessit\u00e9 que les machines deviennent de plus en plus autonomes. La vision de l\u2019arm\u00e9e am\u00e9ricaine en mati\u00e8re de r\u00e9solution de conflits arm\u00e9s va un peu dans le m\u00eame sens. L\u2019id\u00e9e \u00e9tant qu\u2019on envoie des drones suffisamment autonomes pour faire face \u00e0 d\u2019\u00e9ventuelles coupures des communications. Les drones autonomes seraient plus moraux que les humains dans la mesure o\u00f9 ils ne craindraient pas pour leur vie et ne seraient anim\u00e9s par aucune haine.<\/p>\n

\"data\"<\/a>

\u00ab\u00a0data.path Ryoji.Ikeda – 2<\/a>\u00a0\u00bb by r2hox<\/a> is licensed under CC BY-SA 2.0<\/a><\/p><\/div>\n

La gouvernementalit\u00e9 algorithmique<\/em> se distingue d’un mode de pouvoir dont la contrainte est int\u00e9rioris\u00e9e (Foucault). Quelles sont les nouvelles \u00ab tactiques \u00bb employ\u00e9es par cette nouvelle mani\u00e8re de gouverner ?
\n<\/strong>
\nLa gouvernementalit\u00e9 algorithmique<\/em> est un mode de gouvernement nourri essentiellement par des donn\u00e9es brutes et qui affecte le comportement des individus sur le mode de l\u2019alerte ou du stimulus provoquant du reflex plut\u00f4t que de la r\u00e9flexivit\u00e9. Par exemple, dans le domaine du marketing, on va attirer votre attention sur certaines choses. On va vous envoyer des publicit\u00e9s cibl\u00e9es. Ces nouvelles pratiques qui ont notamment \u00e9t\u00e9 d\u00e9crites par le chercheur am\u00e9ricain Ryan Calo (digital market) permettent de d\u00e9tecter le moment o\u00f9 le consommateur et\/ou l\u2019internaute sera le plus susceptible, subjectivement, de cliquer sur un type de publicit\u00e9. Notre capacit\u00e9 de r\u00e9sistance \u00e0 des offres ou \u00e0 des tentations s\u2019\u00e9mousse au fur et \u00e0 mesure qu\u2019on s\u2019en sert au cours de la journ\u00e9e. En suivant votre trajectoire (votre activit\u00e9 en ligne) sur votre ordinateur, les neuromarketers sont capables de d\u00e9tecter le moment pr\u00e9cis o\u00f9 vous serez le plus enclin \u00e0 cliquer sur une publicit\u00e9. Un autre exemple, c\u2019est ce qu\u2019on appelle le dynamic pricing<\/em> qui est notamment utilis\u00e9 par certaines compagnies d\u2019aviation low-cost et qui permet de d\u00e9tecter parmi les clients captifs comme, par exemple, ceux qui doivent imp\u00e9rativement voyager entre Bruxelles et Gen\u00e8ve le lendemain. Les compagnies peuvent ainsi pister votre activit\u00e9 en ligne et sont en mesure d\u2019adapter les prix en fonction des autres compagnies concurrentes dont vous avez \u00e9galement visit\u00e9 les sites web. Si vous devez voyager de toute urgence, ils vont augmenter les prix uniquement pour vous. Ayant peur que les prix continuent \u00e0 augmenter, votre r\u00e9flexe sera d\u2019acheter imm\u00e9diatement un billet. On vous vend des dispositifs de personnalisation de l\u2019offre.<\/p>\n

Ce gouvernement a pour cible privil\u00e9gi\u00e9e non pas l\u2019actuel, non pas ce que font les individus, ni leur pass\u00e9 et ce qu\u2019ils ont fait mais le potentiel : ce que les corps pourraient faire<\/div>\n

Ce gouvernement a pour cible privil\u00e9gi\u00e9e non pas l\u2019actuel, non pas ce que font les individus, ni leur pass\u00e9 et ce qu\u2019ils ont fait mais le potentiel : ce que les corps pourraient faire. Ce que vous pourriez faire. Si l\u2019on compare ce mode de gouvernementalit\u00e9 \u00e0 l\u2019\u00e9volution de la gouvernementalit\u00e9 telle que d\u00e9crite chez Foucault, ce qui a pris la place de la peste, de la l\u00e8pre, de la maladie mentale, ou de la mendicit\u00e9, c\u2019est l\u2019incertitude comme telle. L\u2019incertain pour l\u2019incertain \u00e0 savoir le mode conditionnel de ce que peuvent les corps. La puissance des sujets et la potentialit\u00e9 des individus deviennent la cible. La r\u00e9sistance ou la r\u00e9calcitrance \u00e0 ce mode de gouvernement est tr\u00e8s difficile \u00e0 organiser parce que, pr\u00e9cis\u00e9ment, personne ne se sent vis\u00e9. On ne vise plus aucune cat\u00e9gorie socialement \u00e9prouv\u00e9e : ce ne sont plus les noirs, les femmes ou les juifs mais le potentiel comme tel. L\u2019objectif gouvernemental est de faire en sorte que certaines choses n\u2019arrivent pas ou que d\u2019autres arrivent. Dans le domaine du marketing qui est un domaine o\u00f9 cela se d\u00e9veloppe le plus fortement aujourd\u2019hui, l\u2019objectif est que les individus aient le moins de temps ou de recul possible pour revoir leurs pr\u00e9f\u00e9rences. Cela fonctionne sur le mode de l\u2019exploitation de l\u2019addiction. La gouvernementalit\u00e9 algorithmique<\/em> ne conna\u00eet aucune limite et aucune norme. Les notions de raisonnabilit\u00e9 disparaissent compl\u00e8tement.<\/p>\n

Cette mani\u00e8re de gouverner n\u2019aurait pas de pr\u00e9c\u00e9dent dans l\u2019histoire ? <\/strong><\/p>\n

\u00c0 mon sens, c\u2019est \u00e0 la fois quelque chose de tout \u00e0 fait neuf et \u00e0 la fois un prolongement du n\u00e9olib\u00e9ralisme. L\u2019id\u00e9al n\u00e9olib\u00e9ral est de gouverner le moins possible et de faire en sorte que le r\u00e9el num\u00e9ris\u00e9 se suffise \u00e0 lui-m\u00eame. En quelque sorte, ce gouvernement de la personnalisation vise \u00e0 ce que l\u2019individu devienne sa propre norme statistique et que ce soit le r\u00e9el num\u00e9ris\u00e9 lui-m\u00eame, par le biais d\u2019algorithmes, qui finisse par se gouverner sans que les gouvernants aient \u00e0 prendre encore la moindre d\u00e9cision ou orientation politique. Cela correspond tr\u00e8s bien \u00e0 cette id\u00e9e lib\u00e9rale ou n\u00e9olib\u00e9rale de quasi absence de gouvernement. Un d\u00e9sinvestissement de tout ce qui rel\u00e8ve de la sph\u00e8re institutionnelle symbolique. C\u2019est aussi une intensification du n\u00e9oliberalisme dans la mesure o\u00f9 cette gouvernementalit\u00e9 algorithmique<\/em> ne repose sur aucun sujet. La notion de sujet individuel dispara\u00eet compl\u00e8tement au profit de r\u00e9seaux de donn\u00e9es ou de points de localisation dans des tables actuarielles. Les donn\u00e9es brutes sont une sorte d\u2019\u00e9clatement et de fragmentation de la vie quotidienne d\u00e9mat\u00e9rialis\u00e9e. On parle de double num\u00e9rique mais c\u2019est une notion totalement fausse. Nous n\u2019avons aucun double num\u00e9rique. Nous ne comptons que comme agr\u00e9gats temporaires de donn\u00e9es qui sont elles-m\u00eames agr\u00e9geables ou exploitables en masse \u00e0 l\u2019\u00e9chelle industrielle. Pour la gouvernementalit\u00e9 algorithmique, il n\u2019y a pas de sujet mais des fragmentages infra-individuels de donn\u00e9es qui ne sont plus des donn\u00e9es \u00e0 caract\u00e8res personnel puisqu\u2019elles sont anonymis\u00e9es. Quant aux mod\u00e8les, ils sont eux supra-individuels \u00e0 savoir des profils qui ne sont jamais des personnes. Chaque individu peut avoir diff\u00e9rents profils qui sont \u00e9volutifs en temps r\u00e9el mais aucun ne lui correspond totalement. Il s\u2019agit d\u2019une hyper-fragmentation des individus qui peuvent \u00eatre mis en concurrence les uns avec les autres \u00e0 l\u2019\u00e9chelle quasiment mol\u00e9culaire. Dans ce sens-l\u00e0, la notion m\u00eame de sujet ou d\u2019individu ne fait absolument plus barri\u00e8re \u00e0 l\u2019hyper-exploitation y compris du temps de sommeil disponible ou de l\u2019attention. On ne peut m\u00eame plus opposer l\u2019int\u00e9grit\u00e9 de sa vie \u00e0 la surexploitation de la moindre parcelle d\u2019existence. \u00c0 mon sens, cela accentue le n\u00e9olib\u00e9ralisme.<\/p>\n

En m\u00eame temps, l\u2019effacement du sujet \u00a0pourrait sembler paradoxal avec la notion m\u00eame de lib\u00e9ralisme.<\/strong><\/p>\n

Oui, effectivement. La notion de lib\u00e9ralisme pr\u00e9suppose comme unit\u00e9 fondamentale le sujet soi-disant rationnel, autonome, \u00e9go\u00efste. Ici, on est compl\u00e8tement \u00e0 l\u2019oppos\u00e9. Nous nous en \u00e9loignons assez radicalement et c\u2019est ce qui est tr\u00e8s nouveau par rapport \u00e0 la notion de discipline foucaldienne. L\u2019individu ne doit plus se conformer \u00e0 aucune norme car cette gouvernementalit\u00e9 appara\u00eet comme absolument anormative. Il s\u2019agit d\u2019un syst\u00e8me dans lequel les individus se sentent compl\u00e8tement libres car ils n\u2019internalisent aucune norme dont ils auraient pris connaissance a priori puisque les normes ou les mod\u00e8les de comportement doivent \u00e9merger eux-m\u00eames des masses de donn\u00e9es en temps r\u00e9el et ne pr\u00e9sident pas \u00e0 la r\u00e9colte des donn\u00e9es. Il n\u2019y a aucune int\u00e9riorisation de la norme et ces dispositifs ne visent aucunement \u00e0 la r\u00e9forme psychologique des individus. Autrement dit, \u00e0 les rendre \u00ab\u00a0normaux\u00a0\u00bb.<\/p>\n

On est exactement \u00e0 l\u2019oppos\u00e9 de la discipline foucaldienne : il ne s\u2019agit plus de rendre les corps dociles par rapport aux normes mais de rendre les normes dociles par rapport aux corps<\/div>\n

On est exactement \u00e0 l\u2019oppos\u00e9 de la discipline foucaldienne : il ne s\u2019agit plus de rendre les corps dociles par rapport aux normes mais de rendre les normes dociles par rapport aux corps. Quoi qu\u2019il arrive, quelque soit la sauvagerie des faits, les mod\u00e8les ou les profils s\u2019adaptent \u00e0 tout ce qui peut survenir dans le monde. Si vous vous \u00e9cartez radicalement par vos comportements d\u2019un profil qui vous a \u00e9t\u00e9 assign\u00e9, cela ne va jamais \u00eatre inscrit comme une erreur ni comme un \u00e9chec de la part du syst\u00e8me. Au contraire, chaque \u00e9cart permettra d\u2019enrichir la base statistique pour mieux vous profiler la prochaine fois. Plus \u00e7a rate, plus \u00e7a r\u00e9ussit. C\u2019est un mode de fonctionnement tout \u00e0 fait viral. Plus on s\u2019en sert, plus \u00e7a s\u2019enrichit et \u00e7a devient op\u00e9rationnel. On ne peut d\u00e8s lors jamais mettre ce syst\u00e8me en d\u00e9faut puisqu\u2019il est \u00e9volutif en temps r\u00e9el. Il s\u2019agit d\u2019une sorte de cl\u00f4ture du num\u00e9rique sur lui-m\u00eame qui ne se laisse plus provoquer par la libert\u00e9 des \u00eatres humains puisque cette libert\u00e9 quels que soient les actes qui sont pos\u00e9s, conformes ou r\u00e9calcitrants \u00e0 la mod\u00e9lisation, vont en fait servir \u00e0 mieux mod\u00e9liser.<\/p>\n

\"data2\"<\/a>

data.path Ryoji.Ikeda – 1<\/a> r2hox <\/a> is licensed under CC BY-SA 2.0<\/a><\/p><\/div>\n

Vous soulignez qu’il faut voir ce qui se joue au-del\u00e0 de la question de la protection des donn\u00e9es \u00e0 caract\u00e8re personnel. Pour vous, la vraie probl\u00e9matique concerne la question du \u00ab <\/span>profilage, de la personnalisation, de l’hypertrophie de la sph\u00e8re priv\u00e9e, de la paup\u00e9risation de l’espace public, de la pr\u00e9dation par des soci\u00e9t\u00e9s priv\u00e9es des espaces eux-m\u00eames priv\u00e9s des internautes 1<\/a><\/sup>\u00bb.<\/strong><\/p>\n

Il y a une hypertrophie de la sph\u00e8re priv\u00e9e \u00e0 partir du moment o\u00f9 l\u2019on personnalise l\u2019environnement et votre exp\u00e9rience de la vie. Cette promesse de r\u00e9ponse par anticipation sur l\u2019expression des d\u00e9sirs provoque un gavage des individus. Ces syst\u00e8mes nous promettent de d\u00e9tecter en temps r\u00e9el les bons crit\u00e8res de d\u00e9sirabilit\u00e9 et donc d\u2019arbitrer pour nous au d\u00e9triment du d\u00e9bat politique. Les machines proposent de faire ce travail politique. Vous \u00eates constamment dans une sorte de bulle personnalis\u00e9e qui, \u00e0 terme, risque de vous priver de ce qui constitue une exp\u00e9rience commune\u00a0: \u00eatre confront\u00e9 \u00e0 quelque chose qui n\u2019a pas \u00e9t\u00e9 pr\u00e9vu pour vous. Ce qui est l\u2019exp\u00e9rience m\u00eame de la rencontre politique et du d\u00e9bat.<\/p>\n

L\u2019id\u00e9ologie qui d\u00e9coule des Big Data est le r\u00eave d\u2019un acc\u00e8s imm\u00e9diat au r\u00e9el o\u00f9 l\u2019on \u00e9vite toute forme de repr\u00e9sentation. Les Big Data se pr\u00e9sentent comme une solution radicale \u00e0 la crise de la repr\u00e9sentation, y compris \u00e0 la crise de la repr\u00e9sentation politique. C\u2019est le r\u00eave d\u2019un acc\u00e8s imm\u00e9diat au r\u00e9el qui n\u2019aurait m\u00eame plus besoin de passer par le langage. Les Big Data se d\u00e9finissent comme relativement exhaustives, comme \u00e9tant la num\u00e9risation de la vie m\u00eame. C\u2019est comme si on touchait enfin le r\u00e9el comme tel. Ce n\u2019est m\u00eame plus le r\u00eave d\u2019un r\u00e9alisme. C\u2019est le r\u00e9el sans la repr\u00e9sentation. S\u2019il n\u2019existe plus de repr\u00e9sentation, il n\u2019y a plus d\u2019espace politique. Nous n\u2019avons besoin d\u2019un espace politique que parce que nous avons besoin de nous repr\u00e9senter les choses y compris par le langage. Et comme nous avons tous des repr\u00e9sentations diff\u00e9rentes des choses, nous devons confronter ces points de vue diff\u00e9rents. C\u2019est \u00e0 \u00e7a que sert l\u2019espace public\u00a0! Un espace dans lequel on puisse d\u00e9lib\u00e9rer de la chose publique. Les Big Data, cette promesse d\u2019objectivit\u00e9 en temps r\u00e9el, promet de pouvoir se passer de la d\u00e9lib\u00e9ration et de toute forme de m\u00e9diation. Il y a donc deux aspects : l\u2019hypertrophie de la sph\u00e8re priv\u00e9e et la r\u00e9ponse donn\u00e9e par les Big Data \u00e0 la crise de la repr\u00e9sentation politique. Cette r\u00e9ponse est tout \u00e0 fait radicale puisqu’elle nous dit : \u00ab\u00a0il n\u2019y a plus rien \u00e0 repr\u00e9senter puisque nous sommes le r\u00e9el\u00a0\u00bb.<\/p>\n

Y a-t-il, selon vous, un accaparement du pouvoir par les algorithmes ? <\/strong><\/p>\n

Les algorithmes ne sont ni bons ni mauvais. Ils n\u2019ont pas de volont\u00e9 propre. Par contre, je pense qu\u2019il y a une tr\u00e8s grande paresse dans notre soci\u00e9t\u00e9 qui fait que les gouvernants ont tendance non plus \u00e0 prendre des d\u00e9cisions sur base de valeurs qu\u2019ils d\u00e9fendraient mais plut\u00f4t \u00e0 prendre des d\u00e9cisions en se r\u00e9fugiant derri\u00e8re des chiffres. Des chiffres qui ne sont rien d\u2019autre qu\u2019une repr\u00e9sentation particuli\u00e8re du r\u00e9el, c\u2019est-\u00e0-dire les faits. Les faits n\u2019ont aucune valeur en eux-m\u00eames. Aujourd\u2019hui, je trouve qu\u2019il y a une sorte de confusion entre ce qui est un fait et ce qui est bon et c\u2019est tout le probl\u00e8me de la tyrannie de l\u2019\u00e9conomie qui est acc\u00e9l\u00e9r\u00e9e par les algorithmes. On consid\u00e8re que ce qui est dans les faits doit \u00eatre dans le droit et qu\u2019il faut \u00eatre r\u00e9alistes en politique et suivre l\u2019\u00e9conomie. Ceux qui ont des choses \u00e0 d\u00e9cider ne veulent plus \u00eatre incomb\u00e9s de cette charge car une d\u00e9cision est un geste qui peut rater. Pourtant, il n\u2019y a que l\u2019incertitude qui donne de la dignit\u00e9 \u00e0 la d\u00e9cision. La cible principale sinon exclusive de cette gouvernementalit\u00e9 algorithmique<\/em> est l\u2019incertitude comme telle que l\u2019on veut \u00e9radiquer en suspendant les effets de l\u2019incertitude. La n\u00e9cessit\u00e9 de devoir prendre des d\u00e9cision en situation d\u2019incertitude dispara\u00eet aujourd\u2019hui tout comme la notion d\u2019autorit\u00e9 au sens d\u2019\u00a0\u00ab\u00a0\u00eatre auteur\u00a0\u00bb. Dans le cas des politiciens ou des d\u00e9cideurs au sens large, \u00eatre auteur de la d\u00e9cision ce serait ne pas suivre aveugl\u00e9ment une recommandation faite par un algorithme mais plut\u00f4t de d\u00e9cider en situation d\u2019incertitude, sachant qu\u2019on peut se tromper et qu\u2019on aura des comptes \u00e0 rendre. Ce que nous n\u2019acceptons plus aujourd\u2019hui \u2013 et que l\u2019on fait assumer par des algorithmes \u2013 c\u2019est le risque de l\u2019erreur.<\/p>\n

Les politiques se tournent de plus en plus vers cette mani\u00e8re de gouverner ou de ne pas gouverner\u00a0?<\/strong><\/p>\n

Ce qu\u2019ils veulent, ce sont tous les avantages en nature et tous les avantages symboliques de la fonction mais sans pour autant assumer la fonction. La gouvernenmentalit\u00e9 algorithmique<\/em> n\u2019est qu\u2019un sympt\u00f4me aigu. Le probl\u00e8me le plus important, c\u2019est la soumission de la politique et du droit \u00e0 l\u2019\u00e9conomie d\u2019une part, et la soumission de l\u2019\u00e9conomie \u00e0 la finance d\u2019autre part. Nous sommes en plein dans une tyrannie du r\u00e9el. C\u2019est le r\u00e9el, le monde qui, soi-disant, voit des signaux neutres qu\u2019il suffit de capter et de calculer le plus rapidement possible de mani\u00e8re \u00e0 faire d\u00e9cider les machines au lieu de d\u00e9cider nous-m\u00eames. Quelles que soient les applications qu\u2019on en fasse, que ce soit dans le domaine de l\u2019orientation professionnelle, dans le domaine de la s\u00e9curit\u00e9, du marketing ou m\u00eame dans le domaine m\u00e9dical, on vit une passion pour le r\u00e9el comme tel et un refus de prendre des d\u00e9cisions. De plus, l\u2019acc\u00e9l\u00e9ration des flux devient incontournable. Amazon a r\u00e9cemment brevet\u00e9 un logiciel qui leur permettrait d\u2019envoyer les marchandises vers ses clients avant m\u00eame que ceux-ci aient pu cliquer sur \u00ab\u00a0j\u2019ach\u00e8te\u00a0\u00bb. On va aussi cibler les petits enfants d\u00e8s la maternelle pour reconna\u00eetre leurs pr\u00e9dispositions aux math\u00e9matiques, aux langues, etc. de mani\u00e8re \u00e0 leur \u00e9viter de perdre une ann\u00e9e. Le temps de vie doit \u00eatre maximis\u00e9. Nous n\u2019avons plus de temps \u00e0 perdre dans aucune forme de m\u00e9diation. Le temps r\u00e9el exige aussi que l\u2019on court-circuite le temps de la discussion et de la d\u00e9lib\u00e9ration politique. C\u2019est la passion pour le r\u00e9el.<\/p>\n

Est-ce que l\u2019on constate pour autant une pr\u00e9occupation grandissante par rapport au d\u00e9veloppement effr\u00e9n\u00e9 des algorithmes ? Par exemple, m\u00eame les r\u00e9v\u00e9lations d\u2019Edward Snowden ne semblent pas toujours alerter l’opinion publique.<\/strong><\/p>\n

Justement, j\u2019\u00e9coutais une conf\u00e9rence que donnait Alain Badiou et qui expliquait la signification du mot \u00ab\u00a0scandale\u00a0\u00bb. Le scandale est la validation a contrario de l\u2019ordre ordinaire. Quand on dit que quelque chose est un scandale \u2013 \u00ab\u00a0le scandale de Snowden\u00a0\u00bb \u2013 cela appara\u00eet comme exceptionnel mais en fait ce n\u2019est pas exceptionnel. Le scandale ou l\u2019exception constitue la norme. On en a fait un \u00e9v\u00e9nement particulier qui isole ce fait comme si c\u2019\u00e9tait un accident et qu\u2019il ne faut pas trop s\u2019en faire car mis \u00e0 part cet accident ou quelques autres, \u00ab\u00a0tout va bien Madame la Marquise\u00a0\u00bb.<\/p>\n

Par ailleurs, nous sommes dans une soci\u00e9t\u00e9 hautement individualiste dans laquelle les personnes ne se sentent pas menac\u00e9es directement. Il faut leur parler de leur vie priv\u00e9e car on pense que \u00e7a leur parle. Par contre, dans le contexte du data mining et du profilage, il s\u2019agit de donn\u00e9es anonymes. On peut vous profiler tr\u00e8s pr\u00e9cis\u00e9ment sans avoir recours \u00e0 aucune donn\u00e9e \u00e0 caract\u00e8re personnel vous concernant. En fait, les juristes et les instances europ\u00e9ennes, en particulier la Commission europ\u00e9enne dans son projet de r\u00e8glement sur la protection des donn\u00e9es \u00e0 caract\u00e8re personnel, nous encourage ou nous enferme dans cette vision selon laquelle ce qui compte ce sont les droits individuels : \u00ab\u00a0On va prot\u00e9ger vos donn\u00e9es et l\u2019on va vous donner le droit de consentir par rapport \u00e0 l\u2019usage de vos donn\u00e9es \u00e0 caract\u00e8re personnel\u00a0\u00bb. C\u2019est \u00e9videmment une tr\u00e8s mauvaise vision car, comme je vous le disais, nous faisons face \u00e0 une hypertrophie de la sph\u00e8re priv\u00e9e et ce repli de l\u2019individu sur lui-m\u00eame, encourag\u00e9 par le droit et par la culture lib\u00e9rale, nous emp\u00eache de percevoir les enjeux structurels. Il existe des tentatives de r\u00e9calcitrance du c\u00f4t\u00e9 des hackers qui visent notamment \u00e0 brouiller les pistes en envoyant des requ\u00eates ou en entourant les mots-cl\u00e9s dans un nuage d\u2019autres mots-cl\u00e9s de fa\u00e7on \u00e0 ne pas \u00eatre trac\u00e9. Mais ces solutions sont relativement \u00e9litistes car tout le monde n\u2019y a pas acc\u00e8s et n\u2019a pas le temps ni les capacit\u00e9s d\u2019utiliser ces dispositifs de brouillage qui ne font qu\u2019entra\u00eener la machine de surcro\u00eet. On rendrait un grand service aux dispositifs de profilage en les entra\u00eenant \u00e0 distinguer les vraies des fausses requ\u00eates.<\/p>\n

Il y a un mouvement qui vise plut\u00f4t \u00e0 revendiquer la transparence des algorithmes. Comme je le soulignais ci-dessus, les algorithmes sont comme une bo\u00eete noire\u00a0: on sait plus ou moins ce qui y entre et on voit ce qui en sort mais on ne sait pas comment \u00e7a se bidouille \u00e0 l\u2019int\u00e9rieur. C\u2019est tr\u00e8s difficile de rendre \u00e7a transparent car, d\u2019une part, les algorithmes sont prot\u00e9g\u00e9s par le secret industriel ou alors le secret d\u2019Etat (dans le cas des applications s\u00e9curitaires) et, d\u2019autre part, il y a des obstacles techniques qui sont tr\u00e8s compliqu\u00e9s \u00e0 r\u00e9soudre. Les algorithmes combinent diff\u00e9rents types de logiques de gestion de base de donn\u00e9es qui sont imbriqu\u00e9es et les donn\u00e9es elles-m\u00eames sont tr\u00e8s complexes et diversifi\u00e9es. Essayer de mettre les algorithmes \u00e0 l\u2019\u00e9preuve et de comprendre comment elles peuvent produire de la discrimination s\u2019av\u00e8re \u00eatre une op\u00e9ration tr\u00e8s compliqu\u00e9e \u00e0 entreprendre.<\/p>\n

Que pensez-vous alors d\u2019avoir recours, \u00e0 un niveau individuel, soit \u00e0 la cryptographie ou alors aux bons gestes et aux bons usages pour \u00e9viter d\u2019\u00eatre trac\u00e9 ?<\/strong><\/p>\n

La cryptographie r\u00e9pond \u00e0 un probl\u00e8me de s\u00e9curit\u00e9 des communications dont le but est de pouvoir communiquer avec une autre personne sans que le contenu du message puisse \u00eatre lu. Cela ne r\u00e9pond pas aux enjeux du profilage car, pour le profilage, l\u2019importance est de savoir que votre ordinateur communique avec d\u2019autres ordinateurs sans se pr\u00e9occuper du contenu. Comment la cryptographie peut-elle nous aider \u00e0 ne pas \u00eatre trop profil\u00e9 ? La r\u00e9ponse n\u2019est pas simple car la cryptographie peut nous aider \u00e0 \u00eatre anonyme et sa mani\u00e8re d\u2019y parvenir est d\u2019ajouter, en quelque sorte, des donn\u00e9es. Plus on ajoute des donn\u00e9es, plus vous \u00eates facilement profilable. Il y a peut-\u00eatre un paradoxe qui veut que plus vous \u00eates anonyme, plus vous \u00eates profilable. Il faut trouver une sorte d\u2019optimum. Les solutions techniques ne sont r\u00e9ellement pas \u00e9videntes. Par contre, les bonnes pratiques moi je n\u2019y crois pas. Il y a une tendance \u00e0 vouloir \u00e9duquer les utilisateurs. On s\u2019est rendu compte en faisant des \u00e9tudes notamment \u00e0 l\u2019Universit\u00e9 de Namur sur les pratiques des jeunes sur Internet qu\u2019ils \u00e9taient beaucoup plus avertis que nous le pensions quant aux enjeux de protection de leur vie priv\u00e9e. De plus, je crois que l\u2019exposition de soi sur les r\u00e9seaux sociaux joue aujourd\u2019hui un r\u00f4le tout \u00e0 fait important d\u2019autant que nous sommes de plus en plus anonymes dans les espaces publics. Je fais notamment r\u00e9f\u00e9rence \u00e0 une veille description de Walter Benjamin \u00e0 propos de l\u2019int\u00e9rieur bourgeois du XIXe si\u00e8cle. Ces int\u00e9rieurs \u00e9taient farcis de signes de leur propre univers. Walter Benjamin nous explique que si les bourgeois du XIXe si\u00e8cle saturaient leur int\u00e9rieur des traces de leur existence terrestre c\u2019\u00e9tait avant tout pour se consoler d\u2019anonymat dans l\u2019espace public. Aujourd\u2019hui, si nous saturons nos espaces num\u00e9riques de traces de nous-m\u00eames c\u2019est en lien direct avec la d\u00e9sertification de l\u2019espace public. Nous avons besoin d\u2019espace public. Il s\u2019agit d\u2019une forme de consolation. Ce qui a remplac\u00e9 l\u2019int\u00e9rieur bourgeois, ce sont les blogs, Facebook, les autres r\u00e9seaux sociaux. Je ne suis pas non plus adepte du jugement moral un peu h\u00e2tif sur l\u2019exhibitionnisme car s\u2019il s\u2019agissait d\u2019exhibitionnisme cela resterait un comportement tr\u00e8s minoritaire. Or il est absolument majoritaire et nous montre bien l\u2019acuit\u00e9 du probl\u00e8me de la disparition de l\u2019espace public.<\/p>\n

Propos recueillis par Aur\u00e9lie Ghalim <\/strong><\/p>\n

1. [Pierre Alonso, \u00ab\u00a0Big Data is algorithming you\u00a0\u00bb, Article11<\/i><\/a>]<\/sup>\u21a9<\/p>\n","protected":false},"excerpt":{"rendered":"

Les Big Data, nouveau champ de la mod\u00e9lisation sociale, pr\u00e9tendent capturer le r\u00e9el comme tel. Antoinette Rouvroy nous explique comment la \u00ab\u00a0gouvernementalit\u00e9 algorithmique\u00a0\u00bb, ce nouveau pouvoir, tente de cat\u00e9goriser et d’\u00e9valuer les propensions, les opportunit\u00e9s et les risques que repr\u00e9sentent les personnes.<\/p>\n","protected":false},"author":10,"featured_media":826,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,84],"tags":[117,100,103,118,119,120,102,101],"class_list":["post-801","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-dossier","category-surveillance-self-defense","tag-antoinette-rouvroy","tag-big-data","tag-donnees","tag-donnees-brutes","tag-gouvernementalite-algorithmique","tag-machine-learning","tag-modelisation","tag-profilage"],"_links":{"self":[{"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/posts\/801","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/comments?post=801"}],"version-history":[{"count":22,"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/posts\/801\/revisions"}],"predecessor-version":[{"id":1625,"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/posts\/801\/revisions\/1625"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/media\/826"}],"wp:attachment":[{"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/media?parent=801"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/categories?post=801"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.causestoujours.be\/wp-json\/wp\/v2\/tags?post=801"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}