la face cachée d`internet - Institut de l`entreprise

Livres & Idées
The Filter Bubble Eli Pariser
La face cachée d’Internet
Jérôme Cazes
économiste, ancien directeur de la Coface
The Filter Bubble est à la fois un livre important, dénonçant des tendances lourdes
d’Internet et un livre d’actualité immédiate : l’ère de l’Internet personnalisé qu’il dénonce
n’aurait vraiment débuté que le 4 décembre 2009, quand Google a commencé à
personnaliser ses recherches. L’auteur, Eli Pariser, est un activiste américain trentenaire,
cofondateur de l’ONG Avaaz qui organise des pétitions mondiales sur Internet.
A
ujourd’hui, quand vous lancez une recherche sur Google, vous obtenez
des réponses personnalisées, différentes de celles qu’obtiendront vos amis.
Un algorithme filtre parmi les millions de réponses possibles celles qui
devraient a priori vous intéresser : par exemple, sur l’Égypte, des réponses
touristiques ou politiques selon ce que l’algorithme de Google pressent de vos centres
d’intérêt à partir de vos recherches précédentes.
Cette tendance à la personnalisation domine désormais Internet : les réponses sont
personnalisées, les sites sont personnalisés, les journaux en ligne sont personnalisés et,
bien sûr, les publicités sont personnalisées, y compris les publicités politiques. Nous
pensions être le client, mais la logique de gratuité d’Internet fait que nous sommes
devenus le produit, et à travers nous toutes les informations sur nous que révèlent ce
que nous cherchons (Google) ou ce que nous partageons (Facebook).
122 • Sociétal n°76
1-Societal 76_interieur.indd 122
19/04/12 14:58
La face cachée d’Internet
Chacun de nos clics est collecté et revendu en temps réel aux opérateurs les mieuxdisants pour compléter leurs bases et/ou l’utiliser immédiatement.
Nous pensions
être le client,
Cette première étape – nous connaître par nos choix – est
mais la logique
de gratuité
déjà redoutablement efficace. En regardant les films que
d’Internet fait
vous avez choisis et en les comparant aux choix d’autres
que nous sommes
clients, le site Netflix1 est capable de définir vos goûts
devenus le
produit.
cinématographiques sur ses cent quarante mille références disponibles.
Manipulation
Or, l’étape suivante est en préparation : déduire de chacun de nos choix les arguments
qui nous convainquent et les moments où nous sommes le plus malléables. La manipulation individuelle est en passe de devenir industrielle et économique.
La course aux données personnelles ne s’arrêtera pas. On voit surgir sur Facebook
des « amis » qui sont virtuels et seulement destinés à piéger des informations personnelles. Le site OkCupid trouve notre âme sœur à partir de deux cents questions
auxquelles nous répondons tout comme dix mille autres candidats. Le site cherchera
probablement à rentrer dans ses investissements en revendant nos réponses aux deux
cents questions. La reconnaissance des visages fait des progrès fabuleux : demain nous
pourrons être suivis dans tous les lieux publics et nos comportements analysés. Des
circuits inclus dans les objets qui nous sont vendus traceront ce qui arrive à l’objet après
sa vente.
Nous sommes passés à l’exact opposé des valeurs de l’Internet historique : il jouait sur
la découverte, l’adoption de nouvelles idées et l’anonymat, quand on est maintenant
dans la recherche, la récupération d’information et la transparence absolue. Il prétendait décentraliser les pouvoirs : le web d’aujourd’hui le concentre dans quelques sociétés hyperpuissantes lancées dans une course effrénée.
1. Site Internet américain et canadien proposant de visionner des films en flux continu et des locations de films par
courrier sur abonnement.
2
1-Societal 76_interieur.indd 123
eme
trimestre
2012
• 123
19/04/12 14:58
Livres & Idées
Discrimination
L’information « à l’ancienne » disparaît, celle qui visait un contenu « de qualité » pour
attirer un lectorat « de qualité », garant d’une publicité « de qualité ». Certes, le New
York Times interdit encore à ses journalistes de suivre combien de clics génèrent leurs
articles, mais leur chef, lui, connaît cette information… Et pour les publicitaires, il n’y
a plus besoin de payer des publicités au New York Times pour avoir accès aux lecteurs
du prestigieux journal : on peut les pister sur le net sans avoir à subventionner des
contenus de qualité.
Est-ce gênant ? L’auteur nous met en garde. Ce que nous verrons demain sera filtré par
nos amis et par des algorithmes. Cela va réduire nos libertés, puisque vivre sa vie, c’est
la choisir parmi d’autres. Cela va réduire notre curiosité, notre créativité, freiner les
découvertes à l’aveugle, par sérendipité : ce sont les idées
étrangères qui aident à éclater nos catégories mentales.
La personnalisation devient aussi facilement discriminaLa personnalisation devient
tion : nous pouvons demain nous voir imposer un taux de
aussi facilement
crédit plus élevé, simplement parce que nos amis remdiscrimination :
boursent mal leurs emprunts.
nous pouvons
demain nous voir
imposer un taux
Plus grave, ce n’est pas nous qui définissons notre bulle,
de crédit plus
nous ne connaissons pas l’algorithme, et donc il nous fauélevé, simplement
dra de plus en plus espérer que les grandes entreprises du
parce que nos amis
remboursent mal
net auront bien compris qui nous sommes. Sinon, nous
leurs emprunts.
risquons de devenir ce qu’elles croient que nous sommes !
Plus on regarde quelque chose et plus c’est important
pour nous : une boucle qui se renforce continuellement.
Notre cerveau cherche à réduire les dissonances cognitives et peut nous amener à
ressembler de plus en plus à notre image, ou à la caricature de nous-même que développent ces entreprises du net.
Menace politique
La personnalisation du net menace la politique. Une communication politique personnalisée supprime les messages globaux au bénéfice de messages ciblés sur les seuls
électeurs hésitants. On ne saura donc plus quel candidat a dit quoi à qui, et un électeur
124 • Sociétal n°76
1-Societal 76_interieur.indd 124
19/04/12 14:58
La face cachée d’Internet
partisan – donc « pas intéressant » parce que sa décision est prise – ne se rendra même
plus compte qu’il y a une campagne électorale !
La menace politique est d’ailleurs plus globale. La démocratie ne pourra que souffrir
d’opinions plus partisanes – on ne lira que ce avec quoi on est déjà d’accord –, d’une
difficulté plus grande à voir les choses du point de vue des autres, d’un recul du lien
social, d’une plus grande difficulté à traiter de sujets importants mais compliqués, qu’il
est difficile « d’aimer » d’un clic.
L’auteur s’inquiète des tropismes d’informaticiens qui détestent la politique et ses complications, détestent qu’on leur dise que leur travail a des conséquences morales, mais
aiment les choses binaires et l’exercice du pouvoir. Il illustre cette crainte en reprenant les
propos de Peter Thiel, ce milliardaire mentor du fondateur de Facebook Mark
Zuckerberg qui ne croit pas en la démocratie, pense que les ordinateurs vont rapidement
dépasser l’intelligence humaine et qu’il vaudra mieux à ce moment-là être de leur côté.
L’auteur reconnaît que la personnalisation est commode,
puisqu’elle augmente notre pouvoir sur notre environnement. Mais elle donne barre sur nous à celui qui nous
apporte ce pouvoir. La technologie est de plus en plus
efficace pour attirer notre attention… Mais sur quoi ?
Ce que nous voyons et les opportunités qui nous sont
offertes n’ont jamais été en aussi peu de mains.
Ce que nous
voyons et les
opportunités qui
nous sont offertes
n’ont jamais été
en aussi peu de
mains.
Pression et autoréglementation
L’auteur nous dit d’abord de nous prendre en main : varier nos itinéraires sur le net
pour brouiller les pistes des algorithmes et donner la priorité aux « bons sites ». En
gros, Eli Pariser oppose l’acceptable Twitter – aux règles de confidentialité simples,
transparentes et stables – au médiocre Google et au méchant Facebook – aux règles
opaques, changeantes, complexes… et rétroactives. L’auteur semble avoir un mépris de
fer pour Mark Zuckerberg, à qui il ne trouve pour excuse que son jeune âge et le peu
de temps qu’il a eu pour construire son empire. Eli Pariser adopte un peu l’attitude
d’un philosophe grec vis-à-vis d’Alexandre… Il encourage aussi les internautes à faire
pression sur les sites.
2
1-Societal 76_interieur.indd 125
eme
trimestre
2012
• 125
19/04/12 14:58
Livres & Idées
La seconde piste est l’autoréglementation des entreprises du net : elles doivent
reconnaître leur responsabilité. L’argument de Facebook selon lequel personne n’est
obligé de venir sur le réseau social est inacceptable ; on imagine une compagnie de
téléphone qui dirait : « Je vais publier vos communications car après tout vous n’êtes pas obligé de téléphoner. » L’argument de dire « vous gardez le choix de vos
Les grandes
sociétés du net
options de confidentialité » n’est pas non plus recevable :
doivent être plus
celui qui fixe les options a un énorme pouvoir. Les
transparentes sur
grandes sociétés du net doivent donc, en vrac, être plus
leurs algorithmes
transparentes sur leurs algorithmes, créer des médiaet offrir un
choix du degré de
teurs comme la presse, proposer un bouton « imporpersonnalisation.
tant » à côté du bouton « j’aime » et offrir un choix du
degré de personnalisation.
Enfin, reconnaît Pariser, il faut « probablement » que l’État s’en mêle, qu’une nouvelle agence soit créée, car nos valeurs de justice, de liberté et d’opportunité sont
cachées dans le code. Hommage est rendu à la réglementation européenne, jugée
malgré tout difficile à mettre en œuvre devant les tribunaux, qui permet à chacun de
connaître et de corriger les données détenues sur lui, et aussi à la loi française sur le
droit moral des auteurs sur leurs œuvres, même vendues.
The Filter Bubble offre un excellent panorama des grandes questions que posent
les dernières tendances du net. Le livre est bâti comme un gigantesque article
Wikipédia, d’où un certain désordre dans la construction, mais avec 80 pages de
références scrupuleuses et un style très agréable.
Bulle ouverte ?
La démonstration n’est qu’en partie convaincante. Le risque existe, mais nombre
d’outils Internet continuent à nous mettre en contact avec des gens très différents de
ceux qu’on aurait fréquenté « naturellement ». La bulle est encore formidablement
ouverte, et déstabilisante par son ouverture même. Il me semble qu’entre le « trop
peu » et le « trop plein » d’informations, les dés continuent de rouler. L’auteur luimême est ambivalent : Avaaz joue beaucoup sur la combinaison de globalisation et
d’affinités que permet Internet. Et face au projet radical de l’administration américaine de « do not track » list – une liste rouge d’internautes dont les sociétés du net
126 • Sociétal n°76
1-Societal 76_interieur.indd 126
19/04/12 14:58
La face cachée d’Internet
n’auraient pas le droit de collecter les informations personnelles –, il se dérobe : non,
cela fermerait aux citoyens sur liste rouge une part énorme d’Internet. Il veut améliorer le système, pas le changer. Il en appelle à la morale des géants d’Internet, mais
ne dit pas que le premier problème est peut-être tout
bonnement leur taille et l’absence de vraie concurrence.
Les deux secteurs
Les deux secteurs les plus puissants de l’économie
les plus puissants
moderne, Internet et la finance, ont réussi à nous
de l’économie
moderne, Internet
convaincre que les règles antitrust ne les concernent
et la finance,
pas…
ont réussi à
nous convaincre
Regrettons aussi la place modeste de la Chine dans le
que les règles
antitrust
livre. Pariser donne une bonne explication de pourne les concernent
quoi le gouvernement chinois n’a pas besoin d’interdire
pas…
Internet pour contrôler Internet – grâce à un accès plus
difficile qui rend l’internaute conscient de sa déviance
et à des sanctions aléatoires. Il montre aussi comment
de très grandes organisations facilitent le contrôle de masse, même aux États-Unis :
il n’y a plus besoin d’obtenir d’un juge le droit de fouiller chaque PC, il suffit à la
police de s’adresser à l’un des fournisseurs géants du « cloud » qui abrite à distance
toutes nos données personnelles. Mais il ne croise pas les deux idées : en quoi cette
personnalisation d’Internet pourrait demain faciliter extraordinairement la vie d’une
dictature douce, enfermant chaque citoyen dans une bulle confortable ?
Si vous parlez anglais mais n’avez pas le courage de lire le livre, allez sur le site
Ted. com et visionnez la conférence que donne Eli Pariser sur The Filter Bubble. Elle
dure neuf minutes seulement et est absolument remarquable.
Le livre
Eli Pariser, The Filter Bubble. What the Internet Is Hiding from You, New York, Penguin
Press, 2011, 304 pages.
2
1-Societal 76_interieur.indd 127
eme
trimestre
2012
• 127
19/04/12 14:58