Conférence sur le refroidissement social: je vais mettre un CW car les données collectées peuvent être très intrusives #JDLL2018

Exemple très parlant d'une femme ayant reçu des pubs de produits de grossesse avant d'apprendre qu'elle était enceinte car elle avait changé de régime alimentaire, avait commencé à faire du sport, etc.

On sait que le pétrole réchauffe le climat, mais la collecte de données peut mener au gel social.

Différents exemples, dont une Allemande qui a été refoulée à la frontière américaine car elle avait proposé à sa cousine, aux États-Unis, de garder ses enfants dans une conversation privée Facebook.

Autre exemple de la revente de données par Facebook: si 3 ami·e·s Facebook (ou personnes ayant votre numéro de leur répertoire, vu que Facebook a accès à leurs contacts) ont fait une banqueroute, attendez-vous à des conditions d'emprunt plutôt particulières.

Risque d'un extrême-conformisme: étant tou·te·s sous surveillance, risque de se comporter de manière extrêmement conforme.

Triple encastrement de la surveillance:

1) sur les sites web;
2) sur les traqueurs (bouton 'like' Facebook, Google Analytics);
3) hors d'Internet: avec les téléphones Android, les applications Facebook.

En Chine tous les citoyens sont notés, les policiers ont une caméra sur leurs lunettes ou dans leur casque.

Musellement de la personne.

Le panoptique (concept développé par des philosophes utilitaristes au XVIIIème siècle) repose sur une prison circulaire avec une tour centrale: ceux qui surveillent les cellules sont à l'intérieur de la tour mais celleux qui sont enfermé·e·s ne savent pas s'ielles sont surveillé·e·s.

Développement important de psychoses, ce procédé a été comparé à de la torture. Effet pervers: tout le monde surveille tout le monde.

Les données ne sont pas la ruée vers l'or mais le nouveau pétrole: en 1930, des scientifiques tirent la sonnette d'alarme.

En 1975, Foucault soulève la question des données, et Snowden provoque une prise de conscience massive. Les données ne sont pas nécessairement dangereuses: c'est leur exploitation.

La vie privée est le droit d'être imparfait·e.

Computer washing: «je veux bien, mais l'ordinateur ne veut pas». On fait reposer sur le dos des algorithmes des décisions humaines, et les algorithmes sont créés par des humains sur des décisions politiques.

Automating inequality: description de trois systèmes automatisés d'aide sociale.

Afin de contrôler les personnes bénéficiant d'aides sociales, on les surveille: les personnes les plus démunies sont les personnes les plus surveillées.

À San Francisco, afin d'aider les personnes sans logement, on leur faisait remplir des questionnaires pour les classer. Les questionnaires étaient biaisés: les personnes ne comprenaient pas forcément les questionnaires et les personnes entrant en situation difficile n'étaient pas aidées prioritairement.

À l'Indiana, un système de traitement automatisé des allocations a fait reculer les aides de 54%.

En Angleterre, le système d'adoption a été privatisé: les orphelinats cherchaient des enfants à faire adopter. Les infirmières étaient rémunérées pour faire des signalements. Le droit des enfants étant prétendu supérieur au droit des parents, les enfants placés à tort n'étaient pas rendus à leurs familles.

Ces sociétés placent des enfants de manière très commerciale: il y a des catalogues d'enfants.

Le fichage en Inde: indentification biométrique, le système était très informatisé et, avec le réseau électrique indien, le vieillissement des iris: les localités les plus fortement informatisées ont vu les aides chuter (chute des aides = ne pas manger pendant une semaine).

En France, le scandale du projet SAFARI a mené la création de la loi Informatique et Libertés, la création de la CNIL, et la CADA (droit d'accès aux documents administratifs).

RGPD/GDPR: une application extra-territoriale, un consentement explicite et positif, droit à l'effacement, portabilité des données personnelles, notification en cas de fuite de données, création du Comité européen de la protection des données.