C’est la grande mode. Après avoir dépensé des centaines de millions d’euros pour des caméras aux résultats insignifiants, les industriels ne jurent désormais que par l’analyse automatique des images. Le ministre de l’Intérieur, Gérard Collomb, s’en faisait le VRP encore récemment, alors qu’il dissertait le 8 juin dernier sur la répression des mouvements sociaux (il parlait des ZAD et des manifestations).
EDIT : Du coup je pose ça là : https://www.metropole-dijon.fr/Les-grands-projets/OnDijon-metropole-intelligente-et-connectee
Parano ?
La lâcheté dont ont fait part les députés a été nourrie dès le début des débats par le gouvernement, qui prétend dans l'exposé des motifs du projet de loi que cette directive ne serait pas « applicable aux traitements intéressant la sûreté de l’État et la défense, qui ne relèvent pas du droit de l’Union européenne ». En plus d'être fausse6, cette affirmation n'a pas grand chose à voir avec le problème, et ne saurait être qu'une piètre excuse pour les députés qui souhaiteraient en couvrir leur couardise.
En effet, la directive 2016/680 encadre les traitements réalisés « à des fins de prévention et de détection des infractions pénales [...], y compris la protection contre les menaces pour la sécurité publique et la prévention de telles menaces ». Or, la loi renseignement de 2015 autorise précisément des traitements afin de « prévenir » et de « détecter » une multitude d'infractions définies comme telles par le code pénal (terrorisme, traffic de stupéfiants, traites d'êtres humains, vol en bande organisée, manifestations illégales, émeutes...). Ce sont exactement les activités visées par la directive, qui encadre donc clairement les traitements réalisés dans le cadre de la loi renseignement7.
En refusant de corriger la loi renseignement, l'Assemblée nationale fait honneur à l'hypocrisie de son gouvernement qui, invoquant le droit de l'Union européenne dès qu'il s'agit de déconstruire nos droits, s'entête à le violer quand il s'agit de respecter notre vie privée8. Dans les dix jours à venir, l'ensemble des députés seront invités à déposer de nouveaux amendements (le texte n'est aujourd'hui examiné qu'en commission des lois). Puissent-ils être guidés par le courage et la cohérence qui ont manqué à la commission hier.
« Le contrôle du renseignement : comment concilier surveillance et respect des droits de l’homme ? ». C’est lors de cette conférence à l’intitulé alléchant, que Francis Delon, tête de la CNCTR, a révélé qu'une boite noire était activée « depuis plus d’un mois ».
Les outils de reconnaissance d’image sont de plus en plus perfectionnés, et surtout de mieux en mieux entraînés pour différencier un objet d’un autre. Néanmoins, leur capacité à percevoir les choses est ‘mécanique’ contrairement à l’Homme. Ce défaut a été mis à l’épreuve de quelques malins qui ont réalisé des autocollants capables de perdurer une intelligence artificielle pour lui faire halluciner (littéralement) des objets.
On peut les acheter où ?
via Seb
Je vais encore vous emmerder avec mes pensées pessimistes.
Mais au moins vous pourrez pas dire ne pas avoir été prévenus.
Je vais juste mettre en regard deux extraits d'articles de deux personnes assez différentes : Clochix et Vinvin.
Clochix
Voici quelques années, j’ai été contrôlé par des flics dans le métro. J’allais au taff, étais habillé en informaticien lambda sans aucun symbole gauchiste sur moi. Je me suis probablement fait contrôler comme caution, les flics voulant éviter les accusations de contrôle ciblé des citoyen⋅ne⋅s racisé⋅e⋅s. Tout s’est passé poliment jusqu’à ce que le condé avise le bouquin que j’avais en main. J’ai oublié lequel c’était, mais son titre fleurait bon le gauchisme. Aussitôt, le contrôle a pris une autre tournure, j’ai eu droit à une palpation et ai dû attendre qu’ils vérifient mon matricule à la radio.
Cette histoire date d’avant l’état d’urgence, avant même je crois qu’Alliot-Marie n’invente la notion d’ennemi public numéro un « anarcho-autonome ». Et pourtant, un simple livre avait suffit à me rendre suspect. Je me demande comment se serait passé ce contrôle aujourd’hui, sous l’état d’urgence et alors que les flics n’ignorent plus combien ils sont haïs.
Vinvin (Cyrille de Lasteyrie)
La Loi de Renseignements et le Fichier TES sont passés par là et je sens que ça ne tourne plus rond. Tous les appareils de contrôle, légaux ou non, se multiplient partout sur la planète, je n’aime pas l’idée. Les états ont grignoté l’espace et reprennent la main à pas feutrés. On bannit pour une origine ou pour une opinion, sans subtilité. Dans certains pays, et pas des dictatures, on vous demande d’ouvrir votre Facebook ou même de donner vos mots de passe. J’ai en magasin quelques anecdotes à ce sujet qui font peur. Je n’ai pas envie, jamais, de justifier des opinions et des propos à qui que ce soit, ici ou ailleurs. Alors je le fais une bonne fois pour toutes aujourd’hui et je dis adieu à 31500 tweets.
Les temps ont changé depuis juillet 2007, date à laquelle je me suis lancé sur Twitter. 31500 tweets plus tard, quiconque voudrait me faire dire un truc pourrait le faire sans difficulté. C’est la guerre des mots et des GIFS, la bataille du temps qui ne passe plus. Ce que vous dites un jour est gravé pour toujours, vos propos s’empilent et s’empalent sur le mur de l’actu chaude sans aucune exigence de vérité. Ce qui est dit est dit, cochon qui s’en dédit, peu importe le sens, le contexte, le droit à la connerie, au changement d’opinion ou à cette sublime contradiction qui fait de nous ce que nous sommes. Certes, personne ne me cherche de poux aujourd’hui, mais dans six mois, deux ans ou même dix ? Et vous ?
Ont-ils tort ? Ont-ils raison ? Comment savoir ?
La seule certitude, c'est que nous avons collectivement perdu.
Parce que quand l'on commence à s'auto-censurer, à faire attention à ce qu'on lit, à ce qu'on dit, à qui l'on parle...
Quand on ne sait pas si l'on est surveillé mais que l'on fait comme si.
Quand on ne sait pas si on va avoir des problèmes, mais qu'on les anticipe et essaie de les atténuer.
Alors la dictature n'est pas loin. On y est peut-être déjà, c'est juste que ça n'en porte pas encore le nom.
... et tout ça alors que le FN n'est même pas encore au pouvoir.
C’est un étudiant à l’université de Sarrebruck, nommé Stefan Hessel, qui a soulevé en Allemagne la question de la sécurité d’un tel dispositif, en révélant qu’il n’y avait aucun mot de passe pour protéger la connexion. Un intrus situé à moins de 15 mètres de distance du jouet pourrait entendre les conversations à travers le micro de Cayla, mais aussi parler directement aux enfants.
Au-delà de ces saloperies de jouets connectés, la question doit aussi se poser pour l'ensemble des objets connectés, absolument pas pensés en terme de sécurité, mais juste comme n'importe quel produit de consommation de masse.
Ça veut dire que 7 fois par jour en moyenne, il y a eu une consultation injustifié effectuée au sein de la NSA (quand on sait ce qu’est une consultation justifiée aux yeux de la NSA, on flippe assez de ce nombre considérable de consultations injustifiées selon elle).
[...]
Même en admettant que l’Etat soit infaillible dans ses intentions et le plus précautionneux dans les règles qu’il instaure, ce qui rend dangereux ce type de fichiers, c’est son existence même. A cause d’un paramètre qui s’appelle l’être humain. Et l’être humain avec ses mobiles profonds : l’amour, l’amitié, l’entraide, la reconnaissance…
TIL : loveint
La note de blog évoquée par XDLP : http://blog.iteanu.com/index.php?post/2016/11/13/Le-TES-ou-le-fichiermonstre-aussi
Bref, on est fin 1998, début 1999. Sachant que les acteurs-rices étaient démarchés dès 1996 donc le scénario date du début des années 1990. Duncan Campbell a publié sur Echelon (voir https://fr.wikipedia.org/wiki/Echelon ) en 1988 mais tout le reste du film est de la pure invention à l'époque… … … qui se révèle tout à fait exact et réel des années après.
Microsoft souhaite mettre en place un système qui va scanner PRO-ACTIVEMENT ce que vous publiez en ligne, et censurer ce que certaines institutions jugent inacceptable.
:(
Une récente étude universitaire montre que la conscience de la surveillance gouvernementale pousse les gens à auto-censurer la publication en ligne de leurs opinions dissidentes.
Cela ne m'étonne pas. Je l'ai déjà écrit : plus que le fait d'être surveillé, c'est la possibilité d'être surveillé qui est terrible, et qui fait peser l'incertitude sur chacune de nos actions : est-ce que telle ou telle action, opinion, ne sera pas répréhensible un jour ? Est-ce qu'on ne va pas s'en servir contre moi ? Bon, dans le doute je ne vais rien dire alors...
Lien direct : http://www.numerama.com/politique/157450-le-senat-vote-linterdiction-penale-de-lire-certains-sites-web-sans-bonne-foi.html
Klaire avait fait une vidéo là dessus il y a quelques mois...
Ahurissant, c'est le mot. Parce que pour reprendre mes obsessions, quand la puissance publique t'a dans le nez, elle ira plutôt dans le sens du biais de confirmation (= tout faire pour confirmer sa certitude que tu es un criminel) plutôt que de chercher d'éventuelles preuves de ta bonne foi.
Et donc, oui,ce sera à l'accusé de fournir lesdites preuves. Et on se demande bien comment, quand, pour certains (suivez mon regard) tout jouera contre eux : apparence, religion, culture, milieu social...
Il reste à voir si la disposition sera validée dans le texte définitif (je ne vous refait pas un cours sur l'adoption d'un projet de loi, hein) et/ou censurée par le Conseil Constitutionnel.
Je crois que tu pêches par excès d'optimisme, ou alors c'est moi qui suis irréductiblement pessimiste. Quoi qu'il en soit, nos points de vue divergent :)
Dans le cas présent, si l'algorithme désigne Johnny Halliday en passage dans l'aéroport comme étant un extrèmiste musulman fiché, ce que va faire l'algorithme, ce n'est pas monter sur ses petites papattes et aller arrêter Johnny en pointant un Colt sur son visage. L'algorithme va simplement prévenir les vigiles, qui eux, appuyeront sur le bouton "non, c'est un faux positif", et éventuellement remonteront les dysfonctionnements.
Ton exemple est d'emblée biaisé : si c'est un dénommé Mohamed Fahta qui est signalé comme extrémiste fiché, lesdits vigiles ne se poseront même pas la question. Et lui casseront probablement la gueule au passage, persuadés en outre de faire du bon travail.
mais ça montre que l'affirmation comme quoi tout contrôle est impossible est fausse
Encore une fois, j'aimerais partager ton optimisme. La CNIL, pour ne parler que d'elle, est devenue une coquille vide. Pour le reste, regarde autour de toi : la loi de programmation militaire, la loi renseignement, l'état d'urgence... pour ne parler que de la France (mais les autres gouvernements ne sont pas en reste) l’État fait toujours en sorte que l'accès au juge soit le plus limité possible : soit qu'il n'ait pas été prévu, voire carrément supprimé, soit qu'il soit rendu tellement difficile de fait (délais intenables, coûts exorbitants, conditions cumulatives draconiennes ou passage préalable par une commission administrative qui "fait le tri"...) que c'est comme s'il n'existait pas.
Si on propose d'imposer un algorithme open-source, dont les biais peuvent alors être rendu publique lorsque découvert et ensuite corrigés, et conçus tel que les données sont non utilisable pour une surveillance globale (par exemple, les données sont envoyées chez un autre organe dont le travail est de protéger la vie privée, et l'obtention de ces données à des fins de renseignement ne peut être faite qu'après une demande justifiée), alors, l'argument "pour renforcer la sécurité" ne permet pas de refuser cette proposition.
C'est gentil tout plein. Je ne me moque pas de toi, je me rends compte qu'à l'écrit ma phrase pourrait être mal interprétée. C'est gentil donc, mais, pardon, un peu naïf. C'est une solution de geek idéaliste. Là encore, regarde autour de toi, regarde ce qu'il vient de se passer. Un indice : Snowden. As-tu l'impression que les gens (je parle de l'immense majorité des citoyens, pas de quelques militants technophiles) aient changé quelque chose à leurs pratiques internet, à leur vie de tous les jours pour faire court, eu égard aux révélations de Snowden ?
Réponse : non, bien sûr. On continue tout pareil. Et il se trouve un assez grand nombre de gogos pour claironner "je m'en fiche, je n'ai rien à me reprocher". Et c'est là que la boucle est bouclée. Ils s'en fichent, ils n'ont rien à se reprocher, jusqu'au jour où l'on viendra les chercher à 4h du mat' dans leur lit, ou bien à leur descente d'avion. Et tout ça avec des flics même pas méchants, des vigiles hyper-respectueux et des cellules méga-confortables.
Navré d'avoir à écrire cela, mais j'ai peur. Pas de la technologie, mais du pouvoir qui s'en sert. Et tant que le pouvoir n'aura pas changé (ce qui n'arrivera peut-être pas de mon vivant, voire jamais), je continuerai à "pointer du doigt l'algorithme comme l'outil de la société panoptique", parce que c'est exactement ce qu'il est.
Avec la reconnaissance informatique, il faut écrire un programme spécifique, et ce programme peut être contrôlé.
Oh oui, exactement de la même façon que sont contrôlés les agissements des différents services de renseignement, exactement de la même façon qu'est aujourd'hui encadrée la vidéosurveillance : de la pure façade.
Sinon, j'aimerais bien voir où j'ai écris cette phrase mémorable
"les flics sont des méchants"
Entendons-nous bien : les flics ne sont pas "méchants", ils font leur travail. Ils sont un outil au service de l’État (monopole de la violence légale, toussa, toussa). Et en l’occurrence, il n'est pas question de flics ici, il est question d'algo. Et je ne fais pas confiance aux algo. Ne serait-ce que parce qu'ils ne sont pas générés ex-nihilo, qu'il y a des hommes derrière, et que ceux-ci sont susceptible :
J'entends bien l'argument selon lequel un ordinateur n'aura pas de biais racistes ou autres, mais encore faut-il qu'il ait été programmé par des gens n'ayant aucun biais, aucun préjugés... Oh, wait. (Voir aussi http://www.mypersonnaldata.eu/shaarli/?k--weA)
Qui parlait de "débrancher son cerveau" ? Abdiquer tout esprit critique devant la sacro-sainte technologie qui va tous nous sauver, moi j'appelle ça débrancher son cerveau.
Dans mon shaare précédent sur ce sujet, je parlais de société panoptique. Je maintiens cette opinion : nous sommes désormais potentiellement surveillés (car si nous le sommes pas, nous sommes susceptibles de l'être, ce qui participe du côté malsain de la chose) tout le temps et partout. Les chiottes ? T'inquiètes pas va, ça viendra. (il y a déjà des bracelets connectés, des pèses-personnes connectés... un WC connectés qui fait des analyses "pour ton bien", je ne trouve pas ça complétement utopique. Hélas.)
Bon, je retourne mourir dans mon trou (oui, j'ai encore la grippe ; c'est à ajouter à la liste des bénéfices d'avoir des enfants : ils ramènent plein de trucs de l'école XD).
Outre que c'est attentatoire à nos libertés (mais puisque tout le monde semble désormais s'en foutre...), et que ça va coûter un fric fou, j'ai le droit d'ajouter que c'est complétement con ?
La plupart des terroristes qui ont frappés ces 10 dernières années (Merah, Kouachi... Breyvik) relèvent de ces deux catégories :
Avec ces deux éléments en tête, j'aimerais que l'on m'explique en quoi ajouter une couche supplémentaire de flicage de la population va changer quoi que ce soit à la lutte contre le terrorisme ?
Oh, j'ai bien ma petite idée, ça pourra toujours servir à repérer au passage ceux qui :
Je corrige la phrase qui ouvrait ce shaare : c'est complétement con... dans le cadre de la lutte contre le terrorisme. Mais désormais, il ne faut pas perdre de vue que ce n'est pas ça l'objectif.
Bref, nous sommes entrés dans une société panoptique. Et ça me fait très peur.
Mediapart révèle que la justice demande à la Ligue des droits de l'homme (LDH) et à la Fédération Internationale des droits de l'homme (FIDH) de verser un total de 13 000 euros de consignation, pour avoir le droit de se constituer partie civile et d'obliger à une enquête sur les systèmes de surveillance massive.
via Seb et barbu disgressif
Suite de ceci : http://sammyfisherjr.net/Shaarli/?qbo9YQ
J'apprends via Seenthis (http://seenthis.net/messages/440980#message441096) que la SNCF n'en est pas à son coup d'essai en la matière : en 2001 (tiens, tiens) le programme "Prismatica" lui avait valu un "Big brother award"
On vit une époque formidable : chaque jour voit l'un des cauchemars de la SF devenir réalité.
A noter : ils testent également "l'acceptabilité sociale" du dispositif. Si vous vous gueuler, c'est maintenant. Après, ce sera trop tard.