Le règlement européen de 2024 interdit certains usages de l’IA, comme la manipulation d’opinion ou le calcul de scores sociaux. Mais d’autres usages de systèmes plus modestes créent déjà des dommages. Un des cas les mieux documentés est celui des allocations familiales aux Pays Bas, où des algorithmes sont utilisés pour détecter les fraudes. Plusieurs dizaines de milliers de familles ont été poursuivies par erreur, avec des conséquences terribles pouvant aller jusqu’au divorce ou même le suicide.

Mediapart : Plus personne désormais n’ignore qu’Elon Musk est l’un des proches les plus influents du nouveau président américain. Est-il l’arbre qui cache la forêt de ces milliardaires de la tech fascinés par le trumpisme ?

Thibault Prévost : Elon Musk n’est évidemment pas tout seul. Les médias américains ont bien raconté comment tous ces milliardaires de la Silicon Valley, en tout cas ceux qui penchent le plus à droite, ont à la fois infiltré et phagocyté l’équipe de transition et le futur gouvernement Trump.

...

Il devient difficile de savoir si Elon Musk rejoint Donald Trump, ou si c’est le trumpisme qui est en train d’être altéré de l’intérieur par Musk.

Dans les meetings, Elon Musk portait par exemple une casquette « Dark Maga », qui fait référence au mouvement des « Lumières noires », qui a été théorisé par Curtis Yarvin. C’est un mouvement néofasciste qui défend l’idée qu’un pays idéal devrait être gouverné comme une entreprise, par le patron d’une entreprise.

...

Le plan de ces milliardaires d’extrême droite est-il en train de se réaliser ?

Oui. Pour les milliardaires de la tech, le programme, c’est de se libérer de la concurrence et de la régulation à la fois. En investissant la Maison-Blanche, ils sont en train de faire les deux. Et la théorie selon laquelle la Silicon Valley serait composée de libertariens a vraiment un coup dans l’aile.

Ce sont au contraire des gens dont la fortune est dopée par de gigantesques contrats publics et qui ne veulent pas du tout de la disparition de l’État. Ils veulent un État sur mesure. On assiste à l’aboutissement de la stratégie de capture réglementaire, qui consiste normalement à infiltrer les régulateurs pour devenir soi-même le régulateur. C’est une étape de plus : devenir carrément l’État et s’autodécerner des contrats militaires, des contrats de surveillance ou des contrats spatiaux, dans le cas de Musk. On assiste à la transformation d’une oligarchie [le gouvernement par une élite – ndlr] en pure ploutocratie [le gouvernement par les riches – ndlr].

...

On ne peut plus faire l’impasse sur cette filiation idéologique et il est urgent de nommer l’IA pour ce qu’elle est. L’IA porte un projet de redéfinition de la notion même d’être humain. Le discours qui promeut l’intelligence artificielle propose de refonder les architectures de la société. On retrouve là le projet transhumaniste, cher aux milliardaires de la tech.

Ce projet est très différent selon qu’il s’applique à eux-mêmes ou au reste du corps social. Pour eux-mêmes, l’IA, c’est le projet d’augmentation des capacités humaines, la mythologie du surhomme, la volonté d’hybrider son cerveau avec la machine. De défier la mort aussi.

Mais pour ces milliardaires, quand l’IA est appliquée au reste du corps social, elle devient un outil de contrôle et de servitude. Quand on regarde les utopies qu’ils défendent, par exemple les stations spatiales de Musk, le futur qui est promis pour la population, c’est la servitude algorithmée, aux mains de la machine, avec un capital qui se régénère quasiment automatiquement.

Un rappel pourtant essentiel :

L’IA n’est pas une technique, c’est une idéologie. C’est ce qu’explique d’ailleurs un de ses créateurs, John McCarthy. Quand il a lancé le terme Artificial Intelligence, c’était un choix conscient pour obtenir des financements. L’idée d’une machine anthropomorphique, qui va arriver non seulement à atteindre l’être humain, mais à le dépasser.

Et quand on humanise la machine, on mécanise l’humain – c’est la contre-proposition tacite. Cela devient extrêmement dangereux pour les sociétés, et notamment dans la sphère du travail. Quand on déploie des algorithmes dans l’entreprise, on pousse aussi les gens à se rapprocher de la machine. Et donc à réduire leur périmètre d’autonomie politique.

...

Il faut aussi rappeler que l’IA générative, présentée depuis l’arrivée de ChatGPT fin 2022 comme un outil déjà, ou bientôt, plus efficace que l’homme, ne marche pas si bien que cela. Pourquoi ?

Structurellement, on parle de machines qui font 5 à 20 % d’erreurs. Elles sont entraînées sur un corpus de données absolument gigantesque, et font des mises en relation entre des points, par inférence statistique. Tant qu’on reste dans une représentation du monde qui est proche de la médiane statistique, cela fonctionne très bien.

Mais plus on s’éloigne de la médiane, plus le modèle va avoir du mal à prédire et à modéliser le monde. Le problème est que la médiane politique du monde correspond à la bourgeoisie, à la blanchité, au genre masculin. Aux dominants, en fait.

Donc, plus on s’éloigne de la représentation du monde des dominants, plus on arrive dans les marges, plus on se retrouve avec une automatisation des inégalités, comme le dit la politiste Virginia Eubanks : la machine reproduit et amplifie les biais de classe, de race et de genre, qui soutiennent déjà le monde occidental. Toute machine algorithmique est une intervention politique sur le réel.

Dans une tentative de dépolitiser le problème, la Silicon Valley essaye de redéfinir les erreurs de l’IA comme des « hallucinations », en nous obligeant à une forme de tendresse par rapport aux machines, qu’il faudrait éduquer. Je suis absolument contre l’usage de ce terme : il s’agit d’erreurs de calcul, de désinformation, intrinsèques au modèle.

Et on découvre régulièrement que les machines autonomes ne le sont en fait pas.

On apprend par exemple que la voiture autonome nécessite une supervision humaine à distance [Le New York Times évalue la supervision nécessaire à 1,5 humain par véhicule autonome – ndlr] ou que les magasins automatiques Amazon où on ne passait pas à la caisse étaient gérés par un millier de travailleurs indiens sous-payés, qui devaient manuellement « flaguer » les achats des clients à travers des caméras de surveillance. Il faut davantage d’êtres humains pour gérer l’illusion de l’intelligence et de la machine autonome. Cela illustre bien l’inutilité massive de ce système.

Fin novembre de la même année, Thierry Breton, commissaire européen au marché intérieur, tente d’enrayer la machine diplomatique et s’accorde une sortie tonitruante dans La Tribune. « Je le dis pour tous ceux qui font du lobbying en France : d’où parlez-vous et pour les intérêts de qui ? », accuse l’ancien ministre de Jacques Chirac, reprochant nommément à MistralAI de « ne pas défendre l’intérêt général ». « Je ne suis dupe de rien, je vois tout », lance alors le commissaire français.

Quatorze mois plus tard, le débat a été définitivement tranché. L’AI Act est entré en vigueur dans une version très largement amoindrie, à la plus grande joie de Cédric O et de Mistral. Thierry Breton n’est plus commissaire européen, débarqué avec l’aval d’Emmanuel Macron au profit de Stéphane Séjourné, un fidèle parmi les fidèles.

« C’était le témoin gênant, note l’eurodéputé écologiste David Cormand, membre de la commission spéciale planchant sur l’IA au niveau européen, et qui a organisé un « contre-sommet » le 7 février à Paris, où Thierry Breton était l’invité vedette. Il incarnait une autre ligne, moins encline à sacrifier les droits fondamentaux au profit d’une minorité. »

Publier des deepfakes pour montrer l'utilité de l'IA ? C'est moi ou c'est complètement con ?

• Former les forces de l'ordre à utiliser les LBD pour éviter les mutilations => NON
• Foutre de l'IA dedans pour que l'arme décide à la place de l'humain où il faut tirer => OH OUI, QUELLE BONNE IDÉE

Et, évidemment, changer les méthodes de la police et n'utiliser la violence qu'en ultime recours => NON CERTAINEMENT PAS

"Tous pourront utiliser un 'agent conversationnel' pour effectuer des recherches, préparer des courriers, des synthèses ou des comptes-rendus, assurer parfois aussi des traductions"

Vous savez qu'on a pas besoin d'une IA pour faire ça, hein, vous le savez ? Hein... dites ?

Cette course à l'IA comme des poulets sans tête est un cauchemar. Il n'y a plus de fric (soi disant) pour les hôpitaux, pour la culture, pour la justice, mais on va cramer des dizaines de millions ? de milliards ? pour un truc inutile. J'enrage.

Bon, là c'est sûr, on va tous crever.
Non seulement ce sont des fascistes, mais en plus ils sont complètement débiles.

But given the widespread dismantling of regulations under the Trump administration, it also feels like an unbelievably precarious moment to be handing over any amount of control over nuclear weapons to a busted AI system.

via Seb https://sebsauvage.net/links/?4AhYtw

OMG. C'est à chier.

Le Prix Nobel de physique va aux inventeurs de l'apprentissage automatique (les réseaux de neurones), dont Geoffrey Hinton, qui disait pas plus tard que l'an dernier (et il a coulé de l'eau sous les serveurs en surchauffe depuis) qu'il fallait tout arrêter parce que

l’information, l’éducation, la société et l’humanité tout entière sont en danger.

Que ce soit via des images fixes ou des vidéos, les contenus ainsi générés ont tous servi à la promotion d’idées anti-Union européenne et anti-immigration.

Surtout, aucune des images répertoriées par AI Forensics n’était ouvertement signalée comme générée par IA par les partis en question (Le Monde relève de son côté la diffusion d’une vidéo pour laquelle Eric Zemmour précisait « c’est la première vidéo politique française entièrement réalisée avec l’IA »). 


De même, contrairement à leurs conditions d’utilisation, aucune des plateformes sur lesquelles ces contenus ont été publiés n’ont su ajouter les étiquetages « généré par IA » théoriquement prévus.

via Seb