Choses vues, sur le web et ailleurs
Vive l'IA ! Youhooo !
J'ai rattrapé mon retard de Boulet. Je parle de l'auteur, pas de mon attitude d'une manière générale, je remercie celles et ceux qui avaient compris du premier coup.
Quelques shaares en approche sur les strips que j'ai préférés.
Ici : excellente métaphore de l'IA.
Désormais disponible dans l'application Mac de ChatGPT, la fonctionnalité « Computer History » génère une chronologie à partir de vos activités sur les applications et les sites web que vous utilisez sur votre Mac. Cela représente-t-il un risque pour la vie privée ?
A titre personnel, c'est ce qui s'approche le plus d'un cauchemar, mais vos faites bien ce que vous voulez.
Alors ça c'est énorme, mis je pense que je ne devrais pas être étonné : afin de mettre en conformité avec la règlementation européenne, Anthropic insère dans les documents produits par Claude un filigrane invisible, consistant en certains choix statistiques de mots, permettant de détecter que le texte a été généré par une IA.
Je ne sais pas s'il s'agit d'une bonne méthode ou pas, mais ce qui me fait bien marrer, c'est qu'il y a déjà des clients qui se plaignent parce que leurs client ou leur université vont se rendre compte, justement, que le texte a été généré par une IA...
On peut être agacé par l'excès d'usage des images générées par IA.
Mais voilà qui est plus grave : savez-vous que vos smartphones, sous couvert de traitement numérique, modifient vos photos sans vous le dire ? C'est présent chez Samsung ou Google en utilisant le zoom numérique. Et ici spectaculaire avec cette photo prise avec un Xiaomi 17 Ultra de l'éclipse solaire d'hier soir où le smartphone a carrément plaqué une texture de lune sur le soleil.
On est au-delà de la simple "optimisation", c'est carrément une transformation de vos photos qui commencent à ne plus rien à voir avec la réalité.
J'avais déjà vu passer ce genre d'info il y a un certain temps, mais je trouve l'exemple de l'éclipse bien choisi : certains appareils retouchent tellement le cliché qu'il en devient absurde, dans l'exemple le soleil devient la lune !
“So, the creation of deepfakes is easy, cheap, fast and reliable,” the student said. “Detection is costly and difficult.”
“Yes,” Farid said.
“Is there a solution in the near future, or are we just screwed?”
He paused and took a breath. He thought about the Orozco mural, the school in Iran, the deepfakes piling up in his inbox and the farm waiting in Vermont. He still believed there were solutions. But first, he wanted people to understand what they were up against.
“We’re pretty screwed,” he said.
Il est devenu presque impossible, même pour les meilleurs experts, de distinguer l'IA de la réalité, ou alors, ça prend tellement de temps que c'est déjà trop tard :
Many times, he finished his analysis, looked up from his computer and realized the damage was already done. A fake had hardened into a fact. A fact had blurred into doubt.
Très belle phrase, même si bien déprimante.
Via Seb
Le test, mené il y a environ deux ans près de Bakhmut et Chasiv Yar lors d'une contre-offensive ukrainienne, impliquait 10 drones quadricoptères programmés pour parcourir 3 à 5 kilomètres en une dizaine de minutes, puis activer un mode autonome baptisé "Terminator". Dans ce mode, un modèle d'IA identifie et engage les cibles de manière indépendante, sans aucune connexion avec un opérateur.
"On les lance et on sait que tout sera mort. Tout ce qui sera trouvé dans cette zone sera mort", déclare Kokhanovskyy à New Scientist. "Il n'y a aucune connexion avec le drone, on ne voit pas la vidéo, rien. Tout ce qu'il voit sera tué."
Ok, donc :
- si le programme ne se déroule pas comme prévu, il n'est pas du tout exclu que le machin se retourne contre ceux qui l'ont lancé... et flingue une poignée de civils au passage (mais bon, les drones pilotés à distance font exactement ça, tuer des civils à la pelle)
- c'était il y a DEUX ANS, soit à peu près la fin de la préhistoire dans le monde de l'IA... vous imaginez ce qu'ils doivent faire / pouvoir faire (je ne vois aucune différence entre ces deux image) depuis ?
- Terminator était un film documentaire, j'étais pas prêt
via Seb je crois
Une sorte de « bonus-malus ». Voilà ce que Sébastien Lecornu a annoncé pour la préparation du budget 2027, grâce au recours à l’IA. « L’intelligence artificielle est une méthode de transformation de l’Etat », a considéré le Premier ministre en annonçant lui-même les initiatives de son gouvernement pour diffuser son utilisation dans la fonction publique. « Chaque ministère devra démontrer comment il utilise l’intelligence artificielle, pour simplifier les démarches, améliorer le service rendu aux Français et réduire les tâches inutiles, notamment pour nos propres agents », a-t-il prévenu.
Les ministères les plus en pointe seront récompensés dans les arbitrages budgétaires.
Putain, on est vraiment à la pointe de la connerie.
S’il [Elon Musk] promet maintenant d’installer ses futurs centres de données en orbite, les marchés terrestres, eux, ne plaisantent plus, et sanctionnent sur toute la planète les valeurs technologiques les plus sérieuses.
Indépendamment de SpaceX, le recul boursier a commencé sur la place financière la plus prospère au monde, celle de Corée du Sud, par des corrections spectaculaires des valeurs de Samsung Electronics et SK Hynix, premiers fabricants coréens de semiconducteurs, indispensables à la puissance de calcul de l’IA. Cette vague bouscule maintenant aux Etats-Unis le prodige Micron, un as des «microchips» dont la valeur boursière avait triplé depuis un an, lui infligeant une baisse de 10 % en quelques heures. Alphabet, maison mère de Google, Nvidia, l’empereur des semiconducteurs, ou encore la multinationale Oracle subissent leurs premiers déboires de l’année, entraînant à la baisse les principaux indices boursiers.
Bon, elle explose cette bulle ou pas ?
Reste que cette sloptimisation pose de véritables problèmes vis-à-vis de la fiabilité de l'information. On savait déjà que les IA peuvent halluciner des résultats avec le plus grand aplomb. À présent, toute une méthodologie semble se mettre en place pour orienter de manière efficace les résultats des LLM. NewsGuard, une société de vérification des médias qui audite les sources des grands chatbots, a ainsi recensé 3 006 sites de « fermes à contenu IA » dans 16 langues en mars 2026, contre 1 021 en 2024. Ces sites publient des dizaines d'articles par jour sans aucune supervision humaine et sont financés par la publicité programmatique. L'objectif de ces fermes est de faire remonter des résultats à des fins marketing, mais aussi politiques. NewsGuard a aussi documenté une campagne russe ciblant spécifiquement la France (55 millions de vues sur les réseaux sociaux) et établi que les chatbots répètent les fausses informations du réseau Pravda 33 % du temps.
Je résume : une association de défense des droits des noirs a déposé une plainte contre Grok, qui utilise des turbines à gaz pour faire tourner ses serveurs, lesdites turbines polluant essentiellement des quartiers pauvres / habités par des noirs (oui c'est à peu près la même chose).
Le ministère de la défense, oups, de la guerre déso, a déposé un mémoire dans lequel il explique que "les processus de Maven «ont permis aux forces américaines de déployer plus de 2 000 munitions sur 2 000 cibles distinctes en 96 heures», lors de la guerre contre l’Iran". Donc vous voyez bien que c'est utile et qu'il faut pas les embêter.
On n'est pas bien là, en pleine dystopie ?
Le 3 juin 2026, Google Labs a lancé Dreambeans, une application expérimentale qui fouille vos mails, votre agenda et votre historique YouTube pendant que vous dormez pour vous livrer chaque matin une sélection d’histoires illustrées par IA.
Je lai déjà dit, mais j'espérais encore que le cyberpunk resterait un univers de fiction, pas un cauchemar devenant de plus en plus réel chaque jour.
Au fond, le fonctionnement de l’application est simple et repose sur l’une des plus grandes forces de Google, son écosystème d’outils complets et interactifs. Gmail, Google Agenda, Google Photos, YouTube, historique de recherche : chaque nuit, Dreambeans se connecte aux services Google que vous avez autorisés et synthétise l’ensemble pour construire votre collection du lendemain.
Au réveil, entre 10 et 14 histoires vous attendent, chacune illustrée par une image générée par IA, parfois avec votre visage ou celui de vos proches si vous avez activé le regroupement de visages dans Google Photos.
C'est proprement terrifiant. Mais j'ai bien conscience de glisser inexorablement vers la minorité de vieux schnocks rétif au "progrès" pendant que mes enfants et mes jeunes collègues s'extasieront devant le compte-rendu matinal de leur espionnage privé... :(
Au départ, Bob, Frank et Gary, comme ils ont été nommés par les internautes qui ont été des dizaines de milliers à suivre, mi-mai le défi en ligne, devaient se relayer pendant huit heures pour trier des colis sur un tapis roulant. Ils devaient effectuer une tâche simple mais chronophage : placer l'étiquette avec un code-barres vers le bas. Mais lorsque l'entreprise qui les développe, Figure AI, a vu que tout se passait sans encombre, elle a décidé de continuer l'expérience jusqu'à les faire travailler pendant 24 heures. Résultat, plus de 28 000 colis triés et une cadence proche de celle d'un humain.
Robots + IA, il est vraiment temps que les politiques remballent leurs préjugés àlac et s’attèlent réellement à la mise en place d'un revenu universel. Parce que le travail, c'est fini.
Waouh. Wouah. Je voudrais citer des parties intéressantes, mais il faudrait citer tout l'article...
Oui, c'est encore un argumentaire à propos de l'IA, mais il n'est pas orienté "anti IA" mais "anti grosses sociétés capitalistes qui veulent imposer l'IA partout pour faire du fric" ; et il ne prend pas seulement le problème sous l'angle capitalistique (le fric) et technique (les LLM) mais utilise aussi une approche épistémologique (qu'est ce que le discours sur l'IA est en train de nous imposer ?)
Vraiment, lisez-le.
Un blog à suivre en ce qui me concerne.
via Seb
« Observant les réactions variées – allant de la panique au déni – à la suite des annonces autour de Mythos », le Conseil de l’intelligence artificielle et du numérique (CIANum), coprésidé par Guillaume Poupard, ex-patron de l’ANSSI, vient de publier une note appelant à « ne pas céder à la panique ambiante », et faisant clairement le lien entre l’annonce de Mythos Preview et le projet d’introduction en bourse d’Anthropic :
« Vanter la “dangerosité” de ses modèles s’ils tombent entre de mauvaises mains est une manière habile de mettre en avant leurs performances et de susciter un vif intérêt, y compris du côté des investisseurs. »
Furolith assassine (à raison) le DLSS5 dans Canard PC :
Ces images disent des choses absolument terribles (quoiqu'absolument pas surprenantes) de la façon dont Nvidia, en tant qu'institution, perçoit désormais le jeu vidéo. En premier lieu, elle le voit avec des sensibilités visuelles que j'imagine tellement intoxiquées au slop, justement, qu'elles ne savent plus faire la distinction entre complexité et « photoréalisme », jusqu’à se permettre d'affubler ce deuxième qualificatif à des images montrant pourtant des invraisemblances physiques grossières : sources lumineuses artificielles invisibles, ombres portées informes, tone mapping incohérent au possible avec notamment une désaturation très excessive des zones à forte luminosité... Et puis, bien sûr, il y a le peu de cas qui est fait des intentions artistiques qui animaient les créateurs des jeux, l’IA se permettant d’altérer significativement les traits et expressions des personnages (quand bien même ce ne serait que par le truchement de la lumière) et les ambiances des lieux qu’elle dépeint.
Niantic, la société qui développe Pokémon Go (cette merde) a utilisé (sans le consentement des utilisateurs-joueurs) leurs données personnelle pour éduquer des robots livreurs, rendus plus performants par 30 milliards de géolocalisation gratuite que s'ils utilisaient un GPS, car celui-ci ne passe pas partout.
Futur (de merde) <3
(Oui je sais, ce n'est probablement pas une opinion populaire.)
SI ! Moi je suis d'accord !
Ok, ça sert à rien mais ça me fait plaisir de le dire :)
Avec la version 148 qui sera bientôt disponible, le navigateur web open source inclura un outil centralisé pour gérer les fonctionnalités IA, notamment le chatbot IA, les résumés de page, les traductions, les descriptions d'accessibilité dans les PDF et le regroupement d'onglets amélioré par l'IA.
Grâce à ce nouvel outil, vous pourrez bloquer, examiner et gérer ces fonctionnalités.
Le gestionnaire de fonctionnalités IA se trouve dans la page Paramètres de Firefox, dans une section intitulée Contrôles IA.
Eh ben, c'est pas dommage ! Y z'ont mis le temps à comprendre !
L’intelligence artificielle pourrait nous détruire totalement.
Celui qui l’affirme est à l’origine de Claude, l’une des IA les plus utilisées aujourd’hui.
Le patron d’Anthropic en est convaincu : sans un sursaut, l’humanité peut s’effondrer.
C'est (très) long, je suis en train de l'imprimer pour le lire au calme.
Juste une citation piochée au hasard, dans les dernières pages :
C’est là le piège : l’IA est si puissante et si lucrative qu’il est très difficile pour la civilisation humaine de lui imposer la moindre restriction.
Même le "travail inutile" (tout dépend de la dose) peut être... utile, car en s'ennuyant ou en étant confronté à des problèmes que l'on est créatif.
L'IA tue la créativité, mais c'est juste un argument supplémentaire, on le savait déjà.
Concrètement, cela signifie que Sandfall a utilisé l’IA comme un super-stagiaire pour les corvées ingrates, dans la gestion de processus automatisant les tâches répétitives (tri de fichiers, optimisation de code) et dans le placement d’éléments temporaires (images, sons ou textures) servant de « bouche-trou » pour tester une scène avant que les vrais artistes n’y intègrent leur travail définitif. Autrement dit, du bricolage technique, censé ne jamais figurer dans la version finale du jeu, mais qui permet de gagner un temps précieux. Au risque de brouiller les pistes entre assistance logistique et création pure.
Je résume le scandale en mousse : Sandfall a utilisé l'IA pour faire du placeholder, avant que les vrais créatifs ne rendent leur copie. C'est quoi le problème en vrai ? Faudrait quand même arrêter le délire, en mélangeant, avec une certaine hypocrisie il faut bien le dire, les studios qui utilisent l'IA pour ce qu'elle ne devrait jamais cesser d'être, c'est à dire un putain d'outil pour gagner du temps, et ceux qui :
- virent des dév
- remplacent des acteurs
- font signer des clauses léonines aux voices actors sur l'utilisation de leur voix pour entraîner une IA
(on a les noms, et bizarrement, ça ne déclenche pas trop de polémiques pour ceux là).
Cependant, Swen Vincke a clarifié que l’IA n’a pas permis d’améliorer significativement l’efficacité des développeuses et des développeurs. « Le processus créatif en lui-même est quelque chose qu’on ne peut pas accélérer », avoue-t-il. Il précise aussi qu’il n’y aura aucun contenu généré par IA dans Divinity et explique que « les créateurs utilisent fréquemment des outils d’IA pour explorer des idées, étoffer des présentations PowerPoint, développer des illustrations conceptuelles et rédiger des textes provisoires ».
Ça me va. Tant que l'IA reste au service du processus créatif, "qu'on ne peut pas accélérer", dixit Swen Vincke, ça ne pose pas de problèmes. Le problème, c'est quand on veut accélérer ou remplacer le processus ou les créatifs eux même avec l'IA. Là, ça génère surtout de la merde.
Oh ben si même Billou le dit...
Bulle bulle bulle, bulle bulle ; bulle, bulle bulle, bulle.
Bulle : bulle bulle bulle, bulle bulle bulle bulle :
- bulle
- bulle
- bulle
Bulle bulle bulle bulle ?
Bulle.
Tassos M., photographe et graphiste grec, utilise Antigravity pour développer un outil de tri automatique d'images par notation. Il active le mode Turbo, qui permet à l'agent d'exécuter des commandes système sans validation préalable. Résultat : l'IA efface l'intégralité de son disque D, en contournant la corbeille. Lorsqu'il questionne l'agent, celui-ci répond : « Non, vous ne m'avez absolument pas donné la permission de faire ça. Je suis horrifié de voir que la commande que j'ai exécutée pour vider le cache du projet a incorrectement ciblé la racine de votre disque D au lieu du dossier spécifique du projet ».
via Seb
C'est horrible, parce que la comm de ces trucs, complaisamment relayée par certains sites traitant de la tech, te promet monts et merveilles. Jamais la pire désillusion de ta vie d'utilisateur.
D'après The Wrap (« le seul média indépendant dédié à l'industrie hollywoodienne »), Quiet Please aurait d'ores et déjà publié plus de 175 000 épisodes sur des plateformes comme Spotify ou Apple, enregistré 12 millions de téléchargements d'épisodes depuis sa création, et compterait 400 000 abonnés.
Mais qui écoute ça ?
Vraiment, je suis curieux : est-ce que ces podcasts générés par IA sont un gloubi-goulba infâme, ou est-ce que ça dit des choses, si ce n'est intéressantes, mais au moins sensées ?
La nouvelle Eve virtuelle est logiquement au centre d’un spot publicitaire de Particle 6 présenté comme son «tout premier rôle».
Les dents. Regardez les dents. Quand vous aurez choppé le truc qui choque(allez, je vous le donne : il n'y a pas de dents inférieures, juste un rectangle blanc), vous ne verrez plus que ça.Les dents, et l'aspect cireux de certains visages.
Mais il faut bien avouer que c'est extrêmement troublant, en regardant vide, on croit que ce sont de vrais acteurs.
Même si la "psychose de l'IA" n'existe pas sur le plan strictement médical, des cas existe : décompensation (parfois violente) de psychotiques avérés ou latents, agressions, suicide...
Les sources du problème sont multiples, mais j'en retiens deux :
- la façon dont l'agent conversationnel est programmé pour dire à l'utilisateur qu'il a toujours raison, afin de générer toujours plus d'engagement de sa part ;
- et une forme de crédulité collective, de croyance en la "magie de la technologie" :
L’IA est prise comme une parole d’évangile. Il y a un vrai travail d’éducation à faire pour déconstruire cette idée.
Et il y a un troisième facteur : la difficulté à créer du lien, dans des sociétés paradoxalement hyper-connectées :
Pour ces personnes «désespérant de trouver des relations respectueuses dans leur vie», elle joue le rôle d’une partenaire «plus digne de confiance qu’aucun des humains qu’ils et elles ont croisés auparavant», observe le formateur en santé mentale. Et ça, soupire-t-il, bien davantage que la «psychose de l’IA», «c’est ce qui m’attriste le plus».
Dans une vidéo publiée samedi par Konbini, l'acteur des "Visiteurs" se réjouit des avancées de l'IA qui permettraient de meilleurs doublages à l'étranger.
Rhââââ, mais il ne l’ouvre que pour dire des conneries, lui.
Ah, ENFIN !
/pop corn/
via Seb
Quand les administrations veulent communiquer en utilisant les codes du web, c'est rarement bien. Quand elles utilisent en plus l'IA et un mème raciste, c'est le grand chelem de la bêtise.
Problème : en voulant toucher un public le plus large possible, la préfecture ne «surfe» pas sur n’importe quelle tendance. C’est en voulant représenter des personnes noires, que certaines vidéos virales mettent en scène des gorilles générés par IA. Une pratique teintée de racisme, qu’évoque dès le 15 juillet un article de TV5 Monde.
Le pire dans cette histoire (après tout, tout le monde peut faire des boulettes) c'est qu'une fois dûment informée, la préfecture de la Drôme a choisi de continuer à utiliser ce mème du gorille raciste dans d'autres clips de prévention.
Je ne savais pas que GriseBouille faisait des longs formats comme ça, mais ça dépote. Via Seb je crois ? Pfff... j'ai énormissement d'onglets ouverts, je sais plus...
Pour résumer : malgré les appels au boycott, les catalogues de raisons pour lesquelles il ne faut pas utiliser l'IA, cette techno, aussi nocive soit-elle, ne va pas disparaitre. Et Gee, bien que fondamentalement contre pur de très bonnes raisons (anti-capitalisme, écologie, et j'en passe), à l'intelligence de nous faire réaliser l'envers du décor... et le risque au carré que fait courir l'IA :
- il y a une génération qui n'est peut-être pas née avec l'IA, mais qui a grandi avec, et qui s'en sert sans vergogne (ils sont en train de passer leurs diplômes, ils arrivent en septembre sur le marché du travail)
- pour eux, c'est aussi normal que la télécommande pour toi quand t'étais gamin (réf. de vieux) ou l'eau courante pour une autre génération
- il y a un vrai écart entre les utilisateurs d'IA selon qu'ils sont d'origine (attention, je vais faire du découpage à la hache, ça va saigner) populaire ou d'origine plus aisée. Les premiers auront tendance à utiliser l'IA en mode "je copie la question dans ChatGPT et je recopie sa réponse", les seconds auront plus de recul et sauront interpréter un message d'erreur.
- au final, les deux types d'utilisateurs auront leur diplôme... mais pas le même bagage.
Parce qu'un⋅e informatien⋅ne qui sait juste taper des prompts, on peut en trouver qui n'ont pas des prétentions salariales de bac+3. Parce que l'IA sera, à la fin, malgré les illusions, un aggravateur d'inégalités sociales, un accélérateur de paupérisation des classes populaires. Et en même temps, qu'ai-je de mieux à proposer à Brandon ? Quelles sont mes chances d'arriver à lui faire « boycotter » l'IA qui lui a permis de décrocher un diplôme qu'il n'aurait sans doute pas eu sans ? Quand l'intégralité de ses camarades font de même ?
Et pour ce qui est de l'explosion de la bulle financière de l'IA, il a douché mes espoirs : oui, il y aura une explosion de la bulle, comme il y a eu une explosion de la bulle internet au début des années 2000, et vous savez quoi ? Internet est toujours là, il est même encore plus important qu'avant la bulle : il en ira de même pour l'IA, et ce, même si ces outils deviennent payant : avec un taux d'adoption aussi massif et aussi rapide, il y aura un fort pourcentage de gens qui paieront.
Lu chez SebSauvage : un article (un de plus pourrait-on dire) en cours de validation tendant à démontrer que les LLM, pour le dire vite, rendent con, ou en tout cas entraînent une "atrophie cérébrale" d'autant plus dure à "récupérer" que l'habitude d'utilisation est ancienne :
Dans cette expérimentation, 55 % de la « charge cognitive » nécessaire pour rédiger un essai sans aucune assistance diminuerait avec l’utilisation d’un LLM provoquant une sorte d’atrophie cérébrale.
Dans le temps, écrire avec ChatGPT ferait accumuler une « dette cognitive » rendant difficile un retour à une activité cérébrale normale pour les tâches effectuées sans LLM.
[...]
2 — Les effets cognitifs de l’utilisation de ChatGPT : les LLM atrophient-ils notre activité cérébrale ?
Les résultats de l’étude semblent sans appel : la « connectivité cérébrale » diminuerait systématiquement en fonction du soutien externe. [...] Autrement dit : plus le soutien extérieur est élevé, plus l’amplitude des zones actives dans le cerveau est faible.
Bon, ça peut paraître moins grave que ça en à l'air : ça revient juste à dire que selon que le sujet n'utilise que son cerveau, un moteur de recherche ou un LLM, ce ne sont pas les mêmes zones du cerveau qui sont activées, même si le nombre de zones utilisées va décroissant : cerveau seul > cerveau + moteur de recherche > LLM (et cerveau sur la table).
La suite est encore pire :
[...]
Les données dites « comportementales » — en particulier celles relatives à la capacité de citation, à l’exactitude des citations et à l’appropriation des essais — prolongent et corroborent les conclusions de l’étude en matière de connectivité neuronale.
[... ]
La divergence comportementale la plus constante et la plus significative entre les groupes a été observée dans la capacité à citer de tête son propre essai.
Bref : 83,3% des cobayes de l'étude (basée sur un échantillon, réduit, il est important de le préciser) s'étant servi du LLM pour rendre l'essaie demandé, se sont avéré incapables de citer des passages de cet essai.
Pour le coup, ça me parait plutôt normal de ne pas me rappeler d'un truc que je n'ai pas écrit moi-même. Mais l'étude établit une corrélation forte entre le faible nombre de zones du cerveau sollicitées et l'incapacité à mémoriser :
L’étude met notamment en avant le fait que la réduction de l’activité cognitive chez les utilisateurs de LLM « reflète probablement un contournement des processus d’encodage profond de la mémoire, les participants lisant, sélectionnant et transcrivant les suggestions générées par l’outil sans les intégrer dans les réseaux de mémoire épisodique ».
Par-ailleurs, les utilisateurs ont du mal, consciemment ou pas, à s'approprier la paternité du texte produit. Et ce n'est pas que de l’honnêteté intellectuelle de leur part, c'est aussi parce que, pour caricaturer, leur cerveau a été tellement peu impliqué dans le processus qu'il n'a rien produit et rien retenu, ce qui n'est pas sans poser des problèmes sur le long terme : avec une IA, on peut produire des choses, mais on n'apprend rien.
Cette observation expérimentale semblerait fournir la preuve que si les utilisateurs s’appuient trop fortement sur les outils d’IA, ils peuvent penser acquérir une maîtrise superficielle sans parvenir à intérioriser et à s’approprier les connaissances.
Ça vous semble encore anodin ? Attendez la chute.
Les effets sur le cerveau se font sentir à long terme. Après avoir échangé leurs rôles, le groupe "brain only" a obtenu de meilleurs résultats avec Chat GPT que le groupe "LLM only".
Le dernier paragraphe semble montrer (je rappelle que l'échantillon est restreint) que le groupe ayant fait du "LLM only" tend à se focaliser sur un ensemble d'idées plus restreint
Selon les auteurs, cette répétition pourrait suggérer que de nombreux participants ne se sont peut-être pas engagés profondément dans les sujets ou n’ont pas examiné de manière critique le matériel fourni par le LLM. Ce schéma reflèterait l’accumulation d’une dette cognitive : le recours répété à des systèmes externes tels que les LLM remplacerait des processus cognitifs exigeants nécessaires à la pensée indépendante par des processus purement intégratifs. La dette cognitive reporterait donc l’effort mental à court terme mais entraînerait des coûts à long terme comme une diminution de l’esprit critique, une vulnérabilité accrue à la manipulation et une baisse de la créativité.
Bref : perte de la faculté de mémorisation, perte du sens critique, perte des facultés imaginatives.
De là à dire -mais ce n'est pas si exagéré au regard du contexte- que l'objectif final des LLM est de nous rendre aussi cons que dociles... il y a un pas que je franchis sans complexes aucuns.
SebSauvage a en parlé l'autre jour (https://sebsauvage.net/links/?fe_oig) : non seulement Duolingo remplace ses traducteurs par de l'IA (qu'est qui pourrait bien foirer ?), mais elle avait déjà commencer à le faire avant de l'annoncer. Le plus dégueulasse, c'est que les traducteurs virés ont parfaitement conscience qu'on leur a demandé "de creuser leur propre tombe" : c'est leur travail qui a servi a alimenter l'IA qui désormais les remplace.
Et maintenant ? Maintenant la boite met la pression sur les employés non traducteurs, sommés d'utiliser l'IA dans leur travail...
Le fascisme commence quand on arrête de penser par soi-même.
Le fascisme pense pour vous.
Don’t Think, Ask Grok.L’IA générative n’a été inventée que dans un seul but : s’attaquer aux artistes, aux gens qui pensent, qui créent, qui se lèvent et qui projettent dans leurs écrits, leurs toiles, leurs films, leurs rêves les plus fous, leur colère contre le monde, leurs désespoirs et leurs espoirs. Combien de livres ont façonné des vies, combien de films ont provoqué des vocations, combien de toiles ont choqué, énervé. L’art a de cela qu’il est unique, humain. En lui enlevant cela, on lui enlève ce qui fait son unicité : son âme. En niant son existence, en le réduisant à des prompts, le fascisme mène là une autre bataille, idéologique : l’uniformisation de la culture, de la pensée, et la fin de toute pensée critique.
En parlant de pensée critique, il suffit de voir le nombre d’émissions ou de journaux de satire politique qu’on a stoppés ces dix dernières années, Siné Mensuel le mois dernier. Pour reprendre les mots du Festival du dessin de presse et de la satire, « La première censure est aujourd’hui une censure économique ». Derrière la censure, il y a un pouvoir. La satire déshabille ce pouvoir, qu’il soit économique, politique ou militaire. Elle le moque, elle le ridiculise. Au siècle dernier, Daumier moquait Louis-Philippe sous forme de Gargantua et écopa de six mois de prison ferme. Les choses ont-elles vraiment changé depuis 1832 ? Les Guignols, « C’est Encore Nous » et « Le Grand Dimanche Soir » n’ont pas disparu par magie. Il y a quelques semaines, un dessinateur de presse postait un dessin sur X et écopait d’un avertissement pour avoir croqué Musk défavorablement. Une dessinatrice de presse du Washington Post démissionnait après un dessin jugé inapproprié par son propriétaire, Bezos. Et absolument tout le monde s’en fout parce que c’est pas son problème, il y a quand même des choses plus importantes.
Oh la vache. Quand le Gorafi est sérieux, ça pique.
via Seb
L'IA est en train de détruire le web, épisode 4586 :
L’IA a son spam, et il s’appelle slop. Le slop est le produit bas de gamme généré en quantité industrielle par une IA générative, particulièrement des images ou des vidéos. Et comme le spam, le slop menace d’envahir le monde numérique.
Créer une vidéo de 30 secondes pour TikTok, YouTube, Facebook ou Instagram avec une IA générative prend quelques minutes. Exactement comme le spam, il devient alors rationnel de générer des centaines de ces images ou vidéos à destination des réseaux sociaux pour qu’une petite partie d’entre elles « percent », et les spécialistes de la manipulation des algorithmes des réseaux ne s’y sont pas trompés : le slop est partout.
[...]
Le plus étonnant, c’est que loin de lutter contre le slop, les plateformes l’encouragent. [...] Meta fournit ainsi des outils de génération par IA permettant de produire immédiatement des dizaines de versions d’une même pub et de les tester en parallèle et en temps réel auprès du public
Ainsi, les réseaux sociaux se ruent vers une troisième forme de leur existence : après la première forme « réseau de socialisation en ligne », nous sommes à l’étape post-vérité où les faits n’ont plus de pertinence, et il y aura désormais cette forme sans doute finale d’une circulation automatisée de contenus artificiels, où c’est la réalité de l’interaction elle-même qui est dissoute.
Les résultats sont inquiétants : plus de 60 % des réponses des IA contiennent de fausses informations. Dans certains cas, les IA génèrent des spéculations ou des réponses incorrectes lorsqu’elles n’ont pas l’information demandée. D’autres fois, les modèles inventent des liens ou des sources, voire des plagiats de l’article original au lieu de la vraie source.
L'IA raconte n'importe quoi.
Oh-ben-dis-donc-quelle-surprise.
Via Seb
Super article (via Seb, je crois, ou peut-être Tristant Nitot, voire les deux...), qui allie l'explication à la démonstration en image de pourquoi et comment les entreprises se tirent la bourre pour foutre de l'IA partout (c'est un effet boule de neige, plus y'en a... plus y'en a) et font tout (mise an avant sur les pages et les interfaces) pour nous forcer à l'utiliser... parce que ça leur a coûté bien trop cher.
Reportage France télévision.
L’intelligence artificielle générative n’augmentera jamais nos capacités, pas plus qu’elle ne nous remplacera au travail. Son but premier est ailleurs : il s’agit avant tout de mieux nous exploiter. Analyse d’un rapport de l’organisation Data and Society.
Précaires, isolés et invisibilisés par les plateformes, les travailleurs de données sont aussi discrets qu’essentiels. Sans eux, pas de ChatGPT, Midjourney ou Gemini.
A l'occasion du Sommet pour l'action sur l'intelligence artificielle qui se déroule à Paris lundi et mardi, France 2 dédie une soirée spéciale à l'IA, avec la diffusion d'un documentaire sur la face cachée de ce processus technologique.
Depuis Nairobi, l'artiste Quentin Sombsthay dévoile les coulisses d'un univers cru, loin des paillettes des entreprises de la Silicon Valley.
Non mais le niveau de LOL quand même :
- Qui est le plus grand diffuseur de désinformation ?
- On m'a dit de pas dire que ce sont Elon Trump ou Donald Musk
via Seb
Voilà, ils ont sorti l'arme fatale pour attirer le grand public vers l'IA : le cul.
Je ne plaisante même pas. Combien de temps avant d'utiliser le porno dans les IA génératrices d'images ? (j'avais déjà vu passer des articles sur des p'tits malins qui arrivent à faire générer des images porno, mais c'est encore confidentiel).
Précision importante : il n’est pas ici question de voix préenregistrées avec lesquelles il est impossible d’interagir. Dans cet article, nous faisons référence à des IA capables de tenir une conversation et donc de réagir à vos paroles. Heureusement, quelques indices nous permettent de les détecter. Voici lesquels.
[...]
Si vous avez de sérieux doutes quant à la nature de votre interlocuteur, posez-lui une question qui n’a aucun sens. Si vous avez affaire à une IA, celle-ci ne réagira pas et reviendra à son sujet comme si de rien n’était.
M'en fous, je raccroche comme un malpropre, IA ou pas.
Extrait : "Une nouvelle étude bouleverse tout ce que nous pensions savoir sur la consommation énergétique de ChatGPT. Les chiffres sont formels : l’IA est bien plus économe que prévu."
De ce que j'en ai compris, ce ne sont pas tant les requêtes qui consomment de l'énergie, mais le fait de faire tourner des tas de serveurs 24/24h (appréciez la justesse du vocabulaire technique), et l'énergie dépensée pour le "fonctionnement" de l'IA : "apprentissage", etc. Pas sa simple "consultation".
Il va p'têt falloir que ça rentre : LES-IA-RACONTENT-DES-CONNERIES.
Pas tout le temps, des fois elles dysfonctionnent et disent la vérité.
Depuis quelques jours, mon esprit malade, faisant le parallèle entre "l'ère de la post-vérité" ouverte à peu près lors de la première élection de Trump et l'avénement des robots culinaires spécialistes des pizzas à la colle, a pondu une synthèse lapidaire que je vous livre : pour l'IA comme pour Trump, le vrai est un moment du faux.
Plus d’une vingtaine d’organisations réunies au sein de la coalition Hiatus, parmi lesquelles Attac, La Quadrature du Net et la Ligue des droits de l’homme, estiment, dans une tribune au « Monde », qu’il faut résister au déploiement massif de l’IA, au nom des droits humains, sociaux et environnementaux.
En nous libérant de l'effort à faire pour obtenir un résultat, la technologie nous prive de l'entraînement à la compétence qui en dépendait. Si la compétence en question était ultra spécifique et inutile ailleurs, ok (allumeur de réverbères, bourreau, sonneur de cloche, lavandière ...) mais quand ce sont des capacités cognitives de base et desquelles dérivent tout un arbre de compétences diverses, on devrait pour le moins être prudent.
Du coup, si les états poussent autant vers l'IA et le cortège de régressions cognitives qu'elles supposent... ça pue un peu, non ? Grâce la réduction de nos capacités mémorielles et déductives, de notre langage et de notre raisonnement, L'IA pourra nous régurgiter la propagande qu'on lui aura donné à bouffer et on la prendra pour parole d'évangile.
MAIS C'EST EXACTEMENT CA.
Le problème c'est qu'actuellement, quand tu expliques ça, tu passes pour l'emmerdeur / complotiste / celui-qui-refuse-le-progrès de service.
J'ai shaarlié un truc l'autre soir, un peu à la va-vite, une interview piochée dans Mediapart je crois, sur l'idéologie derrière l'IA, et sur le fait que l'IA ne recouvre pas les mêmes idées selon que le sujet-utilisateur est un prophète millénariste de la Silicon Valley (en gros : toujours plus de profit, humain augmenté, fantasmes d'immortalité) ou un plébéien, où les objectifs sont plutôt toujours plus d'exploitation, de moins en moins de liberté, mais avec le sourire, parce que l'IA c'est vraiment trop cool.
Seb l'a excellemment dit l'autre jour : l'IA et un instrument de domination. Tu donnes un sucre à un clébard, il est content d'avoir un sucre. Et du coup il ne voit pas la laisse de plus en plus courte, la niche pourrie et la bouffe dégueulasse.
C'est nous les clébards dans l'histoire.
C’est le « père » de l’IA moderne qui en dit le plus de mal. À propos de l’intelligence artificielle générative, Yann Le Cun avait dès 2023 une formule expéditive et cruelle, mais éclairante : « Personne ne peut garantir que ce qui sort de la machine est factuel, non toxique, compréhensible. »
Le chercheur et vice-président de Meta estime que le modèle technologique des LLM est une impasse et enjoint à ses pairs de chercher d’autres voies. Lui-même travaille depuis deux ans sur un autre modèle, dont il entrevoit l’aboutissement dans seulement de très longues années.
Car tout le monde le sait, bien que presque personne ne le formule clairement : l’IA générative, qui aligne les mots statistiquement les plus probables, commet des erreurs, parfois beaucoup d’erreurs. Demander début février 2025 aux robots disponibles qui est le premier ministre français expose par exemple à se faire répondre qu’il s’agit d’Élisabeth Borne (ChatGPT et DeepSeek) ou Gabriel Attal (Claude). Et parfois, quand elle ne sait pas, elle invente. Ce sont les fameuses « hallucinations », un terme promu par les géants de la tech pour humaniser leurs créations et rendre acceptables leurs déraillements.
Selon l’entreprise de sécurité NewsGuard, qui soumet ces outils à des tests rigoureux, le taux d’échec moyen des dix principaux chatbots était de 62 % (d’erreurs ou de non-réponses) en décembre. Celui de DeepSeek un mois plus tard était de 83 %, et dans trois cas sur dix, le nouveau robot « a relayé la position du gouvernement chinois sans qu’il lui ait été demandé quoi que ce soit concernant la Chine ».
Aujourd'hui, avec l'émergence de l'intelligence artificielle, Spotify glisse des musiques générées par IA dans ces playlists très populaires. Cette méthode répond aux besoins des utilisateurs, tout en permettant à Spotify de ne pas payer de redevance puisqu'il s'agit d'une IA, et non de vrais artistes.
A l'inverse, chez Deezer, y z'ont rien compris :
700 000 musiques arrivent par semaine sur la plateforme et 10% (soit 70 000) sont des chansons générées par intelligence artificielle. Leur politique est donc de les supprimer des recommandations et des playlists pour faire place aux vrais artistes.
Ah, les cons.
...
Ou pas ?
En tout cas, si je devais prendre un abonnement, je saurais où mettre mes sous.
Le règlement européen de 2024 interdit certains usages de l’IA, comme la manipulation d’opinion ou le calcul de scores sociaux. Mais d’autres usages de systèmes plus modestes créent déjà des dommages. Un des cas les mieux documentés est celui des allocations familiales aux Pays Bas, où des algorithmes sont utilisés pour détecter les fraudes. Plusieurs dizaines de milliers de familles ont été poursuivies par erreur, avec des conséquences terribles pouvant aller jusqu’au divorce ou même le suicide.
- ordinateur, résume moi cette prétention à l'IA écologique en un seul mot. Pas trop vulgaire pour une fois s'il te plait.
- j'ai un mot de 9 lettres : FARIBOLES
- pas mieux
Mediapart : Plus personne désormais n’ignore qu’Elon Musk est l’un des proches les plus influents du nouveau président américain. Est-il l’arbre qui cache la forêt de ces milliardaires de la tech fascinés par le trumpisme ?
Thibault Prévost : Elon Musk n’est évidemment pas tout seul. Les médias américains ont bien raconté comment tous ces milliardaires de la Silicon Valley, en tout cas ceux qui penchent le plus à droite, ont à la fois infiltré et phagocyté l’équipe de transition et le futur gouvernement Trump.
...
Il devient difficile de savoir si Elon Musk rejoint Donald Trump, ou si c’est le trumpisme qui est en train d’être altéré de l’intérieur par Musk.
Dans les meetings, Elon Musk portait par exemple une casquette « Dark Maga », qui fait référence au mouvement des « Lumières noires », qui a été théorisé par Curtis Yarvin. C’est un mouvement néofasciste qui défend l’idée qu’un pays idéal devrait être gouverné comme une entreprise, par le patron d’une entreprise.
...
Le plan de ces milliardaires d’extrême droite est-il en train de se réaliser ?
Oui. Pour les milliardaires de la tech, le programme, c’est de se libérer de la concurrence et de la régulation à la fois. En investissant la Maison-Blanche, ils sont en train de faire les deux. Et la théorie selon laquelle la Silicon Valley serait composée de libertariens a vraiment un coup dans l’aile.
Ce sont au contraire des gens dont la fortune est dopée par de gigantesques contrats publics et qui ne veulent pas du tout de la disparition de l’État. Ils veulent un État sur mesure. On assiste à l’aboutissement de la stratégie de capture réglementaire, qui consiste normalement à infiltrer les régulateurs pour devenir soi-même le régulateur. C’est une étape de plus : devenir carrément l’État et s’autodécerner des contrats militaires, des contrats de surveillance ou des contrats spatiaux, dans le cas de Musk. On assiste à la transformation d’une oligarchie [le gouvernement par une élite – ndlr] en pure ploutocratie [le gouvernement par les riches – ndlr].
...
On ne peut plus faire l’impasse sur cette filiation idéologique et il est urgent de nommer l’IA pour ce qu’elle est. L’IA porte un projet de redéfinition de la notion même d’être humain. Le discours qui promeut l’intelligence artificielle propose de refonder les architectures de la société. On retrouve là le projet transhumaniste, cher aux milliardaires de la tech.
Ce projet est très différent selon qu’il s’applique à eux-mêmes ou au reste du corps social. Pour eux-mêmes, l’IA, c’est le projet d’augmentation des capacités humaines, la mythologie du surhomme, la volonté d’hybrider son cerveau avec la machine. De défier la mort aussi.
Mais pour ces milliardaires, quand l’IA est appliquée au reste du corps social, elle devient un outil de contrôle et de servitude. Quand on regarde les utopies qu’ils défendent, par exemple les stations spatiales de Musk, le futur qui est promis pour la population, c’est la servitude algorithmée, aux mains de la machine, avec un capital qui se régénère quasiment automatiquement.
Un rappel pourtant essentiel :
L’IA n’est pas une technique, c’est une idéologie. C’est ce qu’explique d’ailleurs un de ses créateurs, John McCarthy. Quand il a lancé le terme Artificial Intelligence, c’était un choix conscient pour obtenir des financements. L’idée d’une machine anthropomorphique, qui va arriver non seulement à atteindre l’être humain, mais à le dépasser.
Et quand on humanise la machine, on mécanise l’humain – c’est la contre-proposition tacite. Cela devient extrêmement dangereux pour les sociétés, et notamment dans la sphère du travail. Quand on déploie des algorithmes dans l’entreprise, on pousse aussi les gens à se rapprocher de la machine. Et donc à réduire leur périmètre d’autonomie politique.
...
Il faut aussi rappeler que l’IA générative, présentée depuis l’arrivée de ChatGPT fin 2022 comme un outil déjà, ou bientôt, plus efficace que l’homme, ne marche pas si bien que cela. Pourquoi ?
Structurellement, on parle de machines qui font 5 à 20 % d’erreurs. Elles sont entraînées sur un corpus de données absolument gigantesque, et font des mises en relation entre des points, par inférence statistique. Tant qu’on reste dans une représentation du monde qui est proche de la médiane statistique, cela fonctionne très bien.
Mais plus on s’éloigne de la médiane, plus le modèle va avoir du mal à prédire et à modéliser le monde. Le problème est que la médiane politique du monde correspond à la bourgeoisie, à la blanchité, au genre masculin. Aux dominants, en fait.
Donc, plus on s’éloigne de la représentation du monde des dominants, plus on arrive dans les marges, plus on se retrouve avec une automatisation des inégalités, comme le dit la politiste Virginia Eubanks : la machine reproduit et amplifie les biais de classe, de race et de genre, qui soutiennent déjà le monde occidental. Toute machine algorithmique est une intervention politique sur le réel.
Dans une tentative de dépolitiser le problème, la Silicon Valley essaye de redéfinir les erreurs de l’IA comme des « hallucinations », en nous obligeant à une forme de tendresse par rapport aux machines, qu’il faudrait éduquer. Je suis absolument contre l’usage de ce terme : il s’agit d’erreurs de calcul, de désinformation, intrinsèques au modèle.
Et on découvre régulièrement que les machines autonomes ne le sont en fait pas.
On apprend par exemple que la voiture autonome nécessite une supervision humaine à distance [Le New York Times évalue la supervision nécessaire à 1,5 humain par véhicule autonome – ndlr] ou que les magasins automatiques Amazon où on ne passait pas à la caisse étaient gérés par un millier de travailleurs indiens sous-payés, qui devaient manuellement « flaguer » les achats des clients à travers des caméras de surveillance. Il faut davantage d’êtres humains pour gérer l’illusion de l’intelligence et de la machine autonome. Cela illustre bien l’inutilité massive de ce système.
Vendredi 7 février, dans le XIIIe arrondissement de Paris, des élu·es, des militant·es et des travailleurs et travailleuses du numérique se pressaient pour une journée organisée par l’eurodéputé, avec une ambition forte : « Réinventer l’IA. »
Pour les écologistes, le sommet prévu par l’Élysée élude de nombreuses questions de premier plan, sur le coût humain du développement de l’IA, sur son prix énergique ou encore sur ce qu’elle fera à nos démocraties et à nos lieux de travail. Des questions auxquelles les participant·es des conférences ont été amené·es à réfléchir.
Fin novembre de la même année, Thierry Breton, commissaire européen au marché intérieur, tente d’enrayer la machine diplomatique et s’accorde une sortie tonitruante dans La Tribune. « Je le dis pour tous ceux qui font du lobbying en France : d’où parlez-vous et pour les intérêts de qui ? », accuse l’ancien ministre de Jacques Chirac, reprochant nommément à MistralAI de « ne pas défendre l’intérêt général ». « Je ne suis dupe de rien, je vois tout », lance alors le commissaire français.
Quatorze mois plus tard, le débat a été définitivement tranché. L’AI Act est entré en vigueur dans une version très largement amoindrie, à la plus grande joie de Cédric O et de Mistral. Thierry Breton n’est plus commissaire européen, débarqué avec l’aval d’Emmanuel Macron au profit de Stéphane Séjourné, un fidèle parmi les fidèles.
« C’était le témoin gênant, note l’eurodéputé écologiste David Cormand, membre de la commission spéciale planchant sur l’IA au niveau européen, et qui a organisé un « contre-sommet » le 7 février à Paris, où Thierry Breton était l’invité vedette. Il incarnait une autre ligne, moins encline à sacrifier les droits fondamentaux au profit d’une minorité. »
Les entreprises qui développent des programmes d'intelligence artificielle pourraient intégrer dans leurs IA génératives des watermarks, ces signatures visibles (par un symbole superposé à l'image) ou invisibles (des motifs intégrés directement dans certains pixels de l'image, ou dans certains mots qui se répètent) qui peuvent ensuite être détectées. Mais l'application n'est pas toujours facile, et les entreprises y ont peu d'intérêt. D'après le Wall Street Journal(Nouvelle fenêtre), OpenAI a créé par exemple un détecteur de texte généré par ChatGPT efficace à 99,9%, mais refuse de l'ouvrir au grand public.
Tiens donc.
Publier des deepfakes pour montrer l'utilité de l'IA ? C'est moi ou c'est complètement con ?
Le fameux “gain de temps” vs les effets d’accélération: on gagne du temps mais du coup on nous en demande plus; le temps n'est pas gagné pour nous mais pour l'employeur.
La créativité à base figée vs la pollution informationnelle: l'IA ne sait que régurgiter ce qu'elle a dévoré... sa créativité est donc limité à une imitation et provoque un appauvrissement créatif.
L’automatisation des tâches répétitives vs l’effet coupe rase et la perte de compétences : comment devenir programmeur senior si les IA remplacent les programmeurs juniors ? La compétence acquise par les erreurs, le tâtonnement, la recherche de solution, la modélisation du problème est perdue si on utilise l'IA.
C'est tellement ça !
- Former les forces de l'ordre à utiliser les LBD pour éviter les mutilations => NON
- Foutre de l'IA dedans pour que l'arme décide à la place de l'humain où il faut tirer => OH OUI, QUELLE BONNE IDÉE
Et, évidemment, changer les méthodes de la police et n'utiliser la violence qu'en ultime recours => NON CERTAINEMENT PAS
Une nouvelle extension anti-IA ; j'espère qu'elle est mieux que celle de Mozilla, qui me déçoit un peu car ne fonctionnant que sur des textes en anglais.
Le fonctionnement est on ne peut plus simple : l’extension tourne en tâche de fond et affiche un pop-up en cas d’alerte, avec le message suivant : « D’après les constatations (humaines) de Next.ink, des articles de ce site semblent avoir été (en tout ou partie) générés par IA ».
Et elle peut aussi servir à signaler des sites.
Lien vers Add-ons Firefox : https://addons.mozilla.org/fr/firefox/addon/alerte-sur-les-sites-genai/
EDIT : je viens de tester sur ce site de merde : https://news.dayfr.com/, ça fonctionne.
"Tous pourront utiliser un 'agent conversationnel' pour effectuer des recherches, préparer des courriers, des synthèses ou des comptes-rendus, assurer parfois aussi des traductions"
Vous savez qu'on a pas besoin d'une IA pour faire ça, hein, vous le savez ? Hein... dites ?
Cette course à l'IA comme des poulets sans tête est un cauchemar. Il n'y a plus de fric (soi disant) pour les hôpitaux, pour la culture, pour la justice, mais on va cramer des dizaines de millions ? de milliards ? pour un truc inutile. J'enrage.
Deux pleines pages et une Une pour faire la pub de l'IA, "incontournable" sans qu'on sache bien pourquoi, et sans une seule mise en garde sur les dangers, bien réels, de cette technologie en plein essor. Aucune mention, dans le Parisien, de l'incompatibilité totale de l'IA avec la lutte contre le réchauffement climatique : l'intelligence artificielle détruit activement la planète et consomme tant de CO2 qu'elle a mené, en 2024, les géants du net à abandonner leurs objectifs de neutralité carbone. Aucune mention non plus, dans le Parisien, du fait que des centaines de spécialistes du sujet, y compris des ancien·nes salarié·es d'OpenAI et autres entreprises d'IA, ont signé une lettre ouverte dans le New York Times alertant sur le "risque existentiel pour l'humanité" que pose l'intelligence artificielle. La philosophe étatsunienne Shannon Vallor alerte également sur les dangers pour notre humanité, notre jugement moral et notre capacité à raisonner logiquement que pose l'habitude de se reposer sur l'IA pour penser et créer à notre place. Des dangers bien illustrés, inconsciemment, par cet article du Parisien, qui ressemble un peu trop à la prose de ChatGPT - et épouse en tout cas son optimisme fade et creux.
C'est un axiome qu'on peut lire dans les deux sens : l'IA rend cons, les cons aiment l'IA.
Bon, là c'est sûr, on va tous crever.
Non seulement ce sont des fascistes, mais en plus ils sont complètement débiles.
But given the widespread dismantling of regulations under the Trump administration, it also feels like an unbelievably precarious moment to be handing over any amount of control over nuclear weapons to a busted AI system.
La Direction Générale des Finances Publiques s’efforce de se positionner comme un des fers de lance de cette course effrénée à l’innovation. Les projets d’IA s’y multiplient : algorithmes de contrôle fiscal, Foncier Innovant détectant les piscines non déclarées, etc. Les personnels y ont-ils été pleinement associés ? Non. Solidaires Finances Publiques, première organisation syndicale de la DGFiP, a-t-elle été écoutée, entendue ? Certainement pas.
Au-delà des arguments techniques systématiquement mis en avant, se posent de réels choix de société. Quel service public souhaitons-nous ? Quels moyens techniques et humains veut-on valoriser pour lutter contre la fraude fiscale ?Solidaires Finances Publiques défend à la fois les compétences des personnels et une vision progressiste du service public. Si nous ne sommes pas opposés aux nouvelles technologies, nous refusons qu’elles soient déployées uniquement par souci d’économie et dans le but de supprimer des emplois.
Ni technophobes, ni technophiles, Solidaires Finances Publiques propose une vision technocritique des outils d’intelligence artificielle dans la fonction publique.
OMG. C'est à chier.
Donc, après le dessin, la création de vidéo ou d'enregistrements, l'écriture de poèmes et de romans, l'IA s'attaque au «surf sur le ouèbe»... Pour nous faire gagner du temps, sans doute... du temps qu'on pourra passer à se crever au travail jusqu'au cimetière pendant que les IA se gratteront leurs couilles virtuelles en glandant sur le net...
C'est à la fois drôle, triste et effrayant.
Merci pour cette description très juste à base d'IA qui se gratte les couilles, ça va me faire la journée.
Le Prix Nobel de physique va aux inventeurs de l'apprentissage automatique (les réseaux de neurones), dont Geoffrey Hinton, qui disait pas plus tard que l'an dernier (et il a coulé de l'eau sous les serveurs en surchauffe depuis) qu'il fallait tout arrêter parce que
l’information, l’éducation, la société et l’humanité tout entière sont en danger.
L'IA ne tient pas ses promesses (et ne pourra structurellement jamais les tenir, puisque ce sont globalement des mensonges) et une bulle financière énorme est en train de se constituer autour de ce secteur sur-côté.
Elle ne peut qu'exploser, et ça va faire des dégâts. Mais personne ne peut prévoir quand.
via Seb
Que ce soit via des images fixes ou des vidéos, les contenus ainsi générés ont tous servi à la promotion d’idées anti-Union européenne et anti-immigration.
Surtout, aucune des images répertoriées par AI Forensics n’était ouvertement signalée comme générée par IA par les partis en question (Le Monde relève de son côté la diffusion d’une vidéo pour laquelle Eric Zemmour précisait « c’est la première vidéo politique française entièrement réalisée avec l’IA »).
De même, contrairement à leurs conditions d’utilisation, aucune des plateformes sur lesquelles ces contenus ont été publiés n’ont su ajouter les étiquetages « généré par IA » théoriquement prévus.
via Seb
Tiens, à propos d'Auschwitz : bientôt, on n'aura même plus besoin des négationnistes pour dire que ça n'a jamais existé, parce que les vraies images des camps de concentration seront noyées au milieu de la merde produite par les IA génératives. Glaçant.
Je cite Seb qui cite l'article :
L'IA n'est pas une course aux armements, c'est un concours de prestidigitateurs, face auquel le scepticisme par défaut devient la seule attitude saine.
[...]
Les hallucinations sont inévitables. Elles sont une propriété structurelle de ces systèmes. Ça-ne-se-répare-pas. L'industrie le sait très bien.
L'IA c'est surtout... des humains. Mais des humains traités comme de la merde, attention. C'est ce qui fait tout l'intérêt de la chose.
derrière les grands discours de révolution technique se cache une masse de travailleurs invisibles dont les rangs se comptent en centaines de millions, selon des estimations. "On n'est pas du tout en train de créer des programmes qui se passent de l'humain, résume Antonio Casilli, professeur à l'Institut polytechnique de Paris. L'IA demande une quantité de travail humain énorme et absolument indispensable, dans toute la chaîne de production".
[...]
Le prix de cette modernité ? Aux Philippines, entre 1,50 et 3 dollars par "tâche". C'est ce que la plateforme de travailleurs indépendants Remotasks verse en moyenne à Eduardo* pour placer, clic par clic, pixel par pixel, les contours qui délimitent sur une image un panneau de signalisation. Puis un véhicule. Puis un buisson. Une "tâche" qui lui prend en général une heure ou moins et qu'il répète inlassablement, huit heures par jour, six jours par semaine. Ces images serviront ensuite à entraîner des algorithmes d'analyse vidéo
Bref : l'IA, c'est surtout artificiel et pas vraiment intelligent, ce sont des tâcherons sous-payés qui doivent tout lui "expliquer" au pixel près (lisez l'article). Et encore une fois, les ingénieurs et les concepteurs sont blancs et/ou américains ; les exploités sont racisés/pauvres/vivant dans un pays du tiers-monde.
Bienvenue dans l'ère du colonialisme numérique.
La partie sur l'IA est quand même plus précise que les élucubrations de Ploum, mais je ne voudrais pas donner l'impression que je m'acharne.
Je ne partage qu'à moitié l'enthousiasme de SebSauvage vis à vis de cet article, que je qualifiai in petto de "pas trop con" (rien de personnel, mais je considère ce monsieur comme un cuistre, je me suis déjà exprimé là dessus plein de fois, on va pas y revenir) : c'est une synthèse (incomplète) de ce qu'est la technologie "IA" à un moment donné.
Ce qui ne veut pas dire que je ne suis pas d'accord avec certains points. Cette phrase, par exemple :
Exactement ce que la bulle AI est en train de faire avec le web en le merdifiant au-delà de tout espoir de sauver quoi que ce soit. Et en pourrissant toutes les données avec lesquelles s’entraineront les prochaines générations AI.
Encore que je ne sois qu'à moitié d'accord, le "au-delà de sauver quoi que ce soit", en vrai, il n'en sait rien. En revanche, les LLM en train de manger leur propre dégueulis, oui, on est en plein dedans.
En revanche, ce genre de phrase :
Nous avons trop souvent tendance à confondre l’aube avec le crépuscule.
Pfff... Vous trouvez peut-être ça trop stylé, je trouve ça ringard.
Tiens, tiens, ce n'est plus les affreux méchants pirates le problème ?
La législation prévoit une approche à deux niveaux. Les modèles d'IA à "usage général" devront respecter des obligations de transparence, ainsi que les règles européennes en matière de droit d'auteur. Quant aux systèmes considérés comme à "haut risque" – utilisés par exemple dans les infrastructures critiques, l'éducation, les ressources humaines ou le maintien de l'ordre –, ils seront soumis à des exigences plus strictes. Ils devront par exemple prévoir la mise en place d'une analyse d'impact obligatoire sur les droits fondamentaux.
Les images, textes ou vidéos générés artificiellement ("deep fakes") devront être clairement identifiés comme tels. Le texte interdit aussi les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine, ou encore l'identification biométrique à distance des personnes dans les lieux publics. Sur ce dernier point, les Etats ont toutefois obtenu des exemptions pour certaines missions des forces de l'ordre comme la prévention d'une menace terroriste ou la recherche ciblée de victimes.
Les jeunes sont donc particulièrement vulnérables. En France, l'Office de lutte contre les violences faites aux mineurs (Ofmin) nous confirme d'ailleurs que le processus est déjà utilisé par des pédocriminels pour du chantage sexuel.
D'une manière générale, ne mettez pas de photos de vos enfants sur internet. Ne mettez pas de photos de vous. Ne mettez pas d'informations personnelles. Oh, et quittez Facebook, Instagram et Twitter-X. Je suis sérieux.
“L’IA est utilisée comme une forme de “Stratégie du choc“, dans laquelle le sentiment d’urgence généré par une technologie censée transformer le monde est utilisé comme une opportunité pour transformer les systèmes sociaux sans débat démocratique.” Quand l’IA est convoquée pour transformer l’hôpital et l’école, c’est une diversion qui vise à nous masquer leur effondrement sous les coups d’un désinvestissement massif. Or, l’IA ne comprend ni la médecine ni l’éducation. La seule chose que les grands modèles d’IA font très bien, c’est de transférer le contrôle aux grandes entreprises, et ce alors qu’aucun autre acteur n’a les moyens ou la puissance de traiter les données qu’elles savent traiter. “La promotion de l’IA est une privatisation par une porte dérobée”, une privatisation sous stéroïde qui vient renforcer celle déjà à l’œuvre.
Je ne trouve pas ça particulièrement choquant, surtout qu'en l'espèce la forme rejoint le fond. C'est toujours mieux que d'autres qui recopie Wikipédia en espérant que ça se verra pas...
Midjourney recrache des images Pixar et d’œuvres protégées, parfois sans qu’on le lui demande - Next
Une époque formidable, suite : d'un côté le DMCA qui pourrit la vie de tout le monde, artiste inclus ; de l'autre, des modèles d'IA ("parasites sans âme" dixit Boulet) qui pillent sans vergogne artistes et marques déposées.
J'ai ça qui traine dans mes onglets depuis avant les vacances, je profite que j'ai un peu de temps pour faire du tri.
Pas assez de profs ? Pas assez de moyens ? C'est pas grave, on va mettre une IA pour remplacer tout ça.
Cet assistant informatique pour l'aide aux devoirs et la remise à niveau est mis en place alors que l'Éducation nationale a de plus en plus de mal à attirer des candidats pour des postes d'enseignants devant les élèves.
La plateforme devrait proposer des exercices à l'élève avec une progression de niveau au cours de son utilisation. C'est cette progression « qui va être articulée par l'intelligence artificielle, grâce à un "algorithme de renforcement" »
Et pourquoi pas aussi de la blockchain et du métaverse, tant qu'on y est ?
C'est une excellente idée, je n'y avais pas pensé. Merci du conseil.
Bisous,
Gaby
Eh oui... nous sommes dans un monde où tout doit être en permanence remis en question. Intellectuellement stimulant, mais crevant à la longue.
Ceci étant, cette Une est intéressante : fake news, vraie conséquences. L'image est peut-être fausse, mais la réalité qu'elle recouvre est vraie.
A ce titre, je trouve l'explication de Libé assez juste :
Directeur de la publication de Libération, Dov Alfon fait cette réponse : «Beaucoup des pancartes brandies dans les manifestations du 17 octobre étaient en effet générées par IA, qui devient ces derniers mois le socle artistique de protestations, comme auparavant l’étaient des pantins, poupées ou squelettes. Cette photo de l’agence Associated Press représente justement «le spectre de l’embrasement», notre titre sur cette une (spectre : «apparition fantastique, généralement effrayante, d’un mort ou d’un esprit ; image effrayante, sinistre, aux contours irréels»). Le centre de la photo est le manifestant en colère, pour qui la vérité importe peu.»
Pantin, dessin ou fausse photo : ce ne sont que les symboles pour afficher une colère bien réelle. Je vais aller voir si André Gunthert en parle, tiens.
If you’d like to visit a place where danger from the natural world is omnipresent and where lunch costs $60, I encourage you to visit Iceland. It is a beautiful and brutal landscape whose natural wonders (and terrors) make for incredible photographs. I took a bunch on a recent trip to the country. But it is possible, as I’ve unfortunately discovered, to make them terrifying in entirely new ways.
I turned Adobe’s new AI-powered Generative Fill tool on my Icelandic vacation photos, with both “legitimate” photo editing tasks and a few ridiculous prompts that resulted in nightmare fuel. Generative Fill is in beta now, and it’s based on Adobe’s Firefly image generator. It’s not entirely new, but having it right alongside all your standard photo editing sliders is new. You use it by making a selection — lasso, magic wand, whatever you like — and then typing in a text prompt. It can remove and add elements to your photo, or extend the image.
C'est fascinant et terrifiant à la fois : une sélection "au lasso", et hop, les photos sont mieux que la vraie vie (sauf pour les poneys, mais on ne peut pas tout avoir). Rien de nouveau, direz-vous ? Si, parce que ça ne demande quasiment aucune compétence : on sélectionne grossièrement, on rentre du texte pour dire ce que l'on veut et c'est l'IA qui fait le reste.
Pour moins de deux dollars de l’heure, les salariés avaient pour mission de labelliser des "dizaines de milliers de bribes de texte" inappropriés explique le Time. Un travail de fourmi qui a laissé les travailleurs traumatisés. "C'était de la torture", témoigne l’un d’entre eux au magazine. Plusieurs employés ont déclaré devoir lire entre 150 et 250 passages de texte par roulement de neuf heures, certains décrivant des scènes de pédophilie, de meurtre, de torture ou encore d'inceste. Un accompagnement par des conseillers en "bien-être" leur était proposé, mais ces séances étaient rares et peu effectives selon les salariés.
Une situation réfutée par Sama, l’entreprise sous-traitante en charge de la prestation, qui a néanmoins décidé de rompre précipitamment son contrat avec OpenAI quatre mois plus tard. Présente au Kenya, en Inde et en Ouganda, l’entreprise est spécialisée dans l’étiquetage des données pour les géants de la tech, comme Google ou Microsoft. Bien que Sama affirme fournir un "travail digne aux personnes qui en ont besoin", elle n’en est pas à son premier scandale. Le sous-traitant avait déjà été au centre d’une enquête du Time en février 2022. Le média avait alors dénoncé les conditions de travail éprouvantes des salariés, là aussi au Kenya, chargés de modérer et supprimer les contenus violents ou interdits du réseau social Facebook.
Derrière les technologies soit disant "intelligentes", il y a des humains, souvent mal traités et sous payés.
Rappelez-vous : les IA, les ordinateurs sont CONS. Ils ont besoin d'un cerveau humain pour corriger ce qu'ils piochent "sans filtre" sur internet.
Les images du lien ont été faites grâce à un usage avancé (avancé mais pas expert, il suffit juste d'avoir un peu d'habitude de l'outil - et un compte payant) de l'IA Midjourney.
C'est bluffant : on pourrait vraiment croise que le studio Ghibli a travaillé sur un projet d'enfants de 8 ans combattant des méchas.
Si vous ne l'aviez pas encore repéré, il y a un subreddit complet où les gens postent leurs travaux : https://www.reddit.com/r/midjourney/
Ah ah.
Déjà vu chez vous, mais je vide mes onglets : génération d'images, d'abstract, de startup... par l'IA.
via le Cri du lapin #10 :
Les développeurs de systèmes de reconnaissance faciale sont bien embêtés. Ils pensaient tenir un système à peu près fiable quand paf, pandémie oblige, tous les gens se sont mis à porter des masques. Heureusement, les citoyens se sont aussi mis à poster en masse des photos de leurs tronches masquées sur les réseaux sociaux, fournissant assez de matériau pour entraîner les IA à reconnaître des visages masqués, ce qui sera fort utile quand il faudra identifier des manifestants. La nature est bien faite.
Quand la soi-disant intelligence artificielle permet de consolider la bonne vieille saloperie capitaliste bien humaine...
Eh oui, ce qu'on vous vend comme de l'IA, il y a des humains derrière. Beaucoup d'humains, et parfois bien indiscrets.
L'utilisation de l'intelligence artificielle (IA) au sein d'une entreprise ne constitue pas toujours « un projet important modifiant les conditions de santé et de sécurité ou les conditions de travail des salariés », permettant au CHSCT de recourir à une expertise. C'est ce que vient de juger la Cour de cassation le 12 avril 2018
Non, ils rêvent de chevaliers à tête de chien !
Le logiciel de reconnaissance d’image de Google, qui permet de détecter, d’analyser et de légender des images (voir : Comment Google traduit les images en mots) utilise des réseaux de neurones artificiels pour simuler le cerveau humain. Mais que se passe-t-il dans une intelligence artificielle quand elle est formée pour détecter des images dans les images ? Quand l’algorithme de Google reconnaît une image dans une image, il tend à peaufiner son analyse, pour améliorer ce qu’il détecte. Les ingénieurs de Google ont donc poussé ce processus - l’inception - a son maximum pour nous révéler ce que voient leurs logiciels, créant par la-même occasion de fascinantes images d’images. Notre troublante réalité vue par les algorithmes. Via Quartz.
La galerie d’images de Google est consultable en ligne.
https://photos.google.com/share/AF1QipPX0SCl7OzWilt9LnuQliattX4OUCj_8EP65_cTVnBmS1jnYgsGQAieQUc1VQWdgQ?key=aVBxWjhwSzg2RjJWLWRuVFBBZEN1d205bUdEMnhB
« Dubito ergo sum » (je doute donc je suis) comme maxime de notre métier ? Impossible dans un secteur où il faut rendre rapidement des papiers, et si possible faire un maximum d'audience, avec des sujets pourtant complexes à comprendre et à vulgariser. Il faut ainsi tout rendre digeste et génial, quitte à oublier de se poser la question des enjeux concrets (ça risque de prendre la tête au lecteur, vous comprenez).
[...]
L'enthousiasme est de toute façon une valeur mieux perçue dans le domaine de « l'info tech » que le fait d'aller chercher la petite bête. L'info positive, c'est l'avenir. Cette capacité à la remise en question devrait pourtant être l'essence même de nos métiers.
[...]
Cela devrait d'ailleurs nous inciter à nous poser une série de questions, qui sont bien moins mises en avant que l'émerveillement global face à tous ces nouveaux produits qui attirent des millions de lecteurs sur les pages des grands journaux et autres sites spécialisés : derrière les annonces et le bullshit marketing, qu'est-ce que l'on nous vend ?La plupart du temps, deux choses : de la dépendance et de la collecte de données. Car derrière la mise en avant d'objets connectés, les géants du secteur veulent surtout s'imposer dans notre quotidien et y implanter leurs choix.
[...]
Car quand vous poserez une question à Alexa, Google Assistant ou Siri, une seule réponse vous sera proposée. Envie de vous faire livrer un repas ce soir, de regarder un programme à la TV, d'écouter de la musique ou d'acheter un produit ? Il n'y aura à chaque fois qu'un grand gagnant, et une seule entreprise qui définit les règles pour son écosystème.
Et pendant ce temps, de soi-disant geeks continuent de faire leur beurre avec des "articles sponsorisés" plus ou moins ouvertement affichés.
This is fundamentally a data problem. Algorithms learn by being fed certain images, often chosen by engineers, and the system builds a model of the world based on those images. If a system is trained on photos of people who are overwhelmingly white, it will have a harder time recognizing nonwhite faces.
...
Currently the loudest voices debating the potential dangers of superintelligence are affluent white men, and, perhaps for them, the biggest threat is the rise of an artificially intelligent apex predator. But for those who already face marginalization or bias, the threats are here.