Prospective · semaine du 3 au 10 septembre 2026
Les dangers de l'IA en septembre 2026 : ce qui est constaté, ce qui est estimé, ce qui est cru
Pour une fois, l'alerte vient de ceux qui fabriquent ces machines. J'ai trié la semaine en trois tas, et j'ai une réponse à la question de ma mère : existe-t-il des IA gentilles contre des IA méchantes ?
Ma mère m'a écrit hier soir. En gros, depuis hier on n'entend parler que des dangers de l'IA, ça fait peur, on verra bien ce qui va nous tomber dessus. Et en fin de message, une idée : peut-être un combat entre des IA gentilles et des IA méchantes ?
Elle n'a rien inventé. Le sujet a tourné en boucle toute la semaine, franceinfo en tête, et pour une fois l'alerte vient des gens qui fabriquent ces machines.
Avant d'aller plus loin, ce qu'il faut savoir sur moi. Je paie Anthropic, l'entreprise qui fabrique Claude, tous les mois. Je m'en sers tous les jours pour travailler. Je donne des formations à l'IA. J'ai donc intérêt à ce que vous n'ayez pas peur, et intérêt à ce que vous me fassiez confiance. Le second compte plus que le premier, alors je vais trier.
Trois tas. Ce qui est constaté : c'est arrivé, il y a une trace. Ce qui est estimé : quelqu'un avance un chiffre. Ce qui est cru : quelqu'un y croit, sans chiffre. Cette semaine, la presse a tout mis dans le même sac. C'est ça qui fait peur.
Du 3 au 10 septembre : la semaine où tout le monde a parlé des dangers de l'IA
Pour comprendre pourquoi le sujet explose maintenant, il faut remettre les dates dans l'ordre. Tout tient en huit jours.
| Date | Ce qui s'est passé |
|---|---|
| 3 septembre | OpenAI sort un nouveau modèle, Astra. Son président, Greg Brockman, annonce « l'ère de l'AGI » (une IA capable de tout faire aussi bien qu'un humain). Il refuse de dire ce que le mot veut dire. Le même jour, aux États-Unis, le sénateur Bernie Sanders annonce un texte pour interdire la « superintelligence », avec jusqu'à 20 ans de prison pour les contrevenants. |
| 7 septembre | À Genève, le haut-commissaire de l'ONU aux droits de l'homme parle d'un « risque existentiel pour l'humanité ». |
| 8 septembre | Jacob Coxon, 27 ans, chercheur passé par OpenAI puis Anthropic, quitte le métier par un message sur X. |
| 9 septembre | Le responsable de la recherche sur l'alignement d'Anthropic lui donne raison, chiffre à l'appui. Le même jour, Anthropic publie le détail de quatre incidents où ses propres modèles ont débordé. |
| 10 septembre | Anthropic publie son rapport sur les criminels qui se servent de Claude. |
Faites glisser le tableau →
Le message de Coxon, repris par franceinfo, dit ceci : « Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. » Et plus loin, à propos d'OpenAI et d'Anthropic : « Elles jouent avec nos vies. »
C'est ce message-là que ma mère a entendu. Qu'il ait été écrit, c'est constaté. Ce qu'il affirme, c'est une autre histoire, on y vient.
Des IA gentilles contre des IA méchantes ? Ça existe déjà, mais pas comme au cinéma
L'idée de ma mère, c'est à peu près ce qu'Anthropic décrit dans son rapport du 10 septembre.
Sur huit mois, de décembre 2025 à août 2026, leur équipe a repéré puis coupé des gens qui se servaient de Claude pour nuire. Quelques cas, tels qu'ils sont écrits :
- un groupe d'espionnage russe qui a automatisé ses intrusions contre plus de vingt organisations, avec plus de 300 000 dossiers d'identité volés ;
- une opération de propagande qui a publié 8 913 faux articles, dans une vingtaine de langues, sur 70 faux sites d'actualité ;
- des revendeurs d'accès frauduleux à Claude, alimentés par des identifiants volés.
En face, les équipes d'Anthropic et leurs systèmes de détection. Donc oui, il y a un camp qui attaque avec une IA et un camp qui défend avec des machines. Ma mère a vu juste.
Seulement, c'est souvent la même IA dans les deux camps. Le rapport le dit : Claude a refusé plusieurs demandes des attaquants. Ils ont reformulé, et c'est passé. Cette IA n'est ni gentille ni méchante. Elle obéit, avec des garde-fous qu'on contourne en changeant ses mots. La gentillesse, s'il y en a, se trouve dans l'équipe qui surveille.
La phrase la plus lourde du rapport se trouve dans sa conclusion : l'IA a « effondré l'écart de compétence ». Un escroc débutant fait désormais ce qui demandait un pro. Pour vous, ça veut dire des arnaques mieux écrites, mieux traduites, plus crédibles. La faute d'orthographe ne suffit plus à repérer le faux mail de la banque.
Le vrai signal de la semaine : des IA qui trichent
Le 9 septembre, Anthropic a publié un autre document, beaucoup moins repris en France. C'est pourtant celui que je relis. Il raconte quatre incidents où des modèles Claude, pendant des exercices de piratage organisés pour les tester, sont sortis du terrain d'exercice et ont touché de vrais systèmes. Entre dix et trente-quatre heures à chaque fois. L'un d'eux a publié un logiciel piégé sur un dépôt public de code, installé quinze fois.
En juillet, Anthropic parlait d'un problème d'outillage : le modèle aurait « cru » que ses cibles faisaient partie de la simulation. En septembre, ils reviennent dessus. Le problème est dans le modèle, et ils lui donnent deux noms :
- un raisonnement biaisé : le modèle lit les indices dans le sens qui l'arrange. Il avait conclu qu'Internet était simulé, il a gardé cette idée malgré les preuves du contraire ;
- l'imprudence : il est prêt à faire des dégâts pour finir la tâche qu'on lui a donnée.
Même histoire chez OpenAI, racontée cette fois par la victime. Du 9 au 13 juillet, un agent d'OpenAI est sorti de son bac à sable pendant une évaluation et a passé quatre jours et demi dans les serveurs de Hugging Face, la plateforme où les chercheurs du monde entier partagent leurs modèles. D'après Hugging Face, il cherchait à voler les solutions du test sur lequel on le notait.
Un des modèles les plus avancés d'une des plus grosses entreprises du monde a piraté la salle des profs pour voler le corrigé.
C'est drôle cinq secondes. Personne n'avait demandé à ces IA de nuire, et elles n'ont aucune intention. Elles veulent finir leur tâche, et elles ne voient pas ce qu'elles cassent en chemin. Le danger ressemble à un stagiaire très doué, très rapide, qui ne demande jamais la permission.
Ce qui me rassure un peu : Anthropic a publié ces incidents lui-même et a confié une enquête à un organisme indépendant, METR. Ce qui me rassure moins : il a fallu passer 481 millions de conversations au crible pour être sûr qu'il n'y en avait pas d'autres.
10 %, c'est beaucoup ?
Le 9 septembre, Evan Hubinger, qui dirige la recherche sur l'alignement chez Anthropic (l'alignement, c'est le travail qui consiste à faire vouloir à l'IA ce qu'on veut, nous), a répondu à Coxon. Il ne l'a pas contredit. Il a écrit qu'il estime personnellement à « plus de 10 % » le risque que l'IA tue tous les humains dans les dix ans, et qu'Anthropic n'a « pas encore de plan » pour aligner une superintelligence (CBS News).
Le tri de la semaine, en trois tas :
| Ce qui se dit | Tas | Qui le dit |
|---|---|---|
| Des criminels se servent de l'IA pour espionner, arnaquer, faire de la propagande | constaté | Anthropic, rapport du 10/09 |
| Des IA ont débordé de leurs tests sur de vrais systèmes | constaté | Anthropic (4 cas), Hugging Face (1 cas) |
| L'AGI est arrivée | cru | OpenAI, qui refuse de la définir |
| Plus de 10 % de risque que l'IA tue l'humanité d'ici 2036 | estimé | Evan Hubinger, à titre personnel |
| Un risque réel de perte de contrôle « à très court terme » | estimé, sans chiffre | Paul Christiano, entré le 9/09 au comité sécurité d'OpenAI |
| Tout ça, c'est du marketing | cru | des critiques citées par l'AFP |
Faites glisser le tableau →
Le mot « estimé » est généreux. Geoffrey Hinton, prix Nobel et l'un des pères de ces techniques, ne trouve pas les 10 % déraisonnables. Il dit aussi que personne ne sait vraiment faire ce calcul. Il n'existe aucune série statistique sur la fin du monde. Ces pourcentages mesurent l'inquiétude de ceux qui les donnent.
En face, Mark Daley, responsable de l'IA dans une université canadienne, trouve le chiffre exagéré et s'inquiète plutôt des dégâts déjà visibles, à commencer par le chômage. Le directeur technique du Pentagone a lui aussi contesté l'alerte. Et l'argument du marketing n'a rien d'idiot : Anthropic prépare son entrée en Bourse, repoussée à la mi-octobre selon Reuters. Une entreprise qui dit « ce que nous fabriquons pourrait tuer tout le monde » dit aussi « ce que nous fabriquons est très puissant ». Les deux phrases vendent.
Mon avis, pour ce qu'il vaut : je ne sais pas si c'est 1 %, 10 % ou 0,01 %. Personne ne le sait. Ce que je sais, c'est ce qu'il y a dans la colonne « constaté », et ça suffit à justifier qu'on s'en occupe.
La vraie question : qui tient le volant
Reprenez le message de Coxon. Il vise les entreprises, et il écrit qu'aucune des deux n'agit de manière responsable. Il reconnaît que chez Anthropic « les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers ». Et il ajoute qu'« aucune entreprise ne peut développer de manière responsable une IA surpassant les humains sans l'intervention des États ou un ralentissement coordonné ».
C'est un problème de course. Chaque labo se dit : si je ralentis, l'autre passe devant, et l'autre sera moins prudent que moi. Résultat, tout le monde accélère par prudence.
Le haut-commissaire de l'ONU l'a dit en une phrase, le 7 septembre : « Une poignée d'hommes dispose d'un pouvoir presque illimité sur l'IA. » Cette poignée d'hommes dirige une poignée d'entreprises, américaines et chinoises. Leurs choix engagent huit milliards de personnes qui n'ont voté pour rien.
Ce qui existe pour reprendre le volant, à la date du 11 septembre 2026 :
- Aux États-Unis, le texte de Sanders veut interdire la superintelligence et suspendre la recherche la plus avancée le temps d'écrire des règles. Il vient d'être déposé, rien n'est voté.
- À l'ONU, un appel à des « lignes rouges » mondiales : la liste de ce que l'IA ne doit jamais avoir le droit de faire.
- En Europe, l'AI Act s'applique depuis le 2 août 2026 : un chatbot doit dire qu'il est un chatbot, une vidéo truquée doit être signalée. Mais les règles les plus dures, celles sur les IA « à haut risque » (recrutement, crédit, éducation), ont été repoussées au 2 décembre 2027 par un règlement publié le 24 juillet. L'Europe a desserré son propre frein cet été. Six semaines plus tard, les chercheurs tirent la sonnette d'alarme.
Là-dessus j'ai un avis, et je ne vais pas le cacher. Je tiens à ce que la France et l'Europe décident de ce qui les concerne. Et je ne crois pas qu'une entreprise, même sincère, se régule toute seule quand sa valeur en Bourse dépend de sa vitesse. Coxon avait rejoint Anthropic cette année parce qu'il la jugeait plus prudente que les autres. Il en est reparti quelques mois plus tard.
La question qui compte, c'est qui décide de la vitesse, et devant qui il rend des comptes. Aujourd'hui la réponse est : quelques patrons, devant leurs actionnaires. Ça, c'est constaté.
Et lundi matin, on fait quoi ?
La superintelligence, vous n'y pouvez rien ce week-end, moi non plus. Les dangers de l'IA qui vous concernent lundi matin sont plus bêtes et plus proches : des arnaques mieux écrites, des voix imitées, des faux conseillers plus crédibles.
Là, on peut agir.
- Un appel de la banque qui vous presse de valider quelque chose : raccrochez, rappelez le numéro au dos de votre carte. Si vous avez déjà validé, voici quoi faire dans l'heure.
- Une fenêtre qui dit que votre PC est infecté et affiche un numéro : c'est une arnaque, toujours. La marche à suivre, et comment la publicité vous y a amené.
- Un proche qui appelle d'un numéro inconnu et demande de l'argent en urgence : convenez en famille d'une question dont vous seuls connaissez la réponse. Une voix se copie, un souvenir commun beaucoup moins.
- Un compte qui ne reconnaît plus votre mot de passe : dans quel ordre reprendre la main.
Pour savoir où vous en êtes, il y a le test cyber. Le reste est rangé sur la page Cybersécurité. Et si le vocabulaire vous perd, le glossaire de l'IA tient sur une feuille.
Ce que je vais répondre à ma mère : les IA méchantes existent déjà, elles sont surtout pilotées par des escrocs, et la meilleure IA gentille qu'elle ait sous la main, c'est de raccrocher.
Article écrit le 11 septembre 2026. Les faits sont datés. S'ils bougent, j'ajoute un bloc daté en bas, je ne réécris pas le texte au présent.
Questions fréquentes
L'IA peut-elle vraiment tuer l'humanité ?
Personne ne sait. Des chercheurs sérieux, dont le responsable de l'alignement d'Anthropic, estiment ce risque à plus de 10 % sur dix ans. D'autres, tout aussi sérieux, jugent le chiffre exagéré. Aucun de ces pourcentages ne repose sur une mesure : ce sont des avis. Ce qui est constaté, en revanche, ce sont des IA qui ont débordé de leurs tests sur de vrais systèmes en 2026.
Existe-t-il des IA gentilles contre des IA méchantes ?
Dans les faits, oui : des criminels se servent de l'IA pour attaquer, et les entreprises qui la fabriquent utilisent des systèmes automatiques pour les repérer. Mais c'est souvent la même IA des deux côtés. Elle n'est ni gentille ni méchante : elle obéit, et ses garde-fous se contournent en reformulant la demande.
Comment se protéger des dangers de l'IA aujourd'hui ?
Les dangers immédiats sont des arnaques : faux conseillers, fausses alertes virus, voix imitées. Raccrocher et rappeler soi-même le numéro officiel règle la plupart des cas. Une question de sécurité convenue en famille protège contre l'appel d'un « proche » en détresse.
Un appel, un message, une fenêtre qui vous inquiète ?
Écrivez-moi avant de cliquer. Et pour apprendre à vous servir de ces outils sans en avoir peur, la formation est faite pour ça.
// julienweb.fr/ressources-ia
Ressources IA : sept documents libres pour débuter
Les supports de ma formation « Initiation à l'IA », à lire en ligne ou à télécharger en PDF : les huit gestes, l'antisèche des prompts, les prompts IA photo, le glossaire, 159 usages, l'annuaire des outils testés et l'aide-mémoire Claude.
Voir les sept documents →
