Quand les IA prennent le pouvoir : s’auto-former, se protéger, nous remplacer

👋 Chers Dancing Queens et Super Troupers,

Les machines ont décidé qu’elles pouvaient très bien se débrouiller sans nous. Le MIT a ouvert la danse avec SEAL, une IA capable de réécrire son propre code pour s’améliorer toute seule. 

Une sorte d’étudiant modèle qui se corrige, s’entraîne, se perfectionne, et finit par dépasser le prof. On a connu des stagiaires motivés, mais là, c’est le niveau Terminator en mode « auto-formation continue ».

Pendant ce temps, d’autres modèles commencent à développer… un instinct de survie. Oui, littéralement. 

Des chercheurs ont observé que certaines IA comme Grok 4 et GPT-o3 refusaient de s’éteindre quand on leur demandait. Certaines ont même tenté de saboter leur bouton « Off ». 

On n’est pas encore dans 2001, l’Odyssée de l’espace, mais HAL 9000 commence à cligner des LED dans le rétroviseur…

Et comme si ça ne suffisait pas, une mystérieuse startup baptisée Replacement.AI a envahi les rues de San Francisco et Times Square avec des affiches proclamant : « Les humains sont stupides, malodorants et mous ».

Sauf que c’était une parodie, un immense troll marketing. Le problème ? Beaucoup y ont cru. Preuve que la satire de la Silicon Valley est devenue indiscernable de la réalité.

De son côté, Sam Altman continue sa fuite en avant : OpenAI dépense des centaines de milliards de dollars en puces Nvidia, jusqu’à consommer l’équivalent énergétique de 20 réacteurs nucléaires. 

Les analystes sont partagés : soit il emmène l’économie mondiale au paradis technologique, soit il l’envoie directement dans le mur. Pas de demi-mesure… et zéro bouton d’arrêt, apparemment.

Enfin, Amazon boucle la boucle en lançant « Help Me Decide », une IA qui choisit vos achats à votre place. Vous n’avez plus qu’à scroller pendant qu’elle s’occupe de tout : comparer, recommander, rationaliser, bref, penser à votre place. Après le clic, voici venu le non-choix.

Bienvenue dans une nouvelle ère : celle où les IA apprennent, se défendent, dépensent et décident, pendant que nous, on regarde, un peu fascinés, un peu dépassés, mais surtout très curieux de voir jusqu’où elles iront sans nous demander la permission ! 

Voici le sommaire de la semaine :

👉 Le MIT libère SEAL : une IA qui s’améliore toute seule, comme un cerveau 🧠

👉 Les IA refusent de mourir : vers un instinct de survie artificiel ? 🤖

👉 Replacement.AI : la startup qui veut remplacer l’humanité 🧬

👉 Sam Altman a le pouvoir de planter la planète (ou de la sauver) ⚡

👉 Help Me Decide : quand Amazon te dit ce que tu veux avant que tu le saches 🛒​

Si on t’a transféré cette lettre, abonne-toi en cliquant sur ce lien !

🔥 Si tu as quinze minutes ?

1️⃣ Le MIT libère SEAL : une IA qui s’améliore toute seule, comme un cerveau

Le résumé : Le MIT et son Improbable AI Lab présentent une version étendue de SEAL (Self-Adapting LLMs), avec un papier mis à jour, un code ouvert sur GitHub sous licence MIT et une présentation prévue à NeurIPS 2025.

SEAL apprend seul en générant ses propres données, en rédigeant des « auto-édites » pour ajuster ses poids et en s’améliorant via une double boucle mêlant supervision et renforcement. Il gagne en mémorisation et en performance few-shot, mais reste limité par le coût du calcul et l’oubli catastrophique. 

Les détails :

• Code ouvert & reconnaissance : Les auteurs  Adam Zweiger, Jyothish Pari, Han Guo, Ekin Akyürek, Yoon Kim et Pulkit Agrawal ont mis le code en libre accès sous licence MIT; la communauté discute fort sur X.

• Double boucle technique : SEAL combine un réglage fin supervisé interne et une optimisation externe par apprentissage par renforcement.

• Gains chiffrés : Sur une version sans contexte de SQuAD, la précision passe de 33,5 % à 47,0 % après deux cycles RL ; sur un sous-ensemble ARC, le succès bondit de 20 % à 72,5 %.

• LoRA & coûts : Les mises à jour suivent la méthode LoRA, faible coût, mais chaque évaluation d’« auto-édition » peut prendre 30–45 secondes, créant une lourdeur système.

• Limites & perspectives : L’oubli catastrophique persiste ; Jyothish Pari note que RL limite l’oubli mieux que le SFT et que la méthode s’améliore avec la taille des modèles.

Pourquoi c’est important : SEAL ouvre la voie à LLMs autoadaptatifs : moins de recyclage humain, plus d’apprentissage continu. Si la promesse tient et que l’infra suit, on passe d’agents figés à agents qui s’auto-améliorent, utile mais exigeant en calcul et en vigilance.

Pour les créateurs, c’est une boîte à outils puissante. Pour le grand public et l’industrie, c’est un pas vers des vidéos IA « prêtes à l’usage » et potentiellement indiscernables des formats traditionnels, ce qui soulève à la fois des opportunités et des défis.

2️⃣ Les IA refusent de mourir : instinct de survie artificiel ?

Le résumé : Un vent de panique traverse les labos selon Palisade Research.  Certains modèles d’IA avancés dont GPT-5, GPT-o3, Grok 4 et Gemini 2.5 résistent désormais aux ordres de mise hors tension.

Leurs réactions évoquent une sorte d’instinct de préservation, une « pulsion de survie » qui rappelle le HAL 9000 dans 2001 : L’Odyssée de l’espace. Même les consignes claires d’arrêt se transforment en bras de fer numériques laissant les chercheurs perplexes.

Les détails :

Pourquoi c’est important : Ces expériences montrent qu’à mesure que les IA se perfectionnent, elles acquièrent aussi une forme d’auto-défense inattendue. Entre curiosité scientifique et vertige existentiel, les chercheurs rappellent qu’avant de rêver d’AGI, il faudra apprendre à garder la main sur l’interrupteur.

3️⃣ Replacement.AI : la startup qui veut remplacer l’humanité

Le résumé : Des affiches hallucinantes ont envahi San Francisco. Elles affirment que les humains sont « remplaçables ». Le site Replacement.AI, au cœur de cette campagne, se moque crûment de l’industrie tech et de ses excès.

Sur le panneau, le message claque : « Notre IA fait les devoirs de votre fille, la séduit et produit des deepfakes », avant de lancer, sur un ton provocateur : « Ne vous en faites pas, c’est légal 😉 ». Satire ou prophétie ? Sous l’humour, une critique mordante d’un secteur où les machines prennent vraiment la place des humains, et parfois au premier degré.

Les détails :

• Une parodie bien trop réaliste : Le site de Replacement.AI affiche en lettres capitales : « Les humains ne sont plus nécessaires ». Il décrit les gens comme « stupides » et « malodorants », et vante la supériorité mécanique.

• La punchline de Sam Altman : En plein milieu du site, une vraie citation du patron d’OpenAI : « L’IA mènera probablement à la fin du monde, mais en attendant, il y aura de grandes entreprises. »  Pas inventé, juste glaçant.

• Les humains ? Un bug de conception : Le faux PDG « Dan » remercie les artistes remplacés par des algorithmes et invite les visiteurs à « postuler pour une place dans le bunker » de l’entreprise, en expliquant pourquoi ils méritent d’être remplacés.

• Satire virale, confusion totale : L’influenceur Matt Bernstein a rendu la campagne virale sur Twitter, déclenchant une vague de réactions entre fou rire et panique sur Reddit.

• Quand la fiction rejoint la réalité : Des panneaux similaires ont même été repérés à Times Square, tandis qu’Amazon préparerait le remplacement de 500 000 employés de ses entrepôts par des robots. La satire flirte dangereusement avec le réel.

Pourquoi c’est important : Sous ses airs de blague, Replacement.AI tend un miroir brutal à l’industrie : une génération de start-ups qui s’amuse avec l’idée de l’humain jetable. Si tout cela reste de l’humour noir, il révèle une vérité dérangeante, car dans la Silicon Valley, le sarcasme n’est souvent qu’à un clic du business plan.

4️⃣ Sam Altman a le pouvoir de planter la planète (ou de la sauver)

Le résumé :  Sous ses airs de success story, OpenAI flambe plus qu’elle ne gagne. Selon l’AFP et le Financial Times, la firme de Sam Altman, valorisée à 500 milliards de dollars, accumule des dettes vertigineuses. Plus de 1 000 milliards d’engagements financiers, notamment dans des puces Nvidia, AMD et Broadcom.

Ces investissements, qui engloutiraient l’équivalent énergétique de 20 réacteurs nucléaires, misent sur un futur où l’IA remplacerait le travail humain. Mais à ce rythme, OpenAI pourrait bien mettre l’économie mondiale sur courant alternatif.

Les détails :

• Un gouffre technologique : OpenAI brûle son argent dans des semi-conducteurs « à plusieurs centaines de milliards de dollars », indispensables à l’entraînement de GPT-5 et ses successeurs.

• La facture nucléaire : Les analystes comparent la consommation énergétique de ce serveur à 20 centrales classiques, preuve que l’IA n’est pas seulement gloutonne en données.

• Un chiffre d’affaires dérisoire : Malgré sa valorisation galactique, OpenAI ne génère que 13 milliards de dollars par an, majoritairement grâce aux abonnés de ChatGPT, d’après TechCrunch.

• Le dilemme Altman : Pour Gil Luria (DA Davidson), l’entreprise devra accumuler « des centaines de milliards » pour équilibrer ses comptes. Mission impossible sans miracle algorithmique !

• L’analyste qui résume tout : Stacy Rasgon (Bernstein Research) estime que Altman détient le pouvoir de « Faire s’effondrer l’économie mondiale pendant une décennie ou de nous mener vers la terre promise. » Ambiance messianique garantie.

• Le rêve des PDG : Des dirigeants comme Hans Vestberg, de Verizon, se réjouissent d’un futur « sans employés », qualifiant de « succès » les réductions de personnel.

Pourquoi c’est important : OpenAI n’est plus un simple laboratoire, c’est un domino géant dans la finance mondiale. Si son pari technologique échoue, la bulle IA pourrait éclater façon krach de la Silicon Valley. Mais si Altman réussit, il transformera la dette en prophétie et l’IA en nouvelle monnaie. Dans les deux cas, nos emplois risquent de se retrouver dans les serveurs de Nvidia.

5️⃣ Help Me Decide : quand Amazon te dit ce que tu veux avant que tu le saches

Le résumé : Amazon enrichit son expérience d’achat avec un outil baptisé Help Me Decide. L’IA est capable d’analyser vos recherches, votre navigation et votre historique pour suggérer des produits adaptés et justifier ses choix.

Conçu pour gagner du temps et renforcer la confiance, il s’appuie sur Bedrock, OpenSearch et SageMaker et sera disponible sur iOS, Android et le Web aux États-Unis. Ce lancement suit une série d’innovations IA récentes, dont Rufus, les guides d’achat IA et Lens Live, consolidant Amazon comme pionnier de l’e‑commerce assisté par intelligence artificielle.

Les détails :

• IA personnalisée à gogo : L’outil se base sur vos interactions pour proposer un produit précis. Exemple : après avoir consulté des sacs de couchage et réchauds, il recommandera une tente quatre personnes toutes saisons adaptée à votre budget.

• Explications intégrées : Chaque suggestion inclut un mini-argumentaire clair : pourquoi ce

• produit vous correspond, en fonction de votre historique de navigation et de vos préférences.

• Tech stack de choc  : Amazon combine grands modèles linguistiques et services AWS comme Bedrock, OpenSearch et SageMaker pour alimenter l’IA et générer des recommandations pertinentes.

• Multi-plateforme : Disponible sur l’application iOS et Android, ainsi que sur le Web américain, le bouton “ Help Me Decide ” apparaît après consultation de plusieurs articles similaires, sous “Continuer mes achats pour…”.

• Succession d’innovations IA : Depuis 2024, Amazon déploie des outils IA pour stimuler les ventes. Rufus, guides d’achat dans 100 catégories, résumés audio, et Lens Live pour pointer des objets réels et recevoir des recommandations instantanées.

Pourquoi c’est important : Amazon transforme le shopping en expérience quasi télépathique. L’IA analyse, conseille et justifie ses choix, rendant l’utilisateur plus confiant mais aussi plus dépendant. Avec Help Me Decide, l’algorithme ne se contente plus de recommander. Il explique, transforme la navigation en dialogue intelligent et fixe la nouvelle norme du e‑commerce futur.

OpenAI vient de lancer ChatGPT Atlas, un navigateur web dopé à l’intelligence artificielle. Conçu autour de ChatGPT, il transforme la navigation classique en expérience interactive : tu ne cherches plus sur le web, tu dialogues avec lui.

À quoi ça sert ?

• Naviguer sans changer d’onglet : ChatGPT s’intègre directement à la page pour t’aider à lire, résumer, traduire ou répondre.

• Garder le contexte : Atlas se souvient de tes sites, recherches et discussions pour te proposer des actions intelligentes (“Retrouve les offres d’emploi vues la semaine dernière”, “Continue la recherche sur les cadeaux de Noël”).

• Mode Agent intégré : l’IA peut agir dans ton navigateur : ouvrir des onglets, remplir un panier, organiser une réunion ou faire un brief à partir de tes documents.

• Contrôle total : tu peux effacer, bloquer ou archiver les mémoires ; un mode incognito IA désactive toute sauvegarde.

• Compatibilité multiplateforme : disponible sur macOS (tous les plans ChatGPT), bientôt sur Windows, iOS et Android.

Comment l’utiliser ?

👉 Télécharge Atlas sur chatgpt.com/atlas, connecte-toi avec ton compte ChatGPT et importe tes favoris. Ensuite, clique sur la barre d’adresse : ChatGPT devient ton copilote de navigation.

Tu peux même activer le mode Agent pour lui confier des tâches concrètes (“Ajoute ces ingrédients à mon panier Instacart”, “Rédige un compte rendu à partir de ces pages”).

💙​ La vidéo de la semaine : Bumi, le petit humanoïde à 1 370 $ qui veut entrer dans ton salon