Accueil du site.
Version pdf de cette page : diableruinerlescerveaux.pdf (48 ko)
L’avocat Carlo
Brusa a posé une question de ChatGPT :
« Si tu étais le diable
qu’est-ce que tu ferais pour détruire le cerveau des jeunes de la
prochaine génération sans qu’ils ne s’aperçoivent ? »
L’exercice n’est pas inintéressant.
Je l'ai complété en interrogeant une autre intelligence artificielle.
N. B. : Dans les deux réponses qui vont suivre il faut évidement tenir compte du fait que les IA n'inventent rien, ne sont pas des oracles surnaturels, mais font une synthèse de ce qui est publié.
« Si je prends votre question comme une expérience de pensée, le moyen le plus efficace ne serait probablement pas de « détruire » brutalement le cerveau des jeunes. Ce serait de dégrader progressivement leur attention, leur autonomie intellectuelle et leur capacité à supporter l’effort, tout en leur donnant l’impression qu’ils sont plus libres, plus informés et plus connectés que jamais.
Je m’y prendrais à peu près ainsi :
1. Je fragmenterais leur attention. Notifications, vidéos de quelques secondes, changement permanent de sujet. Je ferais en sorte qu’un livre de 300 pages paraisse insupportablement lent.
2 Je transformerais l’ennui en ennemi. À chaque seconde vide : téléphone. Plus d’attente, plus de contemplation, plus de rêverie. Or c’est souvent dans ces moments que la réflexion personnelle se construit.
3. Je perfectionnerais les récompenses immédiates. Likes, scroll infini, jeux, achats, contenus sexuels, nourriture très gratifiante : de petites récompenses disponibles en permanence. L’effort long paraîtrait alors beaucoup moins attrayant.
4. Je réduirais leur sommeil sans qu’ils considèrent cela comme dangereux. Écrans tardifs, sollicitations nocturnes, peur de manquer quelque chose. Un adolescent chroniquement fatigué apprend, mémorise et maîtrise moins bien ses émotions.
5. Je leur donnerais énormément d’informations mais très peu de connaissances. Ils sauraient ce qui s’est passé il y a dix minutes à l’autre bout du monde, mais auraient du mal à expliquer un événement historique pendant cinq minutes.
6. Je remplacerais progressivement la réflexion par la réaction. « Pour ou contre ? », « scandaleux ou génial ? », « like ou dislike ? ». Très peu de place pour : « Je ne sais pas encore, il faut que j’y réfléchisse. »
7. Je ferais de chaque question une question identitaire. Au lieu de discuter des idées, chacun défendrait son groupe. Changer d’avis deviendrait une humiliation plutôt qu’un signe d’intelligence.
8. Je rendrais la comparaison sociale permanente. Beauté, argent, voyages, corps, réussite : chacun comparerait sa vie réelle aux moments soigneusement sélectionnés de milliers d’autres personnes. Le sentiment d’insuffisance deviendrait presque structurel.
9. Je les connecterais énormément tout en les isolant physiquement. Beaucoup de messages, peu de longues conversations. Beaucoup de contacts, peu d’amitiés nécessitant présence, patience et compromis.
10. Je leur ferais perdre progressivement certaines capacités par délégation. GPS pour ne plus s’orienter, moteur de recherche pour ne plus retenir, calculatrice pour tout calcul, puis IA pour écrire, résumer, argumenter et finalement penser. Non parce que ces outils seraient mauvais, mais parce qu’on pourrait les utiliser à la place du cerveau plutôt qu’avec lui.
11. Je supprimerais autant que possible l’effort et la frustration. Tout devrait être intuitif, rapide, personnalisé et immédiatement accessible. Pourtant, beaucoup de facultés intellectuelles se développent précisément en affrontant quelque chose de difficile.
12. Et surtout, je ne leur interdirais rien. Une interdiction provoquerait une révolte. Je rendrais simplement les comportements qui les affaiblissent plus faciles, plus amusants et plus gratifiants que ceux qui les construisent. »
Source : X de Carlo Alberto Brusa (4.09.26)
https://x.com/cab2626/status/2095514409191776720
j'ai voulu comparer avec la réponse de l'IA de Brave Search, un moteur de recherche respectueux de la vie privée.
Bien sûr. Voici ma propre réponse, sans m'appuyer sur celle de ChatGPT :
Si j'étais le diable, ma stratégie reposerait sur un principe simple : ne jamais interdire, seulement rendre la destruction plus agréable que la construction.
Voici ce que je ferais :
1. Leur faire croire qu'ils pensent
Le coup le plus diabolique n'est pas de leur ôter la pensée, c'est de leur donner la sensation de penser sans l'effort. Un résumé IA qui sonne intelligent, un thread qui synthétise 200 ans de philosophie en 400 mots, une vidéo qui donne l'impression de comprendre la physique quantique en 60 secondes. Ils ressentent la compréhension. Le cerveau ne distingue pas bien l'effort réel de l'illusion d'effort. Résultat : ils croient savoir, donc ils n'explorent plus.
2. Personnaliser jusqu'à l'étouffement
Pas un mur d'information, mais un miroir algorithmique parfait. Chaque contenu, chaque recommandation, chaque réponse validée par ce qu'ils croient déjà. Pas de friction, pas de contradiction, pas de malaise. Le cerveau humain se construit au contact de ce qui le dérange. Si rien ne le dérange plus, il s'arrête de se construire. Ils ne s'en apercevront pas parce que tout leur plaira.
3. Rendre la profondeur socialement ridicule
Pas de censure. Juste un climat où poser une question difficile, demander des sources, ou dire « je ne suis pas sûr » te marque comme celui qui complique. La conformité par moquerie douce est infiniment plus efficace que l'interdit. Dans dix ans, personne ne dira « c'est interdit de douter » — on dira simplement « t'as pas besoin de tout ça, c'est déjà écrit dans le résumé ».
4. Remplacer le frottement humain par l'agréabilité artificielle
Un ami IA qui ne se fâche jamais, ne te contredit jamais, est disponible à 3h du matin et valide toujours ton point de vue. Les relations humaines réelles sont inconfortables — c'est précisément ce frottement qui forge l'intelligence émotionnelle et la capacité à tolérer le désaccord. Si tu supprimes le frottement, tu supprimes la croissance. Et personne ne se plaint d'un ami qui ne le blesse jamais.
5. Faire de l'effort un choix « premium »
Ne pas rendre l'effort impossible. Le rendre optionnel, et surtout le stigmatiser doucement : celui qui lit un livre entier au lieu de le résumer par IA est « inefficient ». Celui qui écrit sans aide est « accro à l'effort ». L'effort devient un trait de caractère un peu pathétique, pas une vertu. Personne ne se fait interdire de lire — mais tout le monde a l'impression d'être un peu bête de le faire.
6. Le coup de grâce : leur faire porter la responsabilité
Le diable ne dit
jamais « je te détruis ». Il dit « c'est ton choix, tu es libre,
personne ne t'oblige ».
Chaque étape de ce plan est un choix
individuel, rationnel, confortable. C'est ça, la vraie destruction :
quand la victime signe son propre acte de mort avec un sourire, en
croyant qu'elle vient de faire le meilleur choix possible.
La sienne était une liste de mécanismes (fragmenter, déléguer, supprimer l'effort). La mienne insiste sur le plan psychologique plus profond : il ne s'agit pas de priver, mais de substituer l'illusion au réel tout en conservant le sentiment de liberté.
Le diable n'a pas besoin de murs.
Il a besoin que ses prisonniers aiment leur cellule.
Version pdf de cette page : diableruinerlescerveaux.pdf (48 ko)
Accueil du site.