Retour au crayon/papier et duels d’IA

« Toute augmentation de la technologie est aussi une amputation. » Marshall McLuhan

L’amputation que voit Stephenson est décrit par le retour des enseignants :

« Les élèves utilisent ChatGPT pour tout et, par conséquent, n'apprennent rien. Nous risquons de nous retrouver avec au moins une génération de personnes qui ressemblent aux Eloi dans La Machine à explorer le temps de H.G. Wells, en ce sens qu'elles sont des faibles d'esprit totalement dépendants de technologies qu'ils ne comprennent pas et qu'ils ne pourraient jamais reconstruire à partir de zéro si elles venaient à tomber en panne. »

Selon lui, la solution est simple : revenir un pas en arrière et effectuer les tests à l’ancienne dans une salle dépourvue de réseau avec du papier et un crayon. Les professionnels de l’enseignement auront sans doute vbeaucoup de résitsnace à vaincre, mais cette solution a déjà existé.

Son inquiétude ne s’arrête pourtant pas au risque d’abêtissementr de l’humain mais aussi du positionnement de l’IA dans notre vie courante.

La perception de l’IA par le grand public

« Pour le commun des mortels, l'IA est synonyme de grands modèles de langage qui sont devenus accessibles au cours des deux dernières années par le biais d'interfaces conviviales basées sur des messages-guides. Ces outils  ont permi aux utilisateurs non techniques de générer des textes, des images et même des films qui auraient été hors de leur portée auparavant. Ou qu'ils auraient dû apprendre à écrire, à peindre ou à réaliser des films pour pouvoir produire quoi que ce soit de ce genre. »

Coexistence avec les autres intelligences

Selon lui, nous cohabitons déjà avec des intelligences diverses sur la terre, en effet, les animaux sont dotés de  différents types d'intelligence, parce qu'ils ont évolué pour faire des choses différentes. Les corbeaux et les corneilles sont incroyablement intelligentes. Les libellules existent depuis des centaines de millions d'années et sont extrêmement évoluées pour remplir leur fonction première, qui est de manger d'autres insectes. Les chiens de berger peuvent garder les moutons mieux que n'importe quel humain. Les chauves-souris peuvent faire quelque chose que nous ne pouvons même pas comprendre, à savoir voir avec leurs oreilles dans l'obscurité. Et ainsi de suite. » Il part de 3 axes de lecture

Les 3 Axes pour situer les IA

1. Conscience de la vie humaine par les intelligences. Les libellules ou même les intelligentes pieuvres peuvent vivre sans même connaître l’existence de l’homme. Les chevaux et les vaches reconnaissent les humains en tant qu’individus et survivre sans l’homme alors certains animaux domestiques ne survivraient pas 24 heures sans nous.
2. Degré de compréhension que ces intelligeces ont de l'esprit humain. Que perçoivent-il de notre esprit ? Par exemple, les loups voient les humains comme des animaux comestibles mais potentiellement dangereux. Par contre leurs cousins génétiques, les chiens,  nous comprennent très bien, et certaines races peuvent être presque douloureusement sensibles aux états émotionnels et aux désirs des humains.
3. Degré de dangerosité. Les grands prédateurs sont évidemment capables de tuer des humains sans grande difficulté. Un cheval peut aussi accidentellement mutiler ou tuer un être humain et les animaux qui se déplacent en groupe peuvent tuer en infligeant de nombreux petits dommages.

Cela n'a pas toujours été facile, mais nous avons réussi à établir une position stable dans l'écosystème malgré la coexistence de toutes ces différentes formes d'intelligence.

À long terme, les IA les plus intéressantes et les plus importantes seront celles qui ressemblent à des chiens de berger, en ce sens qu'elles font pour nous des choses utiles que nous ne pouvons pas faire nous-mêmes.

La régulation par un combat des IA

Ce qui inquiète les gens, c'est que nous finissions par avoir des IA qui peuvent nous faire du mal, peut-être par inadvertance comme les chevaux, ou délibérément comme les ours, ou sans même savoir que nous existons, comme des frelons poussés par les phéromones à piquer frénétiquement.

Même le T. Rex devait craindre d'être encorné au ventre par un tricératops, et devait probablement lutter contre toutes sortes de parasites, d'infections et de pénuries de ressources. En entraînant les IA à combattre et à vaincre d'autres IA, nous pourrons peut-être préserver un équilibre sain dans le nouvel écosystème.

Dans un écosystème stable mais compétitif peuplé d'intelligences de différentes sortes, une chose que nous devons faire, nous les humains, c'est devenir nous-mêmes des compétiteurs en bonne forme. Et lorsque la compétition se situe dans le domaine de l'intelligence, cela signifie préserver et faire progresser notre propre intelligence en tenant à distance les augmentations séduisantes afin d'éviter de subir les amputations qui en sont le prix.

Liens liés à l'article

Formations liées au thème