[publié sur https://academia.hypotheses.org/67088]

par un collectif universitaire (surtout François)

L’intrusion brutale de l’« intelligence artificielle » générative (IAg) dans la recherche ouvre une période de crise de production des savoirs et des libertés académiques. Une entreprise d’IAg américaine vient notamment de choquer la communauté mathématique en publiant d’un bloc 730 «résultats», dont l’objectif n’est pas l’avancée des connaissances mais l’envoi d’un message pernicieux aux scientifiques : « L’IAg est désormais incontournable. Votre carrière et compétitivité en dépendent. Toute résistance est futile ». Le risque est grand que tous les domaines scientifiques, déjà rongés par la compétition, la course à la publication, et la peur de passer à côté de « révolutions technologiques », adoptent en masse et sans considération éthique ces nouveaux outils, dont les effets sociaux, environnementaux et stratégiques ne sont absolument pas neutres. Il est urgent de refuser fermement le pacte faustien qui nous est offert.L’adoption de masse des IAgs est-elle justifiée ? On peut en douter. On doit en débattre. Celle-ci repose aujourd’hui avant tout sur une illusion court-termiste de productivité et une méconnaissance de leur fonctionnement sous-jacent et performances, entretenues par l’habileté des Big Tech à les maquiller (il existe notamment des soupçons de méconduite scientifique derrière des annonces fracassantes en mathématiques, en biologie, et avant cela en lettres et sciences humaines). Par ailleurs, malgré la focalisation actuelle sur les performances scientifiques et techniques, l’enjeu essentiel n’est pas là. En réalité, ni la planète, ni nos sociétés ne peuvent se permettre les coûts multiples et démesurés du développement à marche forcée de l’IAg, gonflé par une bulle financière sans précédent.

Notre communauté est depuis longtemps consternée par le manque d’écoute politique sur le réchauffement climatique et le déclin de la biodiversité. Mais en adoptant frénétiquement l’IAg par confort et facilité technique, elle perd elle-même le contact avec le temps long et la réalité de notre fragile destin commun sur une planète aux ressources finies. Par sa conception technique, ses usages et le levier de l’automatisation, l’IAg va en effet non seulement aggraver et démultiplier les crises environnementales, mais d’autres encore : inégalités, discriminations, surveillance, souffrance au travail, ingérences électorales, escalade technologique militaire, sous-investissement dans la santé et l’éducation, etc. Serons-nous paradoxalement, dans nos métiers de savoirs, les derniers à prendre la mesure des dégâts ? Alors que les sciences humaines et de l’environnement sont déjà menacées par des régimes autoritaires, ne voyons-nous pas que consommer de l’IAg contribue à annihiler les efforts de ces disciplines, et fait le jeu de tels régimes par le biais de nouveaux monopoles de contrôle ?

Si l’asymétrie incommensurable entre les dangers présents et documentés de l’IAg et les illusions techno-solutionnistes de ses promoteurs ne suffisent pas à convaincre des périls, considérons les conséquences néfastes sur notre milieu et production scientifique. Comme celles du dopage, elles apparaitront à long terme, sous forme de dette scientifique et technique, de perte de savoir-faire, de talents, de santé mentale et de cognition. L’IAg menace le processus de production des connaissances et découvertes, qui reposait jusqu’à présent sur l’évaluation par les pairs. Quelle confiance donner à des productions dont les modes d’obtention ne sont ni reproductibles ni transparents ? Pourquoi produire à un rythme encore plus rapide ce que nous ne parvenons déjà plus à lire, comprendre et valider ? Nous commençons par ailleurs déjà à voir les effets psychologiques de l’utilisation débridée d’IAg et des annonces incessantes de « découvertes » donnant l’illusion d’obsolescence de l’esprit humain. Trop de collègues déroulent sans recul des arguments court-termistes trompeurs (gains de temps, inévitabilité, compétitivité), remettant pernicieusement en cause la vocation en développement de jeunes scientifiques et la pertinence des choix méthodologiques et éthiques de celle·ux qui refusent l’IAg. Le gâchis de vies scientifiques est probablement la menace principale pour la recherche : un épisode de « grand abandon » des nouvelles générations et de celle·ux, attachés à la préservation de l’esprit critique essentiel à nos métiers, qui ne voient pas de sens à déléguer leur pensée et leur travail à des machines.

Rien ne contraint les scientifiques forts d’une indépendance académique à consommer ces technologies coûteuses, insoutenables et qui sapent les fondements de nos démocraties. Allons-nous user de cette indépendance ? Renversons la peur de passer à côté : c’est bien en consommant de l’IAg qu’on rate l’essentiel. Démultiplié collectivement, un refus aura un effet sur le monde beaucoup plus positif à long terme que la voie destructrice sur laquelle la recherche semble s’engager, et permettra de poser la question plus large des causes systémiques du productivisme et des usages irréfléchis du numérique poussés à leur paroxysme par l’IAg, pour revenir à des recherches plus lentes et frugales, porteuses de sens et de richesse humaine.

• François Rincon, chercheur en astrophysique et en écologie, CNRS, Station d’Ecologie Théorique et Expérimentale de Moulis
• Chloé-Agathe Azencott, enseignante-chercheuse au Centre de bioinformatique de Mines Paris PSL
• Anne Baillot, enseignante-chercheuse en études germaniques et humanités numériques, Le Mans Université/DARIAH-ERIC
• Guillaume Blanc, enseignant-chercheur en physique, Université Paris Cité
• Antoine Chambert-Loir, enseignant-chercheur en mathématiques, Université Paris Cité
• Germain Clavier, enseignant-chercheur en physique, Université de Caen Normandie
• Charlotte Cochard, enseignante-chercheuse en sciences des matériaux, Université de Rennes
• Delphine Débarre, chercheure en biophysique, CNRS, Laboratoire interdisciplinaire de physique, Grenoble
• Alix Deleporte, enseignant-chercheur au Laboratoire de mathématiques d’Orsay
• Dimitri Fayolle, ingénieur de recherche en sciences du médicament, Université de Caen Normandie
• Florent Figon, enseignant-chercheur en biologie, Université Grenoble Alpes
• Marie-Alice Foujols, Ingénieure de recherche IPSL, CNRS, Sorbonne Université
• Karën Fort, enseignante-chercheuse en informatique, Université de Lorraine
• Isabelle Garcin-Marrou, enseignante-chercheuse en sciences de l’information et de la communication, Sciences Po Lyon
• Mathieu Génois, enseignant-chercheur en physique, Aix-Marseille Université
• Julie Giovacchini, ingénieure de recherche en sciences de l’Antiquité et humanités numériques, CNRS, Centre Jean Pépin
• Benoît Girard, chercheur en informatique et en neurosciences computationnelles, CNRS, Institut des Systèmes Intelligents et de Robotique
• Emmylou Haffner, chercheuse en histoire des sciences, CNRS, Centre d’archives en philosophie, histoire et édition des sciences
• Konrad Hinsen, chercheur en biophysique, CNRS, Centre de biophysique moléculaire Orléans
• Benoît R. Kloeckner, enseignant-chercheur en mathématiques, Université Paris-Est Créteil
• Tania Lévy, enseignante-chercheuse en histoire de l’art moderne, Université de Bretagne Occidentale
• Florence Maraninchi, enseignante-chercheuse en informatique, Université Grenoble Alpes
• Hervé Perdry, enseignant-chercheur au Centre de recherche en épidémiologie et santé des populations, Université Paris-Saclay
• Pascale Peyrol-Hallée, responsable administrative et financière, CNRS, Centre d’Etudes Biologiques de Chizé
• Franck Pommereau, enseignant-chercheur en informatique, Université Évry Paris-Saclay
• Catherine Rideau-Kikuchi, enseignante-chercheuse en histoire médiévale, Université Versailles Saint-Quentin
• Loïs Taulelle, assistant ingénieur en calcul scientifique, École normale supérieure de Lyon
• Simon Tournier, ingénieur de recherche en calcul scientifique appliqué au biomédical, Université Paris Cité
• Mathieu Triclot, enseignant-chercheur en philosophie, Université de Technologie de Belfort-Montbéliard