Un module conçu avec l’ADEME, l’Arcep, l’IGN, ECOLAB, la Direction générale des entreprises (ministère de l’Économie), le DReDIS de la Sorbonne, Inria, Sciences Po et Telecom Paris pour faire le point sur ce que nous savons aujourd’hui de l’impact environnemental de l’IA et proposer des bonnes pratiques aux utilisateurs et utilisatrices.

Usages, pratiques et cadres d’appropriation

Les échanges permettront d’aborder la diversité des usages de l’IA générative dans les environnements éducatifs, ainsi que les questions liées à son appropriation par les enseignants. Seront discutés les cadres de compréhension en cours d’élaboration, les formes d’expérimentation observées et les tensions associées à l’intégration de ces outils dans les pratiques pédagogiques.

L’accent sera mis sur les apports des travaux de recherche et des retours de terrain pour éclairer ces transformations.

Accompagnement et perspectives pour l’éducation

Le webinaire mettra également en discussion les enjeux d’accompagnement des professionnels de l’éducation face à l’IA générative. Il s’agira d’interroger les besoins en formation, les dispositifs d’appui existants et les perspectives de structuration des usages.

Pour inventer l’école qui correspond aux besoins d’aujourd’hui,un projet de recherche du Centre d’expertise et de recherche pour la transformation de l’éducation se propose de documenter des initiatives allant dans le sens d’un autre modèle. Les résultats préliminaires en sont présentés ici.

voir les infographies

Une étude soutient que les hallucinations dans les modèles de langage ne sont pas seulement des erreurs occasionnelles mais une caractéristique inévitable de ces systèmes. Les chercheurs démontrent dans l'étude que les hallucinations découlent de la structure mathématique et logique fondamentale des LLM. Il est donc impossible de les éliminer par des améliorations architecturales, des améliorations des ensembles de données ou des mécanismes de vérification des faits.

Leurs analyses s'appuient sur la théorie informatique et le premier théorème d'incomplétude de Gödel, qui fait référence à l'indécidabilité de problèmes tels que les problèmes de halte, de vide et d'acceptation. Les chercheurs affirment que chaque étape du processus LLM (de la compilation des données d'entraînement à la récupération des faits, à la classification des intentions et à la génération de textes) aura une probabilité non nulle de produire des hallucinations.

Dans l'étude, ils introduisent le concept d'"hallucinations structurelles" en tant que nature intrinsèque de ces systèmes. En d'autre terme, elles font partie intégrante de la structure mathématique et logique de tout modèle de langage à long terme. Toutes les hallucinations sont des hallucinations structurelles et ne peuvent jamais être éliminées des grands modèles de langage (LLM).

En examinant le processus de génération de sortie des LLM, quelle que soit la sophistication des modèles ou l'étendue des données d'apprentissage, chaque étape comporte une probabilité non nulle d'hallucination structurelle.

Scientific literature depends on the integrity of its references. Each reference implicitly asserts that a verifiable source exists and supports the claims being made. When references point to non-existent studies, readers, reviewers, and policy makers are unable to evaluate the evidence.
Fabricated references (references whose claimed titles correspond to no existing publication) can arise from paper mill activity, intentional misconduct, or uncritical use of artificial intelligence (AI) writing tools.1 Large language models (LLMs) generate plausible sounding but fictitious references, a well documented failure mode; previous studies estimate that 30–69% of LLM-generated references in biomedical contexts are fabricated.2,3 These references are often correctly formatted, attributed to real researchers, and bear plausible publication dates, making them difficult to detect by conventional peer review.4 To our knowledge, no systematic audit of reference integrity across the biomedical literature has been conducted until now.

Pour mieux comprendre l'envers de la souveraineté dans l'électronique

en quoi l’IA m’a aidé, et qu’est-ce que j’aurais peut-être manqué sans mon propre esprit critique ?
voir schéma de fin sur usage de l'IA

à réfléchir en amont d'une intervention à distance sur l'IA

Le projet « MatrioscIA » selon les auteurs Olivier Le Deuff et Rayya Roumanos vise à analyser l’usage des outils d’intelligence artificielle par des enquêteurs spécialistes de l’investigation en sources ouvertes (Osint) dans deux domaines : le journalisme d’investigation et le renseignement. Ce travail mobilise en complément du champ des sciences de l’information et de la communication, l’approche mécanologique simondonienne (relation entre l’humain et la machine), les travaux de Bernard Stiegler sur les modes d’adoption des innovations technologiques et ceux d’Olivier Le Deuff sur l’hyperdocumentation. Le rapport propose notamment une typologie des machines dites hyperdocumentaires (délirantes, délivrantes, dérivantes) et « un cadre de littératie Osint & IA conçu comme translittératie critique et écologie de la preuve, afin de guider des politiques d’adoption gouvernée de l’IA dans les enquêtes ». Il souligne les définitions concurrentes du ROSO, les promesses de l’IA dans ce type d’investigation et ses limites. Il est indiqué par ailleurs qu’une page réunit les productions principales du projet : bases de données, frameworks, graphes d’enquêtes, matrice de positionnement et ressources..

 Ce retour d'expérience vise à évaluer comment ces outils influencent l'apprentissage des étudiants, notamment en facilitant la structuration des idées, la préparation des présentations et le développement de compétences telles que l'esprit critique et la communication orale. Les résultats montrent une amélioration notable de la qualité des présentations et des échanges entre étudiants, accompagnée d'une réduction du temps de recherche d'informations. Toutefois, certaines dérives sont observées, telles qu'une utilisation passive de l'IAg menant à une dépendance excessive et à une baisse d'effort. Notre bilan et l'analyse des retours étudiants de cette expérience mettent en évidence un intérêt croissant pour cette approche, tout en soulignant la nécessité d'un encadrement pédagogique adapté afin d'optimiser les bénéfices tout en limitant les risques. Ce retour d'expérience permet d'émettre des recommandations pour une bonne intégration de l'IAg dans les formation des ingénieurs en exploitant son potentiel.