14897 shaares
495 résultats
taggé
intelligence_artificielle
on parle de développer une culture.
Celle-ci regroupe un certain nombre de connaissances (par exemple savoir identifier les systèmes qui reposent sur les IA ; connaître les motivations et les modèles des acteurs,..) ;
des aptitudes (comme par exemple comparer des moteurs de recherche ; savoir distinguer différents médias et la provenance des informations ; être capable de reconnaître des idées reçues des préjugés, des imaginaires ; être capable d’élaborer des contre-discours à la désinformation et de les communiquer..) ;
enfin des valeurs (comme la défense de la liberté d’expression et d’opinion, de la propriété intellectuelle, la promotion de l’égalité des genres, l’engagement en faveur du respect de la vie privée..). Ce rapport donne des pistes intéressantes et montre comment l’EMI peut-être un espace de formation. Il me semble qu’il ne faut pas se limiter à des références techniques ou à des usages d’outils.
la mise en données du monde. Ce nouveau paradigme traverse tous les domaines de la société. Il repose sur une croyance selon laquelle la donnée constitue un élément de preuve objective. La quantification serait le meilleur moyen d’analyser, de maîtriser les phénomènes sociaux. Mais les savoirs reposent sur les hypothèses de ceux qui savent manipuler les données. On est à l’opposé de l’élaboration d’une pensée critique, comme on souhaite le faire en éducation. L’IA générative génère un grand nombre de données et leur traitement algorithmique porterait l’idée que le savoir serait fondé par la statistique. Ceci mérite d’être interrogé.
Celle-ci regroupe un certain nombre de connaissances (par exemple savoir identifier les systèmes qui reposent sur les IA ; connaître les motivations et les modèles des acteurs,..) ;
des aptitudes (comme par exemple comparer des moteurs de recherche ; savoir distinguer différents médias et la provenance des informations ; être capable de reconnaître des idées reçues des préjugés, des imaginaires ; être capable d’élaborer des contre-discours à la désinformation et de les communiquer..) ;
enfin des valeurs (comme la défense de la liberté d’expression et d’opinion, de la propriété intellectuelle, la promotion de l’égalité des genres, l’engagement en faveur du respect de la vie privée..). Ce rapport donne des pistes intéressantes et montre comment l’EMI peut-être un espace de formation. Il me semble qu’il ne faut pas se limiter à des références techniques ou à des usages d’outils.
la mise en données du monde. Ce nouveau paradigme traverse tous les domaines de la société. Il repose sur une croyance selon laquelle la donnée constitue un élément de preuve objective. La quantification serait le meilleur moyen d’analyser, de maîtriser les phénomènes sociaux. Mais les savoirs reposent sur les hypothèses de ceux qui savent manipuler les données. On est à l’opposé de l’élaboration d’une pensée critique, comme on souhaite le faire en éducation. L’IA générative génère un grand nombre de données et leur traitement algorithmique porterait l’idée que le savoir serait fondé par la statistique. Ceci mérite d’être interrogé.
Car si l’IA est perçue comme une possible entreprise de démolition de l’Ecole, en particulier des modalités traditionnelles d’évaluation, alors il nous faut envisager une reconstruction. Le chantier est ouvert pour les années à venir : en guise de vadémécum de rentrée, voici quelques pistes d’actions collectives pour éviter que l’IA ne favorise la paresse cognitive des élèves, pour qu’à l’âge de l’IA l’Ecole augmente toujours leur capacité à découvrir, écrire, réfléchir, créer, partager.
Qu’est-ce qu’un usage « judicieux » de l’IAg ?
Dans ce guide, un usage renvoie à l’utilisation d’un outil d’IAg en soutien à la réalisation de tâches pédagogiques.
Un usage de l’IAg est jugé judicieux lorsqu’il est perçu par la personne utilisatrice comme un levier et non comme un substitut à l’expertise humaine. Cela signifie qu’elle reste consciente de la manière dont l’outil d’IAg est utilisé : elle est capable de déterminer les tâches réalisées par l’outil et celles accomplies par un être humain. Cette conscience lui permet de garder le contrôle sur la production et de choisir de déléguer certaines tâches à l’outil. Le produit généré par l’IAg fait systématiquement l’objet d’une validation, cela demeure central pour assurer la pertinence et la qualité des contenus générés. On parle ici d’agentivité humaine.
Dans ce guide, un usage renvoie à l’utilisation d’un outil d’IAg en soutien à la réalisation de tâches pédagogiques.
Un usage de l’IAg est jugé judicieux lorsqu’il est perçu par la personne utilisatrice comme un levier et non comme un substitut à l’expertise humaine. Cela signifie qu’elle reste consciente de la manière dont l’outil d’IAg est utilisé : elle est capable de déterminer les tâches réalisées par l’outil et celles accomplies par un être humain. Cette conscience lui permet de garder le contrôle sur la production et de choisir de déléguer certaines tâches à l’outil. Le produit généré par l’IAg fait systématiquement l’objet d’une validation, cela demeure central pour assurer la pertinence et la qualité des contenus générés. On parle ici d’agentivité humaine.
Comme pour d’autres technologies complexes telles que les smartphones, Internet ou même [l’écriture], il faudra du temps aux chercheurs pour comprendre pleinement l’étendue réelle des effets de l’IA sur la cognition et l’apprentissage. Au final, le tableau sera probablement nuancé et dépendra fortement du contexte et des cas d’utilisation.
La question n’est donc pas tant de savoir ce que ces technologies nous font mais ce qu’elles font au monde et, surtout, ce que nous ferons et serons encore capables de faire dans le monde qu’elles façonnent.
Ce guide propose une méthode concrète pour intégrer, utiliser et faire utiliser l’IA générative de texte en classe ou à domicile, en respectant strictement la règlementation relative à la protection de la vie privée et des données personnelles (RGPD). La solution présentée repose sur un logiciel libre et open-source, OpenWebUI, qui permet à chaque utilisateur, élève ou enseignant, de disposer d’un compte personnel sécurisé, accessible partout et à tout moment.
Plein de ressources et de questions
Cet article fournit l'explication mathématique la plus rigoureuse à ce jour pour expliquer pourquoi ces modèles affirment avec certitude des informations erronées. Il démontre que ces erreurs ne sont pas seulement un effet secondaire malheureux de la manière dont les IA sont actuellement entraînées, mais qu'elles sont mathématiquement inévitables.
Ce problème peut s'expliquer en partie par des erreurs dans les données sous-jacentes utilisées pour entraîner les IA. Mais en utilisant une analyse mathématique de la manière dont les systèmes d'IA apprennent, les chercheurs prouvent que même avec des données d'entraînement parfaites, le problème persiste.
La manière dont les modèles linguistiques répondent aux requêtes, en prédisant un mot à la fois dans une phrase, sur la base de probabilités, produit naturellement des erreurs. Les chercheurs montrent en effet que le taux d'erreur total pour la génération de phrases est au moins deux fois plus élevé que le taux d'erreur que la même IA aurait sur une simple question oui/non, car les erreurs peuvent s'accumuler sur plusieurs prédictions.
En d'autres termes, les taux d'hallucination sont fondamentalement limités par la capacité des systèmes d'IA à distinguer les réponses valides des réponses invalides. Comme ce problème de classification est intrinsèquement difficile dans de nombreux domaines de connaissance, les hallucinations deviennent inévitables.
Ce problème peut s'expliquer en partie par des erreurs dans les données sous-jacentes utilisées pour entraîner les IA. Mais en utilisant une analyse mathématique de la manière dont les systèmes d'IA apprennent, les chercheurs prouvent que même avec des données d'entraînement parfaites, le problème persiste.
La manière dont les modèles linguistiques répondent aux requêtes, en prédisant un mot à la fois dans une phrase, sur la base de probabilités, produit naturellement des erreurs. Les chercheurs montrent en effet que le taux d'erreur total pour la génération de phrases est au moins deux fois plus élevé que le taux d'erreur que la même IA aurait sur une simple question oui/non, car les erreurs peuvent s'accumuler sur plusieurs prédictions.
En d'autres termes, les taux d'hallucination sont fondamentalement limités par la capacité des systèmes d'IA à distinguer les réponses valides des réponses invalides. Comme ce problème de classification est intrinsèquement difficile dans de nombreux domaines de connaissance, les hallucinations deviennent inévitables.
voir dia 112 et 151 pour la formation des étudiants
voir aussi dia 184
voir aussi dia 184
Dès lors, comment intégrer l’IA aux formations ? Que faut-il adapter ?
exemples de travail sur esprit critique d'une production d'IAG
Propositions de pistes de chantiers
Cet outil propose une démarche transparente pour encadrer les IAg dans les activités pédagogiques.
Voir aussi les autres ressources de cette université.
Voir aussi les autres ressources de cette université.
Voir le rapport sur l'ESR
« Nous habitons un écosystème d’information qui consiste à établir des relations de confiance entre des publications et leurs lecteurs. Quand les textes synthétiques se déversent dans cet écosystème, c’est une forme de pollution qui endommage les relations comme la confiance »
le fait que la 1ère IA de l’Alt-Right affirme aujourd’hui qu’il y a un génocide en cours à Gaza n’est, en soi, ni une bonne ni une mauvaise nouvelle ; c’est par contre une nouvelle et évidente confirmation de l’immense dérèglement de nos capacités de faire langage et donc société au prisme de ces outils.