Encadrer l'usage de l'intelligence artificielle à l'école et à garantir la transparence, l'équité et la souveraineté dans le système éducatif

Résumé

Face à l'essor de l'intelligence artificielle (IA) dans l'éducation, cette proposition de loi vise à encadrer son usage pour protéger les élèves. Elle s'appuie sur le règlement européen « AI Act » pour garantir la transparence des algorithmes, la sécurité des données (hébergées en Europe) et le maintien d'une supervision humaine systématique. L'objectif est de prévenir les dérives (fraude, surveillance intrusive, biais) tout en formant élèves et enseignants à ces nouveaux outils.

Liste des modifications

Définition et principes de l'IA à l'école (Article 1): définit légalement l'IA en milieu scolaire et interdit qu'une décision importante pour un élève (évaluation, orientation) soit prise uniquement par une machine sans intervention humaine réelle.

Renforcement de la formation des élèves (Article 2): ajoute au programme scolaire l'apprentissage de l'esprit critique face aux contenus générés par l'IA, la détection du plagiat et la sensibilisation aux enjeux éthiques et environnementaux.

Formation obligatoire des enseignants (Article 3): instaure un module de formation obligatoire pour les professeurs et personnels d'éducation sur l'usage pédagogique de l'IA, la protection des données et la lutte contre la fraude.

Transparence des fichiers et outils (Article 4): oblige les établissements à détailler précisément dans leurs registres l'utilisation d'outils d'IA, en précisant notamment le fournisseur, le but recherché et comment les humains contrôlent la machine.

Encadrement des expérimentations (Article 5): impose que tout projet de recherche ou test utilisant l'IA à l'école soit transparent, documenté et vérifié pour éviter toute forme de discrimination algorithmique.

Application territoriale et exécution (Article 6): prévoit l'application de ces règles dans les collectivités d'outre-mer et renvoie à un décret pour les détails techniques d'application.