Garantir le développement de systèmes d'intelligence artificielle éthique et sécurisé

Résumé

Face à l'essor rapide de l'intelligence artificielle (IA) et aux risques associés (deepfakes, biais discriminatoires, manipulations psychologiques), cette proposition de loi vise à instaurer un cadre éthique et sécurisé en France. Complétant le règlement européen (IA Act), elle définit des principes de responsabilité, de protection des mineurs et de transparence pour garantir que l'IA reste au service de l'humain et du bien commun sans freiner l'innovation.

Liste des modifications

Définitions légales (Article 1): Reprise des définitions européennes pour les termes 'système d'IA', 'fournisseur' et 'déployeur'.

Respect des droits fondamentaux et sécurité (Article 2): Obligation pour l'IA de respecter la dignité humaine et l'État de droit, avec suspension automatique des instructions dangereuses.

Prévention des infractions (Article 3): Interdiction de concevoir des IA facilitant la commission de crimes ou délits.

Interdiction de la simulation affective (Article 4): Interdiction des IA conçues pour simuler des relations amoureuses ou créer une dépendance psychologique.

Protection des mineurs (Article 5): Obligation de respecter l'intérêt supérieur de l'enfant durant tout le cycle de vie de l'IA.

Lutte contre les discriminations (Article 6): Obligation de prévenir et corriger les biais algorithmiques discriminatoires.

Transparence et explicabilité (Article 7, 8 et 9): Obligation d'expliquer les décisions de l'IA, de s'abstenir de répondre en cas de données insuffisantes et d'informer l'utilisateur que les résultats peuvent être erronés.

Absence de force contraignante (Article 10): Interdiction de considérer une sortie d'IA comme un ordre ou une injonction légale.

Capacité juridique et droit du travail (Article 11): Interdiction pour une IA de contracter seule (nullité des actes) et interdiction pour un employeur de déléguer ses responsabilités ou des décisions RH importantes à une IA seule.

Information de l'utilisateur (Article 12): Obligation d'informer clairement l'humain qu'il interagit avec une machine.

Droit à l'oubli algorithmique (Article 13): Droit pour l'utilisateur d'obtenir la suppression de ses données et leur retrait des futurs entraînements.

Marquage des contenus (Article 14): Obligation d'apposer un marquage numérique sur tout contenu (image, son, texte) généré par IA.

Autorisation de mise sur le marché (Article 15): Soumission des IA à haut risque et des modèles généraux à une autorisation préalable de l'autorité nationale.

Création de l'ANIA (Article 16, 17, 18, 19, 20, 21 et 22): Création de l'Autorité Nationale de l'Intelligence Artificielle, instance indépendante dotée de pouvoirs de contrôle, d'enquête et de sanction (jusqu'à 7% du chiffre d'affaires).

Retour d'expérience et signalement (Article 23 et 24): Obligation de signaler les incidents graves à l'autorité sous 48h et mise en place d'un système de partage d'informations pour améliorer la sécurité collective.