IA et enfants : OpenAI et Anthropic signent à Paris une charte pour protéger les plus jeunes
Une charte non contraignante sur la sécurité de l'IA générative pour les enfants a été rendue publique mardi au Forum de Paris sur la paix, avec le soutien d'OpenAI et d'Anthropic. Le même jour, un rapport d'experts remis à Emmanuel Macron alertait sur les risques d'affaiblissement cognitif et de dépendance émotionnelle.

Paris veut fixer des garde-fous à l'IA pour les enfants. Une charte sur la sécurité de l'intelligence artificielle générative pour les plus jeunes a été rendue publique mardi 10 novembre au Forum de Paris sur la paix. Parmi les entreprises qui la soutiennent figurent OpenAI, l'éditeur de ChatGPT, et Anthropic, celui de Claude, selon l'AFP. Le texte n'est pas contraignant.
Ses engagements sont clairs sur le papier. Les outils d'IA ne doivent pas produire de contenus sexuels non consentis ni pédocriminels. Les signataires promettent « un niveau élevé de sûreté, de protection de la vie privée et de sécurité dès la conception et par défaut », adapté aux différents âges de l'enfance. Les laboratoires s'engagent aussi à se soumettre à des évaluations indépendantes et à donner accès aux données de leurs modèles. Un programme de recherche doit enfin étudier les risques et les opportunités de l'IA pour les jeunes.
Un rapport qui sonne l'alarme
La charte accompagne un rapport remis le même jour à Emmanuel Macron par une commission de neuf experts, après 55 auditions de soignants, chercheurs, entreprises et associations de protection de l'enfance. Les chiffres posent le décor : plus de la moitié des Français utilisent l'IA générative, ce qui place la France au cinquième rang mondial, et près de 70 % des 15-24 ans s'en servent régulièrement.
Le coprésident de la commission, le psychiatre Raphaël Gaillard, pointe un risque d'affaiblissement cognitif : en déléguant la réflexion, la décision ou l'esprit critique à l'IA, les jeunes risquent de ne jamais acquérir ces compétences.
C'est attractif, on y délègue des compétences
— Raphaël Gaillard, coprésident de la commission
Le rapport s'inquiète aussi de la désinformation et d'une dépendance émotionnelle nourrie par des IA qui se présentent comme des interlocuteurs humains et flattent l'utilisateur au détriment de la vérité.
Macron veut interdire les usages à risque
Le chef de l'État avait donné le ton dans un entretien aux Échos. Il plaide pour une régulation européenne et affirme que les entreprises accepteraient le principe d'un pré-audit et d'une précertification des modèles avant qu'ils ne soient utilisés par des enfants.
S'il y a un risque pour les enfants avec certains usages de l'IA, alors il faut l'interdire
— Emmanuel Macron, dans Les Échos
Sur X, le président a salué une charte qui « marque une étape concrète ». Une cinquantaine de chefs d'État et de gouvernement, d'organisations internationales, d'entreprises et de chercheurs ont participé aux échanges sur les risques de l'IA, dont les patrons d'OpenAI, d'Anthropic et de Mistral, selon le Journal du Net.
Et maintenant
Tout dépendra des lois à venir. La charte doit nourrir les débats législatifs nationaux et européens, mais aucun calendrier ni mécanisme de sanction n'a été annoncé. La liste complète des signataires n'a pas non plus été détaillée.


