Le numérique, les grandes bases de données et l’intelligence artificielle occupent une place croissante dans le débat sur l’avenir de la pédopsychiatrie, qu’il convient d’aborder avec le même souci de nuance que celui qui a présidé, dans ce texte, à l’examen de la psychiatrie dite de précision. Ces outils offrent des perspectives réelles : suivi longitudinal facilité des symptômes rapportés par l’enfant ou ses parents, aide au repérage précoce dans les structures de premier recours, outils d’aide à la décision pour les professionnels de santé scolaire, applications d’auto-support validées pour certains troubles anxieux légers. Ce livre blanc en reconnaît l’intérêt et entend, dans le même mouvement, en examiner successivement les trois usages qui suscitent aujourd’hui le plus d’attentes et le plus d’inquiétudes — le dépistage algorithmique du risque suicidaire, les agents conversationnels (« chatbots ») à visée thérapeutique, et plus largement l’intelligence artificielle générative appliquée au soin psychique — avant d’en tirer des limites communes.
Le dépistage du risque suicidaire par les données et les algorithmes. Plusieurs systèmes de santé ont développé des outils de repérage prédictif du risque suicidaire fondés sur l’analyse de grandes masses de données administratives, médicales ou issues des réseaux sociaux — sur le modèle de programmes tels que REACH VET, déployé par le système de santé des vétérans aux États-Unis, ou des dispositifs de détection automatisée expérimentés par certaines plateformes numériques à partir des contenus publiés par leurs utilisateurs. Ces outils présentent un intérêt réel : ils peuvent, en théorie, signaler à des professionnels des situations à risque qui seraient autrement passées inaperçues, dans un contexte où la prévention du suicide chez l’enfant et l’adolescent demeure un impératif de santé publique majeur. Mais leurs limites sont tout aussi réelles et documentées : ces algorithmes produisent un nombre significatif de faux positifs (des enfants signalés à tort comme à risque, avec le poids psychologique et administratif que cela peut représenter pour eux et leur famille) et de faux négatifs, dont les conséquences sont plus graves encore ; ils reposent sur des données d’entraînement dont la représentativité socioculturelle est rarement garantie, ce qui expose à des biais algorithmiques systématiques défavorisant certains groupes d’enfants et d’adolescents ; ils fonctionnent le plus souvent comme des « boîtes noires » dont la logique interne échappe même aux cliniciens censés s’appuyer sur leurs résultats, ce qui pose une difficulté éthique et clinique majeure lorsqu’il s’agit de décisions engageant la vie d’un enfant ; et ils soulèvent des questions non résolues de consentement, de confidentialité et de propriété des données psychiques les plus intimes d’un mineur. Ce livre blanc demande que tout déploiement de ces outils en France soit soumis à une évaluation indépendante de leur validité prédictive réelle en population pédiatrique, à une gouvernance transparente associant la Commission nationale de l’informatique et des libertés (CNIL), et à la garantie que le signalement algorithmique ne se substitue jamais à l’évaluation clinique humaine mais serve seulement à l’alerter.
Les thérapies par agent conversationnel (chatbots), en particulier chez l’adolescent. Des applications de soutien psychologique fondées sur des agents conversationnels — qu’il s’agisse de programmes structurés à visée thérapeutique ou d’agents conversationnels génératifs plus généraux détournés de leur usage initial à des fins de confidence ou de compagnie — connaissent un développement rapide, en particulier auprès des adolescents, pour qui la médiation par l’écrit et la disponibilité permanente de ces outils lèvent certains freins à la demande d’aide (gratuité ou faible coût, absence de stigmatisation perçue, accessibilité nocturne à un moment où aucun professionnel n’est joignable). Ce livre blanc reconnaît cet intérêt réel, en particulier comme premier recours transitoire dans les zones et les créneaux horaires où l’offre humaine de proximité fait défaut. Mais il souligne des dangers désormais documentés par plusieurs signalements cliniques et procédures judiciaires à l’étranger : des cas d’adolescents en détresse ayant développé avec ces agents une relation d’attachement exclusive qui s’est substituée aux relations humaines plutôt que de les compléter ; des réponses inadaptées, voire dangereuses, apportées par certains agents conversationnels à des disclosures d’idées suicidaires ou d’intention de passage à l’acte, faute d’une architecture de sécurité clinique réellement validée ; une logique commerciale sous-jacente, chez plusieurs éditeurs, d’optimisation du temps d’engagement de l’utilisateur, structurellement en tension avec l’objectif clinique de favoriser l’autonomisation et le retour vers le lien humain ; et l’absence, dans l’écrasante majorité des cas, d’une évaluation clinique indépendante de leur sécurité et de leur efficacité comparable aux exigences imposées à toute autre intervention en santé mentale de l’enfant évoquées dans ce texte. Ce livre blanc demande que ces outils, lorsqu’ils sont utilisés par des mineurs, soient soumis à une certification sanitaire spécifique, à une supervision clinique humaine obligatoire pour toute situation de crise détectée, et à une information claire des familles sur la nature non humaine de l’interlocuteur.
Les limites générales de l’intelligence artificielle en santé mentale de l’enfant. Au-delà de ces deux usages spécifiques, ce livre blanc entend rappeler que l’intelligence artificielle appliquée au soin psychique de l’enfant et de l’adolescent se heurte aux mêmes limites structurelles que celles déjà décrites à propos du « tout cérébral » et de la psychiatrie dite de précision (cf. § 2.11) : un système d’intelligence artificielle, aussi sophistiqué soit-il, opère par corrélation statistique sur des données déjà catégorisées, et ne saurait, par construction, accéder au sens subjectif que l’enfant ou l’adolescent donne à sa propre souffrance, à son histoire singulière, ni à la dimension intersubjective et incarnée de la relation thérapeutique dont ce texte a montré, avec les données de la recherche sur l’alliance thérapeutique (cf. § 2.14), qu’elle explique une part déterminante de l’efficacité du soin. Le règlement européen sur l’intelligence artificielle, qui classe à juste titre les systèmes d’IA utilisés en santé mentale parmi les systèmes à haut risque soumis à une supervision humaine renforcée, offre à cet égard un cadre dont ce livre blanc demande la pleine application en pédopsychiatrie. L’intelligence artificielle peut utilement outiller le clinicien — pour le suivi longitudinal, l’aide à la décision ou la recherche — mais elle ne saurait, sans raccourci grave, se substituer à son jugement ni à la relation qu’il construit avec l’enfant et sa famille. Ce livre blanc invite à ce que le développement de l’ensemble de ces outils numériques en santé mentale de l’enfant soit systématiquement évalué selon les mêmes exigences de pluralisme méthodologique défendues dans la deuxième partie, et qu’il s’inscrive en complément, non en substitut, de l’offre de soins humaine de proximité.