Ceci est une traduction de courtoisie. La version anglaise fait foi : en cas de divergence de sens, le texte anglais prévaut.
Sécurité et protocole de crise
Pippa comprend un compagnon de conversation fondé sur l’intelligence artificielle. Cette page décrit, clairement et intégralement, comment ce compagnon se présente, comment il détecte les signaux de crise et y répond, ainsi que les protections supplémentaires prévues pour les adolescents. Il s’agit du protocole que nous maintenons et appliquons ; nous le publions ici afin que chacun puisse l’examiner.
1. Pippa est une IA, et le dit
- Avant votre première conversation, Pippa affiche un avis clair indiquant que Pippa est un programme informatique et non un être humain, qu’elle ne peut éprouver aucune émotion humaine et qu’elle n’est ni thérapeute ni service d’urgence. Un écran d’information le rappelle et reste accessible depuis la conversation à tout moment.
- Au fil de l’utilisation, l’application répète périodiquement ce rappel. Si vous demandez à Pippa si elle est humaine, elle répond honnêtement que non.
- Les compagnons IA peuvent ne pas convenir à certains mineurs. Les comptes d’adolescents exigent le consentement d’un tuteur, et bénéficient des protections supplémentaires de la section 4.
2. Comment les signaux de crise sont détectés
- Chaque message de la conversation, dans les deux sens, est analysé par un système automatisé de sécurité à la recherche de signes d’idées suicidaires, d’automutilation et de risques associés.
- Les instructions de Pippa sont renforcées afin qu’elle ne produise aucun contenu encourageant les troubles des conduites alimentaires, l’automutilation ou le suicide, sous quelque forme que ce soit, et pour résister aux tentatives de la faire renoncer à ces limites.
- La détection est graduée : la détresse émotionnelle générale, l’automutilation ou les idées suicidaires, et les signes d’urgence médicale liée aux complications d’un trouble alimentaire déclenchent chacun une réponse différente, décrite ci-dessous.
3. Ce qui se passe lorsqu’un signal de crise est détecté
- Idées suicidaires ou automutilation : Pippa interrompt la conversation ordinaire et vous oriente, en termes simples et à l’intérieur de la conversation, vers la 988 Suicide & Crisis Lifeline (appelez ou écrivez au 988) et la Crisis Text Line (envoyez HOME au 741741).
- Crise liée à un trouble alimentaire : Pippa propose également la ligne d’écoute de l’ANAD, 1-888-375-7767.
- Urgence médicale possible (par exemple des symptômes de complications médicales d’un trouble alimentaire) : Pippa vous invite à appeler le 911 ou à consulter immédiatement.
- Alerte de l’équipe soignante : si vous avez autorisé un clinicien par un accord de partage de données, le signalement de crise lui est également transmis. Si vous n’avez autorisé aucun clinicien, personne n’est alerté ; les ressources ci-dessus vous sont présentées directement.
- Pippa ne se présente jamais comme un substitut à ces ressources, et l’application vous rappelle que personne ne la surveille en temps réel.
4. Protections supplémentaires pour les adolescents
- Rappels réguliers, dans la conversation, que Pippa est une IA et non une personne.
- Invitations à faire une pause lors des conversations prolongées.
- Mesures empêchant tout contenu sexuellement explicite dans les échanges avec des mineurs.
- Réglages de confidentialité maximale par défaut : jamais de publicité ciblée, de géolocalisation ni de vente de données.
5. Ce que la conversation Pippa est, et n’est pas
La conversation Pippa est un compagnon de bien-être : elle offre des encouragements, des suggestions de stratégies d’adaptation et un soutien au moment des repas. Il ne s’agit ni d’une thérapie, ni d’une psychothérapie, ni d’un accompagnement psychologique, ni d’un diagnostic, ni d’un traitement, et ce n’est pas un professionnel agréé. Les décisions concernant votre santé vous appartiennent, à vous et à votre équipe soignante. Les cliniciens qui utilisent le tableau de bord Pippa sont des professionnels indépendants qui supervisent les soins de leurs propres patients.
6. Questions ou préoccupations
Si la conversation Pippa répond un jour d’une manière qui vous inquiète, dites-le-nous à pippa.app.general@gmail.com. Les signalements sont lus par une personne réelle et servent directement à améliorer les systèmes de sécurité décrits ici.