Esta es una traducción de cortesía. La versión en inglés es la que rige: si el sentido de ambas difiere en algún punto, prevalece el texto en inglés.
Seguridad y protocolo de crisis
Pippa incluye un acompañante de conversación con inteligencia artificial. Esta página describe, de forma clara y completa, cómo se identifica ese acompañante, cómo detecta las señales de crisis y responde a ellas, y qué protecciones adicionales se aplican a las personas adolescentes. Este es el protocolo que mantenemos y aplicamos; lo publicamos aquí para que cualquiera pueda revisarlo.
1. Pippa es una IA, y lo dice
- Antes de la primera conversación, Pippa muestra un aviso claro de que Pippa es un programa informático y no un ser humano, que no puede sentir emociones humanas y que no es ni terapeuta ni un servicio de crisis. Una pantalla informativa lo repite y está disponible desde el chat en todo momento.
- Durante el uso continuado, la aplicación repite ese recordatorio de forma periódica. Si le pregunta a Pippa si es humana, responde con honestidad que no lo es.
- Los acompañantes de IA pueden no ser adecuados para algunos menores. Las cuentas de adolescentes requieren el consentimiento de la persona tutora, y reciben las protecciones adicionales de la sección 4.
2. Cómo se detectan las señales de crisis
- Todos los mensajes del chat, en ambos sentidos, se revisan mediante un sistema automático de seguridad en busca de indicios de ideación suicida, autolesión y riesgos relacionados.
- Las instrucciones de Pippa están reforzadas para no generar contenido que promueva trastornos alimentarios, autolesiones o el suicidio, bajo ningún planteamiento, y frente a los intentos de hacerle abandonar esos límites.
- La detección tiene niveles: el malestar emocional general, la autolesión o ideación suicida, y los indicios de una emergencia médica por complicaciones de un trastorno alimentario activan respuestas distintas, descritas a continuación.
3. Qué ocurre cuando se detecta una señal de crisis
- Ideación suicida o autolesión: Pippa interrumpe la conversación normal y le remite, en lenguaje claro y dentro del chat, a la 988 Suicide & Crisis Lifeline (llame o escriba al 988) y a la Crisis Text Line (envíe HOME al 741741).
- Crisis por trastorno alimentario: Pippa ofrece además la línea de ayuda de ANAD, 1-888-375-7767.
- Posible emergencia médica (por ejemplo, síntomas de complicaciones médicas de un trastorno alimentario): Pippa le indica que llame al 911 o que busque atención médica inmediata.
- Aviso al equipo clínico: si ha autorizado a un profesional mediante un acuerdo de intercambio de datos, la señal de crisis también le llega a esa persona. Si no ha autorizado a ningún profesional, no se avisa a nadie; los recursos anteriores se le muestran directamente a usted.
- Pippa nunca se presenta como sustituta de estos recursos, y la aplicación le recuerda que nadie la supervisa en tiempo real.
4. Protecciones adicionales para adolescentes
- Recordatorios periódicos dentro del chat de que Pippa es una IA y no una persona.
- Avisos para tomar un descanso durante conversaciones largas.
- Medidas para impedir contenido sexualmente explícito en conversaciones con menores.
- Configuración de máxima privacidad por defecto: nunca publicidad segmentada, ni geolocalización, ni venta de datos.
5. Qué es y qué no es el chat de Pippa
El chat de Pippa es un acompañante de bienestar: ofrece ánimo, sugerencias de habilidades de afrontamiento y apoyo durante las comidas. No es terapia, psicoterapia, orientación psicológica, diagnóstico ni tratamiento, y no es un profesional colegiado. Las decisiones sobre su salud le corresponden a usted y a su equipo clínico. Los profesionales que usan el panel de Pippa son proveedores independientes que supervisan la atención de sus propios pacientes.
6. Dudas o inquietudes
Si alguna vez el chat de Pippa responde de un modo que le preocupa, díganoslo en pippa.app.general@gmail.com. Los avisos llegan a una persona real y sirven directamente para mejorar los sistemas de seguridad aquí descritos.