Hindsight: qué puede conservar un agente entre sesiones
Seguridad operativa de Hindsight: recuerdos sensibles y límites del banco
Verifica entrada, autorización y borrado antes de acumular datos personales.
Qué aprenderás
- Clasificar antes de retain
- Probar la separación al leer
- Preparar corrección y eliminación
Antes de empezar
- Uso básico del cliente Python
- Un caso de prueba sintético y un límite de despliegue
Guarda correcciones, recuperaciones erróneas y costes para repetir la prueba.
Conclusiones clave
- La memoria duradera aumenta obligaciones de retención.
- El bank_id requiere autorización de la aplicación.
- Un recuerdo no puede ampliar permisos de herramientas.
Clasificar antes de retain
Un servicio de memoria conserva información durante más tiempo. Antes de enviar un texto, determina si contiene datos personales, credenciales o contenido de clientes. El README describe Memory Defense como una política opcional por banco; verifica que esté activada donde la necesites.
La detección de patrones no reemplaza la minimización. Prueba con secretos ficticios, revisa la representación guardada y comprueba que registros y peticiones al modelo no preserven el valor original. Esta revisión no ejecutó tal prueba.
Probar la separación al leer
El proyecto describe aislamiento entre bancos y un endpoint MCP por banco. Una aplicación multiusuario debe asignar el banco según la identidad autenticada y probar lecturas y escrituras no autorizadas. Un bank_id enviado por el cliente no es por sí mismo una decisión de autorización.
Un recuerdo insertado en un prompt puede contener instrucciones hostiles. Trátalo como datos, conserva su origen y controla los permisos de herramientas fuera del banco. Una frase almacenada que pida privilegios no debe concederlos.
Preparar corrección y eliminación
Un usuario puede cambiar una preferencia o solicitar borrado. Documenta cómo localizar el registro original y las observaciones o modelos mentales afectados. Un botón de borrar no demuestra qué ocurre con copias, logs o datos enviados al proveedor del modelo.
La lista operativa incluye puertos restringidos, rotación de secretos, retención de copias y responsable de incidentes. Son controles por verificar; una inspección de código no certifica el producto para información regulada.
Cómo elegir
| Criterio | Opción A | Opción B |
|---|---|---|
| Best when | You need predictable behavior and easy auditing | You need adaptive optimization and have reliable telemetry |
| Main risk | May leave performance on the table | Can become difficult to explain or debug |
Pasos de implementación
- 1
Prueba defensas opcionales con datos sintéticos.
- 2
Verifica acceso exclusivo al banco previsto.
- 3
Comprueba corrección y borrado de registros derivados.
Ejemplo para copiar
memory_policy:
bank_owner: authenticated-user
sensitive_input: synthetic-test-only
defense: verify-opt-in
deletion: test-derived-records
network: restrictedPreguntas frecuentes
¿Memory Defense viene activado?
El README lo presenta como opcional y por banco; verifica su configuración.
¿Autoalojar mantiene todo en local?
Depende del modelo configurado: un proveedor alojado puede recibir contenido.
Fuentes
- Hindsight / README.mdFuente verificada 2026-09-26
- Hindsight / hindsight-api-slim/hindsight_api/engine/memory_engine.pyFuente verificada 2026-09-26