Bonsai Demo: inferencia local con un runtime específico
Seguridad de Bonsai: pesos, herramientas y servidores expuestos
Revisar origen y permisos de cada capa opcional.
Qué aprenderás
- Comprobar artefactos por separado
- Tratar el servidor como límite
- Decidir logs y retención
Antes de empezar
- Un equipo con memoria y disco medidos
- Permiso para revisar los modelos y binarios descargados
Registrar artefactos exactos y un fallo de corrección antes de proclamar disponibilidad.
Conclusiones clave
- Una licencia GitHub no cubre todo artefacto.
- Las herramientas amplían permisos efectivos.
- Inferencia local puede usar servicios de red.
Comprobar artefactos por separado
La licencia del repositorio cubre código del demo; pesos y binarios descargados son artefactos independientes. Consulta tarjeta del modelo y licencia del runtime, fija revisiones y hashes, y examina setup.sh.
Que GitHub indique Apache-2.0 no concede automáticamente todos los derechos para redistribuir pesos alojados fuera. Conserva atribución y procedencia junto al despliegue.
Tratar el servidor como límite
Un endpoint de texto en loopback se controla más fácilmente que uno abierto. El README documenta tool calls, MCP e intérprete opcional; activarlos amplía lo que puede causar una petición guiada por modelo.
Limita herramientas, pide confirmación para acciones destructivas y comienza con datos sintéticos. Un modelo local todavía puede comunicarse con la red mediante herramientas o interfaz.
Decidir logs y retención
Prompts, imágenes, respuestas y resultados de herramientas pueden contener datos privados. Define registro, conservación y acceso antes de incorporar UI o demo de agente.
Se revisaron límites documentados, no se certificó la seguridad. No corrimos pesos, binarios ni herramientas ni auditamos todas sus dependencias.
Cómo elegir
| Criterio | Opción A | Opción B |
|---|---|---|
| Best when | You need predictable behavior and easy auditing | You need adaptive optimization and have reliable telemetry |
| Main risk | May leave performance on the table | Can become difficult to explain or debug |
Pasos de implementación
- 1
Inventaría licencias de código, pesos y binario.
- 2
Inicia texto en loopback sin herramientas.
- 3
Aprueba cada capacidad nueva.
Ejemplo para copiar
revision:
codigo: licencia-y-commit
pesos: tarjeta-y-hash
binario: release-y-hash
host: 127.0.0.1
herramientas: desactivadas-hasta-revisionPreguntas frecuentes
¿Apache-2.0 del demo cubre los pesos?
Consulta tarjeta y condiciones de cada modelo antes de redistribuir.
¿localhost hace seguro al intérprete?
Reduce exposición de red, pero no elimina riesgo de ejecución local.
Fuentes
- Bonsai Demo / README.mdFuente verificada 2026-09-29
- Bonsai Demo / setup.shFuente verificada 2026-09-29
- Bonsai Demo / scripts/agent/run_agent_demo.shFuente verificada 2026-09-29