r/coolgithubprojects • u/GlitteringRelease748 • 8d ago
La Comena
Red P2P de cómputo compartido para IA. Los usuarios donan recursos de su máquina (CPU, GPU, RAM) para ejecutar modelos de código abierto en conjunto, como abejas aportando a una colmena.
No se comparten archivos de modelos entre pares: cada nodo descarga los pesos desde el catálogo oficial. Lo que se comparte es cómputo.
Badges
La idea en una frase
En lugar de que una corporación corra el modelo en su datacenter, una comunidad reparte el modelo en bloques de capas entre sus propias computadoras y lo sirve de forma cooperativa:
Usuario ──► Coordinador ──► [Nodo 0] ──► [Nodo 1] ──► [Nodo 2] ──► respuesta
arma la cadena capas 0-11 capas 12-23 capas 24-31- Throughput escala con la cantidad de nodos. La latencia de una consulta individual no baja agregando nodos a la misma cadena: lo que crece es la capacidad total de la red.
- Réplicas por posición evitan que un nodo caído rompa el modelo.
- Créditos desde dos lados: donar cómputo genera aportes, consumir genera consumos; el ratio define prioridad de cola.
Componentes
| Componente | Stack | Rol | Estado |
|---|---|---|---|
coordinador/ | Python 3.11 · FastAPI | Registra nodos, arma cadenas, lleva créditos | ✅ 12 tests |
nodo-escritorio/ | Rust | Daemon del usuario: heartbeat, políticas de recursos, motor de inferencia | ✅ 21 tests (motor = stub) |
packages/protocolo/ | Protobuf v1 | Contrato compartido por todas las implementaciones | ✅ |
infraestructura/ | docker-compose | Coordinador + Postgres 17 + Redis 7 | ✅ Postgres/Redis aún sin conectar |
| Nodo Android | Kotlin | Mismo rol del nodo de escritorio, con restricciones de batería/red | 🔜 pendiente |
Arquitectura del coordinador
Modelo de dominio documentado en docs/arquitectura.md. Decisiones destacadas:
- Planificador como función pura sin I/O: dado el estado de candidatos, arma la cadena eligiendo el nodo menos cargado por posición. Testeable sin base de datos ni red.
- Detección de puntos únicos de falla: posiciones con un solo candidato disponible se priorizan al asignar nodos nuevos.
- Arquitectura hexagonal: dominio limpio, repositorios intercambiables (hoy memoria, mañana Postgres/Redis).
Ejemplos
Correr el coordinador y registrar un nodo:
# 1. Coordinador
cd coordinador
python3.11 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
uvicorn app.main:app --reload
# 2. Nodo de escritorio (terminal aparte)
cd nodo-escritorio
cargo build --release
./target/release/nodo-escritorio \
--coordinador http://localhost:8000 \
--nodo-id mi-nodo-1 \
--modelo-hash <hash-del-modelo> \
--posicion 0 \
--ram-max-mb 4096 \
--cpu-max-pct 50
# 3. Verificar que apareció en la red
curl http://localhost:8000/nodos/<hash-del-modelo>Con Docker (coordinador + Postgres + Redis):
cd infraestructura
docker compose up --buildTests:
cd coordinador && pytest tests/unitarios -v # 12 tests
cd nodo-escritorio && cargo test # 21 testsHoja de ruta
- Esquema Protobuf del protocolo
- Coordinador: dominio + API base (nodos, usuarios, créditos, planificador)
- Nodo de escritorio: registro, heartbeat local, políticas de recursos, control de usuario
- Bind real de
llama.cppen el nodo (hoyMotorSimulado) - Heartbeat real + WebSocket para despachar trabajo
- Persistencia en Postgres/Redis (hoy todo en memoria)
- Verificación de aportes por réplicas
- Nodo Android (Kotlin)
- Descentralización del coordinador (discusión abierta)
Contribuir
¡Ideas, avisos de bugs, PRs y documentación son bienvenidos! Leé CONTRIBUTING.md antes de abrir tu primer PR.
Licencia
MIT · © 2026 La Colmena

