Piluso

Piluso — Devpost Submission Inspiration

Nerdearla ya ofrece transcripción simultánea, pero hoy depende de herramientas comerciales caras y de operación manual. Con más de 30 charlas en inglés este año, ese esquema no escala ni es replicable para otras conferencias open source. Quisimos construir la mejor alternativa abierta posible, sin reemplazar intérpretes humanos sino dando accesibilidad a eventos que hoy no pueden pagarla.

What it does

Transcribe y traduce charlas en vivo (inglés→español) en tiempo real, soporta múltiples salas simultáneas, y ofrece una vista de audiencia para elegir sesión e idioma. Como diferencial, cada charla genera un "Gemininotebook" post-evento: resumen automático, quiz de autoevaluación y chat para preguntar sobre lo dicho en esa sesión.

How we built it

Backend en Python con Gemini Live API como motor principal, desplegado en Render (Docker Web Service, free tier) con un render.yaml (Blueprint) y botón "Deploy to Render" para que cualquier conferencia lo replique en un clic. Migramos desde el plan original de Hugging Face Spaces cuando, a mitad de 2026, HF puso el SDK Docker detrás de una suscripción PRO sin aviso previo — priorizamos sostener el costo cero por sobre quedarnos en la plataforma original. Para escalar a 10+ salas sin costo, armamos una arquitectura híbrida: Gemini para salas prioritarias y Chrome Web Speech API + Translator API para el resto. Evaluamos Cloudflare Durable Objects como capa de fan-out para distribuir a la audiencia.

Challenges we ran into

El cuello de botella real no fue el backend ni el hosting, sino la cuota de sesiones concurrentes del free tier de Gemini (~2 estables, límite oficial no publicado). Tuvimos que rediseñar factory.py para crear motores por sala en vez de uno global, y optimizar ws.py para serializar una sola vez por evento de broadcast. Sobre el final, también tuvimos que migrar de despliegue de urgencia cuando Hugging Face Spaces cambió las reglas del free tier a mitad de camino — una lección extra sobre no depender de una sola plataforma para el pitch de "costo cero".

Accomplishments that we're proud of

Lograr una solución de costo cero y de un clic para desplegar, que escala a 10 salas combinando dos motores distintos sin duplicar código ni sumar gastos — y sumarle valor más allá del subtitulado en vivo con el Gemininotebook.

What we learned

Que el verdadero límite de escalabilidad estaba en la cuota del proveedor de IA, no en nuestra infraestructura — y que repartir keys entre proyectos de Google para esquivarlo viola sus ToS y arriesga la cuenta en pleno evento. También aprendimos que "costo cero" en 2026 hay que validarlo hasta último momento: una plataforma puede cambiar sus reglas de free tier sin aviso, así que conviene tener el despliegue desacoplado de un solo proveedor. Además validamos que motores STT abiertos (Parakeet TDT, Nemotron, Voxtral) son alternativas viables a futuro.

What's next for Piluso

Sumar un motor STT open source como plugin (Parakeet para CPU, Nemotron/Voxtral con GPU) para reducir la dependencia de Gemini, integración real con OBS/vMix, soporte de más idiomas de entrada/salida, y un panel de monitoreo de latencia y errores por sala.