Usa la API
Te registras, generas una API key y apuntas tu cliente de OpenAI a CaribeLLM. El resto de tu código queda igual.
Una API compatible con OpenAI, sostenida por la comunidad. Cambias una línea en tu código y tu proyecto corre sobre la red.
$export OPENAI_BASE_URL=https://api.caribellm.com/v1
cómo funciona
CaribeLLM provee inferencia a los proyectos que forman parte de build4venezuela.com. Conectas tu cliente de OpenAI a nuestra URL y usas los modelos directamente, sin abrir cuenta con cada proveedor.
Modelos disponibles hoy
Compatibles 1:1 con la API de OpenAI.
Te registras, generas una API key y apuntas tu cliente de OpenAI a CaribeLLM. El resto de tu código queda igual.
Aporta capacidad libre desde el navegador con WebLLM. Sin instalar nada. Opcional, pero suma a la red.
hoja de ruta
Estamos en la primera fase. Esto es lo que funciona hoy y hacia dónde va.
Acceso a modelos vía gateway. Es lo que hay hoy.
Cómputo desde browser o laptop.
Inferencia entre nodos; cloud como respaldo.
preguntas