Inleiding
Talorys belooft een persoonlijke AI-assistent die je zelf kunt hosten, zonder kosten voor infrastructuur. Door gebruik te maken van Cloudflare Workers en KV, blijft de oplossing lichtgewicht en schaalbaar, zelfs op de gratis tier. In dit artikel duiken we dieper in de architectuur, de installatie en de grenzen van deze benadering.
Architectuur en componenten
Talorys bestaat uit drie kernonderdelen: een front‑end interface, een backend die draait op Cloudflare Workers, en een persistentielaag in Cloudflare KV. De front‑end is een eenvoudige HTML‑pagina die via JavaScript API‑calls maakt naar de worker. De worker verwerkt de prompt, roept een extern LLM‑model (bijv. OpenAI) aan en slaat contextuele data op in KV. Deze scheiding zorgt voor een stateless compute‑laag, ideaal voor de serverless omgeving van Cloudflare.
Installatie op de gratis tier
- Repository klonen – Clone de GitHub‑repo en controleer de
wrangler.tomlconfiguratie. 2. API‑sleutels configureren – Voeg je OpenAI‑ of andere LLM‑sleutel toe als secret viawrangler secret put. 3. Deployen – Metwrangler publishwordt de worker automatisch op de gratis tier geplaatst. De KV‑database wordt aangemaakt bij de eerste write‑operatie, zonder extra kosten.
Prestaties en beperkingen
Hoewel de gratis tier een limiet van 100.000 verzoeken per dag biedt, is de latency laag dankzij Cloudflare’s wereldwijde edge‑netwerk. Echter, de KV‑opslag is beperkt tot 1 GB, waardoor langdurige contextopslag of grote model‑caches problematisch kunnen worden. Daarnaast is de maximale request‑payload 1 MB, wat invloed heeft op de grootte van afbeeldingen of lange tekstinvoeren.
Praktijkvoorbeeld: een persoonlijke notitie‑assistent
Stel, je wilt Talorys inzetten als notitie‑assistent. De gebruiker typt een vraag, de worker stuurt deze naar het LLM, ontvangt een antwoord en slaat de conversatie op in KV onder een unieke sessie‑ID. Bij een volgend bezoek haalt de worker de sessie‑geschiedenis op, waardoor de AI contextueel kan reageren. Dit patroon toont hoe Talorys zowel stateless als stateful gedrag kan combineren binnen de serverless beperkingen.
Toekomstige uitbreidingen
Mogelijke verbeteringen omvatten het integreren van een lokale LLM via WebAssembly, waardoor externe API‑kosten wegvallen. Daarnaast kan een caching‑laag op Cloudflare Workers KV worden geoptimaliseerd met TTL‑instellingen om verouderde context te verwijderen. Een andere route is het combineren met Cloudflare Pages voor een rijkere UI, terwijl de worker de logica behoudt.
Conclusie
Talorys demonstreert hoe een volledige AI‑agent kan worden gerealiseerd binnen de beperkingen van een gratis serverless platform. De combinatie van Workers, KV en externe LLM‑services biedt een krachtige, doch toegankelijke basis voor ontwikkelaars die hun eigen gepersonaliseerde AI‑ervaring willen bouwen. Met bewuste architecturale keuzes en aandacht voor quota‑limieten blijft de oplossing zowel praktisch als inspirerend voor de open‑source community.