Ik ben verheugd om mijn laatste project te presenteren: de volledige geautomatiseerde uitrol van LibreChat op AWS EC2, een open-source oplossing beschikbaar op GitLab. Dit project toont mijn expertise in DevOps en cloud engineering, gebaseerd op Terraform voor Infrastructure as Code (IaC), een User-Data Bash-script, een GitLab CI/CD pipeline en gecentraliseerd beheer via AWS Systems Manager (SSM). Resultaat: een operationele LibreChat-instance binnen 6 minuten, met geoptimaliseerde kosten, verbeterde beveiliging en maximale toegankelijkheid.
Dit project gaat verder dan een eenvoudige technische uitrol: het belichaamt een visie van geavanceerde automatisering, ontworpen voor zowel experts als beginners. Hieronder leg ik uit hoe ik deze oplossing heb opgezet.
1. Een Geoptimaliseerde en Reproduceerbare Cloudarchitectuur
De infrastructuur is gebaseerd op Terraform, volgens de principes van Infrastructure as Code voor reproduceerbaarheid en schaalbaarheid. De belangrijkste componenten omvatten:
- AWS VPC: Een geïsoleerd virtueel netwerk om de infrastructuur te beveiligen.
- Publieke subnets: Drie subnets om hoge beschikbaarheid te garanderen.
- EC2-instance (t3a.small): Host van LibreChat, met een keuze tussen Spot Instances of On-Demand.
- Internet Gateway: Maakt een veilige verbinding via HTTPS mogelijk.
- AWS SSM: Centraliseert het beheer van API-sleutels en de opvolging van de uitrol.
De uitrol op EC2 wordt geautomatiseerd door een User-Data Bash-script dat:
- De afhankelijkheden installeert (Docker, Git, Node.js) en het systeem bijwerkt.
- LibreChat (versie 0.7.7) clonet en de bestanden
.envenlibrechat.yamlconfigureert. - API-sleutels op een veilige manier uit SSM ophaalt.
- Nginx configureert met een zelfondertekend SSL-certificaat voor HTTPS.
Dit script, geïntegreerd via Terraform, bevat foutafhandeling (set -e, trap 'error_handler' ERR) en logging naar /var/log/user-data.log, wat zorgt voor een betrouwbaar en traceerbaar proces.
2. Beveiliging en Gecentraliseerd Beheer van API-sleutels
Beveiliging is een prioriteit. API-sleutels (OpenAI, Mistral AI, Anthropic, Google) worden opgeslagen in AWS SSM Parameter Store, dynamisch opgehaald en nooit hardcoded. De maatregelen omvatten:
- Verplichte HTTPS: Zelfondertekend certificaat met doorverwijzing van 80 naar 443.
- Foutafhandeling: Stoppen van het script bij een probleem, met statusupdate in SSM.
- AWS Session Manager: Toegang tot de instance zonder SSH voor extra beveiliging.
Deze aanpak garandeert veilig beheer en realtime toezicht.
3. Kostenoptimalisatie met Spot Instances
Om kosten te verlagen heb ik Spot Instances van AWS geïntegreerd, waarmee ongebruikte capaciteit wordt benut. Een Terraform-variabele spot_enabled maakt het mogelijk te kiezen tussen Spot en On-Demand, waardoor het project voor iedereen toegankelijk is. Een Python-script, check_spot.py, past automatisch de biedprijzen aan in variables.tf voor continue optimalisatie.
4. Een Volledige CI/CD-pipeline met GitLab
Een GitLab CI/CD pipeline (gedefinieerd in gitlab-ci.yml) orkestreert de uitrol:
- Terraform: Plant en past infrastructuurwijzigingen toe.
- Instancebeheer: Start, stopt en controleert de status via SSM.
- API-sleutels: Voegt sleutels veilig toe of verwijdert ze.
- Inschrijvingen: Beheert toegang tot LibreChat.
Het script export.sh vereenvoudigt de commando’s, zowel lokaal als via CI/CD, en biedt een soepele en professionele ervaring.
5. Wereldwijde Toegankelijkheid dankzij Internationalisatie
Om een wereldwijd publiek te bereiken is de README vertaald in zes talen (Engels, Duits, Spaans, Japans, Koreaans, Chinees) dankzij mijn AI-vertalingsscript. Dit maakt het project inclusief en geschikt voor alle gebruikers.
6. Technische Uitdagingen met Succes Opgelost
Het aanpassen van LibreChat 0.7.6 vereiste nauwkeurige aanpassingen:
- Mistral-ondersteuning: Bijgewerkt in
librechat.yamlvoormistral-large-latest. - Nginx: Correctie van SSL-directieven voor HTTP/2.
- Spot/On-Demand: Flexibel beheer via Terraform.
Deze uitdagingen zijn overwonnen met grondige tests en gedetailleerde documentatie.
7. Waarom dit Project Opvalt
Dit project onderscheidt zich door:
- Volledige automatisering: Alles is gescript, van infra tot installatie.
- Optimalisatie: Lagere kosten en verbeterde prestaties.
- Beveiliging: Gecentraliseerd beheer en standaard HTTPS.
- Toegankelijkheid: Meertalige documentatie en eenvoudige opties.
Het weerspiegelt mijn vaardigheden in AWS-architectuur, DevOps, cloud en scripting, evenals mijn passie voor open source.
Ontdek en Doe Mee!
Bekijk dit project op GitLab, test het en deel je feedback. Of je nu expert of beginner bent, dit project is voor jou. Draag bij om het te laten groeien!
Contact : contact@jls42.org
Over mij : Ik ben Julien LS, gepassioneerd door AWS-cloudarchitectuur, DevOps, AI en automatisering. Dit project past in het verlengde van mijn werk zoals BabelFish AI. Je vindt me op GitLab.
Dit document is vertaald van de fr-versie naar de nl-taal met behulp van het model gpt-5-mini. Voor meer informatie over het vertaalproces, raadpleeg https://gitlab.com/jls42/ai-powered-markdown-translator