Actualizare: LibreChat versiunea v0.7.6 cu implementare automată pe AWS EC2

Sunt bucuros să anunț că proiectul meu de implementare automată a LibreChat pe AWS EC2 a fost actualizat pentru a remedia probleme legate de modificările recente în modul de instalare a LibreChat, susținând acum versiunea v0.7.6. Această actualizare include, de asemenea, posibilitatea de a alege între instanțe On-Demand și Spot, precum și îmbunătățiri pentru a simplifica utilizarea, chiar și pentru începători.

Ce este nou în această actualizare?

Suport pentru versiunea v0.7.6 a LibreChat

Proiectul clonează direct tag-ul v0.7.6 din LibreChat, asigurând că toate implementările folosesc o versiune verificată și testată. Acest lucru evită surprizele cauzate de schimbări neașteptate în depozitul principal.

Cod actualizat în scriptul User-Data :

# Clone le dépôt LibreChat avec uniquement le tag v0.7.6
git clone --branch v0.7.6 --depth 1 https://github.com/danny-avila/LibreChat.git
cd LibreChat/

Gestionarea instanțelor On-Demand și Spot

Am adăugat o variabilă spot_enabled în Terraform care permite alegerea dinamică dacă implementarea folosește instanțe Spot sau On-Demand. Implicit, modul On-Demand este activat pentru a oferi o experiență mai accesibilă începătorilor, evitând necesitatea de a configura prețuri spot. Aceasta garantează că proiectul este imediat funcțional pentru toată lumea.

Fragment actualizat din ec2.tf :

# Bloc dynamique pour conditionner les options du marché Spot
dynamic "instance_market_options" {
  for_each = var.spot_enabled ? [1] : [] # Si spot_enabled est true, le bloc est créé
  content {
    market_type = "spot"
    spot_options {
      max_price                      = var.spot_max_price[var.instance_type]
      instance_interruption_behavior = var.spot_request_type == "persistent" ? "stop" : null
      spot_instance_type             = var.spot_request_type
    }
  }
}

Fragment din variables.tf :

variable "spot_enabled" {
  description = "Active ou désactive l'utilisation du marché Spot"
  type        = bool
  default     = false
}

Actualizare a versiunii Terraform

Versiunea Terraform folosită în proiect a fost actualizată de la 1.5.7 la 1.10.3. Aceasta asigură compatibilitate cu cele mai noi funcționalități și îmbunătățiri ale Terraform.

# Version de l'image Docker Terraform
TERRAFORM_VERSION: hashicorp/terraform:1.10.3

Corecții pentru configurația modelelor Mistral

Configurația Mistral din librechat.yaml a fost actualizată pentru a suporta modificările de format din ultima versiune. Cheia API este în continuare preluată din AWS Systems Manager (SSM), la fel ca pentru celelalte modele, iar modelele implicite includ acum mistral-large-latest.

Cod actualizat :

# Remplace la ligne contenant apiKey: '${MISTRAL_API_KEY}' par la clé réelle dans librechat.yaml
sed -i "s|apiKey: '\${MISTRAL_API_KEY}'|apiKey: '${MISTRAL_API_KEY}'|" librechat.yaml

# Modèles par défaut pour Mistral
sed -i '/- name:.*Mistral/,/default:/ s|default:.*|default: [\'mistral-tiny\', \'mistral-small\', \'mistral-medium\', \'mistral-large-latest\']|' librechat.yaml

Adăugare fișiere README multilingve

Pentru a face proiectul accesibil unui număr mai mare de utilizatori din întreaga lume, am folosit scriptul meu de traducere a fișierelor Markdown bazat pe IA, alimentat de modelul GPT-4o, pentru a genera fișiere README în mai multe limbi. Limbile suportate includ engleza, germana, spaniola, japoneza, coreeana și chineza.

Fișiere adăugate :

README-de-gpt-4o.md
README-en-gpt-4o.md
README-es-gpt-4o.md
README-ja-gpt-4o.md
README-ko-gpt-4o.md
README-zh-gpt-4o.md

Actualizare a configurației Nginx

Configurația Nginx pentru SSL, furnizată implicit, era depreciată în această versiune. Am corectat asta adaptând directivele și adăugând suport pentru certificate SSL cu comenzi sed pentru a garanta compatibilitatea.

Cod actualizat :

# Monter les certificats SSL dans le fichier deploy-compose.yml
sed -i '/- .\/client\/nginx.conf:\/etc\/nginx\/conf.d\/default.conf/a \      - \/etc\/nginx\/ssl:\/etc\/nginx\/ssl' deploy-compose.yml

# Corrige les directives dans nginx.conf pour la version récente de Nginx
sed -i '/listen 443 ssl;/!s/listen 443 ssl;/listen 443 ssl http2;/' client/nginx.conf
sed -i '/listen \[::\]:443 ssl;/!s/listen \[::\]:443 ssl;/listen [::]:443 ssl http2;/' client/nginx.conf

# Corriger les erreurs de commentaire sur les URLs
sed -i 's|https://docs.nginx.com/nginx/admin-guide/web-server/compression/|# https://docs.nginx.com/nginx/admin-guide/web-server/compression/|' client/nginx.conf
sed -i 's|https://docs.nginx.com/nginx/admin-guide/web-server/compression/|# &|' client/nginx.conf

Îmbunătățiri Terraform

Schimbarea tipului de instanță implicit de la t3a.micro la t3a.small pentru performanță mai bună.
Actualizarea prețurilor spot în variables.tf pentru a reflecta costurile actuale.

Fragment actualizat din variables.tf :

variable "spot_max_price" {
  default = {
    "t3a.large"  = "0.0376"
    "t3a.small"  = "0.0095"
    "t3a.medium" = "0.01940"
    "t3a.micro"  = "0.006"
  }
}

De ce este importantă această actualizare

Prin fixarea versiunii LibreChat, corectarea problemelor legate de configurațiile Nginx și Mistral, și oferirea posibilității de a alege între instanțele On-Demand și Spot, această actualizare consolidează fiabilitatea și flexibilitatea proiectului. Cu modul On-Demand implicit, chiar și începătorii pot implementa LibreChat fără prerechizite complexe.

Recapitulare

Suport pentru versiunea v0.7.6 a LibreChat : Clonează tag-ul corect pentru a evita problemele legate de schimbări necontrolate.
Gestionarea instanțelor : Alegere între On-Demand și Spot, cu On-Demand implicit pentru a simplifica experiența utilizatorului.
Versiune Terraform : Actualizare la versiunea 1.10.3 pentru a profita de ultimele îmbunătățiri.
Mistral AI : Gestionare automată a cheilor API și a modelelor, adaptată noului format.
README multilingve : Documentație accesibilă în mai multe limbi.
Nginx : Configurare SSL corectată și adaptată noilor directive.
Terraform : Ajustări pentru performanțe îmbunătățite și costuri precise.

Descoperiți proiectul complet

Puteți consulta și folosi acest proiect pe depozitul GitLab.

Nu ezitați să împărtășiți feedback-ul sau să contribuiți la proiect!

Acest document a fost tradus din versiunea fr în limba ro folosind modelul gpt-5-mini. Pentru mai multe informații despre procesul de traducere, consultați https://gitlab.com/jls42/ai-powered-markdown-translator