업데이트: AWS EC2에서 자동화된 배포로 LibreChat v0.7.6 버전

Jls -

저는 AWS EC2에서 LibreChat의 자동화된 배포 프로젝트가 LibreChat 설치 방식의 최근 변경과 관련된 문제를 수정하고, 이제 v0.7.6 버전을 지원하도록 업데이트되었음을 기쁘게 알려드립니다. 이번 업데이트에는 온디맨드와 스팟 인스턴스 사이에서 선택할 수 있는 기능과 초보자도 쉽게 사용할 수 있도록 단순화된 개선 사항이 포함되어 있습니다.

이번 업데이트에서 무엇이 새로워졌나요?

LibreChat v0.7.6 버전 지원

프로젝트는 LibreChat의 v0.7.6 태그를 직접 클론하여, 모든 배포가 검증되고 테스트된 버전을 사용하도록 합니다. 이는 주 저장소에서 예기치 않은 변경으로 인한 놀라움을 방지합니다.

User-Data 스크립트에서 업데이트된 코드:

# Clone le dépôt LibreChat avec uniquement le tag v0.7.6
git clone --branch v0.7.6 --depth 1 https://github.com/danny-avila/LibreChat.git
cd LibreChat/

온디맨드(주문형) 및 스팟 인스턴스 관리

Terraform에 spot_enabled 변수를 추가하여 배포가 스팟 인스턴스를 사용할지 온디맨드 인스턴스를 사용할지 동적으로 선택할 수 있게 했습니다. 기본적으로는 온디맨드 모드가 활성화되어 초보자들도 스팟 가격을 설정할 필요 없이 더 쉽게 접근할 수 있습니다. 이는 프로젝트가 모두에게 즉시 작동할 수 있도록 보장합니다.

ec2.tf에서 업데이트된 부분:

# Bloc dynamique pour conditionner les options du marché Spot
dynamic "instance_market_options" {
  for_each = var.spot_enabled ? [1] : [] # Si spot_enabled est true, le bloc est créé
  content {
    market_type = "spot"
    spot_options {
      max_price                      = var.spot_max_price[var.instance_type]
      instance_interruption_behavior = var.spot_request_type == "persistent" ? "stop" : null
      spot_instance_type             = var.spot_request_type
    }
  }
}

variables.tf에서 발췌:

variable "spot_enabled" {
  description = "Active ou désactive l'utilisation du marché Spot"
  type        = bool
  default     = false
}

Terraform 버전 업데이트

프로젝트에서 사용되는 Terraform 버전이 1.5.7에서 1.10.3으로 업데이트되었습니다. 이는 최신 기능과 개선 사항과의 호환성을 보장합니다.

# Version de l'image Docker Terraform
TERRAFORM_VERSION: hashicorp/terraform:1.10.3

Mistral 모델 구성에 대한 수정

librechat.yaml에서 Mistral의 구성이 최신 버전의 형식 변경을 지원하도록 업데이트되었습니다. 다른 모델과 마찬가지로 API 키는 여전히 AWS Systems Manager(SSM)에서 가져오며, 기본 모델에는 이제 mistral-large-latest가 포함됩니다.

업데이트된 코드:

# Remplace la ligne contenant apiKey: '${MISTRAL_API_KEY}' par la clé réelle dans librechat.yaml
sed -i "s|apiKey: '\${MISTRAL_API_KEY}'|apiKey: '${MISTRAL_API_KEY}'|" librechat.yaml

# Modèles par défaut pour Mistral
sed -i '/- name:.*Mistral/,/default:/ s|default:.*|default: [\'mistral-tiny\', \'mistral-small\', \'mistral-medium\', \'mistral-large-latest\']|' librechat.yaml

다국어 README 파일 추가

전 세계의 더 많은 사용자가 프로젝트에 접근할 수 있도록, GPT-4o 모델로 구동되는 내 AI 기반 Markdown 파일 번역 스크립트를 사용하여 여러 언어로 README 파일을 생성했습니다. 지원되는 언어는 영어, 독일어, 스페인어, 일본어, 한국어 및 중국어입니다.

추가된 파일:

  • README-de-gpt-4o.md
  • README-en-gpt-4o.md
  • README-es-gpt-4o.md
  • README-ja-gpt-4o.md
  • README-ko-gpt-4o.md
  • README-zh-gpt-4o.md

Nginx 구성 업데이트

기본적으로 제공되는 SSL에 대한 Nginx 구성은 이 버전에서 사용되지 않았습니다. 이를 수정하기 위해 지시문을 조정하고 sed 명령으로 SSL 인증서 지원을 추가하여 호환성을 보장했습니다.

업데이트된 코드:

# Monter les certificats SSL dans le fichier deploy-compose.yml
sed -i '/- .\/client\/nginx.conf:\/etc\/nginx\/conf.d\/default.conf/a \      - \/etc\/nginx\/ssl:\/etc\/nginx\/ssl' deploy-compose.yml

# Corrige les directives dans nginx.conf pour la version récente de Nginx
sed -i '/listen 443 ssl;/!s/listen 443 ssl;/listen 443 ssl http2;/' client/nginx.conf
sed -i '/listen \[::\]:443 ssl;/!s/listen \[::\]:443 ssl;/listen [::]:443 ssl http2;/' client/nginx.conf

# Corriger les erreurs de commentaire sur les URLs
sed -i 's|https://docs.nginx.com/nginx/admin-guide/web-server/compression/|# https://docs.nginx.com/nginx/admin-guide/web-server/compression/|' client/nginx.conf
sed -i 's|https://docs.nginx.com/nginx/admin-guide/web-server/compression/|# &|' client/nginx.conf

Terraform 개선 사항

  • 기본 인스턴스 유형을 t3a.micro에서 t3a.small로 변경하여 성능을 향상시켰습니다.
  • 현재 비용을 반영하기 위해 variables.tf에서 스팟 가격을 업데이트했습니다.

variables.tf에서 업데이트된 부분:

variable "spot_max_price" {
  default = {
    "t3a.large"  = "0.0376"
    "t3a.small"  = "0.0095"
    "t3a.medium" = "0.01940"
    "t3a.micro"  = "0.006"
  }
}

이 업데이트가 중요한 이유

LibreChat 버전을 고정하고, Nginx 및 Mistral 구성과 관련된 문제를 수정하며, 온디맨드 및 스팟 인스턴스 중에서 선택할 수 있는 기능을 제공함으로써 이 업데이트는 프로젝트의 안정성과 유연성을 강화합니다. 기본적으로 온디맨드 모드로 설정되어 있어, 초보자도 복잡한 사전 요구 사항 없이 LibreChat을 배포할 수 있습니다.

요약

  • LibreChat v0.7.6 버전 지원: 통제되지 않은 변경과 관련된 문제를 피하기 위해 올바른 태그를 클론.
  • 인스턴스 관리: 온디맨드와 스팟 중 선택 가능, 사용자 경험을 단순화하기 위해 기본적으로 온디맨드로 설정.
  • Terraform 버전: 최신 개선 사항을 활용하기 위해 버전 1.10.3으로 업데이트.
  • Mistral AI: 새로운 형식에 맞게 API 키와 모델을 자동으로 관리.
  • 다국어 README: 여러 언어로 접근 가능한 문서화.
  • Nginx: SSL 구성을 수정하고 새로운 지시문에 맞게 조정.
  • Terraform: 성능 개선과 정확한 비용을 위한 조정.

전체 프로젝트를 살펴보세요

GitLab 저장소에서 이 프로젝트를 확인하고 사용하실 수 있습니다.

프로젝트에 대한 피드백을 공유하거나 기여하는 것을 주저하지 마세요!

이 문서는 o1-preview 모델을 사용하여 프랑스어 버전에서 한국어로 번역되었습니다. 번역 과정에 대한 자세한 내용은 https://gitlab.com/jls42/ai-powered-markdown-translator를 참조하십시오.