بحث
blogia

نهج عملي آخر في بايثون مع واجهة برمجة تطبيقات Mistral AI

jls /
Mistral AI Python GenAI
نهج عملي آخر في بايثون مع واجهة برمجة تطبيقات Mistral AI

بعد OpenAI، إثبات مفهوم (POC) على Mistral AI المنافس الفرنسي!

مقدمة

تستعرض هذه المقالة سكربت بايثون تم تطويره كإثبات مفهوم (POC) للتفاعل مع Mistral AI، بديل فرنسي لـ OpenAI. يعتمد على نفس مبدأ السكربت المطوّر سابقًا للتفاعل مع OpenAI.

التعاون مع GPT-4 لتطوير السكربت

كان هذا المشروع “تعاونًا” مع ChatGPT-4، الإصدار الأخير من الذكاء الاصطناعي الحواري من OpenAI. معًا، صممنا سكربت بايثون مستفيدين من قدرة GPT-4 على فهم وتوليد الكود. يفتح هذا التآزر بين الخبرة البشرية والذكاء الاصطناعي آفاقًا جديدة لطرق التطوير والابتكار.

أهداف السكربت

الهدف الأساسي كان التجربة مع واجهة برمجة تطبيقات Mistral AI في بايثون لتطوير مهاراتي في هذا المجال.

  • اختبار Mistral AI : استكشاف ميزات Mistral AI وفهم كيفية استخدامه بفعالية.
  • الأتمتة باستخدام بايثون : إظهار كيف يمكن لبايثون أن تُستخدم لأتمتة التفاعلات مع واجهات برمجة تطبيقات الذكاء الاصطناعي.
  • إثراء الـ Prompts : التجربة في إثراء الـ prompts بدمج محتوى ويب مسترجع عبر Selenium.

إمكانيات السكربت

يفتح هذا السكربت الطريق لتطبيقات متنوعة، من بينها:

  • توليد محتوى مُثرى : إثراء الـ prompts ديناميكيًا بمعلومات ذات صلة مأخوذة من الويب.
  • مساعد افتراضي مخصص : استخدام الذكاء الاصطناعي لإنشاء ردود مخصصة بناءً على محتوى الويب.
  • تحسين أدوات الأتمتة : دمج الذكاء الاصطناعي في الأدوات الموجودة لتحسين الأداء.

كيفية عمل السكربت

السكربت mistral-ai.py يستخدم النموذج mistral-small لتوليد الردود. وفيما يلي كيفية عمله:

  1. استخراج محتوى الويب : يستخدم Selenium لاستخراج محتوى الروابط المحددة في الـ prompt.
  2. توليد الردود : يرسل الـ prompt المُثرى إلى Mistral AI للحصول على رد.

ملاحظات مهمة

  • هذا السكربت هو إثبات مفهوم : هو مخصص للأغراض التعليمية والتجريبية، وليس للاستخدام في الإنتاج.
  • احترام قواعد استخدام الـ API والمواقع : عند استخدام واجهة MistralAI وعمليات سحب المحتوى من المواقع، تأكد من الالتزام بشروط الاستخدام وسياسات الخصوصية.

فيما يلي القسم الكامل مع تحديث الكود ومثال الاستخدام، مدمجًا كما في منشور المدونة الأصلي:

تحديث 28 سبتمبر 2024: سكربت مصحح لـ Mistral AI

منذ النشر الأولي في يناير 2024، حدثت تطورات مهمة، خاصة مع أحدث إصدارات واجهة Mistral والمكتبات المستخدمة (Selenium و ChromeDriver). أصبح السكربت السابق غير ملائم وتم تحديثه لضمان التوافق مع هذه الإصدارات الجديدة. يستخدم السكربت الجديد النموذج mistral-large-latest ويضيف إدارة آلية لـ ChromeDriver عبر webdriver_manager.

كود جديد للسكربت mistral-ai.py

#!/usr/bin/env python3
import re
import sys
import os
from selenium import webdriver
from selenium.webdriver.chrome.service import Service
from selenium.webdriver.chrome.options import Options
from webdriver_manager.chrome import ChromeDriverManager
from mistralai import Mistral


def get_web_content(url):
    if not url:
        return ""

    try:
        # Configure Chrome options
        chrome_options = Options()

        # Use ChromeDriverManager to automatically manage the ChromeDriver installation
        driver = webdriver.Chrome(
            service=Service(ChromeDriverManager().install()), options=chrome_options
        )

        # Make a request to the web page
        driver.get(url)

        # Retrieve the JavaScript content of the page
        web_content = driver.execute_script("return document.documentElement.innerText")

        # Close the browser when you're done
        driver.quit()

        return web_content if web_content else None
    except Exception as e:
        return None


def get_response(question, client):
    urls = re.findall(r"(https?://\S+)", question)
    if urls:  # Vérifiez si une URL a été fournie
        for url in urls:
            web_content = get_web_content(url)
            if web_content:
                # Remplacez l'URL par le contenu du web dans le prompt
                question = question.replace(url, web_content)
            else:
                print(f"Erreur: Le contenu web pour {url} ne peut être récupéré.")
                sys.exit(1)  # Exit the script with an error code

    messages = [{"role": "user", "content": question}]
    response = client.chat.complete(model=model, messages=messages)

    for choice in response.choices:
        print(f"{choice.message.content}")


# Récupération de la question depuis l'argument de la ligne de commande
question = sys.argv[1] if len(sys.argv) > 1 else "Quelle est votre question ?"

api_key = os.getenv("MISTRAL_API_KEY", "YOUR_MISTRAL_API_KEY")
model = "mistral-large-latest"

try:
    client = Mistral(api_key=api_key)
    get_response(question, client)
except Exception as e:
    print(f"Une erreur est survenue : {e}")

try:
    del client
except TypeError:
    pass

مثال للاستخدام

# Optionnel - Installer les dépendances si nécessaire :
pip install selenium
pip install mistralai
pip install webdriver_manager

# Définir la clé API Mistral AI
export MISTRAL_API_KEY="votre_clé_api"

# on rend le script executable
chmod 700 mistral-ai.py

./mistral-ai.py "Fais moi un résumé de ce site stp : https://docs.mistral.ai/"
### Résumé du Site de Mistral AI

#### Introduction
Mistral AI est un laboratoire de recherche spécialisé dans la création des meilleurs modèles open source au monde. La Plateforme permet aux développeurs et aux entreprises de créer de nouveaux produits et applications grâce aux modèles de langage (LLMs) open source et commerciaux de Mistral.

#### Modèles de Langage de Mistral AI
Mistral AI propose des modèles généralistes, spécialisés et de recherche, tous à la pointe de la technologie, et dotés de capacités multilingues, de génération de code, de mathématiques et de raisonnement avancé.

##### Modèles Généralistes
- **Mistral Large**: Le modèle de raisonnement de haut niveau pour des tâches complexes, avec la version v2 sortie en juillet 2024.
- **Mistral NeMo**: Le meilleur modèle multilingue open source, sorti en juillet 2024.

##### Modèles Spécialisés
- **Codestral**: Le modèle de langage de pointe pour le codage, sorti en mai 2024.
- **Mistral Embed**: Le modèle sémantique pour l'extraction de représentations de textes.

##### Modèles de Recherche
- **Mistral 7b**: Le premier modèle dense, sorti en septembre 2023.
- **Mixtral 8x7b**: Le premier modèle sparse mixture-of-experts, sorti en décembre 2023.
- **Mixtral 8x22b**: Le meilleur modèle open source à ce jour, sorti en avril 2024.
- **Mathstral 7b**: Le premier modèle de mathématiques open source, sorti en juillet 2024.
- **Codestral Mamba**: Le premier modèle mamba 2 open source, sorti en juillet 2024.

#### Exploration des APIs de Mistral AI
Les APIs de Mistral AI permettent de développer des applications LLM via différentes fonctionnalités :
- **Génération de texte** : Permet le streaming et l'affichage en temps réel des résultats partiels du modèle.
- **Génération de code** : Facilite les tâches de génération de code, y compris le remplissage de texte et la complétion de code.
- **Embeddings** : Utile pour la RAG (Retrieval-Augmented Generation) où il représente la signification du texte sous forme de liste de nombres.
- **Appel de fonctions** : Permet aux modèles Mistral de se connecter à des outils externes.
- **Fine-tuning** : Permet aux développeurs de créer des modèles personnalisés et spécialisés.
- **Mode JSON** : Permet aux développeurs de définir le format de réponse en objet JSON.
- **Guardrailing** : Permet aux développeurs d'appliquer des politiques au niveau système des modèles Mistral.

#### Liens Utiles
- **Quickstart**
- **Documentation**
- **Contribution**
- **Communauté**
- **Discord**
- **GitHub**

#### Droits d'Auteur
Copyright © 2024 Mistral AI.

كود السكربت mistral-ai.py (غير متوافق مع الإصدارات الأخيرة من المكتبات)

#!/usr/bin/env python3
import re
import sys
import os
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
from mistralai.client import MistralClient
from mistralai.models.chat_completion import ChatMessage


def get_web_content(url):
    if not url:
        return ""

    # Configure Chrome options
    chrome_options = Options()

    # Create a new browser instance with the configured options
    driver = webdriver.Chrome(options=chrome_options)

    # Make a request to the web page
    driver.get(url)

    # Retrieve the JavaScript content of the page
    web_content = driver.execute_script("return document.documentElement.innerText")

    # Don't forget to close the browser when you're done
    driver.quit()

    return web_content

def get_response(question, client):
    urls = re.findall(r'(https?://\S+)', question)
    if urls:  # Vérifiez si une URL a été fournie
        for url in urls:
            web_content = get_web_content(url)
            if web_content:
                # Remplacez l'URL par le contenu du web dans le prompt
                question = question.replace(url, web_content)

    messages = [ChatMessage(role="user", content=question)]
    response = client.chat(model=model, messages=messages, safe_mode=False)

    for choice in response.choices:
        print(f"{choice.message.content}")


# Récupération de la question depuis l'argument de la ligne de commande
question = sys.argv[1] if len(sys.argv) > 1 else "Quelle est votre question ?"

api_key = os.getenv("MISTRAL_API_KEY", "YOUR_MISTRAL_API_KEY")
model = "mistral-small"

try:
    client = MistralClient(api_key=api_key)
    get_response(question, client)
except Exception as e:
    print(f"Une erreur est survenue : {e}")

try:
    del client
except TypeError:
    pass

شرح مفصل للسكربت

استيراد الوحدات

  • os، sys : تُستخدم للتفاعل مع نظام التشغيل.
  • argparse : لإدارة وسائط سطر الأوامر.
  • re : وحدة لمعالجة التعبيرات النمطية.
  • webdriver : لاستخدام Selenium لأتمتة الإجراءات في متصفح الويب.

الدالة get_web_content

  • تستخدم هذه الدالة Selenium للتنقل إلى عنوان URL واسترجاع محتواه.
  • هي أساسية لإثراء الـ prompts بمعلومات مأخوذة من الإنترنت.

الدالة get_response

  • تعالج الروابط الموجودة في الـ prompt.
  • تسترجع محتواها عبر get_web_content.
  • ترسل الـ prompt المُثرى إلى Mistral AI للحصول على رد.

البلوك main

  • نقطة دخول السكربت.
  • يدير وسائط سطر الأوامر.
  • يهيئ عميل Mistral AI ويعالج الرد.

استخدام Mistral AI

  • يتفاعل السكربت مع النموذج mistral-small.
  • يرسل الـ prompt، المُثرى بمحتوى الويب، إلى Mistral AI للحصول على رد ملائم.

يعطي هذا العرض نظرة عامة على كيفية عمل السكربت وبنيته، مما يساعد على فهم كيف يستخدم بايثون وSelenium وMistral AI لأتمتة وإثراء التفاعلات مع الذكاء الاصطناعي.

أمثلة للاستخدام

# Optionnel - Vous aurez peut être besoin d'installer les dépendances :
pip install selenium
pip install mistralai

# Définir la clé API Mistral AI
export MISTRAL_API_KEY="votre_clé_api"

# on rend le script executable
chmod 700 mistral-ai.py

./mistral-ai.py "Résume en français ce contenu : https://platform.openai.com/docs/guides/prompt-engineering"

Ce guide partage des stratégies et tactiques pour obtenir de meilleurs résultats des grands modèles linguistiques (parfois appelés modèles GPT, tels que GPT-4). Les méthodes décrites peuvent être déployées en combinaison pour un effet plus important. L'expérimentation est encouragée pour trouver les méthodes qui fonctionnent le mieux pour vous.

Certains des exemples présentés fonctionnent actuellement uniquement avec le modèle le plus capable, gpt-4. En général, si vous constatez qu'un modèle échoue à une tâche et qu'un modèle plus capable est disponible, il vaut souvent la peine d'essayer à nouveau avec le modèle plus capable.

Des exemples de invites sont également fournis pour montrer ce que les modèles sont capables de faire.

Voici les six stratégies présentées dans le guide :

1. Rédiger des instructions claires
2. Fournir des détails dans votre requête pour obtenir des réponses plus pertinentes
3. Demander au modèle d'adopter une personnalité
4. Utiliser des délimiteurs pour indiquer distinctement les parties de l'entrée
5. Spécifier les étapes requises pour terminer une tâche
6. Fournir des exemples et spécifier la longueur de la sortie

Le guide décrit également des tactiques pour améliorer les performances des modèles, telles que la décomposition de tâches complexes en tâches plus simples, l'utilisation de références textuelles pour aider les modèles à fournir des réponses moins fabriquées, et l'utilisation de l\'exécution de code pour effectuer des calculs plus précis ou appeler des API externes.

Enfin, le guide présente des stratégies pour tester systématiquement les changements apportés aux systèmes en évaluant les sorties des modèles par rapport aux réponses standardisées.


# Sans url dans le prompt :
./mistral-ai.py "que sais tu faire ?"

Je suis capable de comprendre et de générer du langage naturel, ce qui me permet de répondre à une grande variété de questions,
de traduire du texte d'une langue à une autre, de résumer du texte, de répondre à des demandes de manière polie, et bien plus encore.
Je peux également effectuer des tâches telles que la recherche de informations sur le web, la programmation, la création de contenu
et l'automatisation de tâches.
Cependant, il est important de noter que mes compétences et connaissances sont limitées à ce qui m'a été appris et je suis dépendant
de la qualité de l'information avec laquelle je suis entrainé.

تمت ترجمة هذا المستند من النسخة الفرنسية إلى اللغة العربية باستخدام النموذج gpt-5-mini. لمزيد من المعلومات حول عملية الترجمة، راجع https://gitlab.com/jls42/ai-powered-markdown-translator