另一种实用的 Python 方法：使用 Mistral AI 的 API

在 OpenAI 之后，对法国竞争对手 Mistral AI 的概念验证（POC）！

介绍

本文探讨了一个作为概念验证（POC）而开发的 Python 脚本，用于与 Mistral AI 交互——这是 OpenAI 的一家法国替代方案。它沿用了之前为与 OpenAI 交互而开发的脚本的思路。

与 GPT-4 在脚本开发上的协作

该项目是与 ChatGPT-4（OpenAI 最新的对话式 AI）的一次“协作”。我们共同设计了这个 Python 脚本，利用 GPT-4 理解和生成代码的能力。人类专业知识与人工智能的这种协同为新的开发和创新方法铺平了道路。

脚本目标

主要目的是用 Python 试验 Mistral AI API，以提升我在该领域的技能。

测试 Mistral AI : 探索 Mistral AI 的功能并了解如何高效使用它。
使用 Python 自动化 : 演示如何使用 Python 自动化与 AI API 的交互。
提示增强 : 通过整合使用 Selenium 抓取的网页内容来尝试增强提示（prompts）。

脚本的潜力

此脚本打开了多种应用的可能性，尤其包括：

丰富内容生成 : 动态地用来自网络的相关信息丰富提示。
个性化虚拟助手 : 使用 AI 基于网页内容生成个性化回答。
提升自动化工具 : 将 AI 集成到现有工具中以提高性能。

脚本的工作原理

脚本 mistral-ai.py 使用模型 mistral-small 来生成回复。其工作流程如下：

获取网页内容 : 使用 Selenium 提取在提示中指定的 URL 的内容。
生成回复 : 将已增强的提示发送到 Mistral AI 以获取回复。

重要备注

此脚本为概念验证（POC） : 仅用于学习和试验目的，不适用于生产环境。
始终遵守 API 和网站的使用规则 : 在使用 MistralAI API 和抓取网站时，请确保遵守使用条款和隐私政策。

下面是完整章节，包含代码更新和使用示例，按原博客文章集成：

2024年9月28日更新：为 Mistral AI 修正的脚本

自 2024 年 1 月初次发布以来，发生了重要变化，尤其是 Mistral API 及所用库（Selenium 与 ChromeDriver）的最新版本。之前的脚本现已过时，已更新以确保与这些新版本兼容。新脚本使用模型 mistral-large-latest，并通过 webdriver_manager 提供 ChromeDriver 的自动化管理。

新的脚本代码 mistral-ai.py

#!/usr/bin/env python3
import re
import sys
import os
from selenium import webdriver
from selenium.webdriver.chrome.service import Service
from selenium.webdriver.chrome.options import Options
from webdriver_manager.chrome import ChromeDriverManager
from mistralai import Mistral


def get_web_content(url):
    if not url:
        return ""

    try:
        # Configure Chrome options
        chrome_options = Options()

        # Use ChromeDriverManager to automatically manage the ChromeDriver installation
        driver = webdriver.Chrome(
            service=Service(ChromeDriverManager().install()), options=chrome_options
        )

        # Make a request to the web page
        driver.get(url)

        # Retrieve the JavaScript content of the page
        web_content = driver.execute_script("return document.documentElement.innerText")

        # Close the browser when you're done
        driver.quit()

        return web_content if web_content else None
    except Exception as e:
        return None


def get_response(question, client):
    urls = re.findall(r"(https?://\S+)", question)
    if urls:  # Vérifiez si une URL a été fournie
        for url in urls:
            web_content = get_web_content(url)
            if web_content:
                # Remplacez l'URL par le contenu du web dans le prompt
                question = question.replace(url, web_content)
            else:
                print(f"Erreur: Le contenu web pour {url} ne peut être récupéré.")
                sys.exit(1)  # Exit the script with an error code

    messages = [{"role": "user", "content": question}]
    response = client.chat.complete(model=model, messages=messages)

    for choice in response.choices:
        print(f"{choice.message.content}")


# Récupération de la question depuis l'argument de la ligne de commande
question = sys.argv[1] if len(sys.argv) > 1 else "Quelle est votre question ?"

api_key = os.getenv("MISTRAL_API_KEY", "YOUR_MISTRAL_API_KEY")
model = "mistral-large-latest"

try:
    client = Mistral(api_key=api_key)
    get_response(question, client)
except Exception as e:
    print(f"Une erreur est survenue : {e}")

try:
    del client
except TypeError:
    pass

使用示例

# Optionnel - Installer les dépendances si nécessaire :
pip install selenium
pip install mistralai
pip install webdriver_manager

# Définir la clé API Mistral AI
export MISTRAL_API_KEY="votre_clé_api"

# on rend le script executable
chmod 700 mistral-ai.py

./mistral-ai.py "Fais moi un résumé de ce site stp : https://docs.mistral.ai/"
### Résumé du Site de Mistral AI

#### Introduction
Mistral AI est un laboratoire de recherche spécialisé dans la création des meilleurs modèles open source au monde. La Plateforme permet aux développeurs et aux entreprises de créer de nouveaux produits et applications grâce aux modèles de langage (LLMs) open source et commerciaux de Mistral.

#### Modèles de Langage de Mistral AI
Mistral AI propose des modèles généralistes, spécialisés et de recherche, tous à la pointe de la technologie, et dotés de capacités multilingues, de génération de code, de mathématiques et de raisonnement avancé.

##### Modèles Généralistes
- **Mistral Large**: Le modèle de raisonnement de haut niveau pour des tâches complexes, avec la version v2 sortie en juillet 2024.
- **Mistral NeMo**: Le meilleur modèle multilingue open source, sorti en juillet 2024.

##### Modèles Spécialisés
- **Codestral**: Le modèle de langage de pointe pour le codage, sorti en mai 2024.
- **Mistral Embed**: Le modèle sémantique pour l'extraction de représentations de textes.

##### Modèles de Recherche
- **Mistral 7b**: Le premier modèle dense, sorti en septembre 2023.
- **Mixtral 8x7b**: Le premier modèle sparse mixture-of-experts, sorti en décembre 2023.
- **Mixtral 8x22b**: Le meilleur modèle open source à ce jour, sorti en avril 2024.
- **Mathstral 7b**: Le premier modèle de mathématiques open source, sorti en juillet 2024.
- **Codestral Mamba**: Le premier modèle mamba 2 open source, sorti en juillet 2024.

#### Exploration des APIs de Mistral AI
Les APIs de Mistral AI permettent de développer des applications LLM via différentes fonctionnalités :
- **Génération de texte** : Permet le streaming et l'affichage en temps réel des résultats partiels du modèle.
- **Génération de code** : Facilite les tâches de génération de code, y compris le remplissage de texte et la complétion de code.
- **Embeddings** : Utile pour la RAG (Retrieval-Augmented Generation) où il représente la signification du texte sous forme de liste de nombres.
- **Appel de fonctions** : Permet aux modèles Mistral de se connecter à des outils externes.
- **Fine-tuning** : Permet aux développeurs de créer des modèles personnalisés et spécialisés.
- **Mode JSON** : Permet aux développeurs de définir le format de réponse en objet JSON.
- **Guardrailing** : Permet aux développeurs d'appliquer des politiques au niveau système des modèles Mistral.

#### Liens Utiles
- **Quickstart**
- **Documentation**
- **Contribution**
- **Communauté**
- **Discord**
- **GitHub**

#### Droits d'Auteur
Copyright © 2024 Mistral AI.

mistral-ai.py 脚本代码（在最新库版本下已过时）

#!/usr/bin/env python3
import re
import sys
import os
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
from mistralai.client import MistralClient
from mistralai.models.chat_completion import ChatMessage


def get_web_content(url):
    if not url:
        return ""

    # Configure Chrome options
    chrome_options = Options()

    # Create a new browser instance with the configured options
    driver = webdriver.Chrome(options=chrome_options)

    # Make a request to the web page
    driver.get(url)

    # Retrieve the JavaScript content of the page
    web_content = driver.execute_script("return document.documentElement.innerText")

    # Don't forget to close the browser when you're done
    driver.quit()

    return web_content

def get_response(question, client):
    urls = re.findall(r'(https?://\S+)', question)
    if urls:  # Vérifiez si une URL a été fournie
        for url in urls:
            web_content = get_web_content(url)
            if web_content:
                # Remplacez l'URL par le contenu du web dans le prompt
                question = question.replace(url, web_content)

    messages = [ChatMessage(role="user", content=question)]
    response = client.chat(model=model, messages=messages, safe_mode=False)

    for choice in response.choices:
        print(f"{choice.message.content}")


# Récupération de la question depuis l'argument de la ligne de commande
question = sys.argv[1] if len(sys.argv) > 1 else "Quelle est votre question ?"

api_key = os.getenv("MISTRAL_API_KEY", "YOUR_MISTRAL_API_KEY")
model = "mistral-small"

try:
    client = MistralClient(api_key=api_key)
    get_response(question, client)
except Exception as e:
    print(f"Une erreur est survenue : {e}")

try:
    del client
except TypeError:
    pass

脚本详细说明

模块导入

os、sys : 用于与操作系统的交互。
argparse : 用于处理命令行参数。
re : 用于正则表达式处理的模块。
webdriver : 允许使用 Selenium 来自动化浏览器中的操作。

函数 `get_web_content`

此函数使用 Selenium 导航到 URL 并获取其内容。
它对于用来自网络的信息丰富提示至关重要。

函数 `get_response`

处理在提示中找到的 URL。
通过 get_web_content 获取它们的内容。
将已增强的提示发送到 Mistral AI 以获取回复。

代码块 `main`

脚本的入口点。
处理命令行参数。
初始化 Mistral AI 客户端并处理响应。

使用 Mistral AI

该脚本与模型 mistral-small 交互。
它将被网页内容丰富过的提示发送到 Mistral AI 以获得相关回复。

该脚本概述展示了其工作方式和结构，使人们能够理解它如何使用 Python、Selenium 和 Mistral AI 来自动化并丰富与 AI 的交互。

使用示例

# Optionnel - Vous aurez peut être besoin d'installer les dépendances :
pip install selenium
pip install mistralai

# Définir la clé API Mistral AI
export MISTRAL_API_KEY="votre_clé_api"

# on rend le script executable
chmod 700 mistral-ai.py

./mistral-ai.py "Résume en français ce contenu : https://platform.openai.com/docs/guides/prompt-engineering"

Ce guide partage des stratégies et tactiques pour obtenir de meilleurs résultats des grands modèles linguistiques (parfois appelés modèles GPT, tels que GPT-4). Les méthodes décrites peuvent être déployées en combinaison pour un effet plus important. L'expérimentation est encouragée pour trouver les méthodes qui fonctionnent le mieux pour vous.

Certains des exemples présentés fonctionnent actuellement uniquement avec le modèle le plus capable, gpt-4. En général, si vous constatez qu'un modèle échoue à une tâche et qu'un modèle plus capable est disponible, il vaut souvent la peine d'essayer à nouveau avec le modèle plus capable.

Des exemples de invites sont également fournis pour montrer ce que les modèles sont capables de faire.

Voici les six stratégies présentées dans le guide :

1. Rédiger des instructions claires
2. Fournir des détails dans votre requête pour obtenir des réponses plus pertinentes
3. Demander au modèle d'adopter une personnalité
4. Utiliser des délimiteurs pour indiquer distinctement les parties de l'entrée
5. Spécifier les étapes requises pour terminer une tâche
6. Fournir des exemples et spécifier la longueur de la sortie

Le guide décrit également des tactiques pour améliorer les performances des modèles, telles que la décomposition de tâches complexes en tâches plus simples, l'utilisation de références textuelles pour aider les modèles à fournir des réponses moins fabriquées, et l'utilisation de l\'exécution de code pour effectuer des calculs plus précis ou appeler des API externes.

Enfin, le guide présente des stratégies pour tester systématiquement les changements apportés aux systèmes en évaluant les sorties des modèles par rapport aux réponses standardisées.


# Sans url dans le prompt :
./mistral-ai.py "que sais tu faire ?"

Je suis capable de comprendre et de générer du langage naturel, ce qui me permet de répondre à une grande variété de questions,
de traduire du texte d'une langue à une autre, de résumer du texte, de répondre à des demandes de manière polie, et bien plus encore.
Je peux également effectuer des tâches telles que la recherche de informations sur le web, la programmation, la création de contenu
et l'automatisation de tâches.
Cependant, il est important de noter que mes compétences et connaissances sont limitées à ce qui m'a été appris et je suis dépendant
de la qualité de l'information avec laquelle je suis entrainé.

本文件已使用 gpt-5-mini 模型将 fr 版本翻译为 zh 语言。有关翻译过程的更多信息，请参见 https://gitlab.com/jls42/ai-powered-markdown-translator

另一种实用的 Python 方法：使用 Mistral AI 的 API

介绍

与 GPT-4 在脚本开发上的协作

脚本目标

脚本的潜力

脚本的工作原理

重要备注

2024年9月28日更新：为 Mistral AI 修正的脚本

新的脚本代码 mistral-ai.py

使用示例

mistral-ai.py 脚本代码（在最新库版本下已过时）

脚本详细说明

模块导入

函数 get_web_content

函数 get_response

代码块 main

使用 Mistral AI

使用示例

函数 `get_web_content`

函数 `get_response`

代码块 `main`