OpenAIの後、フランスの競合相手であるMistral AIのPOC!
はじめに
この記事では、Mistral AIと連携するために開発されたProof of Concept(POC)のPythonスクリプトを探ります。これは、以前にOpenAIと連携するために開発されたスクリプトの原則を引き継いでいます。
スクリプト開発におけるGPT-4とのコラボレーション
このプロジェクトは、OpenAIの最新の会話型AIであるChatGPT-4との “コラボレーション” でした。一緒にPythonスクリプトを設計し、GPT-4のコードを理解し生成する能力を活用しました。この人間の専門知識と人工知能のシナジーは、新しい開発と革新の方法を切り開きます。
スクリプトの目的
主な意図は、PythonでMistral AI APIを使って実験し、この分野でのスキルを磨くことでした。
- Mistral AIのテスト:Mistral AIの機能を探索し、効果的に使用する方法を理解する。
- Pythonによる自動化:Pythonを使用してAI APIとのやり取りを自動化する方法を示す。
- プロンプトの強化:Seleniumを介して取得したWebコンテンツを統合することによるプロンプトの強化を実験する。
スクリプトの可能性
このスクリプトは、以下のようなさまざまなアプリケーションの道を開きます:
- 豊かなコンテンツ生成:Webから取得した関連情報で動的にプロンプトを強化する。
- パーソナライズされた仮想アシスタンス:Webコンテンツに基づいてパーソナライズされた回答を作成するためにAIを使用する。
- 自動化ツールの改善:既存のツールにAIを統合してパフォーマンスを向上させる。
スクリプトの動作
スクリプト mistral-ai.py
は、mistral-small
モデルを使用して回答を生成します。その動作は次のとおりです:
- Webコンテンツの取得:Seleniumを使用してプロンプトに指定されたURLのコンテンツを抽出。
- 回答の生成:強化されたプロンプトをMistral AIに送信して回答を得る。
重要な注意点
- このスクリプトはPOCです:教育や実験の目的に限られており、プロダクションでの使用を意図していません。
- APIとWebサイトの使用規約を常に守る:MistralAI APIの使用及びWebサイトのスクレイピング時には、使用条件とプライバシーポリシーを必ず遵守すること。
以下は、オリジナルのブログポストのようにコードと使用例を更新したセクションです:
2024年9月28日の更新:Mistral AI用に修正されたスクリプト
2024年1月の初回公開以来、特にMistral APIおよび使用ライブラリ(SeleniumとChromeDriver)の最新バージョンに重要な進化がありました。前のスクリプトはもはや最新バージョンと互換性がなくなり、それに対応するために更新されました。新しいスクリプトは mistral-large-latest
モデルを使用し、webdriver_manager
を介したChromeDriverの自動管理を導入しています。
新しいスクリプト mistral-ai.py のコード
#!/usr/bin/env python3
import re
import sys
import os
from selenium import webdriver
from selenium.webdriver.chrome.service import Service
from selenium.webdriver.chrome.options import Options
from webdriver_manager.chrome import ChromeDriverManager
from mistralai import Mistral
def get_web_content(url):
if not url:
return ""
try:
# Configure Chrome options
chrome_options = Options()
# Use ChromeDriverManager to automatically manage the ChromeDriver installation
driver = webdriver.Chrome(
service=Service(ChromeDriverManager().install()), options=chrome_options
)
# Make a request to the web page
driver.get(url)
# Retrieve the JavaScript content of the page
web_content = driver.execute_script("return document.documentElement.innerText")
# Close the browser when you're done
driver.quit()
return web_content if web_content else None
except Exception as e:
return None
def get_response(question, client):
urls = re.findall(r"(https?://\S+)", question)
if urls: # Vérifiez si une URL a été fournie
for url in urls:
web_content = get_web_content(url)
if web_content:
# Remplacez l'URL par le contenu du web dans le prompt
question = question.replace(url, web_content)
else:
print(f"Erreur: Le contenu web pour {url} ne peut être récupéré.")
sys.exit(1) # Exit the script with an error code
messages = [{"role": "user", "content": question}]
response = client.chat.complete(model=model, messages=messages)
for choice in response.choices:
print(f"{choice.message.content}")
# Récupération de la question depuis l'argument de la ligne de commande
question = sys.argv[1] if len(sys.argv) > 1 else "Quelle est votre question ?"
api_key = os.getenv("MISTRAL_API_KEY", "YOUR_MISTRAL_API_KEY")
model = "mistral-large-latest"
try:
client = Mistral(api_key=api_key)
get_response(question, client)
except Exception as e:
print(f"Une erreur est survenue : {e}")
try:
del client
except TypeError:
pass
使用例
# Optionnel - Installer les dépendances si nécessaire :
pip install selenium
pip install mistralai
pip install webdriver_manager
# Définir la clé API Mistral AI
export MISTRAL_API_KEY="votre_clé_api"
# on rend le script executable
chmod 700 mistral-ai.py
./mistral-ai.py "Fais moi un résumé de ce site stp : https://docs.mistral.ai/"
### Résumé du Site de Mistral AI
#### Introduction
Mistral AI est un laboratoire de recherche spécialisé dans la création des meilleurs modèles open source au monde. La Plateforme permet aux développeurs et aux entreprises de créer de nouveaux produits et applications grâce aux modèles de langage (LLMs) open source et commerciaux de Mistral.
#### Modèles de Langage de Mistral AI
Mistral AI propose des modèles généralistes, spécialisés et de recherche, tous à la pointe de la technologie, et dotés de capacités multilingues, de génération de code, de mathématiques et de raisonnement avancé.
##### Modèles Généralistes
- **Mistral Large**: Le modèle de raisonnement de haut niveau pour des tâches complexes, avec la version v2 sortie en juillet 2024.
- **Mistral NeMo**: Le meilleur modèle multilingue open source, sorti en juillet 2024.
##### Modèles Spécialisés
- **Codestral**: Le modèle de langage de pointe pour le codage, sorti en mai 2024.
- **Mistral Embed**: Le modèle sémantique pour l'extraction de représentations de textes.
##### Modèles de Recherche
- **Mistral 7b**: Le premier modèle dense, sorti en septembre 2023.
- **Mixtral 8x7b**: Le premier modèle sparse mixture-of-experts, sorti en décembre 2023.
- **Mixtral 8x22b**: Le meilleur modèle open source à ce jour, sorti en avril 2024.
- **Mathstral 7b**: Le premier modèle de mathématiques open source, sorti en juillet 2024.
- **Codestral Mamba**: Le premier modèle mamba 2 open source, sorti en juillet 2024.
#### Exploration des APIs de Mistral AI
Les APIs de Mistral AI permettent de développer des applications LLM via différentes fonctionnalités :
- **Génération de texte** : Permet le streaming et l'affichage en temps réel des résultats partiels du modèle.
- **Génération de code** : Facilite les tâches de génération de code, y compris le remplissage de texte et la complétion de code.
- **Embeddings** : Utile pour la RAG (Retrieval-Augmented Generation) où il représente la signification du texte sous forme de liste de nombres.
- **Appel de fonctions** : Permet aux modèles Mistral de se connecter à des outils externes.
- **Fine-tuning** : Permet aux développeurs de créer des modèles personnalisés et spécialisés.
- **Mode JSON** : Permet aux développeurs de définir le format de réponse en objet JSON.
- **Guardrailing** : Permet aux développeurs d'appliquer des politiques au niveau système des modèles Mistral.
#### Liens Utiles
- **Quickstart**
- **Documentation**
- **Contribution**
- **Communauté**
- **Discord**
- **GitHub**
#### Droits d'Auteur
Copyright © 2024 Mistral AI.
古いバージョンのライブラリでは動作しない mistral-ai.py のコード
#!/usr/bin/env python3
import re
import sys
import os
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
from mistralai.client import MistralClient
from mistralai.models.chat_completion import ChatMessage
def get_web_content(url):
if not url:
return ""
# Configure Chrome options
chrome_options = Options()
# Create a new browser instance with the configured options
driver = webdriver.Chrome(options=chrome_options)
# Make a request to the web page
driver.get(url)
# Retrieve the JavaScript content of the page
web_content = driver.execute_script("return document.documentElement.innerText")
# Don't forget to close the browser when you're done
driver.quit()
return web_content
def get_response(question, client):
urls = re.findall(r'(https?://\S+)', question)
if urls: # Vérifiez si une URL a été fournie
for url in urls:
web_content = get_web_content(url)
if web_content:
# Remplacez l'URL par le contenu du web dans le prompt
question = question.replace(url, web_content)
messages = [ChatMessage(role="user", content=question)]
response = client.chat(model=model, messages=messages, safe_mode=False)
for choice in response.choices:
print(f"{choice.message.content}")
# Récupération de la question depuis l'argument de la ligne de commande
question = sys.argv[1] if len(sys.argv) > 1 else "Quelle est votre question ?"
api_key = os.getenv("MISTRAL_API_KEY", "YOUR_MISTRAL_API_KEY")
model = "mistral-small"
try:
client = MistralClient(api_key=api_key)
get_response(question, client)
except Exception as e:
print(f"Une erreur est survenue : {e}")
try:
del client
except TypeError:
pass
スクリプトの詳細な説明
モジュールのインポート
- os, sys : オペレーティングシステムとのやり取りに使用。
- argparse : コマンドライン引数の管理を可能にする。
- re : 正規表現処理のためのモジュール。
- webdriver : Webブラウザ内での操作を自動化するためにSeleniumを使用。 ### 関数
get_web_content
- この関数はSeleniumを使用してURLにアクセスし、その内容を取得します。
- インターネットからの情報でプロンプトを充実させるために重要です。
関数 get_response
- プロンプト内で見つかったURLを処理します。
get_web_content
を介してそれらの内容を取得します。- 充実したプロンプトをMistral AIに送信して応答を得ます。
メインブロック
- スクリプトのエントリーポイントです。
- コマンドライン引数を管理します。
- Mistral AIクライアントを初期化し、応答を処理します。
Mistral AIの使用
- このスクリプトは
mistral-small
モデルと対話します。 - インターネットからの内容で充実させたプロンプトをMistral AIに送り、適切な応答を取得します。
このスクリプトの概要は、その動作と構造を理解するための手がかりとなります。これにより、Python、Selenium、およびMistral AIを使用してIAとの対話を自動化・充実させる方法を理解することができます。
使用例
# Optionnel - Vous aurez peut être besoin d'installer les dépendances :
pip install selenium
pip install mistralai
# Définir la clé API Mistral AI
export MISTRAL_API_KEY="votre_clé_api"
# on rend le script executable
chmod 700 mistral-ai.py
./mistral-ai.py "Résume en français ce contenu : https://platform.openai.com/docs/guides/prompt-engineering"
Ce guide partage des stratégies et tactiques pour obtenir de meilleurs résultats des grands modèles linguistiques (parfois appelés modèles GPT, tels que GPT-4). Les méthodes décrites peuvent être déployées en combinaison pour un effet plus important. L'expérimentation est encouragée pour trouver les méthodes qui fonctionnent le mieux pour vous.
Certains des exemples présentés fonctionnent actuellement uniquement avec le modèle le plus capable, gpt-4. En général, si vous constatez qu'un modèle échoue à une tâche et qu'un modèle plus capable est disponible, il vaut souvent la peine d'essayer à nouveau avec le modèle plus capable.
Des exemples de invites sont également fournis pour montrer ce que les modèles sont capables de faire.
Voici les six stratégies présentées dans le guide :
1. Rédiger des instructions claires
2. Fournir des détails dans votre requête pour obtenir des réponses plus pertinentes
3. Demander au modèle d'adopter une personnalité
4. Utiliser des délimiteurs pour indiquer distinctement les parties de l'entrée
5. Spécifier les étapes requises pour terminer une tâche
6. Fournir des exemples et spécifier la longueur de la sortie
Le guide décrit également des tactiques pour améliorer les performances des modèles, telles que la décomposition de tâches complexes en tâches plus simples, l'utilisation de références textuelles pour aider les modèles à fournir des réponses moins fabriquées, et l'utilisation de l\'exécution de code pour effectuer des calculs plus précis ou appeler des API externes.
Enfin, le guide présente des stratégies pour tester systématiquement les changements apportés aux systèmes en évaluant les sorties des modèles par rapport aux réponses standardisées.
# Sans url dans le prompt :
./mistral-ai.py "que sais tu faire ?"
Je suis capable de comprendre et de générer du langage naturel, ce qui me permet de répondre à une grande variété de questions,
de traduire du texte d'une langue à une autre, de résumer du texte, de répondre à des demandes de manière polie, et bien plus encore.
Je peux également effectuer des tâches telles que la recherche de informations sur le web, la programmation, la création de contenu
et l'automatisation de tâches.
Cependant, il est important de noter que mes compétences et connaissances sont limitées à ce qui m'a été appris et je suis dépendant
de la qualité de l'information avec laquelle je suis entrainé.
このドキュメントは、frバージョンからja言語にgpt-4oモデルを使用して翻訳されました。翻訳プロセスの詳細については、https://gitlab.com/jls42/ai-powered-markdown-translator を参照してください。