Publié le 16 mai 2024
Lorsque vous faites des achats en ligne, le volume d'avis sur les produits et le nombre de produits disponibles peut être impressionnant. Comment faire le tri dans tout ce bruit pour trouver le produit qui répondra réellement à nos besoins spécifiques ?
Imaginons que nous cherchions un sac à dos pour le travail. Les sacs à dos doivent trouver un équilibre entre fonctionnalité, esthétique et praticité. Le nombre d'avis rend presque impossible de savoir si vous avez trouvé le sac parfait. Et si nous pouvions utiliser l'IA pour trier le bruit et trouver le produit parfait ?
Un résumé de tous les avis, ainsi qu'une liste des avantages et inconvénients les plus courants, serait utile.
Pour ce faire, nous utilisons l'IA générative côté serveur. L'inférence se produit sur un serveur.
Dans ce document, vous pouvez suivre un tutoriel sur l'API Gemini avec Node.js, en utilisant le SDK JavaScript Google AI pour résumer les données de nombreux avis. Nous nous concentrons sur la partie de ce travail concernant l'IA générative. Nous n'expliquerons pas comment stocker les résultats ni créer une file d'attente de tâches.
En pratique, vous pouvez utiliser n'importe quelle API LLM avec n'importe quel SDK. Toutefois, il se peut que la requête suggérée doive être adaptée au modèle que vous choisissez.
Prérequis
Créez une clé pour l'API Gemini et définissez-la dans votre fichier d'environnement.
Installez le SDK JavaScript Google AI, par exemple avec npm :
npm install @google/generative-ai
Créer une application de synthèse d'avis
- Initialisez un objet d'IA générative.
- Créez une fonction pour générer des résumés d'avis.
- Sélectionnez le modèle d'IA générative. Pour notre cas d'utilisation, nous utiliserons Gemini Pro. Utilisez un modèle spécifique à votre cas d'utilisation (par exemple,
gemini-pro-vision
est destiné aux entrées multimodales). - Ajoutez une invite.
- Appelez
generateContent
pour transmettre l'invite en tant qu'argument. - Générez et renvoyez la réponse.
- Sélectionnez le modèle d'IA générative. Pour notre cas d'utilisation, nous utiliserons Gemini Pro. Utilisez un modèle spécifique à votre cas d'utilisation (par exemple,
const { GoogleGenerativeAI } = require("@google/generative-ai");
// Access the API key env
const genAI = new GoogleGenerativeAI(process.env.API_KEY_GEMINI);
async function generateReviewSummary(reviews) {
// Use gemini-pro model for text-only input
const model = genAI.getGenerativeModel({ model: "gemini-pro" });
// Shortened for legibility. See "Write an effective prompt" for
// writing an actual production-ready prompt.
const prompt = `Summarize the following product reviews:\n\n${reviews}`;
const result = await model.generateContent(prompt);
const response = await result.response;
const summary = response.text();
return summary;
}
Rédiger une requête efficace
Le meilleur moyen de réussir avec l'IA générative est de créer une requête détaillée. Dans cet exemple, nous avons utilisé la technique d'invite unique pour obtenir des résultats cohérents.
La requête one-shot est représentée par l'exemple de sortie que Gemini doit modéliser.
const prompt =
`I will give you user reviews for a product. Generate a short summary of the
reviews, with focus on the common positive and negative aspects across all of
the reviews. Use the exact same output format as in the example (list of
positive highlights, list of negative aspects, summary). In the summary,
address the potential buyer with second person ("you", "be aware").
Input (list of reviews):
// ... example
Output (summary of reviews):
// ... example
**Positive highlights**
// ... example
**Negative aspects**
// ... example
**Summary**
// ... example
Input (list of reviews):
${reviews}
Output (summary of all input reviews):`;
Voici un exemple de sortie de cette requête, qui inclut un résumé de tous les avis, ainsi qu'une liste d'avantages et d'inconvénients courants.
## Summary of Reviews:
**Positive highlights:**
* **Style:** Several reviewers appreciate the backpack's color and design.
* **Organization:** Some users love the compartments and find them useful for
organization.
* **Travel & School:** The backpack seems suitable for both travel and school
use, being lightweight and able to hold necessary items.
**Negative aspects:**
* **Durability:** Concerns regarding the zipper breaking and water bottle holder
ripping raise questions about the backpack's overall durability.
* **Size:** A few reviewers found the backpack smaller than expected.
* **Material:** One user felt the material was cheap and expressed concern about
its longevity.
**Summary:**
This backpack seems to be stylish and appreciated for its organization and
suitability for travel and school. However, you should be aware of potential
durability issues with the zippers and water bottle holder. Some users also
found the backpack smaller than anticipated and expressed concerns about the
material's quality.
Limites de jetons
Un grand nombre d'avis peut atteindre la limite de jetons du modèle. Les jetons ne sont pas toujours égaux à un seul mot. Ils peuvent être des parties d'un mot ou plusieurs mots ensemble. Par exemple, Gemini Pro est limité à 30 720 jetons. Cela signifie que l'invite peut inclure au maximum 600 avis en anglais de 30 mots en moyenne, moins le reste des instructions de l'invite.
Utilisez countTokens()
pour vérifier le nombre de jetons et réduire l'entrée si l'invite est plus longue que la limite autorisée.
const MAX_INPUT_TOKENS = 30720
const { totalTokens } = await model.countTokens(prompt);
if (totalTokens > MAX_INPUT_TOKENS) {
// Shorten the prompt.
}
Concevoir des applications pour les entreprises
Si vous utilisez Google Cloud ou si vous avez besoin d'une assistance professionnelle, vous pouvez accéder à Gemini Pro et à d'autres modèles, tels que les modèles Claude d'Anthropic, avec Vertex AI. Vous pouvez utiliser Model Garden pour déterminer le modèle le mieux adapté à votre cas d'utilisation spécifique.
Étapes suivantes
L'application que nous avons développée repose fortement sur des avis de qualité pour fournir les résumés les plus efficaces. Pour collecter ces avis de qualité, consultez l'article suivant de cette série intitulé Aider les utilisateurs à rédiger des avis sur les produits utiles grâce à l'IA Web sur l'appareil.
Nous aimerions connaître votre avis sur cette approche. Indiquez-nous les cas d'utilisation qui vous intéressent le plus. Vous pouvez partager vos commentaires et rejoindre le programme Preview anticipé pour tester cette technologie avec des prototypes locaux.
Votre contribution peut nous aider à faire de l'IA un outil puissant, mais pratique, pour tous.
Étape suivante: Aidez les utilisateurs à rédiger des avis sur les produits utiles