Quando si fa acquisti online, vedere il volume del prodotto può essere molto complicato recensioni e il volume di prodotti disponibili. Come possiamo ordinare tutti questo rumore per trovare il prodotto che soddisferà effettivamente le nostre esigenze specifiche?
Supponiamo, ad esempio, di voler acquistare uno zaino da lavoro. Gli zaini devono soddisfare equilibrio tra funzione, estetica e praticità. Il numero di recensioni genera è quasi impossibile sapere se hai trovato la borsa perfetta. E se potessimo usare l'IA per vagliare gli elementi e trovare il prodotto perfetto?
Ciò che sarebbe utile è un riepilogo di tutte le recensioni insieme a un elenco delle pro e contro.
Per crearlo, utilizziamo l'IA generativa lato server. L'inferenza avviene su un server.
In questo documento puoi seguire un tutorial per API Gemini con Node.js, utilizzando l'SDK JavaScript dell'IA di Google per riepilogare i dati di molte recensioni. Ci concentriamo sulla parte dell'IA generativa di questo lavoro; non tratteremo come archiviare i risultati o creare una coda di job.
In pratica, potresti utilizzare qualsiasi API LLM con qualsiasi SDK. Tuttavia, potrebbe essere necessario adattare il prompt suggerito per soddisfare il modello scelto.
Prerequisiti
Creare una chiave per l'API Gemini, e la definisci nel file di ambiente.
Installa l'SDK Google AI JavaScript, ad esempio con npm:
npm install @google/generative-ai
Crea un'applicazione per il generatore di riassunti delle recensioni
- Inizializzare un oggetto di IA generativa.
- Crea una funzione per generare riepiloghi delle recensioni.
- Seleziona il modello di IA generativa. Per il nostro caso d'uso, utilizzeremo Gemini Pro. Utilizza le funzionalità di
un modello specifico per il tuo caso d'uso (ad esempio,
gemini-pro-vision
per l'input multimodale). - Aggiungi un prompt.
- Richiama
generateContent
per passare il prompt come argomento. - Genera e restituisci la risposta.
- Seleziona il modello di IA generativa. Per il nostro caso d'uso, utilizzeremo Gemini Pro. Utilizza le funzionalità di
un modello specifico per il tuo caso d'uso (ad esempio,
const { GoogleGenerativeAI } = require("@google/generative-ai");
// Access the API key env
const genAI = new GoogleGenerativeAI(process.env.API_KEY_GEMINI);
async function generateReviewSummary(reviews) {
// Use gemini-pro model for text-only input
const model = genAI.getGenerativeModel({ model: "gemini-pro" });
// Shortened for legibility. See "Write an effective prompt" for
// writing an actual production-ready prompt.
const prompt = `Summarize the following product reviews:\n\n${reviews}`;
const result = await model.generateContent(prompt);
const response = await result.response;
const summary = response.text();
return summary;
}
Scrivi un prompt efficace
Il modo migliore per avere successo con l'IA generativa è creare un prompt accurato. In questo esempio, abbiamo utilizzato la tecnica di prompt one-shot per ottenere output coerenti.
I prompt one-shot sono rappresentati dall'output di esempio che Gemini deve modellare.
const prompt =
`I will give you user reviews for a product. Generate a short summary of the
reviews, with focus on the common positive and negative aspects across all of
the reviews. Use the exact same output format as in the example (list of
positive highlights, list of negative aspects, summary). In the summary,
address the potential buyer with second person ("you", "be aware").
Input (list of reviews):
// ... example
Output (summary of reviews):
// ... example
**Positive highlights**
// ... example
**Negative aspects**
// ... example
**Summary**
// ... example
Input (list of reviews):
${reviews}
Output (summary of all input reviews):`;
Ecco un output di esempio di questo prompt, che include un riepilogo di tutti e recensioni, insieme a un elenco di pro e contro.
## Summary of Reviews:
**Positive highlights:**
* **Style:** Several reviewers appreciate the backpack's color and design.
* **Organization:** Some users love the compartments and find them useful for
organization.
* **Travel & School:** The backpack seems suitable for both travel and school
use, being lightweight and able to hold necessary items.
**Negative aspects:**
* **Durability:** Concerns regarding the zipper breaking and water bottle holder
ripping raise questions about the backpack's overall durability.
* **Size:** A few reviewers found the backpack smaller than expected.
* **Material:** One user felt the material was cheap and expressed concern about
its longevity.
**Summary:**
This backpack seems to be stylish and appreciated for its organization and
suitability for travel and school. However, you should be aware of potential
durability issues with the zippers and water bottle holder. Some users also
found the backpack smaller than anticipated and expressed concerns about the
material's quality.
Limiti di token
Molte revisioni possono raggiungere il limite di token del modello. I token non corrispondono sempre una sola parola; un token può essere parte di una parola o più parole insieme. Per Ad esempio, Gemini Pro ha con un limite di 30.720 token. Ciò significa che il prompt può includere al massimo 600 Recensioni di 30 parole in inglese, meno il resto delle istruzioni del prompt.
Utilizza countTokens()
per verificare il numero di token e ridurre l'input se il prompt è maggiore di
consentito.
const MAX_INPUT_TOKENS = 30720
const { totalTokens } = await model.countTokens(prompt);
if (totalTokens > MAX_INPUT_TOKENS) {
// Shorten the prompt.
}
Pensato per le aziende
Se sei un utente di Google Cloud o hai bisogno di assistenza per le aziende, puoi accedere a Gemini Pro e ad altri modelli, come i modelli Claude di Anthropic, con Vertex AI. È consigliabile utilizzare Model Garden per determinare quale modello al tuo caso d'uso specifico.
Passaggi successivi
L'applicazione che abbiamo creato fa molto affidamento sulle revisioni della qualità per fornire riassunti efficaci. Per raccogliere le recensioni sulla qualità, leggi l'articolo successivo in questa serie è Aiuta gli utenti a scrivere recensioni utili sui prodotti con l'IA web sul dispositivo.
Vogliamo conoscere la tua opinione su questo approccio. Indicaci i casi d'uso più frequenti ti interessano. Puoi condividi il tuo feedback e partecipa al programma di anteprima per testare questa tecnologia con prototipi locali.
Il tuo contributo può aiutarci a rendere l'IA uno strumento potente e al contempo pratico per per tutti.
Passaggio successivo: aiutare gli utenti a scrivere recensioni utili sui prodotti