Beim Online-Shopping kann es schwierig sein, die Menge der Produkte zu sehen, Rezensionen und die Anzahl der verfügbaren Produkte. Wie können wir uns durch all diese um das Produkt zu finden, das unsere spezifischen Anforderungen erfüllt?
Angenommen, wir suchen nach einem Arbeitsrucksack. Rucksäcke müssen eine Funktionalität, Ästhetik und Zweckmäßigkeit zu berücksichtigen. Die Anzahl der Rezensionen es fast unmöglich zu wissen, ob Sie die perfekte Tasche gefunden haben. Was wäre, wenn wir KI nutzen, um das perfekte Produkt zu finden?
Hilfreich wäre eine Zusammenfassung aller Rezensionen sowie eine Liste der häufige Vor- und Nachteile.
<ph type="x-smartling-placeholder">Dazu nutzen wir serverseitige generative KI. Die Inferenz erfolgt auf einem Server.
In diesem Dokument finden Sie eine Anleitung für die Gemini API mit Node.js mit dem Google AI JavaScript SDK Daten aus vielen Rezensionen zusammenfassen. Wir konzentrieren uns auf den Teil der generativen KI in dieser Arbeit; geht es um das Speichern von Ergebnissen oder eine Jobwarteschlange erstellen.
In der Praxis können Sie jede LLM API mit einem beliebigen SDK verwenden. Die Der vorgeschlagene Prompt muss möglicherweise an das ausgewählte Modell angepasst werden.
Voraussetzungen
Erstellen Sie einen Schlüssel für die Gemini API. und definieren es in Ihrer Umgebungsdatei.
Installieren Sie das Google AI JavaScript SDK, z. B. mit npm:
npm install @google/generative-ai
Anwendung zum Zusammenfassen von Rezensionen erstellen
- Generative AI-Objekt initialisieren
- Erstellen Sie eine Funktion zum Generieren von Zusammenfassungen von Rezensionen.
- Wählen Sie das Generative-AI-Modell aus. Für unseren Anwendungsfall verwenden wir Gemini Pro. Verwenden Sie
ein Modell, das für Ihren Anwendungsfall spezifisch ist (z. B.
gemini-pro-vision
) für die multimodale Eingabe. - Prompt hinzufügen.
- Rufen Sie
generateContent
auf, um den Prompt als Argument zu übergeben. - Generieren Sie die Antwort und geben Sie sie zurück.
- Wählen Sie das Generative-AI-Modell aus. Für unseren Anwendungsfall verwenden wir Gemini Pro. Verwenden Sie
ein Modell, das für Ihren Anwendungsfall spezifisch ist (z. B.
const { GoogleGenerativeAI } = require("@google/generative-ai");
// Access the API key env
const genAI = new GoogleGenerativeAI(process.env.API_KEY_GEMINI);
async function generateReviewSummary(reviews) {
// Use gemini-pro model for text-only input
const model = genAI.getGenerativeModel({ model: "gemini-pro" });
// Shortened for legibility. See "Write an effective prompt" for
// writing an actual production-ready prompt.
const prompt = `Summarize the following product reviews:\n\n${reviews}`;
const result = await model.generateContent(prompt);
const response = await result.response;
const summary = response.text();
return summary;
}
Effektiven Prompt schreiben
Der beste Weg, um mit generativer KI erfolgreich zu sein, ist ein gründlicher Prompt. In diesem Beispiel haben wir mit der One-Shot-Prompting-Technik für konsistente Ausgaben gesorgt.
One-Shot-Prompts werden durch die Beispielausgabe dargestellt, die Gemini zum Modellieren verwendet.
const prompt =
`I will give you user reviews for a product. Generate a short summary of the
reviews, with focus on the common positive and negative aspects across all of
the reviews. Use the exact same output format as in the example (list of
positive highlights, list of negative aspects, summary). In the summary,
address the potential buyer with second person ("you", "be aware").
Input (list of reviews):
// ... example
Output (summary of reviews):
// ... example
**Positive highlights**
// ... example
**Negative aspects**
// ... example
**Summary**
// ... example
Input (list of reviews):
${reviews}
Output (summary of all input reviews):`;
Hier ist eine Beispielausgabe dieses Prompts, die eine Zusammenfassung aller Rezensionen sowie eine Liste mit häufigen Vor- und Nachteilen.
## Summary of Reviews:
**Positive highlights:**
* **Style:** Several reviewers appreciate the backpack's color and design.
* **Organization:** Some users love the compartments and find them useful for
organization.
* **Travel & School:** The backpack seems suitable for both travel and school
use, being lightweight and able to hold necessary items.
**Negative aspects:**
* **Durability:** Concerns regarding the zipper breaking and water bottle holder
ripping raise questions about the backpack's overall durability.
* **Size:** A few reviewers found the backpack smaller than expected.
* **Material:** One user felt the material was cheap and expressed concern about
its longevity.
**Summary:**
This backpack seems to be stylish and appreciated for its organization and
suitability for travel and school. However, you should be aware of potential
durability issues with the zippers and water bottle holder. Some users also
found the backpack smaller than anticipated and expressed concerns about the
material's quality.
Token limits
Bei vielen Überprüfungen kann das Tokenlimit des Modells erreicht werden. Tokens sind nicht immer gleich aus einem Wort; Ein Token kann aus Teilen eines Wortes bestehen oder aus mehreren Wörtern. Für Beispiel: Gemini Pro hat ein Limit von 30.720 Tokens. Das bedeutet, dass der Prompt im Durchschnitt höchstens 600 Zeichen enthalten kann 30-Wörter-Rezensionen auf Englisch, ohne den Rest der Aufforderungen.
countTokens()
verwenden
um die Anzahl der Tokens zu prüfen und die Eingabe zu reduzieren, wenn die Aufforderung größer ist als
Zulässig sind.
const MAX_INPUT_TOKENS = 30720
const { totalTokens } = await model.countTokens(prompt);
if (totalTokens > MAX_INPUT_TOKENS) {
// Shorten the prompt.
}
Für Unternehmen entwickeln
Wenn Sie Google Cloud-Nutzer sind oder anderweitig Unternehmenssupport benötigen, können Sie auf Gemini Pro und weitere Modelle wie die Claude-Modelle von Anthropic mit Vertex AI Vielleicht möchten Sie Model Garden, mit dem Sie feststellen können, welches Modell am besten zu Ihrem Anwendungsfall passt.
Nächste Schritte
Die von uns entwickelte App stützt sich stark auf Qualitätsprüfungen, effektive Zusammenfassungen. Informationen zum Erfassen dieser Qualitätsbewertungen finden Sie im nächsten Artikel der Diese Reihe ist Helfen Sie Nutzern mit geräteübergreifender Web-KI, hilfreiche Rezensionen zu schreiben.
Wir würden gerne Ihre Meinung zu diesem Ansatz hören. Teilen Sie uns mit, welche Anwendungsfälle am häufigsten verwendet werden. die Sie interessieren könnten. Sie können Feedback geben und am Early Preview-Programm teilnehmen um diese Technologie mit lokalen Prototypen zu testen.
Ihr Beitrag kann uns helfen, KI zu einem leistungsfähigen und zugleich praktischen Tool für für alle.
Nächster Schritt: Nutzern helfen, hilfreiche Rezensionen zu schreiben