Rezensionen mit KI auswerten

Maud Nalpas

Kenji Baheux

Alexandra Klepper

Veröffentlicht am 16. Mai 2024

Beim Online-Shopping kann die große Anzahl an Produktrezensionen und verfügbaren Produkten überwältigend sein. Wie können wir uns durch all diese Informationen arbeiten, um das Produkt zu finden, das unseren spezifischen Anforderungen entspricht?

Nehmen wir an, wir suchen einen Rucksack für die Arbeit. Rucksäcke müssen eine Balance zwischen Funktion, Ästhetik und Praktikabilität bieten. Aufgrund der Anzahl der Rezensionen ist es fast unmöglich zu wissen, ob man den perfekten Rucksack gefunden hat. Was wäre, wenn wir KI nutzen könnten, um die Informationen zu filtern und das perfekte Produkt zu finden?

Hilfreich wäre eine Zusammenfassung aller Rezensionen sowie eine Liste der häufigsten Vor- und Nachteile.

Dazu verwenden wir serverseitige generative KI. Die Inferenz erfolgt auf einem Server.

In diesem Dokument können Sie eine Anleitung für die Gemini API mit Node.js verwenden, wobei das Google AI JavaScript SDK verwendet wird, um Daten aus vielen Rezensionen zusammenzufassen. Wir konzentrieren uns auf den Teil der generativen KI dieser Arbeit. Wie Sie Ergebnisse speichern oder eine Jobwarteschlange erstellen, wird hier nicht behandelt.

In der Praxis können Sie jede LLM API mit jedem SDK verwenden. Der vorgeschlagene Prompt muss jedoch möglicherweise an das von Ihnen ausgewählte Modell angepasst werden.

Vorbereitung

1. Erstellen Sie einen Schlüssel für die Gemini API, und definieren Sie ihn in Ihrer Umgebungsdatei.

2. Installieren Sie das Google AI JavaScript SDK, z. B. mit npm: npm install @google/generative-ai

Anwendung zur Zusammenfassung von Rezensionen erstellen

1. Initialisieren Sie ein generatives KI-Objekt.
2. Erstellen Sie eine Funktion zum Generieren von Zusammenfassungen von Rezensionen.
   1. Wählen Sie das generative KI-Modell aus. Für unseren Anwendungsfall verwenden wir Gemini Pro. Verwenden Sie ein Modell, das speziell für Ihren Anwendungsfall entwickelt wurde (z. B. gemini-pro-vision für multimodale Eingaben).
   2. Fügen Sie einen Prompt hinzu.
   3. Rufen Sie generateContent auf, um den Prompt als Argument zu übergeben.
   4. Generieren Sie die Antwort und geben Sie sie zurück.

const { GoogleGenerativeAI } = require("@google/generative-ai");

// Access the API key env
const genAI = new GoogleGenerativeAI(process.env.API_KEY_GEMINI);

async function generateReviewSummary(reviews) {
  // Use gemini-pro model for text-only input
  const model = genAI.getGenerativeModel({ model: "gemini-pro" });
  // Shortened for legibility. See "Write an effective prompt" for
  // writing an actual production-ready prompt.
  const prompt = `Summarize the following product reviews:\n\n${reviews}`;
  const result = await model.generateContent(prompt);
  const response = await result.response;
  const summary = response.text();
  return summary;
}

Effektiven Prompt schreiben

Der beste Weg, generative KI erfolgreich einzusetzen, ist die Erstellung eines umfassenden Prompts. In diesem Beispiel haben wir die One-Shot-Prompting -Technik verwendet, um konsistente Ausgaben zu erhalten.

Das One-Shot-Prompting wird durch die Beispielausgabe für Gemini dargestellt.

const prompt =
`I will give you user reviews for a product. Generate a short summary of the
reviews, with focus on the common positive and negative aspects across all of
the reviews. Use the exact same output format as in the example (list of
positive highlights, list of negative aspects, summary). In the summary,
address the potential buyer with second person ("you", "be aware").

Input (list of reviews):
// ... example

Output (summary of reviews):
// ... example

**Positive highlights**
// ... example
**Negative aspects**
// ... example
**Summary**
// ... example

Input (list of reviews):
${reviews}

Output (summary of all input reviews):`;

Hier sehen Sie ein Beispiel für eine Ausgabe dieses Prompts, die eine Zusammenfassung aller Rezensionen sowie eine Liste der häufigsten Vor- und Nachteile enthält.

## Summary of Reviews:

**Positive highlights:**

* **Style:** Several reviewers appreciate the backpack's color and design.
* **Organization:** Some users love the compartments and find them useful for
  organization.
* **Travel & School:** The backpack seems suitable for both travel and school
  use, being lightweight and able to hold necessary items.

**Negative aspects:**

* **Durability:** Concerns regarding the zipper breaking and water bottle holder
  ripping raise questions about the backpack's overall durability.
* **Size:** A few reviewers found the backpack smaller than expected.
* **Material:** One user felt the material was cheap and expressed concern about
  its longevity.

**Summary:**

This backpack seems to be stylish and appreciated for its organization and
suitability for travel and school. However, you should be aware of potential
durability issues with the zippers and water bottle holder. Some users also
found the backpack smaller than anticipated and expressed concerns about the
material's quality.

Token limits

Bei vielen Rezensionen kann das Tokenlimit des Modells erreicht werden. Tokens entsprechen nicht immer einem einzelnen Wort. Ein Token kann aus Teilen eines Worts oder mehreren Wörtern bestehen. Zum Beispiel hat Gemini Pro ein Tokenlimit von 30.720. Das bedeutet, dass der Prompt maximal 600 durchschnittliche Rezensionen mit 30 Wörtern in englischer Sprache enthalten kann, abzüglich der restlichen Prompt-Anweisungen.

Verwenden Sie countTokens() um die Anzahl der Tokens zu prüfen und die Eingabe zu reduzieren, wenn der Prompt größer als zulässig ist.

const MAX_INPUT_TOKENS = 30720
const { totalTokens } = await model.countTokens(prompt);
if (totalTokens > MAX_INPUT_TOKENS) {
    // Shorten the prompt.
}

Für Unternehmen entwickeln

Wenn Sie Google Cloud-Nutzer sind oder anderweitig Support für Unternehmen benötigen, können Sie mit der Gemini Enterprise Agent Platform auf Gemini Pro und weitere Modelle wie die Claude-Modelle von Anthropic zugreifen. Im Model Garden können Sie herausfinden, welches Modell am besten zu Ihrem spezifischen Anwendungsfall passt.

Nächste Schritte

Die von uns entwickelte Anwendung ist stark auf hochwertige Rezensionen angewiesen, um die effektivsten Zusammenfassungen zu liefern. Informationen zum Erfassen dieser hochwertigen Rezensionen finden Sie im nächsten Artikel dieser Reihe: Nutzern helfen, nützliche Produktrezensionen mit Web-KI auf dem Gerät zu schreiben.

Wir freuen uns auf Ihr Feedback zu diesem Ansatz. Teilen Sie uns mit, welche Anwendungsfälle Sie am meisten interessieren. Sie können uns Feedback geben und am Early Preview Program teilnehmen, um diese Technologie mit lokalen Prototypen zu testen.

Ihr Beitrag kann uns helfen, KI zu einem leistungsstarken und dennoch praktischen Tool für alle zu machen.

Nächster Schritt: Nutzern helfen, nützliche Produktrezensionen zu schreiben