公開日: 2024 年 5 月 16 日
オンラインで買い物をする際、商品レビューの数や購入可能な商品の数が多すぎて、圧倒されることがあります。こうした情報の中から、実際に自分のニーズに合った製品を見つけるにはどうすればよいですか?
たとえば、仕事用のバックパックを購入するとします。バックパックは、機能、美しさ、実用性のバランスが取れている必要があります。レビューの数が多すぎて、最適なバッグを見つけたかどうかを判断することはほぼ不可能です。AI を使ってノイズを除去し、最適な商品を見つけることができたらどうでしょう?
すべてのレビューの要約と、最も一般的な長所と短所のリストがあると便利です。
これを構築するために、サーバーサイドの生成 AI を使用しています。推論はサーバー上で行われます。
このドキュメントでは、Node.js での Gemini API のチュートリアルに沿って、Google AI JavaScript SDK を使用して多くのレビューのデータを要約します。ここでは、この作業の生成 AI の部分に焦点を当てます。結果の保存方法やジョブキューの作成方法については説明しません。
実際には、任意の LLM API を任意の SDK で使用できます。ただし、選択したモデルに合わせて、提案されたプロンプトを調整する必要がある場合があります。
前提条件
Gemini API のキーを作成し、環境ファイルで定義します。
Google AI JavaScript SDK をインストールします(npm などを使用)。
npm install @google/generative-ai
レビュー サマライザー アプリケーションを作成する
- 生成 AI オブジェクトを初期化します。
- レビューの要約を生成する関数を作成します。
- 生成 AI モデルを選択します。このユースケースでは、Gemini Pro を使用します。ユースケースに固有のモデルを使用します(
gemini-pro-vision
はマルチモーダル入力用です)。 - プロンプトを追加します。
generateContent
を呼び出して、プロンプトを引数として渡します。- レスポンスを生成して返します。
- 生成 AI モデルを選択します。このユースケースでは、Gemini Pro を使用します。ユースケースに固有のモデルを使用します(
const { GoogleGenerativeAI } = require("@google/generative-ai");
// Access the API key env
const genAI = new GoogleGenerativeAI(process.env.API_KEY_GEMINI);
async function generateReviewSummary(reviews) {
// Use gemini-pro model for text-only input
const model = genAI.getGenerativeModel({ model: "gemini-pro" });
// Shortened for legibility. See "Write an effective prompt" for
// writing an actual production-ready prompt.
const prompt = `Summarize the following product reviews:\n\n${reviews}`;
const result = await model.generateContent(prompt);
const response = await result.response;
const summary = response.text();
return summary;
}
効果的なプロンプトを作成する
生成 AI を成功させる最善の方法は、詳細なプロンプトを作成することです。この例では、ワンショット プロンプト手法を使用して、一貫した出力を取得しています。
ワンショット プロンプトは、Gemini がモデル化する出力例で表されます。
const prompt =
`I will give you user reviews for a product. Generate a short summary of the
reviews, with focus on the common positive and negative aspects across all of
the reviews. Use the exact same output format as in the example (list of
positive highlights, list of negative aspects, summary). In the summary,
address the potential buyer with second person ("you", "be aware").
Input (list of reviews):
// ... example
Output (summary of reviews):
// ... example
**Positive highlights**
// ... example
**Negative aspects**
// ... example
**Summary**
// ... example
Input (list of reviews):
${reviews}
Output (summary of all input reviews):`;
このプロンプトからの出力例を次に示します。すべてのレビューの概要と、一般的な長所と短所のリストが含まれています。
## Summary of Reviews:
**Positive highlights:**
* **Style:** Several reviewers appreciate the backpack's color and design.
* **Organization:** Some users love the compartments and find them useful for
organization.
* **Travel & School:** The backpack seems suitable for both travel and school
use, being lightweight and able to hold necessary items.
**Negative aspects:**
* **Durability:** Concerns regarding the zipper breaking and water bottle holder
ripping raise questions about the backpack's overall durability.
* **Size:** A few reviewers found the backpack smaller than expected.
* **Material:** One user felt the material was cheap and expressed concern about
its longevity.
**Summary:**
This backpack seems to be stylish and appreciated for its organization and
suitability for travel and school. However, you should be aware of potential
durability issues with the zippers and water bottle holder. Some users also
found the backpack smaller than anticipated and expressed concerns about the
material's quality.
トークンの上限
レビューが多すぎると、モデルのトークン上限に達する可能性があります。トークンは必ずしも単一の単語とは限りません。トークンは単語の一部である場合や、複数の単語を組み合わせたものである場合もあります。たとえば、Gemini Pro ではトークンの上限が 30,720 個です。つまり、プロンプトの指示の残りの部分を差し引いた、英語での平均 30 単語のレビューを最大 600 件まで含めることができます。
countTokens()
を使用してトークン数を確認し、プロンプトが許可されているサイズを超えている場合は入力を減らします。
const MAX_INPUT_TOKENS = 30720
const { totalTokens } = await model.countTokens(prompt);
if (totalTokens > MAX_INPUT_TOKENS) {
// Shorten the prompt.
}
企業向けの開発
Google Cloud ユーザーである場合や、エンタープライズ サポートが必要な場合は、Vertex AI を使用して Gemini Pro や、Anthropic の Claude モデルなどのモデルにアクセスできます。Model Garden を使用して、特定のユースケースに最適なモデルを決定できます。
次のステップ
作成したアプリケーションは、品質レビューを重視して最も効果的な要約を提供します。質の高いレビューを収集するには、このシリーズの次の記事「オンデバイスのウェブ AI を使用してユーザーが有用な商品レビューを書けるようにする」をご覧ください。
このアプローチについて、皆様のご意見をお聞かせください。最も関心のあるユースケースを教えてくださいフィードバックを共有して早期プレビュー プログラムに参加し、ローカル プロトタイプでこのテクノロジーをテストできます。
皆様のご協力は、AI をすべての人にとってパワフルでありながら実用的なツールにするために役立っています。