Ringkasan di Chrome dengan AI bawaan

Thomas Steiner

Dipublikasikan: 11 November 2024

Bayangkan Anda dapat menawarkan kemampuan kepada pengguna untuk menyaring artikel panjang, dokumen kompleks, atau bahkan percakapan chat yang aktif menjadi ringkasan yang ringkas dan mendalam.

Summarizer API dapat digunakan untuk membuat berbagai jenis ringkasan dalam berbagai panjang dan format, seperti kalimat, paragraf, daftar poin, dan lainnya. Kami yakin API ini berguna dalam skenario berikut:

  • Meringkas poin-poin penting dari artikel atau percakapan chat.
  • Menyarankan judul dan heading untuk artikel.
  • Membuat ringkasan singkat dan informatif dari teks yang panjang.
  • Membuat teaser untuk buku berdasarkan ulasan buku.

Ketersediaan

  • Ikuti uji coba origin Summarizer API, yang berjalan dari Chrome 131 hingga Chrome 136, untuk menguji API dengan pengguna sungguhan dalam produksi. Uji coba origin mengaktifkan fitur untuk semua pengguna di origin Anda di Chrome. Pelajari cara memulai uji coba origin.
    • Meskipun mungkin ada batasan penggunaan, Anda dapat mengintegrasikan fitur ini untuk pengujian langsung dan mengumpulkan masukan pengguna. Tujuannya adalah untuk menginformasikan iterasi API ini di masa mendatang, karena kami berupaya untuk memperluas ketersediaannya.
  • Ikuti penerapan kami di Status Chrome.
  • Proposal Summarizer API adalah bagian dari rangkaian API penulisan, dan terbuka untuk diskusi.
  • Bergabunglah dengan program pratinjau awal untuk melihat sekilas API AI bawaan baru dan akses ke diskusi di mailing list kami.

Batasan selama uji coba origin

Selama uji coba origin, Summarizer API hanya mendukung peringkasan teks bahasa Inggris karena kualitas model hanya diuji secara menyeluruh pada konten bahasa Inggris. Kami bermaksud mencabut batasan ini setelah menguji bahasa tambahan untuk memastikan kualitas dan keamanan, dan API ini sudah tersedia secara luas.

Menggunakan Summarizer API

Pertama, jalankan deteksi fitur untuk melihat apakah browser mendukung Summarizer API.

if ('ai' in self && 'summarizer' in self.ai) {
  // The Summarizer API is supported.
}

Download model

Summarizer API menggunakan model AI canggih yang dilatih untuk menghasilkan ringkasan berkualitas tinggi. Meskipun API di-build ke dalam Chrome, model didownload secara terpisah saat pertama kali situs menggunakan API.

Untuk menentukan apakah model siap digunakan, panggil fungsi ai.summarizer.capabilities() asinkron. API ini menampilkan objek AISummarizerCapabilities dengan kolom available yang dapat memiliki tiga kemungkinan nilai:

  • no: Browser saat ini mendukung Summarizer API, tetapi tidak dapat digunakan saat ini. Hal ini mungkin karena beberapa alasan, seperti kapasitas disk yang tersedia tidak cukup untuk mendownload model.
  • readily: Browser saat ini mendukung Summarizer API, dan dapat langsung digunakan.
  • after-download: Browser saat ini mendukung Summarizer API, tetapi browser tersebut harus mendownload model terlebih dahulu.

Untuk memicu download model dan membuat peringkas, panggil fungsi ai.summarizer.create() asinkron. Jika respons untuk capabilities() adalah after-download, praktik terbaiknya adalah memproses progres download. Dengan cara ini, Anda dapat memberi tahu pengguna jika download memerlukan waktu.

const summarizer = await ai.summarizer.create({
  monitor(m) {
    m.addEventListener('downloadprogress', (e) => {
      console.log(`Downloaded ${e.loaded} of ${e.total} bytes.`);
    });
  }
});

Fungsi API

Fungsi create() memungkinkan Anda mengonfigurasi objek peringkas baru sesuai kebutuhan Anda. Fungsi ini memerlukan objek options opsional dengan parameter berikut:

  • sharedContext: Konteks bersama tambahan yang dapat membantu pembuat ringkasan.
  • type: Jenis ringkasan, dengan nilai yang diizinkan key-points (default), tl;dr, teaser, dan headline.
  • format: Format ringkasan, dengan nilai yang diizinkan markdown (default), dan plain-text.
  • length: Panjang ringkasan, dengan nilai yang diizinkan short, medium (default), dan long. Makna panjang ini bervariasi, bergantung pada type yang diminta. Misalnya, dalam penerapan Chrome, ringkasan poin penting singkat terdiri dari tiga poin-poin, dan ringkasan singkat adalah satu kalimat; ringkasan poin penting panjang adalah tujuh poin-poin, dan ringkasan panjang adalah paragraf.

Contoh berikut menunjukkan cara melakukan inisialisasi peringkas.

const options = {
  sharedContext: 'This is a scientific article',
  type: 'key-points',
  format: 'markdown',
  length: 'medium',
};

const available = (await self.ai.summarizer.capabilities()).available;
let summarizer;
if (available === 'no') {
  // The Summarizer API isn't usable.
  return;
}
if (available === 'readily') {
  // The Summarizer API can be used immediately .
  summarizer = await self.ai.summarizer.create(options);
} else {
  // The Summarizer API can be used after the model is downloaded.
  summarizer = await self.ai.summarizer.create(options);
  summarizer.addEventListener('downloadprogress', (e) => {
    console.log(e.loaded, e.total);
  });
  await summarizer.ready;
}

Menjalankan peringkas

Ada dua cara untuk menjalankan pembuat ringkasan: streaming dan non-streaming.

Ringkasan non-streaming

Dengan ringkasan non-streaming, model memproses input secara keseluruhan, lalu menghasilkan output.

Untuk mendapatkan ringkasan non-streaming, panggil fungsi summarize() asinkron ringkasan. Argumen pertama untuk fungsi ini adalah teks yang ingin Anda ringkas. Argumen kedua yang bersifat opsional adalah objek dengan kolom context. Kolom ini memungkinkan Anda menambahkan detail latar belakang yang dapat meningkatkan ringkasan.

const longText = document.querySelector('article').innerHTML;
const summary = await summarizer.summarize(longText, {
  context: 'This article is intended for a tech-savvy audience.',
});

Ringkasan streaming

Fitur ringkasan streaming menawarkan hasil secara real-time. Output akan diperbarui terus-menerus saat input ditambahkan dan disesuaikan.

Untuk mendapatkan ringkasan streaming, panggil fungsi summarizeStreaming() ringkasan. Kemudian, iterasi segmen teks yang tersedia di aliran.

let result = '';
let previousChunk = '';
for await (const chunk of stream) {
  const newChunk = chunk.startsWith(previousChunk)
      ? chunk.slice(previousChunk.length) : chunk;
  console.log(newChunk);
  result += newChunk;
  previousChunk = chunk;
}
console.log(result);

summarizeStreaming() menampilkan ReadableStream, dengan segmen respons yang dibuat secara berurutan satu sama lain. Artinya, setiap respons berisi seluruh ringkasan yang dihasilkan hingga titik tersebut, bukan hanya segmen berikutnya, yang bukan perilaku yang diinginkan.

Kami ingin menyesuaikan dengan API streaming lainnya di platform, dengan segmen adalah bagian berturut-turut dari satu streaming panjang. Untuk saat ini, untuk mencapai perilaku yang diinginkan, Anda dapat menerapkan hal berikut:

let result = '';
let previousLength = 0;
for await (const segment of stream) {
  const newContent = segment.slice(previousLength);
  console.log(newContent);
  previousLength = segment.length;  
  result += newContent;
}
console.log(result);

Demo

Anda dapat mencoba Summarizer API di Summarizer API Playground.

Upaya standardisasi

Kami sedang berupaya menstandarkan Summarizer API, untuk memastikan kompatibilitas lintas browser.

Proposal API kami menerima dukungan komunitas dan telah dipindahkan ke Grup Komunitas Inkubator Web W3C untuk diskusi lebih lanjut. Tim Chrome meminta masukan dari W3C Technical Architecture Group, dan meminta Mozilla dan WebKit untuk posisi standar mereka.

Berpartisipasi dan memberikan masukan

Mulai uji Summarizer API sekarang dengan bergabung ke uji coba origin dan berikan masukan Anda. Input Anda dapat langsung memengaruhi cara kami mem-build dan menerapkan versi API ini pada masa mendatang, dan semua API AI bawaan.