Yerleşik AI

Kenji Baheux
Kenji Baheux
Alexandra Klepper
Alexandra Klepper

Yayınlanma tarihi: 14 Mayıs 2024, Son güncelleme tarihi: 26 Mayıs 2026

Tarayıcıda yerleşik olarak bulunan web platformu API'leri ve tarayıcı özellikleri geliştiriyoruz. Bu API'ler ve özellikler, yapay zeka modelleri, uzman modelleri ve büyük dil modelleri (LLM'ler) ile çalışmak üzere tasarlanmıştır. Yerleşik yapay zeka sayesinde web siteniz veya web uygulamanız, modelleri dağıtmanıza, yönetmenize ya da kendi kendine barındırmanıza gerek kalmadan yapay zeka destekli görevleri gerçekleştirebilir.

Yerleşik yapay zekanın avantajlarını, uygulama planımızı ve bu araçları nasıl kullanmaya başlayabileceğinizi keşfedin.

Web'de yapay zeka konusunda yeniyseniz Web'de Yapay Zeka Sözlüğü ve Kavramları başlıklı makalemizi okuyun.

Web geliştiricileri için yerleşik yapay zekanın avantajları

Tarayıcınız, yerleşik yapay zeka sayesinde temel ve uzman modelleri sağlar ve yönetir.

Yerleşik yapay zeka sayesinde web siteniz, tarayıcı API'leri aracılığıyla yerel işlemciye (CPU, GPU veya NPU) bağlanır. Ardından, yanıt gönderen yerel bir modelle iletişim kurar. API, yanıtı döndürür.

Yerleşik yapay zeka aşağıdaki avantajları sunar:

  • Kolay dağıtım: Tarayıcı, modelleri dağıtırken cihaz özelliklerini dikkate alır ve güncellemeleri yönetir. Bu nedenle, büyük modelleri ağ üzerinden indirip güncellemekten sorumlu değilsiniz. Depolama alanı boşaltma, çalışma zamanı bellek bütçesi, yayınlama maliyetleri ve diğer zorlukları çözmeniz gerekmez.
  • Donanım hızlandırmaya erişim: Tarayıcının yapay zeka çalışma zamanı, GPU veya NPU ile ya da CPU'ya geri dönerek mevcut donanımdan en iyi şekilde yararlanmak için optimize edilmiştir. Sonuç olarak, uygulamanız her cihazda en iyi performansı elde edebilir.

İstemci tarafında çalıştırmanın avantajları

Yerleşik yapay zeka ile yapay zeka istemci tarafı işlemlerini gerçekleştirebilirsiniz. Bu sayede şu avantajlardan yararlanabilirsiniz:

  • Hassas verilerin yerel olarak işlenmesi: İstemci taraflı yapay zeka, gizlilikle ilgili hikayenizi iyileştirebilir. Örneğin, hassas verilerle çalışıyorsanız uçtan uca şifreleme kullanan kullanıcılara yapay zeka özellikleri sunabilirsiniz.
  • Hızlı kullanıcı deneyimi: Bazı durumlarda sunucuya gidiş dönüş yolculuğunu ortadan kaldırmak, neredeyse anında sonuçlar sunabileceğiniz anlamına gelir. İstemci tarafı yapay zeka, uygulanabilir bir özellik ile ideal olmayan bir kullanıcı deneyimi arasındaki farkı belirleyebilir.
  • Yapay zekaya daha fazla erişim: Kullanıcılarınızın cihazları, özelliklere daha fazla erişim karşılığında işlem yükünün bir kısmını üstlenebilir. Örneğin, premium yapay zeka özellikleri sunuyorsanız bu özellikleri istemci tarafı yapay zeka ile önizleyerek potansiyel müşterilerin ürününüzün avantajlarını ek maliyet olmadan görmesini sağlayabilirsiniz. Bu karma yaklaşım, özellikle sık kullanılan kullanıcı akışlarında çıkarım maliyetlerini yönetmenize de yardımcı olabilir.
  • Çevrimdışı yapay zeka kullanımı: Kullanıcılarınız internet bağlantısı olmasa bile yapay zeka özelliklerine erişebilir. Bu sayede siteleriniz ve web uygulamalarınız çevrimdışı olarak veya değişken bağlantı ile beklendiği gibi çalışabilir.

Karma yapay zeka: İstemci tarafı ve sunucu tarafı

İstemci tarafı yapay zeka çok çeşitli kullanım alanlarını destekleyebilir ancak bazı kullanım alanları için sunucu tarafı destek gerekir. Sunucu tarafında yapay zeka, büyük modeller için harika bir seçenektir ve daha geniş bir platform ve cihaz yelpazesini destekleyebilir.

Uygulamanızın aşağıdaki özellikleri gerektirmesi durumunda karma bir yaklaşım kullanabilirsiniz:

  • Karmaşıklık: Belirli ve kolay anlaşılır kullanım alanları, cihaz üzerinde yapay zeka ile daha kolay desteklenir. Karmaşık kullanım alanları için sunucu tarafı uygulamayı göz önünde bulundurun.
  • Esneklik: Varsayılan olarak sunucu tarafını kullanın. Cihaz çevrimdışı olduğunda veya bağlantı kesintili olduğunda cihaz üzerinde kullanın.
  • Sorunsuz geri dönüş: Yerleşik yapay zeka özellikli tarayıcıların benimsenmesi zaman alacaktır. Bazı modeller kullanılamayabilir ve eski ya da daha az güçlü cihazlar, tüm modelleri optimum şekilde çalıştırmak için gereken donanım koşullarını karşılamayabilir. Bu kullanıcılar için sunucu tarafında yapay zeka sunun.

Örneğin, yerleşik Prompt API'yi kullanıyorsanız API yalnızca Chrome uzantılarında, Windows, macOS ve Linux'ta kullanılabilir. Tüm kullanıcılarınızın yapay zeka özelliğinizden yararlanabilmesi için Firebase AI Logic ile hibrit bir mimari oluşturun.

Yerleşik yapay zekaya erişme

Yerleşik yapay zeka özelliklerine öncelikle görev API'leri (ör. Translator API veya Summarizer API) ile erişebilirsiniz. Görev API'leri, atama için en iyi modele (dil veya uzman modeli) karşı çıkarım yapacak şekilde tasarlanmıştır.

Yerleşik yapay zeka ne zaman kullanılır?

Yerleşik yapay zekanın size ve kullanıcılarınıza sağlayabileceği avantajlardan bazıları şunlardır:

  • Yapay zeka destekli içerik tüketimi: Özetleme, çeviri, sınıflandırma, karakterizasyon ve bilgi sağlayıcı olarak kullanma dahil.
  • Yapay zeka destekli içerik oluşturma: Yazma yardımı, gözden geçirme, dil bilgisi düzeltme ve yeniden ifade etme gibi.

Yerleşik yapay zeka API'lerinin birçoğu Chrome'un kararlı sürümünde ve kaynak denemelerinde kullanılabilir. Keşif amaçlı API'ler ve erken aşamadaki API'ler, Erken Önizleme Programı (EPP) katılımcıları tarafından kullanılabilir.

Yeni özellikleri önizleme

API'leri kullanım alanlarınıza uygun şekilde şekillendirmek ve standardizasyon için diğer tarayıcı sağlayıcılarla yaptığımız görüşmeleri bilgilendirmek üzere görüşlerinize ihtiyacımız var.

Erken aşamadaki yerleşik yapay zeka fikirleri hakkında geri bildirim vermek ve devam eden API'leri yerel prototipleme yoluyla test etme fırsatlarını keşfetmek için EPP'ye katılın.

Standartlaştırma çalışması

Tarayıcılar arası uyumluluk için bu API'lerin tümünü standartlaştırmak üzere çalışıyoruz.

Language Detector API ve Translator API, W3C WebML Çalışma Grubu tarafından benimsenmiştir. Mozilla ve WebKit'e standartlarla ilgili pozisyonlarını sorduk.

Summarizer API, W3C WebML Çalışma Grubu tarafından benimsenmiştir. Mozilla ve WebKit'e standartlarla ilgili görüşlerini sorduk.