Jak włączyć wbudowane AI w Google Chrome? (Gemini Nano)

Wstęp

Modele językowe dostarczane są w różnych rozmiarach i wariantach. W zależności od potrzeb, możemy decydować się na najbardziej potężne modele, dostępne poprzez usługi takie jak ChatGPT, ale możemy również eksperymentować z mniejszymi modelami, które są dostępne np. w przeglądarkach internetowych.

Google, jako jeden z liderów segmentu AI, postanowił niedawno udostępnić najmniejszy model z rodziny Gemini w swojej przeglądarce Chrome. W tym artykule opiszę, jak włączyć wbudowany model językowy Gemini Nano w Google Chrome i rozpocząć pracę z tym narzędziem.

Nowa wersja Chrome

Testowanie Gemini Nano w Google Chrome wymaga zainstalowania specjalnej wersji przeglądarki. Możesz zdecydować się na jedną z dwóch opcji - Canary (codzienna migawka bieżącego developmentu) lub Dev (migawka aktualizowana 1-2 razy w tygodniu):

Canary build: Canary builds are the bleeding edge. Released daily, this build has not been tested or used, it’s released as soon as it’s built.

Dev channel: If you want to see what’s happening quickly, then you want the Dev channel. The Dev channel gets updated once or twice weekly, and it shows what we’re working on right now. There’s no lag between major versions, whatever code we’ve got, you will get. While this build does get tested, it is still subject to bugs, as we want people to see what’s new as soon as possible.

Zacznij od pobrania odpowiedniej wersji - ja zdecydowałem się na wersję Dev:

• Chrome Canary: https://www.google.com/intl/pl/chrome/canary/
• Chrome Dev: https://www.google.com/intl/pl/chrome/dev/

Włączanie wbudowanego AI

Po zainstalowaniu odpowiedniej wersji Chrome możemy przejść do włączenia flag, które pozwolą na promptowanie Gemini Nano. W tym celu otwieramy nową kartę i wpisujemy w pasku adresu bezpośrednie linki do dwóch ustawień developerskich (na dzień pisania tego artykułu nie znalazłem ich w stabilnej wersji Chrome):

chrome://flags/#prompt-api-for-gemini-nano (Enable)
chrome://flags/#optimization-guide-on-device-model (Enable BypassPerfRequirement)

Po ich włączeniu, w konsoli będzie już dostępny obiekt window.ai, ale sam model musimy pobrać jako osobny komponent. Wchodzimy na dedykowaną zakładkę i pobieramy Optimization Guide On Device Model:

chrome://components/ - Optimization Guide On Device Model

Pobieranie modelu potrwa kilka minut, ale po zakończeniu będziemy mogli korzystać z wbudowanego AI w Google Chrome.

Promptowanie modelu

Dostęp do modelu uzyskujemy poprzez obiekt window.ai - możemy go wykorzystać do tworzenia sesji tekstowych i promptowania modelu. Poniżej znajdziesz przykładowy kod, który wykorzystuje wbudowany model do generowania tekstu.

const nano = await window.ai.createTextSession();
await nano.prompt('Przywitaj się z czytelnikami bloga Opanuj.AI');

//=> Cześć! Z przyjemnością witam Cię na blogu Opanuj.AI. Zgromadziliśmy tu cenne informacje i porady dotyczące uczenia się i podnoszenia kompetencji w różnych dziedzinach.

Odpowiedzi nie zawsze są poprawne gramatycznie, ale wystarczą do eksperymentów z wbudowanym modelem językowym. Warto zaznaczyć, że model jest w pełni działający po stronie klienta, co oznacza, że nie wysyła żadnych danych do zewnętrznych serwerów i może działać w trybie offline!

Obszerne testy już wkrótce na naszym kanale Youtube - obserwujcie Przeprogramowanych aby ich nie przegapić, a także zapisujcie się na Newsletter. Gwarantujemy zero spamu i 3 wartościowe linki o AI w każdy poniedziałek (formularz zapisów poniżej) 👇