Opera z wbudowanym dostępem do LLM – lokalnych modeli AI

Opera dodaje eksperymentalną obsługę 150 lokalnych wariantów LLM (Large Language Model) z około 50 rodzin modeli AI do przeglądarki Opera One w wersji deweloperskiej.

Opera local AI LLM Model

Dzięki temu będzie można po raz pierwszy i to bardzo łatwo uzyskać dostęp do lokalnych LLM oraz zarządzać nimi z poziomu przeglądarki poprzez specjalnie wbudowaną funkcję. Lokalne modele AI stanowią bezpłatny dodatek do Arii – usługi AI Opery. Wśród wspieranych przez Operę lokalnych LLM znajdują się:

  • Lama – sztuczna inteligencja Mety
  • Vicuna
  • Gemma Google’a
  • Mixtral od Mistral AI
  • i wiele innych

Korzystanie z lokalnych dużych modeli językowych oznacza, że dane użytkowników są przechowywane na ich urządzeniach, co pozwala im korzystać z generatywnej sztucznej inteligencji bez konieczności wysyłania informacji na serwer. Opera testuje nowy zestaw lokalnych LLM w wersji deweloperskiej przeglądarki Opery One w ramach AI Feature Drops – nowego programu udostępniania funkcji opartych na sztucznej inteligencji. Nowa inicjatywa Opery daje możliwość przetestowania wielu zestawów sztucznej inteligencji będących jeszcze w wersji demonstracyjnej czy nawet eksperymentalnej.

➔ PRZECZYTAJ TAKŻE: Brave wprowadza na swojego asystenta Leo AI na iPhone’a i iPada

Od dziś użytkownicy Opera One Developer mają możliwość wyboru modelu, za pomocą którego chcą przetwarzać dane. Aby przetestować poszczególne modele, muszą zaktualizować przeglądarkę Opera Developer do najnowszej wersji i wykonać kilka kroków, aby aktywować nową funkcję. Wybranie lokalnego LLM rozpocznie pobieranie pakietu danych, który zajmie od 2 do 10 GB przestrzeni dyskowej. Tak ściągnięty model będzie następnie używany zamiast Arii, do czasu, aż użytkownik rozpocznie nowy czat z wbudowaną sztuczną inteligencją lub ponownie włączy Arię.

Na początku 2023 roku Opera zaprezentowała Opera One, swoją flagową przeglądarkę zbudowanå wokół funkcji opartych na sztucznej inteligencje, na koncepcji modular design i nowej architekturze z tzw. wielowątkowym kompozytorem, który pozwala na płynniejsze niż kiedykolwiek przetwarzanie elementów interfejsu użytkownika.

Opera One zawiera Arię –  sztuczną inteligencję wbudowaną w przeglądarkę, do której można uzyskać dostęp za pośrednictwem paska bocznego w wierszu poleceń przeglądarki. Aria jest także dostępna w gamingowej Operze GX, a także w przeglądarce Opera na iOS i Androida.

➔ Obserwuj nas w Google News, aby być na bieżąco!

źródło: