Kaip naudoti vietinius AI modelius „Opera One Developer“.

Nors daugelis naršyklių savo naršyklėse integruoja AI funkcijas, „Opera“ ką tik tapo pirmąja naršykle, integruojančia vietinius AI modelius. „Opera“ į savo „Opera One“ naršyklę prideda eksperimentinį palaikymą daugiau nei 150 vietinių didelių kalbų modelių (LLM) variantų iš maždaug 50 skirtingų modelių šeimų.

Kadangi kalbų modeliai bus vietiniai, vartotojams nereikės jaudintis, kad jų duomenys bus siunčiami į LLM serverį. Tai privatus ir saugus AI naudojimo būdas.

Norint naudoti vietinius LLM modelius, kompiuteryje reikės 2–10 GB vietos, atsižvelgiant į naudojamą variantą. Kai kurie palaikomi LLM yra „Llama“ iš „Meta“, „Phi-2“ iš „Microsoft“, „Gemma“ iš „Google“, „Vicuna“, „Mixtral“ iš „Mistral AI“ ir kt. Galite naudoti šiuos kalbų modelius vietoj „Aria AI“ iš „Opera“ ir bet kada grįžti į „Aria AI“ nori.

Ši funkcija šiuo metu pasiekiama tik „Opera One“ kūrėjų sraute. Štai kaip galite suaktyvinti ir naudoti vietinius AI modelius „Opera One Developer“.

Atsisiųskite „Opera One Developer“.

Jei jau turite „Opera One Developer“, tiesiog praleiskite šį skyrių ir pereikite prie vietinių LLM modelių naudojimo.

Eikite į šią nuorodą, kad atsisiųstumėte „Opera One Developer“. Slinkite žemyn ir „Opera One“ kūrėjo plytelėje spustelėkite „Atsisiųsti dabar“.

Atsisiuntę atidarykite failą ir paleiskite diegimo programą.
Spustelėkite „Priimti ir įdiegti“ ir vadovaukitės ekrane pateikiamomis instrukcijomis, kad įdiegtumėte naršyklę.

Nustatykite vietinį AI modelį

Atsisiuntę naršyklę, spustelėkite piktogramą „Aria AI“ kairėje šoninėje juostoje.

Norėdami tęsti, spustelėkite „Tęsti“.

Jei „Aria“ naudojate pirmą kartą, norėdami ja naudotis, turėsite prisiregistruoti gauti nemokamą „Opera“ paskyrą. „Opera“ paskyrai sukurti galite naudoti savo el. paštą arba „Apple“, „Facebook“ ar „Google“ paskyrą.

Sukūrę paskyrą galėsite kalbėtis su Aria.
Dabar „Aria“ skydelyje pamatysite parinktį „Pasirinkite vietinį AI modelį“. Spustelėkite jį.

Išskleidžiamajame meniu pasirinkite „Eiti į nustatymus“.

Įsitikinkite, kad įjungtas jungiklis „Įgalinti vietinį AI pokalbiuose“.

Tada pasirinkite modelį, kurį norite atsisiųsti vietiniam naudojimui, spustelėdami arba ieškodami jo. Kaip minėta aukščiau, „Opera“ įdiegė maždaug 50 modelių šeimų su skirtingais variantais palaikymą, todėl bendras skaičius išaugo iki 150.

Taigi, kai kuriuose modeliuose spustelėję kai kuriuos modelius, pvz., Google Gemma, gausite 4 skirtingus variantus. Atsisiųskite modelį, kurį norite naudoti. Šiam vadovui atsisiunčiame Gemma 2B teksto modelį. Dešinėje spustelėkite mygtuką „Atsisiųsti“. Prieš atsisiųsdami modelį, kompiuteryje galite pamatyti, kiek vietos reikia modeliui.

Atsisiuntimas užtruks šiek tiek laiko, atsižvelgiant į modelio dydį ir interneto ryšį. Šalia galite matyti atsisiuntimo eigą.

Vietinio AI modelio naudojimas

Atsisiuntę modelį, viršutiniame kairiajame skydelio kampe spustelėkite piktogramą „Meniu“.

Pasirodžiusiame meniu pasirinkite „Naujas pokalbis“.

Dar kartą spustelėkite viršuje esančią parinktį „Pasirinkti vietinį AI modelį“ ir išskleidžiamajame meniu pasirinkite modelį, kurį ką tik atsisiuntėte, mūsų atveju „Gemma“.

Dabar būsite perjungti į pasirinktą vietinį AI modelį. Įveskite raginimą raginimo juostoje ir nusiųskite jį AI, kad pradėtumėte vietinę sąveiką.

Jūsų pokalbiai su vietiniu AI modeliu bus pasiekiami pokalbių istorijoje, kaip ir jūsų pokalbiai su Aria. Taip pat galite pervardyti pokalbius, kad galėtumėte geriau organizuoti.
Taip pat galite atsisiųsti ir naudoti kelis vietinius AI modelius, tačiau atminkite, kad kiekvienam iš jų reikia 2–10 GB vietos jūsų kompiuteryje.
Norėdami ištrinti modelį iš savo kompiuterio, eikite į tuos pačius nustatymus, iš kurių anksčiau atsisiuntėme modelį, ty Aria> Settings> Local AI Models> [Downloaded Model]. Tada spustelėkite mygtuką „Ištrinti“.

Perjungti atgal į Aria

Norėdami grįžti į Aria, tiesiog pradėkite naują pokalbį su AI. Viršutiniame dešiniajame kampe spustelėkite „+“ piktogramą.

Naujasis pokalbis prasidės nuo pačios Arijos.

Labai įdomu naudoti vietinius AI modelius „Opera One“ naršyklėje, ir ne tik saugumo ir privatumo požiūriu. Nors ankstyvosiose stadijose viskas labai paprasta, galimi ateities atvejai yra gana jaudinantys. Naršyklė su vietiniu AI gali reikšti, kad ji gali naudoti jūsų istorinę įvestį su visais jūsų duomenimis; kaip tai būtų įdomu! Ir „Opera“ komanda tiria šią galimybę.

Tačiau net ir neturint ateities galimybių, vietiniai AI yra puikus žingsnis vartotojams, kurie nerimauja dėl savo duomenų ir kalbasi su AI, saugomu jos serveriuose. Yra keletas puikių LLM, kuriuos galite ištirti, pvz., „Llama“, skirta koduoti, „Phi-2“, skirta išskirtinėms samprotavimo galimybėms, ir „Mixtral“, skirta tokioms užduotims kaip teksto generavimas, atsakymas į klausimus ir kt.