Comment utiliser des modèles d’IA locaux sur Opera One Developer

Alors que de nombreux navigateurs intègrent des fonctionnalités d’IA dans leurs navigateurs, Opera vient de devenir le premier navigateur à intégrer des modèles d’IA locaux. Opera ajoute à son navigateur Opera One la prise en charge expérimentale de plus de 150 variantes de Local Large Language Model (LLM) provenant d’environ 50 familles de modèles différentes.

Étant donné que les modèles linguistiques seront locaux, les utilisateurs n’auront pas à se soucier de l’envoi de leurs données au serveur du LLM. C’est une manière privée et sécurisée d’utiliser l’IA.

Pour utiliser les modèles LLM locaux, vous aurez besoin de 2 à 10 Go d’espace sur votre ordinateur, selon la variante que vous utiliserez. Certains des LLM pris en charge incluent Llama de Meta, Phi-2 de Microsoft, Gemma de Google, Vicuna, Mixtral de Mistral AI, etc. Vous pouvez utiliser ces modèles de langage à la place de Aria AI d’Opera et revenir à Aria AI chaque fois que vous le souhaitez. vouloir.

La fonctionnalité n’est actuellement disponible que dans le flux développeur d’Opera One. Voici comment activer et utiliser les modèles d’IA locaux dans Opera One Developer.

Télécharger le développeur Opera One

Si vous disposez déjà d’Opera One Developer, ignorez simplement cette section et passez directement à l’utilisation des modèles LLM locaux.

Accédez à ce lien pour télécharger Opera One Developer. Faites défiler vers le bas et cliquez sur « Télécharger maintenant » sur la vignette Opera One Developer.

Ouvrez le fichier une fois téléchargé et exécutez le programme d’installation.
Cliquez sur « Accepter et installer » puis suivez les instructions qui s’affichent sur votre écran pour installer le navigateur.

Configurer un modèle d’IA local

Une fois le navigateur téléchargé, cliquez sur l’icône « Aria AI » dans la barre latérale gauche.

Cliquez sur « Continuer » pour continuer.

Si vous utilisez Aria pour la première fois, vous devrez créer un compte Opera gratuit pour l’utiliser. Vous pouvez utiliser votre courrier électronique ou votre compte Apple, Facebook ou Google pour créer un compte Opera.

Une fois votre compte créé, vous pourrez discuter avec Aria.
Désormais, dans le panneau Aria, vous verrez une option « Choisir un modèle d’IA local ». Clique dessus.

Sélectionnez « Aller aux paramètres » dans le menu déroulant.

Assurez-vous que la bascule « Activer l’IA locale dans les discussions » est activée.

Ensuite, choisissez le modèle que vous souhaitez télécharger pour une utilisation locale, en cliquant dessus ou en le recherchant. Comme mentionné ci-dessus, Opera a pris en charge environ 50 familles de modèles avec différentes variantes, ce qui porte le total à 150.

Ainsi, pour certains modèles, lorsque vous cliquez sur certains modèles, comme Gemma de Google, vous obtiendrez 4 variantes différentes. Téléchargez le modèle que vous souhaitez utiliser. Pour ce guide, nous téléchargeons le modèle 2B Text de Gemma. Cliquez sur le bouton « Télécharger » à droite. Vous pouvez voir l’espace requis par le modèle sur votre PC avant de le télécharger.

Le téléchargement prendrait un certain temps, en fonction de la taille du modèle et de votre connexion Internet. Vous pouvez voir la progression du téléchargement à côté.

Utiliser le modèle d’IA local

Une fois le modèle téléchargé, cliquez sur l’icône « Menu » en haut à gauche du panneau.

Sélectionnez « Nouvelle discussion » dans le menu qui apparaît.

Encore une fois, cliquez sur l’option « Choisir un modèle d’IA local » en haut et sélectionnez le modèle que vous venez de télécharger, Gemma dans notre cas, dans le menu déroulant.

Vous allez maintenant passer au modèle d’IA local de votre choix. Tapez votre invite dans la barre d’invite et envoyez-la à l’IA pour commencer vos interactions locales.

Vos discussions avec le modèle Local AI seront disponibles dans l’historique des discussions, tout comme vos discussions avec Aria. Vous pouvez également renommer les discussions pour une meilleure organisation.
De même, vous pouvez télécharger et utiliser plusieurs modèles d’IA locaux, mais n’oubliez pas que chacun nécessite entre 2 et 10 Go d’espace sur votre ordinateur.
Pour supprimer le modèle de votre PC, accédez aux mêmes paramètres à partir desquels nous avons téléchargé le modèle précédemment, c’est-à-dire Aria> Settings> Local AI Models> [Downloaded Model]. Ensuite, cliquez sur le bouton « Supprimer ».

Revenir à Aria

Pour revenir à Aria, démarrez simplement une nouvelle discussion avec l’IA. Cliquez sur l’icône « + » dans le coin supérieur droit.

Le nouveau chat commencera avec Aria elle-même.

C’est très excitant de pouvoir utiliser des modèles d’IA locale sur le navigateur Opera One, et pas seulement du point de vue de la sécurité et de la confidentialité. Même si au début tout est très simple, les futurs cas potentiels sont plutôt passionnants. Un navigateur doté d’une IA locale pourrait signifier qu’il pourrait utiliser votre historique avec toutes vos données ; comme ce serait excitant ! Et l’équipe d’Opera explore cette possibilité.

Mais même sans possibilités futures, les IA locales constituent une excellente initiative pour les utilisateurs qui s’inquiètent du stockage de leurs données et de leurs discussions avec l’IA sur ses serveurs. Il existe d’excellents LLM que vous pouvez explorer, comme Llama pour le codage, Phi-2 pour des capacités de raisonnement exceptionnelles et Mixtral pour des tâches telles que la génération de texte, la réponse à des questions, etc.