Dois-je utiliser ChatGPT « gratuitement » ?

Parce qu'il s'exécute directement sur un ordinateur ordinaire, le modèle GPT-OSS a une vitesse de réponse lente et les « hallucinations » se produisent plus souvent.

OpenAI vient de lancer GPT-OSS, son premier modèle d'IA open source depuis 2018. Son principal atout est sa gratuité : les utilisateurs peuvent le télécharger, le personnaliser et le déployer sur des ordinateurs classiques. Photo : OpenAI .

GPT-OSS est disponible en deux versions : l'une avec 20 milliards de paramètres (GPT-OSS-20b), compatible avec les ordinateurs disposant de seulement 16 Go de RAM. La version avec 120 milliards de paramètres (GPT-OSS-120b) peut fonctionner sur un GPU Nvidia doté de 80 Go de mémoire. Selon OpenAI, la version avec 120 milliards de paramètres est équivalente au modèle o4-mini, tandis que la version avec 20 milliards de paramètres est similaire au modèle o3-mini.

Des versions de GPT-OSS sont distribuées sur plusieurs plateformes telles que Hugging Face, Azure ou AWS sous licence Apache 2.0. Les utilisateurs peuvent télécharger et exécuter le modèle sur leur ordinateur à l'aide d'outils tels que LM Studio ou Ollama. Ces logiciels sont gratuits et présentent une interface simple et intuitive. Par exemple, LM Studio permet de sélectionner et de charger GPT-OSS dès la première exécution.

La version 20 milliards de paramètres de GPT-OSS pèse environ 12 Go. Une fois téléchargée, l'utilisateur accède à une interface interactive similaire à ChatGPT. Dans la section de sélection du modèle, cliquez sur gpt-oss 20B d'OpenAI et attendez environ une minute que le modèle démarre.

Comme d'autres modèles populaires, le GPT-OSS-20b prend en charge l'interaction en vietnamien. Testé sur un iMac M1 (16 Go de RAM), la commande « Bonjour » a pris environ 0,2 seconde pour déduire le message et 3 secondes pour répondre. L'utilisateur peut cliquer sur l'icône de la planche à dessin en haut à droite pour ajuster la police, la taille de police et la couleur d'arrière-plan de l'interface et faciliter la lecture.

Lorsqu'on lui demande « Que pouvez-vous faire ? », GPT-OSS-20b comprend et traduit presque immédiatement la commande en anglais, puis écrit progressivement la réponse. Comme il s'exécute directement sur l'ordinateur, les utilisateurs peuvent souvent rencontrer des blocages pendant que le modèle déduit et répond, en particulier pour les questions complexes.

Cependant, GPT-OSS-20b a rencontré des difficultés avec la question du 13e président des États-Unis. Selon la documentation d'OpenAI, GPT-OSS-20b a obtenu 6,7 points à l'évaluation SimpleQA, une question testant la précision. Ce score est bien inférieur à celui de GPT-OSS-120b (16,8 points) ou de o4-mini (23,4 points).

De même, dans la commande demandant l'écriture et l'analyse du contenu, GPT-OSS-20b a répondu incorrectement et a paraphrasé la dernière phrase. Ceci est « attendu », selon OpenAI, car les petits modèles ont moins de connaissances que les grands, ce qui signifie que l'« illusion » est plus probable.

Pour les questions de calcul et d'analyse de base, GPT-OSS-20b répond assez rapidement et avec précision. Bien sûr, le temps de réponse du modèle est plus lent en raison de sa dépendance aux ressources informatiques. La version à 20 milliards de paramètres ne prend pas non plus en charge la recherche d'informations sur Internet.

GPT-OSS-20b prend environ 10 à 20 secondes pour effectuer des tâches simples de comparaison et d'analyse de nombres et de lettres. Selon The Verge , le modèle a été publié par OpenAI après l'explosion des modèles open source, dont DeepSeek. En janvier, le PDG d'OpenAI, Sam Altman, a admis avoir « fait le mauvais choix » en ne publiant pas le modèle en open source.

Les commandes nécessitant plusieurs étapes ou des données complexes sont difficiles à exécuter pour GPT-OSS-20b. Par exemple, il a fallu près de quatre minutes au modèle pour extraire les 100 premiers chiffres après la virgule de pi. GPT-OSS-20b numérote d'abord chaque chiffre, puis les regroupe par 10 chiffres adjacents, avant d'additionner et de comparer les résultats. À titre de comparaison, ChatGPT, Grok et DeepSeek ont mis environ cinq secondes pour répondre à la même question.

Les utilisateurs peuvent également demander à GPT-OSS-20b d'écrire du code simple, comme du Python, ou de dessiner des graphiques vectoriels (SVG). Pour la commande « Créer une image SVG d'un chat sautant par-dessus une clôture », le modèle a mis environ 40 secondes à inférer et près de 5 minutes à écrire les résultats.

Certaines commandes complexes peuvent consommer beaucoup de jetons. Par défaut, chaque fil de conversation prend en charge 4 906 jetons, mais les utilisateurs peuvent cliquer sur le bouton « Paramètres » à côté du panneau de sélection de modèle ci-dessus, ajuster le nombre de jetons souhaité dans la section « Longueur du contexte » , puis cliquer sur « Recharger » pour appliquer les modifications . Cependant, LM Studio souligne qu'une limite de jetons trop élevée peut consommer beaucoup de RAM ou de VRAM sur la machine.

Comme le modèle s'exécute directement sur l'appareil, les temps de réponse peuvent varier selon le matériel. Sur un iMac M1 avec 16 Go de RAM, un calcul complexe comme celui ci-dessus prend environ 5 minutes à GPT-OSS-20b pour être analysé et résolu, tandis que ChatGPT prend environ 10 secondes.

En matière de sécurité, OpenAI affirme qu'il s'agit du modèle ouvert le plus rigoureusement validé à ce jour. L'entreprise a collaboré avec des évaluateurs indépendants pour garantir que le modèle ne présente aucun risque dans des domaines sensibles comme la cybersécurité ou la biotechnologie. Le pipeline d'inférence de GPT-OSS est visible publiquement afin de faciliter la détection des biais, des falsifications ou des abus.

Outre LM Studio, les utilisateurs peuvent télécharger d'autres applications pour exécuter GPT-OSS, comme Ollama. Cependant, cette application nécessite une fenêtre de ligne de commande (Terminal) pour charger et lancer le modèle, puis basculer vers l'interface interactive standard. Sur les ordinateurs Mac, le temps de réponse avec Ollama est également plus long qu'avec LM Studio.

Source : https://znews.vn/chatgpt-ban-mien-phi-lam-duoc-gi-post1574987.html