bonjour
Bonjour chez moi i.a de mixtral fonctionne mal . Quand je lui dis Bonjour il répond " // fits bench // aim // recuper //UnmarDiagnosticsURIutenant // Насеichen Vern (!$ Stars idleBind Votes //bris rare audiencesnungorsztober shallow forgot❌ incent honomahoma lunch Bouпубли tour dif //Snapshot Jur ho tense pension Sach honor択 mandato" ce qui ne veu rien dire Avez vous une idée de ce qu'il se passe ? je la fait tourné en local sur text generation ui .. Merci si vous arrivez à savoir ce qui se passe ?
Bonjour @yob84800 , vous obtenez cette réponse du modèle parce qu'il s'agit d'un modèle de base, c'est-à-dire qu'il n'a pas encore été entraîné sur un ensemble de données de questions-réponses, ce qui signifie qu'il ne sera pas performant. Vous pouvez essayer d'utiliser mistralai/Mixtral-8x7B-Instruct-v0.1 qui a été affiné pour suivre les instructions.
eh bien comment dire sur celui si Mixtral-8x7B-Instruct-v0.1 cela me fait exactement pareil ..
Est-ce que vous demandez au modèle de procéder de cette manière ?
<s>[INST] Instruction [/INST] Réponse du modèle</s> [INST] Instruction de suivi [/INST]
Si ce n'est pas le cas, veuillez le faire. Sinon, le modèle produira des résultats inattendus.
merci je vais essayer de trouver ou metre les instructions que vous laver dit eh c'est normal que dans le fichier json modèle type mixtral je suis obligé de le changer en mistral ? sinon il ne charge pas le modèle
la réponse eh plus simple que sa soi mon model etait endommager il y avais des coupure sur internet soi mon model avait aussi besoin de télécharger les consolidate 00 jusqu'à 7 .pt en plus des safetensor mai sa veu dire que cela ferai le double de 87 go .. parceque je les re télécharger avec lollms et ces beaucoup mieux voila merci encore merci cekal de m'avoir un peu aider ;)