Mise à jour par rapport à mes vidéos précédentes du printemps.

Petit essai en vidéo de #Openchat3.5, un nouveau modèle de #LLM libre utilisable avec #llama.cpp, et qui prétend être comparable à GPT 3.5 Turbo, l'avant-dernier modèle d'OpenAI.

La vidéo est aussi faite pour montrer ce que ça donne en rapidité sur un processeur "normal", sans usage du GPU.

(bugs compris : réalisé sans trucage).

peertube.eu.org/w/cMHfSKmJ5W2h

Follow

@pb ce troll comme quoi ça marcherait presque aussi bien sous Linux... :-)

Sign in to participate in the conversation
Mastodon

The social network of the future: No ads, no corporate surveillance, ethical design, and decentralization! Own your data with Mastodon!