Et donc, en 2 jours de tests, j'ai pu faire des tests que je ne pouvais pas lancer depuis des mois. En 2 jours, j'ai éliminé des mois de limitation et de frustrations.
Carte d'occasion, bien entendu.
Et toujours sur mon vieux coucou qui va sur ces 14 ans.
Et donc, qu'à cela ne tienne j'ai relancé #CopmyUI pour lancer un gros workflow de création d'image. Avant, avec 8Go, ça splitait le jobs sur le CPU avec la RAM du PC. Soit c'était lent, soit je débordais et le PC devait être rebooté. Les modèles étaient quasiment tout le temps swappé et partiellement chargés sur la carte graphique.
Là... J'arrive à faire tenir 20Go dans la VRAM en cumulant des modèles façon bourrin. C'est dingue, tout est chargé sans split.
Je viens de remplacer ma RTX 3070 par une 3090. Les 8Go de VRAM me limitaient horriblement pour mes travaux sur les #LLM. Maintenant, 24Go c'est hallucinant.
Je n'avais pas besoin que ça aille plus vite, j'avais besoin que ça supporte un gros modèle en terme de taille.
Point compliqué, je voulais coupler avec ma 3070, y'a pas la place sur ma vieille carte mère. C'est dommage, llama-cpp auraient eut 32Go pour s'amuser.
Voilà... Après 15 ans de vie à nos côtés, malgré un début engagé, notre minette nous a quittés paisiblement. Ces derniers mois étaient difficiles, la dernière semaine était inquiétante. Notre vétérinaire a été gratifiant en mettant en avant tous les sacrifices qu'on a fait pour le bien-être de notre Nini. Mais il a fallu lui dire adieu, tumeur au cerveau, des crises d'épilepsie à répétition. Il fallait la libérer.
Mais on a mal au cœur.
Les gens qui me connaissent savent très bien que je ne suis absolument pas homophobe. Que je défends les LGBT. Que l'homophobie est une honte à mes yeux.
Mais ce genre de phrase dans une critique cinoche me fait écarquiller les yeux... Je n'arrive pas à comprendre l'idée derrière le propos. Un film sans histoire homo est un souci ?
https://www.premiere.fr/Cinema/News-Cinema/Rebel-Moon-Alors-que-vaut-le-Director-s-Cut-
Japon, Islande et Norvège. 3 pays que je boycotte autant que je peux avec mes moyens du fait de leur acceptation d'une telle horreur.
En 2024, la cruauté banalisée n'a pas sa place. Que ce soit des baleines ou pas.
https://reporterre.net/Un-navire-japonais-tue-un-rorqual-commun-une-premiere-depuis-2011
J'ai eu une discussion intéressante avec une personne qui estime que la performance de Gojira a la conciergerie était décadente. Montrer Marie Antoinette décapitée est, selon elle, anormale. Je lui ai demandé si elle comprenait que c'était une œuvre graphique au même titre que les tableaux où l'on voit Jésus en sang, mourrant sous la torture. Que ce n'est que du théâtre... Ça a éteint les critiques.
A noter que #fedora a aussi, depuis des années, "dnf" qui sait revenir en arrière par transaction. Mais bon... Faudra que je teste cette distribution.
On perd trop de gens sympas, talentueux et à un âge qui n'est pas juste.
Sauf que ces connards empêchent ma mère (qui se soigne d'un cancer) et mon neveu de venir voir mon fils pour le jour de ses 2 ans. On est séparés par 700km, ils se faisaient un joie depuis des semaines. On est donc seuls pour son anniversaire... Il ne verra pas sa grand-mère et son cousin.
Ces activistes n'ont pour objectif que leur misérable petite personne et leurs revendications au raz des caniveaux.
Ça va être le pieds pour corriger toutes les urls raccourcies de nos blogs, sites, applications, etc...
Faut qu'on se détache de ce genre d'outils de toutes manières. Les applications de réseaux sociaux ont leurs propres solutions. Et puis j'avoues ne pas aimer ne pas voir où pointe une URL quand on me propose de cliquer dessus.
https://developers.googleblog.com/en/google-url-shortener-links-will-no-longer-be-available/
Mode RPC testé. C'est super efficace, le modèle se répartit super bien sur les cartes graphiques du réseau.
C'est lent à charger par contre (au démarrage), mais les inférences sont très rapides, presque comme si on faisait tout tourner localement.
Donc, si vous avez plusieurs PC/Mac et que vous voulez charger des gros modèles, c'est clairement bien foutu.
#llamacpp est tout simplement épatant.
Machine Learning, DevOps, happy Linux user 🐧
Developing with Python, Golang, Julia, Typescript, C/C++… And Blender user !