Un modello 100% locale sul tuo smartphone!

Summary

Devo dirlo, sono diventato matto...questa volta pensavo di mollare sul serio, ma poi stamattina il miracolo. (almeno per me). Ho fatto fine tuning e scritto tools per due modelli: un Qwen 3 da 1.5B e un altro da 4B quantizzati all'estremo. Il 4B è per smartphone con almeno 12Gb di RAM, mentre il piccolo è per la fascia media (occupa appena 2,5 GB di RAM)...sto creando un LoRa in bilingua per aiutare il piccolo a usare al meglio i tools, e lo sto distillando da un 32B, quindi meglio di uno fa

SpinGraph analysis pending — check back after processing.

• We are Focused on the Wrong Problems!
• Why I built a proactive context curator instead of a compactor — and what I got wrong for three months
• What's one AI capability that you think is underrated because everyone is focused on AGI?
• i automated my entire social media content production with cloud mcp. heres what actually changed
• The Revenge of the Philosophy Majors. A.I. labs are hiring contrarian, chin-stroking, finger-steepling sages. Who’s underemployed now? (Gift Article)
• Most people don’t know how to use AI properly.