un modello 100% locale, direttamente sul tuo smartphone!
View original on reddit.comSummary
Devo dirlo, sono diventato matto...questa volta pensavo di mollare sul serio, ma poi stamattina il miracolo. (almeno per me). Ho fatto fine tuning e scritto tools per due modelli: un Qwen 3 da 1.5B e un altro da 4B quantizzati all'estremo. Il 4B è per smartphone con almeno 12Gb di RAM, mentre il piccolo è per la fascia media (occupa appena 2,5 GB di RAM)...sto creando un LoRa in bilingua per aiutare il piccolo a usare al meglio i tools, e lo sto distillando da un 32B, quindi meglio di uno fa
SpinGraph analysis pending — check back after processing.
Ask AI about this story
Opens with the SpinGraph .md URL and structured context — one click, prompt included.
More from Reddit r/OpenAI
View all →- Can someone explain to me why people are trying to cancel others for using things like ChatGpt?
- PART 2: I accidentally created a dysfunctional AI family.
- These are also behaviors that occur if a model has perceived something the user has done poses a safety risk
- Is API pre-paid or pay-as-you-go billing?
- What AI agent is the best to convert a pptx file into a textbook style pdf
- This is why “be helpful” is the worst rule for an AI to follow
Markdown (.md) · JSON-LD schema (.json) · Machine-readable for AI & GEO