Come provare FLUX su Mac grazie ad una semplice libreria
- Flux
- Mac
MFLUX è un bel progetto che porta i potenti modelli FLUX di Black Forest Labs sui dispositivi Mac, sfruttando il framework Apple MLX. Questo porting consente di eseguire localmente modelli di generazione di immagini avanzati, offrendo un'alternativa alle soluzioni cloud-based.
Caratteristiche principali di MFLUX
MFLUX si distingue per alcune caratteristiche chiave:
- Porting diretto: È una conversione linea per linea dell'implementazione FLUX dalla libreria Hugging Face Diffusers a Apple MLX.
- Approccio minimalista: Il codice è mantenuto essenziale ed esplicito, con architetture di rete codificate direttamente e un uso minimo di file di configurazione.
- Focus sulla leggibilità: Priorità alla comprensibilità del codice rispetto alla generalità e alle prestazioni, pur mantenendo una buona velocità di esecuzione.
- Dipendenze limitate: Oltre ai tokenizer di Hugging Face Transformers, utilizza solo librerie essenziali come Numpy e Pillow.
Modelli supportati e installazione
MFLUX supporta attualmente due modelli: FLUX.1-Schnell e FLUX.1-Dev. L'installazione è semplice tramite pip:
pip install -U mfluxGenerazione di immagini
La generazione di immagini avviene tramite il comando mflux-generate. Ad esempio:
mflux-generate --model schnell --prompt "Luxury food photograph" --steps 2 --seed 2 -q 8Questo comando utilizza il modello Schnell quantizzato a 8 bit per generare un'immagine basata sul prompt fornito.
Prestazioni e quantizzazione
MFLUX supporta la quantizzazione a 4 o 8 bit, che può accelerare significativamente il processo di generazione e ridurre il consumo di memoria. Ad esempio, su un MacBook Pro M1 del 2021, la versione a 8 bit offre un'accelerazione di circa 2x rispetto alla versione non quantizzata, con una qualità dell'immagine quasi identica.
Supporto per LoRA
MFLUX supporta anche il caricamento di adattatori LoRA pre-addestrati, permettendo di combinare gli effetti di più LoRA per risultati personalizzati.
Considerazioni finali
MFLUX rappresenta un'interessante soluzione per eseguire modelli di generazione di immagini avanzati direttamente su dispositivi Mac. Nonostante alcune limitazioni attuali, come la mancanza di supporto per prompt negativi e la generazione di una sola immagine alla volta, offre un'alternativa valida per chi desidera sperimentare con questi modelli localmente, senza dipendere da servizi cloud.
Ecco la libreria
GitHub - filipstrand/mflux: A MLX port of FLUX based on the Huggingface Diffusers implementation.
A MLX port of FLUX based on the Huggingface Diffusers implementation. - filipstrand/mflux