Banana (llm-cpp)

Banana è un'IA locale in C++ che gira interamente sul tuo computer: chat da terminale e interfaccia web in italiano, basate su llama.cpp e modelli Qwen in formato GGUF. Sviluppata e testata su Mac Intel, 8 GB di RAM, solo CPU.

📖 La documentazione completa è nella Wiki

Installazione, avvio su macOS e Windows, tutte le funzioni, comandi, temi, azioni sul computer, bot Discord e roadmap. Qui sotto trovi solo l'essenziale.

Apri la Wiki →

In breve

• Risponde in locale, in italiano e al femminile; tre modelli (Qwen3-1.7B, Qwen3-4B, Qwen2.5-Omni-3B).
• Ricerca web opzionale, documenti locali (RAG), memoria persistente, progetti, immagini, audio e video.
• Interfaccia web con temi, comandi / (scrivi /help), azioni sul computer con conferma, bot Discord.
• Avvio con un clic su macOS (Banana.app) e Windows (Banana.bat).

Anteprima

Menu dei comandi /	Tema Lavanda	Tema Seppia

Tema Oceano	Tema Foresta

Come è fatta

flowchart TB
  U([Tu]) --> UI
  DC([Discord]) --> BOT[Bot Discord]
  subgraph PC[Il tuo computer - tutto in locale]
    UI[Interfaccia web SvelteKit<br/>chat, temi, comandi /, memoria, progetti]
    BOT
    SRV[llama-server<br/>router, porta 8080]
    subgraph AUX[Servizi ausiliari]
      SEARCH[search_server 8091<br/>ricerca web]
      STORE[store_server 8092<br/>documenti e RAG]
      ACT[actions_server 8093<br/>azioni con conferma]
    end
    subgraph MOD[Modelli GGUF su CPU]
      M1[Qwen3-1.7B default]
      M2[Qwen3-4B]
      M3[Qwen2.5-Omni-3B]
    end
    WS[(Workspace ~/Banana/workspace)]
  end
  UI -->|API OpenAI| SRV
  BOT -->|API OpenAI| SRV
  UI --> SEARCH
  UI --> STORE
  UI -->|dopo il tuo Consenti| ACT
  SRV --> M1
  SRV --> M2
  SRV --> M3
  ACT --> WS

Loading

Approfondimenti: Come funziona · Interfaccia · Azioni sul computer · Discord · Modelli e prestazioni

Avvio rapido

# 1. compila llama.cpp (motore, server e UI web)
cd llama.cpp && cmake -B build -DCMAKE_BUILD_TYPE=Release -DLLAMA_BUILD_UI=ON
cmake --build build --config Release -j4 && cd ..

# 2. scarica almeno un modello .gguf nella cartella llm/ (vedi Installazione nella wiki)

# 3. avvia il server e apri http://127.0.0.1:8080
./run_qwen_server.sh

📖 Documentazione nella Wiki

Pagina	Contenuto
Installazione	requisiti, compilazione, modelli
Avvio	macOS, Windows, terminale
Uso di Banana	memoria, ricerca web, documenti, video, backup
Interfaccia	barra superiore, progetti, comandi, temi
Azioni sul computer	azioni con conferma e sicurezza
Discord	bot Discord
Modelli e prestazioni	scelta del modello e parametri
Sviluppo	personalizzazione, struttura, roadmap