Modelli linguistici nelle mani di chi li usa.

La mia missione è riportare la tecnologia nelle mani delle persone. Questo progetto è un passo in quella direzione: vuole dimostrare che i modelli linguistici possono girare su hardware proprio, con energia pulita, invece che nei data center delle big tech, così il cloud resta un'opzione, mai una dipendenza.

Oggi delit.cc mette alla prova quell'idea: un solo Mac Studio, in una casa con pannelli solari, che fa girare il miglior modello aperto che può reggere e lo offre ad amici e famiglia, puntando a servizi all'altezza di quelli cloud o migliori. Il Mac Studio è stato scelto per la sua efficienza: fa girare modelli molto grandi consumando molta meno energia di un server con GPU.

Poi: vecchi telefoni e PC, riusati e aggiunti al server. Nel lungo periodo, il mio sogno è imparare a trasformare il vecchio hardware di chiunque in servizi suoi, ospitati in casa, senza bisogno di saper programmare né di competenze tecniche, e restandone il proprietario.

• PrivatiChat e richieste sono elaborate su questa macchina; la cifratura dei dati salvati è in arrivo (roadmap).
• Nessun lock-inAPI nei formati OpenAI e Anthropic e modelli aperti: i tuoi strumenti funzionano qui e ovunque.
• Modello stabileCambia solo quando ne proviamo uno aperto migliore e scegliamo di passare.
• GratisNiente abbonamenti, niente costi a token.
• Decidono gli utentiGli amici votano cosa arriva dopo.
• Casa solareGira in una casa con pannelli solari; la quota misurata arriverà.