Fractile e il chip per l'inferenza AI

La scorsa settimana ho scritto di Lace. Oggi facciamo un passo avanti nella catena del valore.

Lace Lithography lavorava al livello più basso dello stack: come si stampano fisicamente i chip del futuro, sostituendo la luce con atomi, un problema di fisica e manifattura.

Fractile lavora al livello immediatamente superiore: come si progettano chip ottimizzati per far girare i modelli AI nel modo più efficiente, veloce ed economico possibile. Non parliamo di training, ma di inferenza.

Il training è l'addestramento del modello: avviene una volta, su cluster enormi, con costi enormi. L'inferenza è l'utilizzo del modello in esercizio: avviene miliardi di volte al giorno, ogni volta che qualcuno fa una domanda a un LLM, usa un assistente AI, ottiene una raccomandazione.

Il problema che Fractile si propone di risolvere è strutturale. Le GPU si appoggiano a un chip di memoria separato e il continuo trasferimento di dati tra i due diventa un collo di bottiglia sulla velocità di esecuzione. Fractile integra la computazione direttamente nella memoria, eliminando quel trasferimento. E lo fa rimanendo compatibile con i processi produttivi standard: usa i nodi TSMC, non reinventa la manifattura.

L'obiettivo dichiarato è eseguire modelli AI fino a 50 volte più velocemente al 10% del costo attuale.

La startup di Londra, fondata nel 2022, è in trattative avanzate per raccogliere $200 milioni a una valutazione di un miliardo. I round precedenti hanno già visto entrare il NATO Innovation Fund, Oxford Science Enterprises e — dettaglio non secondario — Pat Gelsinger, ex CEO di Intel, e Hermann Hauser.

Hauser è tra i padri di Arm: un'architettura nata a Cambridge nel 1990 che oggi gira dentro ogni smartphone del pianeta. Il governo britannico ha già annunciato £100 milioni per espandere le operazioni di Fractile tra Londra e Bristol.

C'è un altro filo che collega Lace e Fractile, oltre alla geografia europea: entrambe nascono in ambito accademico, rispettivamente nelle università di Bergen e di Oxford.

Non ancora una strategia, ma un'evidenza che ragionare per stack tecnologici — piuttosto che per singoli campioni nazionali — ci permetterebbe di ambire a giocare al tavolo dei grandi da protagonisti.