Harvey e Legora, dove si è spostato il moat dell'AI verticale

Harvey AI vale undici miliardi di dollari, serve oltre metà dei cento maggiori studi legali americani e ha raccolto oltre un miliardo di funding da Sequoia, Andreessen Horowitz, Coatue e OpenAI. L'azienda ha messo in campo centinaia di assunzioni di ingegneri e milioni in compute per costruire un modello linguistico proprietario addestrato su miliardi di token di testi giuridici. BigLaw Bench è il benchmark interno studiato per misurare le performance su task legali fatturabili, quelli che gli studi pagano davvero.

Nel giro di pochi mesi, il modello proprietario è stato superato dai modelli generalisti di OpenAI, Anthropic, Google e xAI esattamente sul benchmark che Harvey aveva costruito per dimostrare la propria superiorità.

La risposta di Harvey è stata coraggiosa e pratica. L'azienda ha smesso di sviluppare il modello e si è trasformata in un orchestratore: oggi seleziona il modello migliore per ogni task legale, instrada le richieste e gestisce i workflow su ragionamento OpenAI, Claude di Anthropic e Gemini di Google, con un Model Selector e un Agent Builder no-code che oggi processano circa quattrocentomila richieste al giorno. Il pivot è stato netto: archiviare un investimento sul modello proprietario quando i dati hanno smesso di sostenerlo è stata una decisione che pochi venture-backed hanno dimostrato di sapere prendere in tempi così rapidi.

Nel 2023 anche Bloomberg aveva speso milioni per addestrare BloombergGPT sui propri dati finanziari, con l'ambizione di battere i generalisti sul terreno in cui si sentiva sovrana. GPT-4 la superò pochi mesi dopo senza essere mai stato ottimizzato per quello scopo specifico. Il pattern si ripete e questo dovrebbe far riflettere chiunque stia valutando un investimento nello sviluppo di un modello verticale proprietario.

La commoditizzazione dell'intelligenza procede più velocemente di quanto quasi tutti avessero previsto, e i frontier LLM continuano a migliorare su ogni benchmark, inclusi quelli costruiti per dimostrare il contrario. Questo non comporta che il vertical AI sia una trappola, ma che il vantaggio competitivo va cercato in un altro punto della catena del valore.

Sapere come un partner di uno studio internazionale struttura la due diligence di un'acquisizione cross-border, quali task richiedono ragionamento esteso e quali si appoggiano al recupero di fonti proprietarie, come si costruisce un workflow che un avvocato firmerebbe e che un general counsel adotterebbe senza riserve: questa è una conoscenza che si accumula in anni di iterazione con i professionisti e di accesso a dati che non sono pubblici. Difficilmente replicabile addestrando un LLM su qualche miliardo di token aggiuntivi.

Dalla nostra parte dell'Atlantico, una startup svedese fondata nel 2023 è arrivata alla stessa conclusione percorrendo la strada opposta. Legora — ex Leya, ex Judilica, alumna di Y Combinator e dell'SSE Business Lab di Stoccolma — non ha mai costruito un modello proprietario. Ha scommesso fin dall'inizio sull'orchestrazione, sull'integrazione nei workflow legali e sull'accesso a dati che i modelli generalisti non possono raggiungere: archivi proprietari di editori, fonti non indicizzate, sistemi che richiedono anni di relazioni per diventare utilizzabili.

Il mercato le ha dato ragione con una velocità inusuale. In 18 mesi Legora ha superato i cento milioni di dollari di ARR, una delle crescite più rapide nella storia del software enterprise europeo. Serve decine di migliaia di professionisti in studi come Linklaters, White & Case, Cleary Gottlieb, Bird & Bird. Vale oggi 5,6 miliardi di dollari dopo un Series D che porta il funding totale a seicento milioni, con NVIDIA tramite NVentures e Atlassian tra gli investitori più recenti. Il legal AI è uno dei settori che genera più assorbimento computazionale nel mondo enterprise, con sessioni di ricerca che consumano risorse di ordini di grandezza superiori a quelli di una query standard.

"I foundation model migliorano rapidamente. Il valore reale sta in come vengono applicati." — Max Junestrand, CEO di Legora

Harvey e Legora sono arrivate allo stesso posto da direzioni opposte. La prima ha costruito il modello, lo ha visto superare e ha cambiato rotta; la seconda ha scelto l'orchestrazione fin dal primo giorno. Il punto di approdo, almeno per ora, coincide: due piattaforme che competono sulla comprensione del dominio legale, mentre la qualità del modello sottostante è diventata una commodity da consumare presso il fornitore di turno.

La lezione per chi sta valutando un investimento nel vertical AI è meno comoda di quanto le narrative iniziali del settore avessero lasciato sperare. Il vantaggio costruito sul modello erode in mesi, perché chi lavora sui foundation dispone di capitali e talento che superano quelli di qualunque iniziativa verticale. Il vantaggio costruito sui workflow, sui dati inaccessibili, sulla fiducia dei professionisti e sull'integrazione nei processi richiede anni per emergere e proprio per questo è difficilmente replicabile con un fine-tuning. Il valore, oggi, sta più nel sapere cosa fare dello strumento che nello strumento stesso.