Sono Jay Derinbogaz. Ho fondato tre aziende, e mettevo in produzione modelli linguistici di grandi dimensioni tre anni prima che ChatGPT trasformasse quella cosa in un titolo di lavoro.
C’ero prima dell’API
Novembre 2022 è quando la maggior parte delle persone ha incontrato un modello linguistico. Io li mettevo in produzione dal 2019.
OpenAI ha scaglionato il rilascio di GPT-2 in quell’anno perché riteneva il modello completo da 1,5 miliardi di parametri troppo pericoloso da pubblicare. Io facevo fine-tuning dei checkpoint man mano che uscivano. Niente endpoint chat e nessuno a cui aprire un ticket. Ti facevi lo scraping del dataset da solo, lo addestravi da solo, e lo facevi stare su hardware che non era mai stato progettato per quello.
NameKrea è nato da lì. GPT-2 355M, fine-tuning su 100.000 domini scrapati dal Majestic Million e abbinati alla meta description di ciò che ogni sito era realmente, così generava nomi che significavano qualcosa invece di rumore. Trenta minuti di training su due GPU. È uscito come prodotto live, è sotto licenza MIT, e la gente lo fa ancora fork anni dopo.
Ogni release open significativa di quell’epoca è passata sulle mie GPU: gpt-2-simple, finetune-gpt2xl, aitextgen su SageMaker multi-GPU, poi GPT-J 6B su VRAM consumer. Sono riuscito a far girare il training del GPT-2 XL completo da 1,5B su una singola scheda da 16 GB quando la risposta accettata era che non si poteva fare. Quella era tutta la disciplina all’epoca: i modelli erano gratis e il compute era il muro, quindi tutta l’ingegneria stava nel modo in cui aggiravi il muro.
Oggi l’industria spende miliardi sulla stessa domanda a cui rispondevo in una camera da letto nel 2019. Cosa serve per mettere questa cosa in produzione su hardware che puoi davvero permetterti?
TextCortex
Ho co-fondato TextCortex a Berlino nel 2021 e sono il technical founder. Costruiamo agenti AI per aziende che devono preoccuparsi di dove vivono i loro dati. Infrastruttura europea, governance vera, implementati in aziende come Siemens e Lamborghini.
Con il sostegno di b2venture, Speedinvest ed Entrepreneur First. Oltre due milioni di utenti. Nominato leader di categoria da Gartner, G2 e Capterra, #20 prodotto a crescita più rapida del 2024 e #10 miglior software AI del 2025.
Leggo ancora i diff. La maggior parte di ciò che costruisco ora sono gli strumenti attorno ai modelli, più che i modelli stessi, ed entrambi i miei progetti open source attuali sono nati direttamente dai problemi che abbiamo incontrato gestendo l’ingegneria su larga scala.
Juror fa girare diversi modelli frontier sulla stessa pull request in parallelo, perché un solo reviewer significa esattamente un punto cieco, e non ne imparerai mai la forma dall’interno.
GitRank risolve l’altra metà. Valuta ogni pull request mergiata con Claude, classificando il lavoro per componente e gravità e pesando un fix di autenticazione P1 in modo diverso da una modifica di copy, poi lo trasforma in classifiche, metriche di velocità, punti caldi dei bug, ownership delle feature e rilevamento dei silos di conoscenza. La valutazione delle performance ingegneristiche è ancora per lo più una questione di vibes, e i dati per farlo come si deve sono stati lì nella storia git di tutti per tutto il tempo. Self-hostable, infrastruttura UE, gratuito per uso non commerciale.
Tre aziende
TextCortex è la terza.
A 22 anni ho fondato un’azienda AR/VR che lavorava per Renault e Nokia. A 24 anni ho fondato Grafentek in Germania per produrre materiali per batterie al grafene. Deep tech, scienza dura, e la stampa economica tedesca ci ha dedicato un capitolo di libro. Nel mezzo ho guidato la data engineering a trivago.
Ho studiato ingegneria meccanica con specializzazione in meccanica computazionale: metodi numerici su matrici molto grandi, che è un percorso molto più breve verso l’addestramento di reti neurali di quanto sembri. Sono arrivato ai modelli linguistici passando dal grafene e dalla realtà virtuale, e in ognuno di questi campi la parte difficile non è mai stata la demo.
Cosa troverai qui
Log di build e ricevute. Pubblico quanto è costato e cosa ha sbagliato, perché in questo settore quasi nessuno lo fa, e l’aritmetica di solito è l’intero argomento.
Su questo sito
Astro statico, deployato su Cloudflare Workers. I post sono file markdown in un repo git. Ogni post viene tradotto in altre otto lingue da una GitHub Action, incluso lo slug dell’URL. Queste traduzioni sono generate da macchine ed etichettate come tali.
I link GitHub e LinkedIn nella sidebar sono il modo più rapido per contattarmi.