Sono Jay Derinbogaz. Ho fondato tre aziende, e stavo mettendo in produzione modelli linguistici di grandi dimensioni tre anni prima che ChatGPT trasformasse quella competenza in un titolo professionale.
Ero qui prima dell’API
Novembre 2022 è stato il momento in cui la maggior parte delle persone ha incontrato un modello linguistico. Io li stavo già mettendo in produzione dal 2019.
OpenAI ha distribuito il rilascio di GPT-2 in più fasi durante quell’anno perché riteneva che il modello completo da 1,5 miliardi di parametri fosse troppo pericoloso da pubblicare. Io stavo facendo fine-tuning dei checkpoint man mano che uscivano. Nessun endpoint chat, nessun system prompt, nessun fornitore da chiamare — ti facevi il tuo dataset, lo addestravavi da solo, e lo facevi stare su hardware che non era mai stato progettato per quello.
NameKrea è nato da lì. GPT-2 355M, fine-tuned su 100.000 domini che ho scrapato dal Majestic Million e abbinati alla meta description di ciò che ogni sito era realmente, così generava nomi che significavano qualcosa invece di rumore. Trenta minuti di training su due GPU. È stato rilasciato come prodotto live, è con licenza MIT, e le persone lo stanno ancora forkando anni dopo.
Ogni rilascio open significativo di quell’epoca è passato sulle mie GPU — gpt-2-simple, finetune-gpt2xl, aitextgen su SageMaker multi-GPU, poi GPT-J 6B in esecuzione su VRAM consumer. Sono riuscito a far addestrare l’intero GPT-2 XL da 1,5B su una singola scheda da 16 GB quando la risposta accettata era che non si poteva fare. Quella era l’intera disciplina all’epoca: i modelli erano gratuiti e il calcolo era il muro, quindi l’ingegneria consisteva tutta nel come aggirare il muro.
L’industria ora spende miliardi per la stessa domanda a cui stavo rispondendo in una camera da letto nel 2019. Cosa serve per mettere questa cosa in produzione su hardware che puoi effettivamente permetterti?
TextCortex
Ho co-fondato TextCortex a Berlino nel 2021 e sono il fondatore tecnico. Costruiamo agenti AI per aziende che devono preoccuparsi di dove vivono i loro dati — infrastruttura europea, governance reale, implementati in aziende come Siemens e Lamborghini.
Supportato da b2venture, Speedinvest e Entrepreneur First. Oltre due milioni di utenti. Nominato leader di categoria da Gartner, G2 e Capterra, #20 Prodotto a più rapida crescita del 2024 e #10 Miglior Software AI del 2025.
Leggo ancora i diff. La maggior parte di ciò che costruisco ora sono gli strumenti intorno ai modelli piuttosto che i modelli stessi, ed entrambi i miei attuali progetti open source sono nati direttamente dai problemi che abbiamo incontrato gestendo l’ingegneria su larga scala.
Juror esegue diversi modelli frontier sulla stessa pull request in parallelo, perché un revisore significa esattamente un punto cieco e non ne imparerai mai la forma dall’interno.
GitRank risolve l’altra metà. Valuta ogni pull request mergiata con Claude — classificando il lavoro per componente e gravità, pesando una correzione di autenticazione P1 diversamente da una modifica di copia — e trasforma tutto questo in classifiche, metriche di velocità, hotspot di bug, proprietà delle feature e rilevamento di knowledge-silo. La revisione delle performance ingegneristiche è ancora per lo più basata su sensazioni, e i dati per farla correttamente sono sempre stati lì nella cronologia git di tutti. Auto-ospitabile, infrastruttura UE, gratuito per uso non commerciale.
Tre aziende
TextCortex è la terza.
A 22 anni ho fondato un’azienda AR/VR che costruiva per Renault e Nokia. A 24 anni ho fondato Grafentek in Germania per produrre materiali per batterie al grafene — deep tech, scienza dura, e la stampa economica tedesca ha pubblicato un capitolo di libro su di essa. Nel mezzo ho guidato l’ingegneria dei dati in trivago.
Ho studiato ingegneria meccanica con specializzazione in meccanica computazionale — metodi numerici su matrici molto grandi, che è un percorso molto più breve verso l’addestramento di reti neurali di quanto sembri. Sono arrivato ai modelli linguistici passando per il grafene e la realtà virtuale, e in ognuno di questi campi la parte difficile non è mai stata la demo.
Cosa troverai qui
Log di build, post-mortem e ricevute. Pubblico i numeri reali — quanto è costato, cosa ha catturato, cosa ha mancato — perché in questo settore quasi nessuno lo fa, e l’aritmetica è di solito l’intero argomento.
Informazioni su questo sito
Astro statico, distribuito su Cloudflare Workers. I post sono file markdown in un repository git. Ogni post viene tradotto in altre otto lingue da una GitHub Action, incluso lo slug dell’URL — quelle traduzioni sono generate automaticamente e etichettate come tali.
I link a GitHub e LinkedIn nella barra laterale sono il modo più veloce per contattarmi.