Sou Jay Derinbogaz. Fundei três empresas e já estava colocando grandes modelos de linguagem em produção três anos antes de o ChatGPT transformar isso em um cargo.
Eu estava aqui antes da API
Novembro de 2022 foi quando a maioria das pessoas conheceu um modelo de linguagem. Eu já estava colocando eles em produção desde 2019.
A OpenAI distribuiu o lançamento do GPT-2 ao longo daquele ano porque consideraram o modelo completo de 1,5 bilhão de parâmetros perigoso demais para publicar. Eu estava fazendo fine-tuning dos checkpoints conforme eles eram lançados. Sem endpoint de chat e ninguém para abrir um ticket. Você fazia scraping do seu próprio dataset, treinava você mesmo e fazia caber em hardware que nunca foi projetado para isso.
NameKrea surgiu disso. GPT-2 355M, com fine-tuning em 100.000 domínios que fiz scraping do Majestic Million e pareados com a meta description do que cada site realmente era, para gerar nomes que significavam algo em vez de ruído. Trinta minutos de treinamento em duas GPUs. Foi lançado como produto em produção, tem licença MIT e as pessoas ainda fazem fork anos depois.
Todo lançamento aberto significativo daquela época passou pelas minhas GPUs: gpt-2-simple, finetune-gpt2xl, aitextgen em SageMaker multi-GPU, depois GPT-J 6B rodando em VRAM de consumo. Consegui treinar o GPT-2 XL completo de 1,5B em uma única placa de 16 GB quando a resposta aceita era que não dava. Essa era toda a disciplina na época: os modelos eram gratuitos e o compute era o obstáculo, então a engenharia estava toda em como contornar o obstáculo.
A indústria agora gasta bilhões na mesma pergunta que eu respondia em um quarto em 2019. O que é preciso para colocar essa coisa em produção em hardware que você pode realmente pagar?
TextCortex
Co-fundei a TextCortex em Berlim em 2021 e sou o fundador técnico. Construímos agentes de IA para empresas que precisam se preocupar com onde seus dados vivem. Infraestrutura europeia, governança de verdade, implantados em empresas como Siemens e Lamborghini.
Apoiado por b2venture, Speedinvest e Entrepreneur First. Mais de dois milhões de usuários. Nomeado líder de categoria pela Gartner, G2 e Capterra, #20 Produto de Crescimento Mais Rápido de 2024 e #10 Melhor Software de IA de 2025.
Ainda leio os diffs. A maior parte do que construo agora é o ferramental em torno dos modelos, em vez dos modelos em si, e ambos os meus projetos open source atuais saíram diretamente de problemas que enfrentamos tocando engenharia em escala.
Juror roda vários modelos de fronteira no mesmo pull request em paralelo, porque um revisor significa exatamente um ponto cego e você nunca vai aprender a forma dele por dentro.
GitRank resolve a outra metade. Ele pontua cada pull request mesclado com Claude, classificando o trabalho por componente e severidade e ponderando uma correção de autenticação P1 de forma diferente de uma mudança de texto, depois transforma isso em leaderboards, métricas de velocidade, hotspots de bugs, ownership de features e detecção de silos de conhecimento. A avaliação de desempenho de engenharia ainda é majoritariamente no achismo, e os dados para fazer isso direito estiveram no histórico git de todo mundo o tempo todo. Auto-hospedável, infraestrutura da UE, gratuito para uso não comercial.
Três empresas
A TextCortex é a terceira.
Aos 22 anos fundei uma empresa de AR/VR que construía para a Renault e a Nokia. Aos 24 anos fundei a Grafentek na Alemanha para fabricar materiais de bateria de grafeno. Deep tech, ciência dura, e a imprensa de negócios alemã publicou um capítulo de livro sobre isso. No meio tempo, liderei engenharia de dados na trivago.
Estudei engenharia mecânica com foco em mecânica computacional: métodos numéricos em matrizes muito grandes, o que é um caminho muito mais curto para treinar redes neurais do que parece. Cheguei aos modelos de linguagem por meio do grafeno e da realidade virtual, e em cada um desses campos a parte difícil nunca foi a demo.
O que você vai encontrar aqui
Logs de build e recibos. Publico o que custou e o que errou, porque nessa indústria quase ninguém faz isso e a aritmética geralmente é o argumento inteiro.
Sobre este site
Astro estático, implantado no Cloudflare Workers. Os posts são arquivos markdown em um repositório git. Cada post é traduzido para mais oito idiomas por uma GitHub Action, incluindo o slug da URL. Essas traduções são geradas por máquina e rotuladas como tal.
Os links do GitHub e do LinkedIn na barra lateral são a forma mais rápida de falar comigo.