Soy Jay Derinbogaz. He fundado tres empresas, y estaba poniendo grandes modelos de lenguaje en producción tres años antes de que ChatGPT convirtiera eso en un puesto de trabajo.
Estuve aquí antes de la API
Noviembre de 2022 es cuando la mayoría de la gente conoció un modelo de lenguaje. Yo llevaba lanzando productos con ellos desde 2019.
OpenAI escalonó el lanzamiento de GPT-2 a lo largo de ese año porque consideraron que el modelo completo de 1.500 millones de parámetros era demasiado peligroso para publicarlo. Yo estaba haciendo fine-tuning de los checkpoints a medida que iban saliendo. Sin endpoint de chat y sin nadie a quien abrir un ticket. Scrapeabas tu propio dataset, lo entrenabas tú mismo y lo hacías caber en hardware que nunca fue diseñado para ello.
NameKrea salió de eso. GPT-2 355M, con fine-tuning sobre 100.000 dominios que scrapeé del Majestic Million y emparejé con la meta descripción de lo que cada sitio era realmente, para que generara nombres que significaran algo en lugar de ruido. Treinta minutos de entrenamiento en dos GPUs. Se lanzó como producto en vivo, tiene licencia MIT y la gente todavía lo está forkando años después.
Cada lanzamiento abierto importante de esa época pasó por mis GPUs: gpt-2-simple, finetune-gpt2xl, aitextgen en SageMaker multi-GPU, luego GPT-J 6B corriendo en VRAM de consumo. Conseguí que el GPT-2 XL completo de 1.5B entrenara en una sola tarjeta de 16 GB cuando la respuesta aceptada era que no se podía. Esa era toda la disciplina en aquel entonces: los modelos eran gratis y el cómputo era el muro, así que toda la ingeniería estaba en cómo sorteabas el muro.
La industria ahora gasta miles de millones en la misma pregunta que yo respondía en un dormitorio en 2019. ¿Qué hace falta para llevar esto a producción en hardware que realmente puedas permitirte?
TextCortex
Co-fundé TextCortex en Berlín en 2021 y soy el fundador técnico. Construimos agentes de IA para empresas que tienen que preocuparse por dónde viven sus datos. Infraestructura europea, gobernanza real, desplegado dentro de empresas como Siemens y Lamborghini.
Con el respaldo de b2venture, Speedinvest y Entrepreneur First. Más de dos millones de usuarios. Nombrado líder de categoría por Gartner, G2 y Capterra, #20 Producto de Más Rápido Crecimiento de 2024 y #10 Mejor Software de IA de 2025.
Todavía leo los diffs. La mayor parte de lo que construyo ahora son las herramientas alrededor de los modelos más que los modelos en sí, y mis dos proyectos open source actuales salieron directamente de problemas que encontramos gestionando ingeniería a escala.
Juror ejecuta varios modelos frontier sobre el mismo pull request en paralelo, porque un revisor significa exactamente un punto ciego y nunca aprenderás su forma desde dentro.
GitRank resuelve la otra mitad. Puntúa cada pull request fusionado con Claude, clasificando el trabajo por componente y severidad y ponderando un fix de autenticación P1 de forma distinta a un cambio de copy, y luego convierte eso en leaderboards, métricas de velocidad, puntos calientes de bugs, propiedad de features y detección de silos de conocimiento. La evaluación del rendimiento en ingeniería sigue siendo mayormente vibraciones, y los datos para hacerlo bien han estado en el historial de git de todos todo el tiempo. Autoalojable, infraestructura de la UE, gratis para uso no comercial.
Tres empresas
TextCortex es la tercera.
Con 22 años fundé una empresa de AR/VR que construía para Renault y Nokia. Con 24 años fundé Grafentek en Alemania para fabricar materiales de baterías de grafeno. Deep tech, ciencia dura, y la prensa empresarial alemana publicó un capítulo de libro sobre ello. En medio, lideré ingeniería de datos en trivago.
Estudié ingeniería mecánica con especialización en mecánica computacional: métodos numéricos sobre matrices muy grandes, que está mucho más cerca de entrenar redes neuronales de lo que parece. Llegué a los modelos de lenguaje a través del grafeno y la realidad virtual, y en cada uno de esos campos la parte difícil nunca fue la demo.
Lo que encontrarás aquí
Bitácoras de build y recibos. Publico lo que costó y lo que falló, porque en esta industria casi nadie lo hace y la aritmética suele ser todo el argumento.
Sobre este sitio
Astro estático, desplegado en Cloudflare Workers. Los posts son archivos markdown en un repositorio git. Cada post se traduce a ocho idiomas más mediante una GitHub Action, incluido el slug de la URL. Esas traducciones están generadas por máquina y etiquetadas como tales.
Los enlaces de GitHub y LinkedIn en la barra lateral son la forma más rápida de contactarme.