Acerca de

/ Acerca de

Soy Jay Derinbogaz. He fundado tres empresas, y ya estaba poniendo modelos de lenguaje grandes en producción tres años antes de que ChatGPT convirtiera eso en un título de trabajo.

Yo estaba aquí antes de la API

Noviembre de 2022 fue cuando la mayoría de la gente conoció un modelo de lenguaje. Yo llevaba lanzando productos con ellos desde 2019.

OpenAI escalonó el lanzamiento de GPT-2 a lo largo de ese año porque consideraron que el modelo completo de 1.5 mil millones de parámetros era demasiado peligroso para publicar. Yo estaba ajustando los checkpoints a medida que llegaban. Sin endpoint de chat, sin system prompt, sin proveedor al que llamar — raspabas tu propio conjunto de datos, lo entrenabas tú mismo, y lo hacías caber en hardware que nunca fue diseñado para ello.

NameKrea surgió de ahí. GPT-2 355M, ajustado en 100,000 dominios que raspé del Majestic Million y emparejé con la meta descripción de lo que cada sitio realmente era, para que generara nombres que significaran algo en lugar de ruido. Treinta minutos de entrenamiento en dos GPUs. Se lanzó como producto en vivo, tiene licencia MIT, y la gente todavía lo bifurca años después.

Cada lanzamiento abierto significativo de esa época pasó por mis GPUs — gpt-2-simple, finetune-gpt2xl, aitextgen en SageMaker multi-GPU, luego GPT-J 6B ejecutándose en VRAM de consumo. Conseguí entrenar el GPT-2 XL completo de 1.5B en una sola tarjeta de 16 GB cuando la respuesta aceptada era que no se podía. Esa era toda la disciplina en aquel entonces: los modelos eran gratuitos y el cómputo era el muro, así que la ingeniería consistía en cómo sortear el muro.

La industria ahora gasta miles de millones en la misma pregunta que yo respondía en un dormitorio en 2019. ¿Qué se necesita para llevar esto a producción en hardware que realmente puedas pagar?

TextCortex

Co-fundé TextCortex en Berlín en 2021 y soy el fundador técnico. Construimos agentes de IA para empresas que tienen que preocuparse por dónde viven sus datos — infraestructura europea, gobernanza real, desplegados dentro de empresas como Siemens y Lamborghini.

Respaldado por b2venture, Speedinvest y Entrepreneur First. Más de dos millones de usuarios. Nombrado líder de categoría por Gartner, G2 y Capterra, #20 Producto de Crecimiento Más Rápido de 2024 y #10 Mejor Software de IA de 2025.

Todavía leo los diffs. La mayor parte de lo que construyo ahora son las herramientas alrededor de los modelos más que los modelos en sí, y ambos de mis proyectos actuales de código abierto surgieron directamente de problemas que encontramos al ejecutar ingeniería a escala.

Juror ejecuta varios modelos frontier en el mismo pull request en paralelo, porque un revisor significa exactamente un punto ciego y nunca aprenderás su forma desde dentro.

GitRank resuelve la otra mitad. Puntúa cada pull request fusionado con Claude — clasificando el trabajo por componente y severidad, ponderando una corrección de autenticación P1 de manera diferente a un cambio de copia — y lo convierte en tablas de clasificación, métricas de velocidad, puntos calientes de bugs, propiedad de características y detección de silos de conocimiento. La revisión de rendimiento de ingeniería sigue siendo mayormente vibraciones, y los datos para hacerlo correctamente han estado en el historial de git de todos todo el tiempo. Autoalojable, infraestructura UE, gratuito para uso no comercial.

Tres empresas

TextCortex es la tercera.

A los 22 fundé una empresa de AR/VR que construía para Renault y Nokia. A los 24 fundé Grafentek en Alemania para fabricar materiales de baterías de grafeno — deep tech, ciencia dura, y la prensa empresarial alemana publicó un capítulo de libro sobre ello. Entre medio, lideré ingeniería de datos en trivago.

Estudié ingeniería mecánica con enfoque en mecánica computacional — métodos numéricos en matrices muy grandes, lo cual es un camino mucho más corto hacia el entrenamiento de redes neuronales de lo que parece. Llegué a los modelos de lenguaje a través del grafeno y la realidad virtual, y en cada uno de esos campos la parte difícil nunca fue la demo.

Lo que encontrarás aquí

Registros de construcción, autopsias y recibos. Publico los números reales — lo que costó, lo que atrapó, lo que falló — porque en esta industria casi nadie lo hace, y la aritmética suele ser todo el argumento.

Acerca de este sitio

Astro estático, desplegado en Cloudflare Workers. Las publicaciones son archivos markdown en un repositorio git. Cada publicación se traduce a ocho idiomas más mediante una GitHub Action, incluyendo el slug de la URL — esas traducciones son generadas por máquina y etiquetadas como tales.

Los enlaces de GitHub y LinkedIn en la barra lateral son la forma más rápida de contactarme.