Machine learning at scale

Machine Learning at Scale ist ein Newsletter und Lernressource von Ludo, Machine-Learning-Engineer bei Google. Das erklärte Ziel ist, Leser zu '10x'-ML-Engineers zu machen, indem es über Einsteiger-Tutorials hinausgeht und die Realität des ML-Betriebs in der Produktion behandelt: wie Systeme entworfen werden, wo sie brechen und welche Muster skalieren.

Das inhaltliche Programm ist in Fallstudien, Design Patterns, Deep Dives und Karriereberatung gegliedert. Zu den Themen gehören LLM-Inferenz im großen Maßstab, Empfehlungssysteme, Suche und Ranking, RAG im KI-Zeitalter und Ads-Systeme, dazu bald erscheinende Deep Dives zu ML-Systemen. Der Autor bringt Erfahrung aus der Missbrauchsbekämpfung bei 500k QPS, dem Pretraining und Feintuning von Transformer-Modellen, End-to-End-Systemen für YouTube-Ads, ML-Anwendungen am CERN und einer Computer-Vision-Abschlussarbeit bei Volvo mit.

Community- und Karriereunterstützung gehört zum Angebot: Eine wachsende Basis von ML-Engineers führender Unternehmen abonniert wöchentlich, und die Website enthält eine FAQ zum Einstieg in ML, zum Weg in die Big Tech, zu MLE- versus Data-Scientist-Rollen und zur Frage, ob eine Promotion nötig ist. Zusätzliche Ressourcen sind ein kommender MLSys-Kurs, ein YouTube-Kanal und kuratierte Buchtipps.