KI/ML-Ingenieur Interviewfragen

Was ist der Unterschied zwischen Supervised und Unsupervised Learning?

Supervised Learning trainiert mit gelabelten Beispielen — es gibt Eingaben und die richtigen Ausgaben, und das Modell lernt, das eine auf das andere abzubilden, wie bei Klassifikation oder Regression. Unsupervised Learning hat keine Labels; es sucht selbstständig nach Struktur, etwa beim Clustering oder bei der Dimensionsreduktion. Reinforcement Learning ist eine dritte Kategorie, bei der ein Agent aus Belohnungssignalen lernt, die durch seine eigenen Aktionen entstehen, statt aus einem festen Datensatz.

Was ist Overfitting, und wie verhindert man es?

Overfitting bedeutet, dass ein Modell die Trainingsdaten samt ihres Rauschens auswendig lernt, statt das zugrunde liegende Muster zu erfassen — es schneidet also auf den Trainingsdaten gut ab, auf neuen Daten aber schlecht. Man bekämpft es mit Regularisierung (L1/L2), Dropout in neuronalen Netzen, mehr Trainingsdaten, Early Stopping oder schlicht einem kleineren Modell. Underfitting ist das Gegenteil: Das Modell ist zu einfach, um das Muster überhaupt zu erfassen, und sowohl Trainings- als auch Validierungswerte sind schlecht.

Warum teilt man Daten in Train-, Validation- und Test-Set auf?

Vom Trainingsset lernt das Modell. Das Validation-Set wird während der Entwicklung genutzt, um Hyperparameter zu tunen und zwischen Modellen zu wählen, ohne das eigentliche Holdout anzufassen. Das Test-Set wird genau einmal am Ende angefasst, um eine Zahl zu berichten, der man vertrauen kann — wenn man darauf tunt, verliert diese Zahl jede Aussagekraft, ein Fehler, den man in echten Pipelines immer noch sieht.

Wann ist Accuracy die falsche Metrik, und was nutzt man stattdessen?

Accuracy täuscht bei unausgeglichenen Daten — ein Modell, das immer „kein Betrug" vorhersagt, erreicht 99 % Accuracy auf einem Datensatz, der zu 99 % aus legitimen Transaktionen besteht, und ist trotzdem nutzlos. Precision zeigt, wie viele der als positiv vorhergesagten Fälle tatsächlich positiv waren; Recall zeigt, wie viele der tatsächlich positiven Fälle erkannt wurden; F1 ist ihr harmonisches Mittel, wenn eine einzelne Zahl gebraucht wird. ROC-AUC eignet sich, um Modelle über alle Schwellenwerte hinweg zu vergleichen, aber Precision-Recall-Kurven sind bei stark unausgeglichenen Klassen ehrlicher.

Was ist Backpropagation?

Es ist der Algorithmus, der berechnet, wie stark jedes Gewicht eines neuronalen Netzes zum Fehler beigetragen hat, indem er den Gradienten des Losses mithilfe der Kettenregel von der Ausgabeschicht zurück zur Eingabeschicht propagiert. Jedes Gewicht wird dann in die Richtung verschoben, die den Loss verringert, skaliert mit der Lernrate. Das ist keine Magie — es ist effizient angewandte Analysis, die Zwischenergebnisse Schicht für Schicht wiederverwendet, statt sie von Grund auf neu zu berechnen.

Was ist der Attention-Mechanismus in einem Transformer?

Attention lässt jedes Token einer Sequenz auf jedes andere Token schauen und entscheiden, wie stark es beim Aufbau seiner eigenen Repräsentation gewichtet wird, statt die Sequenz streng der Reihe nach zu verarbeiten wie ein RNN. Self-Attention berechnet Query-, Key- und Value-Vektoren für jedes Token, und das Skalarprodukt aus Query und Key ergibt das Attention-Gewicht. Genau das erlaubt Transformern, weitreichende Abhängigkeiten parallel zu modellieren, und ist der Hauptgrund, warum sie RNNs bei den meisten NLP-Aufgaben abgelöst haben.

Wann fine-tuned man ein Modell statt es nur zu prompten?

Prompting — inklusive Few-Shot-Beispielen im Kontext — lässt sich schneller iterieren, braucht keine Trainingsinfrastruktur und funktioniert gut, wenn die Aufgabe nah an dem liegt, was das Basismodell schon kann. Fine-Tuning lohnt sich, wenn man ein bestimmtes Ausgabeformat zuverlässig braucht, wenn das Domänenvokabular weit von den allgemeinen Trainingsdaten entfernt ist, oder wenn ein Verhalten fest verankert werden muss, das ein Prompt nicht zuverlässig erzwingen kann. In der Praxis probieren die meisten Teams zuerst Prompting und RAG und fine-tunen erst, wenn diese an eine echte Grenze stoßen.

Was ist RAG (Retrieval-Augmented Generation), und wofür nutzt man es?

RAG holt relevante Dokumente aus einer Vektordatenbank — meist über Embedding-Ähnlichkeit — und packt sie in den Prompt, damit das Modell auf Basis dieses fundierten Kontexts antwortet statt nur auf Basis seiner Trainingsdaten. Es ist die Standardlösung gegen Halluzinationen bei domänenspezifischem oder sich schnell änderndem Wissen, weil das Aktualisieren des Index weit günstiger ist als ein Retraining des Modells. Der Trade-off: Die Antwortqualität hängt jetzt stark von der Retrieval-Qualität ab — eine schlechte Chunking-Strategie oder ein veralteter Embedding-Index liefert still und leise schlechte Antworten.

Wie überwacht man ein Modell in Produktion, und was ist Data Drift?

Man verfolgt Vorhersageverteilungen, Verteilungen der Eingabemerkmale und die schließlich verfügbaren tatsächlichen Ergebnisse und vergleicht sie mit dem, was das Modell beim Training gesehen hat. Data Drift bedeutet, dass sich die Eingabeverteilung über die Zeit verschiebt — Nutzerverhalten ändert sich, ein neuer Markt öffnet, ein Sensor wird neu kalibriert —, sodass ein zum Trainingszeitpunkt genaues Modell allmählich ungenau wird, aus Gründen, die nichts mit dem Modell selbst zu tun haben. Das zu erkennen erfordert Monitoring der Eingaben, statt darauf zu warten, dass sich die Degradation sichtbar in den Accuracy-Metriken zeigt — dann ist der reale Schaden schon entstanden.