Inferentie (machine learning)
Inferentie is de fase waarin een getraind machine-learning-model wordt gebruikt om voorspellingen te doen op nieuwe, live data, in tegenstelling tot de trainingsfase waarin het leert. In de industrie draait inferentie vaak continu op streaming sensordata.
Training en inferentie hebben heel verschillende eisen. Training is rekenintensief en gebeurt periodiek; inferentie moet herhaaldelijk draaien, vaak in realtime en soms op beperkte edge-hardware dicht bij de apparatuur. Inferentielatentie, doorzet en kosten bepalen daarom hoe en waar een model wordt uitgerold. Edge AI bestaat juist om inferentie lokaal te draaien voor snelle, betrouwbare voorspellingen zonder data heen en weer naar de cloud te sturen.