Propad nákladů na inferenci AI
Náklady na provoz modelu AI v kvalitě odpovídající GPT-3.5 klesly z přibližně 20 USD za milion tokenů koncem roku 2022 na zhruba 0,07 USD za milion tokenů do října 2024 – více než 280násobné snížení za asi 18 měsíců. Schopná AI se stala dramaticky levnější pro nasazení.
Source: Stanford HAI — AI Index 2025: State of AI in 10 Charts (2025)
What it means
280násobný pokles nákladů na schopnou AI za necelé dva roky je důvodem, proč aplikace, které byly v roce 2023 nerentabilní – analýza každého protokolu údržby, každého toku ze senzorů, každého snímku kvality – jsou nyní cenově dostupné pro nepřetržitý provoz. Pro provozovatele zní praktická zpráva tak, že rozpočtová bariéra pro uplatnění AI napříč provozem do značné míry zmizela.
Context
Stanford AI Index sleduje cenu za dosažení pevného prahu kvality (asi 64,8 % v benchmarku MMLU) namísto ceny jednoho konkrétního modelu. V závislosti na úloze zpráva zjišťuje, že ceny inference klesají kdekoli od 9 do 900krát ročně. Protože metrika drží kvalitu konstantní, zatímco se hardware a modely zlepšují, zachycuje skutečné ekonomické zisky, nikoli pouhé slevy.
Related charts
How widely manufacturers have adopted AI
Industrial robot installations worldwide
Robot density in manufacturing
Related topics
Generative AI in Manufacturing: Practical Examples · AI Agents for Industrial Maintenance: What They Are and Where They Help · Large Language Model (LLM) · Generative AI · Machine Learning (Industrial)
Relevant to: Chemicals · Food Processing · Pharmaceuticals