Zkušenosti z praxe

Vlastní server AI, nebo cloudové API: co se vyplatí menším firmám?

Otevřené porovnání celkových nákladů: příklad na 36 měsíců zahrnuje nákup, elektřinu, správu i aktuální tarify API. Předpoklady, kvalitu a kapacitu ověřte odděleně.

InfrastrukturaCloud
Značka DAXS nad oddělenými symboly kalkulačky a sloupců využití

Levná grafická karta ještě neznamená levnou službu AI. Ani cloudové řešení však nestojí jen cenu tokenů. Otevřené porovnání za 36 měsíců ukazuje, které předpoklady nákupu, elektřiny, správy a využití rozhodují.

Nejprve úkol, potom nákladová křivka

V příkladu mají ze schválených poznámek vznikat krátké návrhy textů. Pro smysluplné porovnání musí být stanoveny kvalita, povolené cesty dat, délka kontextu, čekání a souběžné používání. Malý místní model a cloudový model nemají automaticky stejný výkon.

Následující částky tvoří modelový výpočet. Ověřené ceníkové ceny API jsou odděleny od volně zvolených plánovacích předpokladů. Nákladové křivky nejsou nabídkami a nedokládají stejnou kapacitu ani kvalitu výsledků. Všechny průběžné porovnávané hodnoty jsou bez DPH nebo kalkulační náklady.

Kolik stojí vlastní server za 36 měsíců?

Předpokládáme počáteční rozpočet 17 800 eur bez DPH: 14 500 eur za hardware, 1 500 eur za tři roky hardwarového servisu a 1 800 eur za zavedení. Při předpokládané rakouské DPH 20 % činí tento počáteční blok 21 360 eur včetně DPH. Skutečné daňové zacházení se určuje pro konkrétní obchod.

V ekonomickém výpočtu rozložíme 17 800 eur do 36 měsíců. Je v tom zahrnuta předpokládaná doba odpisování hardwaru; nejde o stanovení daňové doby použitelnosti. Měsíční hodnota je kalkulační údaj, nikoli měsíční splátka financování.

Měsíční kalkulační hodnoty bez DPH; všechny částky jsou volně zvolené plánovací předpoklady.
Položka Eur/měsíc Předpoklad
Počáteční rozpočet / 36 494,44 17 800 eur včetně zavedení a tříletého hardwarového servisu.
Elektřina a prostředí 54,75 Průměrně 250 W, celoročně, 0,25 eura/kWh bez DPH a faktor 1,20.
Správa 200,00 Dvě hodiny za kalkulačních 100 eur.
Zálohování / monitoring 20,00 Dodatečná měsíční částka.
Rezerva 30,00 Na nekryté díly nebo práci.
Celkem 799,19 Nevyužitá kapacita zůstává součástí výpočtu.

Energetický předpoklad zní: 0,250 kW průměrného celkového příkonu × 8 760 hodin/rok × 0,25 eura/kWh bez DPH × faktor 1,20 pro dodatečné nároky prostředí ÷ 12. Výsledkem je 54,75 eura měsíčně. Faktor je samostatný předpoklad pro chlazení a prostředí, nezávislý na DPH.

Pro skutečný výpočet se měří celý systém v klidu i při zátěži. Použitá cena elektřiny musí odpovídat skutečným nákladům firmy na energii, síť a odvody. Zde nejde o tvrzení o aktuálním průměrném rakouském tarifu.

Oba provozní modely se ověřují na stejném úkolu. Vlastní server nese investiční a provozní náklady; u cloudového API se k základu přidávají náklady podle spotřeby. Všechny částky jsou modelové předpoklady bez DPH.
Dva nákladové modely s výslovně zvolenými předpoklady. Kvalita modelu, skutečná kapacita a potřebné doplňkové služby se ověřují samostatně v pilotu.

Výpočet API potřebuje využití a tarif

Časově určeným příkladem poskytovatele je OpenAI GPT-6.1 Sol ve standardním tarifu pro krátký kontext: 2 americké dolary za milion necachovaných vstupních tokenů, 2,50 amerického dolaru za zápisy do cache a 10 amerických dolarů za milion výstupních tokenů. Ceník uvádí příplatek 10 % za regionální zpracování tam, kde je dostupné.

Výpočet předpokládá 2 000 vstupních tokenů a 500 skutečně účtovaných výstupních tokenů na operaci. Při plánování počítáme pro jistotu všechny vstupy vyšší sazbou zápisu do cache 2,50 amerického dolaru. Běžná vstupní sazba se nepřičítá znovu. Zásahy cache, další nástroje a opakování v tomto scénáři nejsou zahrnuty.

Při 10 000 operacích tak vznikne 20 milionů vstupních a 5 milionů výstupních tokenů: 20 × 2,50 + 5 × 10 = 100 amerických dolarů. S předpokládaným regionálním příplatkem je to 110 amerických dolarů. Použitý volně zvolený přepočítací faktor 0,92 eura za americký dolar dává 101,20 eura; nejde o ověřený denní směnný kurz.

Přidáváme předpokládaných 1 200 eur za integraci rozložených do 36 měsíců, 50 eur měsíční podpory a 20 eur na monitoring nebo zálohování. Tento základ činí zaokrouhleně 103,33 eura měsíčně. S 10 000 modelovými operacemi vychází 204,53 eura za měsíc.

Jak se projeví vyšší využití?

Měsíční modelový výpočet bez DPH. Místní kvalita a kapacita pro toto využití nejsou doloženy.
Operace/měsíc Vstup, miliony Výstup, miliony Spotřeba API, eura API celkem, eura Místní kalkulační křivka, eura
1 000 2 0,5 10,12 113,45 799,19
10 000 20 5 101,20 204,53 799,19
50 000 100 25 506,00 609,33 799,19
100 000 200 50 1 012,00 1 115,33 799,19

Místní nákladová křivka zůstává v tabulce matematicky konstantní. Výslovně to nedokazuje, že předpokládaný hardware zvládne danou zátěž s vhodnou kvalitou a odezvou. Vyšší souběžnost, dlouhé kontexty nebo větší model mohou vyžadovat další hardware a správu.

Cloudová hodnota se také mění, pokud se účtuje více tokenů, používají další nástroje nebo se změní tarifní třída. Rozhodující jsou skutečná data používání. Samotná viditelná délka odpovědi nestačí jako míra účtování.

Které předpoklady musí pilot nahradit?

Dvě hodiny místní správy po 100 eurech, menší rozsah podpory API, příkon a přepočítací faktor jsou plánovací předpoklady. Po několika reprezentativních týdnech je lze nahradit pozorovanými hodnotami. U obou variant se navíc eviduje potřebná odborná kontrola a přepracování.

Místní výpočet činí za 36 měsíců celkem 28 771 eur bez DPH nebo kalkulačních nákladů. Předpokládá existující rack, síť a vhodnou techniku lokality. Nová úprava místnosti, financování, následky výpadků a konečná zůstatková hodnota nejsou zahrnuty. Další potřebné softwarové licence se musí před rozhodnutím ověřit a doplnit.

Existující stroj může snížit dodatečnou investici, ale stále znamená elektřinu, údržbu, zůstatkovou hodnotu a vázanou kapacitu. Jiný poskytovatel API, menší vhodný model, zásahy cache nebo vhodné asynchronní zpracování mohou naopak změnit cloudový výpočet. Porovnává se náklad na použitelný výsledek.

Posoudit technickou a organizační vhodnost společně

Povolené cesty dat, závislost na internetu, odezva, možnost změn a obnova patří do rozhodování. Hybridní model může cíleně rozdělit úkoly, potřebuje však také pravidla a správu. DAXS hodnotí místní infrastrukturu a externí služby podle skutečného úkolu.

Naše tematická stránka optimalizace nákladů AI vysvětluje výběr modelu a směrování. Informace o místní infrastruktuře LLM a pilotu při skutečné zátěži doplňují technické ověření. Pro základní orientaci pomůže porovnání provozních modelů.

Probrat úkol AI, rozpočet a provozní model.

Zdroje: OpenAI: tarify GPT-6.1 Sol (externí odkaz) · OpenAI: třídy zpracování a příplatky (externí odkaz) · E-Control: složky ceny elektřiny (externí odkaz) · USP: sazby DPH (externí odkaz). Všechny ostatní vstupy výpočtu jsou výslovně zvolené předpoklady scénáře.