Pembangun

Inferens AI

Hitung kos inferens model AI untuk OpenAI, Anthropic, dan pembekal LLM lain. Bandingkan harga antara model, anggaran perbelanjaan bulanan berdasarkan penggunaan token, dan optimumkan belanjawan infrastruktur AI anda.

Adakah kalkulator ini membantu anda?

Apakah Inferens AI?

Kalkulator kos inferens AI menganggar berapa yang anda akan belanja untuk panggilan API AI dengan memodelkan hubungan antara penggunaan token, harga per-token, dan volume permintaan. Ia mengambil tiga input teras — berapa token yang digunakan oleh setiap permintaan (dibahagikan kepada input dan output), berapa pembekal anda mengenakan caj per juta token, dan berapa permintaan yang anda jangka sehari — dan meramalkan kos bulanan anda. Harga inferens AI mengikut formula mudah tetapi perinciannya penting: token input (prompt dan konteks anda) sentiasa lebih murah daripada token output (respons model), harga berbeza secara drastik antara pembekal dan tahap model, dan kos meningkat secara linear dengan volume. Chatbot yang mengendalikan 10,000 pertanyaan sehari dengan GPT-4o-mini mungkin berharga $30/bulan, manakala volume yang sama pada Claude Opus mungkin melebihi $300. Kalkulator ini membantu anda membandingkan pembekal, memilih tahap model yang sesuai untuk kes penggunaan anda, menganggar kos sebelum melancarkan ciri AI, dan memahami ke mana belanjawan inferens anda sebenarnya pergi. Ia direka untuk pembangun, pengurus produk, dan pengasas permulaan yang membina aplikasi bertenaga AI.

Bila Menggunakan Kalkulator Ini

  • Merancang belanjawan ciri AI sebelum pelancaran — anggar kos bulanan pada volume permintaan yang diramalkan untuk memahami perbelanjaan infrastruktur.
  • Membandingkan pembekal model dan tahap — model beban kerja yang sama pada GPT-4o, Claude Opus, GPT-4o-mini, dan Claude Haiku untuk mencari pilihan yang paling menjimatkan kos.
  • Menilai hosting sendiri vs API — menentukan ambang volume di mana hosting sendiri model berat terbuka menjadi lebih murah daripada harga per-token API.
  • Mengoptimumkan reka bentuk prompt — memahami kesan kos prompt yang lebih pendek, system prompt yang di-cache, dan panjang output yang dikurangkan.
  • Merancang untuk skala — meramalkan bagaimana kos meningkat apabila permintaan harian meningkat dari 1K ke 100K, dan mengenal pasti di mana pengoptimuman kos menjadi kritikal.
  • Membelanjakan infrastruktur AI — membina permintaan belanjawan berasaskan data dengan menunjukkan kepada pihak berkepentingan berapa kos inferens AI pada volume semasa dan yang diramalkan.

Langkah:

  1. Masukkan bilangan token input setiap permintaan (prompt + konteks anda).
  2. Masukkan bilangan token output setiap permintaan (respons model).
  3. Masukkan kos input pembekal anda per juta token.
  4. Masukkan kos output pembekal anda per juta token.
  5. Masukkan volume permintaan harian yang dijangka.
  6. Semak kos bulanan yang diramalkan, kos per token, dan token per dolar.

Rumus

Kos Bulanan = Permintaan/Hari x 30 x [(Token Input x Kos Input per Juta / 1,000,000) + (Token Output x Kos Output per Juta / 1,000,000)] Kos per Token = (Token Input x Kos Input per Juta + Token Output x Kos Output per Juta) / (Token Input + Token Output) Token per Dolar = 1 / Kos per Token Contoh: Token Input = 1,000, Token Output = 500 Kos Input = $2.50/1M, Kos Output = $10.00/1M Permintaan/Hari = 10,000 Kos setiap permintaan = (1,000 x $2.50 / 1M) + (500 x $10.00 / 1M) = $0.0025 + $0.0050 = $0.0075 Kos Bulanan = 10,000 x 30 x $0.0075 = $2,250/bulan

Kes Penggunaan

  • Merancang belanjawan ciri AI sebelum pelancaran untuk memahami kos infrastruktur
  • Membandingkan harga antara pembekal (OpenAI, Anthropic, Google, open-weight) untuk kes penggunaan tertentu
  • Memutuskan sama ada menggunakan model utama atau model yang lebih kecil dan lebih murah untuk tugas anda
  • Menilai titik breakeven antara hosting sendiri dan panggilan API pada pelbagai volume
  • Mengoptimumkan reka bentuk prompt untuk mengurangkan pembaziran token dan menurunkan kos
  • Meramalkan bagaimana kos meningkat apabila permintaan harian meningkat dari 1K ke 100K

Faedah Utama

  • Menganggar kos API AI bulanan dengan segera untuk mana-mana gabungan pembekal dan model
  • Membandingkan harga antara pilihan model OpenAI, Anthropic, Google, dan open-weight
  • Memodelkan skala kos apabila volume permintaan meningkat dari prototaip ke pengeluaran
  • Mengenal pasti tahap model paling murah yang memenuhi keperluan kualiti anda
  • Memahami kesan kos pengoptimuman prompt dan strategi caching
  • Merancang belanjawan infrastruktur dengan yakin sebelum berkomitmen kepada pembekal AI
  • Percuma untuk digunakan tanpa pendaftaran

Tips Pro

  • Mulakan dengan model paling murah yang memenuhi tahap kualiti anda dan naik taraf hanya jika ketepatan tidak mencukupi — perbezaan kos biasanya 10-30 kali ganda
  • Optimumkan system prompt anda agar ringkas tetapi berkesan — setiap token dalam system prompt berulang akan didarab dengan setiap permintaan
  • Gunakan caching prompt untuk beban kerja dengan awalan berulang untuk mengurangkan kos token input sebanyak 50-90%
  • Jejak kos setiap ciri, bukan hanya perbelanjaan keseluruhan — ini mendedahkan keupayaan AI mana yang paling mahal dan di mana pengoptimuman memberi kesan terbesar
  • Tetapkan amaran belanjawan pada 50% dan 80% daripada had bulanan anda untuk mengelakkan bil yang tidak dijangka daripada peningkatan trafik

Kesilapan Biasa

  • Hanya mengira kos token input dan melupakan bahawa token output biasanya 2-8 kali ganda lebih mahal per token
  • Mengabaikan token system prompt yang dihantar dengan setiap permintaan dan mengumpul kos yang ketara pada skala besar
  • Tidak mengambil kira sejarah perbualan dalam aplikasi berbilang pusingan, di mana konteks berkembang dengan setiap pusingan
  • Menganggap model utama sentiasa diperlukan — model yang lebih kecil sering mencapai 90%+ ketepatan pada 5-10% kos untuk tugas mudah
  • Gagal merancang belanjawan untuk percubaan semula, ralat had kadar, dan kes tepi yang menghasilkan output lebih panjang daripada yang dijangkakan

Istilah Utama

Token: Unit asas teks yang diproses oleh model AI — kira-kira 0.75 perkataan Inggeris atau 1.5 aksara Cina. Token input dan output dicas berasingan.
Token Input: Token dalam prompt dan konteks anda yang dibaca model sebelum menjana respons. Biasanya dikenakan harga lebih rendah daripada token output.
Token Output: Token yang dijana oleh model dalam responsnya. Lebih mahal daripada token input kerana penjanaan terhad pengiraan dan berjujukan.
Tetingkap Konteks: Jumlah maksimum token yang boleh diproses oleh model dalam satu permintaan (input + output digabungkan). Melebihinya memerlukan pemotongan atau pemecahan.
Caching Prompt: Teknik pengoptimuman kos di mana awalan yang kerap digunakan (seperti system prompts) di-cache oleh pembekal dan dikenakan pada kadar yang lebih rendah.
Harga Per-Token: Kos yang dikenakan per juta token, biasanya dibahagikan kepada kadar input dan output berasingan yang berbeza mengikut tahap model.

Konsep Berkaitan

  • Kalkulator Kos Pengkomputeran GPU: Untuk beban kerja yang membenarkan hosting sendiri, memahami kos GPU membantu membandingkan inferens dalaman dengan harga API. Kalkulator kos pengkomputeran GPU kami memodelkan kadar jam GPU awan berbanding throughut token.
  • Kalkulator Kos Hosting Awan: Infrastruktur inferens AI sering berjalan bersama perkhidmatan awan lain — kalkulator kos hosting awan kami membantu merancang belanjawan keseluruhan tumpukan infrastruktur.
  • Kalkulator Monetisasi API: Jika anda membina produk yang menggunakan inferens AI dan mengenakan caj kepada pengguna, memahami margin antara kos inferens dan pendapatan setiap permintaan adalah penting. Kalkulator monetisasi API kami memodelkan ekonomi unit ini.
  • Kalkulator Ekonomi Unit: Kos inferens AI setiap permintaan adalah input utama dalam ekonomi unit produk anda — menggabungkan CAC, LTV, dan kos setiap permintaan mendedahkan keuntungan sebenar.
  • Kalkulator Jangka Hayat Permulaan: Kos inferens yang tinggi boleh memberi kesan dramatik kepada kadar pembakaran — kalkulator jangka hayat permulaan kami membantu memodelkan bagaimana kos infrastruktur AI mempengaruhi jangka hayat kewangan anda.

Contoh

Chatbot perkhidmatan pelanggan menghantar 800 token input (system prompt + sejarah perbualan) dan menerima 400 token output setiap pertanyaan. Menggunakan GPT-4o-mini pada $0.15/1M input dan $0.60/1M output, dengan 15,000 pertanyaan sehari: Kos setiap permintaan = (800 x $0.15 / 1M) + (400 x $0.60 / 1M) = $0.00012 + $0.00024 = $0.00036 Kos Bulanan = 15,000 x 30 x $0.00036 = $162/bulan Naik taraf ke GPT-4o pada $2.50/1M input dan $10.00/1M output: Kos setiap permintaan = (800 x $2.50 / 1M) + (400 x $10.00 / 1M) = $0.002 + $0.004 = $0.006 Kos Bulanan = 15,000 x 30 x $0.006 = $2,700/bulan — peningkatan kos 16.7 kali ganda untuk volume yang sama.

Mentafsir Hasil

Anggaran kos bulanan adalah nombor perancangan utama anda — ia mewakili apa yang anda akan bayar sebenarnya pada volume dan harga yang diberikan. Kos per token memberitahu anda betapa mahalnya setiap unit teks, yang berguna untuk membandingkan model. Token per dolar menunjukkan berapa banyak teks yang anda boleh hasilkan untuk $1, yang membantu memahami kapasiti. Jika kos bulanan anda kelihatan tinggi, tuas terbesar untuk pengurangan ialah: (1) bertukar ke tahap model yang lebih kecil jika kerumitan tugas membenarkan, (2) mengoptimumkan prompt untuk mengurangkan bilangan token, (3) melaksanakan caching prompt untuk awalan berulang, dan (4) menggabungkan permintaan ke dalam batch apabila pembekal menawarkan harga batch. Ambil perhatian bahawa kalkulator ini memodelkan kos API langsung. Untuk gambaran kos yang lengkap, turut ambil kira: percubaan semula (tambah 5-15%), beban system prompt (tambah token system prompt setiap permintaan × volume), pertumbuhan sejarah perbualan dalam aplikasi berbilang pusingan, dan penimbal 20-30% untuk peningkatan trafik dan kes tepi. Semasa membandingkan pembekal, ingat bahawa kadar per-token paling murah bukan selalu yang paling murah secara keseluruhan — model yang menghasilkan respons yang lebih pendek dan ringkas mungkin menggunakan lebih sedikit token output dan berharga lebih murah walaupun pada kadar per-token yang lebih tinggi.

Soalan Lazim

Berapakah kos panggilan API AI?
Kos API AI berbeza-beza mengikut model dan pembekal. Sehingga 2025, token input berharga sekitar $0.15 per juta untuk model yang lebih kecil (GPT-4o-mini, Claude Haiku) sehingga $15 per juta untuk model utama (GPT-4o, Claude Opus). Token output biasanya berharga 2-8 kali ganda lebih mahal daripada token input pada peringkat yang sama. Satu pertanyaan perkhidmatan pelanggan tipikal yang menggunakan 1,000 token input dan 500 token output berharga kira-kira $0.003-$0.015 bergantung pada model.
Mengapa token output biasanya lebih mahal daripada token input?
Token output lebih mahal kerana penjanaannya memerlukan model menjalankan inferens secara berjujukan — setiap token output bergantung pada semua token sebelumnya, menjadikan penjanaan terhad pengiraan berbanding terhad memori seperti pemprosesan input. Token input boleh diproses secara selari (satu pendaraban matriks untuk semua), manakala token output mesti dijana satu demi satu dalam gelung autoregresif. Pembekal memasukkan kos pengiraan yang lebih tinggi ini ke dalam kadar token output, biasanya pada 2-8 kali kadar input.
Pada-volume penggunaan berapa hosting sendiri menjadi lebih murah daripada panggilan API?
Titik breakeven bergantung pada saiz model dan kos infrastruktur anda. Untuk model 7B parameter pada GPU A100 tunggal (~$2/jam), hosting sendiri menjadi lebih murah daripada panggilan API pada kira-kira 500K-1M token sehari. Untuk model yang lebih besar 70B yang memerlukan berbilang GPU, ambang lebih hampir kepada 5-10M token sehari. Di bawah volume ini, harga per-token API biasanya lebih menjimatkan kerana anda hanya membayar apa yang anda gunakan, mengelakkan kos GPU yang tidak aktif.
Berapa banyak pengurangan kos yang boleh diberikan oleh caching prompt atau batching?
Caching prompt boleh mengurangkan kos sebanyak 50-90% untuk beban kerja dengan awalan berulang (seperti system prompts). Prompt Caching OpenAI dan Prompt Caching Anthropic kedua-duanya menyimpan secara automatik konteks yang kerap digunakan, dengan token yang di-cache dikenakan pada 10-50% daripada kadar tidak di-cache. Menggabungkan beberapa permintaan ke dalam satu panggilan API (di mana disokong) boleh mengurangkan beban lebihan setiap permintaan dan kadang-kadang layak untuk harga batch yang 50% lebih murah. Digabungkan, caching dan batching boleh memotong kos inferens sebanyak 60-80% untuk beban kerja yang sesuai.
Bagaimana saya menganggar penggunaan token sebelum membina ciri?
Mulakan dengan prototaip dan ukur jumlah token sebenar, atau anggar daripada kes penggunaan serupa. Peraturan umum: 1 token ≈ 0.75 perkataan Inggeris (atau ≈ 1.5 aksara Cina/Jepun). Satu pertanyaan sokongan pelanggan tipikal menggunakan 500-2,000 token input dan 200-1,000 token output. Satu tugas ringkasan dokumen menggunakan kira-kira 1 token untuk setiap 4 aksara teks sumber. Tambah penimbal 20-30% untuk system prompts, sejarah perbualan, dan kes tepi yang menghasilkan output lebih panjang.
Apakah perbezaan kos antara model utama dan model yang lebih kecil?
Model utama (GPT-4o, Claude Opus) biasanya berharga 10-30 kali ganda lebih mahal per token berbanding model yang lebih kecil (GPT-4o-mini, Claude Haiku). Untuk tugas mudah seperti pengeksportan, pengekstrakan, atau Q&A mudah, model yang lebih kecil sering mencapai 90-95% ketepatan pada 5-10% daripada kos. Kunci ialah kerumitan tugas: penulisan kreatif, penaakulan yang bernuansa, dan analisis berbilang langkah mendapat manfaat lebih daripada model utama, manakala pengekstrakan data berstruktur dan chatbot mudah berfungsi dengan baik bersama model yang lebih kecil dan lebih murah.
Bagaimana had token input dan output mempengaruhi kos saya?
Kebanyakan model mempunyai had tetingkap konteks (contohnya, 128K token untuk GPT-4o, 200K untuk Claude). Jika input anda melebihi had, anda mesti memotong atau memecahkan, yang menambah kerumitan dan berpotensi meningkatkan kos. Konteks yang lebih panjang juga meningkatkan kos input secara linear — system prompt 10,000 token berharga 10 kali ganda lebih daripada yang 1,000 token. Mengoptimumkan prompt anda agar ringkas sambil mengekalkan kualiti adalah antara strategi pengurangan kos yang paling berkesan.
Patutkah saya menggunakan API penstriman atau permintaan standard untuk kawalan kos?
Penstriman tidak mengubah kos per-token — anda membayar kadar yang sama sama ada respons penstriman atau tiba dalam satu batch. Walau bagaimanapun, penstriman meningkatkan pengalaman pengguna untuk respons panjang dan membolehkan anda membatalkan penjanaan lebih awal jika output tidak diperlukan, yang boleh menjimatkan kos dalam senario pembatalan. Untuk kawalan kos, tuas yang lebih besar ialah mengoptimumkan panjang prompt anda dan memilih tahap model yang sesuai untuk kerumitan tugas anda.
Bagaimana saya menjejak dan memantau perbelanjaan AI saya dari semasa ke semasa?
Kebanyakan pembekal menawarkan papan pemuka penggunaan dan API pengebilan. Rekod setiap panggilan API dengan bilangan token dan kosnya, kemudian agregat harian/mingguan/bulanan. Tetapkan amaran belanjawan pada 50%, 80%, dan 100% daripada belanjawan bulanan anda. Untuk beban kerja pengeluaran, jejak kos setiap ciri atau setiap pengguna untuk menentukan ciri AI mana yang paling mahal dan di mana pengoptimuman akan memberi kesan terbesar. Alat seperti LangSmith, Helicone, dan OpenRouter menyediakan pertengah untuk penjejakan kos.
Apakah kos tersembunyi yang perlu saya rancang selain daripada token API mentah?
Selain daripada kos token, rancang belanjawan untuk: (1) percubaan semula untuk permintaan yang gagal atau dihadkan kadar, yang boleh menambah 5-15% kepada perbelanjaan token anda; (2) token system prompt yang dihantar dengan setiap permintaan tetapi tidak berubah; (3) sejarah perbualan yang terkumpul sepanjang interaksi berbilang pusingan; (4) kos ujian dan pembangunan semasa fasa pembinaan; (5) peningkatan kos yang berpotensi apabila pembekal melaraskan harga. Penimbal 20-30% di atas kos token yang dikira adalah bijak untuk beban kerja pengeluaran.
Bagaimana versi model mempengaruhi kos inferens saya?
Pembekal kerap mengeluarkan versi model baharu dengan harga yang berbeza. GPT-4o lebih murah daripada GPT-4 Turbo walaupun lebih baru dan sering lebih pantas. Kekal pada model lama dan lapuk mungkin berharga lebih atau kehilangan akses kepada pengoptimuman kos. Semak secara berkala pilihan model anda berbanding harga semasa — bertukar daripada model lama kepada model baharu yang lebih murah boleh mengurangkan kos sebanyak 30-70% dengan kualiti yang sama atau lebih baik untuk banyak tugas.

Terokai Lebih Banyak Alat

Pilihan segar dari seluruh perpustakaan alat kami.

House Hacking

Penukar Kecekapan Bahan Api Jisim

Kalkulator Kerikil

Penunjuk Qibla

Penjimatan Kerja Jauh

FIRE