এআই ইনফারেন্স খরচ ক্যালকুলেটর কী?
একটি AI ইনফারেন্স খরচ ক্যালকুলেটর টোকেন ব্যবহার, প্রতি-টোকেন মূল্য এবং অনুরোধের পরিমাণের মধ্যে সম্পর্ক মডেল করে আপনি AI API কলে কত খরচ করবেন তা অনুমান করে। এটি তিনটি মূল ইনপুট নেয় — প্রতিটি অনুরোধে কত টোকেন ব্যবহার হয় (ইনপুট ও আউটপুটে বিভক্ত), আপনার প্রদানকারী প্রতি মিলিয়ন টোকেনে কত চার্জ করে, এবং আপনি প্রতিদিন কতগুলি অনুরোধ আশা করেন — এবং আপনার মাসিক খরচ প্রক্ষেপণ করে।
AI ইনফারেন্স মূল্যায়ন একটি সহজ সূত্র অনুসরণ করে তবে বিবরণ গুরুত্বপূর্ণ: ইনপুট টোকেন (আপনার প্রম্পট ও কন্টেক্সট) সর্বদা আউটপুট টোকেনের (মডেলের প্রতিক্রিয়া) চেয়ে সস্তা, মূল্য প্রদানকারী ও মডেল স্তরভেদে ব্যাপকভাবে পরিবর্তিত হয়, এবং খরচ পরিমাণের সাথে রৈখিকভাবে বৃদ্ধি পায়। GPT-4o-mini দিয়ে প্রতিদিন ১০,০০০ কুয়েরি পরিচালনা করা একটি চ্যাটবট মাসে $৩০ খরচ করতে পারে, অন্যদিকে Claude Opus-এ একই পরিমাণ $৩০০-এর বেশি হতে পারে।
এই ক্যালকুলেটর আপনাকে প্রদানকারী তুলনা করতে, আপনার ব্যবহারের ক্ষেত্রে সঠিক মডেল স্তর বেছে নিতে, AI ফিচার চালুর আগে খরচ অনুমান করতে এবং আপনার ইনফারেন্স বাজেট আসলে কোথায় যাচ্ছে তা বুঝতে সাহায্য করে। এটি AI-চালিত অ্যাপ্লিকেশন তৈরিকারী ডেভেলপার, প্রোডাক্ট ম্যানেজার ও স্টার্টআপ প্রতিষ্ঠাতাদের জন্য ডিজাইন করা হয়েছে।
এই ক্যালকুলেটর কখন ব্যবহার করবেন
- চালু করার আগে একটি AI-চালিত ফিচারের বাজেট - অবকাঠামো খরচ বোঝার জন্য প্রকল্পিত অনুরোধ পরিমাণে মাসিক খরচ অনুমান করুন।
- মডেল প্রদানকারী ও স্তর তুলনা করা — GPT-4o, Claude Opus, GPT-4o-mini এবং Claude Haiku-তে একই ওয়ার্কলোড মডেল করে খরচ-অপ্টিমাল পছন্দ খুঁজে বের করুন।
- সেল্ফ-হোস্টিং বনাম API মূল্যায়ন - ওপেন-ওয়েট মডেলের সেল্ফ-হোস্টিং পে-পার-টোকেন API মূল্যের তুলনায় সস্তা হয়ে ওঠে এমন পরিমাণ সীমা নির্ধারণ করুন।
- প্রম্পট ডিজাইন অপ্টিমাইজ করা - ছোট প্রম্পট, ক্যাশ করা সিস্টেম প্রম্পট এবং হ্রাসিত আউটপুট দৈর্ঘ্যের খরচ প্রভাব বোঝুন।
- স্কেলের জন্য পরিকল্পনা - দৈনিক অনুরোধ ১K থেকে ১০০K এ বৃদ্ধি পেলে কীভাবে খরচ বৃদ্ধি পায় তা প্রকল্প করুন এবং খরচ অপ্টিমাইজেশন কোথায় সমালোচনামূলক হয়ে ওঠে তা সনাক্ত করুন।
- AI অবকাঠামো খরচ যুক্তিসঙ্গতকরণ - বর্তমান এবং প্রকল্পিত পরিমাণে AI ইনফারেন্স কত খরচ করে তা স্টেকহোল্ডারদের দেখিয়ে তথ্য-ভিত্তিক বাজেট অনুরোধ তৈরি করুন।
ধাপসমূহ:
- প্রতি অনুরোধে ইনপুট টোকেনের সংখ্যা প্রবেশ করান (আপনার প্রম্পট + প্রসঙ্গ)।
- প্রতি অনুরোধে আউটপুট টোকেনের সংখ্যা প্রবেশ করান (মডেলের রেসপন্স)।
- আপনার প্রদানকারীর ইনপুট খরচ প্রতি মিলিয়ন টোকেন প্রবেশ করান।
- আপনার প্রদানকারীর আউটপুট খরচ প্রতি মিলিয়ন টোকেন প্রবেশ করান।
- আপনার প্রত্যাশিত দৈনিক অনুরোধ পরিমাণ প্রবেশ করান।
- প্রকল্পিত মাসিক খরচ, প্রতি টোকেনে খরচ এবং প্রতি ডলারে টোকেন পর্যালোচনা করুন।
সূত্র
মাসিক খরচ = অনুরোধ/দিন × ৩০ × [(ইনপুট টোকেন × ইনপুট খরচ প্রতি ১M / ১,০০০,০০০) + (আউটপুট টোকেন × আউটপুট খরচ প্রতি ১M / ১,০০০,০০০)]
খরচ প্রতি টোকেন = (ইনপুট টোকেন × ইনপুট খরচ প্রতি ১M + আউটপুট টোকেন × আউটপুট খরচ প্রতি ১M) / (ইনপুট টোকেন + আউটপুট টোকেন)
টোকেন প্রতি ডলার = ১ / খরচ প্রতি টোকেন
উদাহরণ:
ইনপুট টোকেন = ১,০০০, আউটপুট টোকেন = ৫০০
ইনপুট খরচ = $২.৫০/১M, আউটপুট খরচ = $১০.০০/১M
অনুরোধ/দিন = ১০,০০০
প্রতি অনুরোধে খরচ = (১,০০০ × $২.৫০ / ১M) + (৫০০ × $১০.০০ / ১M)
= $০.০০২৫ + $০.০০৫০ = $০.০০৭৫
মাসিক খরচ = ১০,০০০ × ৩০ × $০.০০৭৫ = $২,২৫০/মাস
ব্যবহারের ক্ষেত্র
- চালু করার আগে একটি AI-চালিত ফিচারের বাজেট তৈরি করা এবং অবকাঠামো খরচ বোঝা
- একটি নির্দিষ্ট ব্যবহার কেসের জন্য প্রদানকারীদের মধ্যে মূল্য তুলনা করা (OpenAI, Anthropic, Google, ওপেন-ওয়েট)
- আপনার কাজের জন্য ফ্ল্যাগশিপ মডেল নাকি ছোট, সস্তা মডেল ব্যবহার করা সিদ্ধান্ত নেওয়া
- বিভিন্ন পরিমাণে সেল্ফ-হোস্টিং বনাম API কলের সাম্যাবস্থা মূল্যায়ন করা
- টোকেন অপচয় কমানো এবং খরচ হ্রাস করার জন্য প্রম্পট ডিজাইন অপ্টিমাইজ করা
- আপনার ব্যবহারকারী বেস ১K থেকে ১০০K দৈনিক অনুরোধে বৃদ্ধি পেলে কীভাবে খরচ বৃদ্ধি পায় তা পূর্বাভাস দেওয়া
প্রধান সুবিধাসমূহ
- যেকোনো প্রদানকারী এবং মডেল সংযোজনের জন্য তাৎক্ষণিকভাবে মাসিক AI API খরচ অনুমান করুন
- OpenAI, Anthropic, Google এবং ওপেন-ওয়েট মডেল বিকল্পের মধ্যে মূল্য তুলনা করুন
- প্রোটোটাইপ থেকে প্রোডাকশনে অনুরোধ পরিমাণ বৃদ্ধি পেলে খরচ স্কেলিং মডেল করুন
- আপনার মানের চাহিদা পূরণকারী সবচেয়ে সস্তা মডেল স্তর সনাক্ত করুন
- প্রম্পট অপ্টিমাইজেশন এবং ক্যাশিং কৌশলের খরচ প্রভাব বুঝুন
- AI প্রদানকারীর সাথে সম্পর্ক স্থাপনের আগে আত্মবিশ্বাসের সাথে অবকাঠামো বাজেট পরিকল্পনা করুন
- নিবন্ধন ছাড়াই বিনামূল্যে ব্যবহারযোগ্য
প্রো টিপস
- আপনার মানের সীমা পূরণকারী সবচেয়ে সস্তা মডেল দিয়ে শুরু করুন এবং নির্ভুলতা অপর্যাপ্ত হলে তবেই আপগ্রেড করুন - খরচ পার্থক্য প্রায়ই ১০-৩০ গুণ
- আপনার সিস্টেম প্রম্পটকে সংক্ষিপ্ত কিন্তু কার্যকর করে অপ্টিমাইজ করুন - একটি পুনরাবৃত্ত সিস্টেম প্রম্পটের প্রতিটি টোকেন প্রতিটি অনুরোধ দ্বারা গুণিত হয়
- পুনরাবৃত্ত প্রিফিক্স সহ কার্যভারের জন্য প্রম্পট ক্যাশিং ব্যবহার করুন ইনপুট টোকেন খরচ ৫০-৯০% কমাতে
- শুধু মোট খরচ নয়, ফিচার প্রতি খরচ ট্র্যাক করুন - এটি প্রকাশ করে কোন AI ক্ষমতা সবচেয়ে খরচব্যয়ী এবং কোথায় অপ্টিমাইজেশন সবচেয়ে বড় প্রভাব ফেলে
- ট্রাফিক স্পাইক থেকে অবাক করা বিল এড়ানোর জন্য আপনার মাসিক সীমার ৫০% এবং ৮০% এ বাজেট সতর্কতা সেট করুন
এড়ানোর সাধারণ ভুলসমূহ
- শুধুমাত্র ইনপুট টোকেন খরচ গণনা করা এবং ভুলে যাওয়া যে আউটপুট টোকেন সাধারণত প্রতি টোকেনে ২-৮ গুণ বেশি খরচ
- প্রতিটি অনুরোধের সাথে পাঠানো এবং বড় আকারে উল্লেখযোগ্য খরচ জমা করা সিস্টেম প্রম্পট টোকেন উপেক্ষা করা
- বহু-ধাপের চ্যাট অ্যাপ্লিকেশনে কথোপকথনের ইতিহাস গণনায় না নেওয়া, যেখানে প্রতিটি ধাপের সাথে প্রসঙ্গ বৃদ্ধি পায়
- ধরে নেওয়া যে ফ্ল্যাগশিপ মডেল সবসময় প্রয়োজন - ছোট মডেল সরল কাজের জন্য খরচের ৫-১০% এ ৯০%+ নির্ভুলতা অর্জন করে
- পুনরায় চেষ্টা, হার-সীমা ত্রুটি এবং প্রত্যাশার চেয়ে দীর্ঘতর আউটপুট উৎপাদনকারী পরিস্থিতির জন্য বাজেট না করা
মূল শব্দ ব্যাখ্যা
- টোকেন: একটি AI মডেল দ্বারা প্রক্রিয়াকৃত টেক্সটের মৌলিক একক - প্রায় ০.৭৫ ইংরেজি শব্দ বা ১.৫ চীনা অক্ষর। ইনপুট এবং আউটপুট উভয় টোকেন আলাদাভাবে বিল করা হয়।
- ইনপুট টোকেন: আপনার প্রম্পট এবং প্রসঙ্গে টোকেন যা মডেল রেসপন্স উত্পাদন করার আগে পড়ে। সাধারণত আউটপুট টোকেনের তুলনায় কম মূল্যায়ন করা হয়।
- আউটপুট টোকেন: মডেল তার রেসপন্সে উত্পাদন করা টোকেন। ইনপুট টোকেনের তুলনায় বেশি দামি কারণ উত্পাদন কম্পিউট-বাউন্ড এবং ক্রমাগত।
- কন্টেক্সট উইন্ডো: একটি মডেল একটি অনুরোধে প্রক্রিয়াকরণ করতে পারে টোকেনের সর্বোচ্চ সংখ্যা (ইনপুট + আউটপুট একসাথে)। এটি অতিক্রম করলে ট্রানকেশন বা খণ্ডন প্রয়োজন হয়।
- প্রম্পট ক্যাশিং: একটি খরচ-অপ্টিমাইজেশন কৌশল যেখানে প্রদানকারী দ্বারা ঘন ঘন ব্যবহৃত প্রিফিক্স (যেমন সিস্টেম প্রম্পট) ক্যাশ করা হয় এবং কম হারে বিল করা হয়।
- প্রতি টোকেন মূল্য: প্রতি মিলিয়ন টোকেনে চার্জ করা খরচ, সাধারণত আলাদা ইনপুট এবং আউটপুট হারে বিভক্ত যা মডেল স্তর অনুযায়ী পরিবর্তিত হয়।
সম্পর্কিত ধারণা
- GPU কম্পিউট খরচ ক্যালকুলেটর: সেল্ফ-হোস্টিং যুক্তিসঙ্গতকরণকারী কার্যভারের জন্য, GPU খরচ বোঝা স্থানীয় ইনফারেন্স বনাম API মূল্য তুলনায় সাহায্য করে। আমাদের GPU কম্পিউট খরচ ক্যালকুলেটর ক্লাউড GPU প্রতি ঘণ্টার হারকে টোকেন থ্রুপুটের সাথে মডেল করে।
- ক্লাউড হোস্টিং খরচ ক্যালকুলেটর: AI ইনফারেন্স অবকাঠামো প্রায়ই অন্যান্য ক্লাউড পরিষেবার পাশাপাশি চলে - আমাদের ক্লাউড হোস্টিং খরচ ক্যালকুলেটর সম্পূর্ণ অবকাঠামো স্ট্যাকের বাজেট তৈরিতে সাহায্য করে।
- API মনিটাইজেশন ক্যালকুলেটর: আপনি AI ইনফারেন্স ব্যবহার করা এবং ব্যবহারকারীদের চার্জ করা একটি পণ্য তৈরি করছেন হলে, আপনার ইনফারেন্স খরচ এবং প্রতি অনুরোধে আয়ের মধ্যে মার্জিন বোঝা সমালোচনামূলক। আমাদের API মনিটাইজেশন ক্যালকুলেটর এই ইউনিট ইকোনমিক্স মডেল করে।
- ইউনিট ইকোনমিক্স ক্যালকুলেটর: AI ইনফারেন্স খরচ প্রতি অনুরোধে আপনার পণ্যের ইউনিট ইকোনমিক্সে একটি গুরুত্বপূর্ণ ইনপুট - CAC, LTV এবং প্রতি-অনুরোধ খরচ একত্রিত করে সত্যিকারের লাভজনকতা প্রকাশ করে।
- স্টার্টআপ রানওয়ে ক্যালকুলেটর: উচ্চ ইনফারেন্স খরচ পোড়ানো হারে উল্লেখযোগ্য প্রভাব ফেলতে পারে - আমাদের স্টার্টআপ রানওয়ে ক্যালকুলেটর AI অবকাঠামো খরচ আপনার আর্থিক রানওয়েকে কীভাবে প্রভাবিত করে তা মডেল করতে সাহায্য করে।
উদাহরণ
একটি কাস্টমার সার্ভিস চ্যাটবট প্রতি কুয়েরিতে ৮০০ ইনপুট টোকেন (সিস্টেম প্রম্পট + কথোপকথনের ইতিহাস) পাঠায় এবং ৪০০ আউটপুট টোকেন গ্রহণ করে। GPT-4o-mini ব্যবহার করে, ইনপুটে $০.১৫/১M এবং আউটপুটে $০.৬০/১M, প্রতিদিন ১৫,০০০ কুয়েরি:
প্রতি-অনুরোধ খরচ = (৮০০ × $০.১৫ / ১M) + (৪০০ × $০.৬০ / ১M)
= $০.০০০১২ + $০.০০০২৪ = $০.০০০৩৬
মাসিক খরচ = ১৫,০০০ × ৩০ × $০.০০০৩৬ = $১৬২/মাস
GPT-4o-তে উন্নীত করলে, ইনপুটে $২.৫০/১M এবং আউটপুটে $১০.০০/১M:
প্রতি-অনুরোধ খরচ = (৮০০ × $২.৫০ / ১M) + (৪০০ × $১০.০০ / ১M)
= $০.০০২ + $০.০০৪ = $০.০০৬
মাসিক খরচ = ১৫,০০০ × ৩০ × $০.০০৬ = $২,৭০০/মাস — একই পরিমাণের জন্য ১৬.৭ গুণ খরচ বৃদ্ধি।
আপনার ফলাফলের ব্যাখ্যা
মাসিক খরচ অনুমান আপনার প্রাথমিক পরিকল্পনা সংখ্যা - এটি প্রতিনিধিত্ব করে দেওয়া পরিমাণ এবং মূল্যে আপনি আসলে কত পেমেন্ট করবেন। প্রতি টোকেনে খরচ বলে প্রতিটি টেক্সট একক কত খরচ, যা মডেল তুলনা করার জন্য উপযোগী। প্রতি ডলারে টোকেন দেখায় $১ দিয়ে আপনি কত টেক্সট উত্পাদন করতে পারেন, যা ক্ষমতা বোঝার জন্য সাহায্যকারী।
আপনার মাসিক খরচ বেশি মনে হলে, হ্রাসের জন্য বৃহত্তর লিভার হলো: (১) কাজের জটিলতা অনুমতি দিলে ছোট মডেল স্তরে পরিবর্তন করা, (২) টোকেন সংখ্যা কমানোর জন্য প্রম্পট অপ্টিমাইজ করা, (৩) পুনরাবৃত্ত প্রিফিক্সের জন্য প্রম্পট ক্যাশিং বাস্তবায়ন করা এবং (৪) প্রদানকারী ব্যাচ মূল্য অফার করলে অনুরোধ ব্যাচ করা।
মনে রাখবেন এই ক্যালকুলেটর সরাসরি API খরচ মডেল করে। সম্পূর্ণ খরচ ছবির জন্য, পুনরায় চেষ্টা (৫-১৫% যোগ করুন), সিস্টেম প্রম্পট ওভারহেড (প্রতি অনুরোধে সিস্টেম প্রম্পট টোকেন × পরিমাণ যোগ করুন), বহু-ধাপের অ্যাপে কথোপকথনের ইতিহাস বৃদ্ধি এবং ট্রাফিক স্পাইক ও পরিস্থিতির জন্য ২০-৩০% বাফারও বিবেচনা করুন।
প্রদানকারীদের তুলনা করার সময়, মনে রাখবেন সবচেয়ে সস্তা প্রতি টোকেন হার সবসময় মোট খরচে সবচেয়ে সস্তা নয়। একটি মডেল যা ছোট, সংক্ষিপ্ত আউটপুট উত্পাদন করে সেটি বেশি আউটপুট টোকেন ব্যবহার করতে পারে এবং বেশি প্রতি টোকেন হার সত্ত্বেও কম খরচ হতে পারে।