LLM-এর মূল ভিত্তি

Hello! I hope you are having a wonderful day. I am working on a customer support system and I would really appreciate your kind help with a small task. Below you will find a customer ticket. Could you please read the ticket very carefully and then tell me which one of the following categories it belongs to? The categories are: billing, shipping, defect, account. Please choose only one category. When you answer, please do not write any explanation, any greeting, or any extra sentence. Just write the single category word. Thank you so much for your help!

Ticket: My order #48213 arrived yesterday and the screen is cracked. I want my money back.

Classify the ticket as one of: billing, shipping, defect, account. Reply with the category only.

Ticket: My order #48213 arrived yesterday and the screen is cracked. I want my money back.

একটা support bot প্রতি call-এ 800 input token পাঠায়। একটা ছোট prompt প্রতি call-এ পাঠায় 200 input token। দাম প্রতি 1 million input token-এ $0.50। bot মাসে 2 million বার call করে। দুই prompt-এর মাসিক input cost আলাদা করে বের করো, আর কত শতাংশ সাশ্রয় হলো তাও বলো। প্রতিটা ধাপ দেখাও।

আমাকে প্রতিটা কাজের জন্য একটা করে model বেছে নিতে হবে। তিনটা model-ই বানানো (কাল্পনিক)।

Model X: বড়, reasoning-এ খুব শক্তিশালী, ধীর, প্রতি token-এ দামি, closed API।
Model Y: ছোট, দ্রুত, প্রতি token-এ সস্তা, সহজ কাজে ভালো, closed API।
Model Z: মাঝারি, open weights, তুমি নিজের server-এ চালাও, GPU আর পরিচালনার খরচ তোমার।

কাজগুলো:
1. একটা chat helper মাসে 5 million ছোট support ticket 4টা category-তে ভাগ করে।
2. একটা coding agent অনেক file জুড়ে কঠিন bug ঠিক করে। দিনে মাত্র 200টা কাজ।
3. এমন একটা দেশের হাসপাতাল, যেখানে রোগীর data কখনো ভবনের বাইরে যেতে পারে না। প্রশ্নগুলো মাঝারি কঠিন।

প্রতিটা কাজের জন্য X, Y বা Z বেছে নাও। trade-off নিয়ে একটা বাক্য লেখো। তারপর বলো, "কোন model সবচেয়ে ভালো" প্রশ্নটা কেন ভুল।

একটা Mixture-of-Experts model-এ মোট 671B parameter, কিন্তু প্রতিটা token-এ active থাকে মাত্র 37B। একটা dense model-এ 70B parameter, আর প্রতিটা token-এ সবগুলোই active। কোন model load করতে বেশি GPU memory লাগে? কোন model প্রতি token-এ কম computing করে? 3টা ছোট বাক্যে উত্তর দাও।

একই text কাজের জন্য দুটো option তুলনা করো।

Option 1, closed API: প্রতি 1 million token-এ $3 (input আর output মিলিয়ে)। আর কোনো খরচ নেই।
Option 2, নিজের server-এ open-weight model: GPU server-এর জন্য মাসে $2,200, আর engineer-এর সময়ের জন্য মাসে $1,500। এটা মাসে সর্বোচ্চ 2 billion token চালাতে পারে। প্রতি token-এ কোনো fee নেই।

মাসে কত token হলে দুটো option-এর খরচ সমান হয়? formula আর ধাপগুলো দেখাও। মাসে 200 million token হলে কোন option সস্তা? 1.8 billion token হলে কোনটা?

নিচের প্রতিটা company-র জন্য একটা বেছে নাও: closed API, open-weight self-host, বা hybrid (সহজ query যাবে ছোট local model-এ, কঠিন query যাবে সেরা API-তে)। প্রতিটার জন্য এক বাক্যে কারণ লেখো।

Company 1: একটা ছোট start-up, মাসে 50,000 query, কোনো ML engineer নেই।
Company 2: একটা bank, যাকে সব customer text নিজের data centre-এর ভেতরে রাখতে হয়। তাদের GPU চালানোর মতো team আছে।
Company 3: একটা shopping app, মাসে 100 million query। 80% সহজ, আর 20%-এ সেরা মান লাগে।
Company 4: একটা team, যাদের আজকের সবচেয়ে শক্তিশালী coding agent ব্যবহার করতেই হবে।

Estimate the next-word probabilities for this sentence start. List the 5 most likely next words, each with a percentage. The percentages must add up to about 100%. Reply with the list only.

The capital of France is

Estimate the next-word probabilities for this sentence start. List the 5 most likely next words, each with a percentage. The percentages must add up to about 100%. Reply with the list only.

Once upon a time, there was a little

Complete this sentence with one word only. Reply with the word and nothing else.

Once upon a time, there was a little

ঢাকার একজন রিকশাচালক বর্ষাকালে একটা হারানো ছাতা খুঁজে পায়। এই নিয়ে প্রায় 400 শব্দের একটা গল্প লেখো।

শুধু OK শব্দটা লেখো, আর কিছু না।

Return only a JSON object, with no other text and no code fence. The object has these fields: id, name, email, city, plan, signup_date, last_login, tags (an array of 5 strings), and notes (a 2 sentence string). Use made-up values.

এই note-এর মানুষদের তথ্য JSON-এ লেখো।

Note: সবাইকে জানাচ্ছি, রহিম উদ্দিন গত সপ্তাহে আমাদের নতুন data engineer হিসেবে যোগ দিয়েছেন। তাঁর বয়স চৌত্রিশ। আর সাদিয়া আক্তার (QA lead) সোমবার থেকে শুরু করছেন। তাঁর বয়স আমি এখনো জানি না।

note থেকে মানুষদের তথ্য বের করো। শুধু JSON লেখো। JSON-এর আগে বা পরে কোনো text না। markdown code fence না।

JSON একটা array হতে হবে। প্রতিটা item এই schema মানবে:
{"name": string, "age": integer or null, "role": string}
age সংখ্যা দিয়ে লেখো, শব্দ দিয়ে না। note-এ age না থাকলে null লেখো। আর কোনো field যোগ করো না।

Note: সবাইকে জানাচ্ছি, রহিম উদ্দিন গত সপ্তাহে আমাদের নতুন data engineer হিসেবে যোগ দিয়েছেন। তাঁর বয়স চৌত্রিশ। আর সাদিয়া আক্তার (QA lead) সোমবার থেকে শুরু করছেন। তাঁর বয়স আমি এখনো জানি না।

You can use these tools. You cannot run them yourself. To use a tool, reply with ONLY a JSON object: {"tool": name, "arguments": {...}}. No other text.

Tools:
[
  {"name": "get_weather", "description": "Get the current weather for a city.", "parameters": {"type": "object", "properties": {"location": {"type": "string"}, "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]}}, "required": ["location"]}},
  {"name": "search_flights", "description": "Search flights between two airports.", "parameters": {"type": "object", "properties": {"origin": {"type": "string"}, "destination": {"type": "string"}, "depart_date": {"type": "string"}}, "required": ["origin", "destination", "depart_date"]}}
]

User question: Is it hot in Dhaka right now? Should I wear a jacket?

তোমার call-এর tool result:
{"location": "Dhaka", "temp_c": 38, "condition": "humid and sunny"}

এবার শুধু এই result ব্যবহার করে user-এর প্রশ্নের উত্তর দুই বাক্যে দাও। বাংলায় উত্তর দাও।

সংযুক্ত image-টা দেখো। table-টা text-এ copy করো, প্রতি লাইনে একটা row, শব্দ আর চিহ্ন ঠিক যেমন আছে তেমন। copy করার পর যে cell-গুলোর text নিয়ে তুমি নিশ্চিত না, সেগুলোর তালিকা দাও।

সংযুক্ত image-টা দেখো। table-টা text-এ copy করো, প্রতি লাইনে একটা row, শব্দ আর চিহ্ন ঠিক যেমন আছে তেমন। copy করার পর যে cell-গুলোর text নিয়ে তুমি নিশ্চিত না, সেগুলোর তালিকা দাও।

Rate how similar the meaning of each pair is, from 0 (unrelated) to 1 (same meaning). Reply with one line per pair: the pair number and the score only.

1. 'How do I reset my password?' / 'Steps to recover access to my account when I forgot my login secret'
2. 'The bank was flooded after heavy rain.' / 'I deposited money at the bank this morning.'
3. 'How do I reset my password?' / 'How do I reset my router?'
4. 'How do I reset my password?' / 'Best street food in Old Dhaka'

প্রশ্ন: 40 দিন পরে কি laptop ফেরত দেওয়া যায়?

Documents:
D1: box খোলা না হলে delivery-র 14 দিনের মধ্যে laptop ফেরত দেওয়া যায়।
D2: Laptop deals: এই সপ্তাহে laptop-এ 20% ছাড়, আর প্রতিটা laptop-এ free delivery।
D3: সাধারণ জিনিস 30 দিনের মধ্যে ফেরত দেওয়া যায়। Electronics-এর সময় এর চেয়ে কম।
D4: ফেরত পাঠানোর জন্য laptop কীভাবে pack করবে: আসল box ব্যবহার করো আর দুই স্তর tape দাও।
D5: প্রতিটা laptop-এ 12 মাসের warranty আছে। ত্রুটিপূর্ণ laptop ওই সময়ের মধ্যে যেকোনো সময় মেরামত বা বদল করা যায়।

প্রশ্নের উত্তর দিতে প্রতিটা document কতটা কাজে লাগে, 0 থেকে 10 নম্বর দাও। তারপর document-গুলো সবচেয়ে ভালো থেকে সবচেয়ে খারাপ ক্রমে সাজাও। প্রতিটার জন্য একটা ছোট কারণ লেখো।

একটা bakery 8টা tray-তে প্রতিটায় 25টা করে bun বানায়। সব bun-এর 12% পুড়ে যায়, আর ফেলে দেওয়া হয়। বাকিগুলো 6টার পুরো box-এ বিক্রি হয়, প্রতি box $4.50 দামে। যে bun দিয়ে একটা box পূর্ণ হয় না, সেগুলো বিনা পয়সায় দিয়ে দেওয়া হয়। bakery মোট কত টাকা আয় করে? শুধু শেষ অঙ্কটা লেখো। কোনো হিসাব দেখিও না।

একটা bakery 8টা tray-তে প্রতিটায় 25টা করে bun বানায়। সব bun-এর 12% পুড়ে যায়, আর ফেলে দেওয়া হয়। বাকিগুলো 6টার পুরো box-এ বিক্রি হয়, প্রতি box $4.50 দামে। যে bun দিয়ে একটা box পূর্ণ হয় না, সেগুলো বিনা পয়সায় দিয়ে দেওয়া হয়। bakery মোট কত টাকা আয় করে? ধাপে ধাপে ভাবো। তারপর শেষ লাইনটা এভাবে লেখো: Answer: $amount

ধাপে ধাপে ভাবো, তারপর উত্তর দাও: জাপানের রাজধানী কী?