AI অ্যাপ্লিকেশনের আর্কিটেকচার

প্রায় ৪০০ শব্দের একটা গল্প লেখো। চট্টগ্রামের একজন বাস ড্রাইভার রাতের শেষ ট্রিপে একটা হারানো ব্যাগ খুঁজে পায়। কোনো ভূমিকা ছাড়া সঙ্গে সঙ্গে গল্প শুরু করো।

এই তিনটার প্রতিটা এক সহজ বাক্যে বুঝিয়ে বলো: SSE (Server-Sent Events), WebSockets, আর HTTP chunked transfer।
তারপর প্রতিটা feature-এর জন্য একটা বেছে নাও আর একটা কারণ দাও।
Feature ১: একটা AI chat-এর উত্তর শব্দ শব্দ করে আসে। data শুধু server থেকে browser-এ যায়। পথটা একটা সাধারণ HTTP proxy।
Feature ২: একটা voice call, যেখানে user আর AI একসঙ্গে কথা বলতে পারে।
Feature ৩: একটা পুরনো company proxy-র জন্য fallback, যে proxy SSE header মুছে ফেলে।
শেষে SSE-র তুলনায় WebSockets-এর একটা খরচ বা অসুবিধা বলো।

তুমি একটা research agent-এর API server হিসেবে কাজ করো। শুধু একটা HTTP status line আর একটা JSON body দিয়ে উত্তর দেবে। আর কোনো লেখা নয়।
নিয়ম:
- POST /jobs একটা job শুরু করে। সঙ্গে সঙ্গে 202 আর একটা JSON body দিয়ে উত্তর দাও, যাতে job_id আর status "queued" থাকবে। প্রথম job_id হলো job_001। job টা শেষ হতে 245 সেকেন্ড লাগে।
- GET /jobs/{job_id} status দেয়। status হতে পারে queued, running, done আর failed।
- আমি প্রতিটা GET request-এ কত সেকেন্ড পার হয়েছে (elapsed) বলব। এই table ব্যবহার করো:
  0 থেকে 59 সেকেন্ড: running, step "1 search sources"
  60 থেকে 179 সেকেন্ড: running, step "2 read 12 sources"
  180 থেকে 244 সেকেন্ড: running, step "3 write the report"
  245 সেকেন্ড বা বেশি: done, আর একটা result field, যাতে একটা ছোট বানানো report title থাকবে
- running হলে progress-ও percent-এ দেখাও: elapsed ভাগ 245, কাছের পূর্ণ সংখ্যায় গোল করে।
বুঝলে READY বলো।

POST /jobs
{"topic": "Mobile payment use in rural Bangladesh"}

GET /jobs/job_001
elapsed: 40 seconds

GET /jobs/job_001
elapsed: 120 seconds

GET /jobs/job_001
elapsed: 245 seconds

তুমি report তৈরির একটা API server হিসেবে কাজ করো। প্রতিটা নতুন run-এর খরচ 0.40 USD। আমি যে request পাঠাব, প্রতিটার জন্য শুধু JSON দিয়ে উত্তর দেবে।
নিয়ম:
- প্রতিটা request-এ একটা idempotency_key আর একটা body থাকে।
- নতুন key হলে নতুন run_id সহ নতুন run হয় (run_1, run_2, ...)। charged: 0.40 আর replayed: false দিয়ে উত্তর দাও।
- একই key আর একই body হলে আগের সংরক্ষিত response আবার দাও, replayed: true আর charged: 0 সহ। নতুন run নয়।
- একই key কিন্তু আলাদা body হলে error code 422 আর একটা ছোট message দাও।
বুঝলে READY বলো।

এই তিনটা request ক্রমানুসারে সামলাও। তৃতীয়টার পরে মোট কত USD charge হলো, তার একটা লাইন যোগ করো।
1. idempotency_key: k-1001, body: {"report": "monthly sales"}
2. idempotency_key: k-1001, body: {"report": "monthly sales"} (user পেজ refresh করেছে)
3. idempotency_key: k-1001, body: {"report": "yearly sales"}

এখন একটা লম্বা run। run_77-এ ৫টা step আছে। প্রতিটা step-এর খরচ 0.10 USD, আর যে step fail করে তার খরচ নেই। step 1, 2 আর 3 শেষ হয়েছে এবং আগেই charge হয়েছে। server প্রতিটার পর একটা checkpoint সংরক্ষণ করেছে। step 4 একটা network error-এ fail করেছে। client একই idempotency_key দিয়ে আবার চেষ্টা করছে।
১. এখন তুমি কোন কোন step চালাবে, আর কত charge করবে?
২. checkpoint না থাকলে retry-র খরচ কত হতো?
৩. checkpoint-এ অন্তত কী থাকতে হবে, একটা জিনিসের নাম বলো।

তুমি একটা tool ব্যবহার করতে পারো: get_weather(city: string), যেটা live আবহাওয়া দেয়।
User-এর প্রশ্ন: আজ সিলেটে কি ছাতা লাগবে?
শুধু JSON আকারে tool call দিয়ে উত্তর দাও, এই form-এ: {"tool": ..., "arguments": {...}}। এখনই প্রশ্নের উত্তর দিয়ো না।

তোমার কোনো tool নেই, আর কোনো live data নেই। শুধু সাধারণ জ্ঞান থেকে উত্তর দাও। পরিষ্কার বলো যে তুমি আজকের আবহাওয়া দেখতে পারছ না, আর যতটা কাজের পরামর্শ দেওয়া যায় দাও।
User-এর প্রশ্ন: আজ সিলেটে কি ছাতা লাগবে?

তুমি একটা LLM gateway হিসেবে কাজ করো। fallback chain হলো: Provider 1 (tool আছে), তারপর Provider 2 (tool আছে), তারপর Provider 3 (tool নেই, তাই একটা degraded prompt ব্যবহার করো, যেটা বলে: তোমার কোনো tool নেই, সাধারণ জ্ঞান থেকে উত্তর দাও)।
নিয়ম: 503 বা 429 error এলে পরের provider-এ যাও। সফল হলে থামো। কোন provider উত্তর দিল, কতবার চেষ্টা হলো, আর খরচ কত, লিখে রাখো।
প্রতি call-এর খরচ: Provider 1 0.010 USD, Provider 2 0.006 USD, Provider 3 0.002 USD। fail হওয়া call-এর খরচ 0।
তিনটা request এসেছে:
Request X: Provider 1 দেয় 200।
Request Y: Provider 1 দেয় 503, Provider 2 দেয় 200।
Request Z: Provider 1 দেয় 503, Provider 2 দেয় 429, Provider 3 দেয় 200।
একটা table দাও, যাতে থাকবে: request, ব্যবহার হওয়া provider, attempts, ব্যবহার হওয়া prompt (normal বা degraded), খরচ। তারপর মোট খরচ যোগ করো।