Brief #12 · AI & LLM
RAG Chatbot for Your Docs
Medium⏱ 12-16 ঘণ্টাশীঘ্রই
এমন একটা chatbot, যেটা company এর document থেকে প্রশ্নের উত্তর দেয়, source দেখায়, আর দরকার হলে 'জানি না' বলে।
Outline free · tracking সহ বানাতে Pro লাগবে
RBriefTeam এর পক্ষ থেকে
নতুন কর্মীরা HR কে ছুটি, বেতন আর নিয়ম নিয়ে একই ত্রিশটা প্রশ্ন করে, যার সব উত্তর ২০০ পাতার একটা handbook এ কোথাও আছে, যেটা কেউ পড়ে না। এমন একটা assistant বানাও, যেটা শুধু handbook থেকে উত্তর দেয়, ঠিক কোন অংশ থেকে তার link সহ, আর কখনো নিয়ম বানিয়ে বলে না।
যা বানাবে
- 1PDF আর Markdown নাও, overlap সহ chunk এ ভাগ করো, আর প্রতিটা chunk এর source আর heading রাখো।
- 2Chunk গুলোর embedding বানিয়ে একটা vector index এ রাখো (pgvector, Qdrant বা এমন কিছু)।
- 3প্রশ্নের জন্য সেরা chunk গুলো আনো, আর citation সহ উত্তর দাও।
- 4প্রাসঙ্গিক কিছু না পেলে আন্দাজ না করে উত্তর দিতে অস্বীকার করো।
- 5প্রত্যাশিত source সহ ৩০টা প্রশ্নের একটা test set, retrieval এর মান মাপার জন্য।
ধাপে ধাপে walkthrough
Walkthrough শীঘ্রই আসছে
এই project এর ধাপে ধাপে walkthrough, প্রতিটা ধাপে আসল output সহ, এখনো লেখা হচ্ছে। ততক্ষণ brief পড়ে নিজে চেষ্টা করতে পারো; walkthrough তৈরি হলে tracking চালু হবে।
শেষ হবে যখন
- প্রতিটা উত্তর যে chunk ব্যবহার করেছে, তার link দেয়।
- তোমার test set এ অন্তত ৮৫% প্রশ্নে ঠিক source উঠে আসে।
- Handbook এর বাইরের প্রশ্নে সৎ উত্তর আসে: 'document এ নেই'।
- README তে দুইটা chunk size এর তুলনা, সংখ্যা সহ।
আরো এগোতে চাইলে
- Hybrid search: keyword (BM25) আর vector এর ফলাফল মেলাও।
- English document এর ওপর বাংলায় প্রশ্ন।