কনটেন্টে যান

কেন AI Work Flow for Business?

এন্টারপ্রাইজ অপারেশনে AI যোগ করার অনেক উপায় আছে। এই পেজে বলছি AI Work Flow for Business কোন্ নির্দিষ্ট সমস্যার সমাধান দেয়, আর সেই সমস্যায় লোকাল-ফার্স্ট ডিজাইন কেন সঠিক উত্তর।

সমস্যাটা

বেশিরভাগ এন্টারপ্রাইজ অপারেশন টিম একই ধরনের চ্যালেঞ্জে পড়ে:

  • সাপোর্ট টিকিট জমতে থাকে — কোনো টপিক, প্রায়োরিটি, বা ওনার নেই।
  • রানবুক ও SOP PDF আর SharePoint সাইটে পড়ে থাকে — কেউ খোঁজে না।
  • শিফট হ্যান্ডওভার ট্রাইবাল নলেজ — সিনিয়র ইঞ্জিনিয়ার ছুটিতে গেলে টিম কার্যত অন্ধ।
  • নেটওয়ার্ক লগ ও অ্যালার্ট মানুষের জন্য অতিরিক্ত নয়েজি, জেনারেল-পারপাস চ্যাটবটের জন্য অতিরিক্ত স্পেশালাইজড।
  • হায়ারিং ও অনবোর্ডিং মাসের পর মাস লাগে — কারণ ইনস্টিটিউশনাল নলেজ পাঁচজনের মাথায়।

২০২৪–২০২৬-এ ইনস্টিংক্ট ছিল এসব সব কিছু ChatGPT বা Claude-এ পাঠানো। বেশিরভাগ এন্টারপ্রাইজের জন্য সেই ইনস্টিংক্ট ভুল — তিনটা কারণে।

ক্লাউড LLM কেন এখানে কাজ করে না

১. ডেটা রেসিডেন্সি

কাস্টমার কমপ্লেইনের টেক্সট, নেটওয়ার্ক লগ, ইন্টারনাল SOP, আর HR রেকর্ড — সব রেগুলেটেড। বাংলাদেশে (আর বেশিরভাগ রেগুলেটেড মার্কেটে) এগুলো পাবলিক API-তে পাঠানো একটা কমপ্লায়েন্স ইভেন্ট, প্রোডাক্টিভিটি উইন না। লিগ্যাল টিম ব্লক করে দেবে।

২. স্কেলে খরচ

৫০ জনের সাপোর্ট স্টাফের একটা টিম ক্লাউড LLM দিয়ে টিকিট ট্রায়াজ করলে টিকিট প্রতি ~\(0.01 ধরলে মাসে ~\)10,000 API খরচ হবে — আসল ভ্যালু তৈরি হওয়ার আগেই। একটা GPU-তে লোকাল ইনফারেন্স ফিক্সড খরচ।

৩. ল্যাটেন্সি ও রিলায়েবিলিটি

ক্লাউড API যোগ করে ২০০–৮০০ms রাউন্ড-ট্রিপ ল্যাটেন্সি, আর আউটেজ থাকে। একই নেটওয়ার্কে লোকাল মডেল ৩০–১০০ms-এ রেসপন্ড দেয় আর বিল্ডিংয়ে বিদ্যুৎ থাকলেই অ্যাভেইলেবল।

"লোকাল" আসলে মানে কী

এই প্রজেক্টে "লোকাল" মানে:

  • মডেলের ওয়েট তোমার নিয়ন্ত্রণে থাকা একটা মেশিনে থাকে।
  • ইনফারেন্স হয় সেই মেশিনে (অথবা একই ডেটা সেন্টারের সার্ভারে)।
  • কোনো রিকোয়েস্ট, রেসপন্স, বা প্রম্পট কখনো থার্ড-পার্টি API-তে যায় না।
  • একই Python কোড ডেভেলপার ল্যাপটপে প্রোটোটাইপের জন্য, আর সার্ভারে প্রোডাকশনের জন্য — দুই জায়গাতেই চলে।

ধরা: ২০২৬-এ লোকাল মডেল ছোট (1B–4B প্যারামিটার) — সেরা ক্লাউড মডেলের চেয়ে। এগুলো GPT-4-এর জেনারেল-পারপাস বিকল্প না। এগুলো একবারে একটা ওয়ার্কফ্লোর ফোকাসড বিকল্প।

এই প্রজেক্ট কী

AI Work Flow for Business হলো রেফারেন্স ইমপ্লিমেন্টেশনের একটা সেট — যেগুলো দেখায় কীভাবে লোকাল মডেল নির্দিষ্ট, ভালোভাবে ডিফাইন্ড এন্টারপ্রাইজ ওয়ার্কফ্লোতে ডিপ্লয় করা যায়। প্রতিটা মডিউল:

  • স্কোপ ছোট, পরিষ্কার (একটা ওয়ার্কফ্লো, একটা আউটপুট)।
  • ছোট মডেল ব্যবহার করে (ডিফল্ট: Qwen 2.5 1.5B)।
  • স্ট্রাকচার্ড আউটপুট দেয় (JSON, একটা ক্যাটাগরি, একটা রাউটিং সিদ্ধান্ত)।
  • পরিমাপযোগ্য সাকসেস মেট্রিক আছে।

বর্তমান মডিউলগুলো:

মডিউল ওয়ার্কফ্লো আউটপুট
ISP Classifier কাস্টমার কমপ্লেইন → ক্যাটাগরি + প্রায়োরিটি {category, priority, owner}
SLA System টিকিট → SLA ব্রিচ রিস্ক + ERP অ্যাকশন {risk, action, approver}
Qwen + RAG অপারেটর প্রশ্ন → রানবুক থেকে উত্তর সাইটেড প্যারাগ্রাফ
HR Assistant এমপ্লয়ি প্রশ্ন → পলিসি-গ্রাউন্ডেড উত্তর সাইটেড প্যারাগ্রাফ

এই প্রজেক্ট যা না

  • চ্যাটবট না। আউটপুট স্ট্রাকচার্ড, ফ্রিফর্ম কথোপকথন না।
  • ফাউন্ডেশন মডেল না। আমরা Qwen ও Gemma যেমন আছে তেমনই ব্যবহার করি; বর্তমান ধাপে কোনো ফাইন-টিউনিং নেই।
  • ক্লাউড প্রোডাক্ট না। কোনো হোস্টেড ভার্সন নেই। তুমি নিজে চালাও।
  • রিসার্চ প্রজেক্ট না। প্রতিটা মডিউল আছে কারণ কোনো না কোনো আসল টিমের ওয়ার্কফ্লো আছে।

কারা ব্যবহার করবে

তুমি AI Work Flow for Business বিবেচনা করবে যদি এই সব সত্যি হয়:

  • তুমি রেগুলেটেড বা সেনসিটিভ অপারেশনাল ডেটা হ্যান্ডেল করো।
  • তোমার এমন একটা ওয়ার্কফ্লো আছে যেটা যথেষ্ট ভালোভাবে ডিফাইন্ড যে স্ট্রাকচার্ড আউটপুট মানানসই।
  • তোমার কাছে ইনফারেন্সের জন্য একটা GPU সার্ভার আছে (বা জোগাড় করতে পারো), অথবা লো-ভলিউম ওয়ার্কফ্লোর জন্য CPU-তে চালাতে রাজি আছো।
  • তোমার টিম Python আর বেসিক API কাজে অভ্যস্ত।

তুমি ব্যবহার করবে না যদি:

  • তোমার জেনারেল-পারপাস কথোপকথনের অ্যাসিস্ট্যান্ট দরকার। হোস্টেড মডেল ব্যবহার করো।
  • তোমার ডেটা পাবলিক বা লো-সেনসিটিভিটির। লোকাল-ফার্স্ট ডিজাইন তোমার জন্য ওভারহেড।
  • তুমি ইন্টিগ্রেশনের কাজ করতে রাজি না। লোকাল মডেলের জন্য গ্লু কোড লাগে; এখানে অফ-দ্য-শেলফ প্রোডাক্ট নেই।

কীভাবে শুরু করবে

এই অ্যাপ্রোচ তোমার জন্য কাজ করে কি না দ্রুত যাচাই করার উপায়:

  1. অ্যাডপশন যাত্রা পড়ো — বিশেষ করে Discover ও Pilot ধাপ।
  2. উপরের ক্রাইটেরিয়ার সাথে মিলে এমন একটা ওয়ার্কফ্লো বাছাই করো।
  3. Pilot playbook ফলো করে ২ সপ্তাহে একটা কাজ করা প্রোটোটাইপ শিপ করো।
  4. আগে থেকে ডিফাইন করা সাকসেস মেট্রিকের ভিত্তিতে স্কেল করবে নাকি থামবে — সিদ্ধান্ত নাও।

এই সাইটের বাকি অংশ সেই পথকে সাপোর্ট করে। Demo পেজ-এ কী কী বানানো যায় তার কংক্রিট উদাহরণ দেখতে পারো।