কনটেন্টে যান

আর্কিটেকচার

AI Work Flow for Business-এ ইচ্ছাকৃতভাবে স্তরের সংখ্যা কম রাখা হয়েছে। পুরো উদ্দেশ্য হলো — তুমি একটা সার্ভারে চালাতে পারো আর পুরো সিস্টেমটা মাথায় রাখতে পারো।

flowchart TB
    subgraph Edge
        U[অপারেটর / এন্ড ইউজার]
    end

    subgraph App["অ্যাপ্লিকেশন স্তর"]
        WEB[Web UI / Chat]
        CLI[CLI / Scripts]
        API[Internal API]
    end

    subgraph Workflow["ওয়ার্কফ্লো স্তর (মডিউলগুলো)"]
        M1[ISP Classifier]
        M2[SLA System]
        M3[Qwen RAG]
        M4[HR Assistant]
    end

    subgraph Core["কোর স্তর"]
        LLM[LM Studio client]
        RAG[ChromaDB retriever]
        SET[Settings / config]
    end

    subgraph Infra["ইনফ্রাস্ট্রাকচার"]
        GPU[লোকাল GPU সার্ভার]
        LMW[LM Studio<br/>Qwen 2.5 1.5B<br/>Gemma 3 4B]
    end

    U --> WEB
    U --> CLI
    WEB --> API
    CLI --> API
    API --> M1
    API --> M2
    API --> M3
    API --> M4
    M1 --> LLM
    M2 --> LLM
    M3 --> LLM
    M3 --> RAG
    M4 --> LLM
    M4 --> RAG
    LLM --> LMW
    RAG --> SET
    LMW --> GPU

পাঁচটি স্তর

স্তর কোথায় থাকে উদ্দেশ্য
Edge অপারেটরের ব্রাউজার বা টার্মিনাল প্রশ্ন করা বা ওয়ার্কফ্লো ট্রিগার করা ব্যক্তি
Application তোমার চলতি সিস্টেম (intranet, Slack, ticketing) AI-কে এন্ড ইউজারের সামনে আনে
Workflow এই রেপোর মডিউলগুলো সংকুচিত AI টাস্ক (শ্রেণীবিভাগ, রাউট, রিট্রিভ)
Core এই রেপোর শেয়ার্ড লাইব্রেরি LM Studio client, RAG retriever, settings
Infrastructure তোমার সার্ভার রুম GPU আর LM Studio রানটাইম

এই সেকশনের পাতাগুলো

  • স্তরসমূহ — প্রতিটি স্তর কী দায়িত্ব পালন করে, আর কী করে না
  • ডেটা প্রবাহ — কোন ডেটা কোথায় যায়, আর কী কখনো তোমার নেটওয়ার্ক ছাড়ে না
  • নিরাপত্তা — থ্রেট মডেল, নেটওয়ার্ক প্লেসমেন্ট, অডিট লগিং

ডিজাইন নীতিমালা

  1. লোকাল ডিফল্ট। ক্লাউড API কল নেই। কোনো মডিউল যদি মডেল চায়, মডেল একই নেটওয়ার্কে থাকে।
  2. স্ট্রাকচার্ড I/O। প্রতিটি মডিউলের টাইপড ইনপুট স্কিমা আর টাইপড আউটপুট স্কিমা আছে। মডেল একটা ফাংশন, কনভার্সেশন পার্টনার নয়।
  3. এক কাজ প্রতি মডিউল। ISP Classifier শ্রেণীবিভাগ করে। SLA Classifier ঝুঁকি মাপে। Qwen RAG রিট্রিভ করে। কোনো মডিউল দুটো কাজ করে না।
  4. অবজারভেবল। প্রতিটি মডেল কল লগ হয় — ইনপুট, আউটপুট, লেটেন্সি, টোকেন কাউন্ট। তুমি যা দেখতে পাও না, তা চালাতে পারো না।
  5. রিপ্লেসেবল। LM Studio client যেকোনো OpenAI-compatible রানটাইম দিয়ে বদলানো যায়। ChromaDB যেকোনো ভেক্টর স্টোর দিয়ে বদলানো যায়। কোনো মডিউল নির্দিষ্ট টুলে টাইটলি কাপলড নয়।

আরও দেখো