ข้ามไปยังเนื้อหาหลัก
GPU Plexus

สถาปัตยกรรม

สถาปัตยกรรมที่ตรวจสอบได้

ทุกชั้นแยกหน้าที่ชัดเจน เพื่อให้ติดตั้งในองค์กรได้ ตรวจสอบได้ และกู้คืนได้

ห้าชั้นที่แยกหน้าที่ชัดเจน

แต่ละชั้นรับผิดชอบงานเดียว ทำให้ตรวจสอบได้ เปลี่ยนได้ และกู้คืนได้โดยไม่กระทบทั้งระบบ

  • ชั้นที่ 1 — Presentation & API

    เว็บพอร์ทัลและ REST API รับคำสั่งจากผู้ใช้ รวมถึง WebSocket สำหรับดู log แบบสด

    • Web Portal
    • REST API
    • JWT Cookie / OAuth2
  • ชั้นที่ 2 — Access & Governance

    มิดเดิลแวร์ตรวจ header ล็อกคำสั่งที่ต้องการสิทธิ์ และยืนยันสิทธิ์ก่อนทุกคำขอ พร้อมลิขสิทธิ์ซอฟต์แวร์แบบ ES256

    • Middleware
    • 3 ระดับสิทธิ์
    • ES256
  • ชั้นที่ 3 — Service Layer

    ตรรกะธุรกิจของโมดูล Container, Image, Volume, Port, GPU/MIG และ Fleet ถูกเรียกผ่าน factory เดียว

    • Container
    • Volume
    • GPU / MIG
  • ชั้นที่ 4 — Orchestration & Node Agent

    Docker Swarm เป็นผู้รันงาน ขณะที่ Node Agent แบบ privileged ทำงานระดับเครื่อง: ZFS, snapshot, NFS, nginx และการตรวจ GPU

    • Docker Swarm
    • Node Agent
    • GPU Probe
  • ชั้นที่ 5 — Data & Storage

    PostgreSQL เก็บสถานะที่ระบบตั้งใจให้เป็น, ClickHouse เก็บ metric และ audit, ZFS เก็บข้อมูลถาวรของ Container

    • PostgreSQL
    • ClickHouse
    • ZFS

เทคโนโลยีหลัก

  • Docker Swarm

    จัดการคลัสเตอร์และวางงานลงโหนดตามทรัพยากรที่เหลือ

  • PostgreSQL

    ฐานข้อมูลหลักของสถานะที่ระบบตั้งใจให้เป็นและสิทธิ์การใช้งาน

  • ClickHouse

    ฐานข้อมูลเชิงวิเคราะห์สำหรับ metric และ audit

  • ZFS

    พื้นที่จัดเก็บแบบ dataset พร้อม snapshot รายวัน

  • NFS

    ให้ Container เข้าถึง volume ร่วมกันภายในคลัสเตอร์

  • ES256 Licence

    ลายเซ็นดิจิทัลผูกกับ fingerprint ของเครื่อง ทำงานได้แม้ไม่มีอินเทอร์เน็ต

  • OAuth2 / SSO

    ยืนยันตัวตนผ่านผู้ให้บริการที่องค์กรใช้อยู่

  • NVIDIA MIG

    แบ่งการ์ด GPU ตามโปรไฟล์ที่ฮาร์ดแวร์รองรับ

ข้อมูลและพื้นที่จัดเก็บ

ข้อมูลของผู้ใช้ต้องอยู่ต่อ แม้ Container จะถูกพักหรือสร้างใหม่

  • Shared Volume Tree บน ZFS: แต่ละ dataset มีโควตาของตัวเอง

  • Snapshot รายวันพร้อมกำหนดระยะเวลาเก็บรักษา

  • สำรองและกู้คืนได้ราย dataset รวมถึงการโคลนเป็น dataset ใหม่

  • ข้อมูลยังอยู่เมื่อ Container ถูกพัก และกลับมาใช้ได้เมื่อปลุกขึ้นมา

* Snapshot ไม่ได้แทนการสำรองข้อมูลนอกระบบ — แนะนำให้วางแผนสำรองเพิ่มตามนโยบายองค์กร

ความมั่นคงปลอดภัยและการกำกับดูแล

  • แยกเครือข่ายรายผู้ใช้

    แต่ละผู้ใช้มี overlay network ของตัวเอง ลดการมองเห็นกันระหว่างงาน

  • โทเคนที่จำกัดขอบเขต

    โทเคนส่วนบุคคลระบุวิธีที่เรียกได้ และถูกจำกัดอัตราการใช้งาน

  • ลิขสิทธิ์ที่ตรวจสอบได้

    ลายเซ็น ES256 ผูกกับเครื่อง ตรวจสอบได้โดยไม่ต้องออนไลน์ตลอดเวลา

  • ตรวจสอบย้อนหลัง

    Audit Trail 365 วัน เก็บในฐานข้อมูลที่ไม่แก้ไขย้อนหลัง

  • แจ้งเตือนก่อนเต็ม

    แจ้งเตือนที่ 80%, 90% และ 95% ของโควตา พร้อมระงับงานเมื่อเกินสิทธิ์

ข้อจำกัดที่เราบอกตรง ๆ

เวอร์ชันปัจจุบันเลือกขอบเขตให้ชัด เพื่อให้ระบบที่ส่งมอบคาดเดาได้

  • ไม่มี interactive exec ผ่านเว็บ

    การเข้าไปทำงานใน Container ทำผ่าน SSH ตามที่ออกแบบไว้

  • ยังไม่มีระบบเรียกเก็บเงินในตัว

    การคิดค่าบริการเป็นกระบวนการภายนอกแพลตฟอร์ม

  • การเปลี่ยนโปรไฟล์ MIG ต้องใช้ตัวช่วยเฉพาะ

    ทำผ่าน privileged helper แบบ one-shot ไม่ใช่คำสั่งปกติในพอร์ทัล

พร้อมออกแบบโครงสร้างพื้นฐาน AI ที่เหมาะกับองค์กรคุณหรือยัง

เล่าโจทย์ของคุณให้ทีมวิศวกรฟัง เราจะช่วยประเมินแนวทางและขนาดคลัสเตอร์ที่เหมาะสม