Sedang mengikuti modul ini?0 daripada 19 selesai
Modul 17 · Halaman 18 daripada 20 · 9 bahagian

Penggunaan dan Kebolehskalaan AI Agentik

Docker, Kubernetes, strategi penskalaan, kebolehcerapan dan CI/CD untuk aplikasi ejen.

11Penggunaan dan MLOps untuk AI Agentik12Sekuriti dan Keselamatan dalam AI Agentik09Membina Projek Dunia Sebenar dengan AI Agentik
17.1

Apakah Penggunaan (Deployment) dalam AI Agentik?

  • Penggunaan bermaksud menjadikan aplikasi ejen tersedia dalam persekitaran dunia sebenar supaya pengguna boleh berinteraksi dengannya.
  • Ia merangkumi pembungkusan, pengujian, pemantauan, penskalaan dan penyelenggaraan sistem.
  • Ejen yang dilancarkan dengan betul perlu boleh dipercayai, boleh diskala dan selamat.
Berkaitan11Penggunaan dan MLOps untuk AI Agentik
17.2

Seni Bina Penggunaan (Peringkat Tinggi)

PenggunaWeb / mudah alih
Pengimbang BebanNginx / LB awan
API GatewayREST / GraphQL
Perkhidmatan EjenLLM + alat
Perkhidmatan AlatAPI, DB, carian
Perkhidmatan MemoriDB vektor
Pemantauan & PengeloganMetrik, amaran, jejak
17.3

Pengkontenaan menggunakan Docker

  • Docker membantu membungkus aplikasi bersama semua kebergantungannya.
  • Ia menyediakan persekitaran yang konsisten merentasi pembangunan, pengujian dan pengeluaran.
  • Berguna untuk melancarkan perkhidmatan ejen, alat dan pangkalan data.
DockerfileArahan
Imej DockerAplikasi + kebergantungan
Kontena DockerAplikasi berjalan
Seni bina Docker (ringkas).
shell
docker build -t agent-app .
docker run -p 8000:8000 agent-app

# common commands
docker build    # build an image
docker run      # start a container
docker ps       # list running containers
docker logs     # read container logs
docker stop     # stop a container
17.4

Orkestrasi dengan Kubernetes

  • Kubernetes membantu melancar, menskala dan mengurus aplikasi berkontena.
  • Ia mengendalikan pengimbangan beban, pemulihan kendiri dan penskalaan secara automatik.
  • Berguna untuk sistem AI agentik bertaraf pengeluaran.
Klienkubectl
Satah kawalan
API Server
etcdData kluster
Penjadual
Nod PekerjaKontena
Seni bina Kubernetes (ringkas).
17.5

Strategi Penskalaan

1
Penskalaan Mendatar
Tambah lebih banyak instans perkhidmatan ejen untuk mengendalikan trafik tinggi.
2
Penskalaan Menegak
Tingkatkan CPU / memori instans sedia ada.
3
Penskalaan Automatik
Tambah atau buang instans secara automatik berdasarkan beban.
4
Pengimbangan Beban
Agihkan trafik merentasi beberapa instans.
17.6

Pemantauan dan Kebolehcerapan

  • Pemantauan membantu menjejaki kesihatan dan prestasi sistem ejen.
  • Penting untuk memantau masa respons, kadar ralat, penggunaan sumber dan prestasi alat.
  • Alat biasa: Prometheus, Grafana, ELK Stack, OpenTelemetry.
AplikasiPerkhidmatan ejen
MetrikPrometheus
LogELK / Loki
PenjejakanOpenTelemetry
VisualisasiGrafana
Susunan kebolehcerapan.
17.7

Pertimbangan Sekuriti

  • Gunakan pengesahan identiti dan kebenaran untuk akses pengguna.
  • Sahkan dan bersihkan input pengguna.
  • Lindungi kunci API dan rahsia menggunakan pemboleh ubah persekitaran atau pengurus rahsia.
  • Laksanakan had kadar untuk mencegah penyalahgunaan.
  • Pantau tingkah laku ejen yang luar biasa atau berbahaya.
Berkaitan12Sekuriti dan Keselamatan dalam AI Agentik
17.8

Saluran CI/CD untuk AI Agentik

  • CI/CD membantu mengautomasikan binaan, pengujian dan penggunaan.
  • Ia memastikan penghantaran yang lebih pantas dan boleh dipercayai.
  • Alat berguna: GitHub Actions, GitLab CI, Jenkins.
KodRepo
BinaImej Docker
UjiUnit + integrasi
LancarKubernetes
Saluran CI/CD.
17.9

Rumusan Utama

  1. 1Gunakan Docker untuk membungkus aplikasi ejen.
  2. 2Gunakan Kubernetes untuk penggunaan yang boleh diskala.
  3. 3Laksanakan pemantauan dan pengelogan untuk kebolehpercayaan.
  4. 4Ikuti amalan terbaik sekuriti.
  5. 5Gunakan CI/CD untuk penghantaran yang lebih pantas dan automatik.