Sedang mengikuti modul ini?0 daripada 19 selesai
Modul 17 · Halaman 18 daripada 20 · 9 bahagian

Reka Bentuk Projek Hujung ke Hujung

Menggabungkan setiap bahagian dalam satu projek: pembantu dokumen RAG dengan seni bina, aliran, tindanan teknologi dan penilaiannya.

07Reka Bentuk Sistem RAG10Penelitian Komponen Sistem14Penilaian dan Pengujian16Kajian Kes Dunia Sebenar
17.1

1. Pengenalan

  • Reka bentuk projek hujung ke hujung membantu kita menggunakan semua konsep (data, model, penggunaan, pemantauan, dll.) untuk menyelesaikan masalah dunia sebenar.
  • Ia memberi pengalaman praktikal dan meningkatkan kemahiran reka bentuk sistem, pengekodan dan penyelesaian masalah.
  • Dalam temu duga, projek hujung ke hujung sangat penting untuk menunjukkan pengetahuan praktikal.
17.2

2. Contoh Projek: Pembantu Dokumen Berasaskan RAG

Pernyataan masalah. Bina sistem yang membolehkan pengguna memuat naik dokumen (PDF, DOCX), bertanya soalan dan mendapat jawapan yang tepat menggunakan RAG (Retrieval Augmented Generation).

Ciri utama

  1. 1Muat naik dan proses dokumen (PDF, DOCX, TXT).
  2. 2Simpan benam dokumen dalam pangkalan data vektor.
  3. 3Dapatkan konteks relevan dan jana jawapan tepat menggunakan LLM.
  4. 4Sediakan antara muka sembang dengan rujukan sumber.
  5. 5Gunakan aplikasi dengan pemantauan dan maklum balas.
Berkaitan07Reka Bentuk Sistem RAG
17.3

3. Seni Bina Peringkat Tinggi

Antara Muka PenggunaAplikasi web (Streamlit / React), muat naik dokumen, tanya soalan, lihat respons dengan sumber
API Bahagian BelakangFastAPI / Spring Boot, pengesahan, pengendalian permintaan, orkestrasi, pengelogan
Pemprosesan DokumenEkstrak teks (PDF, DOCX), pemecahan, pembersihan, jana benam (SentenceTransformer)
Pangkalan Data VektorSimpan benam (Qdrant / Pinecone / Weaviate), carian kesamaan, metadata
Perkhidmatan LLMJana respons (OpenAI / Llama / Ollama), guna konteks yang diperoleh, beri rujukan sumber
Pemantauan, pengelogan dan kebolehcerapan (Prometheus, Grafana, ELK)
17.4

4. Aliran Terperinci

  1. 1Pengguna memuat naik dokumen.
  2. 2Ekstrak teks dan pecahkan kepada cebisan.
  3. 3Jana benam untuk setiap cebisan.
  4. 4Simpan benam dalam pangkalan data vektor.
  5. 5Pengguna bertanya soalan.
  6. 6Dapatkan cebisan relevan menggunakan carian kesamaan.
  7. 7Hantar konteks yang diperoleh dan soalan kepada LLM.
  8. 8Jana respons dengan rujukan sumber.
  9. 9Log interaksi dan maklum balas pengguna.
17.5

5. Tindanan Teknologi (Contoh)

LapisanAlat / teknologi
FrontendStreamlit / React / Next.js
Bahagian belakangFastAPI (Python) / Spring Boot (Java)
Pemprosesan dokumenPyPDF2, Unstructured, LangChain
BenamSentenceTransformer (all-MiniLM-L6-v2)
Pangkalan data vektorQdrant / Pinecone / Chroma
LLMOpenAI / Llama / Ollama
PemantauanPrometheus, Grafana, ELK
PenggunaanDocker, Kubernetes, AWS / GCP
17.6

6. Komponen Utama

1
Pengambilan Dokumen
Ekstrak dan praproses dokumen.
2
Pemecahan Teks
Pecahkan teks kepada cebisan lebih kecil.
3
Penjanaan Benam
Tukar teks kepada benam vektor.
4
Storan Vektor
Simpan dan cari benam.
5
Dapatan Semula
Cari cebisan relevan untuk pertanyaan pengguna.
6
Pembinaan Prompt
Cipta prompt dengan konteks.
7
Inferens LLM
Jana jawapan akhir.
8
Rujukan Sumber
Tunjuk sumber dokumen.
9
Maklum Balas Pengguna
Kumpul maklum balas dan data penambahbaikan.
10
Pemantauan & Pengelogan
Jejak penggunaan, kependaman dan ralat.
17.7

7. Metrik Penilaian

1
Kualiti Dapatan Semula
Precision@K, Recall@K.
2
Relevansi Jawapan
Manusia atau LLM-as-a-Judge.
3
Kesetiaan
Semak jawapan berasaskan dokumen.
4
Kependaman Respons
Masa diambil untuk menjana jawapan.
5
Kepuasan Pengguna
Penilaian maklum balas.
6
Kos
Kos API dan infrastruktur.
Berkaitan14Penilaian dan Pengujian
17.8

8. Penambahbaikan yang Mungkin

  1. 1Sokong pelbagai format dokumen (PDF, DOCX, PPT, dll.).
  2. 2Tambah pengesahan dan akses berasaskan peranan.
  3. 3Laksanakan carian hibrid (kata kunci + vektor).
  4. 4Guna model kedudukan semula untuk keputusan lebih baik.
  5. 5Sokong dokumen berbilang mod (imej, jadual).
  6. 6Gunakan pada awan dengan penskalaan automatik.
  7. 7Tambah papan pemuka analitik untuk penggunaan dan maklum balas.
17.9

9. Perkara Penting

  • Projek hujung ke hujung membantu pembelajaran praktikal.
  • Merangkumi banyak konsep daripada data hingga penggunaan.
  • Meningkatkan kemahiran penyelesaian masalah dan reka bentuk sistem.
  • Berguna untuk temu duga dan aplikasi dunia sebenar.
  • Boleh dilanjutkan ke domain berbeza (kewangan, penjagaan kesihatan, pendidikan, dll.).