Sedang mengikuti modul ini?
Modul 07 · Halaman 8 daripada 20 · 9 bahagian
Memori dalam AI Agentik
Memori jangka pendek, jangka panjang, episodik dan semantik, serta bagaimana ia berfungsi bersama di sekeliling ejen.
Apakah Memori dalam AI Agentik?
- Memori membolehkan ejen menyimpan, mendapatkan semula dan menggunakan maklumat lepas untuk membuat keputusan yang lebih baik.
- Ia membantu ejen mengekalkan konteks merentasi beberapa interaksi.
- Tanpa memori, ejen berkelakuan seperti sistem tanpa keadaan (stateless) dan melupakan perbualan serta tindakan sebelumnya.
- Memori penting untuk matlamat jangka panjang, pemperibadian dan tugasan kompleks berbilang langkah.
Mengapa Memori Penting?
- Membantu mengekalkan konteks perbualan.
- Meningkatkan pembuatan keputusan dengan pengetahuan lepas.
- Membolehkan pemperibadian dan keutamaan pengguna.
- Berguna untuk tugasan jangka panjang dan ejen autonomi.
- Mengurangkan soalan berulang dan meningkatkan kecekapan.
Jenis Memori
| Jenis | Penerangan | Contoh | Kes penggunaan |
|---|---|---|---|
| Memori jangka pendek | Menyimpan maklumat perbualan terkini dalam sesi semasa | Sejarah sembang, input pengguna terkini | Mengekalkan konteks dalam satu perbualan |
| Memori jangka panjang | Menyimpan maklumat penting untuk kegunaan masa depan | Keutamaan pengguna, pengetahuan domain | Pemperibadian, pembelajaran berterusan |
| Memori episodik | Menyimpan peristiwa dan pengalaman lepas | Tugasan lepas, tindakan diambil, hasil | Belajar daripada interaksi lepas |
| Memori semantik | Menyimpan pengetahuan fakta dan maklumat dunia | Maklumat syarikat, pengetahuan am | Menjawab soalan fakta, RAG |
Seni Bina Memori
Pertanyaan Pengguna
EjenLLM + alat
Memori Jangka PendekSejarah perbualan
Memori Jangka PanjangStor vektor / pangkalan data
Memori EpisodikPeristiwa / tindakan
Memori SemantikPangkalan pengetahuan / RAG
AlatAPI, pangkalan data, web, dll.
Respons kepada Pengguna
Memori Jangka Pendek (Memori Perbualan)
- Menyimpan mesej terkini dalam sesi semasa.
- Membantu ejen memahami konteks segera.
- Biasanya dilaksanakan sebagai tetingkap gelongsor N mesej terakhir.
- Contoh: simpan 5–10 mesej terakhir pengguna dan pembantu.
PenggunaBagaimana cuaca di Goa?
PembantuGoa cerah dengan suhu 30°C.
PenggunaBagaimana pula esok?
PembantuEsok suhunya 28°C.
PenggunaCadangkan beberapa hotel di sana.
Disimpan dalam memori jangka pendek: 5 mesej terakhir. “Esok” dan “di sana” hanya difahami kerana mesej-mesej ini.
Memori Jangka Panjang (Stor Vektor)
- Menyimpan maklumat penting untuk kegunaan masa depan.
- Dilaksanakan menggunakan pangkalan data vektor (cth. Pinecone, Qdrant).
- Menukar teks kepada embedding dan menyimpannya dalam stor vektor.
- Mendapatkan semula maklumat yang relevan menggunakan carian semantik.
TeksMaklumat penting
Model Embeddingcth. OpenAI
Stor VektorPinecone / Qdrant
Dapatkan konteks relevanCarian keserupaan
Maklumat Relevan untuk Ejen
Memori Episodik (Memori Peristiwa)
- Menyimpan tindakan, peristiwa dan pengalaman lepas.
- Membantu ejen belajar daripada interaksi sebelumnya.
- Berguna untuk tugasan jangka panjang dan ejen autonomi.
- Contoh: mengingati bahawa pengguna menempah penerbangan minggu lepas.
PeristiwaMenempah penerbangan ke Goa
Tarikh12 Okt 2024
ButiranDari Delhi ke Goa, 2 tiket
PeristiwaMeminta cadangan hotel
Tarikh12 Okt 2024
ButiranMencari hotel tepi pantai
Memori Semantik (Pangkalan Pengetahuan)
- Menyimpan pengetahuan am dan maklumat khusus domain.
- Sering dilaksanakan menggunakan RAG (Retrieval-Augmented Generation).
- Mendapatkan dokumen yang relevan dan memberikan respons yang tepat.
- Contoh: polisi syarikat, dokumentasi produk.
Pertanyaan Pengguna
Dapatkan dokumen relevan (RAG)
LLM
Jawapan berasaskan pengetahuan
Pangkalan PengetahuanDokumen syarikat, PDF, laman web
Rumusan Utama
- 1Memori penting untuk membina ejen yang pintar dan autonomi.
- 2Jenis memori yang berbeza mempunyai tujuan yang berbeza.
- 3Memori jangka pendek mengendalikan konteks segera, memori jangka panjang menyimpan pengetahuan penting, memori episodik menyimpan peristiwa lepas dan memori semantik menyimpan pengetahuan fakta.
- 4Pangkalan data vektor dan RAG biasa digunakan untuk memori jangka panjang.
- 5Reka bentuk memori yang baik meningkatkan prestasi ejen dengan ketara.