פיתוח אפליקציות מבוססות-LLM באמצעות LangChain

בדף הזה מוסבר איך ליצור אפליקציות מבוססות-LLM באמצעות LangChain. הסקירות הכלליות בדף הזה מקשרות למדריכים לפרוצדורות ב-GitHub.

מה זה LangChain?

‫LangChain היא מסגרת לתזמור LLM שעוזרת למפתחים לבנות אפליקציות AI גנרטיביות או תהליכי עבודה של יצירה משופרת באחזור (RAG). הוא מספק את המבנה, הכלים והרכיבים לייעול תהליכי עבודה מורכבים של מודלים גדולים של שפה (LLM).

מידע נוסף על LangChain זמין בדף Google LangChain. מידע נוסף על מסגרת LangChain זמין במסמכי העזרה של המוצר LangChain.

רכיבי LangChain ל-Spanner

‫Spanner מציע את הממשקים הבאים של LangChain:

מאגר וקטורים ל-Spanner

מאגר וקטורים מאחזר ומאחסן מסמכים ומטא-נתונים ממסד נתונים וקטורי. מאגר וקטורים מאפשר לאפליקציה לבצע חיפושים סמנטיים שמפרשים את המשמעות של שאילתת משתמש. סוג החיפוש הזה נקרא חיפוש וקטורי, והוא יכול למצוא נושאים שתואמים לשאילתה מבחינה מושגית. בזמן השאילתה, מאגר הווקטורים מאחזר את וקטורי ההטמעה שהכי דומים להטמעה של בקשת החיפוש. ב-LangChain, מאגר וקטורים אחראי לאחסון נתונים מוטמעים ולביצוע חיפוש וקטורי בשבילכם.

כדי לעבוד עם מאגר וקטורים ב-Spanner, משתמשים במחלקה SpannerVectorStore.

מידע נוסף זמין במסמכי התיעוד של המוצר LangChain Vector Stores.

מדריך להליך של חנות וקטורים

במדריך Spanner לאחסון וקטורים מוסבר איך לבצע את הפעולות הבאות:

  • התקנת חבילת השילוב ו-LangChain
  • אתחול טבלה במאגר הווקטורים
  • הגדרת שירות הטמעה באמצעות VertexAIEmbeddings
  • אתחול SpannerVectorStore
  • הוספה ומחיקה של מסמכים
  • חיפוש מסמכים דומים
  • יצירת מאגר וקטורים בהתאמה אישית כדי להתחבר למסד נתונים קיים של Spanner שיש בו טבלה עם הטבעות וקטוריות

כלי לטעינת מסמכים ל-Spanner

רכיב טעינה של מסמכים שומר, טוען ומוחק אובייקטים של LangChain Document לדוגמה, אפשר לטעון נתונים לעיבוד בהטמעות, ולאחסן אותם במאגר וקטורים או להשתמש בהם ככלי כדי לספק הקשר ספציפי לשרשראות.

כדי לטעון מסמכים מ-Spanner, משתמשים במחלקה SpannerLoader. משתמשים במחלקה SpannerDocumentSaver כדי לשמור ולמחוק מסמכים.

מידע נוסף זמין במאמר בנושא LangChain Document loaders.

מדריך להליך טעינת מסמכים

במדריך Spanner לרכיב טעינת מסמכים מוסבר איך:

  • התקנת חבילת השילוב ו-LangChain
  • טעינת מסמכים מטבלה
  • הוספת מסנן לרכיב טעינה
  • התאמה אישית של החיבור והאימות
  • התאמה אישית של מבנה המסמך על ידי ציון תוכן ומטא-נתונים של הלקוח
  • איך משתמשים ב-SpannerDocumentSaver ומתאימים אותו אישית כדי לאחסן ולמחוק מסמכים

היסטוריית הודעות בצ'אט ב-Spanner

אפליקציות של שאלות ותשובות צריכות היסטוריה של הדברים שנאמרו בשיחה כדי לספק לאפליקציה הקשר שיעזור לה לענות על שאלות נוספות מהמשתמש. המחלקות ChatMessageHistory של LangChain מאפשרות לאפליקציה לשמור הודעות במסד נתונים ולאחזר אותן כשצריך כדי לגבש תשובות נוספות. הודעה יכולה להיות שאלה, תשובה, הצהרה, ברכה או כל טקסט אחר שהמשתמש או האפליקציה נותנים במהלך השיחה. ‫ChatMessageHistory שומר כל הודעה ומקשר בין ההודעות בכל שיחה.

‫Spanner מרחיב את המחלקה הזו באמצעות SpannerChatMessageHistory.

מדריך להפעלת היסטוריית ההודעות בצ'אט

במדריך Spanner להיסטוריית הודעות בצ'אט מוסבר איך לבצע את הפעולות הבאות:

  • התקנה של LangChain ואימות ל- Google Cloud
  • הפעלת טבלה
  • הפעלת האתחול של המחלקה SpannerChatMessageHistory כדי להוסיף ולמחוק הודעות
  • שימוש בלקוח כדי להתאים אישית את החיבור והאימות
  • מחיקת הסשן SpannerChatMessageHistory

מאגר גרפים ל-Spanner

מאגר גרפים מאחזר ושומר צמתים וקשתות ממסד נתונים של גרפים. אפשר להשתמש במאגר גרפים כדי לאפשר לאפליקציה לבצע את הפעולות הבאות:

  • הוספת צמתים וקשתות לגרף
  • ביצוע מעברים וניתוח בגרף
  • בדיקת הסכימה של גרף

אפשר גם להשתמש במאגר גרפים עם שרשרת של שאלות ותשובות לגבי גרפים כדי ליצור אפליקציה שיכולה לנהל שיחה עם גרף.

כדי להשתמש בחנות גרפים עם Spanner Graph, צריך להשתמש במחלקה SpannerGraphStore כדי לאחסן צמתים וקשתות שחולצו ממסמכים. SpannerGraphStore תומך ב-Graph Query Language‏ (GQL).

מדריך להצגת פרוצדורות מאוחסנות בגרף

במדריך Spanner לחנות גרפים מוסבר איך לבצע את הפעולות הבאות:

  • התקנת חבילת השילוב ו-LangChain
  • הכנת גרפים ממקורות נתונים שונים
  • הפעלת SpannerGraphStore עם מסד נתונים קיים של Spanner Graph
  • הוספת צמתים וקשתות ל-Spanner Graph
  • ביצוע מעברים באמצעות שאילתת GQL
  • הצגה חזותית של תוצאות שאילתת הגרף
  • ניקוי התרשים

Graph QA chain for Spanner

שרשרת שאלות ותשובות של גרף ל-Spanner משתמשת בגרף Spanner כדי לענות על שאלות. תהליך העבודה של QA בגרף כדי לענות על שאלה הוא כדלקמן:

  1. תכונת ה-QA של הגרף משתמשת ב-LLM של LangChain כדי לתרגם שאלה בשפה טבעית לשאילתת GQL.
  2. ‫Spanner Graph משתמש בממשק של מאגר הגרפים כדי להריץ את שאילתת ה-GQL.
  3. תוצאות השאילתה ב-GQL נשלחות בחזרה ל-LLM.
  4. מודל ה-LLM יוצר את התשובה לשאלה ומחזיר אותה.

מדריך להליך בקרת איכות של גרפים

המדריך ל-Spanner בנושא QA של גרפים מדגים איך להשתמש ב-Spanner וב-QA של גרפים כדי לענות על שאלה על ידי הצגת השלבים הבאים:

  • יצירת גרף מבלובים של טקסט לא מובנה באמצעות LLMGraphTransformer.
  • אחסון הגרף ב-Spanner Graph באמצעות המחלקה SpannerGraphStore.
  • מאתחלים מופע של SpannerGraphQAChain.
  • יצירת תשובה לשאלה בשפה טבעית באמצעות מאגר הגרפים ב-Spanner Graph.