פתרון בעיות שקשורות לביטולים לא צפויים של שאילתות ב-Looker (Google Cloud core)

כשמריצים שאילתה אינטראקטיבית ב-Looker (Google Cloud core), יכול להיות שהשאילתה תרוץ ללא הגבלת זמן בממשק המשתמש של Explore או במרכז הבקרה. עם זאת, ביומנים של מסד הנתונים בקצה העורפי מצוין שהשאילתה בוטלה באופן מפורש אחרי 20 עד 30 שניות.

בדף הזה מוסבר למה זה קורה ואיך לפתור את הבעיה על ידי שינוי הגדרות הזמן הקצוב לתפוגה בתשתית הרשת המתווכת. המדריך הזה מיועד לאדמינים שמנהלים את הניתוב ברשת ופותרים בעיות בשאילתות ב-Looker (Google Cloud core).

תסמינים

כשמריצים שאילתה אינטראקטיבית ב-Explore או במרכז בקרה, יכול להיות שתיתקלו בתופעות הבאות:

  • ממשק המשתמש של Looker: ממשק המשתמש של Looker Explore או המשבצת בלוח הבקרה נשארים במצב Running (מסתובבים) ללא הגבלת זמן, ולא מחזירים תוצאות או מציגים שגיאה.
  • זמן הביצוע של מסד הנתונים בקצה העורפי: במסד הנתונים בקצה העורפי (כמו BigQuery,‏ Snowflake או PostgreSQL), השאילתה מבוטלת אחרי פרק זמן קצר – בדרך כלל 20 עד 30 שניות.
  • יומני שאילתות של מסד נתונים לקצה העורפי: היסטוריית השאילתות או יומני הביקורת במסד הנתונים לקצה העורפי מציינים שהמשימה בוטלה באופן מפורש על ידי המשתמש, למרות שלא ביטלתם את השאילתה או סגרתם את הכרטיסייה בדפדפן.

מטרה

הבעיה הזו נגרמת בגלל חוסר התאמה בין מנגנון ה-heartbeat של הסשן ב-Looker לבין הגדרות הזמן הקצוב לתפוגה שנקבעו במכשירי רשת ביניים, שמנתבים את התנועה בין הדפדפן למכונה של Looker (Google Cloud core).

מנגנון לזיהוי פעילות בסשן ולביטול שאילתות

כדי לנהל ביעילות את השימוש במשאבים של מסד הנתונים, Looker (Google Cloud core) עוקב אחרי הקישוריות של הלקוח בזמן הרצת השאילתה באמצעות המנגנון הבא:

  • אותות קבועים: כשמריצים שאילתה אינטראקטיבית בממשק המשתמש של Looker, דפדפן האינטרנט שומר על חיבור פעיל ושולח אותות קבועים למכונה של Looker (Google Cloud core) כדי לשמור על סשן השאילתה פעיל.
  • זמן קצוב לתפוגה של חיבור ביניים: אם למכשיר רשת ביניים – כמו מאזן עומסים של אפליקציות, שרת proxy הפוך של הארגון, חומת אש ליישומי אינטרנט (WAF) או שער VPN – יש הגדרה של זמן קצוב לתפוגה של חוסר פעילות או של תגובה (לדוגמה, זמן קצוב לתפוגה של שירות לקצה העורפי שמוגדר כברירת מחדל ל-30 שניות במאזני עומסים של אפליקציות ב-Google Cloud ), המכשיר סוגר או מנתק את החיבור לפני הזמן כשזמן הריצה של השאילתה חורג מהסף הזה.
  • זיהוי נטישת שאילתות: אחרי שחיבור הביניים נסגר, Looker (Google Cloud core) מפסיק לקבל אותות heartbeat מהדפדפן. אחרי כ-30 שניות בלי אות פעימה, Looker (Google Cloud core)‎ מזהה שאי אפשר להגיע יותר לסשן הלקוח ומזהה את השאילתה כנטושה.
  • ניקוי מסד הנתונים: כדי להימנע משימוש מיותר במשאבי המחשוב של מסד הנתונים בשאילתות שאף משתמש לא ממתין להן, Looker (Google Cloud core) שולח באופן אוטומטי בקשת ביטול למסד הנתונים לקצה העורפי. מכיוון ש-Looker מנפיקה את הביטול בשם המשתמש שהריץ את השאילתה, ביומני מסד הנתונים מתועד שהמשימה בוטלה על ידי המשתמש.
  • מצב הפעלה בלתי מוגבל בממשק המשתמש: מכיוון ששרת ה-proxy או השער המתווכים סגרו את החיבור בין הדפדפן לבין Looker (Google Cloud core), הדפדפן לא מקבל את סטטוס הביטול או את תגובת השגיאה. כתוצאה מכך, ממשק המשתמש של Looker Explore או המשבצת בלוח הבקרה נשארים במצב Running.

זיהוי הבעיה

כדי לבדוק אם ביטולי השאילתות נגרמים בגלל זמן קצוב לתפוגה של רשת ביניים, פועלים לפי השלבים הבאים:

  1. בדיקת יומני השאילתות של מסד הנתונים: בודקים את היסטוריית ההרצה של השאילתה שבוטלה במסד הנתונים בקצה העורפי:
    • ב-BigQuery, נכנסים לדף Query history במסוףGoogle Cloud או בודקים את היסטוריית המשימות של הפרויקט במסוף Google Cloud ומאתרים את המשימה שנכשלה. בודקים את פרטי המשימה כדי לוודא שהשאילתה בוטלה אחרי כ-20 עד 30 שניות, ושהסטטוס שלה הוא "בוטלה".
    • ב-Snowflake, בודקים את התצוגה QUERY_HISTORY או את הכרטיסייה History ב-Snowsight. בודקים אם סטטוס השאילתה הוא FAILED_WITH_ERROR או אם הוא מציין שהמשתמש ביטל את השאילתה אחרי כ-30 שניות.
    • ב-PostgreSQL, בודקים אם ביומן השרת מופיעות הודעות כמו canceling statement due to user request שתואמות לחותמת הזמן של השאילתה.
  2. בדיקת משך השאילתה: ביומני מסד הנתונים, שימו לב למשך הזמן המדויק של השאילתה לפני שהיא בוטלה. אם השאילתה מתבטלת באופן עקבי אחרי כ-30 שניות (או בסביבות מגבלת הזמן הקצוב שהוגדרה בשרת ה-proxy או במאזן העומסים), סביר להניח שזמן קצוב של רשת ביניים הפעיל את הביטול.
  3. בדיקת תשתית הרשת המתווכת: מזהים שרתי proxy הפוכים, מאזני עומסים או רשתות VPN בנתיב הרשת שבין הדפדפנים של המשתמשים לבין המכונה של Looker (Google Cloud core).

רזולוציה

כדי לפתור את הבעיה, צריך להגדיל את הגדרות הזמן הקצוב לתפוגה של חוסר פעילות ותגובה בכל מכשירי הרשת שמנתבים תנועה בין הדפדפנים של המשתמשים לבין המכונה של Looker (Google Cloud core). מגדירים את מגבלת הזמן הקצוב לתפוגה לערך גבוה יותר ממשך הזמן הצפוי של השאילתות האינטראקטיביות הארוכות ביותר.

הגדלת הזמן הקצוב לתפוגה של שירות לקצה העורפי של מאזן העומסים של אפליקציות (ALB)

אם למכונה של Looker (Google Cloud core) יש מאזן עומסים חיצוני או פנימי של אפליקציות (ALB), צריך לבצע את השלבים הבאים:

  1. במסוף Google Cloud , נכנסים לדף איזון עומסים:

    כניסה לדף Load balancing

  2. לוחצים על Backends ואז על השם של שירות הקצה העורפי שמשויך למכונה של Looker (Google Cloud core).

  3. לוחצים על Edit.

  4. בשדה Timeout, מגדילים את ערך הזמן הקצוב לתפוגה. לדוגמה, אפשר לשנות את ערך ברירת המחדל מ-30 שניות ל-300 שניות (5 דקות) או יותר, בהתאם לזמני הביצוע הצפויים של השאילתות.

  5. לוחצים על Save.

הגדלת זמן הקצוב לתפוגה של שרת ה-proxy, ה-WAF או ה-VPN

אם המשתמשים שלכם ניגשים ל-Looker (Google Cloud core) דרך שרת proxy להעברה, שרת proxy הפוך (כמו NGINX או Apache),‏ WAF או שער VPN, בצעו את השלבים הבאים:

  1. מאתרים את ההגדרות של זמן הקצוב לתפוגה של החיבור, התגובה או חוסר הפעילות בהגדרות של שרת ה-Proxy או השער, כמו בדוגמאות הבאות:
    • ב-NGINX, מגדילים את ההוראות proxy_read_timeout ו-proxy_send_timeout.
    • ב-Apache, מגדילים את ההוראות TimeOut או ProxyTimeout.
    • ברשתות VPN ארגוניות או בשערי חומת אש, מגדילים את זמן הקצוב לתפוגה של סשן TCP במצב חוסר פעילות לתנועת HTTPS לדומיין של Looker (Google Cloud core).
  2. לאפשר חיבורים ארוכי-טווח של HTTP ו-WebSocket דרך שרת ה-proxy, כדי שאותות ה-heartbeat של הדפדפן יגיעו ל-Looker (Google Cloud core) ללא הפרעה.
  3. מחילים את השינויים בהגדרות ומפעילים מחדש או טוענים מחדש את שירות ה-proxy.

אימות הרזולוציה

אחרי שמגדילים את ערכי הזמן הקצוב לתפוגה במאזן העומסים או בשרתי ה-proxy המתווכים, פועלים לפי השלבים הבאים כדי לוודא שהשאילתות מסתיימות בהצלחה:

  1. ב-Looker (Google Cloud core), עוברים אל Explore או אל מרכז בקרה שבו השאילתות בוטלו בעבר.
  2. מריצים את השאילתה שנכשלה קודם.
  3. מוודאים שהשאילתה פועלת מעבר לסף הקודם של הזמן הקצוב לתפוגה (למשל 30 שניות) בלי ביטול, ושהתוצאות מוצגות בממשק המשתמש.
  4. אפשר לבדוק את יומני השאילתות של מסד הנתונים בקצה העורפי כדי לוודא שהמשימה הושלמה בהצלחה בלי סטטוס ביטול של המשתמש.