המסמכים של Dataflow
Dataflow הוא שירות מנוהל להרצה של מגוון רחב של דפוסי עיבוד נתונים. במסמכים באתר הזה מוסבר איך לפרוס את צינורות עיבוד הנתונים שלכם (batch וסטרימינג) באמצעות Dataflow, כולל הוראות לשימוש בתכונות השירות.
Apache Beam SDK הוא מודל תכנות בקוד פתוח שמאפשר לפתח צינורות עיבוד נתונים באצווה ובפייפליין זורם. אתם יוצרים את צינורות הנתונים באמצעות תוכנית Apache Beam ומריצים אותם בשירות Dataflow. במסמכי התיעוד של Apache Beam יש מידע קונספטואלי מעמיק וחומר עזר למודל התכנות, לערכות ה-SDK ולרכיבי runner אחרים של Apache Beam.
כדי ללמוד מושגים בסיסיים של Apache Beam, אפשר לעיין במאמרים Tour of Beam ו-Beam Playground. במאגר Dataflow Cookbook יש גם צינורות מוכנים להפעלה ועצמאיים, ותרחישי השימוש הנפוצים ביותר ב-Dataflow.
מתחילים לעבוד על הוכחת ההיתכנות בחינם עם קרדיט בשווי 300$
- פיתוח באמצעות המודלים והכלים הכי עדכניים של AI גנרטיבי
- שימוש בחינם ביותר מ-20 מוצרים פופולריים, כולל Compute Engine וממשקי API של AI
- בלי חיובים אוטומטיים ובלי התחייבות
מוזמנים להתנסות ביותר מ-20 מוצרים חינמיים
אתם יכולים להשתמש ביותר מ-20 מוצרים בחינם לתרחישי שימוש נפוצים, כולל ממשקי API של AI, מכונות וירטואליות, מחסני נתונים (data warehouse) ועוד.
מאמרי עזרה
מדריכים
מקורות מידע שקשורים לנושא
הרצת עומסי עבודה מקבילים מאוד של HPC
בעזרת Dataflow, אתם יכולים להריץ עומסי עבודה מקבילים בצינור עיבוד נתונים אחד, לשפר את היעילות ולנהל את תהליך העבודה בקלות רבה יותר.
הרצת הסקה באמצעות Dataflow ML
בעזרת Dataflow ML אתם יכולים להשתמש ב-Dataflow כדי לפרוס ולנהל צינורות עיבוד נתונים שלמים של למידת מכונה (ML). להשתמש במודלים של למידת מכונה כדי להסיק מסקנות באופן מקומי ומרחוק, באמצעות פייפליינים באצווה ובסטרימינג. משתמשים בכלים לעיבוד נתונים כדי להכין את הנתונים לאימון המודל ולעבד את התוצאות של המודלים.
יצירת פייפליין זורם של מסחר אלקטרוני
יצירת אפליקציית מסחר אלקטרוני לדוגמה מקצה לקצה שמעבירה נתונים בסטרימינג מחנות אינטרנט ל-BigQuery ול-Bigtable. האפליקציה לדוגמה ממחישה תרחישים נפוצים ושיטות מומלצות להטמעה של ניתוח נתוני סטרימינג ובינה מלאכותית (AI) בזמן אמת.