בדף הזה מוסבר איך לבצע העברות מהירות של נתונים מ-PostgreSQL הומוגני אל AlloyDB ל-PostgreSQL.
סקירה כללית
מיגרציות מהירות הן תהליך מיגרציה רציף וקל משקל לתרחישי PostgreSQL הומוגניים. בעזרת העברות מהירות, Database Migration Service יכול להגדיר באופן אוטומטי את כל מה שצריך כדי להעביר את מסדי הנתונים: רכיבי רשת (קבצים מצורפים לרשת, רשתות משנה, הגדרות קישוריות פרטית), פרופילי חיבור ועבודות העברה.
בעזרת העברות מהירות, אתם יכולים להעביר את הנתונים שלכם לאשכול קיים של AlloyDB ל-PostgreSQL, או ליצור אשכול חדש תוך כדי הגדרת ההעברה. העברות מהירות מתאימות במיוחד ל:
- מיגרציות בסיסיות, שבהן לא צריך שליטה מדויקת בהגדרות של מקביליות של dump נתונים.
- העברת מסד הנתונים מפרויקט Google Cloud אחד לפרויקט אחר. כשמגדירים העברה מהירה, אפשר ליצור את אשכול היעד בפרויקט אחר מזה של המקור, ולהגדיר את Database Migration Service (שירות העברת מסדי נתונים) כך שיצור את צירוף הרשת ואת רשת המשנה ברשת הענן הווירטואלי הפרטי (VPC) של פרויקט אחר.
-
העברה ממקורות עם כתובת IP פרטית ברשת של הענן הווירטואלי הפרטי (VPC) שלכם, כמו מסדי נתונים בניהול עצמי ב-Compute Engine, או ממופעים של Cloud SQL ל-PostgreSQL שמופעלת בהם רשת פרטית. Google Cloud
יכול להיות שיהיה צורך ברכיבי רשת נוספים (כמו חיבור Cloud VPN) כדי להגיע למקורות שמארחים מחוץ ל- Google Cloud בכתובת IP פרטית ברשת ה-VPC.
- השיטה היחידה שנתמכת לקישוריות למסד נתונים היא ממשקי Private Service Connect עם הגדרות קישוריות פרטיות של Database Migration Service. צריך להקצות לנתוני מסד הנתונים כתובת IP פרטית ברשת VPC. שיטות אחרות לחיבור למקור הומוגני (כמו רשימות היתרים של כתובות IP ציבוריות, מנהרות SSH הפוכות או VPC peering) לא נתמכות בהעברות מהירות.
מידע נוסף על העברות מהירות זמין במאמר סקירה כללית של העברות מהירות במסמכי התיעוד העיקריים של Database Migration Service.
לפני שמתחילים
- בודקים אם העברות מהירות יכולות לתמוך באופן מלא בתרחיש שלכם. מגבלות של העברה מהירה
-
נכנסים לחשבון Google.
אם עדיין אין חשבון, יוצרים חשבון חדש.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
-
Verify that billing is enabled for your Google Cloud project.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
-
Verify that billing is enabled for your Google Cloud project.
- מפעילים את ממשקי ה-API של Database Migration Service, Compute Engine, Network Connectivity Center ו-AlloyDB ל-PostgreSQL Admin.
התפקידים הנדרשים
כדי לקבל את ההרשאות שנדרשות להפעלת העברות מהירות ל-AlloyDB ל-PostgreSQL באמצעות Database Migration Service, צריך לבקש מהאדמין להקצות את תפקידי ה-IAM הנדרשים לחשבונות שמשתתפים בהעברה בפרויקטים הרלוונטיים. מידע נוסף על מתן תפקידים זמין במאמר ניהול גישה במסמכי התיעוד של IAM.
תפקידים והרשאות בפרויקט המקור
מקצים לחשבונות ספציפיים את התפקידים הבאים ב Google Cloud פרויקט שבו נמצא מסד הנתונים של המקור:
- לחשבון המשתמש שמבצע את ההעברה:
התפקיד 'אדמין של רשת מחשוב' (
roles/compute.networkAdmin) - לחשבון השירות של Database Migration Service בפרויקט היעד:
צפייה ברשת Compute (
roles/compute.networkViewer)חשבון השירות של Database Migration Service נוצר כשמפעילים את Database Migration Service API. כתובת האימייל שמשויכת לחשבון הזה נוצרת באופן אוטומטי ואי אפשר לשנות אותה. כתובת האימייל הזו מבוססת על הפורמט הבא:
service-DESTINATION_PROJECT_NUMBER@gcp-sa-datamigration.iam.gserviceaccount.com
התפקידים המוגדרים מראש האלה מכילים את ההרשאות שנדרשות להגדרת קישוריות במסגרת פרויקט מסד הנתונים של המקור, כחלק מהעברה מהירה באמצעות Database Migration Service. כדי לראות את ההרשאות הנדרשות, מרחיבים את הקטע ההרשאות הנדרשות (מקור):
ההרשאות הנדרשות (מקור)
כדי לבצע העברות מהירות והומוגניות באמצעות Database Migration Service, נדרשות ההרשאות הבאות:
עבור חשבון המשתמש שמבצע את ההעברה:
compute.networks.*compute.subnetworks.*compute.networkAttachments.*
בחשבון השירות של Database Migration Service בפרויקט היעד:
compute.networkAttachments.get.
תפקידים והרשאות בפרויקט היעד
מקצים את התפקידים הבאים לחשבון המשתמש שמבצע את ההעברה בפרויקט ב- Google Cloud שבו נמצא מסד הנתונים של היעד:
-
אדמין של Database Migration (
roles/datamigration.admin) -
אדמין ב-AlloyDB (
roles/alloydb.admin)
התפקידים המוגדרים מראש האלה מכילים את ההרשאות שנדרשות כדי להגדיר את רכיבי ההעברה הנדרשים בפרויקט מסד הנתונים של יעד כחלק מהעברה מהירה באמצעות Database Migration Service. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות (יעד):
ההרשאות הנדרשות (יעד)
כדי לבצע העברות מהירות והומוגניות באמצעות Database Migration Service, נדרשות ההרשאות הבאות:
datamigration.*alloydb.clusters.createalloydb.clusters.getalloydb.clusters.listalloydb.clusters.updatealloydb.clusters.deletealloydb.instances.createalloydb.instances.getalloydb.instances.listalloydb.instances.updatealloydb.instances.deletealloydb.instances.executeSqlalloydb.operations.getalloydb.users.listalloydb.users.getalloydb.users.createalloydb.users.updatealloydb.users.delete
הגדרת מסד הנתונים של המקור
כדי להגדיר את מסד הנתונים של PostgreSQL כמקור:
- יוצרים בחשבון משתמש ייעודי להעברה.
- למקורות Cloud SQL ל-PostgreSQL, אפשר לעיין במאמר בנושא יצירת משתמש בתיעוד של Cloud SQL.
- לגבי מקורות אחרים, אפשר לעיין במסמכי התיעוד של ספק מסד הנתונים או ליצור ולנהל משתמשים במסמכי התיעוד של PostgreSQL.
- מקצים את ההרשאות הנדרשות לחשבון המשתמש הייעודי להעברה.
מריצים את הפקודות הבאות לכל מסד נתונים שרוצים להעביר:
-- Grant the REPLICATION attribute ALTER ROLE MIGRATION_USER REPLICATION; -- Grant database-level permissions. -- Repeat for each database you want to migrate. GRANT CONNECT, CREATE ON DATABASE DATABASE_NAME TO MIGRATION_USER; -- Grant schema-level usage. -- Repeat for each schema in each database you want to migrate. GRANT USAGE ON SCHEMA SCHEMA_NAME TO MIGRATION_USER;
מחליפים את מה שכתוב בשדות הבאים:
- MIGRATION_USER עם השם של חשבון המשתמש להעברה.
- DATABASE_NAME בשם מסד הנתונים שרוצים להעביר.
- SCHEMA_NAME בשם הסכימה במסד הנתונים שרוצים להעביר.
- למשתמש בחשבון ההעברה צריכה להיות גישת בעלות לטבלאות שאתם מעבירים. כדי לתת את רמת הגישה הזו, מבצעים אחת מהפעולות הבאות:
- למקורות אחרים מלבד Cloud SQL ל-PostgreSQL בלבד: מקצים את
SUPERUSERתפקיד PostgreSQL לחשבון ההעברה. - לכל המקורות: מוסיפים את חשבון המשתמש של ההעברה לקבוצת המשתמשים שבבעלותה הטבלאות.
מריצים את הפקודה הבאה:
-- Grant table ownership. GRANT TABLE_OWNER_GROUP_NAME TO MIGRATION_USER;
מחליפים את מה שכתוב בשדות הבאים:
- TABLE_OWNER_GROUP_NAME עם שם קבוצת המשתמשים שהיא הבעלים של כל טבלה שרוצים להעביר.
- MIGRATION_USER עם השם של חשבון המשתמש להעברה.
- למקורות אחרים מלבד Cloud SQL ל-PostgreSQL בלבד: מקצים את
- בטבלאות שאין להן מפתחות ראשיים: שירות Database Migration Service לא משכפל פעולות
UPDATEאוDELETEבטבלאות ללא מפתחות ראשיים במהלך השלב של סימון נתונים שהשתנו (CDC). אם רוצים לכלול פעולות כאלה בשכפול, צריך לשנות את הטבלאות בלי מפתחות ראשיים באמצעותREPLICA IDENTITY:ALTER TABLE TABLE_NAME REPLICA IDENTITY FULL; ALTER TABLE TABLE_NAME REPLICA IDENTITY USING INDEX INDEX_NAME;
מחליפים את מה שכתוב בשדות הבאים:
- TABLE_NAME הוא שם הטבלה שלא מוגדרים בה מפתחות ראשיים.
- INDEX_NAME הוא האינדקס הייחודי שיכול לעקוב אחרי שורות מטבלאות ללא מפתחות ראשיים.
- מגדירים את הגדרות השכפול באמצעות דגלים של מסד הנתונים.
מקורות בניהול עצמי
שמירת שינויים בדגלים של מסד הנתונים מחייבת הפעלה מחדש מלאה של מסד הנתונים. בדוגמאות הבאות נעשה שימוש בשאילתות SQL כדי לשנות ערכי דגלים. אם אתם לא יכולים להריץ שאילתות SQL ישירות, תוכלו לעיין במסמכי התיעוד של הספק כדי לקבל הוראות לשינוי הדגלים האלה.
- מגדירים את הפרמטר
wal_levelלערךlogical. מריצים את הפקודה הבאה:ALTER SYSTEM SET wal_level = 'logical';
- מגדירים את הפרמטר
wal_sender_timeoutלערך0. הערך הזה משבית את מנגנון פסק הזמן שמשמש לסיום חיבורי רפליקציה לא פעילים. מריצים את הפקודה הבאה:ALTER SYSTEM SET wal_sender_timeout = 0;
- מגדירים את המספר המקסימלי של משבצות השכפול באמצעות הפרמטר
max_replication_slots. הערך של הפרמטר הזה צריך להיות לפחות מספר מסדי הנתונים שמעבירים בכל משימת העברה, בתוספת כמה מסדי נתונים לגיבוי לצורך סנכרון הטבלאות.לדוגמה, אם מעבירים 5 מסדי נתונים ונוצרו 2 משימות העברה עבור מופע המקור, מספר משבצות השכפול צריך להיות לפחות
5 * 2 = 10, ועוד מספר משבצות השכפול שכבר נמצאות בשימוש.כדי להגדיר את הפרמטר הזה, מריצים את הפקודה הבאה:
כאשר NUMBER_OF_SLOTS מייצג את המספר המקסימלי של משבצות שכפול.ALTER SYSTEM SET max_replication_slots = NUMBER_OF_SLOTS;
- מגדירים את הפרמטר
max_wal_sendersלערך שהוא לפחות זהה לערך שלmax_replication_slots, בתוספת מספר השולחים שכבר נמצאים בשימוש במופע.לדוגמה, אם הפרמטר
max_replication_slotsמוגדר לערך10, ואתם כבר משתמשים ב-2 שולחים, מספר תהליכי השליחה של WAL שפועלים בו-זמנית יהיה10 + 2 = 12.כדי להגדיר את הפרמטר הזה, מריצים את הפקודה הבאה:
כאשר NUMBER_OF_SENDERS מייצג את מספר התהליכים של WAL sender שפועלים בו-זמנית.ALTER SYSTEM SET max_wal_senders = NUMBER_OF_SENDERS;
- מגדירים את הערך של
max_worker_processesלמספר של לפחות מספר מסדי הנתונים שרוצים להעביר, ועוד מספרmax_worker_processesשכבר נמצא בשימוש במופע. כדי להגדיר את הפרמטר הזה, מריצים את הפקודה הבאה: כאשר NUMBER_OF_PROCESSES מייצג את מספר מסדי הנתונים שיועברו.ALTER SYSTEM SET max_worker_processes = NUMBER_OF_PROCESSES;
מקורות Cloud SQL ל-PostgreSQL
למקורות Cloud SQL, מגדירים את הדגלים של מסד הנתונים במסוף Google Cloud . כדי שההגדרה תיכנס לתוקף, צריך להפעיל מחדש את המופע אחרי שמשנים את הדגלים של מסד הנתונים. מידע נוסף על הגדרת דגלים של מסד נתונים ב-Cloud SQL זמין במאמר הגדרת דגלים של מסד נתונים במסמכי Cloud SQL.
- מגדירים את הדגל
cloudsql.logical_decodingלערךon. - מגדירים את הפרמטר
wal_sender_timeoutלערך0. הערך הזה משבית את מנגנון פסק הזמן שמשמש לסיום חיבורי שכפול לא פעילים. - מגדירים את המספר המקסימלי של משבצות השכפול באמצעות הפרמטר
max_replication_slots. הפרמטר הזה צריך להיות מוגדר לפחות כמספר מסדי הנתונים שמעבירים בכל משימת העברה, בתוספת כמה עתודות לסנכרון הטבלאות.לדוגמה, אם מעבירים 5 מסדי נתונים ונוצרו 2 משימות העברה עבור מופע המקור, מספר משבצות השכפול צריך להיות לפחות
5 * 2 = 10, ועוד מספר משבצות השכפול שכבר נמצאות בשימוש. - מגדירים את הפרמטר
max_wal_sendersלערך שהוא לפחות כמוmax_replication_slots, בתוספת מספר השולחים שכבר נמצאים בשימוש במופע.לדוגמה, אם הפרמטר
max_replication_slotsמוגדר לערך10, ואתם כבר משתמשים ב-2 שולחים, מספר תהליכי השליחה של WAL שפועלים בו-זמנית יהיה10 + 2 = 12. - מגדירים את
max_worker_processesלמספר שהוא לפחות מספר מסדי הנתונים שרוצים להעביר, ועוד מספרmax_worker_processesשכבר נמצא בשימוש במופע.
- מגדירים את הפרמטר
יצירה והרצה של העברה מהירה
כדי ליצור ולהפעיל העברה מהירה:
- נכנסים לדף Get started במסוף Google Cloud .
- בתפריט מנוע המקור, בוחרים באפשרות PostgreSQL.
- בתפריט מנוע היעד, בוחרים באפשרות AlloyDB ל-PostgreSQL.
מופיע הקטע הצגת העברה מהירה של PostgreSQL.
- בקטע היכרות עם העברה מהירה של PostgreSQL, לוחצים על התחלת ההעברה.
הדף Migrate to AlloyDB for PostgreSQL (מעבר אל AlloyDB ל-PostgreSQL) ייפתח.
- בקטע Configure migration (הגדרת ההעברה), מבצעים את הפעולות הבאות:
- בתפריט אזור היעד, בוחרים את האזור של אשכול היעד של AlloyDB ל-PostgreSQL.
- בתיבה Migration prefix (קידומת להעברה), מזינים מחרוזת ידידותית למשתמש שתתווסף לשמות של כל ישויות ההעברה שנוצרו להעברה המהירה: פרופילי חיבור, הגדרת קישוריות פרטית, רשת מצורפת ורשת המשנה שלה ועבודת ההעברה.
- בתפריט סוג ההגדרה, בוחרים באחת מהאפשרויות הבאות:
- הגדרת קישוריות קיימת: בוחרים באפשרות הזו אם כבר יש לכם קובץ מצורף עם הרשת והגדרת קישוריות פרטית שמשתמשת בשיטת הממשקים של Private Service Connect. האפשרות הזו מתאימה במיוחד אם השתמשתם בעבר בהעברות מהירות ואתם רוצים להשתמש מחדש באותם משאבי רשת.
- הגדרת קישוריות חדשה: בוחרים באפשרות הזו כדי ליצור קובץ מצורף חדש לרשת ואת רשת המשנה של הקובץ המצורף לרשת ברשת ה-VPC של מסד הנתונים של המקור. הגדרת הקישוריות הפרטית תיצור באותו פרויקט כמו אשכול היעד.
לוחצים על Continue.
- בקטע Connect source מבצעים את הפעולות הבאות:
- מזינים שם מארח או כתובת IP פרטית של מסד הנתונים של המקור. צריך שתהיה אפשרות להגיע לכתובת של מסד הנתונים של המקור מרשת ה-VPC של המקור.
- מזינים את היציאה שמשמשת לגישה למארח. יציאת ברירת המחדל של PostgreSQL היא
5432. - מזינים את שם המשתמש והסיסמה של חשבון ההעברה הייעודי במסד הנתונים של המקור.
- בתפריט סוג ההצפנה, בוחרים אחת מהאפשרויות הבאות:
- ללא: אם מסד הנתונים של המקור לא דורש חיבורים מוצפנים מסוג SSL/TLS.
- חובה: אם מסד הנתונים של המקור דורש חיבורים מוצפנים באמצעות SSL/TLS. באפשרות הזאת לא נדרש אימות של אישורים.
- בתפריט Databases to migrate (מסדי נתונים להעברה), לוחצים על Customize (התאמה אישית). משתמשים בחלונית הצדדית כדי לבחור רק את מסדי הנתונים שרוצים להעביר ל-AlloyDB ל-PostgreSQL. לוחצים על Continue.
- בקטע Configure destination (הגדרת יעד), אפשר ליצור אשכול יעד חדש או לבחור אשכול קיים.
אשכולות חדשים
כדי ליצור אשכול יעד חדש:
- בתפריט סוג היעד של המופע, בוחרים באפשרות אשכול חדש.
Database Migration Service משתמש בהגדרת ברירת המחדל של AlloyDB ל-PostgreSQL עבור אשכול חדש. לוחצים על Customize כדי לשנות את מאפייני האשכול, כמו סוג המכונה, הזמינות האזורית או הגדרות ההגנה על הנתונים. מידע נוסף על הגדרת אשכול זמין במאמר בנושא יצירת אשכול והמכונה הראשית שלו במסמכי התיעוד של AlloyDB ל-PostgreSQL.
- בשדה סיסמה, מזינים סיסמה למשתמש האדמין שמוגדר כברירת מחדל
postgresql. Database Migration Service מתחבר כמשתמש הזה כדי להעביר את הנתונים.
אשכולות קיימים
אפשר להעביר מסדי נתונים לאשכול שכבר קיים. מוודאים ש-Private Service Connect מופעל באשכול היעד ושלא נאכף mTLS עם מחברי AlloyDB. צריך לבצע את הפעולות הבאות:
- בתפריט Destination instance type (סוג יעד של מופע), בוחרים באפשרות Existing cluster (אשכול קיים).
- בתפריט Existing cluster ID (מזהה קיים של אשכול), בוחרים את מזהה האשכול.
- בתפריט סוג היעד של המופע, בוחרים באפשרות אשכול חדש.
- לוחצים על התחלת ההעברה.
Database Migration Service יוצר עכשיו את משימת ההעברה ומתחיל את תהליך ההעברה. אתם יכולים לעקוב אחרי התקדמות המיגרציה וגם אחרי תקינות אשכול היעד ב-AlloyDB ל-PostgreSQL. מידע נוסף זמין במאמר הצגת פרטי מכונה בתיעוד של AlloyDB ל-PostgreSQL.
סיום ההעברה
כשמחליטים להעביר את האפליקציה למכונת AlloyDB ל-PostgreSQL חדשה, צריך להשלים את ההעברה לפי השלבים הבאים:
- מפסיקים את כל פעולות הכתיבה במסד הנתונים של המקור. אתם יכולים להעביר אותם למצב קריאה בלבד כדי לשמור על הפונקציונליות התפעולית.
- קידום של עבודת ההעברה.
- אופציונלי: אימות נתוני ההעברה כדי לוודא שהם מלאים.