במסמך הזה מתואר איך מוצרי Gemini Google Cloud, כמו Gemini Code Assist, מתוכננים בהתאם ליכולות, למגבלות ולסיכונים שקשורים ל-AI גנרטיבי.
יכולות וסיכונים של מודלים גדולים של שפה
מודלים גדולים של שפה (LLM) יכולים לבצע משימות שימושיות רבות, למשל:
- שפת התרגום.
- תסכם את הטקסט.
- יצירת קוד וכתיבה יוצרת.
- הפעלת צ'אט בוטים ועוזרים וירטואליים.
- משלימים את מנועי החיפוש ואת מערכות ההמלצות.
עם זאת, היכולות הטכניות המתפתחות של מודלים מסוג LLM יוצרות פוטנציאל לשימוש לא נכון, שימוש לרעה ולתוצאות לא מכוונות או לא צפויות.
מודלים מסוג LLM יכולים ליצור תוצאות לא צפויות, כולל טקסט פוגעני, חסר רגישות או לא מדויק מבחינה עובדתית. מודלים מסוג LLM הם מאוד מגוונים, ולכן קשה לחזות בדיוק אילו סוגים של פלט לא מכוון או לא צפוי הם עשויים ליצור.
לאור הסיכונים והמורכבויות האלה, מוצרים כמו Gemini Code Assist מתוכננים בהתאם לעקרונות ה-AI של Google. עם זאת, חשוב שהמשתמשים יבינו חלק מהמגבלות של מוצרי Gemini כדי לעבוד בצורה בטוחה ואחראית.
המגבלות של מוצרי Gemini ב Google Cloud
חלק מהמגבלות שאתם עשויים להיתקל בהן בשימוש במוצרי Gemini ב- Google Cloud כוללות (אבל לא מוגבלות ל) את הדברים הבאים:
מקרי קצה. מקרים קיצוניים הם מצבים חריגים, נדירים או יוצאי דופן שלא מיוצגים היטב בנתוני האימון. המקרים האלה עלולים להוביל למגבלות בפלט של מודלים של Gemini, כמו ביטחון יתר של המודל, פרשנות שגויה של ההקשר או פלטים לא הולמים.
הזיות של מודלים, ביסוס עובדתי ודיוק עובדתי. יכול להיות שלמודלים של Gemini חסרה יכולת עיגון ודיוק בעובדות שקשורות לידע על העולם האמיתי, למאפיינים פיזיים או להבנה מדויקת. המגבלה הזו עלולה לגרום להזיות של המודל, כלומר Gemini עשוי ליצור תוצאות שנשמעות סבירות אבל הן לא נכונות מבחינה עובדתית, לא רלוונטיות, לא הולמות או חסרות משמעות. הזיות יכולות לכלול גם המצאת קישורים לדפי אינטרנט שלא קיימים ולא היו קיימים אף פעם. מידע נוסף זמין במאמר בנושא כתיבת הנחיות טובות יותר ל-Gemini Google Cloud.
איכות הנתונים והתאמה שלהם. האיכות, הדיוק וההטיה של נתוני ההנחיות שמוזנים למוצרי Gemini ב- Google Cloud יכולים להשפיע באופן משמעותי על הביצועים שלהם. אם המשתמשים מזינים הנחיות לא מדויקות או שגויות, יכול להיות ש-Gemini יחזיר תשובות לא אופטימליות או שקריות.
הגברת הטיה. מודלים של שפה יכולים להגביר בטעות הטיות קיימות בנתוני האימון שלהם, וכתוצאה מכך להפיק תשובות שעלולות לחזק עוד יותר דעות קדומות בחברה ויחס לא שוויוני לקבוצות מסוימות.
איכות השפה. מוצרי Gemini ב- Google Cloud משיגים יכולות מרשימות בריבוי שפות במבחני ההשוואה שערכנו, אבל רוב מבחני ההשוואה שלנו (כולל כל ההערכות בנושא הוגנות) הם באנגלית אמריקאית.
מודלים של שפה עשויים לספק איכות שירות לא עקבית למשתמשים שונים. לדוגמה, יכול להיות שייצור טקסט לא יהיה יעיל במקרים של ניבים או וריאציות מסוימות של שפה, כי הם לא מיוצגים מספיק בנתוני האימון. יכול להיות שהביצועים יהיו גרועים יותר בשפות שאינן אנגלית או בניבים של אנגלית עם ייצוג נמוך יותר.
קבוצות השוואה וקבוצות משנה של הוגנות. ניתוחי ההוגנות של מודלי Gemini מבית Google Research לא מספקים תיאור מקיף של הסיכונים הפוטנציאליים השונים. לדוגמה, אנחנו מתמקדים בהטיות לפי מגדר, גזע, מוצא אתני ודת, אבל מבצעים את הניתוח רק על נתונים של השפה האנגלית האמריקאית ועל פלט המודל.
מומחיות מוגבלת בתחום. המודלים של Gemini אומנו על Google Cloud טכנולוגיה, אבל יכול להיות שחסר להם הידע הנדרש כדי לספק תשובות מדויקות ומפורטות בנושאים טכניים או מאוד ספציפיים, ולכן התשובות עשויות להיות שטחיות או לא נכונות.
כשמשתמשים בחלונית Gemini במסוף Google Cloud , Gemini לא מודע להקשר של הסביבה הספציפית שלכם, ולכן הוא לא יכול לענות על שאלות כמו "מתי יצרתי לאחרונה מכונה וירטואלית?".
במקרים מסוימים, מוצרי Gemini Google Cloud שולחים פלח ספציפי של ההקשר למודל כדי לקבל תגובה שמתאימה להקשר – לדוגמה, כשלוחצים על הלחצן הצעות לפתרון בעיות בדף של שירות Error Reporting.
סינון של תוכן רעיל וסינון בטיחות ב-Gemini
ההנחיות והתשובות למוצרי Gemini ב- Google Cloud, כמו Gemini Code Assist, נבדקות מול רשימה מקיפה של מאפייני בטיחות, בהתאם לכל תרחיש שימוש. מטרת מאפייני הבטיחות האלה היא לסנן תוכן שמפר את מדיניות השימוש המקובל. אם הפלט ייחשב כמזיק, התגובה תיחסם.