מוצרי Gemini Google Cloud, כמו Gemini Code Assist, משלבים עקרונות עיצוב של אתיקה של בינה מלאכותית כדי לעזור לכם להבין את היכולות, המגבלות והסיכונים של AI גנרטיבי. הבנה של אמצעי הבקרה האלה בתחום הבטיחות ושל הגבולות התפעוליים מאפשרת לכם להעריך את העזרה מבוססת-AI ולפרוס אותה בתהליכי העבודה שלכם.
יכולות וסיכונים של מודלים גדולים של שפה
מודלים גדולים של שפה (LLM) יכולים לבצע משימות שימושיות רבות, כמו:
- שפת התרגום.
- תסכם את הטקסט.
- ליצור קוד וכתיבה יוצרת.
- הפעלת צ'אט בוטים ועוזרים וירטואליים.
- השלמה של מנועי חיפוש ומערכות המלצות.
עם זאת, היכולות הטכניות המתפתחות של מודלים מסוג LLM יוצרות פוטנציאל לשימוש לא נכון, שימוש לרעה ולתוצאות לא מכוונות או לא צפויות.
מודלים מסוג LLM יכולים ליצור תוצאות לא צפויות, כולל טקסט פוגעני, חסר רגישות או לא מדויק מבחינה עובדתית. מודלים מסוג LLM הם מאוד מגוונים, ולכן קשה לחזות בדיוק אילו סוגים של פלט לא מכוון או לא צפוי הם עשויים ליצור.
לאור הסיכונים והמורכבויות האלה, מוצרים כמו Gemini Code Assist מתוכננים בהתאם לעקרונות ה-AI של Google. עם זאת, חשוב שהמשתמשים יבינו חלק מהמגבלות של מוצרי Gemini כדי לעבוד בצורה בטוחה ואחראית.
המגבלות של מוצרי Gemini ב Google Cloud
חלק מהמגבלות שאתם עשויים להיתקל בהן בשימוש במוצרי Gemini ב- Google Cloud כוללות (אבל לא מוגבלות ל) את הדברים הבאים:
מקרי קצה. מקרים קיצוניים הם מצבים חריגים, נדירים או יוצאי דופן שלא מיוצגים היטב בנתוני האימון. המקרים האלה עלולים להוביל למגבלות בפלט של מודלים של Gemini, כמו ביטחון מופרז של המודל, פרשנות שגויה של ההקשר או פלטים לא הולמים.
הזיות של המודל, ביסוס על עובדות ודיוק בעובדות. יכול להיות שלמודלים של Gemini אין בסיס עובדתי בידע על העולם האמיתי, על תכונות פיזיות או על הבנה מדויקת. המגבלה הזו עלולה לגרום להזיות של המודל, כלומר Gemini עשוי ליצור תוצאות שנשמעות סבירות אבל הן לא נכונות מבחינה עובדתית, לא רלוונטיות, לא הולמות או חסרות משמעות. תגובות לא תואמות נתונים יכולות לכלול גם המצאת קישורים לדפי אינטרנט שלא קיימים ולא היו קיימים אף פעם. מידע נוסף זמין במאמר כתיבת פרומפטים טובים יותר ל-Gemini ב- Google Cloud.
איכות הנתונים והתאמה שלהם. האיכות, הדיוק וההטיה של נתוני ההנחיות שמוזנים למוצרי Gemini ב- Google Cloud יכולים להשפיע באופן משמעותי על הביצועים שלהם. אם המשתמשים מזינים הנחיות לא מדויקות או שגויות, יכול להיות ש-Gemini יחזיר תשובות לא אופטימליות או שקריות.
הגברת הטיה. מודלים של שפה יכולים להגביר בטעות הטיות קיימות בנתוני האימון שלהם, וכתוצאה מכך להפיק פלט שעלול לחזק עוד יותר דעות קדומות בחברה ויחס לא שוויוני לקבוצות מסוימות.
איכות השפה. מוצרי Gemini ב- Google Cloudמניבים יכולות מרשימות בריבוי שפות במבחני ההשוואה שערכנו, אבל רוב מבחני ההשוואה שלנו (כולל כל ההערכות בנושא הוגנות) הם באנגלית אמריקאית.
מודלים של שפה עשויים לספק איכות שירות לא עקבית למשתמשים שונים. לדוגמה, יכול להיות שיצירת טקסט לא תהיה יעילה באותה מידה בניבים או בשפות מסוימות, כי הם לא מיוצגים מספיק בנתוני האימון. יכול להיות שהביצועים יהיו גרועים יותר בשפות שאינן אנגלית או בגרסאות של אנגלית עם ייצוג נמוך יותר.
קבוצות השוואה וקבוצות משנה של הוגנות. ניתוחי ההוגנות של מודלי Gemini שבוצעו על ידי צוות המחקר של Google לא מספקים תיאור מקיף של הסיכונים הפוטנציאליים השונים. לדוגמה, אנחנו מתמקדים בהטיות לפי מגדר, גזע, מוצא אתני ודת, אבל מבצעים את הניתוח רק על נתונים ותוצאות של מודלים בשפה האנגלית האמריקאית.
מומחיות מוגבלת בתחום. המודלים של Gemini אומנו על Google Cloud טכנולוגיה, אבל יכול להיות שחסר להם הידע הנדרש כדי לספק תשובות מדויקות ומפורטות בנושאים טכניים או מאוד ספציפיים, ולכן התשובות עשויות להיות שטחיות או לא נכונות.
כשמשתמשים בחלונית Gemini במסוף Google Cloud , Gemini לא מודע להקשר של הסביבה הספציפית שלכם, ולכן הוא לא יכול לענות על שאלות כמו "מתי יצרתי לאחרונה מכונה וירטואלית?".
במקרים מסוימים, מוצרי Gemini Google Cloud שולחים פלח ספציפי של ההקשר למודל כדי לקבל תגובה שמתייחסת להקשר – למשל, כשלוחצים על הלחצן הצעות לפתרון בעיות בדף של שירות Error Reporting.
סינון של תוכן רעיל וסינון בטיחות ב-Gemini
ההנחיות והתשובות למוצרי Gemini ב- Google Cloud, כמו Gemini Code Assist, נבדקות מול רשימה מקיפה של מאפייני בטיחות, בהתאם לכל תרחיש שימוש. מטרת מאפייני הבטיחות האלה היא לסנן תוכן שמפר את מדיניות השימוש המקובל. אם פלט מסוים ייחשב כמזיק, התשובה תיחסם.