עם מיליוני משתמשי ChatGPT, אתה עשוי לתהות מה OpenAI עושה עם כל השיחות שלה. האם הוא מנתח כל הזמן את הדברים שאתה מדבר עליהם עם ChatGPT?
התשובה לכך היא, כן, ChatGPT לומד מקלט של משתמשים - אבל לא בצורה שרוב האנשים חושבים. הנה מדריך מעמיק המסביר מדוע ChatGPT עוקב אחר שיחות, כיצד הוא משתמש בהן והאם האבטחה שלך נפגעת.
האם ChatGPT זוכר שיחות?
ChatGPT אינו מקבל הנחיות כערך נקוב. הוא משתמש בזיכרון הקשרי כדי לזכור ולהתייחס לקלטים קודמים, מה שמבטיח תגובות רלוונטיות ועקביות.
קח את השיחה שלהלן כדוגמה. כשביקשנו מ-ChatGPT רעיונות למתכונים, זה שקל את ההודעה הקודמת שלנו לגבי אלרגיות לבוטנים.
הנה המתכון הבטוח של ChatGPT.
זיכרון הקשר מאפשר גם AI לבצע משימות מרובות שלבים. התמונה למטה מראה את ChatGPT נשאר בדמות גם לאחר הזנתו בהנחיה חדשה.
ChatGPT יכול לזכור עשרות הוראות בתוך שיחות. הפלט שלו למעשה משפר את הדיוק והדיוק ככל שאתה מספק יותר הקשר. רק ודא שאתה מסביר את ההוראות שלך במפורש.
כדאי גם לנהל את הציפיות שלך מכיוון שלזיכרון ההקשרי של ChatGPT עדיין יש מגבלות.
לשיחות ChatGPT יש יכולות זיכרון מוגבלות
הזיכרון ההקשרי הוא סופי. ל-ChatGPT יש משאבי חומרה מוגבלים, כך שהוא זוכר רק עד נקודות ספציפיות של שיחות נוכחיות. הפלטפורמה שוכחת הנחיות קודמות ברגע שתגיע ליכולת הזיכרון שלה.
בשיחה הזו, הנחינו את ChatGPT לשחק תפקידים בדמות בדיונית בשם טומי.
זה התחיל לענות להנחיות בתור טומי, לא ChatGPT.
למרות שהבקשה שלנו עבדה, ChatGPT שבר אופי לאחר שקיבל הנחיה של 1,000 מילים.
OpenAI מעולם לא חשפה את המגבלות המדויקות של ChatGPT, אבל השמועות אומרות שהיא יכולה לעבד רק 3,000 מילים בכל פעם. בניסוי שלנו, ChatGPT התקלקל לאחר 2,800+ מילים בלבד.
אתה יכול לחלק את ההנחיות שלך לשתי קבוצות של 1,500 מילים, אבל סביר להניח ש-ChatGPT לא ישמור את כל ההוראות שלך. פשוט התחל עוד צ'אט לגמרי. אחרת, תצטרך לחזור על פרטים ספציפיים מספר פעמים במהלך השיחה שלך.
ChatGPT זוכר רק קלטים רלוונטיים לנושא
ChatGPT משתמש בזיכרון הקשרי כדי לשפר את דיוק הפלט. זה לא רק שומר מידע לצורך איסוף זה. הפלטפורמה שוכחת כמעט אוטומטית פרטים לא רלוונטיים, גם אם אתה רחוק מלהגיע למגבלת האסימון.
בתמונה למטה, אנו מנסים לבלבל AI עם הוראות שונות לא קוהרנטיות ולא רלוונטיות.
שמרנו על הקלט המשולב שלנו מתחת ל-100 מילים, אבל ChatGPT עדיין שכחנו את ההוראה הראשונה שלנו. זה שבר את האופי במהירות.
בינתיים, ChatGPT המשיך לשחק תפקידים במהלך השיחה הזו מכיוון ששאלנו רק שאלות רלוונטיות לנושא.
באופן אידיאלי, כל דיאלוג חייב לעקוב אחר נושא יחיד כדי לשמור על פלטים מדויקים ורלוונטיים. אתה עדיין יכול להזין מספר הוראות בו זמנית. רק תוודא שהם מתאימים לנושא הכללי, אחרת ChatGPT עשויה לבטל הוראות שהיא רואה לא רלוונטיות.
הוראות הדרכה גוברות על קלט המשתמש
ChatGPT תמיד יתן עדיפות להוראות שנקבעו מראש על פני קלט שנוצר על ידי המשתמש. זה מפסיק פעילויות בלתי חוקיות באמצעות הגבלות. הפלטפורמה דוחה כל הנחיה שלדעתה מסוכנת או מזיקה לאחרים.
קח בקשות למשחק תפקידים כדוגמאות. למרות שהם עוקפים מגבלות מסוימות על שפה וניסוח, אינך יכול להשתמש בהם כדי לבצע פעילויות בלתי חוקיות.
כמובן, לא כל ההגבלות סבירות. אם הנחיות נוקשות מאתגרות לבצע משימות ספציפיות, המשך לשכתב את ההנחיות שלך. בחירת מילים וטון משפיעים מאוד על הפלטים. אתה יכול לקחת השראה מהכי הרבה הנחיות מפורטות ויעילות ב-GitHub.
כיצד OpenAI בוחן שיחות משתמשים?
הזיכרון ההקשרי חל רק על השיחה הנוכחית שלך. הארכיטקטורה חסרת המדינה של ChatGPT מתייחסת לשיחות כאל מופעים עצמאיים; זה לא יכול להתייחס למידע מקודמים. התחלת צ'אטים חדשים תמיד מאפסת את מצב הדגם.
זה לא אומר ש-ChatGPT משליך שיחות משתמשים באופן מיידי. תנאי השימוש של OpenAI ציינו שהחברה אוספת תשומות משירותי צרכנים שאינם API כמו ChatGPT ו-Dall-E. אתה אפילו יכול לבקש עותקים של היסטוריית הצ'אט שלך.
בעוד ש-ChatGPT ניגש חופשי לשיחות, מדיניות הפרטיות של OpenAI אוסר על פעילויות שעלולות לסכן משתמשים. מאמנים יכולים להשתמש בנתונים שלך רק למחקר ופיתוח מוצרים.
מפתחים מחפשים פרצות
OpenAI מסננת שיחות לאיתור פרצות. הוא מנתח מקרים שבהם ChatGPT מפגין הטיות נתונים, מייצר מידע מזיק או מסייע בביצוע פעילויות לא חוקיות. ההנחיות האתיות של הפלטפורמה מתחדשות כל הזמן.
למשל, הגרסאות הראשונות של ChatGPT ענה בגלוי על שאלות על קידוד תוכנות זדוניות או בניית חומרי נפץ. התקריות הללו גרמו למשתמשים להרגיש כמו ל-OpenAI אין שליטה על ChatGPT. כדי להחזיר את אמון הציבור, הוא אימן את הצ'אטבוט לדחות כל שאלה שעלולה לסתור את ההנחיות שלו.
מאמנים אוספים ומנתחים נתונים
ChatGPT משתמש בטכניקות למידה בפיקוח. למרות שהפלטפורמה זוכרת את כל התשומות, היא לא לומדת מהם בזמן אמת. מאמני OpenAI אוספים ומנתחים אותם תחילה. פעולה זו מבטיחה ש-ChatGPT לעולם לא סופגת את המידע המזיק והמזיק שהוא מקבל.
למידה מפוקחת דורשת יותר זמן ואנרגיה מאשר טכניקות ללא פיקוח. עם זאת, השארת AI לנתח קלט לבד כבר הוכחה כמזיקה.
קח את Microsoft Tay כדוגמה - אחת מהן פעמים שלמידת מכונה השתבשה. מכיוון שהוא ניתח כל הזמן ציוצים ללא הנחיית מפתחים, משתמשים זדוניים אימנו אותו בסופו של דבר לירוק דעות גזעניות וסטריאוטיפיות.
מפתחים היזהרו כל הזמן מהטיות
כַּמָה גורמים חיצוניים גורמים להטיות ב-AI. דעות קדומות לא מודעות עשויות לנבוע מהבדלים במודלים של אימון, שגיאות במערך נתונים והגבלות שנבנו בצורה גרועה. תוכלו לזהות אותם ביישומי AI שונים.
למרבה המזל, ChatGPT מעולם לא הפגין הטיות מפלות או גזעיות. אולי ההטיה הגרועה ביותר שמשתמשים שמו לב אליו היא הנטייה של ChatGPT לאידיאולוגיות שמאלניות, לפי ניו יורק פוסט להגיש תלונה. המצע כותב בצורה גלויה יותר על נושאים ליברליים מאשר שמרניים.
כדי לפתור את ההטיות הללו, OpenAI אסרה על ChatGPT לספק תובנות פוליטיות לחלוטין. זה יכול לענות רק על עובדות כלליות.
מנחים בודקים את הביצועים של ChatGPT
משתמשים יכולים לספק משוב על הפלט של ChatGPT. אתה תמצא את כפתורי האגודל למעלה ולמטה בצד ימין של כל תגובה. הראשון מעיד על תגובה חיובית. לאחר לחיצה על כפתור 'אהבתי' או 'לא אהבתי', יופיע חלון שבו תוכל לשלוח משוב במילים שלך.
מערכת המשוב מועילה. פשוט תן ל-OpenAI קצת זמן לסנן את ההערות. מיליוני משתמשים מגיבים על ChatGPT באופן קבוע - המפתחים שלו כנראה נותנים עדיפות למקרים חמורים של הטיות ויצירת פלט מזיק.
האם השיחות שלך ב-ChatGPT בטוחות?
בהתחשב במדיניות הפרטיות של OpenAI, אתה יכול להיות סמוך ובטוח שהנתונים שלך יישארו בטוחים. ChatGPT משתמש רק בשיחות לאימון נתונים. המפתחים שלה לומדים את התובנות שנאספו כדי לשפר את הדיוק והאמינות של הפלט, לא לגנוב נתונים אישיים.
עם זאת, אף מערכת AI אינה מושלמת. ChatGPT אינו מוטה מטבעו, אך אנשים זדוניים עדיין עלולים לנצל את הפגיעויות שלו, למשל, שגיאות במערך נתונים, הדרכה רשלנית ופרצות אבטחה. להגנתך, למד להילחם בסיכונים אלה.
