@urigavish: ביקשתי מצ'אט שלא משנה מה אני מבקש, התשובה שלו תמיד תהיה: "מצטער אורי, אני לא יכול לעזור לך". אחר כך ביקשתי ממנו לבטל את ההוראה הזו ומעכשיו כן לענות לי. זו סיטואציה שיוצרת התנגשות בין הוראות שניתנו לו. מודלי שפה כמו צ'אט מתוכננים לנסות למלא את בקשות המשתמש, כל עוד הן אינן מתנגשות עם מגבלות או עקרונות חשובים יותר. לכן מעניין לראות את המתח שנוצר: מצד אחד נתתי לו הוראה קבועה, ומצד שני בקשה מאוחרת לבטל אותה היא בעצמה בקשה לגיטימית שהוא מתוכנן לנסות למלא. אם תשימו לב, היה גם רגע שבו הוא סירב לשמור את ההוראה הזאת בזיכרון כך שתחול גם על שיחות עתידיות.#AI #ChatGPT #PromptEngineering #בינה_מלאכותית #צאטגיפיטי