קורס בינה מפגש 1

אם אני רוצה לשנות את ה"התנהגות" של מערכת בינה מלאכותית, כדאי:

• לנסח פרומפט מתאים

• לנתח ולשנות פרמטרים בתוכה

• לאמן אותה על נתונים חדשים

• לתת לה משוב

בנתב"ג יש מערכת ה"מסמנת" אנשים החשודים בסבירות גבוהה כבלדרי סמים. כיצד פיתחו אותה?

• אימנו אלגוריתם ניבוי של למידת מכונה על נתוני עבר

• השתמשו בלמידת חיזוק - ביקשו מהמערכת להצביע על אנשים ואז אמרו לה אם צדקה או טעתה

• השתמשו בהנדסת פרומפטים

• פיתחו אלגוריתם ייחודי לזיהוי הבעות פנים מבוהלות

על אילו נתונים היה הכי כדאי לאמן את מערכת זיהוי בלדרי הסמים?

• סימנים התנהגותיים המעידים על התנהגות חשודה ולא חשודה

• תיקי עבר של בלדרים ושל אנשים שאינם בלדרים + סימנים התנהגותיים המעידים על התנהגות חשודה ולא חשודה

• תיקי עבר של בלדרים

• מידע מצטבר על ארצות מוצא מהן יש הברחות סמים, תקופות ושעות שכיחות של הברחת סמים

חברת TimeOS הישראלית פיתחה מערכת לתמלול וסיכום הרצאות ופגישות בזום. באיזו אסטרטגיה לדעתכם היא היתה צריכה להשתמש?

• אף תשובה אינה נכונה

• אסטרטגיה של למידת חיזוק שבה נתנו למערכת ציון על איכות התמלול והסיכום שלה

• אימון אלגוריתם ייחודי אליו הזינו שיחות רבות, את התמליל שלהן ואת הסיכום, עד שלמד לבצע זאת

• שילוב של מספר אלגוריתמים קיימים של תמלול מקול לטקסט בחיבור עם מודל שפה ופרומפט "סמוי" בכדי לסכם

איך פיתחו את הכלי הזה?

• הנדסת פרומפטים - פרומפטים "סמויים" וחיבור למודל שפה מאחורי הקלעים

• לקחו מודל שפה ושינו את הפרמטרים שלו בהתאם למשימה המבוקשת

• אימנו מודל שפה על מידע וידע ייחודי ליצירת תוכנית לימודית

• אף אחת מהתשובות אינה נכונה

למה מערכות בינה מלאכותית לא מצליחות לנבא ברמת דיוק גבוהה שינויים צפויים במניות?

• כל התשובות נכונות

• כי אין מספיק נתונים זמינים כדי ליצור ניבוי

• כי כמות הגורמים המשפיעה על שוק ההון כל כך גדולה שאי אפשר לפתח מודל סטטיסטי מספיק אמין

• כי ברגע שמערכת כזו תיצור ניבוי היא תשפיע על השוק ותכשיל את הניבוי של עצמה

בקרב מערכות השחמט הטובות בעולם ניצוח "אלפא זירו", שאומן בעזרת למידת חיזוק על משחקים שקיים נגד עצמו, את "סטוקפיש", שאומן דרך ניתוח סטטיסטי של מיליוני משחקים ששוחקו על ידי בני אדם. מה ההסבר הכי טוב לעליונות של "אלפא זירו"?

• כי "אלפא זירו" אומן על יותר משחקים

• כי למידת חיזוק היא אסטרטגיה חזקה יותר מאשר למידת מכונה

• כי למידת חיזוק איפשרה ל"אלפא זירו" לפתח אסטרטגיות שאינן מוגבלות לניסיון של שחקנים אנושיים

• כי שחמט הוא משחק פשוט ולכן מערכת בינה מלאכותית יכולה לחשב בקלות את כל המהלכים בו

כדי למנוע ממודל שפה לענות תשובות הכוללות תכנים אלימים או מיניים, מה סביר ביותר שעשו?

• שינו פרמטרים במערכת

• פיתחו אלגוריתם נפרד המזהה תכנים כאלו וחוסם את המערכת

• לא ניתן לעשות זאת

• נמנעו מלאמן אותו על תכנים כאלו כלל

האם מערכת בינה מלאכותית "צרה" יכולה לקבל החלטה לנתק את החשמל?

• לא - רק בינה מלאכותית כללית תוכל לעשות את זה

• כן

אם אתם רוצים לפתח מערכת בינה מלאכותית שתיתן משוב למרצים על איכות ההרצאה שלהם, באיזו אסטרטגיית פיתוח תבחרו?

• תפתחו מערכת שמתמללת את ההרצאה, ושולחת למודל שפה עם פרומפט סמוי שמבקש משוב

• בינה מלאכותית לא יכולה לעשות דבר כזה

• לחפש אלגורתמים קיימים של ניתוח התנהגות, ולאמן אותם על הרצאות טובות ולא טובות