NEW
Font size
Worksheetsהאתגרים של הבינה המלאכותית
Total questions: 11
Worksheet time: 6mins
איך יכולות דעות קדומות של בני אדם לעבור לתוך תוכנת הבינה המלאכותית (AI)?
ה-AI מכניס את הדעות הקדומות בכוונה.
ה-AI תמיד ניטרלי ואין לו דעות קדומות.
ה-AI לומד מתבניות בנתונים, ואם הנתונים שאנו מראים לו מוטים (משקפים דעות קדומות), גם הוא יהיה מוטה.
אנשים צריכים "לקודד" את התבניות שלב אחר שלב.
אם מלמדים מחשב לזהות מדענים ומשתמשים רק בתמונות של מדענים גברים מהעבר, המחשב עלול ללמוד שרק גברים יכולים להיות מדענים. איזו בעיה אתית גורם מצב זה?
פגיעה בפרטיות
דעות קדומות ואפליה
צירת מידע כוזב
בעיית שקיפות
דניאל פיתח תוכנת בינה מלאכותית שיכולה לזהות אם תלמיד בכיתה עצוב או לחוץ, כדי לעזור למורים. הדילמה הגדולה היא:
האם מותר להשתמש בטכנולוגיה כדי לעזור לתלמידים במצוקה, אם זה אומר שהיא "מנטרת" (צופה ברגשות) שלהם בלי שהם ידעו?
אם המחשב מחליט מי צריך עזרה.
האם התוכנה מדוייקת מספיק בזיהוי רגשות?
האם המורים יבינו איך להשתמש בתוכנה
כאשר בינה מלאכותית יוצרת טקסט או תשובה שהיא נשמעת בטוחה ונכונה, אבל למעשה היא בדיונית או שקרית לחלוטין, תופעה זו נקראת:
הטיה סמויה
פגיעה בשקיפות.
הזיות (Hallucinations) או מידע שגוי.
שימוש לרעה בפרטיות.
המשמעות העיקרית של עקרון השקיפות בשימוש ב-בינה מלאכותית היא:
הבנה של האופן בו מתקבלות החלטות על ידי המערכת
הבטחת מהירות התגובה של המערכת
הפחתת עלויות הפיתוח של המערכת
הגברת היצירתיות של המערכת
עורכי דין השתמשו פעם ב-בינה מלאכותית שנתנה להם "פסקי דין" מזויפים. כדי להימנע מתוצאות רעות כאלה, מהו הדבר הכי חשוב שצריך לזכור כשמשתמשים ב-בינה מלאכותית ג'נרטיבית?
לבדוק ולאמת את המידע שמתקבל מה-AI
להסתמך רק על תוצאות הבינה המלאכותית ללא בדיקה נוספת
להשתמש ב-AI רק במקרים פשוטים
להימנע משימוש ב-AI לחלוטין
הבינה המלאכותית הגנרטיבית (יוצר תוכן) עלולה ליצור "תוכן מזיק". איזו מהדוגמאות הבאות מציגה תוכן שנחשב מזיק או פוגעני?
תרגום שגוי של מילה אחת
תמונה של נוף באיכות נמוכה.
טקסט שאינו מנוסח טוב מבחינה דקדוקית
אמירות מפלות, הצעות מסוכנות, או תמונות המציגות סטריאוטיפים גזעיים שליליים
תוכנה או מערכת גיוס עובדים שמעדיפה מועמדים ממגדר מסוים ומוחלתה מועמדים אחרים. הסיבה לבעיה היא:
התוכנה קיבלה 'חיות' לגבי המועמדים.
חוסר שקיפות בהחלטותיה.
ה-AI למד מנתונים קיימים (מאמרי עובדים) שהם כבר היו מוטים או אפליה, ובכך שימר והגביר את אותם סטריאוטיפים.
ההתעלמות מעקרון 'אי-הזמת מלך' [ח].
מסגרת "האדם בלולאה" חשובה מאוד לשימוש אתי ב-בינה מלאכותית בבתי ספר. מה התפקיד המרכזי של המחנכים (המורים) במסגרת זו?
להכין תוכנות בינה מלאכותית בעצמם
לוודא שבני אדם נשארים חלק מהמערכת, בודקים את מה שה-שהבינה יצרה, ושומרים על פיקוח ובקרה
ליצור כמה שיותר תלות בטכנולוגיה
לאפשר ל-בינה המלאכותית להחליף את המורים לחלוטין
כאשר בינה מלאכותית גנרטיבית (יוצרת תוכן) מכינה תשובה שנשמעת מאוד בטוחה וסמכותית, אבל בפועל היא שקרית, לא מדויקת או המצאה בדיונית (כמו עורך דין שציטט פסק דין מזויף), איך נקראת הבעיה הזו?
הטיה בנתונים (Bias)
הזיות (Hallucinations) או מידע כוזב.
חוסר שקיפות
מכונית אוטונומית נקלעת למצב שבו היא חייבת לבחור: או לסטות ולפגוע בנוסע שיושב בתוכה, או להמשיך ישר ולפגוע בשני אנשים הנמצאים במעבר חצייה.
איזו בעיה אתית גדולה עולה כאשר ה-הבינה המלאכותית
נאלצת לקבל החלטה כזו?
הדילמה מטילה ספק בעיקרון אי גרימת נזק (Non-Maleficence), מכיוון שעל המערכת לבחור לגרום נזק לאדם אחד או יותר (אפילו אם זה כדי למנוע נזק גדול יותר
הדילמה פוגעת בשקיפות , כי לא ברור למה הבינה קיבלה את ההחלטה
הדילמה פוגעת בעיקרון יצירת תועלת נטו
הדילמה פוגעת בעיקרון ההוגנות, כי היא מעדיפה קבוצה אחת של אנשים על פני אחרת
