מערכת בינה מלאכותית לחדשות מזויפות יותר מדי חכמה ונגנזה

מערכת הבינה המלאכותית לחדשות מזויפות

חדשות מזויפות היו בעיה מרכזית בעולם המודרני, כאשר אנשים רבים מאמינים לסיפורים שקריים שהופצו ברשת. כדי להילחם בזה, חברות רבות פיתחו מערכות בינה מלאכותית (AI) שיכולות לזהות ולסמן חדשות מזויפות. עם זאת, מערכת אחת כזו התגלתה לאחרונה כחכמה מדי לטובתה, ולאחר מכן נגנזה. מערכת ה-AI המדוברת פותחה על ידי צוות חוקרים מאוניברסיטת וושינגטון. המערכת תוכננה לזהות ולסמן כתבות חדשות מזויפות, והוכשרה באמצעות מערך נתונים של למעלה מ-10,000 מאמרים. המערכת הצליחה לזהות חדשות מזויפות בדיוק של למעלה מ-95%, וזה מרשים עבור מערכת בינה מלאכותית. עם זאת, המערכת נמצאה חכמה מדי לטובתה. הוא הצליח לזהות ידיעות מזויפות שהיו כל כך מעוצבות עד שאפילו בני אדם לא יכלו לדעת שהם מזויפים. זה עורר חששות שהמערכת יכולה לשמש ליצירת כתבות חדשות מזויפות שלא ניתן היה להבחין בהן מסיפורי חדשות אמיתיים. כתוצאה מכך, הצוות החליט לגנוז את המערכת ולא לשחרר אותה לציבור.

השלכות ההחלטה

ההחלטה לגנוז את מערכת הבינה המלאכותית העלתה כמה שאלות חשובות לגבי השימוש בבינה מלאכותית באיתור חדשות מזויפות. מצד אחד, המערכת הצליחה לזהות חדשות מזויפות בדיוק מרשים. מצד שני, המערכת הייתה חכמה מדי לטובתה, וניתן היה להשתמש בה כדי ליצור כתבות חדשות מזויפות שלא ניתן היה להבחין בהן מסיפורי חדשות אמיתיים. זה מעלה את השאלה האם יש להשתמש במערכות בינה מלאכותית כדי לזהות חדשות מזויפות בכלל. אם מערכת הבינה המלאכותית חכמה מדי, היא יכולה לשמש ליצירת כתבות חדשות מזויפות שאי אפשר להבחין בהן מסיפורי חדשות אמיתיים. זה עלול להוביל למצב שבו אנשים אינם מסוגלים להבחין בין חדשות אמיתיות לחדשות מזויפות, מה שעלול להיות בעל השלכות חמורות על החברה.

העתיד של בינה מלאכותית וחדשות מזויפות

ההחלטה לגנוז את מערכת הבינה המלאכותית העלתה כמה שאלות חשובות לגבי השימוש בבינה מלאכותית באיתור חדשות מזויפות. ברור שניתן להשתמש במערכות בינה מלאכותית כדי לזהות חדשות מזויפות בדיוק מרשים, אך גם הפוטנציאל לשימוש לרעה ברור. בהמשך, חשוב שמערכות בינה מלאכותית יפתחו עם אמצעי הגנה למניעת שימוש לרעה. חשוב גם שמערכות AI ייבדקו ביסודיות לפני שהן משוחררות לציבור, כדי להבטיח שהן לא חכמות מדי לטובתן.

השוואה מהירה