לינקדאין יוצאת למסע ציד של תמונות פרופיל שנוצרו ב-AI

לינקדאין הכריזה מלחמה על פרופילים מזויפים שמכילים תמונות AI. המטרה: לאתר ולמנוע חשבונות מזויפים, גניבת חשבונות ותוכן שמפר את הכללים של הרשת החברתית העסקית.

כלי הבינה המלאכותית הזמינים כיום, מאפשרים להקים פרופילי פייק בקלות רבה. רוב האנשים לא מצליחים להבדיל בין פרופיל מזויף לפרופיל אמיתי, והבעיה רק תחמיר עם ההשתכללות של ה-AI. לינקדאין חברה ל-academia על מנת לחקור טכניקות זיהוי פרופילים מזויפים.

במחקר מתוארות שתי שיטות לזיהוי הבדלים מבניים בין פרצופים שנוצרו על ידי AI ובין פרצופים אנושיים אמיתיים. טכניקה נפוצה ליצירת תמונות באמצעות בינה מלאכותית נקראת GAN – ראשי תיבות של Generative Adversarial Network. מסתבר שיש הבדלים מבניים בין תמונות שנוצרו על ידי AI ובין תמונות אמיתיות, כפי שמשתקף כאן:

אפשר לראות מצד שמאל "ממוצע" של 400 תמונות AI, ומימין ממוצע של 400 תמונות אמיתיות מפרופילים בלינקדאין. המבנה הסדור של הפנים בתמונת ה-GAN ברור במיוחד באזור תווי הפנים. בתמונות אמיתיות אין מבנה סדור כזה, ולכן התמונה מימין מטושטשת. לינקדאין משתמשים בתכונה הזו כדי לאתר תמונות AI.

במחקר נעשה שימוש ב-100 אלף תמונות אמיתיות מלינקדאין, ו-41,500 תמונות בינה מלאכותית מחמישה מנועים שונים (StyleGAN1, StyleGAN2, StyleGAN3, Generated.photos, וגם Stable Diffusion). הנה דוגמית של התמונות המג'ונרטות.

שורה a שייכת ל-StyleGAN1, שורה b הופקה באמצעות StyleGAN2, שורה c מ-StyleGAN3, שורה d מ-Generated.photos ו-e נוצרה באמצעות סטייבל דיפיוז'ן.

לפי לינקדאין, שיטת הבדיקה שלהם מאפשרת לזהות 99.6% מהפרופילים המזויפים של StyleGAN, עם אחוז אחד של False Positive. עם סטייבל דיפיוז'ן יש ללינקדאין בעיה, מכיוון שהמנוע הזה לא מייצר פרצופים בשיטת GAN. מעניין לראות שהם לא ניסו לבדוק את מידג'רני.