הכלי המקוון Google SynthID מסייע בזיהוי תוכן שנוצר או נערך על ידי בינה מלאכותית
הכלי המקוון Google SynthID, המאפשר למשתמשים לבדוק האם תמונה, סרטון, קובץ אודיו או קובץ טקסט נוצרו או נערכו באמצעות בינה מלאכותית זמין לקהל הרחב.
כלי זה, מתבסס על טכנולוגיית סימון דיגיטלי (Watermarking) של Google DeepMind שנועדה לזהות תוכן שנוצר או נערך באמצעות בינה מלאכותית. טכנולוגיה זו, משלבת סימן מים דיגיטלי בלתי נראה או בלתי נשמע ישירות בתוך תוכן שנוצר באמצעות AI. עקרונית (ראה הערה) ניתן לזהות סימני בינה מלאכותית גם לאחר שינויים נפוצים כמו חיתוך, הוספת פילטרים, דחיסה או שינוי מהירות.
- מידע נוסף זמין במקור הידיעה. (המקור- Google DeepMind)
הערות והרחבות:
- חשוב להדגיש ! SynthID אינה שיטה מושלמת (עדיין) לזיהוי כל תוכן שנוצר באמצעות AI. נראה, כי החולייה החלשה בשלב זה היא היכולת לזהות באופן אמין תוכן שעבר עריכה או שינוים משמעותיים. לכן, כדאי להתייחס לכלי כאמצעי נוסף שנועד לשפר את השקיפות והיכולת לזהות תוכן שנוצר בבינה מלאכותית
- בנוסף, בדיקת SynthID משולבת כיום גם ב-Gemini, בחיפוש Google וב-Chrome, כך שניתן לקבל מידע על מקורו של תוכן דיגיטלי ישירות במסגרת שירותים אלה.
- שים לב ! SynthID Detector אינו "גלאי AI" אוניברסלי, כלי זה מחפש סימן מים של SynthID, לכן, אם מעלים אליו תמונה שנוצרה באמצעות מודל של חברה שאינה משתמשת ב-SynthID, והכלי לא מוצא סימן מים אי אפשר להסיק מכך שהתמונה נוצרה בידי אדם.