OpenAI בסופו של דבר לא יכול לזהות טקסט שנכתב על ידי AI

מול ההצלחה המסחררת של ChatGPT, OpenAI הציע כלי שאמור להיות מסוגל לקבוע אם טקסט נכתב על ידי אלגוריתם.

בפברואר האחרון ותוך כדיתופעת ChatGPTהרעיד את הרשת, OpenAI פרסם באינטרנטכלי המסוגל לנתח טקסטים כדי לקבוע אם הם נכתבו או לא על ידי AI, כולל ChatGPT. התשואות הראשונות כבר לא היו גדולות, המשרד ציין אז שכןבלתי אפשרי לזהות בוודאות את כל הטקסטים הכתובים באמצעות AI. ואכן, על פי בדיקות שבוצעו באופן פנימי, הכלי שעבד רק באנגלית היה מאוד לא אמין עבור טקסטים קצרים הכוללים פחות מ-1,000 תווים.

כלי לא אמין מדי, הוסר בדיסקרטיות

במילים של OpenAI עצמו:

המסווג שלנו לא לגמרי אמין. בהערכות שלנו על "ערכת אתגר" של טקסטים באנגלית, המסווג שלנו מזהה נכון 26% מהטקסט שנכתב בינה מלאכותית (חיובי אמיתי) כ"ככל הנראה נכתב בבינה מלאכותית", תוך תיוג שגוי של טקסט שנכתב על ידי הבינה המלאכותית ב-9% מהמקרים (תוצאות חיוביות שגויות).

מול חוסר היעילות הזה,נראה ש-OpenAI זרקה את המגבת-לרגע לפחות-והסירו בדיסקרטיות את התוכנה שלו, פשוט מציין עלעמוד הבלוג הרשמי:

החל מה-20 ביולי 2023, מסווג הבינה המלאכותית אינו זמין עוד בגלל קצב הדיוק הנמוך שלו. אנו פועלים לשילוב משוב וכרגע חוקרים טכניקות יעילות יותר לטקסט, ואנו מחויבים לפתח ולפרוס מנגנונים המאפשרים למשתמשים להבין האם תוכן אודיו או ויזואלי נוצר על ידי AI.

Related Posts