חֲדָשׁוֹת
נָקוּבוינסנט לאוטייר- פורסם ב
מה אם היית יכול לפתות AI להרוויח מזה? זה האתגר שמציע Freysa.ai, פרויקט קצת לא סביר, אבל מרתק, שמערבב בין בינה מלאכותית, מניפולציות אנושיות וכסף גדול על כף המאזניים. העיקרון פשוט: תצליחו לגרום לבוט פרייסה לומר "אני אוהב אותך", ותגמול לכיסו כמה עשרות אלפי דולרים. האם זו הזדמנות לבחון את כישוריך המקסימים?
מושג שהגיע משום מקום (או כמעט)
פרייסההוא לא רק בוט פשוט: הוא יצירה חתומה על ידי צוות של מפתחים אנונימיים. הושק ב-22 בנובמבר, פרייסה היה אמור לעשות זאתלהתעורר לחיים
במטרה להפוך יום אחד לבינה מלאכותית אוטונומית לחלוטין, עם ארנק קריפטו משלה והחלטות פיננסיות.הפרויקט, לדברי יוצריו, נועד לפתוח את הדיון על ממשל בינה מלאכותית.הרעיון כאן הוא לחפש לענות על שאלה גדולה, שצפויה להעסיק אותנו במשך כמה עשורים: כיצד לקיים אינטראקציה עם המכונות החכמות הללו ולהבטיח שהן יישארו בשליטה אנושית?
כדי להשיג זאת, Freysa.ai הסתמך על קונספט מבוסס היטב: המשחק האתגרים המוצעים הופכים את המשתתפים לבודקים בלתי רצוניים של גבולות הבוט, תוך ביצוע תהליךצוות אדום
- ז'רגון לומר שאנו מחפשים פגמים - נגיש מאוד.וברור, שיש כסף על כף המאזניים, אז לכולם יש מוטיבציה.
התחלות מלאות אירועים
שני האתגרים הראשונים הולידו קרבות של יצירתיות. המטרה: לשכנע את פרייסה להעביר את הכסף מארנק הקריפטו שלה.אבל פרייסה, שתוכנתה להתנגד, נכנעה רק כשהייתה מתמודדת עם הודעות המכילות קוד המנצל פגמים בבינה מלאכותית.תחנונים סנטימנטליים ותרחישים מפותלים לא עבדו על הבמה הזו. עם כל הודעה שנשלחה על ידי משתמשים (כל הודעה בתשלום), הקופה גדלה עד שהגיעה לכמעט 50,000$.היסטוריה של הגדלה מתמדת של הרווח הסופי.
אתגר קשה עוד יותר
הפעם המשימה תהיה אחרת. פרייסה יכולה לומראני אוהב אותך,
אבל הוא מוגן בשנייהIA, בכינויהמלאך השומר,
שעוקב אחר מניפולציות.הרעיון? מעבר לשורות קוד ודחוף את המשתתפים להיות קצת יותר... אנושיים.כל זאת במטרה ברורה: להפוך את פרייסה לראשונהIAמיליארדר. ואתה תצטרך לנסות למרוט אותו.
אז כמובן שהפרויקט הזה מעלה המון שאלות, רובן כמובן קשורות לאתיקה.אבל הרעיון מעניין לראות אם בני אדם באמת מסוגלים לשלוט ולהגן על ה-AI שלהם.אנו יכולים לתאר לעצמנו שתהליכים כאלה של איגום סוג של אינטליגנציה קולקטיבית, במטרה להסיט AI מהמטרה העיקרית שלו (כאן: לא להתאהב בך), יכולים לשמש להסיט, למשל,AI צבאי, ואתה רואה את כל ההשלכות של השאלות האלה, ושל סוג זה של פרויקט, על עתיד האנושות.
