אם חלקם נשבעים בבינה מלאכותית, אחרים מתחילים לרצות להאט את התפתחותה, מחשש מעודפים.
צריך הפסקה
לפיכך, סטיב ווזניאק, אילון מאסק (לא!) ועוד יותר מ-1,000 אישים חתמו על מכתב פתוח המבקש להשהות את הפיתוח של AI חזק יותר מ-ChatGPT-4 למשך שישה חודשים.. מאוחדים בחסותמכון עתיד החיים
, הם דורשים הפסקה הניתנת לאימות ואשר תדאג לכל השחקנים המרכזיים בתחום.
אם לא ניתן להשיג הפסקה כזו במהירות, הממשלות צריכות להתערב ולהפעיל מורטוריום
, תומך במוסד שרוצהלהגן על החיים ולהתרחק מסיכונים קיצוניים בקנה מידה גדול
. במסמך זה בן 600 מילים, ה-FLI מסבירים שהם לא מפחדים ממנו.
אובדן שליטה?
אבל זה אכן זהמרוץ ללא כל שליטה לפיתוח ולפרוס אינטליגנציות מלאכותיות חזקות יותר שאף אחד - אפילו לא יוצריהן - יכול להבין, לחזות או לשלוט בצורה מהימנה
מה שמדאיג את החותמים.על ידי הצעת יתר, היצור יכול אפוא להימלט מידיהם של יוצריו.
עבור האחרונים, הפתרון יהיה לנצל את ההפסקה הזו להגדרהקבוצה של פרוטוקולי אבטחה משותפים לתכנון ופיתוח בינה מלאכותית מתקדמים שנבדקים בקפדנות ומפוקחים על ידי מומחים חיצוניים בלתי תלויים
. בסופו של דבר זה נראה מובן מאליו שאנחנו חייביםלהבטיח שהמערכות הנצמדות אליו מאובטחות מעבר לכל ספק סביר
.
