פייסבוקהחלה להשתמש בבינה מלאכותית כדי לזהות את המשתמשים שלה שעלולים להיות בסיכון להתאבדות.לפי ה-BBC, הרשת החברתית למעשה פיתחה מספר אלגוריתמים שיאפשרו לבודד סימנים מסוימים בפוסטים או בתגובות.
ההליך יתבצע במספר שלבים: לאחר איתור הודעות מסוכנות, צוות אנושי יהיה אחראי על הערכת המצב (מבלי לקחת בחשבון את הסודיות של חילופי דברים). החברה מציעה כבר זמן מההאפשרות לדווח על תכנים בעלי אופי אובדני(ראה את הקישור: כאן).
בין מילות המפתח, נמצא דיבור על עצב וכאב. זה לא יהיה עניין של בחינת כל הפוסטים שבהם מופיעה המילה (היינו מסתכנים בהתקרבות למנת יתר) אלא אסוציאציות של מילים: למשל עובדת קבלת חדשות, מצב של עצב וחוסר מוטיבציה, הדאגה או הישנות של פוסטים העוסקים בנושאים אלו.
גם אם הכוונה ראויה לשבח, המערכת הזו מגיעה רחוק מאודהתערבות בפרטיותאו סודיות ההתכתבות, שעלולה להעלות גם בעיות אחרותאֶתִי. בנוסף, מארק צוקרברג גם הודיע שהוא עובד על אאלגוריתם המסוגל לזהות תוכן טרור.
