أدرك موقع فيس بوك أن لديه مشكلة كبيرة عندما استخدم مجموعة من الأشخاص المنصة لبث حالات الانتحار علنًا فى مباشرة، وكان الموظفون فى الشركة يفكرون فى مسألة الانتحار منذ عام 2009، عندما وقعت بعض الحالات فى مدرستين ثانويتين بالقرب من مقر الشركة فى بالو ألتو.
وبعد أن طرحت الشركة أداة بث مباشر للفيديو تدعى "Facebook Live" ، استخدمها العديد من الناس لبث لحظة إنهائهم لحياتهم، وبدأ الأمر مع فتاة تبلغ من العمر 14 عامًا ثم رجلًا يبلغ من العمر 33 عامًا ، كلاهما فى الولايات المتحدة، وفى وقت لاحق بث شاب فى تركيا فيديو مباشر وهو يقتل نفسه.
وعقب تلك الحوادث قام فيس بوك، بقيادة الرئيس التنفيذى مارك زوكربيرج ، بتكليف فريق السلامة والأمن بعمل شيء حيال ذلك، وكانت النتيجة تطوير خوارزمية مراقبة الانتحار على موقع فيس بوك، والتى تعمل منذ عام 2017
وباستخدام تقنية التعرف على الأنماط، تقوم الأداة بتحديد المشاركات وعمليات البث التى تظهر نوايا الانتحار، وعندما يتم تصنيف المنشور على أنه انتحارى محتمل، يتم إرساله إلى موظف مدرب مكلف بإخطار المستجيبين لحالات الطوارئ.
وحديثا انتقد الطبيب النفسى بجامعة هارفارد والمستشار التقنى جون توروس الأداة وقال إنه يشعر بالقلق من أنها قد تحدث ضررًا أكثر من نفعه.
وقال توروس لـ Business Insider الأسبوع الماضي: "نحن نحث الجمهور للمشاركة فى هذه التجربة الكبرى، لكننا لا نعرف ما إذا كانت مفيدة أم لا، خاصة وأن فيس بوك لم ينشر أى بيانات حول كيفية عمل أداته، ووجهة نظر الشركة هى أن الأداة ليست منتجًا صحيًا أو مبادرة بحثية ولكنها أقرب إلى تقديم المساعدة.
