شرعت شركة فيسبوك في استخدام الذكاء الاصطناعي ( AI)للتعرف على المستخدمين الذين قد تكون لهم ميولات انتحارية، إذ طورت الشركة لوغاريتمات تتعرف على مؤشرات في منشورات المستخدمين وفي تعليقات أصدقائهم عليها.
وبعد الحصول على تأكيد من طرف فريق المراجعة الانسانية، تتصل الشركة بأولئك الذين يعتقد أنهم يواجهون خطر إيذاء أنفسهم لتقترح عليهم سبلا للحصول على مساعدة.
وقال أحد مسؤولي المساعدة الهاتفية الخاصة بالانتحار إن الخطوة “ليست مفيدة فحسب وإنما هامة أيضا”.
وتعد هذه الآلية، المستخدمة حاليا بشكل تجريبي فقط في الولايات المتحدة، أول استخدام للتكنولوجيا في مراجعة الرسائل على شبكة التواصل الاجتماعي.
وكان مؤسس فيسبوك، مارك زوكربرغ، قد أعلن، الشهر الماضي، أنه يأمل استخدام اللوغاريتمات أيضا في التعرف على منشورات لإرهابيين أو أي منشورات مثيرة للقلق.
كما أن فيسبوك أعلنت عن طرق جديدة للتعامل مع التصرفات الانتحارية على آلية البث المباشر على الشبكة، إذ أقامت شراكات مع عدة هيئات أمريكية متخصصة في الصحة النفسية للسماح لمستخدمي الشبكة بالاتصال بها مباشرة عبر منصة الاتصال الخاصة بها “ماسنجر”.
مستخدمو فيسبوك في الولايات المتحدة يستطيعون الاتصال بمختصين في حالات الانتحار عبر الماسنجر
التعرف على أنماط التصرفات
وكانت فيسبوك قد شرعت منذ سنوات في تقديم المعونة لمن تظهر عليهم علامات أو مؤشرات على الانتحار، لكنها كانت تعتمد إلى حد الآن على إبلاغها من طرف المستخدمين بالضغط على زر الإبلاغ الموجود في كل منشور، لكنها الآن باتت تعتمد على لوغاريتمات تتعرف على أنماط تصرف توحي بأن شخصا ما يمر بفترة عصيبة. وتم تطوير هذه اللوغاريتمات باستخدام منشورات كان قد تم الإبلاغ عنها سابقا، مثل أن يكتب أحدهم عن شعور بالحزن والألم، أو أن يعلق أصدقاء له بعبارات من قبيل “هل أنت بخير؟” أو “أنا قلق بشأنك”.
وحالما يتم التعرف على منشور من هذا المنوال، يتم إرساله بشكل عاجل إلى فريق العمليات المجتمعية التابعة للشبكة.
وقالت فانيسا كاليسون-برش، مديرة المنتجات في فيسبوك، لبي بي سي “نحن مدركون لأهمية السرعة حين يتعلق الأمر بشيء عاجل”، إلا أن مدير المنظمة الأمريكية للمساعدة والوقاية من الانتحار أعرب عن أمله في لا تكتفي شركة فيسبوك بتقديم النصائح فقط بل تتصل بمن يمكنه تقديم المساعدة الفعلية. وأضاف الدكتور جون درايبر أن منظمته “تتبادل وجهات النظر مع فيسبوك في هذا الشأن”، وأن “أولئك الذين هم بأمس الحاجة إلى المساعدة ستكون لهم حظوظ أوفر في الحصول فعليا عليها كلما زدنا تعبئة لشبكة الدعم والمساعدة”. ومع اعترافه بأن ما تقوم به فيسبوك “خطوة هامة إلى الأمام”، يقول الدكتور درايبر إن هناك تحديا يتمثل في “كيفية القيام بكل ذلك دون أن يشعر المعني بالأمر أن هناك تدخلا غير مرغوب به في حياته الخاصة”.
من جانبها، اعترفت فانيسا كاليسون-برش أن اتصالا من طرف الأصدقاء أو الأسرة عادة ما يكون أكثر فعالية مقارنة برسالة من فيسبوك، لكنها رأت بأن من غير المناسب أحيانا إخبارهم بما يجري، قائلة “نحن منتبهون جدا لمسألة الخصوصية، وأعتقد أننا لا ندري دوما طبيعة العلاقات بين الشخص وأصدقائه، لذا نحاول أن نقدم شيئا يمنح مساعدة وخيارات”.
وتأتي هذه المبادرة من فيسبوك إثر بث مراهقة في سن الرابعة عشرة في ميامي الأمريكية لعملية انتحارها على منصة البث المباشر لفيسبوك، إلا أن الشركة تؤكد أنها شرعت في العمل على الآليات الجديدة قبل وقوع تلك المأساة.
وتهدف الآلية إلى مساعدة المعرضين لخطر الانتحار أثناء بثهم المباشر وليس انتظار انتهاء البث لمراجعة الفيديو، فحين يضغط متابع لبث مباشر على زر الخيارات للإبلاغ عن انشغاله، تنشر فيسبوك نصائح للمشاهد حول سبل مساعدة صاحب البث المباشر. بالتزامن مع ذلك، تتم مراجعة البث من طرف فريق فيسبوك الذي يرسل نصائحه للمعني بالأمر كلما كان ذلك مناسبا.
مشاهدو البث المباشر يتلقون نصائح حول كيفية المساعدة إن كان في البث ما يدعو إلى القلق
وتقول جنيفر غوادانيو، المشرفة على فريق البحث في هذا المشروع لدى فيسبوك، “هناك من يرى أن علينا قطع البث حين نكتشف مؤشرات على نوايا انتحارية، لكن المختصين يؤكدون أن قطع البث في وقت مبكر جدا سيحد من فرص تواصل المستخدمين وعرضهم المساعدة” لأن استمرار البث يمنح الفرصة للأصدقاء وأفراد الأسرة للتواصل مع المعني وتقديم المساعدة له في وقت هو في أمس الحاجة إليها”.
وقد شرعت فيسبوك في تعميم الآلية الجديدة خارج الولايات المتحدة، إلا أن إمكانية الاتصال بمختصين عبر الماسنجر في فيسبوك تظل منحصرة في الوقت الراهن على الولايات المتحدة، حيث أن فيسبوك تسعى للتأكد أولا من مدى قدرة منظمات وهيئات أخرى على التعامل مع الطلب عليها قبل أن توسع هذه الإمكانية إلى خارج الولايات المتحدة الأمريكية.
ويقول الدكتور دان ريدن، المدير التنفيذي لمنظمة Save.org المساهمة في مبادرة فيسبوك “جهودهم الحالية والمستقبلية تمنحني أملا كبيرا في إنقاذ حياة الكثيرين عبر العالم من مأساة الانتحار” مؤكدا أن “إمكانية الوقاية، حتى في منصة البث المباشر لوحدها، باتت أحسن بكثير من أي وقت مضى”.
“بي بي سي”
