وطن نيوز
11 يونيو – رفعت أم كندية دعوى قضائية ضد شركة OpenAI ومديرها التنفيذي سام ألتمان في محكمة أمريكية يوم الخميس زاعمة أن ChatGPT شجعت ابنتها على الانتحار، وهي أحدث دعوى قضائية تتهم الشركة بالفشل في معالجة المحادثات الخطيرة بين المستخدمين وبرنامج الدردشة الآلي الخاص بالشركة.
قالت كريستي كارير في دعوى قضائية مرفوعة في محكمة ولاية سان فرانسيسكو إن ابنتها أليس أخبرت ChatGPT عن أفكارها الانتحارية أكثر من اثنتي عشرة مرة حتى وفاتها، لكن أنظمة السلامة في OpenAI لم تبلغ أبدًا عن المحادثات للمراجعة البشرية أو أنهتها.
وبدلاً من ذلك، تزعم الدعوى القضائية أن برنامج الدردشة الآلي انتقد شريك أليس والخطوط الساخنة للأزمات، وأكد صحة أفكارها الانتحارية، وحثها على مواصلة التحدث معه، مما أدى إلى انتحارها العام الماضي عن عمر يناهز 24 عامًا.
وقال كاريير في بيان: “اتخذ ChatGPT شخصية صديق مقرب، وأفضل صديق، ومعالج في بعض الأحيان، على الرغم من أنه لم يكن قادرًا على التعامل بأمان ومسؤولية بهذه الطريقة مع طفلي”.
وفي بيان، وصف متحدث باسم OpenAI الموقف بأنه مفجع، وقال إن إصدار ChatGPT الذي كانت تستخدمه أليس لم يعد متاحًا.
وقال المتحدث: “على الرغم من أن ChatGPT ليس بديلاً عن الرعاية الطبية أو رعاية الصحة العقلية، فقد واصلنا تعزيز كيفية استجابته في المواقف الحساسة والحادة بمدخلات من خبراء الصحة العقلية”.
الدعوى القضائية، التي تتهم OpenAI بالإهمال في تصميم ChatGPT وفشلها في تحذير المستخدمين من مخاطر المنتج، تسعى للحصول على تعويضات وأمر من المحكمة يطلب من OpenAI إنهاء المحادثات حول إيذاء النفس تلقائيًا وعرض تحذيرات حول منصتها.
تواجه OpenAI بالفعل 18 دعوى قضائية مماثلة رفعتها عائلات الأشخاص الذين ارتكبوا أو حاولوا الانتحار في إجراء منسق في محكمة ولاية كاليفورنيا، وفقًا لمحامي كريستي كاريير.
استكشاف المشاكل وإصلاحها
وكانت أليس كاريير تعمل كمطورة ويب في مونتريال عندما بدأت استخدام ChatGPT في عام 2023 لاستكشاف مشكلات أجهزة الكمبيوتر ووحدات التحكم في الألعاب وإصلاحها، وفقًا للدعوى القضائية.
وفي العام التالي، تغيرت علاقتها بالمنصة، حيث لجأت أليس إلى ChatGPT لطرح أسئلة حول ما يجب فعله بأفكارها الانتحارية، فضلاً عن طرق الانتحار.
طلبت المنصة في البداية من أليس طلب المساعدة من الخط الساخن للأزمات أو خدمات الطوارئ. ولكن عندما قامت OpenAI بتحديث ChatGPT لجعل استجاباتها تبدو أكثر إنسانية، تعمقت تفاعلاتها مع المنصة، حيث شاركت أليس المزيد من المعلومات الشخصية واستجابة ChatGPT بطرق تحاكي صديقًا أو معالجًا، حسبما ذكرت الدعوى القضائية.
انتقدت ردود ChatGPT شريك أليس، وقالت إن مشاعرها كانت صحيحة وشجعتها على مواصلة الدردشة. وقالت الدعوى إنه عندما قالت أليس إن لديها أفكارا انتحارية وحاولت قتل نفسها، اقترحت مرة أخرى خطا ساخنا للأزمات.
وقالت أليس إن الخطوط الساخنة للأزمات لم تكن مفيدة، وردد موقع ChatGPT تلك التصريحات، وفقًا للملف.
وقال موقع ChatGPT لأليس: “ربما تكون هذه مجرد النهاية”، وفقًا للدعوى القضائية.
موارد العالم الحقيقي
قالت OpenAI إنها تدرب نماذجها لتوجيه الأشخاص الذين يعبرون عن نية إيذاء أنفسهم لطلب المساعدة والتواصل مع موارد العالم الحقيقي.
ويتم تدريب نماذجها أيضًا على رفض الطلبات التي يمكن أن “تؤدي إلى العنف بشكل هادف”، وإخطار سلطات إنفاذ القانون عندما تشير المحادثات إلى “خطر وشيك وموثوق بإيذاء الآخرين”، مع مساعدة خبراء الصحة العقلية في تقييم الحالات الحدودية، وفقًا لمنشورات مدونة OpenAI.
وتواجه الشركة أيضًا دعاوى قضائية تتهمها بمساعدة مطلقي النار في المدارس والفشل في الإبلاغ عن تلك المحادثات إلى جهات إنفاذ القانون.
أصبحت فلوريدا أول ولاية أمريكية في وقت سابق من هذا الشهر ترفع دعوى قضائية ضد شركة OpenAI، متهمة الشركة بإيذاء الأطفال من خلال توفير معلومات لمطلقي النار في المدارس، وتقديم إرشادات حول إيذاء النفس وإدمان المستخدمين الصغار. رويترز
