يستخدم المحتالون الذكاء الاصطناعي لاستنساخ أصوات الأطفال وخداع الآباء في الهند

وطن نيوز12 فبراير 2024آخر تحديث :
يستخدم المحتالون الذكاء الاصطناعي لاستنساخ أصوات الأطفال وخداع الآباء في الهند

وطن نيوز

عندما تلقى أب في الهند مكالمة هاتفية من رقم خارجي غير معروف في يناير، لم يتوقع أنه سيكون آخر من يسقط في مخطط احتيال متقن يتضمن الذكاء الاصطناعي (AI).

وقال المحتال، الذي ادعى أنه ضابط شرطة، للسيد هيمانشو شيكار سينغ، إن ابنه البالغ من العمر 18 عامًا تم القبض عليه مع عصابة من المغتصبين ويحتاج إلى 30 ألف روبية (486 دولارًا سنغافوريًا) حتى يتمكن من تبرئة اسمه، حسبما ذكرت وسائل الإعلام الهندية. تم الإبلاغ عنه في 12 فبراير.

وقال سينغ لصحيفة إنديان إكسبريس عن حادثة 8 يناير/كانون الثاني: “في اللحظة التالية، سمعت صوتًا يقول: بابا من فضلك ادفع له، إنهم رجال شرطة حقيقيون، من فضلك أنقذني”.

“لم أستطع أن أشك ولو لثانية واحدة في أنه ليس ابني. أسلوب التحدث والبكاء… كل شيء كان على حاله”.

وبينما كان متشككًا، كان يخشى أن يكون المتصل خاطفًا، لذلك قام بدفع دفعة أولية قدرها 10000 روبية (162 دولارًا سنغافوريًا).

ثم قرر أن يبحث عن ابنه بنفسه أولاً. وتم العثور على المراهق في وقت لاحق أثناء إجراء اختبار في مركز تعليمي دون أن يصاب بأذى.

كانت هذه واحدة من ثلاث حالات بارزة هزت نيودلهي ومنطقة العاصمة الوطنية في الأسابيع الأخيرة حيث يستغل المحتالون الذكاء الاصطناعي لتطوير تسجيلات صوتية مزيفة مقنعة للأطفال لخداع آبائهم لتحويل الأموال.

يمكن إنشاء مقاطع صوتية مزيفة بعمق باستخدام مقطع حقيقي من صوت الهدف.

وفي حالة مماثلة، تلقت أم من نويدا، في ولاية أوتار براديش، مكالمة احتيالية حيث استخدم المحتالون التكنولوجيا لتقليد صوت ابنها.

ولحسن الحظ، كان ابنها يدرس أمامها عندما اتصل المحتالون.

وقال الصحفي، الذي لم يذكر اسمه في المقال: “إنه لأمر مقلق للغاية أن مجرمي الإنترنت يستهدفون الأطفال الآن. ومن أين يحصلون على تفاصيل عن الأطفال وأولياء أمورهم؟… يجب التحقيق في هذا الأمر بدقة وبأولوية قصوى”.

“مثل هذه الحالات ليست متكررة جدًا، ولكن في الآونة الأخيرة حدثت زيادة طفيفة في حالات “الاستنساخ”. وقال مانيش كومار ميشرا، ضابط شرطة دلهي: “نحن نحاول أن نفهم كيف يقوم مجرمو الإنترنت بإنشاء أصوات مستنسخة لخداع الناس”.

وقد حدثت حالات استنساخ الصوت هذه في أجزاء أخرى من العالم.

في مايو 2023، تم تنبيه الشرطة في منطقة منغوليا الداخلية إلى حالة استخدم فيها محتال تقنية تبديل الوجه لانتحال شخصية صديق الضحية أثناء مكالمة فيديو.

معتقدًا أن صديقه بحاجة إلى دفع وديعة لإكمال عملية المزايدة، قام الضحية بتحويل 4.3 مليون يوان (805000 دولار سنغافوري) إلى المحتال.

ولم يدرك أنه تعرض للخداع إلا بعد أن قال صديقه إنه لا يعرف شيئًا عن الموقف.

في هونغ كونغ، تعرضت شركة متعددة الجنسيات للاحتيال بمبلغ 200 مليون دولار هونج كونج (34 مليون دولار سنغافوري) بعد أن حضر أحد الموظفين مكالمة جماعية عبر الفيديو مع إعادة إنشاءات مزيفة للمدير المالي للشركة ومقره بريطانيا وموظفين آخرين.

وكان الزملاء “المزيفون” قد أعطوا أوامر للموظف بتحويل المبلغ إلى حسابات منفصلة وقد امتثل الضحية.