هل عملك جاهز لمحاربة عمليات الاحتيال المتقدمة بالذكاء الاصطناعي التي تستهدف عملائك؟

تتضمن عمليات الخداع بالذكاء الاصطناعي عادةً روبوت محادثة يعمل بالذكاء الاصطناعي أو مساعدًا صوتيًا مصممًا لانتحال الشخصية. يستخدم روبوت المحادثة أو المساعد الصوتي نماذج لغوية لتكرار نبرة الشخص وسلوكياته ، مما يجعل من الصعب التمييز بين الشخص والمحتال الذي يعمل بالذكاء الاصطناعي.

نستكشف هنا الأنواع المختلفة من عمليات الخداع بالذكاء الاصطناعي ونشارك بعض النصائح لمساعدتك على حماية عملك من هذه التهديدات الناشئة.

استنساخ الصوت

يعد استنساخ الصوت أحد أكثر عمليات الاحتيال القائمة على الذكاء الاصطناعي استخدامًا. باستخدام تقنية استنساخ الصوت التي تعمل بالذكاء الاصطناعي ، يمكن للمحتالين إنتاج تسجيلات صوتية مقنعة للأشخاص الذين نعرفهم ونثق بهم. يمكن للمحتالين إجراء مكالمات أو ترك رسائل بريد صوتي تبدو وكأنها من الأصدقاء أو الأقارب أو زملاء العمل باستخدام هذه النسخ الصوتية ، والتي يمكن أن تكون لها نتائج كارثية عندما يمتثل الضحايا المهملون لمطالب المحتال.

كثيرًا ما يحصل المحتالون على عينات صوتية باستخدام تقنيات مختلفة ، مثل جمع الصوت المتاح للجمهور أو حتى خداع الهدف لمنحهم عينات صوتية عبر الهاتف. ثم يتم تحليل صوت الهدف وتكراره باستخدام برنامج ذكاء اصطناعي متخصص ، مما يسمح له بإنتاج نسخ صوتية دقيقة.

في إحدى الحالات المرعبة ، اتصل محتال بأجداد رجل منتحلاً صفته باستخدام تقنية استنساخ الصوت المنتجة بواسطة الذكاء الاصطناعي. وفقا للمخادع ، كان الرجل في حادث سيارة وكان بحاجة إلى المال. لحسن الحظ ، قاموا بمراجعة والد الرجل للتأكد من أن كل شيء على ما يرام قبل إرسال أي أموال ، الأمر الذي كاد أن ينقذهم من الحصول على قرض عقاري ثان.

انتحلت عملية احتيال أخرى شخصية الرئيس التنفيذي لشركة طاقة مقرها المملكة المتحدة باستخدام تقنية الذكاء الاصطناعي لاستنساخ الصوت لخداع مسؤول تنفيذي كبير لإرسال 220 ألف يورو إلى حساب مزيف. اعتقد المدير التنفيذي أنه كان يتحدث إلى الرئيس التنفيذي الحالي بسبب واقعية الصوت الناتج عن الذكاء الاصطناعي.

الخطأ خطأ

Deepfakes هي أفلام أو تسجيلات صوتية يتم التلاعب بها بواسطة الذكاء الاصطناعي مما يجعلها تبدو وكأن شخصًا ما يتحدث أو يفعل شيئًا لم يقله أو يفعله أبدًا. يمكن للمحتالين استخدام التزييف العميق لنشر معلومات كاذبة أو التأثير على الرأي العام.

ينتج المحتالون التزييف العميق عن طريق تدريب خوارزميات الذكاء الاصطناعي على مجموعات بيانات ضخمة من الصور أو مقاطع الفيديو للشخص المستهدف. سيكون التزييف العميق أكثر إقناعًا كلما زادت البيانات التي يجب أن يعمل بها الكمبيوتر.

كانت الأمثلة المنتشرة عبارة عن مقطع فيديو مزيف عميق للرئيس الأوكراني فولوديمير زيلينسكي ، نُشر في مارس 2022 ، ومقطع فيديو مزيف عميق لإيلون ماسك ، نُشر في أبريل 2022. على الرغم من أنه تم التعرف على مقطعي الفيديو على أنهما مزيفان بسرعة ، إلا أنهما أثارا الجدل وتمت مشاركتهما على نطاق واسع على وسائل التواصل الاجتماعي. .

رسائل البريد الإلكتروني للتصيد الاحتيالي

يقوم المحتالون بتطوير رسائل البريد الإلكتروني المخادعة باستخدام الذكاء الاصطناعي ، مما يجعل رسائل التصيد الاحتيالي الإلكترونية من الشركات الحقيقية أكثر موثوقية. كثيرًا ما يستخدم المحتالون الذكاء الاصطناعي لدراسة مجموعات كبيرة من رسائل البريد الإلكتروني الجديرة بالثقة وفهم خصائصها اللغوية. نتيجة لذلك ، يمكنهم إنتاج رسائل بريد إلكتروني تصيدية مقنعة تحاكي المراسلات الحقيقية عن كثب.

على سبيل المثال ، استهدفت حملة تصيد عبر البريد الإلكتروني موظفي وزارة الدفاع في الولايات المتحدة في يناير 2023. وتم تشجيع الموظفين على النقر فوق ارتباط في رسائل البريد الإلكتروني التي تدعي أنها من مؤسسة حكومية شرعية لتحديث معلوماتهم الشخصية. في الواقع ، نقلت الجمعية المشاهدين إلى موقع ويب احتيالي مصاب ببرامج ضارة تسرق معلومات تسجيل الدخول المهمة.

مع استمرار تطور تقنية الذكاء الاصطناعي ، سيجد المحتالون طرقًا جديدة ومبتكرة لاستخدامها لاستغلال الناس. من الضروري أن تكون على دراية بهذه الاتجاهات وكيفية تجنب التعرض للخداع. لحماية نفسك ، إليك ما يمكنك فعله:

• تثقيف الموظفين حول عمليات الاحتيال المتعلقة بالذكاء الاصطناعي: يجب على الشركات الصغيرة والمتوسطة تدريب موظفيها على التعرف على علامات عمليات الاحتيال باستخدام الذكاء الاصطناعي ، مثل الطلبات غير العادية للحصول على أموال أو معلومات حساسة ، وللتحقق من هوية الشخص الذي يقدم الطلب.

• تنفيذ المصادقة متعددة العوامل: يجب أن تطلب الشركات الصغيرة والمتوسطة مصادقة متعددة العوامل لجميع المعاملات المالية ، مثل التحويلات البنكية أو المدفوعات عبر الإنترنت ، مما يجعل من الصعب على المحتالين انتحال صفة المديرين أو الموظفين وإجراء المعاملات الاحتيالية.

• استخدم أدوات الأمن السيبراني التي تعمل بالذكاء الاصطناعي: يمكن للشركات الصغيرة والمتوسطة استخدام أدوات الأمن السيبراني المدعومة بالذكاء الاصطناعي لاكتشاف ومنع عمليات الاحتيال بالذكاء الاصطناعي. تستخدم هذه الأدوات خوارزميات التعلم الآلي لتحليل الأنماط واكتشاف الحالات الشاذة التي قد تشير إلى الاحتيال.

• مراقبة النشاط عبر الإنترنت: يجب أن تراقب الشركات الصغيرة والمتوسطة بانتظام وأن تكون متيقظة لأي نشاط غير عادي أو مشبوه ، مثل عمليات تسجيل الدخول غير المصرح بها أو محاولات الوصول إلى المعلومات الحساسة.

• تنفيذ سياسة الأمن السيبراني: يجب على الشركات الصغيرة والمتوسطة تطوير سياسة أمن إلكتروني شاملة تحدد أفضل الممارسات للحماية من عمليات الاحتيال التي يستخدمها الذكاء الاصطناعي وتهديدات الأمن السيبراني الأخرى. من الضروري أن يتم تحديث هذه السياسة بانتظام وإبلاغها جيدًا لجميع الموظفين.

الذكاء الاصطناعي هو أداة قوية يمكن استخدامها للأفضل أو للأسوأ. من الضروري أن تكون على دراية بالمخاطر المحتملة التي يشكلها الذكاء الاصطناعي وأن تتخذ الاحتياطات اللازمة لتجنب الوقوع ضحية للاحتيال. يمكنك حماية نفسك من حيل الذكاء الاصطناعي من خلال وضع بعض النصائح التي شاركناها في الاعتبار.