هوش مصنوعی قوانین BEC را دوباره نوشت: آیا دفاعهای شما آمادهاند؟

امروز، متوسط ایمیل فیشینگ که به صندوق ورودی مدیر عامل شما میرسد بینقص است. این ایمیل از گرامر کاملاً درست استفاده میکند، درک عمیقی از چشمانداز فعلی کسب و کار سازمان شما دارد و با یک درخواست فوری و مرتبط با زمینه به پایان میرسد. این کار ناشی از یک مجرم سایبری معمولی نیست؛ این ویژگی هوش مصنوعی تولیدی است که به سلاح تبدیل شده و مهندسی اجتماعی را از یک بازی عددی به یک حمله هدفمند تبدیل میکند.

این تحول ناشی از هوش مصنوعی به این معناست که فیشینگ و حملات ایمیل تجاری (BEC) به طور فعال به سطوح بیسابقهای تقویت میشوند. برای متخصصان امنیت سایبری، درک این تحول سریع دیگر اختیاری نیست؛ بلکه برای جلوگیری از آسیبهای مالی و اعتباری بالقوه ویرانگر، حیاتی است.

این وبلاگ به واقعیت جدید فیشینگ و تقلب در کسب و کار به کمک هوش مصنوعی میپردازد. ما خواهیم دید که چگونه حملهکنندگان از هوش مصنوعی برای اجرای کمپینهای فوق واقعگرایانه بهره میبرند، چرا این حملات پیچیده اغلب از امنیتهای سنتی عبور میکنند و - از همه مهمتر - دفاعهای استراتژیک و اقدامهای پیشگیرانهای که رهبران امنیتی باید اکنون پیادهسازی کنند. فضای امنیت سایبری به سرعت در حال تحول است، همانطور که خود هوش مصنوعی در حال پیشرفت است؛ آیا دفاعهای شما به سطح لازم رسیده است؟

چگونه هوش مصنوعی حملات فیشینگ و BEC را تقویت میکند

قابلیت انطباق هوش مصنوعی تولیدی دقیقاً چیزی است که آن را به ابزاری قوی برای مجرمان سایبری تبدیل میکند. حملهکنندگان دیگر تنها به مهارتهای نوشتاری خود، تسلط به زبان یا حتی نیاز به دستیابی به هر پیام محدود نیستند. هوش مصنوعی به آنها امکاناتی میدهد تا هم پیچیدگی و هم سرعت عملیاتهای فیشینگ و BEC خود را افزایش دهند.

ساخت طعمههای فوقالعاده واقعی با LLMها

مدلهای زبانی بزرگ (LLMs)، همان فناوری که پشتیبان چتباتهای محبوب AI مانند ChatGPT اوپنای و جمنای گوگل است، در خط مقدم مهندسی اجتماعی مبتنی بر هوش مصنوعی قرار دارند. مهاجمان اکنون از LLMها برای تولید ایمیلهای فیشینگ و پیامهای BEC در سطح بعدی استفاده میکنند که عملاً از ارتباطات معتبر قابل تشخیص نیستند. این مدلها میتوانند متنی با دستور زبان و املا بینقص تولید کنند، لحنهای خاصی را به خود بگیرند و جزئیات مرتبط با زمینه را برای ایجاد روایتهای کاملاً شخصیسازی شده و قابل باور بگنجانند. این سطح از پرداخت اغلب کار را برای هدف قرار دادن حملات به افراد خاص یا نقشها در یک سازمان آسان میکند و به طرز قابل توجهی احتمال موفقیت آنها را افزایش میدهد.

علاوه بر بهبود زبان، مدلهای زبانی بزرگ همچنین به طور بنیادی موانع سنتی را برای حملهکنندگان از بین میبرند. به عنوان مثال، این مدلها میتوانند به راحتی پیامها را به چندین زبان ترجمه و تألیف کنند و به بازیگران تهدید این امکان را میدهند که کمپینهای خود را بهطور جهانی گسترش دهند بدون اینکه نشانههای آشکاری که قبلاً به عنوان پرچمهای قرمز شناخته میشدند در آن وجود داشته باشد. متنهایی که طبیعی به نظر میرسند همچنین به این معناست که این ایمیلهای مخرب به طور فزایندهای توانایی عبور از فیلترهای امنیتی ایمیل سنتی را دارند. بسیاری از سیستمهای قدیمی به تشخیص دستور زبان ضعیف، کلمات کلیدی مشکوک یا امضای مخرب شناختهشده متکی هستند - که همه این موارد محتوای تولید شده توسط هوش مصنوعی میتواند بهطور خاص برای اجتناب از آنها طراحی شود.

دیپفیکها وارد میدان شدند: تقلید صدا و ویدیو

متأسفانه، تسلیح هوش مصنوعی فراتر از حملات مبتنی بر متن به سایر رسانهها گسترش مییابد، که اغلب به آنها “دیپ فیک” گفته میشود. این گسترش شامل فیشینگ صوتی (ویشینگ) میشود، جایی که توانایی هوش مصنوعی برای کپی کردن صداها از نمونههای صوتی نسبتاً کوچک، جعلهای بسیار قانعکنندهای ایجاد میکند.

تصور کنید که تماسی supposedly از مدیرعامل خود دریافت میکنید، صدایش به طور کامل تقلید شده و از شما خواسته میشود که یک انتقال فوری وجه را تأیید کنید. این سناریو یک بردار حمله فزاینده است. صدای تقلیدی تولید شده توسط هوش مصنوعی لایهای قوی از اعتبار و فوریت به کلاهبرداریهای BEC اضافه میکند، به ویژه زمانی که با یک ایمیل قانعکننده ترکیب شود. فراتر از صدا، تهدید ویدیوهای تقلیدی در BEC و مهندسی اجتماعی نیز به سرعت در حال ظهور است. در حالی که ممکن است به دلیل نیازهای فنی بیشتر کمتر رایج باشد، مهاجمان ممکن است بتوانند از هوش مصنوعی برای ایجاد کلیپهای ویدیویی کوتاه تقلید از مدیران در تماسهای ویدیویی یا پیامهای ضبط شده استفاده کنند. این تاکتیکها میتوانند کارمندان را به تأیید معاملات تقلبی یا به اشتراکگذاری اطلاعات حساس فریب دهند.

توانایی ترکیب متن تولید شده توسط هوش مصنوعی به طرز کامل با صدای مصنوعی قانع کننده و در نهایت ویدیو، نمایانگر یک افزایش جدی در پیچیدگی حملات جعل هویت است که روشهای سنتی تأیید هویت را به چالش میکشد.

چهره جدید BEC: تحول کلاهبرداری مبتنی بر هوش مصنوعی

هوش مصنوعی فقط باعث نمیشود که پیامهای فیشینگ و BEC موجود بهتر به نظر برسند و بهتر شنیده شوند، بلکه بهطور فعال در حال افزایش پیچیدگی و هدفگیری خود این تقلبهاست. مهاجمان از هوش مصنوعی استفاده میکنند تا فراتر از روشهای پایه حرکت کنند، طرحهای تقلبی پیچیدهتری را توسعه دهند و قربانیان خود را با دقت نگرانکنندهای شناسایی کنند.

فراتر رفتن از کلاهبرداریهای ابتدایی

مدتی پیش، بسیاری از تلاشهای BEC نسبتاً ساده بودند و معمولاً شامل یک ایمیل poorly worded از یک "مدیرعامل" بود که خرید فوری کارت هدیه را درخواست میکرد. در حالی که این موارد هنوز هم اتفاق میافتند، اکنون ما شاهد تلاشهای تقلبی پیشرفتهتری هستیم که شامل دستکاری پیچیده فاکتورها، انحراف پرداخت و جعل چند مرحلهای فروشندگان است. AI به ارتباطات تقلبی کاملتر کمک میکند و جنبههایی مانند:

• تهیه تمامی ارتباطات با درجه ای بالاتر از صیقل
• تولید مدارک و روایتهای جعلی قابل اعتمادتر برای درخواستها
• نوشتن پیامهای پیگیری که به شک و تردید اولیه پاسخ میدهند

کلاهبرداری اصلی BEC اکنون تکامل یافته است و این فریبهای پیچیده را برای کارمندان سختتر میکند که شناسایی و کاهش دهند.

هدفگیری دقیق از طریق شناسایی هوش مصنوعی

پیشپردهبرداری فیشینگ مرحله اولیهای است که در آن مهاجمان اطلاعاتی درباره یک هدف جمعآوری میکنند قبل از اینکه حمله فیشینگ را آغاز کنند. هوش مصنوعی به طرز قابل توجهی تواناییهای مهاجمان را برای پیشپردهبرداری افزایش داده است و به آنها اجازه میدهد تا به سرعت حجم زیادی از دادههای عمومی را بررسی کرده و اهداف با ارزش بالا را شناسایی و اطلاعات متنی جمعآوری کنند. آنچه زمانی شامل هفتهها زمان صرف جستجوی وبسایتهای شرکتی، شبکههای اجتماعی و منابع خبری عمومی بود، اکنون میتواند در کمتر از چند دقیقه بهطور دقیق انجام شود.

بینشهای کمکی با هوش مصنوعی اجازه میدهد تا حملات BEC فوقالعاده شخصیسازی شدهای انجام شود که در آن پیامهای تقلبی به طور قانعکنندهای به پروژههای خاص داخلی، نقش یک فرد، رویدادهای اخیر شرکت یا بهدقت لحن ارتباطی طرف مورد تقلید، اشاره میکنند و این جعل را به طور فوقالعادهای خاص و احتمال بیشتری از اعتماد برای دریافتکننده میسازد.

تقلید از ارتباطات داخلی

توانایی یادگیری و تقلید از الگوهای زبانی توسط هوش مصنوعی بهویژه زمانی خطرناک است که صحبت از جعل ارتباطات داخلی به میان میآید - یک وکتور حمله کلیدی برای BEC. مهاجمان میتوانند مدلها را بر اساس نمونههایی از سبک یک شرکت آموزش دهند یا از هوش مصنوعی برای تولید پیامهایی استفاده کنند که بهطور بی نقصی لحن، قالب و اصطلاحات عموماً مورد استفاده در یک سازمان را به خود میگیرند. به این نمونههای بالقوه از دستساختههای هوش مصنوعی توجه کنید:

• یک ایمیل فوری، به نظر میرسد از بخش IT، که جزئیات یک بروزرسانی حیاتی (اما جعلی) سیستم را شرح میدهد و از کارمندان میخواهد که به طور فوری روی یک لینک کلیک کرده و اعتبارنامههای خود را وارد کنند، با استفاده از زبان فنی قابل پذیرش.
• یک اعلان ظاهراً از سمت منابع انسانی درباره یک ثبت نام مزایای جدید و حساس به زمان یا سیاست بهروز شده کار از راه دور، که به گونهای طراحی شده است که معتبر و مرتبط با کارمندان به نظر برسد.
• دستوری از یک "مدیر ارشد" یا "سرپرست بخش مالی" که درخواست انتقال فوری وجه به یک فروشنده جدید را دارد، با اشاره به یک پروژه به supposedly محرمانه یا موعد نهایی نزدیک، که تمام این موارد با سطح مورد انتظار از قدرت و زمینه داخلی اعلام شده است.

چرا حملات تقویتشده با هوش مصنوعی تشخیصشان سختتر است

پیچیدگی که هوش مصنوعی به حملات فیشینگ و مهندسی اجتماعی میآورد، فقط باعث میشود که این حملات قانعکنندهتر شوند؛ بلکه بهطور بنیادینی آنها را برای هر دو طرف، یعنی کارکنان و سیستمهای امنیتی سنتی، دشوارتر میکند که شناسایی کنند. نشانههای قدیمی در حال محو شدن هستند و با تاکتیکهایی که اعتماد و زمینه را با ظرافت بیشتری مورد سوءاستفاده قرار میدهند، جایگزین میشوند.

ناپدید شدن علائم واضح هشدار

ایمیلهای فیشینگ معمولاً دارای نشانههای واضحی هستند که بسیاری از کاربران یاد گرفتهاند آنها را شناسایی کنند. این نشانهها، مانند دستور زبان ضعیف، اشتباهات املایی آشکار، عبارات نامناسب یا سلامهای عمومی، زمانی به عنوان نشانگرهای قابل اعتماد یک تلاش فیشینگ عمل میکردند. با این حال، هوش مصنوعی و مدلهای زبان پیشرفته عمدتاً این نشانهها را از بین میبرند زیرا متنی تولید میکنند که تقریباً از نظر دستور زبان بینقص، از نظر سبک مناسب و عاری از آن اشتباهات رایج است. نتیجه نهایی؟ پیامهای مخرب که در نگاه اول کاملاً قانونی به نظر میرسند و به راحتی از بررسیهای استاندارد انسانی عبور میکنند.

فریب آگاه به زمینه

در کنار متنهای تصحیحشده، هوش مصنوعی همچنین در ایجاد فریبهای مرتبط با زمینه به خوبی عمل میکند. مهاجمان میتوانند پیامهایی تولید کنند که به مکالمات قبلی مشروع، پروژههای در حال انجام، نقشهای شغلی خاص یا رویدادهای اخیر شرکت اشاره کنند (بهویژه اگر با شناساییهای کمکدار هوش مصنوعی ترکیب شوند). درخواستهای تقلبی زمانی که با زمینههای موجود همراه شوند، بهطور قابل توجهی باورپذیرتر میشوند. به عنوان مثال، یک درخواست پرداخت فوری که به یک فروشنده واقعی یا معامله خاصی که در حال انجام است اشاره میکند، میتواند به راحتی یک کارمند را فریب دهد تا احتیاط خود را کاهش دهد و پرداختهای تقلبی را مجاز کند.

افزایش حملات چندکاناله

مهاجمان همچنین به طور فزایندهای از هوش مصنوعی برای کمک به سازماندهی کمپینهای پیچیدهتر و چندکاناله مهندسی اجتماعی استفاده میکنند که به طور کامل به ایمیل وابسته نیستند. هوش مصنوعی میتواند برای ایجاد روایتها و پیامهای متناسب در پلتفرمهای مختلف به منظور ساخت اعتبار یا اعمال فشار به کار رود. به عنوان مثال، یک ایمیل تولیدشده توسط هوش مصنوعی که بسیار قانعکننده است، میتواند با یک پیام هدفمند در لینکدین از یک پروفایل به ظاهر معتبر که به محتوای ایمیل اشاره میکند، دنبال شود یا حتی یک تماس ویژینگ تقلبی که درخواست کلاهبرداری را تقویت میکند. این رویکرد لایهای، با استفاده از نقاط تماس متعدد، باعث میشود که هر جزء فردی بیشتر معتبر به نظر برسد و در مجموع، تشخیص تلاشهای فیشینگ خطرناک را سختتر کند.

تطبیق دفاعهای شما: مقابله با تهدیدات ناشی از هوش مصنوعی

در حالی که هوش مصنوعی به طور قابل توجهی تواناییهای حملهکنندگان را افزایش میدهد، به این معنی نیست که سازمانها بیدفاع هستند. تنظیم مجدد وضعیت امنیتی شما نیاز به یک استراتژی دقیق دارد که کنترلهای فنی را تقویت کرده، آگاهی کارکنان را افزایش میدهد و بهصورت پیشگیرانه برای تلاشهای جعل هویت نظارت میکند. به استراتژیهای زیر برای مقابله با افزایش حملات فیشینگ و نفوذ به شرکتهای مبتنی بر هوش مصنوعی فکر کنید.

تقویت هوشیاری انسانی: آگاهی امنیتی نسل بعدی

هوش مصنوعی روز به روز هوشمندتر میشود، بنابراین عنصر انسانی در دفاعهای شما نیز باید توسعه یابد. آگاهی امنیتی نسل آینده باید بر روی ظرافتهای حملات ایجاد شده توسط هوش مصنوعی تمرکز کند و فراتر از شناسایی غلطهای تایپی برود. این به معنای آموزش کارکنان برای ارزیابی انتقادی زمینه درخواستها، شناسایی تاکتیکهای اضطرار پیچیده و توسعه آگاهی اولیه از نشانههای احتمالی دیپفیک است. هدف شما پرورش نیروی کار با دقت و احتیاط بیشتر است. هنگام ساخت برنامه آموزشی امنیتی خود، به دنبال گنجاندن استراتژیهای زیر باشید:

• با استفاده از مثالهای واقعی در مورد جزئیات فیشینگ هوش مصنوعی و دیپفیک تمرین کنید
• شبیهسازیهای فیشینگ را اجرا کنید که هوش مصنوعی را در دقت و ارتباط زمینهای تقلید کند
• تصدیق خارج از باند را برای درخواستهای فوری یا حساس الزامی کنید.
• یک فرهنگ قوی برای گزارش پیامهای مشکوک بدون ترس پرورش دهید

امنیت ایمیل فنی پیشرفته

تکامل دفاعهای انسانی شما حیاتی است، اما تقویت دفاعهای فنی شما برای ایمیل نیز به همین اندازه مهم است. در حالی که هیچ ابزاری به تنهایی کارساز نیست، ترکیبی از پروتکلهای پایه و تکنیکهای مدرن تشخیص کلید مقابله با پیچیدگی هوش مصنوعی است. این تکنیکها شامل تأیید مشروعیت فرستنده و همچنین شناسایی الگوهای غیرمعمول است که ممکن است حملات تولید شده توسط هوش مصنوعی با وجود ظاهر صیقلی آنها، همچنان از خود به نمایش بگذارد. اقدامات امنیتی ایمیل خود را با پیادهسازی موارد زیر تقویت کنید:

• اجرای DMARC (p=رد/قرنطینه)، SPF و DKIM بر روی تمام دامنهها
• از امنیت ایمیل با تشخیص anomalies رفتاری/هوش مصنوعی و sandboxing استفاده کنید.
• دروازهها را برای علامتگذاری جعل هویت (نامهای نمایشی، فرستندگان جدید و غیره) تنظیم کنید.
• به طور منظم سیاستهای امنیتی ایمیل را برای تهدیدات در حال تکامل بازبینی و تنظیم کنید

حفاظت پیشگیرانه از دامنه و برند

مهاجمان اغلب از دامنههای شبیه یا دامنههای دارای اشتباهات تایپی استفاده میکنند که دامنه قانونی سازمان شما را شبیهسازی میکنند تا گیرندگان را در حملات فیشینگ و BEC فریب دهند. یک دامنه دارای اشتباه تایپی ممکن است در نگاه اول کارکنان را فریب دهد، بنابراین شناسایی و رسیدگی به این تلاشهای جعل قبل از اینکه به طور گسترده استفاده شوند، حیاتی است. از دامنه و برند خود با:

• به طور مداوم دامنههای تازه ثبت شده یا دامنههای مشابه را تحت نظر داشته باشید.
• پیگیری استفاده غیرمجاز از برند، نامهای اجرایی و داراییهای معنوی شما در اینترنت
• تعریف یک فرآیند روشن برای تحقیق و آغاز حذف دامنه ها
• آموزش کارکنان برای همیشه به دقت آدرس فرستنده و URL ها را بررسی کنند.

هوش مصنوعی تولیدی قطعاً چالشها را برای فیشینگ و حملات BEC افزایش داده و حملاتی ایجاد کرده است که به شدت واقعگرایانه، مقیاسپذیر و به طور چشمگیری سختتر برای شناسایی توسط افراد و سیستمهای سنتی هستند. مقابله مؤثر با این تهدیدات در حال تحول نیازمند یک استراتژی دفاعی پیچیده و چند لایه است—استراتژیای که به طور هوشمندانه فناوری پیشرفته، آگاهی مداوم کاربران و هوشیاری سازمانی را ترکیب کند.

ریسک نقض UpGuard در این دفاع چند لایه نقش حیاتی دارد و به سازمانها دید خارجی و قابلیتهای شناسایی پیشگیرانه برای کاهش خطرات مرتبط با این حملات پیچیده ارائه میدهد. ویژگیهای طراحی شده برای کمک به کاهش تهدیدات ناشی از هوش مصنوعی شامل موارد زیر است:

• نظارت بر سطح حمله: نظارت مداوم بر سطح حمله خارجی شما برای شناسایی آسیبپذیریها یا نقاط ضعف که مهاجمین میتوانند از آن بهرهبرداری کنند.
• شناسایی نشت داده: شناسایی اعتبارنامههای نشت شده که در حال گردش آنلاین هستند، که سوخت اصلی برای تلاشهای BEC و تصرف حسابها میباشند.
• شناسایی تیپواسکواتینگ: دامنههای تیپواسکواتینگ و وبسایتهای مشابه که بهطور خاص برای تقلید از برند شما در کمپینهای پیشرفته فیشینگ راهاندازی شدهاند را شناسایی کنید.

در دورانی که تهدیدات سایبری به سرعت خود هوش مصنوعی در حال تکامل هستند، پیشی گرفتن نیازمند انطباق مداوم و استفاده از ابزارهای پیشرفتهای است که بینش روشنتری نسبت به خطرات خارجی شما ارائه میدهند.