پرونده کلاهبرداری‌های هوش مصنوعی (Deepfake)

[HIIIS]

انقلاب فریب: عصرِ مرگ واقعیت​

تا همین چند سال پیش، بزرگترین تهدید برای امنیت ما، چیزهایی بود که می‌توانستیم لمس کنیم یا با چشم‌های خود ببینیم؛ یک کلاهبرداری سنتی، یک نامه جعلی یا یک تماس مشکوک. اما اکنون، با ورود هوش مصنوعی به تاریک‌خانه‌های جرم و جنایت، قواعد بازی به کلی تغییر کرده است. ما به دورانی وارد شده‌ایم که در آن، «صدا» و «تصویر» دیگر گواهی بر حقیقت نیستند. امروزه، کلاهبرداران با استفاده از تکنولوژی Deepfake، نه تنها اموال، بلکه “اعتماد” را هدف قرار می‌دهند. آن‌ها با سرقتِ ویژگی‌های ظاهری و صوتی افراد، نسخه‌هایی دیجیتال از آن‌ها می‌سازند که قادرند هر آنچه را که کلاهبردار می‌خواهد، با تبلورِ کاملِ واقعیت، بیان کنند. این دیگر یک سرقت ساده نیست؛ این یک نفوذِ روان‌شناختی و تکنولوژیک است که مرز میان آنچه هست و آنچه هستند را از بین می‌برد.

 

[HIIIS]

تشریح مکانیسم؛ چگونه یک “واقعیتِ جعلی” ساخته می‌شود؟​

برای درک عمق فاجعه، باید بدانیم این فرآیند از کجا شروع می‌شود و چگونه به یک فریبِ کامل تبدیل می‌گردد. روند اجرای این پرونده‌ها معمولاً طی چهار مرحله‌ی استراتژیک انجام می‌شود:


۱. استخراج داده‌های دیجیتال (Data Harvesting):
اولین قدم، جمع‌آوری مواد اولیه است. کلاهبرداران از شبکه‌های اجتماعی (اینستاگرام، تلگرام، لینکدین و…) استفاده می‌کنند تا نمونه‌های فراوان از صدا، ویدیو و تصاویر هدف را استخراج کنند. هرچه ویدیوهای موجود از یک فرد بیشتر و با کیفیت بالاتر باشد، الگوریتم می‌تواند ویژگی‌های منحصربه‌فرد او را بهتر یاد بگیرد.

 

[HIIIS]

۲. آموزش مدل (Model Training):
در این مرحله، داده‌های جمع‌آوری شده به شبکه‌های عصبی (Neural Networks) داده می‌شوند. هوش مصنوعی با تحلیل هزاران فریم از حرکت لب‌ها، تغییرات نور روی پوست و فرکانس‌های مختلف صدا، یک “مدل دیجیتال” از آن فرد می‌سازد. در واقع، سیستم یاد می‌گیرد که این فرد چگونه لب می‌زند، چگونه پلک می‌زند و حتی چگونه در میان جملات مکث می‌کند.

 

[HIIIS]

۳. تولید خروجی (Synthesis/Generation):
پس از آموزش، کلاهبردار می‌تواند یک متن یا دستورالعمل جدید را وارد سیستم کند. هوش مصنوعی، آن متن را با صدای هدف (Text-to-Speech) یا با چهره‌ی هدف (Face-swapping) ترکیب می‌کند. نتیجه، یک فایل ویدئویی یا صوتی است که در نگاه اول، کاملاً طبیعی و فاقد هرگونه ناهنجاری دیجیتالی است.

 

[HIIIS]

۴. حمله روان‌شناختی (Social Engineering):
مهم‌ترین و خطرناک‌ترین مرحله، استفاده از این خروجی است. کلاهبردار از این “هویت جعلی” برای تماس با قربانی استفاده می‌کند. از آنجایی که قربانی با صدای فرزند یا چهره‌ی مدیر خود روبرو شده، “سپر دفاعیِ منطقی” او در لحظه فرو می‌ریزد و احساسات (ترس، اضطرار یا اعتماد) جایگزین تحلیل می‌شود. در این لحظه‌ی آسیب‌پذیر، انتقال پول یا اطلاعات حساس اتفاق می‌افتد.