پژوهشگران شرکت Oligo Security نقایص امنیتی «اجرای کد از راه دور» (RCE) را در فریمورکهای استنتاج AI مانند Meta’s Llama Stack، Nvidia’s TensorRT-LLM، vLLM و SGLang کشف کردهاند.
دولت بریتانیا قوانین جدیدی را تصویب کرده است تا شرکتهای فناوری و آژانسهای محافظت از کودکان بتوانند ابزارهای هوش مصنوعی تولیدکننده محتوا را بررسی کنند؛ هدف این است که ببینند آیا این ابزارها میتوانند تصاویر سوءاستفاده از کودکان (CSAM) تولید کنند یا خیر.
این خبر نقطهای مهم از تحول در امنیت سایبری را نشان میدهد: وقتی AI تبدیل به عامل فعال میشود، خطرات جدیدی ایجاد میکند، نه فقط از دید حمله به داده بلکه حمله به خود عاملها.
این گزارش نشاندهنده حرکت سازمانها از «پایلوت AI» به «عملیاتیسازی AI عامل» است؛ دیگر فقط آزمون نیست بلکه عنصر دائمی در سازمان میشود.
گزارش امنیتی Trellix حاکی است که جاسوسی دولتی و حملات مالی مبتنی بر هوش مصنوعی همگرا شدهاند و بخش صنعتی بیش از سایر بخشها هدف قرار گرفته است.
طبق گزارش منتشرشده، حدود ۵۱٪ از متخصصان امنیت سایبری در اروپا بر این باورند که تهدیدات مبتنی بر هوش مصنوعی و دیپفیکها بزرگترین چالش امنیتی سال آینده خواهند بود.
گارتنر فهرستی از فناوریهای راهبردی که در سال ۲۰۲۶ تأثیرگذار خواهند بود منتشر کرده است؛ از جمله «پلتفرمهای امنیت AI»، «محاسبات محرمانه (confidential computing)»، «AI فیزیکی (Physical AI)» و «پیشبینی دیجیتال (digital provenance)».
گزارش جدید از ISACA نشان میدهد که ۵۱٪ از متخصصان امنیت سایبری در اروپا بر این باورند که تهدیدات مبتنی بر هوش مصنوعی و دیپفیکها مهمترین چالش امنیتی سال آینده خواهند بود.
مقاله جدید در arXiv معرفی میکند که گروهی از دانشگاهها و مؤسسات تحقیقاتی پروژهای به نام ATLANTIS را توسعه دادهاند، سیستمی که با ترکیب مدل زبانی بزرگ (LLM) و تحلیل برنامه (symbolic execution, fuzzing) میتواند آسیبپذیریهای نرمافزاری را شناسایی و تعمیر کند.
شرکت امنیت سایبری Picus Security قابلیت جدیدی در پلتفرم Breach & Attack Simulation (BAS) خود ارائه کرده است که بهصورت هوشمندانه سناریوهای حمله را شبیهسازی کرده و از هوش مصنوعی برای پیشبینی راهبردهای تهدیدات بهره میبرد.
یک شرکت ارائهدهنده چتبات مبتنی بر هوش مصنوعی (Salesloft-Drift) دچار نفوذ امنیتی شد و این نفوذ منجر به افشای اطلاعات بیش از ۷۰۰ شرکت – برخی از آنها شرکتهای امنیت سایبری خودشان، گردید.
خبر بایاس DeepSeek AI زنگ خطری برای سازمانها و سیاستگذاران است که AI را از ابزار نوآوری به میدان ژئوپلیتیک تبدیل کرده است. نفوذ سانسور دولتی چین در خروجیهای DeepSeek، اعتماد به مدلهای چینی را تضعیف میکند و ریسکهای امنیتی، عملیاتی و شهرتی را برای سازمانها ایجاد میکند. این مشکل سیستمیک، فراتر از DeepSeek، نشاندهنده نیاز فوری به استانداردهای جهانی AI است.
گزارشهای اخیر هشداری ارائه دادهاند که عاملان مخرب با استفاده از عاملهای خودکار AI ممکن است به حملات سایبری جدیدی روی بیاورند که به سختی قابل ردگیریاند و از آسیبپذیریهای شخصیسازیشده استفاده میکنند.
نفوذ هوش مصنوعی تاریک (Dark AI) در جرایم سایبری رشد قابلتوجهی دارد. این نوع استفادهٔ غیرقانونی از AI، شامل سیستمهایی است که برای حملات سایبری خودکار، فیشینگ، تولید بدافزارهای هوشمند یا نفوذ به شبکهها بهکار میروند.
You cannot copy content of this page
