هوش مصنوعی در حوزه امنیت+ مزایا، فرصت ها و مشکلات

هوش مصنوعی به سرعت در حال درنوردیدن صنایع مختلف است و امنیت سایبری و فیزیکی نیز از این امر مستثنی نبوده‌اند. ابزارهای مبتنی بر هوش مصنوعی می‌توانند به سرعت تهدیدات احتمالی را شناسایی، پردازش و رفع کنند. اگرچه هوش مصنوعی در حوزه امنیت پدیده جدیدی نیست؛ اما افزایش محبوبیت آن پرسش‌های بسیاری را در ذهن ایجاد می‌کند. 

در این مطلب به معرفی کاربردهای هوش مصنوعی در حوزه امنیت سایبری و فیزیکی می‌پردازیم. با بررسی موارد استفاده واقعی هوش مصنوعی می‌توانید مزایا و معایب این پدیده را شناسایی و از آن در کسب‌وکار خود استفاده کنید. 

هوش مصنوعی چیست؟

به‌طور کلی، هوش مصنوعی (Artificial Intelligence) رشته‌ای است که با تلفیق علم رایانه و علم داده، امکان حل مسائل مرتبط را فراهم می‌کند. در هوش مصنوعی با کمک روش‌ها و فناوری حوزه‌های دیگر مانند یادگیری ماشین (Machine Learning) و یادگیری عمیق (Deep Learning) الگوریتم‌های جدیدی ایجاد می‌شوند که به طراحی و ساخت سیستم‌های تخصصی برای طبقه‌بندی و پیش‌بینی بر مبنای داده‌های ورودی کمک می‌کنند. 

در طول تاریخ علم رایانه، هوش مصنوعی سوار بر امواج هیاهو و تردید بوده است؛ اما با انتشار ChatGPT توسط OpenAI به‌نظر می‌رسد شاهد نقطه عطفی در زمینه هوش مصنوعی هستیم. هوش مصنوعی در نقطه اوج سابق خود شاهد پیشرفت‌های مهمی در زمینه بینایی کامپیوتر (Computer Vision) بود، اما این بار جهش آن به سوی پردازش زبان طبیعی بوده است. 

البته این پدیده منحصر به «زبان» نیست و مدل‌های خلاق می‌توانند قواعد برنامه‌نویسی، مولکول‌ها، تصاویر طبیعی و بسیاری از انواع داده را یاد بگیرند. در حال حاضر، می‌توان انواع هوش مصنوعی را با توجه به قابلیت‌ها و عملکرد به صورت زیر طبقه‌بندی کرد:

انواع هوش مصنوعی بر اساس قابلیت‌ها:

هوش مصنوعی محدود (Artificial Narrow Intelligence) که با نام هوش مصنوعی ضعیف (Weak AI) نیز شناخته می‌شود درواقع همین هوش مصنوعی محدودی است که تاکنون به وجود آمده است. سایر گونه‌های هوش مصنوعی هنوز در محدوده نظری هستند.
هوش عمومی مصنوعی (Artificial General Intelligence) یا هوش مصنوعی قوی (Strong AI) یک مفهوم نظری است که در آن، هوش مصنوعی می‌تواند دانش و مهارت‌های سابق خود را بدون نیاز به مدل‌سازی مجدد توسط انسان، در زمینه‌ای متفاوت پیاده‌سازی کند. 
ابر هوش مصنوعی (Super AI) نیز هنوز یک مفهوم نظری است که بر مبنای آن هوش مصنوعی می‌تواند فکر کند، یاد بگیرد، قضاوت کند و از قابلیت‌های شناختی انسان فراتر برود. 

انواع هوش مصنوعی براساس عملکرد:

هوش مصنوعی ماشینی واکنشی (Reactive Machine AI) زیرمجموعه هوش مصنوعی ضعیف و سیستم‌هایی بدون حافظه هستند که برای انجام وظیفه‌ مشخصی طراحی می‌شوند. این سیستم‌ها به جای اتکا به حافظه، از داده‌های فعلی استفاده می‌کنند. هوش مصنوعی موتور پیشنهاد محتوای نتفلیکس و IBM Deep Blue در این طبقه‌بندی قرار می‌گیرند. 
هوش مصنوعی با حافظه محدود (Limited Memory AI) برخلاف نوع قبلی برای ارزیابی و تصمیم‌گیری از رویدادهای گذشته بهره می‌گیرد. محدودیت در ذخیره‌سازی حافظه باعث می‌شود این نوع هوش مصنوعی تنها در بازه‌های زمانی کوتاه کاربرد داشته باشد. خودروهای خودران، چت‌بات‌ها و ابزارهای خلاق مانند ChatGPT و Google Bard از این نوع هوش مصنوعی استفاده می‌کنند.
هوش مصنوعی نظریه ذهن (Theory of Mind AI) زیرمجموعه هوش مصنوعی قوی است. در این مفهوم نظری هوش مصنوعی می‌تواند افکار، احساسات و مفاهیم هنری را درک و با دیگران ارتباطات انسان‌گونه برقرار کند.
هوش مصنوعی خودآگاه (Self-Aware AI) زیرمجموعه Super AI است و در صورت تحقق، قابلیت درک شرایط درونی خود و همچنین احساسات انسانی را خواهد داشت. 

منبع

کاربرد هوش مصنوعی در حوزه امنیت

هرچقدر کاربردهای یادگیری ماشین و هوش مصنوعی گسترش می‌یابد، نفوذ آن‌ها در  صنایع مختلف نیز افزایش می‌یابد. این تحولات نحوه کار و مدیریت کسب‌وکارهای گوناگون را دگرگون می‌کند. به دلیل این که ابزارهای هوش مصنوعی در اختیار همگان قرار می‌گیرند، اهمیت وضع مقررات مناسب و بهینه‌سازی محیط‌های فیزیکی-سایبری بیش‌ از پیش روشن می‌شود.

خاصیت ذاتی هوش مصنوعی، تجزیه‌وتحلیل حجم‌های عظیم داده و شناسایی الگوهای موجود در آن‌ها است. این موضوع حوزه امنیت (فیزیکی یا سایبری) را به یکی از مهم‌ترین حوزه‌ها برای استفاده از هوش مصنوعی تبدیل کرده است. اصطلاح AI Security به معنای استفاده از فناوری هوش مصنوعی در سیستم‌های امنیتی است؛ به این صورت که سیستم‌های امنیتی بتوانند رفتارهای امن یا تهدیدکننده در محیط‌های مجازی و واقعی را تشخیص دهند. 

یادگیری ماشین و پردازش زبان طبیعی (NLP) هستند که این قابلیت‌ها را در هوش مصنوعی ایجاد می‌کنند. NLP هوش مصنوعی را قادر می‌سازد متن و گفتار را درک کند. یادگیری ماشین به شناسایی و تشخیص الگوهای صحیح کمک می‌کند.

سیستم‌های امنیتی می‌توانند به کمک هوش مصنوعی، فعالیت‌های انسانی را یاد بگیرند و بدون مداخله انسان، به آن‌ها واکنش نشان دهند. هرچقدر یک هوش مصنوعی در معرض داده‌های بیشتری قرار بگیرد، در شناسایی و پاسخ به تهدیدات امنیتی موثرتر خواهد بود. در نتیجه، سازمان‌ها و سیستم‌های رایانه‌ای می‌توانند با خودکارسازی رویه‌های امنیتی فیزیکی و سایبری، فضاهای امن‌تری را فراهم کنند. 

آن‌ها در صورت استفاده صحیح از هوش مصنوعی، می‌توانند ضعف‌های سیستمی و اداری، بدافزارها، ترافیک مشکوک در شبکه و سیستم‌های آسیب‌پذیر را شناسایی کنند. در صورت شناسایی فعالیت خرابکارانه، هوش مصنوعی می‌تواند به‌طور خودکار با ایزوله کردن سیستم‌های آلوده و قرنطینه کردن فایل‌های مشکوک با آن مقابله کند. سیستم‌های اتوماسیون نیز می‌توانند بار کاری کارمندان و کارگران را پایش کنند و به این صورت، به گسترش حجم کسب‌وکارها کمک کنند.

البته نباید فراموش کرد که وجود هوش مصنوعی در حوزه امنیت یا سایر صنایع، به معنی جایگزینی کامل با عملگرهای حیاتی نیست؛ بلکه هدف، ارتقای عملیات‌‌ روزانه است. رهبران کسب‌وکار بهتر است از هوش مصنوعی در فرآیندهای مناسب استفاده کنند تا چارچوبی اساسی برای آن شکل بگیرد. 

مزایا و فرصت‌های هوش مصنوعی در فناوری‌های امنیتی

با گذر زمان و پیشرفت فناوری، انسان‌ها دیگر به تنهایی قادر به حفاظت از تهدیدات امنیتی یک سازمان نیستند. هوش مصنوعی می‌تواند برای متخصصان امنیت سایبری نقش بازوی تجزیه‌وتحلیل و شناسایی تهدیدات را ایفا کنند. آن‌ها می‌توانند به کمک هوش مصنوعی تصمیمات آگاهانه‌تری بگیرند و با استفاده کمتر از نیروی انسانی، از بروز خطرات جانی و مالی جلوگیری کنند.

هر کسب‌وکاری کوچک، متوسط و بزرگی با تهدیدات امنیتی گوناگونی روبرو است که مقابله با این تهدیدات می‌تواند از دارایی‌های مادی و معنوی کسب‌وکار محافظت کند. به عبارت دیگر باید گفت سیستم‌های امنیتی تنها برای هشدار نفوذ غیرمجاز به یک ساختمان یا وب‌سایت تهیه نمی‌شوند؛ بلکه وظیفه پایش عملیات‌های تجاری، نظارت بر کارکنان و مناطق مشخص محیط مجازی و فیزیکی را نیز بر عهده می‌گیرند.

با به‌کارگیری هوش مصنوعی در سیستم‌های نظارتی، هوش مصنوعی می‌تواند عملیات‌های کاری تکراری و خسته‌کننده را به دوش بکشد. کارهایی مانند مشاهده و نظارت بر ویدئوهای دوربین‌های امنیتی و در عین حال افزایش کارآمدی نظارت، بهبود دقت در شناسایی تهدیدات با سرعت بالا از مزایای به‌کارگیری از هوش مصنوعی در حوزه امنیت هستند.

‌دسته‌بندی حوزه امنیت 

در دنیای فناوری مدرن، هر کسب‌وکار با دیگری متفاوت است. درنتیجه هر کدام نیازهای امنیتی ویژه خود را دارند. شرکت‌های بسیاری برای نظارت و پایش بر عملیات‌ و دارایی‌ها از متخصصان امنیتی کمک می‌گیرند. برای درک بهتر کاربردهای هوش مصنوعی در حوزه امنیت، بهتر است ابتدا حوزه امنیت را به صورت زیر دسته‌بندی کرد:

سیستم‌های کنترل دسترسی: سیستم‌های ویژه‌ای هستند که تنها به افراد مشخصی اجازه ورود یه یک محل فیزیکی یا مجازی را می‌دهند.
دوربین‌های امنیتی و نظارتی: با تعبیه آرایه‌ای از دوربین‌ها در محل‌های پر رفت‌وآمد و کم رفت‌وآمد، متخصصان امنیتی می‌توانند به اتفاقات بیرون یا درون یک محل اشراف داشته باشند.
سیستم‌های هشداردهنده: این سیستم‌ها نفوذ، نشر اطلاعات، سرقت و سایر عملیات خرابکارانه درون یک کسب‌وکار را گزارش می‌کنند.
حس‌گرها: تجهیزاتی حساس به تحرک فیزیکی در محیط هستند که موارد را به محض وقوع شناسایی و ثبت می‌کنند.
سیستم‌های اضطراری و تشخیص آتش‌سوزی: هدف کلی این سیستم‌ها، کنترل پروتکل‌های امنیت فیزیکی برای پیشگیری از آسیب جانی و مالی بر اثر وقوع حوادث مختلف است.
سیستم‌های امنیت سایبری: امروزه اغلب کسب‌وکارها به نحوی با داده‌ها و اطلاعات در فضای مجازی سر و کار دارند. بسیاری از این شرکت‌ها برای محافظت از دارایی‌های کسب‌وکار در فضای سایبری از نرم‌افزارهایی مانند آنتی‌ویروس، رمزنگاری داده‌ها، پایش ترافیک سایت و فایروال بهره می‌گیرند.

منبع

کاربردهای هوش مصنوعی در امنیت فیزیکی

مهم‌ترین قابلیت هوش مصنوعی در حوزه امنیت، کمک به شناسایی و اولویت‌بندی تهدیدات توسط کارشناسان امنیتی است. این تهدیدات به فضای سایبری محدود نیستند. کارشناسان امنیتی می‌توانند با استفاده از ابزارهای هوش مصنوعی در حوزه امنیت فیزیکی، از قابلیت‌هایی مانند پایش از راه دور، محافظت فیزیکی و کنترل دسترسی به صورت موثرتر، سریع‌تر و قدرتمندتر بهره ببرند.

هوش مصنوعی می‌تواند با تجزیه‌وتحلیل داده‌های جمع‌آوری شده توسط سیستم‌های امنیتی، فعالیت‌های مشکوک در یک محیط را از فعالیت‌های عادی تشخیص دهد و درمورد نحوه مقابله با آن‌ها تصمیم‌گیری کند. همان طور که گفته شد، یکی از پایه‌های فناوری هوش مصنوعی، یادگیری ماشین است. درنتیجه با گذر زمان و تمرین بیشتر، هوش مصنوعی می‌تواند دقت شناسایی خطرات را افزایش دهد و هشدارهای کاذب را کمینه کند. «پرسه‌زنی» افراد نامرتبط در یک محل، یکی از فعالیت‌هایی است که می‌تواند بیانگر وجود خطر احتمالی باشد. به طور مثال هوش مصنوعی می‌تواند افراد عبوری از کنار یک مدرسه را رصد و شناسایی کند. در صورت عبور افراد مشکوک به جرم، آن‌ها را شناسایی و بر اساس رویه‌های تعیین‌شده واکنش مناسب نشان دهد. 

با ترکیب هوش مصنوعی و فناوری رباتیک، قابلیت‌های جدیدی در خودکارسازی امنیت فیزیکی مهیا خواهد شد. برای مثال، اگرچه در حال حاضر پهپاد‌ها فقط توسط نیروی انسانی کنترل می‌شوند، اما در آینده با پیشرفت‌های فناوری، هوش مصنوعی می‌تواند وظیفه راهبری پهپادهای نظارت بر جاده‌ها و اماکن را نیز بر عهده بگیرد. در این صورت همان طور که ربات‌ها عملیات‌های تکراری، خسته‌کننده و خطرناک یک کسب‌وکار را انجام می‌دهند، یک پهپاد پلیس می‌تواند به شناسایی سریع‌تر تهدیدات و مقابله با آن‌ها کمک کند.

امروزه بسیاری از موارد کاربردی هوش مصنوعی در حوزه امنیت فیزیکی شامل تشخیص «سُر خوردن و افتادن» افراد در فروشگاه‌ها است. یک سیستم هوش مصنوعی مبتنی بر یادگیری ماشین، می‌تواند دوربین‌های مداربسته یک فروشگاه را پایش کند و در صورت وقوع حوادثی مانند سُر خوردن، زمین خوردن و سقوط مشتریان یا کارکنان، بلافاصله موارد را به کارکنان حراست اطلاع دهند. 

به طور کلی، هوش مصنوعی می‌تواند با خودکارسازی فعالیت‌هایی مانند تشخیص چهره، تشخیص پلاک خودرو، تحلیل و پایش ویدئوها، اقدامات واکنش سریع و پیش‌بینی روندهای مجرمانه حوزه امنیت فیزیکی را متحول کند.

منبع

کاربردهای هوش مصنوعی در حوزه امنیت سایبری

امروزه با پیشرفت روزافزون فناوری، تیم‌های امنیت سایبری هر روز با تهدیدات جدیدتری در فضای آنلاین روبرو هستند. حملات سایبری پیچیده و گسترده می‌توانند حجم‌های کلانی از داده را در معرض سوءاستفاده قرار دهند و خسارت‌های هنگفتی به افراد و شرکت‌ها وارد کنند. علاوه بر این، گاهی این حملات به قدری پیچیده هستند که نیروی انسانی متخصص قادر به شناسایی به موقع و رفع خطر نیستند. 

با توجه به کاربردهای هوش مصنوعی در امنیت فیزیکی، دور از ذهن نیست که هوش مصنوعی، انقلاب بعدی در زمینه دفاع سایبری را شکل دهد. لازم به ذکر است که قرار نیست هوش مصنوعی جایگزین کارشناسان امنیتی شود، بلکه به عنوان یک ابزار قدرتمند در اختیار آنان قرار می‌گیرد. 

در شیوه سنتی امنیت سایبری، کارشناسان به صورت دستی هشدارهای امنیتی و داده‌های ثبت شده را به دنبال خطرات احتمالی تجزیه‌وتحلیل می‌کنند. ابزارهای امنیتی مبتنی بر هوش مصنوعی می‌توانند داده‌های ردپای آنلاین کاربران را شناسایی کنند. آن‌ها تغییرات و روندهای غیرعادی در دسترسی به اطلاعات را پایش می‌کنند و در صورت شناسایی خطرات احتمالی، بلافاصله آن‌ها را به متخصصان امنیت سایبری هشدار می‌دهند. یک سیستم مدیریت ریسک بر پایه هوش مصنوعی می‌تواند خلاصه‌ای باکیفیت از وقایع تهیه کند و علاوه بر هشداردهی و ثبت وقایع، سرعت رسیدگی به حوادث و جرایم را بهبود دهد. 

معمولاً میزان امنیت با میزان دسترسی کاربران رابطه عکس دارد. به همین دلیل کارشناسان امنیتی باید میان ضوابط امنیتی و سطح دسترسی کاربران توازن ایجاد کنند. در این صورت، هوش مصنوعی می‌تواند علاوه بر تجزیه‌وتحلیل ریسک هر اقدام به ورود به سایت و رصد رفتار کاربران از طریق داده‌های آنلاین، فرآیندهای سایت را ساده‌سازی کنند و تجربه کاربری بهینه‌تری را برای بازدیدکنندگان رقم بزنند. 

به ادعای شرکت آی‌بی‌ام با استفاده از یک ابزار مناسب، هزینه‌های کلاهبرداری تا ۹۰ درصد کاهش خواهند یافت. همچنین سیستم‌های هوش مصنوعی می‌توانند از فیشینگ، انتشار بدافزارها و سایر فعالیت‌های سایبری خرابکارانه پیش‌گیری کنند و امنیت بیشتری را برای شرکت‌های آنلاین فراهم کنند.

انواع کاربرد هوش مصنوعی در حوزه امنیت 

هوش مصنوعی می‌تواند عملاً در تمام حوزه‌های یک جامعه ارزشمند باشد. ترکیب ناگزیر امنیت فیزیکی با امنیت سایبری فضایی را فراهم می‌کند که هوش مصنوعی می‌تواند در آن خودی نشان دهد. با این وجود، حوزه امنیت سایبری یکی از مهم‌ترین موارد کاربری هوش مصنوعی است. به تعدادی از کاربردهای اصلی هوش مصنوعی در این زمینه اشاره کردیم، اما هوش مصنوعی در حوزه امنیت کاربردهای جالب‌تری نیز دارد. 

شناسایی و شکار پهپادها: امروزه فناوری پرنده‌های هدایت‌پذیر از دور به اندازه‌ای پیشرفت کرده است که علاوه بر تولید گسترده پهپادهای نظامی، هر شخصی می‌تواند به راحتی و هزینه اندک یک پهپاد عادی خریداری و از آن سوءاستفاده کند. 

شرکت بریتانیایی OpenWorks Engineering یک سیستم خودکار شکار پهپاد به نام SkyWall را ارائه می‌کند. این سیستم به کمک هوش مصنوعی پهپادهای ناشناس موجود در مناطق غیرمجاز را شناسایی و شکار می‌کند.

شناسایی رواج بیماری‌های مسری: با تجربه همه‌گیری ویروس کووید ۱۹ در سال‌های اخیر، همه مردم جهان سطح خطر بیماری‌های مسری و تأثیر آن در امنیت جوامع را از نزدیک لمس کردند. خوشبختانه شرکت‌های هوش مصنوعی به حوزه درمان نیز قدم گذاشته‌اند. به‌طور مثال، انستیتو آیوروِدا هند (AIIA) در سال ۲۰۲۲ توسط نخست ‌وزیر هند تأسیس شد که فعالیت آن در حوزه آموزش، درمان و شناسایی شیوع بیماری‌های مسری است.
امنیت منازل: ارزش بازار امنیت هوشمند منازل در سال ۲۰۲۴ در حدود ۳۲.۵ میلیارد دلار تخمین زده می‌شود. این حوزه بخش مهمی از موفقیت خود را مدیون هوش مصنوعی است. برای نمونه شرکت قبرسی Monitoreal یک دستیار هوشمند امنیتی ارائه می‌کند که با پردازش تصویر اشیا توسط هوش مصنوعی، جابجایی آن‌ها را در نور کم و فواصل زیاد تشخیص می‌دهد و خطرات احتمالی را به صاحب خانه گزارش می‌دهد.
تشخیص خطر در رویدادهای بزرگ اجتماعی: شرکت آمریکایی Evolv Technology یک سیستم امنیتی بر پایه هوش مصنوعی را ارائه می‌کند که می‌تواند با فناوری تشخیص چهره، فلزیاب و تجزیه‌وتحلیل ویدئوهای امنیتی، افراد مشکوک به فعالیت خرابکارانه را شناسایی کند.

منبع

معرفی چند هوش مصنوعی در امنیت سایبری

با پیشرفت‌های سریع در فناوری هوش مصنوعی، کسب‌وکارهای مختلف از ابزارهای متنوع هوش مصنوعی برای افزایش کارایی، بهبود کیفیت تصمیم‌گیری و ارتقای کارآمدی بهره می‌برند. اما هرچقدر هوش مصنوعی و فناوری‌های رایانه‌ای گسترش می‌یابند، احتمال خراب‌کاری و حملات سایبری نیز افزایش پیدا می‌کند. 

در سال ۲۰۲۱ ضرر ناشی از تهدیدات امنیت سایبری به مبلغ خیره‌کننده ۶ تریلیون دلار برآورد می‌شد.  در این شرایط، شرکت‌ها به ابزارهایی نیاز دارند که به کمک هوش مصنوعی، از امنیت سایبری کسب‌وکار آن‌ها صیانت کنند. در ادامه مطلب به معرفی چند مورد از مهم‌ترین ابزارهای هوش مصنوعی در حوزه امنیت سایبری می‌پردازیم.

Darktrace: یک پلتفرم امنیت سایبری بر پایه هوش مصنوعی است که به کمک یادگیری ماشین و الگوریتم‌های هوش مصنوعی، حملات سایبری را در لحظه شناسایی و با آن مقابله می‌کند. «سیستم ایمنی سازمانی دارک‌تریس» به صورت خودکار رویه‌های تجاری سازمان‌ها، رفتار کاربران، ترافیک و فعالیت دستگاه‌ها را یاد می‌گیرد و خود را با شبکه یک سازمان تطبیق می‌دهد. 
Cylance: شرکتی تحت مدیریت بلک‌بری است که ابزارهای امنیتی هوش مصنوعی ارائه می‌دهد. هوش مصنوعی سای‌لنس به کمک الگوریتم‌های یادگیری ماشین از تهدیدهای شناخته شده و ناشناخته جلوگیری می‌کند و در صورت وقوع، به آن پاسخ می‌دهد. 
Vectra AI: هوش مصنوعی وکترا ابزاری امنیتی برای تشخیص و مقابله با حملات پیشرفته سایبری است. این پلتفرم با استفاده از روشی به نام تشخیص شبکه و پاسخ (NDR) و با کمک یادگیری ماشین با تهدیدات پنهان، حملات داخلی و سایر حملات سایبری پیشرفته مقابله می‌کند.
Tessian: پلتفرم تسیان با استفاده از یک هوش مصنوعی رفتار محور، از نشت و سرقت داده‌ها توسط حملات ایمیلی جلوگیری می‌کند. همچنین شرکت‌ها با استفاده از تسیان می‌توانند از حملات سایبری مبتنی بر فیشینگ، نشت اتفاقی داده‌ها و فعالیت غیرعادی ایمیلی جلوگیری کنند.

مشکلات استفاده از هوش مصنوعی در حوزه امنیت سایبری

در این مطلب به تعدادی از مزیت‌های استفاده از هوش مصنوعی در حوزه امنیت اشاره کردیم. با این وجود، افزایش روزافزون محبوبیت هوش مصنوعی به این معنا نیست که حوزه‌ای عاری از مشکل است. هوش مصنوعی یک فناوری جوان است و اتکای کامل به آن، آن هم در حوزه امنیت سایبری، ریسک‌های مختلفی را به همراه دارد. در ادامه به مهم‌ترین مشکلات استفاده از این فناوری در حوزه امنیت سایبری اشاره می‌کنیم.

سوگیری (Bias) و تبعیض در تصمیم‌گیری: یکی از مشکلات کنونی هوش مصنوعی، وجود سوگیری در فرآیند تصمیم‌گیری است. این مسئله از منابع دیگری از قبیل بانک‌های داده حاوی اطلاعات جانب‌دارانه و الگوریتم‌های ناقص نشأت می‌گیرد. در صورت عدم مدیریت صحیح، این سوگیری‌ها ممکن است به تصمیم‌گیری‌هایی منجر شوند که گروه‌های مشخصی از مردم را مورد تبعیض قرار دهند. مثلاً، یک هوش مصنوعی ممکن است با یک تصمیم‌گیری جانب‌دارانه، فعالیت و دسترسی تعدادی از کاربران عادی و معتبر را به اشتباه مسدود کند. در این صورت کارآمدی شرکت و مشتریان آن کاهش می‌یابند.
ابهام و کمبود شفافیت: همه الگوریتم‌هایی که هوش مصنوعی از آن‌ها برای تصمیم‌گیری درمورد هشدار تهدیدات استفاده می‌کند شفاف نیستند. عدم شفافیت ممکن است شما را در برابر سوگیری و دستکاری اطلاعات آسیب‌پذیر کند. به عبارت دیگر، در مواقعی هوش مصنوعی نمی‌تواند به خوبی دلیل یک تصمیم‌گیری را بیان کند. 

هوش مصنوعی در طی تشخیص الگوهای موردنظر، بسیاری از الگوهای شناسایی نشده را نادیده می‌گیرد و در صورت عدم شفافیت تجزیه‌وتحلیل، برخی از حفره‌های امنیتی شناسایی نمی‌شوند. به همین دلیل در صورت وجود خطا در هوش مصنوعی، یک تصمیم‌گیری اشتباه می‌تواند خطرات جبران‌ناپذیری را برای امنیت سایبری سازمان‌ها رقم بزند. 

به‌کارگیری اشتباه یا سوءاستفاده: همان‌طور که من و شما به هوش مصنوعی دسترسی داریم، افراد خرابکار نیز می‌توانند از آن برای پیش‌برد اهداف مجرمانه استفاده کنند. الگوریتم‌های هوش مصنوعی برای جستجو در مجموعه‌های عظیم داده طراحی می‌شوند به همین دلیل جذابیت زیادی برای هکرها دارند. 

مجرمان سایبری می‌توانند به کمک هوش مصنوعی بدافزارهای جدیدی را تولید کنند که توسط سیستم‌های امنیت سایبری قابل تشخیص نیستند. طراحی حملات جدید و پیچیده فیشینگ، تجزیه‌وتحلیل سریع داده‌ها و دستیابی راحت‌تر به حفره‌های امنیتی، تولید صدا و ویدئوی جعلی (Deepfake) و تولید ابزارهای جدید برای هک، نمونه‌هایی از مزیت‌های هوش مصنوعی برای تبهکاران سایبری است.

نگرانی مدیران کسب‌وکار از مشکلات امنیتی هوش مصنوعی: بر اساس تحقیقات شرکت BlackBerry حدود ۷۵ درصد سازمان‌ها در سراسر جهان از ممنوعیت استفاده از چت‌جی‌پی‌تی و سایر نرم‌افزارهای هوش مصنوعی خلاق حمایت می‌کنند. مدیران سازمانی در تمام سطوح مدیریتی به دنبال ممنوعیت استفاده از هوش مصنوعی هستند و علت آن را مشکلات امنیتی و به وجود آمدن خطرات سایبری می‌دانند. 

یکی از اولین شرکت‌های بزرگی که استفاده از ابزارهای هوش مصنوعی را برای کارکنان خود ممنوع کرد Samsung بود. این خط مشی بلافاصله پس از یک نشت اتفاقی اطلاعات حساس این شرکت در چت‌جی‌پی‌تی پیش گرفته شد. 

منبع

هوش مصنوعی در خدمت ۵C  امنیت سایبری

امروزه هر شرکت کوچک و بزرگی به فناوری‌های مختلفی وابسته است. بسیاری از آن‌ها فعالیت خود را در بستر ابر و موبایل متمرکز کرده اند. این واقعیت آن‌ها را به هدفی جذاب برای حملات سایبری تبدیل می‌کند. 

شرکت‌های کوچک از هر حمله سایبری به طور متوسط ۲۰۰ هزار دلار ضرر می‌بینند. این میزان درمورد شرکت‌های بزرگتر میلیونی است. با اوج‌گیری فناوری هوش مصنوعی، می‌توان آن را شمشیری دولبه تصور کرد. هوش مصنوعی ابزاری مفید است که در صورت سوءاستفاده، ابزار قدرتمندی برای طراحی و اجرای حملات سایبری خواهد بود. 

شرکت‌های امنیتی پیشرو

هرچقدر تقاضا برای دفاع سایبری افزایش پیدا می‌کند، اندازه بازار فناوری‌های امنیتی نیز اوج می‌گیرد. اگر به دنبال شناخت بهتر این بازار هستید، در ادامه این مطلب با برترین شرکت‌های پیشرو در حوزه امنیت دیجیتال آشنا خواهید شد. این شرکت‌ها بازار فناوری امنیت سایبری جهان را در دست دارند و با نوآوری‌های متفاوت خود، درآمدهای قابل توجهی کسب کرده‌اند.

Zscaler (ارزش بازاری: ۱۵.۳۸ میلیارد دلار)

زی‌اسکیلر یک شرکت امنیتی است که برای سازمان‌ها خدمات امنیت ابری ارائه می‌کند. این شرکت در سال ۲۰۰۷ در سن‌هوزه کالیفورنیا تأسیس شد و در سال ۲۰۱۲ از سرمایه‌گذاران استراتژیک ۳۸ میلیون دلار سرمایه جذب کرد. عرضه عمومی اولیه Zscaler حدود ۱۹۲ میلیون دلار ارزش گذاری شد. درآمد سالانه این شرکت در سال ۲۰۲۲ به ۱.۹۲ میلیارد دلار رسید.

Cloudflare (ارزش بازاری: ۲۰.۰۵ میلیارد دلار)

شرکت کلادفلر یکی از مشهورترین ارائه‌دهندگان خدمات امنیتی و تشخیص مخاطرات آنلاین در جهان است. این شرکت در سال ۲۰۰۹ در کالیفرنیا تأسیس شد. کلادفلر علاوه بر ارائه خدمات امنیتی برای سازمان‌ها خدمات تحویل محتوا و ثبت دامنه را نیز انجام می‌دهد. به گزارش نشریه The Hill در سال ۲۰۲۲ بیش از ۲۰ درصد دنیای اینترنت از خدمات امنیتی این شرکت استفاده می‌کردند. درآمد سالانه این شرکت در سال ۲۰۲۲ به ۹۷۵ میلیون دلار رسید.

CrowdStrike Holdings (ارزش بازاری: ۳۰.۶۳ میلیارد دلار)

شرکت امنیت سایبری واقع در آستن تگزاس است که در سال ۲۰۱۱ تأسیس شد. خدمات ابری، تشخیص هوشمند تهدیدات و مقابله با خدمات سایبری ازجمله خدمات این شرکت است. در سال ۲۰۱۵ شرکت گوگل در تأمین مالی راند C و سپس D و E این شرکت در مجموع ۴۸۰ میلیون دلار سرمایه‌گذاری کرد. عرضه عمومی اولیه CrowdStrike در سال ۲۰۱۹ انجام و ۶.۷ میلیارد دلار ارزش‌گذاری شد.

Fortinet (ارزش بازاری: ۵۲.۵۳ میلیارد دلار)

فورتینت یک شرکت نرم‌افزاری واقع در کالیفرنیا است که در سال ۲۰۰۰ تأسیس شد. طراحی و فروش خدمات امنیتی شامل فایروال، امنیت مقصد، وی‌پی‌ان، مدیریت اسپم و سیستم‌های تشخیص نفوذ است. این شرکت طی سال‌های ۲۰۰۰ تا ۲۰۰۳ از طریق سرمایه‌گذاران بخش خصوصی ۱۳ میلیون دلار سرمایه جذب کرد. در سال ۲۰۲۲ درآمد سالانه فورتینت به ۴.۴۲ میلیارد دلار رسید.

Palo Alto Networks (ارزش بازاری: ۵۸.۳۵ میلیارد دلار)

پالو آلتو نتورکس یک شرکت امنیت سایبری چند ملیتی است که در سال ۲۰۰۵ در سانتا کلارای کالیفرنیا تأسیس شد. خدمات اصلی این شرکت شامل فایروال‌های پیشرفته و خدمات ابری امن است. بیش از ۷۰ هزار شرکت در بیش از ۱۵۰ کشور از خدمات امنیتی این شرکت استفاده می‌کنند. در سال ۲۰۲۳ درآمد سالانه این شرکت ۶.۸۹ میلیارد دلار بود.

۵c در امنیت سایبری 

در دنیای پیچیده امروزی، کسب‌وکارها دائماً با تهدیدات سایبری دست و پنجه نرم می‌کنند. با وجود پیشرفت و گسترش ابزارهای آنلاین، بهره بردن از ابزارهای امنیتی مناسب و مؤثر، امری حیاتی است. بهتر است شرکت‌های کوچک و بزرگ پیش از تصمیم‌گیری درمورد انتخاب خدمات امنیت سایبری با مفهوم ۵ C امنیت سایبری آشنا باشند:

Change (تغییر): در جهان امروزی فناوری‌های دیجیتال همواره در معرض تغییر هستند. کسب‌وکارها باید بتوانند خدمات خود را با استفاده از ابزارهای جدید تغییر دهند و سیستم‌های خود را بروز نگه دارند. عدم مقاومت در برابر تغییر باعث می‌شود یک شرکت در برابر تهدیدات جدید به سرعت واکنش مناسب نشان دهد.
Compliance (قانون‌مداری): با رشد روزافزون تهدیدات سایبری، نهادهای نظارتی و قانون‌گذار خط مشی مبارزه با خطرات سایبری را تعیین می‌کنند. این قانون‌مداری تنها به معنای هماهنگی با نهادهای دولتی و امنیتی نیست؛ شرکت‌ها باید در برابر صیانت از داده‌های کاربران و مشتریان خود متعهد باشند.
Cost (هزینه): در مورد امنیت سایبری، بحث هزینه در دو حوزه کلی مطرح است. سرمایه‌گذاری در سیستم‌ها و خدمات امنیتی و همچنین هزینه‌های مالی وقوع خطرات امنیتی احتمالی.
Continuity (تداوم): در جهان امروزی تداوم یک کسب‌وکار، آن هم پس از وقوع یک مشکل امنیتی، امری بسیار حائز اهمیت است. یک حمله سایبری ممکن است برای یک شرکت فاجعه بار باشد. به همین دلیل برنامه‌ریزی برای نحوه ادامه فعالیت‌ها پس از وقوع چنین حوادثی برای شرکت‌ها حیاتی است.
Coverage (پوشش و شمول): به معنای محافظت جامع از تمام دارایی‌های فیزیکی و دیجیتال است. درست است که حملات سایبری معمولا به بخش دیجیتال یک سازمان ضربه می‌زنند، اما نباید امنیت دارایی‌های فیزیکی را فراموش کرد. بسیاری از سیستم‌های امنیتی دیجیتال علاوه بر محافظت از داده‌ها، ابزارهایی برای محافظت فیزیکی از تجهیزات، دارایی‌ها و اماکن یک سازمان را نیز فراهم می‌کنند.

پس از شناخت مهم‌ترین ویژگی‌ها و قابلیت‌های هوش مصنوعی در حوزه امنیت سایبری، مدیران کسب‌وکار تنها وقتی می‌توانند از هوش مصنوعی برای تضمین امنیت فیزیکی و دیجیتال کسب‌وکار خود استفاده کنند که با ویژگی‌های کلیدی خدمات هوش مصنوعی نیز آشنا باشند. در ادامه به معرفی ۵ C هوش مصنوعی می‌پردازیم. 

Communication (برقراری ارتباط): عملکرد فناوری هوش مصنوعی در حالت کنونی خود بسیار محدود است. اما بسیاری از ابزارهای هوش مصنوعی مانند Siri و Alexa توانایی خوبی در برقراری ارتباط با کاربران از خود نشان داده‌اند. ابزارهای هوش مصنوعی برای ارائه خدمات ارزشمند باید بتوانند با تجزیه‌وتحلیل داده‌ها و اطلاعات، با کاربران و سایر پلتفرم‌های آنلاین ارتباط برقرار کنند.
Control (پایش و راهبری): سیستم‌های تجزیه‌وتحلیل مبتنی بر هوش مصنوعی می‌توانند با رصد انواع منابع داده، شرایط سیستم و رفتار کاربران را بسنجند و بدون نیاز به دخالت انسان، راهبری بخش‌های مختلف سیستم را بر عهده بگیرند. 
Consumption (مصرف): شکی در این نیست که قابلیت شخصی‌سازی یکی از جذاب‌ترین ویژگی‌های خدمات نرم‌افزاری است. ابزارهای هوش مصنوعی با هدف جلب رضایت کاربران، تجربه کاربری آن‌ها را به روش‌های مختلف شخصی‌سازی می‌کنند تا تجربه بهتری را برای مصرف‌کننده رقم بزنند.
Creation (خلق کردن): دستیابی به خلاقیت، مهم‌ترین آرزوی متخصصان هوش مصنوعی است. هوش مصنوعی به صورت ذاتی طراحی شده تا به صورت غیرخطی فکر کند و درمورد شرایط جدید تصمیم مناسب بگیرد.
Compliance (قانون‌مداری): در دنیای امروز، بسیاری از شرکت‌ها و نهادهای نظارتی در مورد هوش مصنوعی شک و تردید دارند. در چنین شرایطی، برای ابزارهای هوش مصنوعی ضروری است که از خط مشی قانون و قواعد اخلاقی پیروی کنند. سازمان‌ها باید اطمینان حاصل کنند که هوش مصنوعی بر اساس اصول قانونی، استانداردهای صنعتی و امنیت اطلاعات فعالیت می‌کند.

کلام آخر

به‌کارگیری هوش مصنوعی در حوزه امنیت، نحوه صیانت از داده‌ها، اطلاعات و مقابله با تهدیدات سایبری را دگرگون کرده است. هوش مصنوعی می‌تواند منابع عظیمی از داده را به سرعت تجزیه‌وتحلیل کند. در نتیجه می‌تواند الگوهای مختلف تغییرات در داده‌ها، نحوه کار سیستم‌ها و رفتار افراد را شناسایی کند و در صورت تشخیص هرگونه خطر فیزیکی یا دیجیتالی، به سرعت درمورد اقدامات موردنیاز تصمیم‌گیری کند. با این وجود نباید فراموش کرد که هوش مصنوعی یک فناوری جوان است و در آینده پیشرفت‌های شگرفی را در آن شاهد خواهیم بود. 

هوش مصنوعی یک شمشیر دولبه است و علاوه‌بر کاربردهای مثبت فراوان، می‌تواند ابزاری در دستان هکرها و مجرمان سایبری باشد. اگر کسب‌وکارها می‌خواهند در عصر انقلاب هوش مصنوعی جان سالم به در ببرند، بهتر است تیم امنیتی سازمان خود را به توانایی‌های هوش مصنوعی در حوزه امنیت فیزیکی و سایبری مجهز کنند. بهره‌مندی از یک چارچوب مطمئن و پشتوانه فناوری هوش مصنوعی می‌تواند از آینده کسب‌وکارها حفاظت کند.

نوشته هوش مصنوعی در حوزه امنیت+ مزایا، فرصت ها و مشکلات اولین بار در هفته‌نامه شنبه. پدیدار شد.