هوش مصنوعی DeepSeek مستقر در چین، ثبت نام های جدید را در میان حملات سایبری و نگرانی های امنیتی فزاینده محدود می کند

استارت‌آپ چینی هوش مصنوعی DeepSeek به سرعت در دنیای هوش مصنوعی مورد توجه قرار گرفته است، اما با افزایش محبوبیت آن، مجموعه‌ای از چالش‌ها در حال رشد است. این شرکت اخیراً به دلیل آنچه حملات مخرب در مقیاس بزرگ به خدمات خود توصیف می کند، ثبت نام کاربران جدید را محدود کرده است. در حالی که کاربران موجود می توانند به این پلتفرم دسترسی داشته باشند، ثبت نام های جدید به طور موقت محدود شده است.

این وضعیت تهدیدهای امنیتی فزاینده ای را که پلتفرم های هوش مصنوعی با آن مواجه هستند برجسته می کند و نگرانی هایی را در مورد پیامدهای گسترده تر امنیت هوش مصنوعی، حریم خصوصی و تنش های ژئوپلیتیکی پیرامون شرکت های فناوری چینی ایجاد می کند.

حملات سایبری که DeepSeek را هدف قرار می دهند

DeepSeek جزئیاتی در مورد ماهیت این حملات فاش نکرده است، اما کارشناسان امنیت سایبری معتقدند که این حملات می‌تواند ترکیبی از حملات انکار سرویس توزیع شده (DDoS)، استخراج سریع سیستم و تلاش‌های فرار از زندان با هدف دور زدن محدودیت‌های محتوا یا دستکاری رفتار هوش مصنوعی باشد.

به گفته استوارت میلار، مهندس اصلی هوش مصنوعی در Rapid7، مهاجمان می‌توانند پاسخ‌های DeepSeek را به سؤالات حساس آزمایش کنند، سعی کنند پیام‌های سیستم را استخراج کنند یا سعی کنند نحوه عملکرد هوش مصنوعی را تغییر دهند. یک استخراج سریع سیستم موفق می‌تواند دستورالعمل‌های اختصاصی را آشکار کند و به طور بالقوه آسیب‌پذیری‌های هوش مصنوعی را در معرض بهره‌برداری بیشتر قرار دهد.

محقق امنیت سایبری اریش کرون از KnowBe4 اشاره کرد که چنین حملاتی می تواند توسط عوامل مختلفی ایجاد شود:

• اخاذی - مهاجمان ممکن است در ازای توقف اختلالات، درخواست پرداخت باج کنند.
• خرابکاری شرکتی – رقبا می توانند برای تضعیف شهرت و موقعیت DeepSeek در بازار تلاش کنند.
• حفاظت از سرمایه‌گذاری – نهادهایی که در پروژه‌های هوش مصنوعی رقیب سرمایه‌گذاری می‌کنند ممکن است DeepSeek را یک تهدید ببینند و به دنبال تضعیف آن باشند.

ظهور Meteoric DeepSeek در دنیای هوش مصنوعی

DeepSeek که در سال 2023 تأسیس شد، به سرعت خود را به عنوان یک رقیب اصلی در مسابقه هوش مصنوعی معرفی کرد. مدل‌های این شرکت، از جمله DeepSeek-V3، به دلیل توانایی‌شان در رقابت و حتی پیشی گرفتن از مدل‌های هوش مصنوعی غربی مانند GPT OpenAI و LLaMA متا، در حالی که با کسری از هزینه آموزش می‌بینند، خبرساز شده‌اند.

برنامه چت بات iOS آن اخیراً به صدر جدول برنامه های رایگان اپل در ایالات متحده و بریتانیا صعود کرده است و حتی از نظر محبوبیت از ChatGPT OpenAI پیشی گرفته است.

عامل اصلی موفقیت DeepSeek کارایی آن است. این شرکت ادعا می‌کند که مدل DeepSeek-V3 در مقایسه با همتایان Silicon Valley به ساعت‌های GPU بسیار کمتری نیاز دارد. با تحریم های ایالات متحده که فروش تراشه های هوش مصنوعی پیشرفته به شرکت های چینی را محدود می کند، این کارایی به یک مزیت رقابتی حیاتی تبدیل شده است.

علیرغم این پیشرفت‌های تکنولوژیکی، DeepSeek به دلیل سیاست‌های سانسور و خطرات بالقوه امنیت ملی مرتبط با شیوه‌های ذخیره‌سازی داده‌های آن، بحث‌برانگیز باقی مانده است.

نقص های امنیتی و نگرانی های حفظ حریم خصوصی

DeepSeek در گذشته با آسیب‌پذیری‌های امنیتی روبرو بوده است، از جمله یک سوء استفاده سریع از تزریق که توسط محقق امنیتی Johann Rehberger کشف شده است. این نقص می توانست به مهاجمان اجازه دهد تا حساب های کاربری را با استفاده از یک بار اسکریپت بین سایتی (XSS) که در پاسخ های تولید شده توسط هوش مصنوعی تعبیه شده است، تصاحب کنند.

علاوه بر این، یک گزارش اطلاعاتی تهدیدات اخیر توسط Kela نشان داد که مدل‌های هوش مصنوعی DeepSeek در برابر حملات جیلبریک که آنها را قادر می‌سازد محتوای غیراخلاقی و غیرقانونی تولید کنند، آسیب‌پذیر هستند، از جمله:

• تولید کد باج افزار
• جعل اطلاعات نادرست
• راهنمای گام به گام ساخت مواد منفجره و سموم
• دستورالعمل های توسعه بدافزار

این یافته‌ها نگرانی‌های اخلاقی جدی را در مورد نحوه سوء استفاده از هوش مصنوعی در صورت عدم ایمن سازی مناسب ایجاد می‌کند.

علاوه بر این، سیاست حفظ حریم خصوصی DeepSeek نشان می دهد که داده های کاربر - از جمله اطلاعات دستگاه، جزئیات شبکه و داده های پرداخت - در سرورهای واقع در چین ذخیره می شود. این نگرانی‌ها را در کشورهای غربی، به‌ویژه ایالات متحده، برانگیخته است، جایی که نیروی دریایی ایالات متحده اخیراً به پرسنل توصیه کرد به دلیل خطرات امنیتی و اخلاقی احتمالی از استفاده از DeepSeek خودداری کنند.

مقام حفاظت از داده های ایتالیا نیز تحقیقاتی را آغاز کرده و از DeepSeek خواسته است تا نحوه جمع آوری، ذخیره و پردازش داده های کاربران را روشن کند. این شرکت 20 روز فرصت دارد تا به سوالات مربوط به منابع داده، توجیهات قانونی پردازش و اینکه آیا آموزش مدل هوش مصنوعی شامل خراش دادن داده ها می شود پاسخ دهد.

رقابت هوش مصنوعی جدید در میان تنش های ژئوپلیتیک

ظهور DeepSeek بُعد جدیدی به رقابت جهانی هوش مصنوعی می‌افزاید، به‌ویژه با ادامه تشدید تنش‌های فناوری آمریکا و چین. جامعه هوش مصنوعی به این موضوع توجه کرده است و مدیر عامل OpenAI، سام آلتمن، مدل استدلال DeepSeek را "تأثیرگذار" خواند و آن را به عنوان یک رقیب قانونی تصدیق کرد.

جالب اینجاست که جیم فن از NVIDIA خاطرنشان کرد که DeepSeek با تمرکز بر تحقیقات باز و دسترسی گسترده، «ماموریت اصلی OpenAI را زنده نگه می‌دارد» - بیانیه‌ای که به طرز ماهرانه‌ای از تغییر اخیر OpenAI به سمت مدل‌های منبع بسته انتقاد می‌کند.

در همین حال، چین از موضع خود در قبال مقررات فناوری دفاع کرده و ادعا می کند که به شرکت های جهانی هوش مصنوعی اجازه می دهد تا زمانی که از قوانین محلی پیروی می کنند، فعالیت کنند. با این حال، نگرانی‌ها در مورد اینکه چگونه شرکت‌های هوش مصنوعی چینی ممکن است تحت تأثیر مقررات دولتی، سیاست‌های سانسور و دستورالعمل‌های امنیت ملی قرار بگیرند، همچنان باقی است.

لحظه ای مهم برای امنیت هوش مصنوعی

ظهور DeepSeek نشان می‌دهد که چین در حال برداشتن گام‌های جدی در توسعه هوش مصنوعی است، اما همچنین بر چالش‌های رو به رشد امنیت سایبری که شرکت‌های هوش مصنوعی با آن روبرو هستند، تاکید می‌کند. چه حملات سایبری مخرب، نگرانی‌های مربوط به حریم خصوصی یا بررسی‌های ژئوپلیتیکی باشد، سفر DeepSeek بر تعامل پیچیده بین نوآوری هوش مصنوعی، امنیت و سیاست جهانی تأکید می‌کند.

برای کاربران، این رویدادها یادآوری می‌کنند که باید در مورد پلتفرم‌های هوش مصنوعی که داده‌های حساس را مدیریت می‌کنند، محتاط باشند، به‌ویژه آنهایی که دارای خط‌مشی‌های حریم خصوصی مبهم و آسیب‌پذیری‌های امنیتی بالقوه هستند. همانطور که هوش مصنوعی به تکامل خود ادامه می دهد، اطمینان از اقدامات امنیت سایبری قوی و شیوه های داده شفاف برای شرکت هایی که به دنبال حفظ اعتماد کاربران و اعتبار جهانی هستند، بسیار مهم خواهد بود.