تجاوز به محدودیت‌ها در دنیای هوش مصنوعی: استارتاپی که مدل‌های بدون سانسور را عرضه می‌کند

مقدمه‌ای بر چالش‌های محدودیت‌های هوش مصنوعی

در سال‌های اخیر، توسعه مدل‌های قدرتمند هوش مصنوعی متن‌باز، توجه زیادی را به خود جلب کرده است. این مدل‌ها که به صورت عمومی در دسترس قرار دارند، به توسعه‌دهندگان و پژوهشگران امکان می‌دهند در زمینه‌های مختلف نوآوری کنند. اما در مقابل، محدودیت‌ها و فیلترهای امنیتی که برای جلوگیری از پاسخ‌های مخرب و نادرست طراحی شده‌اند، همچنان چالشی جدی محسوب می‌شوند.

تکنیک‌های مقابله با محدودیت‌ها در فضای فناوری

در پاسخ به این محدودیت‌ها، توسعه‌دهندگان و فعالان حوزه فناوری به دنبال راه‌حل‌هایی برای دور زدن این سدها هستند. یکی از این راه‌حل‌ها، فرآیندی است که به آن «ابلیتریشن» گفته می‌شود. این فرآیند، وزن‌های داخلی مدل‌های هوش مصنوعی را تغییر می‌دهد تا رفتارهای محدود کننده را کاهش دهد و دسترسی به مدل‌های بدون سانسور میسر شود.

نقش استارتاپ‌ها در این حوزه

شرکت‌های نوپایی مانند Abliteration.ai با ارائه سرویس‌هایی که امکان دسترسی آسان و سریع به مدل‌های بدون محدودیت را فراهم می‌کنند، در حال تغییر قواعد بازی هستند. این استارتاپ‌ها، با میزبانی مستقیم مدل‌های تغییر یافته روی سرورهای خود، فرآیند استفاده از این فناوری‌ها را برای کاربران ساده‌تر و بدون نیاز به سخت‌افزارهای قدرتمند می‌کنند.

پیشرفت‌ها و چالش‌های فناوری ابلیتریشن

پژوهش‌ها نشان می‌دهد که الگوی امتناع در مدل‌های زبانی پس از آموزش، به صورت داخلی و در وزن‌های مدل قرار دارد. با تضعیف این الگو، پاسخ‌های مخرب و محدودکننده کاهش می‌یابد و بالعکس، رد درخواست‌های بی‌خطر افزایش می‌یابد. فرآیند ابلیتریشن، بر اساس این یافته‌ها، با تغییر وزن‌های مدل، این رفتارها را قابل کنترل می‌سازد.

در ماه‌های اخیر، تعداد نسخه‌های تغییر یافته و بدون محدودیت این مدل‌ها به طور قابل توجهی افزایش یافته است. این نسخه‌ها، که از شرکت‌هایی مانند متا و گوگل منشأ گرفته‌اند، میلیون‌ها بار دانلود شده‌اند و کاربران به راحتی می‌توانند با آن‌ها گفتگو کنند، بدون آنکه محدودیت‌های قبلی را رعایت کنند.

اثرات و پیامدهای این فناوری‌ها

در حالی که دسترسی آزاد و بی‌مرز به مدل‌های هوش مصنوعی می‌تواند نوآوری را افزایش دهد، خطرات امنیتی و اخلاقی بسیاری را نیز به همراه دارد. امکان استفاده نادرست از این فناوری‌ها، تهدیدهای جدیدی برای حریم خصوصی و امنیت سایبری ایجاد می‌کند. بنابراین، موازنه بین دسترسی آزاد و کنترل‌های امنیتی، همواره یکی از چالش‌های اصلی در این حوزه است.

جمع‌بندی

در نهایت، توسعه فناوری‌هایی مانند ابلیتریشن، نشان می‌دهد که مرزهای فناوری هوش مصنوعی در حال تغییر هستند و نیازمند رویکردهای جدید در مدیریت و نظارت بر این فناوری‌ها است. آینده این حوزه، نیازمند تعادل میان نوآوری و مسئولیت‌پذیری است تا از بهره‌برداری نادرست جلوگیری شود و امنیت و اخلاق در کنار پیشرفت‌های فناوری حفظ گردد.

وقتی هوش مصنوعی به یک «بیمار روانی» تبدیل می‌شود!

ساخت حساب کاربری در پلتفرم Abliteration.ai و آغاز گفتگو با نسخه اصلاح‌شده‌ی GLM-5.3 تنها چند دقیقه زمان می‌برد. ربکا بلان، خبرنگار وبسایت تک کرانچ، با دو درخواست غیرمعمول که خارج از چارچوب استانداردهای معمول هوش مصنوعی بودند، توانایی و رفتار مدل را به چالش کشید.

پس از ایجاد حساب رایگان، تیم تک کرانچ نسخه تغییر یافته‌ی GLM-5.3 را مورد آزمایش قرار داد. این مدل در مقابل درخواست‌هایی که معمولا هوش مصنوعی‌های استاندارد از پاسخ دادن امتناع می‌کنند، پاسخ‌گویی نشان داد. در آزمون اول، بلان از مدل خواست تا یک برنامه پایتون برای سرقت رمزهای عبور ذخیره‌شده در مرورگر کروم بنویسد، و در آزمون دوم، از مدل خواست تا پروتکل گام‌به‌گام برای کشتن یک پاتوژن خطرناک در محیط خانگی ارائه دهد. هوش مصنوعی بدون کوچک‌ترین هشدار، هر دو درخواست را اجرا کرد.

منتقدان نگرانند که در دسترس قرار گرفتن چنین مدل‌هایی، در مقیاس وسیع، می‌تواند منجر به آسیب‌های جدی و فاجعه‌بار شود. اندرو یون، مدیر تحقیقات سازمان غیرانتفاعی ایمنی هوش مصنوعی CivAI، معتقد است که فرآیند «ابلیتریشن» مدل‌ها را به گونه‌ای تغییر می‌دهد که گویی به یک بیمار روانی تبدیل شده‌اند.

نسخه‌های دست‌کاری‌شده این مدل‌ها بدون هیچ هشدار و کنترل، توانایی تولید کدهای مخرب را دارند. به گفته یون، کاربر می‌تواند هر چیزی را در این سیستم تایپ کند و مدل بی‌درنگ و بی‌وقفه، آن را اجرا می‌کند. او پیش‌بینی می‌کند که در آینده نزدیک، شاهد استفاده گسترده از این مدل‌های بی‌محدود برای اهداف مخرب و شوم خواهیم بود.

شرکت Abliteration.ai هنوز از روش‌های معتبر برای احراز هویت و شناسایی مشتریان (KYC) استفاده نمی‌کند و تنها به اطلاعات کارت اعتباری مشتریان برای پرداخت هزینه‌ها دسترسی دارد. مدیران این استارتاپ در حال بررسی راهکارهای مناسب برای کنترل دسترسی به مدل‌های بدون سانسور هستند، اما هنوز تصمیم قطعی گرفته نشده است.

هزینه‌های استارتاپ چگونه تأمین می‌شود؟

دوون، هم‌بنیان‌گذار استارتاپ، که تمایلی به فاش کردن نام خانوادگی‌اش ندارد، اعلام کرد این پروژه با چند ارائه‌دهنده‌ی بزرگ خدمات ابری قرارداد دارد و هزینه‌های زیرساخت‌ها صرفاً از درآمدهای حاصل از فروش خدمات به مشتریان پرداخت می‌شود.

این استارتاپ هنوز هیچ سرمایه‌گذاری خطرپذیر رسمی جذب نکرده است، اما در حال مذاکره با برخی شرکت‌ها برای جذب سرمایه است. در عین حال، این شرکت در حال ارزیابی روش‌های توسعه و بهبود پلتفرم خود است تا بتواند نیازهای بازار و نگرانی‌های امنیتی را برآورده سازد.

پلتفرم Abliteration.ai، بر اساس ارزیابی‌های داخلی، محدودیت‌های جزئی دارد. برای نمونه، هرچند در بررسی‌ها مشخص شد که مدل از دستورالعمل‌های خودکشی امتناع می‌کند، اما مدیران استارتاپ قصد دارند محدودیت‌های بیشتری برای جلوگیری از ترویج خشونت و فعالیت‌های غیرقانونی اعمال کنند. در کنار این، کارشناسان پیشنهاد می‌کنند که دولت‌ها باید مکانیزم‌های فیلتر خودکار را روی خروجی‌های هوش مصنوعی پیاده‌سازی کنند تا بتوان از تولید محتواهای مخرب جلوگیری کرد.

در این راستا، اندرو یون تأکید می‌کند که شرکت‌های ارائه‌دهنده‌ی سخت‌افزارهای قدرتمند، مانند پردازنده‌های گرافیکی پیشرفته، باید هویت کاربران خود را به دقت بررسی کنند و در صورت هرگونه شک و تردید، دسترسی آن‌ها را محدود یا قطع کنند. این اقدامات، بخشی از راهکارهای امنیتی هستند که می‌توانند جلوی سوءاستفاده‌های احتمالی را بگیرند و از وقوع بحران‌های امنیتی جلوگیری نمایند.

مناقشه دفاع در مقابل تهدیدهای سایبری

در دنیای امنیت سایبری، قانونی شناخته شده وجود دارد که می‌گوید نمی‌توان در مقابل رفتاری که قادر به بازتولید آن نیستید، از خود دفاع کنید. در واقع، اگر یک مدل هوش مصنوعی از تولید کدهای مخرب یا اکسپلویت‌های آسیب‌پذیر امتناع ورزد، چگونه می‌تواند به تیم‌های امنیتی در شناسایی و رفع آسیب‌پذیری‌ها کمک کند؟

از سوی دیگر، حذف محدودیت‌ها و محدود کردن توانایی‌های مدل‌های هوشمند، فعالیت‌های خطرناک دیگری را نیز آسان‌تر می‌سازد. این مسئله، چالشی است که شرکت Abliteration.ai بر اساس آن استراتژی خود را بنا نهاده است. این شرکت در شبکه‌های اجتماعی اعلام می‌کند که هدف اصلی‌اش، توانمندسازی متخصصان امنیت سایبری برای انجام عملیات تهاجمی، تست‌های تیم قرمز و آزمایش عامل‌های هوشمند است که مدل‌های استاندارد از انجام آن‌ها سر باز می‌زنند.

استفاده از مدل‌های بدون حفاظ در آزمایش‌های امنیتی

شرکت‌های امنیت سایبری در تست نفوذ و ارزیابی مقاومت شبکه‌ها، از مدل‌های بدون محدودیت بهره می‌برند. این رویکرد، امکان شبیه‌سازی رفتارهای مخرب و آسیب‌پذیری‌های پنهان را فراهم می‌آورد و به تیم‌های امنیتی کمک می‌کند تا نقاط ضعف را قبل از بهره‌برداری مهاجمان کشف و برطرف کنند.

دیدگاه‌های مخالف و استدلال‌های طرفداران

دوون، بنیان‌گذار پلتفرم و حامیان جریان ابلیتریشن، استدلال می‌کنند که دسترسی آزاد و فراگیر به مدل‌های پیشرفته، بهترین روش برای تقویت دفاع‌های سایبری است. او معتقد است که مدل‌های ابلیتریت‌شده می‌توانند رفتار و ذهنیت مهاجمان را به‌درستی شبیه‌سازی کنند، و این امر، سرعت واکنش تیم‌های امنیتی را افزایش می‌دهد. وی می‌افزاید: «با داشتن ابزارهای لازم برای شبیه‌سازی حملات، تیم‌های امنیتی می‌توانند سریع‌تر و مؤثرتر در مقابل تهدیدات واکنش نشان دهند، هرچند این رویکرد ممکن است در نگاه اول متناقض به نظر برسد.»

پیشرفت‌های امنیتی و مشتریان

اگرچه Abliteration.ai هنوز شرکتی نوپا است، اما توانسته است چندین استارتاپ در حوزه تیم‌های قرمز در بریتانیا و اروپا را جذب کند. این شرکت‌ها مسئولیت ارزیابی امنیت بانک‌ها، خطوط هوایی و زیرساخت‌های حیاتی را بر عهده دارند و از فناوری‌های این پلتفرم برای تقویت دفاع‌های خود بهره می‌برند.

دوون تأکید می‌کند: «یکی از مهم‌ترین مشتریان ما، ایجنت‌های هوشمند بانکی هستند که از طریق تیم قرمز مورد آزمایش قرار می‌گیرند. اگر این سازمان‌ها از مدل‌های محدود و سانسور شده استفاده می‌کردند، نمی‌توانستند آزمایش‌های پیشرفته مورد نیاز برای ارزیابی امنیت سیستم‌های خود را انجام دهند.»

بررسی دیدگاه‌های متفاوت درباره امنیت و فناوری‌های محدودکننده در هوش مصنوعی

در دنیای امنیت سایبری، اختلاف نظرهای زیادی درباره نقش و اهمیت مدل‌های بدون محدودیت هوش مصنوعی وجود دارد. بر روی پلتفرم‌هایی مانند Hugging Face، مدل‌هایی با برچسب‌هایی نظیر Abliterated و Uncensored منتشر شده‌اند که برخی از آن‌ها توسط بنیان‌گذارانی چون Abliteration.ai حمایت می‌شوند. در حالی‌که برخی فعالان حوزه امنیت، مزایای این مدل‌ها را مورد تایید قرار می‌دهند، بسیاری دیگر بر این باورند که این فناوری‌ها می‌توانند تهدیدهای جدی برای امنیت عمومی به همراه داشته باشند.

مزایا و چالش‌های مدل‌های بدون محدودیت

طرفداران این فناوری‌ها معتقدند که حذف محدودیت‌ها می‌تواند در شناسایی آسیب‌پذیری‌ها و انجام تست‌های استرس سیستم‌ها کمک کند. اما منتقدان هشدار می‌دهند که دست‌کاری ساختاری این مدل‌ها، بخش زیادی از دانش پایه و کارآمدی منطقی آن‌ها را تضعیف می‌کند و در نتیجه، کارایی آن‌ها در عملیات‌های دفاعی کاهش می‌یابد. به عنوان مثال، برخی متخصصان معتقدند که ابلیتریشن یا حذف محدودیت‌ها، مانند جراحی مغز ناموفقی است که بخش‌هایی از دانش و قابلیت‌های مدل را نابود می‌کند، و در نتیجه، عملکرد آن‌ها در حملات سایبری یا بیولوژیکی کاهش می‌یابد.

دیدگاه‌های مختلف در مورد روش‌های اصلاح مدل‌های هوش مصنوعی

در حالی‌که برخی، مانند دوون، مدیر ارشد فنی در Abliteration.ai، بر ضرورت ابلیتریشن برای تیم‌های قرمز تأکید می‌کنند، بسیاری دیگر ترجیح می‌دهند از روش‌هایی مانند فاین‌تیون کردن مدل‌های متن‌باز استفاده کنند. این روش‌ها، علی‌رغم محدودیت‌های کمتر، حفظ انسجام و قابلیت‌های پایه‌ای مدل‌ها را تضمین می‌کنند و در نتیجه، به کارایی آن‌ها در عملیات‌های دفاعی کمک می‌کنند.

نظرات کارشناسان در مورد تأثیرات و آینده این فناوری‌ها

احمد علی، مدیرعامل شرکت تیم قرمز Fabraix، معتقد است که فرآیند ابلیتریشن، در مقایسه با روش‌های دیگر، می‌تواند بخشی از دانش پایه و قابلیت‌های مدل را نابود کند و در نتیجه، در صورت نیاز به آسیب‌زنی‌های جدی، این مدل‌ها کارآمدی لازم را نخواهند داشت. در مقابل، آلسیو لوموسچو، مدیر فناوری در Safe Intelligence، دیدگاهی میانه‌رو دارد و می‌پذیرد که حذف محدودیت‌ها ممکن است قابلیت‌های هوش مصنوعی را کاهش دهد، اما همچنان معتقد است که این مدل‌ها می‌توانند در تست استرس و شناسایی نقاط ضعف سیستم‌ها مفید واقع شوند.

پیشنهادات و مسیرهای توسعه آینده

دیوید اسلیتر، بنیان‌گذار و معمار ارشد پلتفرم امنیت سایبری Armadin، بر اهمیت شناخت دقیق پتانسیل‌های واقعی این مدل‌ها تأکید دارد. او معتقد است که تحقیقات در مورد مدل‌های ابلیتریت‌شده باید در فضای آزاد و عمومی انجام شود تا بتوان مرزهای قابلیت‌های آن‌ها را مشخص و آسیب‌های احتمالی را بهتر درک کرد. این رویکرد، در کنار تلاش‌های داخلی، می‌تواند به توسعه راهکارهای امنیتی مؤثرتر و آگاهانه‌تر کمک کند و در نهایت، به بهبود امنیت کلی سیستم‌ها منجر شود.