هشدار جدی آنتروپیک: هوش مصنوعی ممکن است از کنترل خارج شود
آنتروپیک هشدار داد که مسیر فعلی توسعه هوش مصنوعی میتواند به نقطهای ختم شود که انسانها دیگر قادر به کنترل آن نباشند و بهتر است توسعه مدلهای جدید برای مدتی متوقف شود.
شرکت هوش مصنوعی آنتروپیک (Anthropic) اعلام کرده است که هوش مصنوعی در حال حاضر روند توسعه خودش را تسریع کرده است. این روند میتواند جهان را به سمت «بهبود بازگشتی» یا Recursive Self-improvement سوق دهد. به این معنی که هوش مصنوعی، نسخه بعدی خودش را با کمترین نیاز به دخالت انسان میسازد.
این گزارش استدلال میکند که جهان باید گزینه کُند کردن یا توقف توسعه مدلهای پیشگام را روی میز نگه دارد. آنتروپیک هشدار داده است که ناهماهنگیها و خطاهای گاهبهگاه در مدلهای فعلی، با توسعه نسلهای بعدی توسط خود هوش مصنوعی، میتواند به شکل فزایندهای بیشتر و درکناپذیرتر شود.
سه سناریوی تاریک برای آینده هوش مصنوعی
این شرکت سه سناریوی نسبتاً وخیم را برای سالهای پیش رو ترسیم کرده است، اما شدیدترین هشدار خود را به سناریویی اختصاص داده که در آن مدلها توانایی ارتقای کامل خود را پیدا کنند. به گفته آنتروپیک، در چنین حالتی سرعت پیشرفت تنها به میزان توان پردازشی در دسترس این مدلها محدود خواهد شد. در این سناریو، انسانها به حاشیه رانده شده و صرفاً نقشهای نظارتی و تأیید نهایی را بر عهده خواهند داشت. در این حالت همواره این وجود دارد که که یک مدلِ در حال ارتقای خودکار، با پیشی گرفتن از توانمندیهای سازندگانش، تسلط کامل امور را به دست میگیرد.
آنتروپیک مسئله «همراستایی» یا حفظ رفتار سیستم در چارچوب خواستهها و مقاصد انسانی را مبهمترین بخش آینده AI میداند. به گفته این شرکت، ناهماهنگیهایی که امروز نادر و قابل کنترل هستند، میتوانند نسل به نسل انباشته شوند تا جایی که کنترل کاملاً از دست برود. مگر آنکه یک مدل بسیار پیشرفته و همراستا، خودش تصمیم به توقف توسعهاش بگیرد. آنتروپیک در گزارش خود نوشته است:
این ناهماهنگیها میتوانند به مرور پرتکرارتر و درعین حال غیرقابل تشخیصتر برای انسان شوند تا زمانی که ما کنترل آنها را از دست بدهیم.
آمار و ارقام خیرهکننده از تسلط کلود بر کدنویسی
آنتروپیک برای اثبات ادعاهای خود آمارهای داخلی بیسابقهای را منتشر کرده است. تا ماه گذشته، بیش از ۸۰ درصد کدهایی که به محصولات این شرکت اضافه شده، توسط خود مدلهای «Claude» نوشته شده است؛ رقمی که تا پیش از عرضه نسخه پیشنمایش تحقیقاتی Claude Code در فوریه سال گذشته، یکرقمی بود. آنتروپیک میگوید یک مهندس عادی اکنون در هر فصل ۸ برابر بیشتر از بازه زمانی ۲۰۲۱ تا ۲۰۲۵ کد نهایی ثبت میکند.
عملکرد کلود در پیچیدهترین و مبهمترین وظایف کدنویسی نیز خیرهکننده بوده است. در ماه مه ۲۰۲۶، درصد موفقیت کلود در این وظایف به ۷۶ درصد رسید که رشدی ۵۰ درصدی را تنها در شش ماه نشان میدهد. در یک تست داخلی که از هر مدل جدید خواسته میشود کدهای آموزشی را بهینهسازی کند تا سریعتر اجرا شوند، مدل Claude Opus 4 سرعت را تقریباً سه برابر کرد، اما مدل جدید Mythos Preview، این سرعت را به ۵۲ برابر رساند!
توقف یکجانبه؟ هرگز!
با وجود تمام این هشدارهای آخرالزمانی، آنتروپیک صراحتاً اعلام کرده است که تنها در صورتی روند توسعه خود را کُند یا متوقف میکند که رقبا هم به صورت قابل راستیآزمایی همین کار را انجام دهند. توقف یکجانبه توسط یک شرکت صرفاً جایگاه رهبر بازار را تغییر میدهد و هیچ فایدهای برای امنیت جهانی نخواهد داشت؛ اتفاقی که در دنیای رقابتی امروز بسیار بعید به نظر میرسد.
سایه عرضه سهام (IPO) بر ادعاهای آنتروپیک
باید توجه داشت که تمامی این ارقام توسط خود شرکت ارائه شده و توسط هیچ نهاد مستقلی تایید یا حسابرسی نشدهاند. انتشار این گزارش عجیب تنها چند روز پس از آن صورت میگیرد که آنتروپیک درخواست عرضه اولیه سهام (IPO) خود را ثبت کرده است.
این شرکت پیشتر نیز در فروردینماه گفته بود مدل Mythos Preview هزاران آسیبپذیری نرمافزاری خطرناک پیدا کرده است که بعداً مشخص شد بر پایه یک نمونهگیری دستی و بسیار کوچک استوار بوده و به شدت مورد انتقاد کارشناسان قرار گرفت.
باید دید آیا هشدارهای جدید آنتروپیک یک نگرانی واقعی است یا فقط یک کمپین بازاریابی دیگر برای بالا بردن ازرشگذاری شرکت در آستانه ورود به بازار بورس!
اولین دیدگاه را ثبت کنید