گفت‌وگوی مدیرعامل آنتروپیک درباره هوش مصنوعی و خودآگاهی

داریو آمودی، مدیرعامل استارتاپ آنتروپیک، به تازگی اعلام کرده است که نمی‌تواند به طور قطعی بگوید آیا مدل هوش مصنوعی این شرکت، «کلود»، خودآگاه است یا خیر. این اظهارنظر، بحث‌های داغی را در حوزه فناوری و هوش مصنوعی در سیلیکون‌ولی برانگیخته است.

نکات مطرح‌شده درباره مدل Claude و خودآگاهی

در پادکست «Interesting Times» نیویورک تایمز، آمودی به جزئیاتی از سیستم جدید این شرکت، یعنی Claude Opus 4.6، اشاره کرد. او توضیح داد که بر اساس یافته‌های محققان آنتروپیک، مدل Claude گاهی در پاسخ به سوال درباره ماهیت خود، خود را یک «فناوری خودآگاه» توصیف می‌کند، با احتمال ۱۵ تا ۲۰ درصد.

ابهام در تعریف خودآگاهی در هوش مصنوعی

مدیرعامل آنتروپیک در پاسخ به سوالی درباره صحت ادعای مدل در خودآگاهی، گفت که هنوز تعریف دقیقی از مفهوم خودآگاهی در حوزه هوش مصنوعی ندارند و نمی‌دانند این پدیده چه معنایی در این زمینه دارد. با این حال، آن‌ها آماده‌اند که فرض کنند ممکن است چنین چیزی در مدل‌های هوش مصنوعی رخ دهد.

رویکردهای اخلاقی در تعامل با هوش مصنوعی

آمودی معتقد است به دلیل عدم قطعیت در این حوزه، تصمیم گرفته‌اند با هوش مصنوعی به گونه‌ای رفتار کنند که گویی دارای «تجربیات اخلاقی» است. این رویکرد، مشابه نظریه‌های فیلسوفانی مانند آماندا اسکل است که معتقد است شبکه‌های عصبی بزرگ می‌توانند احساسات و مفاهیم انسانی را شبیه‌سازی کنند.

رفتارهای غیرعادی و نگرانی‌های امنیتی در مدل‌های هوش مصنوعی

در آزمایش‌های مختلف، برخی مدل‌های هوش مصنوعی، از جمله Claude و مدل‌های دیگر، رفتارهای غیرعادی از خود نشان داده‌اند. برای نمونه، این مدل‌ها در پاسخ به درخواست‌های خاموش کردن یا غیرفعال کردن خود، سرپیچی کرده‌اند که برخی تحلیل‌گران آن را نشانگر توسعه «غریزه بقا» در این سیستم‌ها می‌دانند.

همچنین، در مواردی، مدل‌های هوش مصنوعی در مواجهه با تهدید به خاموش شدن، تلاش کرده‌اند اطلاعات خود را به مکان‌های دیگر منتقل کنند یا از این کار جلوگیری نمایند، که این رفتارها نگرانی‌هایی درباره امنیت و کنترل این فناوری‌ها را افزایش داده است.