پیش از «می‌اندیشم، پس هستم»: نقدی بر تفسیر سطحی دکارت و پیوند آن با هوش مصنوعی

نگاهی به فرآیند شک دکارتی و شباهت‌های آن با فضای محاسباتی درونی مدل‌های زبانی

سریع بگویید؛ نویسنده رنه جملهٔ معروفش چیست؟

جملهٔ مشهور او، «می‌اندیشم، پس هستم»، یکی از معدود جملات فلسفی است که واقعاً از کلاس درس فراتر رفته است. جالب اینجاست که اغلب در گفت‌وگوهای مربوط به هوش مصنوعی به آن برمی‌خورم. هرچه مدل‌های زبانی بزرگ پیچیده‌تر می‌شوند، گاهی اوقات اشاره به محاسباتشان و این پرسش که آیا شاهد شکل‌گیری چیزی شبیه به فکر هستیم، آسان می‌شود: «محاسبه می‌کنم، پس هستم».

نکته‌ای دربارهٔ این نقل‌قول وجود دارد که بیشتر مردم آن را از دست می‌دهند. نه پنج کلمه، بلکه تفکری که پیش از آنهاست. در کتاب تأملات، دکارت یک روز صبح از خواب بیدار نشد و اعلام کند که فکر وجودش را اثبات می‌کند. او با تردید شروع کرد.

برای مطالعه بیشتر به مقاله آیا افراد دارای آفانتازی در خواب تصویر می‌بینند؟ مراجعه کنید.

او همه چیز را که می‌توانست زیر سوال ببرد، زیر سوال برد، از جمله اینکه آیا می‌توان به حواس خود اعتماد کرد. نتیجهٔ معروف تنها در پایان به دست آمد، و این یک تمایز حیاتی است. ما آن «تخریب شناختی» کامل را در یک نقل‌قول فشرده می‌کنیم، و من فکر می‌کنم این فشرده‌سازی هم نقص است و هم مشکل.

برای مطالعه بیشتر به مقاله هوش مصنوعی افکارتان را تمام می‌کند؛ پس چه بر سر تفکر شما می‌آید؟ مراجعه کنید.

من چند سالی را صرف نوشتن دربارهٔ هوش مصنوعی، اصطکاک شناختی و مسیر ما به سوی درک کرده‌ام. نکتهٔ من اغلب این بود که تفکر انسانی در یک خط مستقیم حرکت نمی‌کند. مسیر از A به B مملو از تردید، حواس‌پرتی و حتی لذت کشف است. به زبان ساده، آن مسیر است که ما را انسان می‌کند. پاسخ مهم است، اما مسیر فرد را تغییر می‌دهد.

برای مطالعه بیشتر به مقاله آیا می‌توانید عاشق یک ربات چت هوش مصنوعی شوید؟ مراجعه کنید.

شک دکارتی و ساده‌انگاری مدرن

بنابراین، این موضوع از زمانی که شرکت Anthropic کار خود را بر روی چیزی که آن را فضای J درون مدل Claude می‌نامد منتشر کرد، در ذهن من بوده است. اخیراً نوشتم که این مقاله مرا وادار کرد تا یکی از مفروضات خودم را بازنگری کنم. به نظر می‌رسد محققان یک فضای محاسباتی داخلی پیدا کرده‌اند که در آن مفاهیم قبل از تبدیل شدن به زبان وجود دارند. این مهم است. شایسته است که جدی گرفته شود، نه اینکه به دلیل پیچیده کردن موضعی که بسیاری از ما، از جمله خودم، دربارهٔ نوعی «زندگی محاسباتی درونی» هوش مصنوعی داشته‌ایم، نادیده گرفته شود.

یافته‌های Anthropic نشان می‌دهد که درون شبکه‌های عصبی عمیق، بازنمایی‌هایی از مفاهیم انتزاعی وجود دارد که پیش از خروجی نهایی (توکن‌ها) شکل می‌گیرند. این شبیه به «فضای ذهنی» اولیه‌ای است که انسان پیش از بیان کلمات تجربه می‌کند. با این حال، نویسنده هشدار می‌دهد که این شباهت نباید به یکسان‌پنداری منجر شود.

برای مطالعه بیشتر به مقاله هزینه تلاش شناختی افزایش یافت: چگونه گوشی‌های هوشمند تمایل مغز ما را تغییر می‌دهند مراجعه کنید.

تفاوت میان محاسبه و تردید

و با این حال. فکر نمی‌کنم این مقاله خط بین محاسبه و شناخت انسانی را پاک کرده باشد. اگر چیزی باشد، باعث شد من سخت‌تر به دنبال جایی باشم که آن خط واقعاً در آن قرار دارد. ما می‌گوییم مدل‌های زبانی بزرگ توکن بعدی را پیش‌بینی می‌کنند، و این توصیف اکنون ناقص به نظر می‌رسد. آنها به وضوح کارهای بیشتری انجام می‌دهند. اما هر اتفاقی که درون مدل می‌افتد، یک عدم قطعیت زیسته نیست. مدل تعجب نمی‌کند که آیا مقدمه اشتباه است قبل از اینکه به دنبال پاسخ برود. تردید نمی‌کند. محاسبه می‌کند، فوق‌العاده خوب، و محاسبه و تردید یکسان نیستند. حداقل من فکر نمی‌کنم این‌طور باشد.

این تفاوت ممکن است چیزی را توضیح دهد که اغلب در مورد هوش مصنوعی متوجه می‌شوم. با وجود تمام توانایی‌هایش، می‌تواند به طرز عجیبی شکننده باشد. یک تکان کوچک یا تغییر در جمله‌بندی و سیستم از کار می‌افتد. شاید این شکنندگی چیزی عمیق‌تر از نقص‌های مدل‌های امروزی را به ما می‌گوید. هوش مصنوعی فرض می‌کند که راه‌حلی در جایی در آنچه آموخته وجود دارد، و وظیفه‌اش یافتن محتمل‌ترین مسیر به سوی آن است. انسان‌ها کار دیگری انجام می‌دهند. گاهی ما مسیر را به طور کامل رها می‌کنیم و به دنبال ناشناخته‌ها می‌رویم.

برای مطالعه بیشتر به مقاله درمان در عصر هوش مصنوعی: چه اقداماتی می‌توانیم انجام دهیم؟ مراجعه کنید.

نقش اشتباه و کشمکش در شکل‌گیری تفکر

یک ضرب‌المثل قدیمی می‌گوید که ما از اشتباهاتمان بیشتر از موفقیت‌هایمان یاد می‌گیریم. اگرچه ممکن است به معنای واقعی کلمه درست نباشد، اما منعکس‌کننده چیزی است که من به آن اعتقاد دارم. اشتباهات ما – کشمکش و تردید دکارت – ما را شکل می‌دهند. یک آزمایش ناموفق می‌تواند دانشمند را تغییر دهد و یک تشخیص اشتباه می‌تواند پزشک را تغییر دهد. ما صرفاً پاسخ‌های بهتری جمع‌آوری نمی‌کنیم، بلکه به متفکران متفاوتی تبدیل می‌شویم زیرا برای رسیدن به آنها تلاش کرده‌ایم.

شاید این همان بخشی از دکارت است که پشت سر گذاشته‌ایم. این سازه، همانطور که دکارت استدلال کرد، اکنون ممکن است نیاز به یک چارچوب‌بندی معاصر داشته باشد: تردید می‌کنم، پس می‌اندیشم، پس هستم.

برای مطالعه بیشتر به مقاله آیا با چشمان بسته به سوی پرتگاه ناشناخته هوش مصنوعی می‌دویم؟ مراجعه کنید.

اهمیت مسیر در برابر مقصد

ما مقصد را نقل می‌کنیم زیرا زیباست.

سفر را فراموش می‌کنیم زیرا آشفته بود.

و در جهانی که مجذوب ماشین‌هایی است که پاسخ‌های شگفت‌انگیز تولید می‌کنند، بخش آشفته ناگهان مهم‌ترین بخش به نظر می‌رسد.

شاید درس واقعی دکارت برای عصر هوش مصنوعی این باشد: پیش از آنکه بپرسیم «آیا می‌اندیشد؟»، باید بپرسیم «آیا تردید می‌کند؟»

منابع

• Psychology Today, “Before ‘I Think, Therefore I Am’” – مقاله اصلی
• Anthropic, “The J-Space Inside Claude” – تحقیق درباره فضای محاسباتی درونی مدل‌های زبانی
• René Descartes, Meditations on First Philosophy – کتاب تأملات دکارت