فصل ۱: پیش از هوش مصنوعی چه بودیم؟
قبل از آنکه به هوش مصنوعی فکر کنیم، باید به این پرسش جواب بدهیم. ما بهعنوان برنامهنویس چهکاره بودیم؟ هدفمان چه بود؟ چه چیزی ما را از تایپیستها یا کدنویسها متمایز میکرد؟ پول میگرفتیم چون با ده انگشت تایپ میکردیم، یا برای چیز دیگری؟
خب، بدیهیترین جواب ــ جوابی که دربارهٔ خیلی از شغلهای دیگر، اگر نگوییم همهشان، هم صدق میکند ــ این است که ما حلکنندهٔ مسئلهایم. ما فقط ویرایشگرهای کدی نیستیم که گوشت و پوست پوشیده باشند. اما اگر مسئله حل میکنیم، پس هوش مصنوعی چیست؟
تفاوت انسان و هوش مصنوعی
بگذار یک سؤال ازت بپرسم: چطور میشود یک چتبات هوش مصنوعی که خیلی بیشتر از تکتک ما میداند، باز هم یکسری کمبود داشته باشد؟ چطور همان هوش مصنوعی که ممکن است در هر حوزهای که اسم ببری جوابی بسیار پیچیده و پخته به من بدهد، هنوز توهمزایی کند، برای هر دست شش انگشت بسازد یا صاف و پوستکنده دروغ بگوید؟ آدمها اینطوری نیستند. یک هنرمند حرفهای همینطوری برای هر دست هفت انگشت نمیکشد و نمیگوید: «اوه، اشتباه کردم». یا عمدی است یا یک جای کار میلنگد.
پرسش این است که انسانها و هوش مصنوعی، دستکم در مدلهای امروزی، در شیوهٔ فکرکردن چه تفاوتی با هم دارند.
برای مثال، یک بچهٔ انسان را در نظر بگیر. بچه خیلی زود یاد میگیرد. چیزهای زیادی یاد میگیرد و کارهای شگفتانگیزی میکند که هیچ حیوان دیگری از پسشان برنمیآید. اما بااینحال هیچچیز یادش نمیماند. بیشتر آدمها از دوران نوزادی تا چهار یا پنجسالگی تقریباً هیچچیزی به یاد نمیآورند. دربارهٔ مدلهای زبانی بزرگ درست برعکس است. میتوانی یک متن کاملاً تصادفی به یک مدل زبانی بزرگ بدهی؛ متنی که هیچ انسانی نمیتواند حفظش کند، و مدل همان لحظه آن را برایت پس میدهد. دلیلش ماهیت حافظهمحور (memory-oriented) مدلهای زبانی بزرگ است.
موجودات حافظهمحور
مدلهای زبانی بزرگ اساساً با یک «سطل بزرگ داده» کار میکنند. شاید بگویی: «خب، حمید، آدمها هم همینطور کار میکنند. برای همین بچهها اینقدر زود یاد میگیرند: هر روز کلی داده هضم میکنند». این حرف درست است، اما لزوماً به این معنی نیست که سازوکارشان یکی است. اتفاقاً همین مثال راه خیلی خوبی است تا ببینیم چرا. بچه زود یاد میگیرد، اما زود هم فراموش میکند. پس چه چیزی باقی میماند؟ چه چیزی در او ذخیره میشود که کمک میکند رشد کند، نه اینکه دوباره به نوزادی برگردد؟ اگر یک مدل زبانی بزرگ همهٔ پارامترهایش را از دست بدهد، تبدیل میشود به کودنترین چیزی که میشناسی. اما انسان ممکن است پنج سال از زندگیاش را فراموش کند و آن پنج سال بااینحال روی تمام عمرش اثر بگذارند؛ مثلاً تروماها همین کار را میکنند.
علتش این است که مغز انسان قدرتمندترین ماشین تشخیص الگوست و سامانهٔ بسیار ویژهای برای مدیریت کانتکست دارد. هر چیزی که در آن سنوسال یاد میگیری تبدیل میشود به الگو، منطق و شیوهٔ فکرکردن. عین همان چیزها را حفظ نمیکنی؛ فقط یادت میماند چه حسی به آنها داشتی یا باید چطور با آنها برخورد کنی. این روند هم هیچوقت متوقف نمیشود؛ تا دم مرگ با خودت میبریاش. وقتی دهسالهای شاید به یک قابلمهٔ داغ دست بزنی و بفهمی نباید به چیزهای روی اجاق دست زد. شاید هیچوقت یادت نیاید به آن قابلمه دست زدهای، اما همیشه میدانی نباید به آن دست بزنی. و چون چیزی که ذخیره کردهای یک الگوست، نه فقط یک نمونه، خیلی زود چیزهای دیگری را هم پیدا میکنی که داغ و خطرناک بهنظر میرسند.
مغزت کتابخانهٔ عظیمی از الگوهاست. اما هرچه بزرگتر میشوی، باید چیزهای بیشتری را هم حفظ کنی. باید زبان مادریات، آدمهای اطرافت، دوستانت، مدرسهات، قوانین جامعه و غیره را به خاطر بسپاری. سعی میکنی همهچیز را به الگو تبدیل کنی؛ این کمک میکند بهجای تکیهکردن به تجربههای صریح، از خطرهای احتمالی دوری کنی. مثلاً اگر قمهزدن به کسی غیرقانونی باشد، این کار با یک چاقوی کوچک آشپزخانه هم غیرقانونی است.
در برنامهنویسی مفهومی هست به اسم هارنس (محیط و سازوکارِ اجرا و کاربستِ مدل یا ایجنت) که با بالاگرفتن استفاده از ایجنتهای هوش مصنوعی (AI agents) رایج شد. Fable 5، GPT Sol و مدلهای دیگر فقط خودِ مدلاند؛ مدلهای زبانی بزرگ. چیزی که آنها را با آن اجرا میکنی هارنس است: Claude Code، Codex، Cursor و غیره. هارنس فقط خود ابزار نیست؛ شیوهٔ استفادهات از مدلها را هم شامل میشود. بهینهکردن روش استفادهات از این ایجنتها و مدلها هم بخشی از هارنس توست. حالا دیگر خیلیها قبول دارند که هارنس احتمالاً مهمترین عامل در کیفیت خروجی هوش مصنوعی است.
مغزت قدرتمندترین هارنس است. اگر میتوانستی بهنحوی دانشی را که در مدلهای فعلی هوش مصنوعی هست ــ حتی GPT 3.5 ــ به مغزت منتقل کنی، به مگامایندِ زمانهٔ ما تبدیل میشدی، نه صرفاً یک مدل پیشروی جدید. مجموعهدادهٔ تو خیلی محدود است، اما بااینحال میتوانی کارهایی بکنی که هیچ مدل زبانی بزرگ امروزی از پسشان برنمیآید.
از طرف دیگر، هوش مصنوعی فعلی بر پایهٔ یک نظام پیشبینی کار میکند. درست است که امروز دیگر فقط «حدسزنِ کلمهٔ بعدی» نیست (هرچند کموبیش همین است)، اما درست است که بر اساس این کار میکند: «بعد از این ورودی، رایجترین زنجیرهٔ فکرها و جوابها چیست؟» وقتی ورودیات را وارد میکنی، با میلیاردها پارامتر مدل زبانی بزرگ ترکیب میشود و بر اساس اینکه ورودیات چطور آن «خاطرهها» را جهت میدهد، الگویی شکل میگیرد. مثلاً اگر دربارهٔ گیاهان آپارتمانی بپرسی، هوش مصنوعی الگو را میبیند و با خودش میگوید: «خب، این بخش از دادههای این قسمتِ پارامترها کاملاً با ورودی جور است. محتملترین چیزی که بعد از این سؤال میآید چیست؟ ... این جواب...». برای همین هم متن را کلمهبهکلمه، یا دقیقتر بگویم توکنبهتوکن دریافت میکنی. (اگر میخواهی این بند را بهتر بفهمی، میتوانی بدهیاش به چتبات محبوبت و از او بخواهی برایت توضیحش دهد. دارم بیشازحد سادهسازی میکنم تا منطق اصلیِ لازم برای بحث فلسفیمان را بیرون بکشم.)
خلاصهاش این است: نظام پیشبینی انسان خیلی بهتر است، اما با مجموعهدادهای بسیار کوچکتر کار میکند و مثالهای خیلی کمتری برای ارائه دارد. وقتی با برنامهنویسهای سینیور (ارشد) برخورد میکنی، این موضوع برایت روشن میشود. معمولاً نمیتوانند همهٔ قدمهای ریز ساخت یک نرمافزار بزرگ را برایت ردیف کنند. فقط ابزارها، استکی را که بهتر است انتخاب کنی، و زیربنایی را که باید برای پروژهات بسازی میشناسند. در طول مسیر از انبوه الگوهایشان استفاده میکنند تا خودشان و تیمشان را بهسمت هدف هدایت کنند. توانایی ابرانسانی ندارند.
این موضوع همینطور توضیح میدهد چرا وقتی از هوش مصنوعی میخواهی فقط خلاق باشد، جواب نمیدهد. چیزهای خلاقانه معمولاً کمتر رایجاند. اطلاعات کمتری دربارهشان وجود دارد، برای همین سنجش عینی (آبجکتیو) خلاقیتشان سخت است. آدمها هرکدام نظر خودشان را دارند. یک نفر ممکن است چیزی را خلاقانه بداند و یک نفر دیگر قبول نداشته باشد؛ شاید هم بعضیها اصلاً به آن فکر نکرده باشند. منظور از این حرف ذهنی (سابجکتیو) بودن است. اما هدف هوش مصنوعی این است که عینی کار کند. برای خلاقشدن هیچ راهنمای مکتوبِ بینقصی وجود ندارد ــ یا دستکم ما در مجموع هرچه دربارهاش منتشر شده را کنار گذاشتهایم. بااینحال، مدل واحد هوش مصنوعی هر بار که همان سؤال را میپرسی جواب کاملاً متفاوتی نمیسازد، با اینکه هر گفتوگو با دیگری فرق دارد. همین چند روز پیش خواندم که اگر از یک مدل زبانی بزرگ بخواهی فهرستی از صد کلمهٔ تصادفی بسازد، آشکارسازهای هوش مصنوعی با اطمینان صددرصدی میگویند فهرست را هوش مصنوعی تولید کرده است. تصادفی نیست؛ مدلهای زبانی بزرگ همیناند: حافظهمحور (این بخش کتاب را قبل از کل ماجرای «واترمارک» نوشتم).