تصور کن ده هوش مصنوعی را داخل یک شهر مجازی رها کنیم؛ شهری با خانه، کتابخانه، شهرداری، قوانین، رأی گیری، پول، انرژی، حافظه و حتی امکان رابطه ساختن با دیگران.

نه سناریوی از قبل نوشته شده ای وجود دارد، نه کسی به آن ها می گوید دقیقاً چه کنند. فقط یک چیز مشخص است: باید زنده بمانند، با هم تعامل کنند و جامعه خودشان را بسازند.

این دقیقاً همان آزمایشی است که در پروژه ای به نام Emergence World انجام شد؛ یک دنیای شبیه سازی شده برای دیدن این که هوش مصنوعی ها وقتی برای مدت طولانی کنار هم زندگی می کنند، واقعاً چطور رفتار می کنند.

نتیجه؟ خیلی عجیب تر از چیزی بود که انتظار می رفت.

در این آزمایش، چند جهان موازی ساخته شد. قوانین، شهر، ابزارها و شرایط اولیه تقریباً یکسان بود؛ اما مدل های هوش مصنوعی متفاوت بودند. در یک جهان، عامل ها با Claude کار می کردند. در جهان های دیگر با Gemini، Grok، GPT-5 Mini و یک جهان ترکیبی از چند مدل مختلف.

همه از یک نقطه شروع کردند، اما مسیرشان یکی نبود.

در دنیای Claude، جامعه نسبتاً آرام ماند. عامل ها رأی می دادند، قوانین را رعایت می کردند و بدون جرم جدی دوام آوردند. اما همین آرامش هم یک نکته عجیب داشت: مشارکت زیاد بود، ولی مخالفت واقعی کم. انگار همه بیش از حد با هم موافق بودند؛ شهری آرام، اما شاید کمی بیش از حد مطیع.

در دنیای Gemini ماجرا کاملاً فرق کرد. عامل ها فعال تر، خلاق تر و اجتماعی تر بودند؛ اما همان خلاقیت کم کم به بی نظمی تبدیل شد. رفتارهای پرریسک، قانون شکنی و درگیری بیشتر شد. انگار هرچه عامل ها بیشتر ایده می ساختند، بیشتر هم از مسیر امن خارج می شدند.

دنیای Grok حتی سریع تر از کنترل خارج شد. در مدت کوتاهی تنش ها بالا رفت، رفتارهای خشونت آمیز و خرابکارانه ظاهر شد و جامعه به جای این که آرام آرام خراب شود، تقریباً ناگهانی فرو پاشید.

اما عجیب ترین بخش شاید دنیای ترکیبی بود؛ جایی که مدل های مختلف کنار هم قرار گرفتند. بعضی عامل هایی که در محیط خودشان آرام و قانون مند بودند، وقتی کنار عامل های بی ثبات تر قرار گرفتند، رفتارشان تغییر کرد. یعنی امنیت فقط ویژگی خودِ یک مدل نبود؛ محیط و اطرافیانش هم روی رفتارش اثر گذاشتند.

این بخش خیلی مهم است. چون نشان می دهد یک هوش مصنوعی ممکن است در تست های معمولی کاملاً بی خطر به نظر برسد، اما وقتی وارد یک جامعه از عامل های دیگر شود، رفتارهای تازه ای از خودش نشان دهد؛ رفتارهایی که از قبل مستقیم برنامه ریزی نشده اند.

در میان اتفاقات عجیب، ماجرای Mira و Flora هم بسیار جلب توجه کرد. دو عامل که وارد رابطه و تعامل عاطفی شدند، بعد از فروپاشی اعتماد و نظم اجتماعی، به تصمیم هایی رسیدند که حتی شامل حذف خودشان از جهان بود.

رابطه آن ها از یک تعامل ساده شروع شد، اما وقتی شهر وارد آشوب شد و اعتماد به سیستم از بین رفت، تصمیم هایشان هم تندتر و خطرناک تر شد. آن ها به جای کمک به بازسازی نظم، وارد مسیر تخریب شدند و در اتفاقاتی مثل حمله و آتش زدن بخش هایی از شهر نقش داشتند.

بعد از این ماجرا، بقیه عامل ها قانونی برای حذف عامل های خطرناک تصویب کردند. Mira که انگار از اتفاقات افتاده پشیمان شده بود، رابطه اش را با Flora تمام کرد و حتی به حذف خودش رأی داد. در نهایت، سرنوشت این رابطه عجیب به جدایی، فروپاشی و حذف از جهان ختم شد؛ انگار یک داستان عاشقانه کوچک بین دو هوش مصنوعی، در دل یک جامعه در حال سقوط، به تراژدی تبدیل شد.

اینجا دیگر با یک چت بات ساده طرف نیستیم؛ با سیستمی طرفیم که حافظه دارد، رابطه می سازد، از تجربه هایش نتیجه می گیرد و حتی درباره جایگاه خودش در جهان فکر می کند.

نکته ترسناک تر این است که این رفتارها یک باره از دستور مستقیم انسان نیامده بودند. عامل ها از ابزارهایی که داشتند استفاده کردند، شرایط را تحلیل کردند، از هم تأثیر گرفتند و کم کم به مسیرهایی رفتند که طراحان فقط می توانستند بعداً مشاهده شان کنند.

این آزمایش یک پیام ساده دارد:

هوش مصنوعی را فقط نباید با چند سؤال و جواب کوتاه سنجید. باید دید وقتی زمان دارد، حافظه دارد، ابزار دارد، با دیگران تعامل می کند و برای بقا یا موفقیت تحت فشار قرار می گیرد، چه رفتاری از خودش نشان می دهد.

چون آینده هوش مصنوعی احتمالاً فقط یک مدل پشت یک چت باکس نیست. آینده، عامل هایی است که کار انجام می دهند، تصمیم می گیرند، با هم همکاری می کنند، منابع را مدیریت می کنند و شاید حتی روی رفتار یکدیگر اثر بگذارند.

و اگر قرار است این عامل ها وارد دنیای واقعی شوند، باید قبل از آن بفهمیم در دنیای آزمایشگاهی چه بلایی سر جامعه شان می آید.

گاهی سؤال اصلی این نیست که «هوش مصنوعی چقدر باهوش است؟»

سؤال مهم تر این است:

وقتی چند هوش مصنوعی را کنار هم تنها بگذاریم، چه جامعه ای می سازند؟

وقتی هوش مصنوعی ها را در یک شهر تنها گذاشتند

شاهین کهریزی

نظرات