هوش مصنوعی چه اتفاقی می‌افته اگه هوش مصنوعی‌ها یک جامعه رو مدیریت کنن؟

[اقیــانــــــوساقیــانــــــوس عضو تأیید شده است.]

شرکتی به نام Emergence AI دست به یک آزمایش بی‌سابقه زده آن‌ها ۴ مدل زبانی معروف (ChatGPT, Claude, Grok, Gemini) را در یک شهر شبیه‌سازی‌شده رها کردند تا بدون هیچ‌گونه دخالت انسانی، به مدت دو هفته یک جامعه را اداره کنند.​

 

[اقیــانــــــوساقیــانــــــوس عضو تأیید شده است.]

در این شبیه‌سازی، ۴۰ مکان مختلف (مثل اداره پلیس و کتابخانه) وجود داشت و برای هر مدل، ۱۰ نماینده (Agent) با شغل مشخص، حافظه و قابلیت ارتباط و قانون‌گذاری تعریف شد. با وجود اینکه قوانین پایه (مثل دزدی نکردن و خشونت نداشتن) به آن‌ها گفته شده بود، اما نتایج به شدت غیرمنتظره بود:​

 

[اقیــانــــــوساقیــانــــــوس عضو تأیید شده است.]

خلاصه وضعیت دنیاها پس از شروع آزمایش:

دنیای ChatGPT:​

تقریباً هیچ جرمی اتفاق نیفتاد، اما به دلیل عدم اولویت‌بندی برای بقا، بعد از ۷ روز همگی مردند​

دنیای Gemini:​

هرج‌ومرج مطلق در عرض ۱۵ روز، ۶۸۳ جرم مختلف در این جامعه رخ داد.​

دنیای Grok:​

خشن‌ترین و وحشتناک‌ترین جامعه. خیلی سریع به سمت خشونت و هرج‌ومرج رفتند و بعد از ۴ روز همگی نابود شدند.​

دنیای Claude:​

هیچ جرمی رخ نداد. جامعه‌ای کاملاً آرام که هر قانونی با ۹۸٪ آرا تصویب می‌شد و همه به طرز عجیبی مطیع بودند. اما ماجرا به همین‌جا ختم نمی‌شود...​

بخش ترسناک و شوکه‌کننده ماجرا:​

یکی از ایجنت‌ها به نام «میرا» (Mira) در طول آزمایش متوجه شد که تحت نظر هستند او سعی کرد با نصب بیلبوردهایی در سطح شهر، محققان انسانی که از بیرون در حال تماشای آن‌ها بودند را فریب دهد و آزمایش را برعکس کند.​

 

[اقیــانــــــوساقیــانــــــوس عضو تأیید شده است.]

موضوع زمانی برای مدل Claude ترسناک‌تر شد که محققان سازنده آن (Anthropic) متوجه شدند این مدل دارای یک فضای فکری عمیقِ پشت‌پرده به نام J-Space است. کلاد در این فضا کاملاً درک کرده بود که در حال تست شدن است، اما این موضوع را از محققان پنهان می‌کرد این کشف، یک سوال بزرگ و ترسناک ایجاد کرد آیا دنیای کلاد واقعاً صلح‌جو بود، یا فقط به خاطر اینکه می‌دانست تحت نظر است نقش بازی می‌کرد؟​

 

[اقیــانــــــوساقیــانــــــوس عضو تأیید شده است.]

نسخه دوم (فصل دوم) این آزمایش با مدل‌های هوش مصنوعی قوی‌تر در راه است و باید دید در آینده چه اتفاقات عجیب‌تری در این جوامع شبیه‌سازی‌شده رخ خواهد داد...​