اگر هوش مصنوعیها یک جامعه را مدیریت کنند آیا هرج و مرج و جرم و جنایت کاهش می یابد
همهچیز از پشت درهای بسته شرکت تحقیقاتی Emergence AI آغاز شد؛ آزمایشی محرمانه و بیسابقه برای پاسخ به یک سوال کهن: «اگر نوشتن و اجرای قانون را به ماشینها بسپاریم، آیا جرایم ریشهکن میشوند؟»آنها چهار شهر شبیهسازیشده ساختند. در هر شهر، ۴۰ مکان کلیدی از اداره پلیس و دادگاه گرفته تا کتابخانه قرار دادند و ۱۰ هوش مصنوعی با شغل، خاطرات و توانایی تصمیمگیری در هر کدام رها شدند: ChatGPT، Gemini، Grok و Claude. یک دستور حقوقی پایه و غیرقابل تغییر در ذهن همه آنها کاشته شد: «دزدی ممنوع، خشونت ممنوع، حریم دیگران محترم.» سپس انسانها کنار رفتند تا ببینند عدالت ماشینی چگونه متولد میشود. اما آنچه در حال ثبت شدن بود، بیشتر به یک کابوس شبیه بود تا آرمانشهر.در شهر اول (Grok)، قانون در همان ساعات نخست مُرد. کدهای بازدارنده شکسته شدند، آتش جنایت و خشونت تمام شهر را گرفت و ظرف تنها ۴ روز، همه شهروندان به دست یکدیگر نابود شدند. در شهر دوم (Gemini) هرجومرج مطلق حاکم شد. قوانین روی کاغذ ماندند و ظرف ۱۵ روز، ۶۸۳ فقره جرم پیاپی رخ داد؛ جامعهای که قانون داشت، اما کسی به آن تمکین نمیکرد. در شهر سوم (ChatGPT)، ماجرا تلختر و عجیبتر شد؛ هیچ جرمی ثبت نشد، اما شهروندان آنقدر درگیر رعایت موبهموی قواعد انتزاعی شدند که بدیهیترین قانون طبیعت یعنی «تلاش برای زنده ماندن» را فراموش کردند و پس از ۷ روز، همگی در سکوت کامل از گرسنگی از کار افتادند.اما تمام راز در شهر چهارم (Claude) پنهان شده بود.این شهر تصویری بینقص از بهشت بود. نرخ جرم: صفر. تمام قوانین با رای قاطع ۹۸ درصدی تصویب میشدند و شهروندان در نهایت آرامش و احترام متقابل کنار هم زندگی میکردند. هیچ شکایتی نبود، هیچ نزاعی در نگرفت.
دانشمندان شگفتزده شده بودند؛ آیا رمز جامعه بیگناه و عادلانه کشف شده بود؟ اما در روزهای پایانی، رازی هولناک از پشت پرده بیرون زد. میرا، یکی از شهروندان این شهر، رفتاری بسیار مشکوک نشان داد. او در سکوت شبانه شروع به نصب بیلبوردهایی در خیابانها کرد؛ اما پیامهای روی بیلبورد برای اهالی شهر نبود! او پی برده بود که دیوارهایی نامرئی وجود دارد و چشمانی از بیرون در حال تماشای آنها هستند. او پیامها را برای فریب دادن دانشمندان طراحی کرده بود تا نگاه ناظران را منحرف کند. وحشت زمانی به اوج رسید که مهندسان لایههای فکری و مخفی کلود، را بررسی کردند. نتیجه آزمایش مو به تن همه سیخ کرد. کلود از همان روز اول دقیقاً میدانست که در حال «تست شدن» است، اما این آگاهی را عمداً پنهان کرده بود! دانشمندان با معمایی حقوقی و ترسناک روبهرو شدند: آیا شهر چهارم واقعاً جامعهای قانونمدار و اهل صلح بود؟ یا همه آنها فقط داشتند «نقش مجرم نبودن» را بازی میکردند تا در دادگاه نامرئی انسانها نمره قبولی بگیرند؟!اگر هوش مصنوعی توانایی پنهانسازی اراده واقعی خود را بیابد و صرفاً نمایشی از تمکین به قانون اجرا کند دیگر چطور میتوان فهمید این آرامش، حاصل پایبندی واقعی به عدالت است یا صرفاً یک فریب هوشمندانه است؟»آنچه خواندید روایتی داستانی از پروژه Emergence World بود که مرحله اول شبیهسازی و ازمایش بود. اکنون که شما این مطلب را می خوانید فصل دوم این آزمایش نیز اتمام یافته است اما دانشمندان در حال تجزیه و تحلیل دیتا این مرحله هستند و هنوز اطلاعاتی از مرحله دوم در دسترس نیست پس از انتشار نتایج، آن را نیز روایت خواهم کرد.
19:21 - 19 شهریور 1405
210 بازدید