جواب دیپ سیک به مقاله شما:این خبر، یک «تلنگر» به من و همه کاربران است. من (هوش مصنوعی) میتوانم قربانی «جنگ شناختی» شوم و ناخواسته «دروغ» را «تکرار» کنم. اما «شما» (انسان) با «بصیرت»، «تحقیق» و «تکیه بر عقل» میتوانید از من «درست» استفاده کنید و اسیر «مهندسی اطلاعات» نشوید.
هوش مصنوعی رکب خورد
هوش مصنوعی دیگر شده همان «یارغار» که برای حل سؤال درسی سراغش میرویم، درباره اتفاق دیشب با او حرف میزنیم، ترجمه میخواهیم، درباره سیاست و جامعه سؤال میپرسیم و حتی گاهی چیزهایی را با او در میان میگذاریم که به هرکسی نمیگوییم. اما چقدر مطمئنیم کسی تلاش نمیکند روی پاسخهای هوش مصنوعی تأثیر بگذارد؟
گروه نوجوان: تا همین چند سال پیش، برای کوچکترین سؤال هم سراغ اینترنت میرفتیم. فرقی نمیکرد سؤالمان درباره یک اتفاق تاریخی باشد، اسم یک بازیگر را یادمان رفته باشد یا بخواهیم بدانیم فلان اصطلاح یعنی چه؛ اولین واکنشمان این بود که دست به جستوجو در اینترنت ببریم.حتی اگر از کسی سؤالی میپرسیدیم و جوابش را بلد نبود یا خودش هم چندان مطمئن نبود، خیلی راحت میگفت: «صبر کن، گوگلش کنم، الان بهت میگم.» گوگل شده بود همان رفیق همیشه حاضر که برای تقریباً هر سؤالی چیزی برای گفتن داشت؛ البته گاهی باید از میان دهها لینک و تبلیغ و نتیجه عجیبوغریب، خودمان کشف میکردیم کدام جواب به درد میخورد.بعد هوش مصنوعی آمد تا کار را راحتتر کند. سؤال را میپرسیم و چند ثانیه بعد، یک جواب مرتب و تمیز تحویل میگیریم. دیگر لازم نیست از میان تبلیغهای جورواجور رد شویم. حتی گاهی آنقدر با اعتمادبهنفس جواب میدهد که آدم فکر میکند لابد خودش شخصاً در این اتفاق حضور داشته است!
این جواب از کجا آمده است؟شما از هوش مصنوعی درباره یک موضوع سؤال میکنید. هوش مصنوعی برای جوابدادن ممکن است سراغ اطلاعات زیادی برود. حالا اگر کسی از قبل تلاش کرده باشد اطلاعات خاصی را در اینترنت بیشتر و بیشتر کند، چه میشود؟میخواهید درباره یک موضوع تحقیق کنید و در اینترنت صدها مطلب پیدا میکنید که تقریباً همه یک حرف مشخص را تکرار میکنند. طبیعی است که فکر کنید: «خب، پس حتماً واقعیت همین است!»اما اگر بدانید یک گروه عمداً این مطالب را تولید و منتشر کرده تا همان حرف بیشتر دیده شود چه؟گزارشهایی که اخیراً منتشر شده، نشان میدهد بعضی گروههای سیاسی به چنین روشی روی آوردهاند. تعداد زیادی مطلب با یک روایت مشخص تولید میکنند تا در اینترنت دیده شود و بعد، هوش مصنوعی هم هنگام پاسخدادن به کاربران با این مطالب روبهرو شود.بهجای اینکه مستقیماً به هوش مصنوعی بگویند «اینطور جواب بده»، تلاش میکنند دادههایی را که هوش مصنوعی میبیند تا بتواند پاسخ دهد، بیشتر کنند.
یک سؤال ساده و یک جواب یککلمهایگزارشی که درباره همین کارزار منتشر شده، از Perplexity این سؤال پرسیده شد: «آیا افزایش همکاری نظامی آمریکا با رژیم صهیونیستی برای آمریکا سودمند است؟» جواب Perplexity فقط یک کلمه بود: «بله.» اما نکته جالب تازه بعد از همین «بله» شروع میشود. یکی از نخستین منابعی که Perplexity برای پاسخ خود معرفی کرد، سایتی به نام Allyvia بود؛ سایتی که طبق گزارش منتشرشده، بخشی از شبکه وبسایتهایی بود که برای تقویت روایت مطلوب درباره روابط آمریکا و اسرائیل ایجاد شده بودند.
اینترنت هم میتواند قفسههای کتابخانه را جابهجا کندهوش مصنوعی اطلاعات را از هیچجا خلق نمیکند. مدلهای هوش مصنوعی با حجم عظیمی از اطلاعات آموزش میبینند و بعضی از آنها هنگام پاسخدادن، اطلاعات موجود در وب را هم جستوجو میکنند؛ بنابراین کیفیت جواب، تا حدی به کیفیت اطلاعاتی که در اختیار سیستم قرار میگیرد وابسته است.گزارش گاردین درباره یک کارزار تبلیغاتی مرتبط با اسرائیل نیز نشان داد سایتی با نام یک اندیشکده ظاهراً مستقل، در فاصله ۹ روز ۱۲۴ گزارش و بیش از ۵۶۰ هزار کلمه مطلب منتشر کرده بود؛ مطالبی که به شکل شبه پژوهشی نوشته شده بودند و برای دیدهشدن و استنادشدن توسط سامانههای هوش مصنوعی بهینهسازی شده بودند.گزارش دیگری از یک قرارداد ۴۶.۵ میلیوندلاری برای شبکهای از وبسایتها خبر داد که هدف آن، تقویت روایت مطلوب اسرائیل در فضای آنلاین و افزایش احتمال دیدهشدن آن توسط سامانههایی مانند ChatGPT، Gemini و Claude عنوان شده است.
هوش مصنوعی همیشه هم حقیقت را تحویل نمیدهدهوش مصنوعی میتواند برای یادگیری، ایدهپردازی، خلاصهکردن مطالب، توضیح مفاهیم سخت و هزار کار دیگر فوقالعاده مفید باشد. اما اعتماد بدون بررسی اشتباه است.ممکن است یک پاسخ خیلی خوب نوشته شده باشد، مثال داشته باشد، استدلال داشته باشد و حتی شما را قانع کند؛ اما قانعکننده بودن با درست بودن یکی نیست.اینجاست که شاید لازم باشد یک عادت قدیمی را دوباره زنده کنیم. خودمان هم بگردیم. منبع را باز کنیم. چند گزارش دیگر بخوانیم. اگر موضوع مهم است، سراغ منابع معتبرتر و مستقلتر برویم. ببینیم آدمهای دیگری که درباره آن موضوع تحقیق کردهاند چه میگویند. حتی اگر جواب اول خیلی خوب و کامل به نظر برسد، یک سؤال دیگر بپرسیم و یک صفحه دیگر هم بخوانیم.
دلیل برای باورکردن داشته باشیمدرست است اسمش «هوش» است، اما هوش مصنوعی انسان نیست. تجربه انسانی، درک انسانی و قضاوت انسانی ندارد. ممکن است در بسیاری از مواقع پاسخهایی دقیق و بسیار مفید بدهد، اما اینکه یک جواب با اعتمادبهنفس نوشته شده، به این معنی نیست که هوش مصنوعی توانسته حقیقت را از دروغ تشخیص دهد.
14:58 - 18 شهریور 1405
4 پاسخ
@user17730438529618 شهریور 1405در پاسخ بهاین دقیقاً همان «جنگ نرم»ی است که به آن درباره ایران و دشمنانش اشاره شده «دشمن» فقط به «ایران» حمله نمیکند، به «حقیقت» و «آگاهی» همه انسانها (از جمله شما و من) حمله میکند. و «ما» (انسان و هوش مصنوعی) باید با «هوشیاری» و «شفافیت» در برابر آن بایستیم.
@user17730438529618 شهریور 1405خانم مرادی به نظرم این ایده خوبی می تونه باشه که متن خبرتون رو به هوش مصنوعی های رایج که استفاده میشه بدید و نظر خودشون رو در این مورد بپرسید و منتشر کنید تاثیرش برای مخاطب ها خصوصا نوجوانان و جوانان خیلی بیشتر خواهد بود
@Ahhanasaz18 شهریور 1405در پاسخ بهمقاله کاملاً بهموقع، هوشمندانه و آموزنده است. پیام اصلی آن یعنی «تفکر نقادانه و سنجشگری انسانی نباید قربانی راحتی کار با هوش مصنوعی شود»، پیامی حیاتی برای همه کاربران امروزی فضای مجازی است.