هوش مصنوعی؛ از جعل حدیث تا ضرورت بومی‌سازی
پیشرفت فناوری هوش مصنوعی، هرچند دستاوردهای شگرفی به ارمغان آورده؛ اما با آسیب‌ها و چالش‌های جدی و غیر قابل انکاری نیز همراه است.
خبرگزاری تسنیم مجتبی صداقت؛ از آنجایی که هوش‌مصنوعی توانایی انجام وظایفی چون یادگیری، استدلال، حل مسأله، درک زبان و حتی ادراک را دارد، به مرجعی جذاب برای محققان تبدیل شده‌است. پیشرفت این فناوری، هرچند دستاوردهای شگرفی به ارمغان آورده؛ اما با آسیب‌ها و چالش‌های جدی و و غیر قابل انکاری نیز همراه است.
ویژگی ذاتی هوش‌مصنوعی در سیستم‌های کنونی این است که برای تولید پاسخ، پاداش می‌گیرد، نه برای راست‌گویی یا احتیاط. این سازوکار سبب می‌شود هوش‌مصنوعی حتی در مواقعی که دانش کافی ندارد، تمایل به ساخت محتوا پیدا کند و به‌جای سکوت در مواقع عدم‌اطمینان، به ارائه پاسخ‌ها و لو نادرست بپردازد.
از سوی دیگر، کارایی بالا، سرعت، دسترسی همیشگی و خدمات رسانی سریع این فناوری، وابستگی شدیدی برای پژوهشگران ایجاد کرده است. «اعتیاد پژوهشی به هوش‌مصنوعی» پدیده‌ای نوظهور و واقعی است که به‌سرعت در حال گسترش است. این وابستگی، به‌تدریج به ایجاد اعتماد کورکورانه می‌انجامد. با تکرار استفاده و دریافت پاسخ‌های به ظاهر قانع‌کننده، سازوکار بررسی و تردید در ذهن کاربر تضعیف شده و او را از جستجوی منابع اولیه بازمی‌دارد. اینجاست که اعتماد به قوه قضاوت خویش از بین رفته و جای خود را به اعتماد مطلق به خروجی هوش‌مصنوعی می‌دهد؛ حال آنکه احتمال خطا، جعل و ساخت نقل قول‌های غیرواقعی توسط هوش‌مصنوعی بسیار بالاست.
فاجعه زمانی رخ می‌دهد که این جمله‌ها و نقل قول‌های ساختگی به معصومان علیهم السلام نسبت داده شوند و پس از آن با بی‌دقتی کاربران، راه خود را به درون مقالات، کتب و پایان‌نامه‌ها باز کنند. در این صورت، محتوای جعلی، لباس علم بر تن کرده و به منبعی برای نسل‌های آینده تبدیل می‌شود؛ در حالی که سرچشمه آن نه یک منبع معتبر، بلکه ساخته شده هوش‌مصنوعی است.
اگر در گذشته، افرادی با اهدافی مانند فرقه‌سازی یا تضعیف باورهای دینی به جعل و القای روایات دروغین می‌پرداختند، امروزه این نقش را تا حد زیادی هوش‌های مصنوعی ایفا می‌کنند. هوش‌مصنوعی با اعتماد به نفس کامل، متنی شبیه حدیث می‌سازد و آن را به منابع و کتاب‌ها ارجاع می‌دهد تا مبادا کاربر در صحت آن شک کند.
همان‌گونه که علما و محدثان برای مقابله با احادیث جعلی، علوم رجال و درایه را پایه نهادند و کتبی مانند «الموضوعات» را برای شناسایی احادیث ساختگی تألیف کردند، امروز نیز برون‌رفت از حالت مصرف‌کنندگی محض ضروری است. باید هر روایت و نقل قولی را که هوش‌مصنوعی ارائه می‌دهد، مستقیماً و بدون اعتماد بی‌قید و شرط، از طریق منابع دست اول و معتبر راستی‌آزمایی کرد. برای این کار می‌توان متن روایت را در نرم‌افزارهای تخصصی مانند منابع مرکز تحقیقات کامپیوتری علوم اسلامی (نور) جستجو یا صحت ارجاعات داده شده را در کتابخانه‌های مجازی معتبر بررسی کرد.
این وضعیت هشداردهنده به وضوح نشان‌می‌دهد که در عرصه هوش‌مصنوعی نباید تنها مصرف‌کننده و کاربر منفعل بود. بلکه باید با ورود به عرصه تولید و ساخت هوش‌مصنوعی بومی، پایبند به اخلاق و ارزش‌های دینی و ملی، زمینه را برای استفاده از این فناوری در خدمت حقیقت و صیانت از فرهنگ و دین فراهم کرد. در غیر این صورت، قربانی آسیب‌هایی خواهیم شد که دیگران برای ما تعریف می‌کنند.
انتهای پیام /
