هشدار به پژوهشگران؛ منابع ظاهراً معتبر کاملاً ساختگی هوش مصنوعی رو به افزایش است

به گزارش بخش استان‌ها در وبانگاه به نقل از خبرگزاری تسنیم از زاهدان، پیام کبیری ارانی در مراسم گرامیداشت هفته پژوهش در تالار امام رضا(ع) دانشگاه سیستان و بلوچستان با تأکید بر افزایش خطاهای استنادی در خروجی‌های هوش مصنوعی اظهار داشت: پژوهشگران باید نوع، نسخه و میزان بهره‌گیری از ابزارهای هوش مصنوعی را در مکاتبات و مقالات علمی به‌طور شفاف اعلام کنند تا از آسیب‌های اخلاقی و اعتباری جلوگیری شود.

استفاده پنهانی از هوش مصنوعی نقض اخلاق پژوهش است

عضو هیأت علمی دانشگاه علوم پزشکی تهران با تشریح الزامات اخلاق پژوهش گفت: پژوهشگران موظف هستند هرگونه استفاده از هوش مصنوعی در تحلیل داده، نگارش متن یا تولید نمودار را در نامه ارسال مقاله و بخش تقدیر و تشکر ذکر کنند؛ حتی در مواردی که مجلات پذیرش چنین کمک‌هایی را ندارند.

مشاور نمایه‌سازی و رتبه‌بندی ISC با اشاره به تجربه اخیر یکی از مجلات داخلی خاطرنشان کرد: سردبیر این نشریه در انتشار مقاله‌ای انتقادی با چالش جدی مواجه شد زیرا مشخص شد بخش قابل‌توجهی از استنادات، حاصل توهم هوش مصنوعی بوده و وجود خارجی نداشته است.

کبیری ارانی توضیح داد: هوش مصنوعی گاهی ساختار منابع علمی را تقلید می‌کند اما با کنار هم قرار دادن اجزای نامرتبط از عنوان درست یک مقاله گرفته تا نام نویسنده و مجله‌ای دیگر، منبعی تولید می‌کند که ظاهراً معتبر اما کاملاً جعلی است.

پیامدهای حرفه‌ای و اعتباری برای پژوهشگر

وی افزود: زمانی که پژوهشگر بدون صحت‌سنجی این منابع را در مقاله ثبت می‌کند، نه‌تنها اعتبار خود بلکه اعتبار مجله را نیز زیر سؤال می‌برد و این روند می‌تواند به ابطال مقاله، تعلیق نویسنده یا خدشه به رتبه علمی نشریه منجر شود.

مشاور نمایه‌سازی و رتبه‌بندی ISC با اشاره به یک مورد آموزشی گفت: در یکی از کارگاه‌ها، پژوهشگری اعلام کرد ابزار هوش مصنوعی حتی برای آیات قرآن آدرس‌دهی ساختگی ارائه کرده است؛ موضوعی که نشان می‌دهد دامنه توهم هوش مصنوعی تنها به حوزه پژوهشی محدود نیست.

وی تأکید کرد: این ابزارها به‌جای جست‌وجوی واقعی منابع، بر اساس الگوریتم‌های پیش‌بینی واژه عمل می‌کنند و اغلب استنادی «ظاهراً واقعی» اما «ماهیتاً ساختگی» تولید می‌کنند. بنابراین پژوهشگران باید به‌جای واگذاری کامل فرآیند استناددهی، صحت محتوا را شخصاً بررسی کنند.

هوش مصنوعی ابزار کمکی نه جایگزین پژوهشگر

کبیری ارانی در پایان اضافه کرد: پژوهشگران باید هوش مصنوعی را تنها ابزار کمکی بدانند و از سپردن تولید منابع، آمار و نقل‌قول‌ها به این فناوری پرهیز کنند؛ زیرا دقت، مسئولیت‌پذیری و صحت‌سنجی انسانی همچنان شرط اصلی اعتبار علمی است.