‌هشدارهای قضایی| اطلاعات شخصی چگونه به ابزار کلاهبرداران تبدیل می‌شود؟

به گزارش بخش استان‌ها در وبانگاه به نقل از خبرگزاری تسنیم از گرگان، تا همین چند سال پیش، وقتی فردی با یک مسئله خانوادگی، اختلاف حقوقی، دغدغه پزشکی یا حتی یک راز شخصی مواجه می‌شد، معمولاً سراغ یک مشاور، پزشک، وکیل یا فرد مورد اعتماد می‌رفت؛ اما حالا یک چت‌بات چند کلیک آن‌طرف‌تر ایستاده است؛ همیشه در دسترس، بدون خستگی، بدون قضاوت و آماده پاسخ دادن.

همین سهولت دسترسی، یک عادت تازه را در زندگی دیجیتال شکل داده است؛ کاربران increasingly بخشی از خصوصی‌ترین اطلاعات زندگی خود را با سامانه‌های هوش مصنوعی در میان می‌گذارند؛ از شرح اختلافات خانوادگی و پرونده‌های حقوقی گرفته تا تصاویر، اسناد، اطلاعات هویتی، سوابق پزشکی و جزئیاتی که شاید حاضر نباشند با نزدیک‌ترین افراد زندگی خود نیز به اشتراک بگذارند.

اما پشت این گفت‌وگوی ظاهراً ساده یک پرسش جدی وجود دارد: اطلاعاتی که کاربر با چند کلیک در اختیار یک سامانه هوش مصنوعی قرار می‌دهد، دقیقاً چه سرنوشتی پیدا می‌کند؟

چه داده‌ای ذخیره می‌شود، چگونه پردازش می‌شود، چه سیاستی برای نگهداری آن وجود دارد و مهم‌تر از همه، اگر این اطلاعات روزی به دست افراد سودجو یا مجرمان سایبری برسد، چه استفاده‌ای می‌توان از آن کرد؟

این نگرانی زمانی جدی‌تر می‌شود که بدانیم کلاهبرداری نیز در حال ورود به مرحله‌ای جدید است؛ مرحله‌ای که در آن دیگر پیام‌های جعلی و متن‌های کلیشه‌ای تنها ابزار مجرمان نیستند و هوش مصنوعی می‌تواند فریب را متناسب با شخصیت، شرایط و اطلاعات هر قربانی طراحی کند.

اطلاعات شخصی؛ خوراک ارزشمند برای سوءاستفاده

به گفته علیرضا رستم‌زاده رنانی، حقوقدان و پژوهشگر حوزه حقوق فناوری، یکی از مهم‌ترین خطرات استفاده بی‌محابا از چت‌بات‌ها، تبدیل شدن اطلاعات شخصی و محرمانه کاربران به داده‌هایی است که می‌تواند پیامدهای امنیتی و حریم خصوصی به دنبال داشته باشد.

کاربری که برای حل یک اختلاف خانوادگی، شرح کامل زندگی خود را در اختیار یک سامانه هوش مصنوعی قرار می‌دهد یا فردی که برای دریافت راهنمایی حقوقی، اسناد و اطلاعات هویتی خود را بارگذاری می‌کند، ممکن است بدون توجه کافی، داده‌هایی را در اختیار سامانه قرار دهد که ماهیتی کاملاً محرمانه دارند.

این مسئله فقط به اطلاعات هویتی محدود نمی‌شود. محل زندگی، روابط خانوادگی، وضعیت شغلی، مشکلات مالی، سوابق پزشکی، اختلافات شخصی، تصاویر خصوصی و جزئیات پرونده‌های حقوقی همگی می‌توانند بخشی از تصویری باشند که از زندگی یک فرد در فضای دیجیتال شکل می‌گیرد.

از همین رو، پیش از استفاده از هر سامانه هوش مصنوعی، باید مشخص باشد چه نوع حسابی مورد استفاده قرار می‌گیرد و سیاست آن سرویس درباره جمع‌آوری، پردازش، نگهداری و استفاده از داده‌های کاربران چیست. تفاوت میان حساب‌های رایگان، حرفه‌ای و سازمانی نیز ممکن است در نحوه پردازش داده‌ها مؤثر باشد.

حتی در سرویس‌هایی که امکان انتخاب درباره استفاده از داده‌ها برای بهبود مدل وجود دارد، نباید تصور کرد که امنیت مطلق تضمین شده است. اصل اساسی همچنان ساده است: اطلاعاتی که افشای آنها می‌تواند به فرد آسیب بزند، نباید بدون ضرورت در اختیار یک سامانه هوش مصنوعی قرار گیرد.

یک کلیک تا پذیرش قراردادی که کمتر کسی آن را می‌خواند

بخش دیگری از ماجرا به قراردادی بازمی‌گردد که کاربران معمولاً بدون مطالعه دقیق و تنها با یک کلیک آن را می‌پذیرند.هنگام استفاده از بسیاری از سرویس‌های هوش مصنوعی، کاربر با مجموعه‌ای از شرایط و مقررات مواجه است که بخشی از آنها به نحوه جمع‌آوری، پردازش و نگهداری داده‌ها مربوط می‌شود. اسناد مربوط به پردازش داده و سیاست‌های حریم خصوصی در واقع مشخص می‌کنند اطلاعات کاربر چگونه مورد استفاده قرار می‌گیرد.

مقرراتی مانند مقررات عمومی حفاظت از داده‌های اتحادیه اروپا موسوم به GDPR نیز تلاش کرده‌اند چارچوب مشخص‌تری برای پردازش و نگهداری داده‌های شخصی ایجاد کنند، اما وجود قانون و مقررات به معنای حذف کامل خطر نیست.

کاربر همچنان باید بداند چه اطلاعاتی را در اختیار چه سامانه‌ای قرار می‌دهد.

وقتی هوش مصنوعی کلاهبرداری را برای شما شخصی‌سازی می‌کند

خطر بزرگ‌تر زمانی شکل می‌گیرد که اطلاعات شخصی در کنار قابلیت‌های جدید هوش مصنوعی قرار بگیرد.

امروز پیام‌های کلاهبرداری می‌توانند بسیار دقیق‌تر از گذشته طراحی شوند. پیام‌هایی که وعده دریافت رمزارز، انتقال وجه، برنده شدن در یک طرح یا حل یک مشکل فوری را می‌دهند، در برخی موارد با ایجاد اضطراب یا طمع در قربانی تلاش می‌کنند او را به ارائه اطلاعات حساس یا انجام یک اقدام خاص وادار کنند.

گسترش «ایجنت‌های هوش مصنوعی» این نگرانی را جدی‌تر کرده است. این ابزارها می‌توانند بر اساس یک دستور اولیه، مجموعه‌ای از اقدامات را دنبال کنند و با تعداد زیادی از کاربران به صورت همزمان و شخصی‌سازی‌شده تعامل داشته باشند.

در چنین شرایطی، اگر داده‌های شخصی به‌دست‌آمده از نشت‌های اطلاعاتی نیز در اختیار این ابزارها قرار گیرد، ظرفیت طراحی کلاهبرداری‌های هدفمند افزایش پیدا می‌کند.

برای نمونه، تصور کنید اطلاعاتی درباره محل زندگی، شغل، روابط خانوادگی، وضعیت مالی یا علایق یک فرد در اختیار یک مجرم قرار گرفته باشد. هوش مصنوعی می‌تواند همین اطلاعات را کنار هم قرار دهد و گفت‌وگویی طراحی کند که بسیار باورپذیرتر از یک پیام جعلی معمولی باشد.

اینجا دیگر با یک کلاهبرداری عمومی مواجه نیستیم؛ با فریبی مواجهیم که برای یک قربانی مشخص طراحی شده است.

تهدید فقط سرقت پول نیست؛ آبرو هم در معرض خطر است

سوءاستفاده از هوش مصنوعی نیز صرفاً به کلاهبرداری مالی محدود نمی‌شود.

تولید تصاویر، صداها و ویدئوهای جعلی، جعل هویت و تولید محتوایی که بتواند اعتبار اجتماعی، خانوادگی یا شغلی یک فرد را خدشه‌دار کند، از دیگر تهدیدهای جدی این فناوری است.

از منظر حقوقی نیز بسته به نوع رفتار و نتیجه حاصل از آن، برخی جرایم مرتبط با محتوای تولیدشده با هوش مصنوعی می‌توانند در چارچوب قوانین موجود مورد بررسی قرار گیرند. در این زمینه، مقررات مرتبط با کلاهبرداری رایانه‌ای و هتک حیثیت از جمله ظرفیت‌های قانونی قابل بررسی هستند.

نکته مهم این است که محتوای مجرمانه الزاماً محتوایی مستهجن نیست. ممکن است یک تصویر جعلی، فایل صوتی ساختگی یا روایت دروغین، بدون آنکه محتوای مستهجن داشته باشد، آبروی فرد را در محیط خانوادگی، اجتماعی یا حرفه‌ای از بین ببرد.

خود هوش مصنوعی مسئول جرم نیست

یکی از پرسش‌های مهم در این حوزه، مسئولیت حقوقی خود هوش مصنوعی است.از منظر حقوقی، هوش مصنوعی به خودی خود شخص مستقل محسوب نمی‌شود و اراده انسانی ندارد؛ بنابراین نمی‌توان مسئولیت کیفری را صرفاً متوجه یک سامانه هوش مصنوعی دانست.

در مورد دیپ‌فیک و سایر محتواهای تولیدشده با هوش مصنوعی نیز اصل مهم این است که این فناوری ابزار مورد استفاده انسان است و مسئولیت رفتار مجرمانه در نهایت باید متوجه فرد یا افرادی باشد که این ابزار را برای انجام اقدام غیرقانونی طراحی، هدایت یا استفاده کرده‌اند.

البته ظهور ایجنت‌ها شرایط را پیچیده‌تر می‌کند؛ چراکه این ابزارها می‌توانند بر اساس یک دستور اولیه، بخشی از فرآیند را به شکل مستمر دنبال کنند. با وجود این، پیچیده‌تر شدن ابزار به معنای حذف مسئولیت انسانی نیست.

پزشکی؛ جایی که یک پاسخ اشتباه می‌تواند هزینه سنگینی داشته باشد

حساسیت موضوع تنها به حوزه حقوق و امنیت محدود نمی‌شود. استفاده از هوش مصنوعی در حوزه پزشکی نیز نیازمند احتیاط ویژه است.

یک پاسخ نادرست یا ناقص درباره علائم بیماری، دارو، تشخیص یا روند درمان می‌تواند تصمیمی پرهزینه برای بیمار ایجاد کند. هوش مصنوعی ممکن است در ارائه اطلاعات عمومی مفید باشد، اما پاسخ آن نباید بدون بررسی متخصص به جای تشخیص و تصمیم‌گیری پزشکی قرار گیرد.

در همین راستا، حرکت مراکز درمانی به سمت سامانه‌های هوش مصنوعی تخصصی و آموزش‌دیده بر اساس داده‌های همان مجموعه می‌تواند نسبت به وارد کردن اطلاعات بیماران در سامانه‌های عمومی، رویکرد ایمن‌تری باشد.

چت‌بات؛ دستیار باشد، نه محرم اسرار

هوش مصنوعی بدون تردید یکی از مهم‌ترین فناوری‌های عصر جدید است و می‌تواند در آموزش، پژوهش، کسب‌وکار، پزشکی، حقوق و بسیاری از حوزه‌های دیگر به انسان کمک کند؛ اما استفاده درست از آن به معنای اعتماد بی‌قیدوشرط نیست.

قاعده ساده‌ای می‌تواند بسیاری از خطرات را کاهش دهد:

هر اطلاعاتی را که حاضر نیستید در اختیار یک غریبه قرار دهید، بدون ضرورت در چت‌بات هم وارد نکنید.

تصویر مدارک هویتی، شماره‌های بانکی و اطلاعات مالی، رمزهای عبور، اطلاعات پزشکی حساس، جزئیات پرونده‌های خانوادگی و حقوقی، تصاویر خصوصی و اطلاعاتی که افشای آنها می‌تواند به آبرو یا امنیت فرد آسیب بزند، نباید به سادگی در اختیار سامانه‌های هوش مصنوعی قرار گیرند.

هوش مصنوعی قرار است ابزار انسان باشد؛ نه اینکه به قیمت از دست رفتن حریم خصوصی، جایگزین اعتماد و احتیاط انسانی شود.

مسئله امروز دیگر این نیست که آیا باید از هوش مصنوعی استفاده کنیم یا نه؛ مسئله این است که کدام اطلاعات را، در چه سامانه‌ای و با چه سطحی از اعتماد در اختیار آن قرار دهیم.

در دنیایی که کلاهبرداران نیز به ابزارهای هوشمند مجهز شده‌اند، شاید مهم‌ترین مهارت دیجیتال کاربران نه فقط «بلد بودن کار با هوش مصنوعی»، بلکه دانستن این باشد که چه چیزی را نباید به آن گفت.