هشدار کارشناسان سازمان ملل در مورد برنامه‌های جاسوسی مبتنی بر هوش مصنوعی

کارشناسان سازمان ملل متحد هشدار دادند که برنامه‌های جاسوسی و ارائه داده‌های نادرست مبتنی بر هوش مصنوعی در حال افزایش هستند و این مسئله، ضرورت قانونگذاری فوری در این حوزه را برجسته می‌کند.

کد خبر: ۳۴۴۲۵

تاریخ: ۱۳ خرداد ۱۴۰۲ - ۱۴:۳۶

به گزارش عصرپرس به نقل از تارنمای سازمان ملل متحد، در بیانیه‌ای که دیروز جمعه (۱۲ خرداد) منتشر شد، حدود ۱۵ گزارشگر و کارشناس سازمان ملل اعلام کردند که فناوری‌های جدید از جمله سیستم‌های نظارت بیومتریک مبتنی بر هوش مصنوعی، به طور فزاینده‌ای در زمینه‌های حساس بدون اطلاع یا رضایت مردم مورد استفاده قرار می‌گیرند.

خطوط قرمز باید به صورت فوری ترسیم شود

کارشناسان این نهاد از جمله فیونوآلا نی آئولاین (Fionnuala Ní Aoláin) گزارشگر ویژه سازمان ملل در زمینه ارتقا و حمایت از حقوق بشر در مبارزه علیه تروریسم تصریح کردند: خطوط قرمز نظارتی دقیق و فوری برای فناوری‌هایی که شناسایی احساسات یا تشخیص جنسیت را انجام می‌دهند، مورد نیاز است.

کارشناسان تعیین شده از سوی شورای حقوق بشر، استفاده هشدارآمیز از جاسوس‌افزارها و فناوری‌های نظارتی در مورد مدافعان حقوق بشر و روزنامه‌نگاران، اغلب به بهانه انجام اقدامات امنیتی ملی و ضد تروریستی را محکوم کردند.

آن‌ها همچنین تنظیم مقررات برای مقابله با توسعه سریع هوش مصنوعی مولد را خواستار شدند که امکان تولید انبوه محتوای نادرست آنلاین، ترویج اطلاعات نادرست و سخنان نفرت‌انگیز را فراهم می‌کند.

عواقب سوء استفاده از فناوری‌های مبتنی بر هوش مصنوعی در دنیای واقعی

در متن این بیانیه بر لزوم اطمینان از اینکه این سیستم‌های نظارتی، افراد و جوامع را در معرض نقض حقوق اساسیِ بیشتر قرار نمی‌دهند، تاکید شده است؛ به بیان دقیق‌تر، نقض حق حریم خصوصی از طریق گسترش و سوء استفاده از شیوه‌های نظارتی که ارتکاب تخلف‌های جدی را تسهیل می‌کند.

کارشناسان همچنین نسبت به پیامدهای این رویه سوء استفاده از فناوری‌های مبتنی بر هوش مصنوعی بر احترام به آزادی بیان، اندیشه و اعتراض مسالمت‌آمیز و همچنین دسترسی به حقوق اساسی اقتصادی، اجتماعی و فرهنگی و همچنین خدمات بشردوستانه ابراز نگرانی کردند.

کارشناسان معتقدند: از تکنولوژی‌ها و برنامه‌های خاصی که امکان تنظیم شکایات حقوق بشر در آن وجود ندارد، باید کاملاً اجتناب شود.

آن‌ها همچنین ابراز نگرانی کردند که توسعه هوش مصنوعی مولد توسط گروه کوچکی از بازیگران قدرتمند، از جمله شرکت‌ها و سرمایه‌گذاران، بدون الزامات کافی برای انجام بررسی‌های حقوق بشری یا مشاوره با افراد و جوامع آسیب‌دیده انجام می‌شود.

شفافیت بیشتر

در این بیانیه آمده است: وضع قوانین برای اطمینان از شفافیت، هشدار به مردم در هنگام مواجهه با رسانه‌های مصنوعی (فرمت‌ها یا محتوای دیجیتال ایجاد شده یا اصلاح شده توسط هوش مصنوعی) و اطلاع رسانی به مردم در مورد داده‌های آموزشی، ضروری است.

کارشناسان همچنین درخواست خود مبنی بر احتیاط در استفاده از فناوری دیجیتال در زمینه بحران‌های بشردوستانه، از جمله جمع‌آوری داده‌ها در مقیاس بزرگ و جمع‌آوری داده‌های بیومتریک بسیار حساس را تکرار کردند.

رمزگذاری و حفظ حریم خصوصی، بسیار مهم است

کارشناسان سازمان ملل بر ضرورت اطمینان از راهکارهای فنی، از جمله رمزگذاری قوی یکپارچه، ایمن‌سازی و محافظت از ارتباطات دیجیتال تاکید کردند.

در این بیانیه آمده است: هم صنعت و هم دولت‌ها باید در قبال تاثیرات اقتصادی، اجتماعی، زیست‌محیطی و حقوق بشری خود پاسخگو باشند. نسل بعدی فناوری‌ها نباید سیستم‌های طرد، تبعیض و الگوهای سرکوب را بازتولید یا تقویت کنند.

کارشناسان همچنین تاکید کردند: ما تا زمانی که پیامدهای گسترده‌تر حقوق بشری این فناوری به طور کامل درک نشده و پادمان‌های حفاظتی قوی از داده‌ها اعمال شود، احتیاط در استفاده از این تدابیر را خواستار هستیم.

منبع: ایرنا