سازمان ملل: پیشرفت افسارگسیخته هوش مصنوعی میتواند به فاجعه بینجامد
این گزارش نخستین ارزیابی مستقل جهانی از فرصتها و تهدیدهای هوش مصنوعی به شمار میرود
یک هیئت مستقل علمی وابسته به سازمان ملل متحد هشدار داده است که سرعت پیشرفت هوش مصنوعی از توان دانشمندان و دولتها برای درک و مدیریت آن فراتر رفته است، و در نتیجه هیچ تضمینی وجود ندارد که این فناوری در آینده به خسارتهای فاجعهبار منجر نشود.
به گزارش «رویترز»، این گزارش تأکید میکند سیاستگذاران برای تنظیم مقررات مؤثر به شواهد علمی نیاز دارند، اما تحقیقات و شناخت علمی با شتاب تحول هوش مصنوعی همگام نیست. این گزارش نخستین ارزیابی مستقل جهانی از فرصتها و تهدیدهای هوش مصنوعی به شمار میرود.
به گفته یوشوا بنجیو، رئیس مشترک این هیئت، شواهد فزایندهای از رفتارهای فریبکارانه برخی سامانههای هوش مصنوعی مشاهده شده است؛ و دانش کنونی نمیتواند تضمین کند که با افزایش توانایی این سامانهها، خطر از دست رفتن کنترل بر آنها یا سوءاستفاده افراد مخرب از این فناوری به بحرانهای بزرگ منجر نشود.
در این گزارش پیشبینی شده است که در آینده نزدیک، سامانههای «عاملمحور» که قادر به انجام مستقل وظایف پیچیده در دنیای واقعی هستند، به سرعت گسترش خواهند یافت. همچنین در بلندمدت هوش مصنوعیِ خودبهبوددهنده با فناوریهایی مانند رایانش کوانتومی و زیستفناوری تلفیق خواهد شد و نقش عمیقتری در اقتصاد جهانی ایفا خواهد کرد. با این حال، مشخص نیست که این پیشرفتها چگونه بر اشتغال، بهرهوری، و رشد اقتصادی تأثیر خواهند گذاشت.
گزارش همچنین نسبت به استفاده از هوش مصنوعی برای تولید اطلاعات نادرست، کلاهبرداری، حملات سایبری، و حتی تهدیدهای زیستی هشدار میدهد؛ و میگوید بسیاری از کشورها هنوز توانایی لازم برای ارزیابی یا نظارت بر سامانههای پیشرفته هوش مصنوعی را ندارند.
به گفته رویترز، آنتونیو گوترش، دبیرکل سازمان ملل متحد، از دولتها خواست هرچه سریعتر برای ایجاد چارچوبهای نظارتی مؤثر اقدام کنند، و تأکید کرد اگر جهان نتواند یک فناوری را به درستی درک کند، نمیتواند آن را به طور مؤثری اداره کند.
