فناوری شبیه‌سازی صدا با هوش مصنوعی توسط شرکت «اوپن ای‌آی» ارائه شد

این ابزار جدید پس از آن ارائه شد که یکی مشاورین فعال در کمپین انتخاباتی جو بایدن، برنامه‌ای خودکار را برای جعل هویت او ابداع کرد

منتشر شده در: آخرین به روزرسانی:
فعال‌سازی حالت خواندن
100% Font Size
2 دقيقه (Reading time)

شرکت «اوپن ای‌آی»، مبتکر برنامه معروف «چت جی‌پی‌تی» مبتنی بر هوش مصنوعی مولد، ابزار شبیه‌سازی صوتی را با هدف جلوگیری از کلاهبرداری یا جرائم مختلف ارائه کرده است.

در بیانیه این شرکت در خصوص نتایج آزمایش محدود ابزاری با نام «ویس انجین» آمده است که این ابزار می‌تواند صدای افراد را از طریق یک نمونه صوتی 15 ثانیه‌ای، بازتولید کند.

بیانیه«اوپن ای‌آی» با اشاره به خطرات بزرگ بالقوه ناشی از توانایی ساخت صداهایی شبیه صدای انسان، به ویژه در سال انتخاباتی جاری در آمریکا اعلام کرد: «ما با شرکای آمریکایی و بین‌المللی از دولت ها، رسانه‌ها، عرصه‌های سرگرمی، آموزش، جامعه مدنی، و دیگر بخش‌ها همکاری داشته و پذیرای ملاحظات آنها در روند ابداع این ابزار هستیم».

محققان در زمینه اطلاعات فیک رسانه‌ای با توجه به انتخابات سال جاری در بسیاری از کشورها، نسبت به استفاده نادرست از برنامه‌های هوش مصنوعی مولد، به‌ویژه ابزار شبیه‌سازیصوتی ارزان، آسان برای استفاده و ردیابی دشوار، ابراز نگرانی می‌کنند.

این شرکت تاکید کرد که به دلیل احتمال سوء استفاده از صداهای مصنوعی، «رویکردی محتاطانه» را پیش از توزیع گسترده این ابزار جدید، در پیش گرفته است.

عرضه این ابزار پس از آن ارائه شد که یکی مشاورین فعال در کمپین انتخاباتی جو بایدن، برنامه‌ای خودکار را برای جعل هویت او ابداع کرد.

این صوت دیپ فیک از رای دهندگان دهندگان نیوهمپشایر میخواست در انتخابات مقدماتی این ایالت شرکت نکنند. از آن زمان ایالات متحده، در مقابله با تقلب‌های سیاسی یا تجاری، فراخوان‌هایی که در آن از صداهای شبیه‌سازی شده با هوش مصنوعی استفاده می‌شود را ممنوع کرد.

در بیانیه «اوپن ای‌آی» آمده است شرکایی که در حال آزمایش ابزار «ویس انجین» هستند با قوانینی موافقت کردند که طبق آنها، گرفتن موافقت صریح از هر فرد قبل از استفاده از صدای او و اطلاع به مستمعان در مورد تولید این صدا با هوش مصنوعی، اموری ضروری هستند.

در ادامه بیانیه این شرکت آمده است: «ما مجموعه‌ای از اقدامات امنیتی از جمله «واترمارک» را در پیش گرفتیم تا بتوانیم منشا هر صدای ساخته شده توسط ابزار جدید را ردیابی کرده و نظارت کاملی بر نحوه استفاده از آن اعمال کنیم.»

بیشترین بازدید موضوعات مهم

بیشترین بازدید