سورای ۲ اوپنای آی قادر به تولید دیپفیکهای قانعکننده بهطور خودکار است؛ نتایج یک مطالعه
عنوان: سوره ۲ اپنایآی میتواند عمیقترین تقلبهای دیجیتال را بنا به درخواست تولید کند
به تازگی یک مطالعه جدید نشان داده است که سیستم هوش مصنوعی سوره ۲ (Sora 2) که توسط شرکت اپنایآی توسعه یافته، توانایی تولید تقلبهای دیجیتال یا deepfakeهای بسیار متقاعدکننده را در شرایط مختلف دارد. این تحقیق که به بررسی قابلیتهای سوره ۲ پرداخته، نشان میدهد که این فناوری میتواند به راحتی تصاویر و ویدئوهای جعلی را ایجاد کند که بهسختی قابل تشخیص هستند.
به ادعای محققان، سوره ۲ قادر است با استفاده از الگوریتمهای پیشرفته یادگیری ماشین، عمیقترین تقلبها را در زمان واقعی تولید کند. از آنجا که این فناوری به طور خاص برای تأثیر بر روندهای روانی و اجتماعی طراحی شده، میتواند به سادگی استفاده شود و به همین دلیل نگرانیهای جدی درباره پیامدهای منفی آن برای امنیت سایبری و رسانهها بوجود آمده است.
این مطالعه همچنین بیان میکند که سوره ۲ با تحلیل رفتارها و واکنشهای انسانی، میتواند محتوای ساخته شده را قالببندی کند تا به نظر طبیعی بیاید. با این اوصاف، این نوآوری میتواند علاوه بر ارائه فرصتهای جدید در صنعت رسانه، به عنوان ابزاری برای تولید اخبار جعلی و تصاویری که به راحتی نمیتوان آنها را رد کرد، مورد سوءاستفاده قرار گیرد.
به دنبال این یافتهها، کارشناسان و فعالان حوزه تکنولوژی به نگرانیهای خود در مورد قابلیتهای این فناوری و تبعات اجتماعی و اخلاقی آن ادامه میدهند. به ویژه موضوعاتی از قبیل امنیت حریم خصوصی، کلاهبرداری و گسترش اطلاعات نادرست از جمله مسائلی هستند که به شدت نیازمند رسیدگی فوری هستند.
تحلیل و پیامدهای کلیدی
اخیراً توسعه فناوریهای هوش مصنوعی مانند سوره ۲ در بازار تأثیر عمیقی داشته است. این مشکلات افزایش توانایی تولید محتوای جعلی میتواند تأثیرات گستردهای بر رسانههای اجتماعی، انتخابات و حتی عدالت اجتماعی داشته باشد. در واقع، خطر تولید اخبار جعلی میتواند به سرعت به یک بحران جدی تبدیل شود.
از سوی دیگر، این تکنولوژی میتواند راههای جدیدی را برای تولید محتوا در صنایع خلاقانه باز کند. به عنوان مثال، تهیه محتوای ویدیویی برای تبلیغات یا حتی سینما میتواند با بهرهگیری از این قابلیتها به مراتب آسانتر شود. اما در عین حال، پرسش امنیت و اعتماد به منبع محتوا بیش از هر زمان دیگری حائز اهمیت خواهد بود.
به نظر میرسد که در آینده بسیار نزدیک، نیاز به توسعه قوانین و مقرراتی حول این فناوریهای جدید احساس میشود، به طوری که بتوان از سوءاستفادههای احتمالی جلوگیری کرد و در عین حال از نوآوریهای مثبت آن حمایت کرد. در نهایت، شفافیت در استفاده از این تکنولوژیها و مسئولیتپذیری در تولید محتوا از مهمترین اقدامات برای مواجهه با چالشهای مربوط به deepfakeها خواهد بود.
منبع: دیکریپت
