تشخیص اخبار جعلی و محتوای صوتی دستکاری‌ شده با هوش مصنوعی 

بخش تحقیقاتی (  Klick Health) روشی برای تجزیه و تحلیل صدا ابداع کرده که می‌تواند تشخیص دهد صدا متعلق به یک فرد واقعی است یا هوش مصنوعی. با افزایش روزافزون تعداد دیپ‌فیک‌ها تشخیص آنها از محتوای واقعی اهمیت بیشتری پیدا کرده است. دیپ‌فیک‌ها، ویدیوها، فایل‌های صوتی یا عکس‌هایی هستند که با استفاده از هوش مصنوعی تولید می‌شوند و به قدری واقعی به نظر می‌رسند که تشخیص آنها از نمونه‌های واقعی دشوار است. یوروپل، آژانس اجرای قانون اتحادیه اروپا، پیش‌بینی کرده، تا سال ۲۰۲۶ ممکن است ۹۰ درصد از محتوای آنلاین به صورت مصنوعی تولید شود. سرویس اطلاعات امنیت کانادا این وضعیت را تهدیدی واقعی برای آینده کانادا می داند. یان فوسات معاون ارشد تحقیق و توسعه سلامت دیجیتال در (  Klick Labs) امیدوار است شرکت او بتواند دنیای هوش مصنوعی را کمی امن‌تر کند. وی گفت، این فناوری با سرعتی بیش از بسیاری از فناوری‌های دیگر در حال پیشرفت است. 

محققان ( Klick Labs ) روشی برای تشخیص دیپ‌فیک‌ها با استفاده از بیومارکرهای صوتی ارائه کرده‌اند. بیومارکرها، ویژگی‌هایی در صدا هستند که می‌توانند اطلاعاتی در مورد سلامت یا فیزیولوژی فرد گوینده ارائه دهند. برای مثال، اگر کسی به تازگی از پله‌ها بالا آمده باشد، نفس‌نفس می‌زند که در صدایش قابل شنیدن است. صدا همچنین می‌تواند نشان دهد فرد تازه از خواب بیدار شده یا احساس خستگی می‌کند. محققان ۱۲ هزار بیومارکر صوتی را شناسایی کردند که در حال حاضر از پنج مورد برای تشخیص دیپ‌فیک‌ها استفاده می‌کنند. طول و تنوع گفتار، میزان مکث‌های کوتاه و بلند، و نسبت زمان صحبت به مکث. این روش ۸۰ درصد دقت دارد، اما ممکن است با پیشرفت تکنولوژی دیپ‌فیک، این دقت کاهش یابد. فوسات می‌گوید، به‌دلیل پیشرفت مداوم هوش مصنوعی که هر روز به صدای انسان نزدیک‌تر می‌شود، تشخیص دشوارتر خواهد شد. 

 

او به ( OpenAI ) اشاره می‌کند که چند هفته پیش با یک صدای دیپ‌فیک جدید باورنکردنی وارد عرصه شده که حتی توانایی تقلید نفس کشیدن را دارد. اما فوسات تأکید می‌کند، هزاران بیومارکر دیگر مانند ضربان قلب وجود دارند که می‌توانند برای تشخیص دیپ‌فیک مورد آزمایش قرار گیرند. 

 

Call Now Button