روزگاری بود که تشخیص محتوای تولید شده توسط هوش مصنوعی به طرز شرم‌آوری آسان بود. داشتن شش انگشت در تصاویر، پس‌زمینه‌های ذوب‌شده و نامفهوم، چشمان بی‌روح و صداهای رباتیک معمولاً دست این ابزارها را رو می‌کرد. اما اکنون هوش مصنوعی مولد بسیاری از آن اشتباهات اولیه را پشت سر گذاشته است و چشم‌ها و گوش‌های ما برای تشخیص واقعیت از محتوای ساختگی، کار بسیار دشوارتری پیش رو دارند.
به گزارش واضح به نقل از دیجیتال ترندز، اگر منصف باشیم، بخش زیادی از محتوای هوش مصنوعی صرفاً سرگرمی‌های بی‌خطر هستند. یک کلیپ خنده‌دار از رقصیدن یک گربه یا میم‌های عجیب و غریب، بحران محسوب نمی‌شوند. مشکل اصلی زمانی آغاز می‌شود که از همین ابزارهای هوش مصنوعی مولد برای جعل حوادث و بحران‌ها، سوءاستفاده از هویت افراد یا تولید صدا و ویدیوهای بسیار باورپذیر استفاده می‌شود. حالا گوگل ابزار جدیدی ارائه داده است که می‌تواند به حل این چالش بزرگ کمک کند.
ابزار SynthID Detector گوگل اکنون در دسترس همگان قرار داردشرکت گوگل ابزار SynthID Detector را به زبان انگلیسی و به صورت جهانی در دسترس همگان قرار داده است. شما می‌توانید با آپلود یک تصویر، ویدیو یا فایل صوتی، وجود واترمارک نامرئی SynthID را که در محتوای هوش مصنوعی تعبیه می‌شود، بررسی کنید. بر اساس اعلام گوگل، واترمارک SynthID تا کنون روی بیش از ۱۸۰ میلیارد تصویر و ویدیو و همچنین معادل ۲۴۰ هزار سال فایل صوتی اعمال شده است.
تیم گوگل دیپ‌مایند (Google DeepMind) با انتشار اطلاعیه‌ای رسمی اعلام کرد: «ابزار SynthID Detector هم‌اکنون در دسترس عموم قرار گرفته است. کاربران می‌توانند بررسی کنند که آیا یک محتوای آنلاین با استفاده از هوش مصنوعی گوگل (@GoogleAI) یا ابزارهای شرکت‌های همکار صنعت فناوری مانند OpenAI، Nvidia، Kakao و به‌زودی Apple تولید شده است یا خیر.»
تحول بزرگ‌تر این است که این آشکارساز هوش مصنوعی دیگر فقط برای محتواهای ساخته‌شده توسط گوگل کاربرد ندارد. این ابزار قادر است رسانه‌های هوش مصنوعی پشتیبانی‌شده از شرکای تجاری مانند OpenAI، Nvidia و Kakao را نیز تشخیص دهد و شرکت اپل (Apple) نیز به‌زودی به این جمع خواهد پیوست. علاوه بر این، گوگل ابزارهای راستی‌آزمایی مشابهی را در خدمات خود مانند موتور جستجوی گوگل، مرورگر کروم (Chrome) و چت‌بات جمینای (Gemini) ادغام کرده است. به عنوان مثال، مدل هوش مصنوعی Gemini می‌تواند ویدیوها را هم در بخش تصویری و هم در ترک صوتی برای یافتن واترمارک SynthID اسکن و بررسی کند.
چرا امروز به ابزارهای راستی‌آزمایی هوش مصنوعی نیاز مبرم داریم؟رسانه‌های سنتتیک (تولیدشده با هوش مصنوعی) به طرز ترسناکی در حال تبدیل شدن به محتواهایی باورپذیر هستند. صداهای هوش مصنوعی اکنون می‌توانند بخندند، پچ‌پچ کنند، مکث‌های طبیعی داشته باشند و احساسات را به گونه‌ای منتقل کنند که به راحتی شنوندگان را فریب دهند. البته باید توجه داشت که SynthID Detector یک ماشین کشف حقیقت مطلق نیست؛ این ابزار می‌تواند محتواهای پشتیبانی‌شده دارای واترمارک SynthID را شناسایی کند، اما نداشتن این واترمارک لزوماً به معنای اصالت قطعی یک فایل نیست. با این حال، در اختیار گذاشتن یک ابزار تشخیص هوش مصنوعی ساده برای همگان، اقدامی بسیار مثبت و ضروری است. ما به سرعت در حال رسیدن به نقطه‌ای هستیم که عبارت «واقعی به نظر می‌رسد» دیگر برای پذیرش واقعیت کافی نیست.
