یوتیوب با قابلیت جدید تشخیص شباهت، به جنگ ویدیوهای جعلی هوش مصنوعی می‌رود

یوتیوب ابزار تازه‌ای برای شناسایی ویدیوهای جعلی مبتنی بر هوش مصنوعی معرفی کرده تا از سوءاستفاده از چهره افراد جلوگیری کند.

به گزارش تکراتو و به نقل از arstechnica، در سال‌های اخیر محتوای تولیدشده با هوش مصنوعی در اینترنت گسترش یافته و از تصاویر ناقص اولیه به ویدیوهایی رسیده که تشخیصشان از واقعیت دشوار است.

حالا گوگل که خود نقشی در شکل‌گیری این پدیده داشته، تصمیم گرفته با راه‌اندازی سیستم جدید تشخیص شباهت در یوتیوب، آن را کنترل کند.

مدل‌های هوش مصنوعی قدرتمند و رایگان گوگل باعث رشد سریع این نوع محتوا شده‌اند؛ محتوایی که گاهی برای انتشار اطلاعات نادرست یا آزار افراد به کار می‌رود.

بسیاری از سازندگان محتوا و چهره‌های شناخته‌شده نگران‌اند که ویدیوهای جعلی هوش مصنوعی با نمایش گفتار یا رفتارهای غیرواقعی، به اعتبار آن‌ها آسیب بزند.

حتی برخی سیاستمداران نیز نسبت به این مسئله هشدار داده‌اند. با این حال، گوگل که سرمایه‌گذاری سنگینی روی محتوای مبتنی بر هوش مصنوعی انجام داده، قصد ندارد استفاده از آن را در یوتیوب ممنوع کند.

اوایل امسال، یوتیوب وعده داد ابزاری ارائه کند که ویدیوهای جعلی مبتنی بر سرقت چهره را شناسایی کند. اکنون این قابلیت با نام تشخیص شباهت، که شباهت زیادی به سیستم شناسایی حق نشر دارد، برای گروهی از سازندگان فعال شده است.

به گفته یوتیوب، نخستین گروه از کاربران واجد شرایط برای استفاده از این ابزار اطلاع‌رسانی شده‌اند. البته برای فعال‌سازی این قابلیت، کاربران باید اطلاعات شخصی بیشتری از جمله مدارک شناسایی خود را برای تأیید هویت در اختیار گوگل قرار دهند.

در حال حاضر این قابلیت در مرحله آزمایشی محدود قرار دارد و ممکن است همه سازندگان آن را در بخش مدیریت محتوای یوتیوب استودیو نبینند.

در نسخه نمایشی منتشرشده توسط یوتیوب، فرض بر این است که هر کانال تنها یک مجری اصلی دارد که باید چهره خود را تأیید کند.

برای این کار، تصویر کارت شناسایی دولتی و ویدیویی از چهره فرد لازم است. مشخص نیست چرا یوتیوب به چنین داده‌هایی نیاز دارد، در حالی که چهره کاربران در ویدیوهای قبلی به‌وفور در دسترس است.

پس از ثبت‌نام، یوتیوب ویدیوهایی را که ممکن است چهره کاربر در آن‌ها دیده شود، شناسایی و علامت‌گذاری می‌کند.

با این حال، الگوریتم یوتیوب نمی‌تواند همیشه تشخیص دهد که یک ویدیو واقعاً با هوش مصنوعی ساخته شده یا خیر. بنابراین ممکن است نتایج اشتباه یا مواردی از استفاده مجاز از بخشی از ویدیوها نیز در فهرست قرار گیرند.

اگر کاربری متوجه شود چهره‌اش در یک ویدیوی جعلی استفاده شده، می‌تواند با ارائه جزئیات، گزارش خود را در چند دقیقه ارسال کند.

در صورتی که ویدیو شامل بخش‌هایی از محتوای اصلی کانال فرد باشد و استفاده از آن با قوانین استفاده منصفانه مطابقت نداشته باشد، یوتیوب پیشنهاد می‌کند درخواست حذف حق نشر نیز ثبت شود.

با این حال، صرف حضور چهره یک فرد در ویدیوی ساخته‌شده با هوش مصنوعی به‌تنهایی دلیل کافی برای حذف آن نخواهد بود.

یوتیوب فهرستی از عواملی را منتشر کرده که بررسی‌کنندگان هنگام تصمیم‌گیری برای حذف یا باقی ماندن ویدیو در نظر می‌گیرند.

برای مثال، ویدیوهای طنز یا محتوای دارای سبک غیرواقعی که به‌وضوح به عنوان ساخته هوش مصنوعی برچسب‌گذاری شده باشند، احتمالاً حذف نمی‌شوند.

اما ویدیوهای واقع‌گرایانه‌ای که در آن‌ها فردی در حال تبلیغ محصول یا انجام عمل غیرقانونی نشان داده می‌شود، به احتمال زیاد با قوانین مغایرت داشته و حذف خواهند شد.

در حالی که این مسئله فعلاً بیشتر دغدغه تولیدکنندگان محتوا است، اما به‌زودی ممکن است با رشد سریع ابزارهای جدید، به چالشی فراگیر تبدیل شود.

گوگل اخیراً مدل ویدیویی جدید خود به نام Veo 3.1 را معرفی کرده که قادر است ویدیوهای هوش مصنوعی عمودی و افقی تولید کند و قرار است مستقیماً با یوتیوب ادغام شود. این موضوع می‌تواند باعث افزایش حجم ویدیوهای هوش مصنوعی در پلتفرم شود.

در همین حال، شرکت رقیب OpenAI نیز با اپلیکیشن ویدیویی هوش مصنوعی Sora و نسخه جدید آن Sora 2 محبوبیت زیادی به دست آورده است. این رقابت ممکن است گوگل را وادار کند تا روند توسعه هوش مصنوعی در یوتیوب را تسریع کند.

در چنین شرایطی، احتمال دارد سازندگان محبوب ناچار شوند به همان اندازه که درخواست حذف حق نشر ارسال می‌کنند، گزارش محتوای جعلی مبتنی بر چهره خود را نیز ثبت کنند.