Google هوش مصنوعی را به تصاویر ویرایش شده با ویرایشگر جادویی Watermark اضافه می کند. با این حال ، گوگل تأیید کرده است که برخی از تغییرات ایجاد شده با هوش مصنوعی می تواند به حدی کوچک باشد که synthid نمی تواند آنها را تشخیص دهد.
گزارش شده است توقفبرنامه Google Photos این هفته مارک آب دیجیتال Synthid را به تصاویر ویرایش شده با ویرایشگر جادویی اضافه می کند. این ویژگی جدید به کاربران کمک می کند تا تشخیص تصاویر دستکاری شده توسط ویرایشگر جادو را تسهیل کنند.
گوگل برای شناسایی تصاویر ویرایش شده با ویرایشگر جادویی یک برند آب دیجیتال اضافه کرد
Synthid یک مارک آب دیجیتالی است که توسط تجهیزات Google DeepMind ساخته شده و ابرداده خاص را مستقیماً در تصاویر ، فیلم ها ، صدا و متن نشان می دهد تا مشخص شود که آیا آنها با ابزارهای هوش مصنوعی ساخته شده اند یا ویرایش شده اند.
این سیستم قبل از تصاویری که کاملاً با مدل سبک متن تصویر Google رخ داده است ، استفاده شده است. شرکت های دیگر ، مانند Adobe ، فن آوری های مشابهی مانند اعتبار محتوا برای نام تجاری آب ، محتوای تولید شده یا ویرایش شده با ابزارهای خلاقانه در ابر را توسعه داده اند.
در گذشته ، همکاران ما نشان داده اند که چگونه تصاویر واقعی و بی عیب و نقص را با ابزار “تفریحی” در Google Pixel 9 ویرایش می کنند. این ابزار به سادگی می تواند عناصری مانند هلیکوپتر ، مواد مخدر یا حتی بدن را در تصاویر ایجاد کند ، بدون اینکه هیچ نشانه ای از ویرایش داشته باشد. البته ، از اکتبر سال گذشته ، Google شروع به برچسب زدن این تصاویر در توضیحات پرونده کرده است.
اما این برند جدید آب هنوز با چالش هایی روبرو است. اول ، synthid هیچ تغییری در تصویر ایجاد نمی کند ، بلکه از طریق ابزار تشخیص اختصاصی هوش مصنوعی Google را می توان در بخش “درباره این تصویر” شناسایی کرد.
علاوه بر این ، برخی از نسخه های ساخته شده با ویرایشگر جادویی می توانند به حدی کوچکتر باشند که synthid نمی تواند آنها را علامت گذاری کند و آنها را تشخیص دهد.
اگرچه فن آوری های برند آب می توانند تا حدی به شناسایی تصاویر اصلاح شده کمک کنند ، اما برخی از کارشناسان این حوزه معتقدند که این روش فقط کافی نیست و به مجموعه ای از رویکردهای متنوع و مکمل برای محتوای هوش مصنوعی با دقت تأیید شده نیاز دارد.