پژوهش جدید دانشگاه لنکستر نشان میدهد که چهرههای تولیدشده با مدلهای پیشرفته هوش مصنوعی مانند Diffusion، در بسیاری از موارد از تصاویر واقعی انسانها قابلاعتمادتر به نظر میرسند و میانگین دقت افراد در تشخیص چهرههای واقعی تنها ۵۸.۴ درصد است. این یافته زنگ خطر تازهای درباره افزایش خطر جعل هویت، کلاهبرداری اینترنتی و انتشار اطلاعات نادرست به صدا درآورده است.
به گزارش خبرنگار ما، در شرایطی که ابزارهای تولید تصویر مبتنی بر هوش مصنوعی تقریباً برای همه کاربران، حتی بدون داشتن دانش فنی، در دسترس هستند، پژوهشگران درباره خطرات ناشی از این فناوری هشدار دادهاند. این مطالعه که به سرپرستی الکسیس مکگوایر و گروهی از پژوهشگران دانشگاه لنکستر انجام شده، نخستین پژوهشی است که میزان اعتماد افراد به چهرههای تولیدشده توسط جدیدترین فناوری Diffusion را بررسی میکند.
تشخیص چهره های جعلی کار آسانی نیست
انسانها به شکل طبیعی توانایی فوقالعادهای در تحلیل چهرهها دارند. مغز انسان میتواند تنها در حدود ۱۰۰ میلیثانیه درباره یک چهره قضاوت اولیه انجام دهد؛ قابلیتی که طی میلیونها سال تکامل شکل گرفته است. با این حال، چهرههای تولیدشده توسط هوش مصنوعی اکنون آنقدر واقعی شدهاند که سامانههای جدید میتوانند حدود یکسوم مواقع افراد را فریب دهند تا تصور کنند تصویر کاملاً واقعی است.
برای بررسی این موضوع، پژوهشگران از ۱۶۹ شرکتکننده خواستند مجموعهای شامل ۹۶ چهره با نژادها، جنسیتها و سنین مختلف را مشاهده کنند و تشخیص دهند هر تصویر متعلق به یک انسان واقعی است یا توسط هوش مصنوعی ساخته شده است. نتیجه شگفتآور بود؛ میانگین دقت شرکتکنندگان تنها ۵۸.۴ درصد بود که فقط اندکی بهتر از حدس زدن تصادفی محسوب میشود.
چرا چهرههای هوش مصنوعی اعتماد بیشتری جلب میکنند؟
در آزمایش دوم، گروه جدیدی از شرکتکنندگان میزان قابل اعتماد بودن همان ۹۶ چهره را در مقیاسی از ۱ (کاملاً غیرقابل اعتماد) تا ۷ (کاملاً قابل اعتماد) ارزیابی کردند. نتایج نشان داد:
- چهرههای واقعی انسان: ۴.۰۳
- چهرههای تولیدشده با فناوری GAN: ۴.۳۶
- چهرههای تولیدشده با فناوری Diffusion: ۴.۷۰
در واقع، همان چهرههایی که در آزمایش اول کمتر واقعی به نظر میرسیدند، در آزمایش دوم بیشترین میزان اعتماد را جلب کردند. به گفته الکسیس مکگوایر، این یافته یک پارادوکس ایجاد میکند و نشان میدهد احتمالاً سازوکارهای روانشناختی متفاوتی مسئول قضاوت درباره واقعی بودن چهره و قابل اعتماد بودن آن هستند.
نگرانیها؛ از کلاهبرداری اینترنتی تا تهدید دموکراسیها
مکگوایر هشدار میدهد که مدلهای هوش مصنوعی فضای آنلاین را دموکراتیک کردهاند و اکنون هر فردی بدون داشتن مهارت فنی میتواند چهرههای جعلی تولید کند و از آنها برای انواع سوءاستفادهها استفاده کند. از جمله این سوءاستفادهها میتوان به انتشار اطلاعات نادرست، جعل هویت، کلاهبرداری اینترنتی و catfishing اشاره کرد.
بر اساس اعلام سازمان پلیس فتا، کاربران فضای مجازی باید به این نکته توجه داشته باشند که هر تصویری که در فضای مجازی مشاهده میکنند، واقعی نیست و هوش مصنوعی میتواند چهرههای جعلی و غیرواقعی ایجاد کند که تشخیص آنها برای عموم بسیار دشوار است. پلیس فتا توصیه کرده که کاربران به هیچ عنوان اطلاعات شخصی و هویتی خود را در اختیار افراد ناشناس در فضای مجازی قرار ندهند.
- دقت تشخیص چهرههای واقعی: تنها ۵۸.۴٪ (اندکی بهتر از حدس تصادفی)
- بالاترین امتیاز اعتماد: چهرههای تولیدشده با مدل Diffusion با امتیاز ۴.۷۰ از ۷
نتایج این پژوهش که در نشریه Journal of Vision منتشر شده، نشان میدهد که با پیشرفت بیشتر مدلهای Diffusion، فاصله میان «قابل اعتماد به نظر رسیدن» و «واقعاً قابل اعتماد بودن» چهرههای هوش مصنوعی ممکن است بیشتر شود. این شکاف فرصت بزرگی برای کلاهبرداران و عاملان انتشار اطلاعات نادرست فراهم میکند و اتکای انسان به حس بصری خود برای تشخیص هویتهای واقعی در فضای آنلاین را روزبهروز کمرنگتر خواهد کرد.
**بیوگرافی لعیا آزاده**
**لعیا آزاده**
سردبیر بخش هنرهای تجسمی و زیباییشناسی
لعیا آزاده منتقد هنری، کیوریتور و پژوهشگر حوزه هنرهای تجسمی با بیش از چهارده سال تجربه تخصصی در نقد هنری، مدیریت پروژههای نمایشگاهی و پژوهش در تاریخ هنر معاصر ایران است. تمرکز اصلی وی بر تحلیل جریانهای نوین هنرهای تجسمی، زیباییشناسی معاصر و پیوند هنر با مفاهیم فلسفی و اجتماعی است.
**تحصیلات**
وی دارای مدرک کارشناسی ارشد پژوهش هنر از دانشگاه هنر تهران و کارشناسی نقاشی از دانشگاه هنر است. همچنین دورههای تخصصی کیوریتوری و مدیریت موزه را در آکادمی هنرهای معاصر اروپا گذرانده و در کارگاههای متعدد نقد هنری و زیباییشناسی شرکت فعال داشته است.
**سوابق حرفهای**
آزاده فعالیت حرفهای خود را از اواخر دهه هشتاد به عنوان منتقد هنری در نشریات تخصصی هنری آغاز کرد. با توسعه فعالیتهایش در حوزه کیوریتوری، وی گردانندگی چندین نمایشگاه معتبر گروهی و انفرادی در گالریها و موزههای داخلی را بر عهده داشته و به عنوان مشاور هنری با چندین مؤسسه فرهنگی همکاری مستمر دارد.
وی از ابتدای سال ۱۴۰۰ به تیم تحریریه مجله اینترنتی ساتیا پیوسته و به عنوان سردبیر بخش هنرهای تجسمی و زیباییشناسی در این رسانه فعالیت میکند. در این مدت، تحلیلهای عمیق و نقدهای تحلیلی وی درباره آثار هنرمندان معاصر ایرانی و جریانهای جهانی هنر، مورد توجه جامعه هنری و مخاطبان علاقهمند قرار گرفته است.
**تخصصها و حوزههای کاری**
تخصص اصلی آزاده در نقد و تحلیل هنرهای تجسمی معاصر، کیوریتوری نمایشگاههای مفهومی و پژوهش در زمینه زیباییشناسی فلسفی است. وی همچنین در زمینه مشاوره مجموعهداری، تحلیل بازار هنر و مطالعه تأثیر تحولات اجتماعی بر تولیدات هنری تجربه قابل توجهی دارد.
**روششناسی تحلیلی**
رویکرد تحلیلی آزاده مبتنی بر تلفیق دانش تاریخ هنر، مفاهیم زیباییشناسی فلسفی و درک بستر اجتماعی تولید اثر هنری است. وی در نقدهای خود همواره بر درک فرآیند خلاقه هنرمند، تحلیل ساختار فرمال اثر و بررسی لایههای معنایی آن تأکید دارد و از رویکردهای تکبعدی و قضاوتهای شتابزده پرهیز میکند.
**عضویت در نهادهای تخصصی**
وی عضو انجمن منتقدان و نویسندگان هنر ایران و انجمن کیوریتورهای مستقل است و در کمیتههای انتخاب چندین دوسالانه و جشنواره هنری معتبر کشور مشارکت داشته است.