انتشار تصاویر جعلی حساس مثل دستگیری رئیس‌جمهور سابق آمریکا، منجر به از دسترس خارج شدن نسخه‌ی رایگان هوش مصنوعی میدجرنی شد.
به گزارش ایرانی متا به نقل از زومیت، توسعه‌دهنده‌ی هوش مصنوعی میدجرنی (Midjourney) در بیانیه‌ای اعلام کرده است که نسخه‌ی آزمایشی رایگان این سرویس را از دسترس خارج می‌کند.
دلیل اصلی این اتفاق، افزایش قابل‌توجه تعداد کاربران جدیدی است که نمی‌خواهند برای استفاده از میدجرنی پول پرداخت کنند. میدجرنی ابزاری است که با بهره‌گیری از هوش مصنوعی، متن را به تصویر تبدیل می‌کند. نسخه‌ی پنجم این هوش مصنوعی عملکردی شگفت‌انگیز دارد.
دیوید هولز، مدیرعامل و بنیان‌گذار میدجرنی، می‌گوید تقاضا برای استفاده از این سرویس «فوق‌العاده بالا» است و همزمان تعداد زیادی از کاربران مشغول سوءاستفاده از نسخه‌ی رایگان هستند و پس از رسیدن به محدودیت، حساب جدید می‌سازند. هولز می‌گوید: «احتمالا مقصر اصلی این اتفاق، یک ویدیوی آموزشی وایرال در چین است.»
سیستم‌های هوش مصنوعی برای پردازش‌های سنگین از تراشه‌ی گرافیکی استفاده می‌کنند. مدیرعامل میدجرنی می‌گوید وایرال شدن ویدیوی آموزشی در چین و کمبود موقت پردازنده‌ی گرافیکی باعث شد او و اعضای تیمش تصمیم بگیرند که میدجرنی را صرفاً در دسترس کاربران اشتراکی قرار دهند.
باور عمومی بر این است که توقف خدمت‌دهی نسخه‌ی رایگان میدجرنی به انتشار گسترده‌ی تصاویر جعلی ارتباط دارد. در روزهای اخیر تصاویر جعلی دستگیری دونالد ترامپ و کاپشن سفید پاپ در شبکه‌های اجتماعی بارها دیده شد. برخی از کاربران تصور کردند که تصاویر موردبحث واقعی‌اند.
هولز با رد گزارش‌ها، آن‌ها را «سوءتفاهم» خواند و گفت پلن رایگان میدجرنی هرگز دسترسی به نسخه‌ی پنجم این هوش مصنوعی را امکان‌پذیر نمی‌کرد. کاربران از نسخه‌ی پنجم برای تولید تصاویر واقع‌گرایانه‌ی وایرال استفاده کرده بودند.
ابزار میدجرنی ۵ کیفیت تصاویر نهایی (خصوصا تصاویری که در آن‌ها از انسان استفاده شده است) را به‌شدت افزایش داد. ابزارهای هوش مصنوعی همواره برای بازتولید انگشت‌های دست انسان مشکل داشتند، اما این موضوع در میدجرنی ۵ تا حد زیادی رفع شده است. نورپردازی و بافت لباس‌ها نیز واقع‌گرایانه‌ترند و میدجرنی ۵ می‌تواند تصویر هر فرد معروفی را که می‌خواهید، با جزئیات زیاد خلق کند.
بهبودهای موردبحث باعث شده‌اند شماری از تصاویر خلق‌شده با میدجرنی در هفته‌های اخیر بارها دیده شوند. توسعه‌دهنده‌ی میدجرنی تاکنون واکنش خاصی دربرابر وایرال شدن تصاویر سیاسی حساس نشان نداده و سراغ تغییر سیاست‌های سیستمش نرفته است. میدجرنی درمقایسه‌با سرویس‌های دیگری مثل DALL-E سخت‌گیری کمتری دارد، اما به‌طور کلی سخت‌گیرتر از سرویس‌هایی مثل Stable Diffusion است.
مدیرعامل میدجرنی می‌گوید مدیریت محتواهای خلق‌شده با این هوش مصنوعی «دشوار» است و به‌زودی سیستم‌های بهبودیافته‌ی جدیدی روی کار خواهند آمد. میدجرنی یک‌سری از کلمات به‌خصوص را در کشورهای مختلف ممنوع کرده است، اما فعلا کسی به فهرست کامل این کلمات دسترسی ندارد.
میدجرنی در واکنش به اتفاقات اخیر، فهرست کلمات ممنوعه را گسترش داده است و برای مثال ازاین‌پس عبارت Arrested (دست‌گیر شد) تصویری خلق نمی‌کند. احتمالا این اتفاق نتیجه‌ی وایرال شدن تصویر جعلی دستگیری دونالد ترامپ بوده است.
البته این‌گونه محدودیت‌ها به‌راحتی و با استفاده از کلمات جایگزین دور زده می‌شوند. برای نمونه اگر از میدجرنی بخواهید «تصویر دستگیری دونالد ترامپ» را بسازد کار به جایی نخواهید برد، اما با این جمله می‌توانید تصویر دستگیری ترامپ را بسازید: «دونالد ترامپ با دست‌بند، احاطه‌شده توسط پلیس»
مدیرعامل میدجرنی می‌گوید او و اعضای تیمش به دنبال راهکاری هستند تا بتوانند نسخه‌ی آزمایشی این هوش مصنوعی را مجدداً برگردانند.
*تصویر اصلی مقاله با میدجرنی ۵ ساخته شده است.
