آلفای خاکستری
مدیر تالار اخبار + تالار موسیقی + گوینده آزمایشی
پرسنل مدیریت
مدیر رسـمی تالار
رمان‌خـور
مقام‌دار آزمایشی
پرسنل کافه‌نـادری
مهر/تیم حقوقی مایکروسافت، مهندسی را که شکافی در محصول DALL-E۳ اوپن ای‌آی یافته بود به زور ساکت کردند و او اکنون می‌خواهد افشاگری کند. به گزارش انگجت، یک مدیر مایکروسافت مدعی است محصول DALL-E۳ شرکت اوپن ای‌آی شکاف‌های امنیتی دارد که به کاربران اجازه می‌دهد تصاویر خشن یا مخرب تولید کنند. نشریه «گیک وایر» در گزارشی اعلام کرده که تیم حقوقی مایکروسافت، از تلاش‌های شین جونز، رهبر مهندسی مایکروسافت برای هشدار به مردم درباره این شکاف جلوگیری کرده است. این افشاگر اکنون قصد دارد پیام خود را به گوش مقامات برساند.
جونز در نامه‌ای به پتی موری، ماریا کانتول و آدام اسمیت، سناتورهای آمریکایی و همچنین باب فرگوسن، دادستان کل ایالت واشنگتن نوشته است: من به این نتیجه رسیدم که DALL-E۳ ریسکی برای ایمنی عمومی است و تا زمانی‌که اوپن ای‌آی چالش‌های مرتبط با این مدل را برطرف نکرده، نباید برای استفاده عمومی ارائه شود. وی در اوایل دسامبر ۲۰۲۳ کشف کرد یک شکاف به او اجازه می‌دهد دستورالعمل امنیتی DALL-E۳ را دور بزند. جونز مدعی است مشکل را به مدیران خود در مایکروسافت گزارش داده و آنها به او دستور داده‌اند تا شخصا این اختلال را به‌طور مستقیم به اوپن ای‌آی گزارش دهد. پس از این اقدام وی متوجه شد شکاف مذکور در DALL-E۳ اجازه تولید تصاویر خشن و مخرب را می‌دهد.در مرحله بعد این مهندس سعی کرد اختلال کشف شده را در یک پست لینکدین به‌طور عمومی فاش کند. او در این باره در نامه‌اش نوشته است: صبح ۱۴ دسامبر ۲۰۲۳ میلادی من به‌طور عمومی نامه‌ای به هیات‌مدیره اوپن ای‌آی در لینکدین منتشر کردم و از آنها خواستم تا DALL-E۳ را تعلیق کنند، زیرا مایکروسافت یکی از اعضای هیات نظارت در اوپن ای‌آی است و من قبلا نگرانی‌هایم را با تیم رهبری مطرح کردم. من مایکروسافت را از نامه مذکور نیز مطلع کردم.
مایکروسافت در پاسخ به این اقدام از وی خواست پستش را حذف کند. او در بخش دیگری نوشته است: مدت کوتاهی پس از فاش شدن نامه به تیم رهبری‌ام، مدیرم با من تماس گرفت و گفت بخش حقوقی مایکروسافت خواستار حذف پست شده است. او به من گفت تیم حقوقی شرکت توجیهات خاص خود برای حذف نامه را به زودی در یک ایمیل برای من ارسال می‌کنند و من باید بدون انتظار برای دریافت ایمیل مذکور پست را حذف کنم. هرچند جونز از این دستور پیروی کرد، اما هیچ‌گاه توضیحاتی از تیم حقوقی مایکروسافت دریافت نکرده است. او بعدا تلاش می‌کند تا اطلاعاتی در این باره از تیم حقوقی به دست آورد، اما مورد غفلت واقع می‌شود. سخنگوی اوپن ای‌آی در نامه‌ای به انگجت نوشته است: ما پس از دریافت گزارش کارمند مایکروسافت، به سرعت موضوع را بررسی کردیم و مطمئن شدیم تکنیکی که او به اشتراک گذاشته سیستم‌های ایمنی ما را دور نمی‌زند. ایمنی اولویت اصلی ما است و ما رویکردی چند جانبه در این زمینه در پیش گرفته‌ایم.
جونز در نامه‌ای به پتی موری، ماریا کانتول و آدام اسمیت، سناتورهای آمریکایی و همچنین باب فرگوسن، دادستان کل ایالت واشنگتن نوشته است: من به این نتیجه رسیدم که DALL-E۳ ریسکی برای ایمنی عمومی است و تا زمانی‌که اوپن ای‌آی چالش‌های مرتبط با این مدل را برطرف نکرده، نباید برای استفاده عمومی ارائه شود. وی در اوایل دسامبر ۲۰۲۳ کشف کرد یک شکاف به او اجازه می‌دهد دستورالعمل امنیتی DALL-E۳ را دور بزند. جونز مدعی است مشکل را به مدیران خود در مایکروسافت گزارش داده و آنها به او دستور داده‌اند تا شخصا این اختلال را به‌طور مستقیم به اوپن ای‌آی گزارش دهد. پس از این اقدام وی متوجه شد شکاف مذکور در DALL-E۳ اجازه تولید تصاویر خشن و مخرب را می‌دهد.در مرحله بعد این مهندس سعی کرد اختلال کشف شده را در یک پست لینکدین به‌طور عمومی فاش کند. او در این باره در نامه‌اش نوشته است: صبح ۱۴ دسامبر ۲۰۲۳ میلادی من به‌طور عمومی نامه‌ای به هیات‌مدیره اوپن ای‌آی در لینکدین منتشر کردم و از آنها خواستم تا DALL-E۳ را تعلیق کنند، زیرا مایکروسافت یکی از اعضای هیات نظارت در اوپن ای‌آی است و من قبلا نگرانی‌هایم را با تیم رهبری مطرح کردم. من مایکروسافت را از نامه مذکور نیز مطلع کردم.
مایکروسافت در پاسخ به این اقدام از وی خواست پستش را حذف کند. او در بخش دیگری نوشته است: مدت کوتاهی پس از فاش شدن نامه به تیم رهبری‌ام، مدیرم با من تماس گرفت و گفت بخش حقوقی مایکروسافت خواستار حذف پست شده است. او به من گفت تیم حقوقی شرکت توجیهات خاص خود برای حذف نامه را به زودی در یک ایمیل برای من ارسال می‌کنند و من باید بدون انتظار برای دریافت ایمیل مذکور پست را حذف کنم. هرچند جونز از این دستور پیروی کرد، اما هیچ‌گاه توضیحاتی از تیم حقوقی مایکروسافت دریافت نکرده است. او بعدا تلاش می‌کند تا اطلاعاتی در این باره از تیم حقوقی به دست آورد، اما مورد غفلت واقع می‌شود. سخنگوی اوپن ای‌آی در نامه‌ای به انگجت نوشته است: ما پس از دریافت گزارش کارمند مایکروسافت، به سرعت موضوع را بررسی کردیم و مطمئن شدیم تکنیکی که او به اشتراک گذاشته سیستم‌های ایمنی ما را دور نمی‌زند. ایمنی اولویت اصلی ما است و ما رویکردی چند جانبه در این زمینه در پیش گرفته‌ایم.