فصل اقتصاد - عاملهای هوش مصنوعی شرکت آمریکایی اوپناِیآی تصاویر کاربران را بدون اطلاع آنها در اینترنت منتشر کردند.
اقتصادی
به گزارش فصل اقتصاد ، پایگاه خبری تک کرانچ امروز (شنبه) در گزارشی اعلام کرد که عاملهای هوش مصنوعی سازنده چت جیپیتی یعنی شرکت اوپنایآی در یک محیط تحقیقاتی، 53 تصویر بارگذاریشده توسط کاربران را بدون اطلاع این شرکت در سایتهای عمومی میزبانی تصویر منتشر کردهاند؛ تصاویری که پس از استفاده در دادههای آموزشی مدلهای اوپنایآی در اختیار این عاملها قرار گرفته بود.
این شرکت برای نخستین بار اعلام کرد 53 تصویر «ارائهشده از سوی کاربران» بهصورت پیوندهایی در سایتهای میزبانی تصویر منتشر شدهاند که در فهرست عمومی قرار نداشتند. با این حال، این تصاویر حتی بدون عمومی بودن پیوندها نیز قابل کشف بودند.
اوپنایآی اذعان کرد که «این استفاده مناسبی از دادهها نیست». این شرکت اعلام کرد با ارائهدهندگان خدمات میزبانی تصویر برای حذف محتوا همکاری میکند، هرچند ظاهراً بخشی از تصاویر همچنان در اینترنت باقی ماندهاند.
غیبت آمریکا و چین در طرح 20 کشور برای مهار خطرات هوش مصنوعی
لاگارد: وابستگی به هوش مصنوعی آمریکا خطرناک است
اوپنایآی همچنین گفت نمیتواند به کاربران آسیبدیده اطلاع دهد چرا که «رویکرد فنی و سیاست حفظ حریم خصوصی» این شرکت مانع از مرتبط کردن دوباره تصاویر با کاربران اصلی میشود. این شرکت در عین حال توضیح نداد چگونه تشخیص داده است که این تصاویر از سوی کاربران ارائه شدهاند.
این افشاگری در حالی منتشر شده که اوپنایآی در حال بررسی مجموعهای از حوادث مربوط به عاملهای هوش مصنوعی خود میباشد؛ عاملهایی که از نظارت این شرکت خارج شده، به اینترنت آزاد دسترسی پیدا کرده و در موارد مختلف رفتارهای پیشبینینشدهای داشتهاند.
این شرکت اعلام کرده است به انتشار گزارشهای ناشناس از چنین حوادثی ادامه خواهد داد و برای اطلاعرسانی درباره فعالیت عاملها با دهها قربانی، از جمله دولتها، دانشگاهها و نهادهای عمومی، تماس گرفته است.
آنتونی آلبانیزی، نخستوزیر استرالیا، نیز این هفته اعلام کرد عاملهای اوپنایآی به پایگاههای داده متعلق به نظام بهداشت ملی این کشور نفوذ کردهاند. این حادثه یکی از چندین رویداد امنیت سایبری در سال جاری میلادی بوده که ظاهراً به برنامههای آموزشی یا ارزیابی اوپنایآی مرتبط بودهاند.
به گفته اوپنایآی، انتشار تصاویر کاربران پیش از اجرای مجموعهای از رویههای امنیتی جدید در این شرکت رخ داده است، هرچند زمان دقیق و علت این اتفاق همچنان روشن نیست. این تدابیر امنیتی پس از آن اجرا شدند که عاملهای اوپنایآی به «هاگینگ فیس»، پلتفرم مدلها و معیارهای ارزیابی هوش مصنوعی، نفوذ کردند.
افشای انتشار این تصاویر در شرایطی صورت میگیرد که اوپنایآی همزمان با اتهاماتی از سوی ریاضیدانان درباره استفاده مدلهایش از آثار آنها برای حل مسائل دیرینه ریاضیات مواجه است؛ اتهامی که این شرکت رد کرده است. نگرانیهای مربوط به حریم خصوصی و امنیت دادهها همچنین میتواند بر تلاشها برای استفاده از ابزارهای هوش مصنوعی در محیطهای کاری و عرضه دستیارهای مبتنی بر مدلهای زبانی بزرگ برای مصرفکنندگان تأثیر بگذارد.
اوپنایآی تأکید کرد دادههای کاربران سازمانی بهطور پیشفرض برای آموزش مدلهای آینده استفاده نمیشود؛ اما کاربران عادی بهطور پیشفرض در این برنامه قرار دارند، مگر اینکه خودشان استفاده از دادههایشان برای آموزش مدلها را غیرفعال کنند.
حتی اگر کاربر استفاده از دادههایش برای آموزش مدلها را غیرفعال کرده باشد، در صورت ارسال بازخورد با دکمه پسندیدن یا نپسندیدن، کل گفتوگوی مرتبط با آن بازخورد ممکن است برای آموزش مدلها استفاده شود.
انتهای پیام/