چین لیست سیاه داده های آموزشی برای مدل های هوش مصنوعی مولد را پیشنهاد می کند

به گزارش غول نیوز و به نقل از رویترز پکن، ۱۲ اکتبر (رویترز) – چین الزامات امنیتی پیشنهادی را برای شرکت‌هایی که خدمات مبتنی بر هوش مصنوعی مولد ارائه می‌دهند، از جمله فهرست سیاه منابعی که نمی‌توانند برای آموزش مدل‌های هوش مصنوعی استفاده شوند، منتشر کرده است.

هوش مصنوعی مولد که با موفقیت چت ربات OpenAI ChatGPT رایج شده است، یاد می گیرد که چگونه از داده های گذشته اقداماتی انجام دهد و محتوای جدیدی مانند متن یا تصاویر را بر اساس آن آموزش ایجاد می کند.

این الزامات روز چهارشنبه توسط کمیته استانداردسازی امنیت اطلاعات ملی منتشر شد که شامل مقاماتی از اداره فضای سایبری چین (CAC)، وزارت صنعت و فناوری اطلاعات و پلیس است.

این کمیته پیشنهاد می‌کند که یک ارزیابی امنیتی از هر مجموعه محتوایی که برای آموزش مدل‌های هوش مصنوعی مولد در معرض دید عموم استفاده می‌شود، انجام شود و آن‌هایی که حاوی «بیش از ۵ درصد اطلاعات غیرقانونی و مضر» هستند، در لیست سیاه قرار گیرند.

چنین اطلاعاتی شامل «حمایت از تروریسم» یا خشونت و همچنین «سرنگونی نظام سوسیالیستی»، «آسیب زدن به وجهه کشور» و «تضعیف وحدت ملی و ثبات اجتماعی» است.

پیش نویس قوانین همچنین بیان می کند که اطلاعات سانسور شده در اینترنت چینی نباید برای آموزش مدل ها استفاده شود.

انتشار آن کمی بیش از یک ماه پس از آن صورت می‌گیرد که تنظیم‌کننده‌ها به چندین شرکت فناوری چینی، از جمله غول موتورهای جستجو Baidu (9988.HK) اجازه دادند تا چت‌بات‌های مبتنی بر هوش مصنوعی خود را برای عموم راه‌اندازی کنند.

CAC از ماه آوریل اعلام کرده است که از شرکت‌ها می‌خواهد قبل از راه‌اندازی خدمات مبتنی بر هوش مصنوعی برای عموم، ارزیابی‌های امنیتی را به مقامات ارائه کنند.

در ماه ژوئیه، تنظیم کننده فضای سایبری اقداماتی را منتشر کرد که بر چنین خدماتی حاکم است که به گفته تحلیلگران، بسیار سخت تر از اقداماتی است که در پیش نویس آوریل ذکر شده بود.

پیش‌نویس الزامات امنیتی منتشر شده در روز چهارشنبه، سازمان‌هایی را ملزم می‌کند که این مدل‌های هوش مصنوعی را آموزش می‌دهند تا رضایت افرادی را که اطلاعات شخصی آنها، از جمله داده‌های بیومتریک، برای اهداف آموزشی استفاده می‌شود، جلب کنند.

آنها همچنین دستورالعمل های مفصلی را در مورد چگونگی جلوگیری از نقض مالکیت معنوی ارائه می دهند.

کشورها در سطح جهان با ایجاد نرده های محافظ برای این فناوری دست و پنجه نرم می کنند. چین هوش مصنوعی را حوزه‌ای می‌بیند که می‌خواهد در آن با ایالات متحده رقابت کند و هدف خود را برای تبدیل شدن به یک رهبر جهانی در این زمینه تا سال ۲۰۳۰ در نظر گرفته است.