قانون هوش مصنوعي اتحاديه اروپا

۱. سیستم‌های هوش مصنوعی ممنوعه:

این سیستم‌ها به دلیل ریسک غیرقابل قبول برای حقوق اساسی و امنیت شهروندان به‌طور کامل ممنوع شده‌اند. نمونه‌هایی از این سیستم‌ها عبارتند از:

• سیستم‌های دستکاری رفتار:

     سیستمی که قادر به وارد کردن آسیب‌های قابل توجه به افراد است.

• سیستم‌های امتیازدهی اجتماعی:

     استفاده از این سیستم‌ها توسط مقامات دولتی برای ارزیابی و نظارت بر رفتار شهروندان.

• سیستم‌های تشخیص بیومتریک از راه دور در فضاهای عمومی برای اجرای قانون:

     این ممنوعیت شامل استثنائات محدودی می‌شود.

• سیستم‌های طبقه‌بندی بیومتریک بر اساس ویژگی‌های حساس:

     مانند نژاد، عقاید سیاسی، یا گرایش جنسی.

۲. سیستم‌های هوش مصنوعی پرخطر:

این سیستم‌ها ریسک بالایی برای سلامت، ایمنی، یا حقوق اساسی دارند، اما با رعایت الزامات سختگیرانه مجاز به استفاده هستند. این سیستم‌ها به دو دسته اصلی تقسیم می‌شوند:

• سیستم‌های ایمنی محصولات:

  تحت قوانین هماهنگ‌سازی اتحادیه اروپا، از جمله تجهیزات پزشکی، اسباب‌بازی‌ها، و خودروها.

• سیستم‌های مستقل در حوزه‌های خاص

  که در ضمیمه III قانون ذکر شده‌اند، از جمله:

  • سیستم‌های بیومتریک:

    شامل شناسایی و تایید هویت با استفاده از ویژگی‌های بیومتریک.

  • مدیریت زیرساخت‌های حیاتی:

    نظارت و کنترل زیرساخت‌های کلیدی و ضروری.

  • آموزش و تحصیلات:

    استفاده از سیستم‌های هوش مصنوعی در فرآیندهای آموزشی و تحصیلی.

  • استخدام و مدیریت کارکنان:

    سیستم‌های مربوط به انتخاب و مدیریت نیروی کار.

  • دسترسی به خدمات ضروری:

    شامل خدمات خصوصی و عمومی که به بهبود کیفیت زندگی کمک می‌کنند.

  • اجرای قانون:

    استفاده از سیستم‌های هوش مصنوعی در فرآیندهای اجرای قانون و نظارت.

  • مدیریت مهاجرت، پناهندگی و کنترل مرزی:

    استفاده از فناوری‌های هوش مصنوعی در مدیریت و کنترل مهاجرت و پناهندگی.

  • اجرای عدالت و فرآیندهای دموکراتیک:

    استفاده از سیستم‌های هوش مصنوعی در سیستم قضایی و فرآیندهای دموکراتیک.

۳. سیستم‌های هوش مصنوعی با ریسک محدود:

این سیستم‌ها ملزم به رعایت الزامات شفافیت هستند. نمونه‌هایی از این سیستم‌ها عبارتند از:

• چت‌بات‌ها:
     سیستم‌های هوش مصنوعی که برای تعامل با کاربران به‌صورت متنی طراحی شده‌اند.

   

• سیستم‌های تشخیص احساسات: 
     فناوری‌هایی که به شناسایی و تحلیل احساسات افراد می‌پردازند.

   

• سیستم‌های تولید یا دستکاری تصویر، صدا یا ویدئو:
     مانند دیپ‌فیک‌ها که قادر به تولید یا تغییر محتوای چندرسانه‌ای هستند.

۴. سیستم‌های هوش مصنوعی با ریسک حداقل:

    این سیستم‌ها ریسک ناچیزی برای حقوق یا ایمنی شهروندان دارند و از الزامات خاصی معاف هستند. نمونه‌هایی از این سیستم‌ها عبارتند از:

• فیلترهای اسپم ایمیل:
  سیستم‌های هوش مصنوعی که به شناسایی و فیلتر کردن ایمیل‌های ناخواسته کمک می‌کنند.

   

• بازی‌های ویدئویی مبتنی بر هوش مصنوعی:
   بازی‌هایی که از فناوری هوش مصنوعی برای بهبود تجربه کاربری استفاده می‌کنند.

   

• سیستم‌های پیشنهاد فیلم یا موسیقی:
  الگوریتم‌های هوش مصنوعی که به پیشنهاد محتواهای مربوطه بر اساس ترجیحات کاربر می‌پردازند.

۵. مدل‌های هوش مصنوعی عمومی:

این مدل‌ها می‌توانند برای طیف وسیعی از کاربردها استفاده شوند و تابع الزامات خاصی هستند، به ویژه اگر دارای “ریسک سیستمی” باشند، مانند مدل‌های زبانی بزرگ. این الزامات به منظور کنترل و نظارت بر استفاده از مدل‌هایی که ممکن است تأثیرات گسترده‌تری داشته باشند، وضع شده‌اند.
این طبقه‌بندی یک رویکرد متناسب با ریسک را ارائه می‌دهد، به‌طوری‌که سطح نظارت و الزامات با سطح ریسک بالقوه سیستم‌های هوش مصنوعی افزایش می‌یابد. هدف این است که همزمان با محافظت از حقوق و ایمنی شهروندان، فضای لازم برای نوآوری در فناوری هوش مصنوعی فراهم شود.