اتحادیه اروپا در حال برنامه ریزی قوانین جدیدی است که هدف آن مهار بدترین آسیب های مرتبط با هوش مصنوعی است.
این یک غرب وحشی برای هوش مصنوعی است. برنامه های کاربردی هوش مصنوعی به طور فزاینده ای برای تصمیم گیری های مهم در مورد زندگی انسان ها بدون نظارت یا پاسخگویی اندک استفاده می شود. این می تواند عواقب مخربی داشته باشد: دستگیری های نادرست، نمرات نادرست برای دانش آموزان، و حتی خرابی مالی. زنان، گروه‌های به حاشیه رانده شده، و رنگین پوستان اغلب بار سنگینی از تمایل هوش مصنوعی به خطا و بیش از حد را تحمل می‌کنند.
اتحادیه اروپا فکر می کند راه حلی دارد: مادر همه قوانین هوش مصنوعی، به نام قانون هوش مصنوعی. این اولین قانونی است که هدف آن مهار این آسیب ها با تنظیم کل بخش است. اگر اتحادیه اروپا موفق شود، می تواند استاندارد جهانی جدیدی برای نظارت بر هوش مصنوعی در سراسر جهان ایجاد کند.
اما دنیای قوانین اتحادیه اروپا می تواند پیچیده و مبهم باشد. در اینجا یک راهنمای سریع برای همه چیزهایی که باید در مورد قانون هوش مصنوعی اتحادیه اروپا بدانید آمده است. این لایحه در حال حاضر توسط اعضای پارلمان اروپا و کشورهای اتحادیه اروپا در حال اصلاح است.
قانون هوش مصنوعی بسیار جاه طلبانه است. این امر مستلزم بررسی‌های اضافی برای استفاده‌های «پرخطر» از هوش مصنوعی است که بیشترین پتانسیل آسیب رساندن به افراد را دارد. این می تواند شامل سیستم هایی باشد که برای نمره دادن به امتحانات، استخدام کارمندان یا کمک به قضات در تصمیم گیری در مورد قانون و عدالت استفاده می شود. پیش نویس اول این لایحه همچنین شامل ممنوعیت استفاده از هوش مصنوعی است که "غیرقابل قبول" تلقی می شود، مانند امتیازدهی افراد بر اساس قابل اعتماد بودن آنها.
این لایحه همچنین استفاده سازمان های مجری قانون از تشخیص چهره در مکان های عمومی را محدود می کند. گروهی پر سر و صدا از بازیگران قدرت، از جمله اعضای پارلمان اروپا و کشورهایی مانند آلمان، وجود دارند که خواهان ممنوعیت کامل یا توقف استفاده از آن در ملاء عام توسط مجریان قانون و شرکت‌های خصوصی هستند و استدلال می‌کنند که این فناوری امکان نظارت گسترده را فراهم می‌کند.
اگر اتحادیه اروپا موفق به انجام این کار شود، یکی از قوی‌ترین محدودیت‌های این فناوری خواهد بود. برخی از ایالت ها و شهرهای ایالات متحده، مانند سانفرانسیسکو و ویرجینیا، محدودیت هایی را برای تشخیص چهره اعمال کرده اند، اما ممنوعیت اتحادیه اروپا برای 27 کشور و جمعیت بیش از 447 میلیون نفر اعمال می شود.
در تئوری، باید انسان را از بدترین عوارض جانبی هوش مصنوعی با اطمینان از اینکه برنامه‌ها حداقل با سطحی از بررسی و پاسخگویی مواجه هستند، محافظت کند.
براندو بنیفی، نماینده ایتالیایی پارلمان اروپا که یکی از اعضای کلیدی تیم اصلاح کننده این لایحه است، می گوید: مردم می توانند اعتماد کنند که از مضرترین اشکال هوش مصنوعی محافظت می شوند.
پس از سال‌ها مبارزه فعالان برای محافظت از قربانیان خشونت جنسی مبتنی بر تصویر، دیپ‌فیک‌ها بالاخره قانون‌گذاران را مجبور به توجه کردند.
این لایحه افراد را ملزم می‌کند که هنگام مواجهه با دیپ‌فیک، سیستم‌های تشخیص بیومتریک یا برنامه‌های هوش مصنوعی که ادعا می‌کنند قادر به خواندن احساساتشان هستند، مطلع شوند. قانونگذاران همچنین در حال بحث هستند که آیا قانون باید مکانیزمی برای شکایت مردم و جستجوی جبران خسارت در زمانی که توسط یک سیستم هوش مصنوعی آسیب دیده اند ایجاد کند.
پارلمان اروپا، یکی از نهادهای اتحادیه اروپا که روی اصلاح این لایحه کار می کند، همچنین بر ممنوعیت سیستم های پلیسی پیش بینی کننده فشار می آورد. چنین سیستم هایی از هوش مصنوعی برای تجزیه و تحلیل مجموعه داده های بزرگ به نفع استقرار پیشگیرانه پلیس در مناطق مستعد جرم یا تلاش برای پیش بینی جرم بالقوه یک فرد استفاده می کنند. این سیستم ها بسیار بحث برانگیز هستند و منتقدان می گویند که اغلب نژادپرستانه هستند و شفافیت ندارند.
GDPR، مقررات حفاظت از داده اتحادیه اروپا، مشهورترین صادرات فناوری این بلوک است و در همه جا از کالیفرنیا تا هند کپی شده است.
رویکرد اتحادیه اروپا به هوش مصنوعی، که خطرناک ترین هوش مصنوعی را هدف قرار می دهد، رویکردی است که اکثر کشورهای توسعه یافته با آن موافق هستند. اگر اروپایی ها بتوانند روشی منسجم برای تنظیم این فناوری ایجاد کنند، می تواند به عنوان الگویی برای سایر کشورهایی که امیدوارند این کار را انجام دهند نیز عمل کند.
مارک روتنبرگ، رئیس مرکز هوش مصنوعی و سیاست دیجیتال، یک سازمان غیرانتفاعی که هوش مصنوعی را ردیابی می‌کند، می‌گوید: «شرکت‌های آمریکایی، مطابق با قانون هوش مصنوعی اتحادیه اروپا، در نهایت استانداردهای خود را برای مصرف‌کنندگان آمریکایی با توجه به شفافیت و مسئولیت‌پذیری افزایش خواهند داد. خط مشی.
این لایحه همچنین توسط دولت بایدن به دقت تحت نظارت است. ایالات متحده خانه برخی از بزرگترین آزمایشگاه‌های هوش مصنوعی در جهان است، مانند آزمایشگاه‌های Google AI، Meta، و OpenAI، و در رتبه‌بندی‌های مختلف جهانی در تحقیقات هوش مصنوعی پیشرو است، بنابراین کاخ سفید می‌خواهد بداند که چگونه ممکن است هر مقرراتی برای این شرکت‌ها اعمال شود. . در حال حاضر، چهره‌های با نفوذ دولت آمریکا مانند جیک سالیوان، مشاور امنیت ملی، جینا ریموندو، وزیر بازرگانی و لین پارکر که تلاش‌های هوش مصنوعی کاخ سفید را رهبری می‌کند، از تلاش اروپا برای تنظیم مقررات هوش مصنوعی استقبال کرده‌اند.
روتنبرگ می‌گوید: «این یک تضاد شدید با نگاه ایالات متحده به توسعه GDPR است، که در آن زمان مردم در ایالات متحده می‌گفتند اینترنت را پایان می‌دهد، خورشید را می‌گیرد و به زندگی در این سیاره که ما می‌شناسیم پایان می‌دهد.»
با وجود برخی احتیاط های اجتناب ناپذیر، ایالات متحده دلایل خوبی برای استقبال از این قانون دارد. این کشور به شدت نگران نفوذ فزاینده چین در فناوری است. برای آمریکا، موضع رسمی این است که حفظ سلطه غرب بر فناوری موضوعی است که آیا «ارزش‌های دموکراتیک» غالب است یا خیر. این کشور می‌خواهد اتحادیه اروپا را که یک « متحد همفکر » است، نزدیک نگه دارد.
برخی از الزامات این لایحه از نظر فنی در حال حاضر غیرممکن است. پیش‌نویس اول این لایحه مستلزم آن است که مجموعه داده‌ها عاری از خطا باشد و انسان‌ها بتوانند «به طور کامل بفهمند» که سیستم‌های هوش مصنوعی چگونه کار می‌کنند. مجموعه‌های داده‌ای که برای آموزش سیستم‌های هوش مصنوعی استفاده می‌شوند بسیار گسترده هستند و اگر تأیید چنین چیزی امکان‌پذیر بود، بررسی انسانی که کاملاً بدون خطا هستند، به هزاران ساعت کار نیاز دارد. و شبکه های عصبی امروزی بسیار پیچیده هستند حتی سازندگان آنها به طور کامل نمی دانند چگونه به نتایج خود می رسند.
شرکت‌های فناوری همچنین در مورد الزامات دسترسی حسابرسان یا تنظیم‌کننده‌های خارجی به کد منبع و الگوریتم‌های خود به منظور اجرای قانون، عمیقاً ناراحت هستند.
میریام ووگل، رئیس و مدیرعامل EqualAI، یک سازمان غیرانتفاعی که روی کاهش سوگیری ناخودآگاه در هوش مصنوعی کار می‌کند، می‌گوید: «پیش‌نویس فعلی ناراحتی زیادی ایجاد می‌کند، زیرا مردم احساس می‌کنند که در واقع نمی‌توانند با مقرراتی که در حال حاضر پیش‌نویس شده است، پیروی کنند. سیستم های. او همچنین ریاست کمیته ملی مشاوره هوش مصنوعی تازه تاسیس را بر عهده دارد که به کاخ سفید در مورد سیاست های هوش مصنوعی مشاوره می دهد.
همچنین دعوای بزرگی در جریان است که آیا قانون هوش مصنوعی باید استفاده از تشخیص چهره را به طور کامل ممنوع کند یا خیر. این موضوع بحث برانگیز است زیرا کشورهای اتحادیه اروپا از آن متنفرند که بروکسل سعی می کند نحوه رسیدگی به مسائل امنیت ملی یا اجرای قانون را دیکته کند. چندین کشور مانند فرانسه می خواهند برای استفاده از تشخیص چهره برای حفاظت از امنیت ملی استثنا قائل شوند. در مقابل، دولت جدید آلمان، یکی دیگر از کشورهای بزرگ اروپایی و صدای تاثیرگذار در تصمیم گیری اتحادیه اروپا، گفته است که از ممنوعیت کامل استفاده از تشخیص چهره در مکان های عمومی حمایت می کند.
دعوای بزرگ دیگر بر سر این است که چه نوع هوش مصنوعی به عنوان "پرخطر" طبقه بندی می شود. قانون هوش مصنوعی فهرستی دارد که از تست‌های دروغ‌یابی تا سیستم‌هایی که برای تخصیص پرداخت‌های رفاهی استفاده می‌شوند، متغیر است. دو اردوگاه سیاسی متضاد وجود دارد – یکی ترس از اینکه دامنه وسیع مقررات باعث کندی نوآوری شود، و دیگری این که این لایحه همانطور که نوشته شده به اندازه کافی برای محافظت از مردم در برابر آسیب های جدی کار نمی کند.
انتقاد رایج از سوی لابی‌گران سیلیکون ولی این است که این مقررات برای شرکت‌های هوش مصنوعی تشریفات بیشتری ایجاد می‌کند. اروپا مخالف است. اتحادیه اروپا پاسخ می دهد که قانون هوش مصنوعی فقط برای پرخطرترین مجموعه استفاده های هوش مصنوعی اعمال می شود، که کمیسیون اروپا، بازوی اجرایی اتحادیه اروپا، تخمین می زند که فقط برای 5 تا 15 درصد از همه برنامه های هوش مصنوعی اعمال می شود.
بنیفی می‌گوید: «باید به شرکت‌های فناوری اطمینان داد که ما می‌خواهیم مجموعه‌ای از قوانین پایدار، شفاف و قانونی را به آنها بدهیم تا بتوانند بیشتر هوش مصنوعی را با مقررات بسیار محدود توسعه دهند.
سازمان‌هایی که از این قانون پیروی نمی‌کنند با جریمه‌ای تا سقف 30 میلیون یورو (31 میلیون دلار) یا برای شرکت‌ها تا 6 درصد از کل درآمد سالانه جهانی مواجه خواهند شد. و تجربه نشان می دهد که اروپا از پرداخت جریمه به شرکت های فناوری هراسی ندارد. آمازون در سال 2021 به دلیل نقض GDPR 746 میلیون یورو (775 میلیون دلار) و گوگل در سال 2018 به دلیل نقض قوانین ضد انحصار اتحادیه 4.3 میلیارد یورو (4.5 میلیارد دلار) جریمه شدند.
حداقل یک سال دیگر طول خواهد کشید تا متن نهایی مشخص شود، و چند سال دیگر تا کسب و کارها مجبور به رعایت آن باشند. این احتمال وجود دارد که چکش کردن جزئیات چنین لایحه جامعی با این همه عناصر بحث برانگیز برای مدت طولانی تری به طول انجامد. مذاکرات GDPR بیش از چهار سال طول کشید و شش سال قبل از اجرایی شدن آن طول کشید. در دنیای قانونگذاری اتحادیه اروپا، هر چیزی ممکن است.
از آنجایی که شرکت‌ها فناوری‌های هوش مصنوعی خود را وارد کشور کرده‌اند، طرحی برای نحوه نظارت بر شهروندان ایجاد کرده است و به عنوان هشداری برای جهان عمل می‌کند.
یی-هنگ "پرسیوال" ژانگ پیشرو در تحقیقات شکر کمیاب بود. بعد همه چیز چسبناک شد.
Intrepid Response یک برنامه کمتر شناخته شده اما قدرتمند است که به پلیس اجازه می دهد به سرعت اطلاعات را در آژانس ها آپلود و به اشتراک بگذارد. اما برای اطلاعاتی که جمع آوری می کند چه می شود؟
اسناد به دست آمده توسط درخواست های سوابق عمومی نشان می دهد که Operation Safety Net، یک عملیات پلیسی گسترده در مینه سوتا، مدت ها پس از اینکه تلاش ظاهراً بسته شد، به پاسخ به اعتراضات ادامه داد.
پیشنهادهای ویژه، داستان های برتر، رویدادهای آینده و موارد دیگر را کشف کنید.
از اینکه ایمیل خود را ثبت کردید، متشکریم!
به نظر می رسد مشکلی پیش آمده است.
ما در ذخیره تنظیمات برگزیده شما با مشکل روبرو هستیم. سعی کنید این صفحه را بازخوانی کنید و یک بار دیگر آنها را به روز کنید. اگر همچنان این پیام را دریافت می‌کنید، با فهرستی از خبرنامه‌هایی که می‌خواهید دریافت کنید، از طریق customer-service@technologyreview.com با ما تماس بگیرید.
گزارش‌های عمیق ما نشان می‌دهد که اکنون چه خبر است تا شما را برای اتفاقات بعدی آماده کند.
اشتراک در برای حمایت از روزنامه نگاری ما
© 2022 بررسی فناوری MIT

source

توسط techkhabari