شرکت گوگل به‌تازگی اعلام کرد که مدل هوش مصنوعی Gemma را موقتاً از پلتفرم AI Studio حذف کرده است. این تصمیم پس از آن گرفته شد که سناتور مارشا بلکبرن، جمهوری‌خواه ایالت تنسی، گوگل را به انتشار اطلاعات نادرست و افترا‌آمیز درباره خود متهم کرد.

دلیل حذف Gemma

بلکبرن در نامه‌ای رسمی به ساندار پیچای، مدیرعامل گوگل، توضیح داد که Gemma پاسخ‌های کاملاً ساختگی درباره سوابق او ارائه کرده است. این مدل ادعا کرده بود که در کارزار انتخاباتی سال ۱۹۸۷، یک افسر پلیس ایالتی او را به فشار برای دریافت داروهای نسخه‌ای و رفتار غیراخلاقی متهم کرده است. سناتور بلکبرن تأکید کرد که چنین رویدادی هرگز رخ نداده و سال ذکرشده نیز اشتباه است، زیرا کارزار واقعی او در سال ۱۹۹۸ برگزار شد.

نگرانی‌ها درباره اطلاعات نادرست در هوش مصنوعی

این موضوع نمونه‌ای از چالش‌های تولید اطلاعات نادرست توسط هوش مصنوعی است. بلکبرن به نمونه‌های مشابه دیگر اشاره کرد و خاطرنشان کرد که برخی فعالان محافظه‌کار، مانند رابی استارباک، شکایات مشابهی درباره تولید اطلاعات نادرست توسط مدل‌های گوگل مطرح کرده‌اند.

در جلسه کمیته بازرگانی سنای آمریکا، مارخام اریکسون، معاون امور دولتی گوگل، تأیید کرد که تولید اطلاعات نادرست یا «توهمات» از چالش‌های شناخته‌شده هوش مصنوعی است. او افزود که گوگل تلاش می‌کند این مشکلات را کاهش دهد.

بحث درباره سوگیری سیاسی در هوش مصنوعی

این رویداد بخشی از مناقشات گسترده درباره سوگیری در هوش مصنوعی است. برخی سیاستمداران جمهوری‌خواه گوگل و شرکت‌های فناوری دیگر را متهم می‌کنند که مدل‌هایشان سوگیری لیبرال دارند. بلکبرن تأکید کرد که به نظر می‌رسد مدل‌های گوگل علیه چهره‌های محافظه‌کار سوگیری دارند.

واکنش گوگل و محدودسازی دسترسی

گوگل اعلام کرد که Gemma موقتاً از AI Studio حذف شد. توسعه‌دهندگان همچنان می‌توانند از طریق API به مدل دسترسی داشته باشند. گوگل توضیح داد که Gemma یک مدل سبک و متن‌باز برای توسعه‌دهندگان است و هرگز برای پاسخ‌گویی عمومی طراحی نشده است.

هدف گوگل از این محدودسازی، جلوگیری از سوءاستفاده و انتشار اطلاعات نادرست اعلام شد.

اهمیت حذف Gemma

این رویداد نشان می‌دهد که حتی مدل‌های توسعه‌ای می‌توانند به اشتباه مورد استفاده قرار گیرند و باعث انتشار اطلاعات نادرست و آسیب به اعتبار افراد شوند.

همچنین ضرورت پیاده‌سازی مکانیزم‌های نظارتی و فیلترینگ دقیق در هوش مصنوعی را برجسته می‌کند تا پیامدهای اجتماعی و حقوقی ناشی از تولید متن جعلی کاهش یابد.

جمع‌بندی

حذف موقت Gemma نشان می‌دهد که گوگل در مواجهه با جنجال‌های اخلاقی و حقوقی، اولویت را به احتیاط و مدیریت بحران داده است. با فشار قانون‌گذاران و کاربران، شرکت‌ها مجبورند میان نوآوری و مسئولیت اجتماعی تعادل برقرار کنند.

منبع: تجارت نیوز