گروهی از کارمندان فعلی و سابق شرکت‌های هوش مصنوعی، از جمله گوگل و OpenAI، در نامه‌ای سرگشاده به خطرات بالقوه هوش مصنوعی اشاره کرده‌اند.

در این نامه که توسط ۱۱ نفر از کارمندان فعلی و سابق این شرکت‌ها امضا شده، آمده است که انگیزه‌های مالی شرکت‌های هوش مصنوعی مانع از نظارت موثر بر این فناوری می‌شود.

نویسندگان نامه همچنین نگرانی خود را از خطرات هوش مصنوعی غیرقانونی، از جمله انتشار اطلاعات غلط، از دست رفتن کنترل سیستم‌های هوش مصنوعی مستقل و تشدید نابرابری‌ها که می‌تواند منجر به انقراض انسان شود، ابراز کرده‌اند.

آنها معتقدند که شرکت‌های هوش مصنوعی تعهد ضعیفی به اشتراک‌گذاری اطلاعات با دولت‌ها در مورد قابلیت‌ها و محدودیت‌های سیستم‌های خود دارند و نمی‌توان به آنها برای به اشتراک گذاشتن داوطلبانه این اطلاعات اعتماد کرد.

این نامه جدیدترین موردی است که نگرانی‌های ایمنی را در مورد فناوری هوش مصنوعی مولد که می‌تواند به سرعت و ارزان متن، تصاویر و صدا شبیه انسان تولید کند، افزایش می‌دهد.

نویسندگان نامه از شرکت‌های هوش مصنوعی خواسته‌اند که فرآیندی را برای کارمندان فعلی و سابق خود تسهیل کنند تا نگرانی‌های مربوط به خطرات هوش مصنوعی را مطرح کنند و از اجرای توافق‌نامه‌های محرمانه‌ای که انتقاد را ممنوع می‌کند، خودداری کنند.

نکات کلیدی:

• انگیزه‌های مالی شرکت‌های هوش مصنوعی مانع از نظارت موثر بر این فناوری می‌شود.
• خطرات هوش مصنوعی غیرقانونی شامل انتشار اطلاعات غلط، از دست رفتن کنترل سیستم‌های هوش مصنوعی مستقل و تشدید نابرابری‌ها است.
• شرکت‌های هوش مصنوعی تعهد ضعیفی به اشتراک‌گذاری اطلاعات با دولت‌ها دارند.
• فناوری هوش مصنوعی مولد می‌تواند خطرات امنیتی را به همراه داشته باشد.
• کارمندان هوش مصنوعی خواستار شفافیت و آزادی بیان در مورد خطرات این فناوری هستند.