در تاریخ 4 مه 2024، مایکروسافت اعلام کرد که استفاده از ابزار هوش مصنوعی تشخیص چهره خود را برای پلیس آمریکا ممنوع می‌کند. این تصمیم پس از به‌روزرسانی شرایط عمومی استفاده از خدمات آژور اوپن‌ای‌آی (Azure OpenAI Service) اتخاذ شد.

آژور اوپن‌ای‌آی به متخصصان امکان دسترسی به مدل‌های زبانی پیشرفته مانند جی‌پی‌تی-4 (GPT-4) را می‌دهد و برای تعدیل محتوا و طراحی برنامه‌های کاربردی هوش مصنوعی امن نیز مورد استفاده قرار می‌گیرد.

طبق به‌روزرسانی جدید، استفاده از این سرویس برای مقاصد تشخیص چهره توسط یا برای هر آژانس اجرای قانون در ایالات متحده ممنوع است.

این ممنوعیت شامل موارد زیر می‌شود:

• استفاده از ابزارهای تشخیص چهره روی دوربین‌های موبایل ماموران پلیس در حین گشت‌زنی
• استفاده از این ابزارها روی دوربین‌های نصب شده روی داشبورد خودروهای پلیس
• هرگونه استفاده دیگری از این ابزارها برای شناسایی افراد در محیط‌های کنترل نشده

دلایل مایکروسافت برای این ممنوعیت:

مایکروسافت چند دلیل را برای این ممنوعیت ذکر کرده است، از جمله:

• نگرانی‌های مربوط به حفظ حریم خصوصی: استفاده از هوش مصنوعی برای تشخیص چهره می‌تواند نگرانی‌های جدی برای حریم خصوصی افراد ایجاد کند، به خصوص اگر بدون نظارت و کنترل مناسب انجام شود.
• پتانسیل سوء استفاده: این فناوری می‌تواند برای اهداف تبعیض‌آمیز یا غیرقانونی مورد سوء استفاده قرار گیرد.
• عدم دقت: سیستم‌های تشخیص چهره همیشه دقیق نیستند و می‌توانند اشتباهات فاحشی داشته باشند، که می‌تواند منجر به پیامدهای منفی برای افراد شود.

واکنش‌ها به این ممنوعیت:

این ممنوعیت از سوی برخی از مدافعان حقوق حریم خصوصی و آزادی‌های مدنی مورد استقبال قرار گرفته است.

با این حال، برخی از مقامات اجرای قانون ابراز نگرانی کرده‌اند که این ممنوعیت مانع از تلاش‌های آنها برای شناسایی مجرمان و حفظ امنیت عمومی خواهد شد.

اقدامات مشابه توسط سایر شرکت‌ها:

مایکروسافت اولین شرکتی نیست که استفاده از هوش مصنوعی تشخیص چهره را برای پلیس محدود می‌کند.

در سال 2019، آمازون اعلام کرد که استفاده از فناوری تشخیص چهره خود را توسط اداره‌های اجرای قانون فدرال برای 1 سال به تعویق می‌اندازد.

همچنین IBM در سال 2020 اعلام کرد که دیگر سیستم‌های تشخیص چهره خود را به پلیس نمی‌فروشد.

ممنوعیت مایکروسافت گامی مهم در جهت رسیدگی به نگرانی‌های مربوط به استفاده از هوش مصنوعی توسط مجریان قانون است. با این حال، برای اطمینان از استفاده مسئولانه و اخلاقی از این فناوری، اقدامات بیشتری لازم است.