هشدار مدیر سابق اوپنایآی: جهان آماده مواجهه با هوش مصنوعی انسانگونه نیست
مایلز براندج، مشاور سابق ارشد ایمنی در اوپنایآی، به تازگی از این شرکت جدا شده و هشدار داده است که هیچکس، حتی اوپنایآی، آمادگی لازم برای مدیریت هوش جامع مصنوعی (AGI) را ندارد. براندج، که بیش از شش سال در توسعه سیستمهای ایمنی هوش مصنوعی مشارکت داشت، تاکید کرده که نه تنها این استارتاپ، بلکه هیچ آزمایشگاه پیشروی دیگر نیز آماده مواجهه با AGI نیست و جهان نیز برای این سطح از فناوری آماده نشده است.
این جدایی بخشی از یک روند خروج مدیران ارشد تیم ایمنی اوپنایآی است. یان لیک، پژوهشگر برجسته، و ایلیا ساتسکیور، همبنیانگذار اوپنایآی، نیز به دلایل مشابهی این شرکت را ترک کرده و به پروژههای جدیدی با تمرکز بر توسعه ایمن AGI پرداختهاند.
اوپنایآی اخیراً تیم “آمادگی برای هوش جامع مصنوعی” و همچنین تیم “سوپر الاینمنت” را منحل کرده است. این تصمیمات نشاندهنده تمرکز بیشتر شرکت بر جاهطلبیهای تجاری به جای مأموریتهای اولیه استارتاپ است.
براندج همچنین به محدودیتهای فزایندهای که بر تحقیقات مستقل اعمال میشود، اعتراض کرده و خواستار حضور افراد مستقلی در مذاکرات مربوط به سیاستگذاری هوش مصنوعی شده است. او بر اهمیت داشتن دیدگاههای غیرصنعتی و مستقل در این حوزه تاکید دارد تا بتوان سیاستهای مناسبی برای مدیریت خطرات AGI تدوین کرد.
نظر شما