یک محقق ایمنی دیگر از OpenAI می‌رود!
یک محقق ایمنی دیگر از OpenAI می‌رود!
به گزارش lastech، کمپبل در این پست اشاره کرد که خروج او ناشی از استعفای مایلز براندیج، مشاور ارشد سیاست‌گذاری و رئیس تیم آمادگی AGI، در اکتبر بود. پس از خروج او، این تیم منحل شد و اعضای آن به بخش‌های مختلف شرکت منتقل شدند. تیم آمادگی AGI به اوپن‌ای‌آی مشاوره می‌داد تا ظرفیت جهانی برای مدیریت ایمن AGI را بررسی کند؛ نسخه‌ای تئوریک از هوش مصنوعی که ممکن است روزی با هوش انسانی برابر یا حتی فراتر رود.
کمپبل در پست خود به دلایل براندیج برای ترک اوپن‌ای‌آی اشاره کرد و گفت که او نیز تمایل دارد آزادی بیشتری برای پرداختن به مسائلی که بر کل صنعت تأثیر می‌گذارد، داشته باشد. وی نوشت: «من همیشه به شدت تحت تأثیر مأموریت اطمینان از AGI ایمن و مفید بوده‌ام و پس از خروج مایلز و انحلال تیم آمادگی AGI، معتقدم می‌توانم این کار را مؤثرتر از خارج از شرکت دنبال کنم.»
او همچنین افزود که اوپن‌ای‌آی همچنان در خط مقدم تحقیقات به ویژه تحقیقات حیاتی در زمینه ایمنی قرار دارد. کمپبل گفت: «در طول زمان حضورم در اوپن‌ای‌آی، من روی مسائل سیاستی مرزی مانند ارزیابی قابلیت‌های خطرناک، آگاهی دیجیتال و مدیریت سیستم‌های عامل کار کرده‌ام.»
با این حال، او تاکید داشت که در سال گذشته نگران برخی تغییرات در مسیر شرکت بوده است. در سپتامبر، اوپن‌ای‌آی اعلام کرد که ساختار حاکمیتی خود را تغییر داده و به یک شرکت سودآور تبدیل می‌شود؛ تقریباً یک دهه پس از اینکه به عنوان یک سازمان غیرانتفاعی برای ایجاد هوش عمومی مصنوعی راه‌اندازی شد.
برخی از کارمندان سابق نسبت به این تغییرات ابراز نگرانی کردند و گفتند که این اقدام ممکن است مأموریت شرکت را برای توسعه فناوری به گونه‌ای که به نفع بشریت باشد، تضعیف کند. مدیرعامل اوپن‌ای‌آی، سم آلتمن، گفته است که این تغییرات به شرکت کمک خواهد کرد تا تأمین مالی لازم برای دستیابی به اهدافش را جلب کند.
آلتمن همچنین تصریح کرد که تعیین استانداردهای ایمنی AI نباید تنها مسئولیت اوپن‌ای‌آی باشد و باید موضوعی اجتماعی باشد. با توجه به تغییرات رهبری و انحلال تیم‌ها در اوپن‌ای‌آی، نگرانی‌ها درباره تعهد شرکت به امنیت همچنان ادامه دارد.
