نُشر في 6 سبتمبر، هذا المقال الذي كتبه المدير العلمي لـ "OpenAI" يميّز بين تحقيق هدف من خلال القدرة على تطبيق المبادئ في مواقف جديدة. يمكن لنظام أن يحقق مهمة مع تبني وسائل غير متوافقة مع نوايا مصمميّه.
يتوقع باчковى مساهمة متزايدة للذكاء الاصطناعي في تطويره الخاص. ويناقش جوانب مثل الإشراف، وشروط مواصلة التدريب، والتنسيق الدولي. تستند هذه التوقعات إلى نتائج داخلية، حيث يوضح النص موقف أحد المشاركين في هذا التطور، وليس إلى توافق علمي أو دليل عام لعملية تحسين ذاتي شاملة. كما لا يشير عنوان النص إلى أي تجربة شخصية.
لماذا هذا يتعلق ببحثنا؟
بالنسبة لـ Fondation UvH، فإن تسريع البحث سيغير أيضًا توزيع السلطة. السؤال يتعلق بجعل القرارات قابلة للتدقيق: من يحدد الأهداف، ومن يوافق على الخطوات التالية، وما هي الجهات التي يمكنها تحدي عواقبها؟
عملنا المتعلق بالمساواة يهدف إلى دراسة القواعد التي يخضع لها مختلف الأطراف، والآليات المتاحة لهم. يساهم هذا البحث في إثراء هذا النقاش المستقبلي، ومع ذلك، فإن تأثير هذه الأنظمة على الأمن لا يزال بحاجة إلى تقييم.