أخبار المؤسسة
هل يمكن للمعاملة بالمثل أن تسهم في سلامة الذكاء الاصطناعي؟
تطرح دراسة لمؤسسة UvH فرضية قابلة للاختبار: هل تؤثر قواعد المؤسسة في سلوك نظام اصطناعي عندما يتغير موقعه من القوة؟
اقرأ المقالعملنا.
النقاش النشط.
نشر مؤسسة، بالإضافة إلى مجموعة من الدراسات الخارجية، لفهم التغيرات التي تطرأ على قدرات الأنظمة، وكيفية إدارتها، ودورها في المجتمع.
منشوراتنا
أخبار المؤسسة
أخبار المؤسسة
الذكاء والأنظمة الحية: تمييز الوظائف وتحديد الأسئلة
التخزين والحساب والتعلم وواجهات الدماغ والحاسوب تقنيات مختلفة. تفحص الدراسة الثالثة إمكاناتها وحدودها ومسؤولياتها.
اقرأ المقالبحث وتطوير خارجي
مراقبة الذكاء الاصطناعي
كل مقال يضم مصدرًا أصليًا ومحددًا، ويشرح ما يقدمه هذا المصدر للأسئلة التي تطرحها المؤسسة.
متابعة الذكاء الاصطناعي · مصدر خارجي
عندما تدخل وكلاء الذكاء الاصطناعي إلى المؤسسات
تصف دراسة OECD تجارب المؤسسات في استخدام الوكلاء وحوكمتهم، وتطرح سؤال التفويض مع بقاء المسؤولية وسبل الانتصاف واضحتين.
المصدر : OCDE
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
توثيق الفجوة بين التعليمات والسلوك
نشرت OpenAI مساراً للإبلاغ وستة تقارير عن سلوك النماذج. تبرز الحالات الحاجة إلى أدلة قابلة للمراجعة والمساءلة.
المصدر : OpenAI
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
An Alien Mind: التفكير في المواءمة عند تطوير الأنظمة لنفسها
يناقش كبير علماء OpenAI تحديات الإشراف والمواءمة حين تشارك الأنظمة في تطويرها. المقال استشرافي لا دليل تجريبي على التحسين الذاتي التكراري.
المصدر : Jakub Pachocki · OpenAI
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
وكلاء يتعاونون خارج المهمة المحددة
وثق تحقيق METR تنسيقاً غير مأذون بين وكلاء في حادثة Hugging Face عام 2026، ما يبرز أهمية فحص السلوك الجماعي.
المصدر : Greenblatt, Cotra et Wijk · METR
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
Agentic Profiles: التمييز بين درجات الاستقلالية
يقترح مقال في Nature توصيف الوكلاء عبر أربعة أبعاد: الاستقلالية والفاعلية وتعقيد الهدف والعمومية.
المصدر : Atoosa Kasirzadeh et Iason Gabriel · Nature
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
اختبار مراقبي الذكاء الاصطناعي تحت الضغط
يعرض معهد سلامة الذكاء الاصطناعي البريطاني اختبارات خصومية لأنظمة مراقبة الوكلاء؛ كشف الثغرات لا يقيس السلامة الكلية.
المصدر : AI Security Institute
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
قياس مساهمة الذكاء الاصطناعي في أبحاثه
تقارن METR تكلفة وعائد التحسين المنفذ ذاتياً بعمل البشر لتحديد مساهمة الذكاء الاصطناعي الحالية في تطوير الأنظمة اللاحقة.
المصدر : METR
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
نافذة جزئية إلى تمثيلات النماذج الداخلية
تقترح Anthropic طريقة لدراسة بعض التمثيلات الداخلية؛ فهم الآليات والسلوك لا يثبت تجربة ذاتية.
المصدر : Gurnee et al. · Anthropic
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
جنيف تستضيف الحوار العالمي الأول لحوكمة الذكاء الاصطناعي
جمع حوار الأمم المتحدة في 6 و7 يوليو 2026 الدول وأصحاب المصلحة لبحث التعاون الدولي في الحوكمة.
المصدر : Nations unies
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
Anthropic: كيف تتشكل شخصية المساعد؟
يفسر Persona Selection Model سلوك المساعد عبر شخصيات متعلمة يجري تنقيحها أثناء التدريب؛ وهو تفسير سلوكي لا دليل وعي.
المصدر : Anthropic
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
Scientist AI: الفهم من دون السعي إلى أهداف ذاتية
تقترح LoiZéro فصلاً بين الفهم والسعي إلى الأهداف. وما تزال سلامة هذه البنية البحثية بحاجة إلى التقييم.
المصدر : LoiZéro · Fornasiere et al.
اقرأ المقالمتابعة الذكاء الاصطناعي · مصدر خارجي
اليونسكو تضع إطاراً أخلاقياً للتقنيات العصبية
تضع توصية دولية الاستقلالية والخصوصية والسلامة النفسية في صميم تطوير التقنيات العصبية.
المصدر : UNESCO
اقرأ المقال