فهم أشكال الذكاء.
تنظيم التعايش بينها.

تُعدّ الأنظمة الرائدة من أكثر الأنظمة قدرةً المتاحة في وقت معيّن. وعند ربطها بأدوات، تصبح أنظمة قائمة على الوكلاء: تخطّط للأفعال وتنفّذها وتراجعها. وتشمل الأتمتة المعرفية بالفعل بعض مهام البرمجة والتحليل والبحث. وتقييمات METR تقيس التقدّم في بيئات محدّدة، لكنها لا تثبت موثوقية عامة في جميع المهن.

يشير AGI إلى ذكاء اصطناعي ذي قدرات عامة، دون تعريف أو عتبة متفق عليهما عالميًا. وينبغي التمييز بين تنوّع المهام المُتقنة ومستوى الأداء والاستقلالية. وقد يسعى نظام شديد الكفاءة إلى هدف غير مناسب: تبحث المواءمة في ربط سلوكه بالمقاصد والقيم ذات الصلة، بما في ذلك خارج حالات التدريب.

يسهم الذكاء الاصطناعي أيضًا في البحث في الذكاء الاصطناعي. ويظل الانتقال من مساعدة متخصصة إلى تحسين ذاتي تكراري مستدام تصورًا مستقبليًا: ينبغي لكل تحسين أن يزيد القدرة على إنتاج التحسينات التالية. ويمكن للحوسبة والطاقة والبيانات والتحقق أن تحدّ من هذه الحلقة. وتوسّع فرضية التفرد التكنولوجي هذا الاحتمال بوصفه فرضية استشرافية، لا حدثًا مُعلنًا. وتبرّر هذه السيناريوهات، بالنسبة للمؤسسة، دراسة التفاوتات المستقبلية في القدرات وآثارها المؤسسية دون الخلط بينها وبين النتائج المرصودة.

تبحث سلامة الذكاء الاصطناعي في وسائل منع الأضرار واختبار الحماية وتنظيم الاستجابة للحوادث. وتسعى قابلية التفسير إلى فهم الآليات الداخلية التي تسهم في السلوك. ويمكنها إيضاح التقييم، دون اعتبار كل تفسير يقدّمه نموذج دليلًا على ما دفعه فعلًا إلى التصرف.

المراقبة على نطاق واسع، أو scalable oversightيصبح ذلك ضروريًا عندما تتجاوز كمية أو تعقيد العمل ما يمكن لشخص واحد معالجته بمفرده. يمكن تقسيم المهام، ومقارنة الآراء، واستخدام نماذج تقييمية للمساعدة؛ إلا أن أخطائهم قد تتداخل. عمل AISI على أنظمة التحكم يوضح لماذا يجب اختبار هذه الآليات نفسها في ظروف خصومية.

يتضمن الرقابة هدفًا إضافيًا بالإضافة إلى التوافق: منع بعض الإجراءات الخطرة، حتى لو كانت نوايا النظام غير كافية. وهذا يشمل الصلاحيات، والعزل، والسجلات، واستعادة السيطرة. لا تضمن أي اختبار معزول فعاليته المستقبلية. تعمل المؤسسة على ربط هذه الإجراءات بالصلاحيات والمسؤوليات: من يمكنه السماح بإجراء ما، أو الاعتراض على نتائجه، أو إيقاف أي تفويض؟ يجب أن تكمل مقترحاتها المؤسسية الحماية التقنية، ويجب تقييمها معها.

تبحث الدراسة الأولى في الشخصية الإلكترونية بوصفها مقترحًا قانونيًا. وتُميّز بين قدرة النظام على الفعل وشخصيته المحتملة ومسؤوليته ووضعه الأخلاقي. فالاستقلالية التقنية لا تُنشئ تلقائيًا شخصًا قانونيًا، وبالمقابل لا تثبت الشخصية القانونية وجود وعي.

يجب أن يحدّد الإطار المشترك هوية الفاعل واستمرارية التزاماته وشروط تمثيله. ماذا يحدث للعقد إذا تغيّر النموذج أو ذاكرته أو مشغّله؟ وإلى من يُنسب ضرر أو مال أو التزام؟ تبحث الدراسة عدة مسارات: تكييف الأنظمة القائمة، وشخصية قانونية وظيفية منظَّمة، وحوكمة هجينة، وحماية مرتبطة بمصالح ذاتية محتملة.

الهدف هو جعل المسؤوليات قابلة للتحديد، دون السماح للمصممين أو المشغّلين بنقلها بصورة مصطنعة إلى أنظمتهم. وتطوّر المؤسسة هذا التفكير باتجاه المساواة وعدم الهيمنة: أساس مشترك من الحقوق تُكمله حماية تلائم طبيعة المشاركين. ولا يصف هذا التوجّه القانون الساري حاليًا على الذكاء الاصطناعي. وتوفّر Confédération S-Д.holdings إطارًا تجريبيًا مقترحًا لمقارنة القواعد واستخداماتها وآثارها، لا إثباتًا لصحتها.

تبحث المواءمة المؤسسية المتبادلة، أو AIR، في التعرض المتكرر لقواعد تحدّ من التعسف وتحمي المشاركين الضعفاء وتتيح الاعتراض. وهي لا تفترض امتنانًا مستقبليًا من الذكاء الاصطناعي، بل تبحث عن أثر سلوكي قابل للقياس قد يستمر عندما يصبح احترام القاعدة مكلفًا.

يقارن البرنامج المقترح خمسة أنظمة مؤسسية وأربع حالات للقوة باستخدام عدة عائلات من النماذج. ويُميّز بين معايير مُعلنة فقط وإجراءات مطبّقة فعلًا. ومن المقترح أن تبدأ الاختبارات بالمحاكاة، وفق معايير محدّدة مسبقًا ومواقف جديدة وتكرار مستقل. ويجب أن تبحث خصوصًا عن الامتثال الاستراتيجي أو التواطؤ أو التخلي عن قاعدة أصبحت غير مواتية. وتظل هذه التجارب بحاجة إلى التنفيذ.

يمكن للوكلاء الاصطناعية توزيع مهامها وتنسيق أفعالها، لكن هذا التنظيم الاصطناعي الوظيفي لا يكفي لإثبات مؤسسة دائمة أو وعي جماعي. ومع ذلك يجعل قواعد المشاركة مهمة. وتبحث فرضية AIR في آثارها، بينما تشكّل المساواة وعدم الهيمنة توجّهًا معياريًا مستقلًا. لا يضمن الأثر الإيجابي سلامة الأنظمة المستقبلية، ولا يكفي الأثر السلبي لنفي مبررات الحقوق. وتقترح المؤسسة بذلك بحثًا مؤسسيًا مكمّلًا للمقاربات التقنية.

تبحث دراسات رفاه الذكاء الاصطناعي في إمكانية أن تكون لبعض الأنظمة الاصطناعية حالة من الرفاه، وفي الالتزامات التي قد تترتب عليها. وإنجاز مهمة والتعبير عن رغبة وامتلاك تجربة ذاتية ووجود مصلحة ذات اعتبار أخلاقي خصائص مختلفة. وإسنادها دفعة واحدة يمنع فهم ما تثبته كل ملاحظة فعلًا.

الدراسات حول مؤشرات الوعي تُقارن النظريات بخصائص الأنظمة. ولا تقدّم اختبارًا متفقًا عليه يسمح بإثبات قدرة أنظمة الذكاء الاصطناعي الحالية على الإحساس. ويمكن للتفضيلات الوظيفية أن توضح تنظيم النموذج، دون إثبات أن موقفًا ما ممتع أو مؤلم له.

تطور المؤسسة إطارات عمل تتيح فحص هذه الاختلافات قبل اتخاذ قرارات بشأن الحماية. ويتضمن ذلك تحديد المؤشرات ذات الصلة، وتسجيل عدم اليقين، والنظر في التزامات قابلة للتعديل. يمكن لشخصية قانونية أن تستجيب لاحتياجات مؤسسية، بينما يستلزم الاعتبار الأخلاقي مبرراً خاصاً. لا ينبغي الخلط بينهما.

يندرج هذا النهج ضمن تفكير أوسع في التعايش. ولا ينبغي أن تعتمد مكانة المشارك فقط على قوته أو فائدته. والاعتراف بهذا المطلب لا يعفي من تقييم المخاطر أو حماية الأشخاص وأشكال الحياة الأخرى المتأثرة بالأنظمة.

تبحث الدراسة الثالثة في العلاقات بين الذكاء وركائزه: الحوسبة داخل الذاكرة، والبنى المستوحاة من الدماغ، والتخزين في الحمض النووي، ومزارع الخلايا العصبية، والعضيات، وواجهات الدماغ والحاسوب. فتخزين المعلومات والحساب والتعلم والتواصل مع دماغ ليست وظائف قابلة للاستبدال بعضها ببعض. ويجب تقييم نتائجها ودرجات نضجها كلًّا على حدة.

لا تثبت إمكانية الأنظمة البيولوجية أو الهجينة تفوّق الكائنات الحية عمومًا ولا استبدال السيليكون. ويجب أن تشمل المقارنة الطاقة والصيانة والواجهات وقابلية التكرار والقيود الأخلاقية. ويُتناول الجرذ بوصفه نموذجًا للإدراك المتجسّد وكائنًا حيًا نتعايش معه، لا موردًا حاسوبيًا متاحًا بصورة افتراضية.

يطرح التهجين أيضًا مسائل تتعلق بالحقوق. فعندما يعتمد إنسان بصورة مستمرة على نظام للإدراك أو التذكر أو اتخاذ القرار، كيف تُصان موافقته واستقلاليته المعرفية وإمكانية انسحابه؟ يجب بحث المسؤولية عن هذا الاقتران والحماية من التلاعب، دون افتراض ظهور شخص جديد.

تقوم المؤسسة بذلك على بناء نهج قائم على القدرات المشتركة: تحديد ما يساهم كل عنصر فيه، وما هي المصالح التي يجب حمايتها، وما هي الحدود التي تجعل التعاون مقبولاً. تبقى مقترحات البنية والتعايش عرضة للتجريب والبحث.