الأبحاث

في سلامة الذكاء الاصطناعي

نحن لا نبني نماذج أساس. نحن نستخدمها، وعلى رأسها Anthropic Claude Sonnet في مستوى Institution، مع هندسةٍ معتبرةٍ لمُحفِّز النظام وطبقة تحقّقٍ تُقيّد النموذج بالبيانات المُتحقَّق منها. لذا فإن السؤال الرئيسي لسلامة الذكاء الاصطناعي لشركةٍ في موضعنا ليس مواءمةَ نماذج الحدود، فذلك عمل المختبرات؛ بل النشرَ الآمن لتلك النماذج في مجالٍ تكون لأنماط فشلها فيه عواقب محدّدة.

نمطا فشلٍ يشغلاننا. الأول: الهلوسة، أي إنتاجُ النموذج تأكيدًا واثقًا لا يستند إلى بياناتٍ مُتحقَّق منها. طبقةُ التحقّق هي خطّ الدفاع الأول؛ ومُحفِّزُ النظام الذي يأمر النموذج بوسم ما لا يعرفه هو الثاني. والثاني: الانجراف التنظيمي، أي إغراءُ السماح للنموذج، إذا كان كافي القدرة، بأن ينزلق إلى إنتاج مشورةٍ استثماريةٍ بدلًا من تحليل. تتضمّن مُحفِّزات النظام لدينا تعليماتِ رفضٍ صريحة؛ وتفحص مراجعتنا الداخلية مُخرجات النموذج بحثًا عن علامات هذا الانجراف.

نتابع الأعمال المنشورة لـ Anthropic وOpenAI وDeepMind والأدبيات الأكاديمية لسلامة نماذج اللغة بجدّية. ولسنا مساهمين في هذه الأدبيات، لكنّنا مستهلكون مُنتبهون لها.

في حدود النمذجة الكمّية

تستند نمذجة السيناريوهات وحساب المخاطر لدينا إلى افتراضاتٍ بشأن توزيع العوائد المستقبلية، وثبات الارتباطات، ومدى تمثيل السجلّ التاريخي. وكلٌّ من هذه الافتراضات قابلٌ للفشل. أزمة عام 2008 المالية، وتقلّبات عام 2020 الناجمة عن الجائحة، وكسرُ دورة الفائدة عام 2022 كشفت جميعًا حدودَ نماذج معايَرةٍ على أنظمةٍ سابقة.

موقفنا هو أن هذه ليست حجّةً ضدّ النمذجة الكمّية، بل حجّةٌ لذكر حدودها صراحةً. تُبيّن وثائق المنهجية الافتراضات التي يقوم عليها كلّ حساب؛ والمستخدم مدعوٌّ إلى وزن المُخرَجات وفقًا لذلك. النموذجُ الذي تظهر حدوده أنفعُ من نموذجٍ ثقتُه مُضخّمةٌ اصطناعيًّا.

في مسألة المحتوى المُولَّد بالذكاء الاصطناعي

أجزاءٌ كبيرةٌ من Drusus Daily يُنتجها نموذج لغة. تأمّلنا ما إذا كان ينبغي الإفصاح عن ذلك للقرّاء بصورةٍ أبرز ممّا تفعله وثائق المنهجية أصلًا، وخلصنا إلى أن الجواب البنيوي نعم: الطبيعةُ المُولَّدة بنموذجٍ للنصّ مُعلَنةٌ في كلّ إصدار. غير أنّنا لا نُحدّد أيّ الجمل بعينها مُولَّدةٌ بنموذجٍ وأيّها مُحرَّرةٌ بشريًّا، لأن الخطّ في الممارسة ضبابيٌّ (المراجعة التحريرية تُعدّل مُخرَجات النموذج تعديلًا جوهريًّا) ولأن الإفصاح الثنائي قد يُضلّل أكثر مما يُفيد.

السؤال الوجيه ليس ما إذا كان النصّ مُولَّدًا بنموذج، بل ما إذا كانت الأرقام التي يحتويها صحيحة. طبقةُ التحقّق تعالج هذا. والمراجعةُ التحريرية مسؤولةٌ عن الحكم التحليلي.

الأبحاث التي ننشرها

تظهر أبحاثنا الطويلة في Drusus Insights. القطعُ المنشورة هناك موجَّهةٌ للمستثمر العامل والمحترف التحليلي، لا للأدبيات الأكاديمية؛ ولا ندّعي إجراء أبحاثٍ خاضعةٍ لمراجعة الأقران. حيث تُسهم منهجيتنا في عملٍ أكاديميٍّ يُجريه مستخدمو المنصّة، فإن إرشادات الاستشهاد مبيّنةٌ في صفحة المنهجية.