リサーチ

AI安全性について

私たちは基盤モデルを構築いたしません。私たちはそれを用いるのであり、Institution階層では主としてAnthropic Claude Sonnetを、相当規模のシステムプロンプト設計と、検証済みデータにモデルを制約する検証レイヤーとともに使用しております。したがって弊社の立場にある企業にとっての主たるAI安全性の問いは、フロンティアモデルのアライメント — それは各研究所の仕事です — ではなく、当該モデルを、その失敗様態が具体的な帰結を持つ領域において安全に展開することにあります。

二つの失敗様態が私たちを占めております。第一はハルシネーション — モデルが、検証済みデータに根拠を持たない断定を自信を持って生成することです。検証レイヤーがその主たる防護線であり、モデルに知らないことを明示するよう指示するシステムプロンプトが副次的な防御です。第二は規制上の漂流 — 十分に有能なモデルがあれば、それを分析ではなく投資助言の生成へと滑り込ませる誘惑です。弊社のシステムプロンプトには明示的な拒否指示が含まれており、内部レビューはモデル出力にそうした漂流の兆候がないかを検査いたします。

私たちはAnthropic、OpenAI、DeepMind、ならびに言語モデルの安全性に関する学術文献の公開された成果を真剣に追っております。私たちはその文献への寄稿者ではありませんが、注意深い読者ではあります。

定量的モデリングの限界について

弊社のシナリオ・モデリングおよびリスク計算は、将来収益の分布、相関の持続性、ならびに過去記録の代表性に関する前提に基づいております。これらの前提は、いずれも崩れ得るものです。2008年の金融危機、2020年のパンデミック起因のボラティリティ、2022年の金利サイクル断絶は、それぞれ過去の体制で較正されたモデルの限界を露わにいたしました。

私たちの立場は、これが定量的モデリングに対する反論ではなく、その限界を明示的に述べるべきだという議論であるということです。方法論の文書は、各計算が依拠する前提を明らかにしており、利用者にはそれに応じて出力を吟味なさることをお勧め申し上げます。限界が見えるモデルは、人為的に高い自信を装ったモデルよりも有用です。

AI生成コンテンツの問題について

Drusus Dailyの相当部分は言語モデルによって生成されています。これを方法論文書がすでに行っているよりも目立つ形で読者に開示すべきかを検討した結果、構造的な答えは「然り」であると結論いたしました — モデル生成である旨は各号上で宣言されております。ただし、どの文がモデル生成でどの文が人手により編集されたかは特定いたしません。実務上その線は曖昧であり（編集レビューはモデル出力を実質的に修正します）、また二分的な開示はむしろ誤解を招くからです。

問題は、文章がモデルによって生成されているか否かではなく、そこに含まれる数値が正しいか否かであります。検証レイヤーがそれに対処いたします。編集レビューが分析判断の責を負います。

私たちが公表するリサーチ

弊社の長文リサーチはDrusus Insightsに掲載されます。そこに公表される文章は、実務投資家および分析専門家向けに位置づけられたものであり、学術文献向けではありません。査読を経たリサーチを行っているとの主張はいたしません。プラットフォームの利用者が行う学術的仕事に弊社の方法論が寄与した場合は、方法論ページに引用案内を記しております。