Forschung

Zur KI-Sicherheit

Wir entwickeln keine Foundation-Modelle. Wir setzen sie ein, in der Stufe Institution vornehmlich Anthropic Claude Sonnet, mit erheblicher System-Prompt-Gestaltung und einer Verifizierungsschicht, die das Modell auf verifizierte Daten beschränkt. Die zentrale Frage der KI-Sicherheit für ein Unternehmen in unserer Lage ist daher nicht die Ausrichtung von Frontier-Modellen, was Aufgabe der Laboratorien ist; sie ist der sichere Einsatz dieser Modelle in einem Bereich, in dem ihre Fehlermodi konkrete Folgen haben.

Zwei Fehlermodi beschäftigen uns. Der erste ist die Halluzination: die Erzeugung einer mit Selbstvertrauen vorgetragenen Behauptung durch das Modell, die nicht in verifizierten Daten begründet ist. Unsere Verifizierungsschicht ist die wichtigste Verteidigung; der System-Prompt, der das Modell anweist, das, was es nicht weiß, zu kennzeichnen, ist die zweite. Der zweite ist die regulatorische Drift: die Versuchung, einem hinreichend leistungsfähigen Modell zu erlauben, in die Erstellung von Anlageberatung statt von Analyse abzugleiten. Unsere System-Prompts enthalten ausdrückliche Verweigerungs-Instruktionen; unsere interne Prüfung untersucht die Modellausgabe auf Anzeichen einer solchen Drift.

Wir verfolgen die veröffentlichten Arbeiten von Anthropic, OpenAI, DeepMind sowie die akademische Literatur zur Sicherheit von Sprachmodellen mit Ernsthaftigkeit. Wir tragen nicht zu dieser Literatur bei, aber wir nehmen sie aufmerksam zur Kenntnis.

Zu den Grenzen quantitativer Modellierung

Unsere Szenariomodellierung und Risikoberechnung beruhen auf Annahmen über die Verteilung künftiger Renditen, die Persistenz der Korrelationen und die Repräsentativität des historischen Datensatzes. Jede dieser Annahmen kann scheitern. Die Finanzkrise von 2008, die durch die Pandemie verursachte Volatilität von 2020 und der Bruch des Zinszyklus von 2022 haben jeweils die Grenzen von auf vorangegangene Regime kalibrierten Modellen offengelegt.

Unsere Position ist, dass dies kein Argument gegen quantitative Modellierung ist, sondern ein Argument dafür, ihre Grenzen ausdrücklich zu benennen. Die Methodik-Dokumentation legt die Annahmen dar, auf denen jede Berechnung beruht; der Nutzer ist eingeladen, die Ausgabe entsprechend zu gewichten. Ein Modell, dessen Grenzen sichtbar sind, ist nützlicher als ein Modell, dessen Selbstgewissheit künstlich überhöht ist.

Zur Frage KI-generierter Inhalte

Wesentliche Teile von Drusus Daily werden von einem Sprachmodell erzeugt. Wir haben erwogen, ob dies den Lesern auffälliger offengelegt werden sollte, als die Methodik-Dokumentation es bereits tut, und sind zu dem Schluss gekommen, dass die strukturelle Antwort Ja lautet: Die modellgenerierte Natur des Textes wird in jeder Ausgabe ausgewiesen. Wir kennzeichnen jedoch nicht, welche einzelnen Sätze modellgeneriert und welche redaktionell bearbeitet sind, da die Linie in der Praxis verwischt ist (die redaktionelle Prüfung verändert die Modellausgabe wesentlich) und da die binäre Offenlegung mehr in die Irre führen als informieren würde.

Die maßgebliche Frage ist nicht, ob der Text durch ein Modell erzeugt wurde, sondern ob die darin enthaltenen Zahlen korrekt sind. Die Verifizierungsschicht beantwortet diese. Die redaktionelle Prüfung ist für das analytische Urteil verantwortlich.

Was wir veröffentlichen

Unsere Langform-Forschung erscheint in Drusus Insights. Die dort veröffentlichten Beiträge sind für den arbeitenden Investor und den analytischen Fachmann positioniert, nicht für die akademische Literatur; wir erheben keinen Anspruch, peer-reviewed Forschung zu betreiben. Wo unsere Methodik zu akademischen Arbeiten von Nutzern der Plattform beiträgt, sind die Hinweise zur Zitation auf der Methodik-Seite festgelegt.