Investigación

Sobre la seguridad de la IA

No construimos modelos fundacionales. Los utilizamos, principalmente Anthropic Claude Sonnet en el nivel Institución, con una ingeniería sustancial del prompt de sistema y una capa de verificación que ciñe el modelo a datos verificados. Por tanto, la cuestión principal de seguridad de IA para una firma en nuestra posición no es el alineamiento de los modelos de frontera, lo cual corresponde al trabajo de los laboratorios; es el despliegue seguro de esos modelos en un ámbito en el que sus modos de fallo tienen consecuencias específicas.

Dos modos de fallo nos preocupan. El primero es la alucinación: la producción por el modelo de una afirmación rotundamente expresada que no se sustenta en datos verificados. Nuestra capa de verificación es la principal defensa; el prompt de sistema que instruye al modelo a señalar lo que no sabe es la secundaria. El segundo es la deriva regulatoria: la tentación, dada una capacidad suficiente del modelo, de permitir que se deslice hacia la producción de asesoramiento de inversión en lugar de análisis. Nuestros prompts de sistema incluyen instrucciones explícitas de rechazo; nuestra revisión interna examina la salida del modelo en busca de indicios de tal deriva.

Seguimos con seriedad el trabajo publicado de Anthropic, OpenAI, DeepMind y la literatura académica sobre seguridad de modelos de lenguaje. No somos contribuyentes a esa literatura, pero sí consumidores atentos de ella.

Sobre los límites de la modelización cuantitativa

Nuestra modelización de escenarios y nuestro cálculo de riesgo descansan en supuestos sobre la distribución de los rendimientos futuros, la persistencia de las correlaciones y la representatividad del registro histórico. Cada uno de estos supuestos puede fallar. La crisis financiera de 2008, la volatilidad inducida por la pandemia de 2020 y la ruptura del ciclo de tipos de 2022 expusieron, cada cual, los límites de modelos calibrados sobre regímenes anteriores.

Nuestra posición es que esto no constituye un argumento contra la modelización cuantitativa, sino un argumento a favor de declarar sus límites de forma explícita. La documentación metodológica expone los supuestos sobre los que descansa cada cálculo; se invita al usuario a ponderar el resultado en consecuencia. Un modelo cuyos límites son visibles resulta más útil que un modelo cuya confianza es artificialmente elevada.

Sobre la cuestión del contenido generado por IA

Buena parte de Drusus Daily se produce mediante un modelo de lenguaje. Hemos considerado si tal hecho debiera revelarse a los lectores de manera más prominente que como ya lo hace la documentación metodológica, y hemos concluido que la respuesta estructural es afirmativa: la naturaleza generada por modelo de la prosa se declara en cada edición. No obstante, no identificamos qué frases concretas son generadas por el modelo y cuáles editadas por humano, porque la línea es en la práctica difusa (la revisión editorial reescribe sustancialmente la salida del modelo) y porque la divulgación binaria induciría a confusión más de lo que informaría.

La cuestión pertinente no es si la prosa la genera un modelo, sino si las cifras que contiene son correctas. La capa de verificación atiende esto. La revisión editorial es responsable del juicio analítico.

Investigación que publicamos

Nuestra investigación de formato extenso aparece en Drusus Insights. Las piezas allí publicadas se dirigen al inversor en activo y al profesional analítico, no a la literatura académica; no pretendemos llevar a cabo investigación sometida a revisión por pares. Cuando nuestra metodología contribuya a trabajos académicos realizados por usuarios de la plataforma, las pautas de citación se exponen en la página de metodología.