Investigação

Sobre Segurança em IA

Não construímos modelos fundacionais. Utilizamo-los, sobretudo o Anthropic Claude Sonnet no nível Institution, com engenharia substancial de system prompt e uma camada de verificação que restringe o modelo a dados verificados. A principal questão de segurança em IA para uma empresa na nossa posição não é, portanto, o alinhamento dos modelos de fronteira, que é o trabalho dos laboratórios; é a implantação segura desses modelos num domínio em que os seus modos de falha têm consequências específicas.

Dois modos de falha preocupam-nos. O primeiro é a alucinação: a produção, pelo modelo, de uma asserção afirmada com confiança e não fundamentada em dados verificados. A nossa camada de verificação é a defesa principal; o system prompt que instrui o modelo a sinalizar o que não sabe é a defesa secundária. O segundo é a deriva regulatória: a tentação, dada a capacidade suficiente de um modelo, de o deixar resvalar para a produção de aconselhamento de investimento em vez de análise. Os nossos system prompts incluem instruções explícitas de recusa; a nossa revisão interna examina o resultado do modelo em busca de sinais de tal deriva.

Acompanhamos com seriedade o trabalho publicado pela Anthropic, pela OpenAI, pela DeepMind e a literatura académica sobre segurança em modelos de linguagem. Não somos contribuintes para essa literatura, mas somos atentos consumidores dela.

Sobre os Limites da Modelação Quantitativa

A nossa modelação de cenários e o cálculo de risco assentam em pressupostos sobre a distribuição dos retornos futuros, a persistência das correlações e a representatividade do registo histórico. Cada um destes pressupostos pode falhar. A crise financeira de 2008, a volatilidade induzida pela pandemia em 2020 e a quebra do ciclo de taxas em 2022 expuseram, cada uma, os limites de modelos calibrados sobre regimes anteriores.

A nossa posição é a de que isto não constitui um argumento contra a modelação quantitativa, mas um argumento a favor de que os seus limites sejam declarados explicitamente. A documentação da metodologia expõe os pressupostos em que cada cálculo assenta; convida-se o utilizador a ponderar o resultado em conformidade. Um modelo cujos limites são visíveis é mais útil do que um modelo cuja confiança seja artificialmente elevada.

Sobre a Questão do Conteúdo Gerado por IA

Partes substanciais do Drusus Daily são produzidas por um modelo de linguagem. Considerámos se isto deveria ser revelado aos leitores de forma mais saliente do que aquilo que a documentação metodológica já faz, e concluímos que a resposta estrutural é afirmativa: a natureza gerada por modelo do texto é declarada em cada edição. Não identificamos, contudo, quais frases concretas são geradas pelo modelo e quais são editadas por humanos, porque na prática a fronteira é difusa (a revisão editorial revê o resultado do modelo de forma material) e porque a divulgação binária enganaria mais do que informaria.

A questão relevante não é se o texto é gerado por um modelo, mas se as cifras nele contidas estão corretas. A camada de verificação trata disso. A revisão editorial é responsável pelo juízo analítico.

A Investigação Que Publicamos

A nossa investigação de longo formato é publicada em Drusus Insights. As peças aí publicadas estão posicionadas para o investidor em atividade e para o profissional analítico, não para a literatura académica; não pretendemos conduzir investigação revista por pares. Sempre que a nossa metodologia contribua para trabalho académico conduzido por utilizadores da plataforma, a orientação para citação consta da página de metodologia.