Por que uma Estrutura Viva está no Centro de Impulsionar a Inovação em Fintech

Imran Aftab, Co-Fundador e CEO da 10Pearls.

Descubra as principais notícias e eventos de fintech!

Subscreva a newsletter da FinTech Weekly

Lida por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A finança tem sempre sido uma defensora da inovação digital, e a vaga recente de IA prova que não há exceções. Como uma indústria sob pressão crescente para entregar experiências digitais mais rápidas, mais personalizadas e mais eficientes aos clientes, a integração de tecnologia de ponta não é negociável.

À medida que as fintechs passam de experiências com IA para a integração nos seus compromissos estratégicos centrais, a questão não é o valor que a IA entrega, mas como é a sua governação ao longo do tempo. Sem princípios orientadores claros incorporados num quadro central, as fintechs irão rapidamente deparar-se com riscos do ponto de vista da reputação, da regulamentação e da segurança.

Um quadro vivo não só cobre todas as bases, como o faz mantendo o ritmo das estratégias em evolução. Impulsiona, e não restringe, a inovação—sem comprometer as fintechs no processo.

Encontrar um equilíbrio entre justiça e precisão

A rápida digitalização dos serviços financeiros também cria mais oportunidades para potenciais fraudes e ataques de cibersegurança. No entanto, uma IA sem governação acaba frequentemente por cair em alucinações e enviesamento—o que significa que os titulares de contas podem ser sinalizados erradamente pelos próprios sistemas concebidos para os proteger.

As fintechs devem assegurar que os sistemas de IA operam de forma consistente e cumprem padrões de desempenho. Uma má gestão de dados é uma base essencial da IA sem governação e desencadeia consequências desastrosas. Não se trata apenas de atuar em tempo real, mas de fazê-lo com precisão e de forma justa. Quando os dados que informam estes sistemas não são geridos corretamente, a implementação está destinada a falhar.

Considere um sistema de IA mal informado com dados mal geridos e distorcidos que sinalizou, por engano, uma transação grande e legítima como fraude com base no código postal do titular da conta. Certas demografias são visadas com base em dados históricos imprecisos, o que só serve para reforçar o enviesamento contra indivíduos ou grupos. A discriminação não só prejudica a confiança e as relações, como também tem repercussões a longo prazo na reputação de uma instituição, especialmente por quebrar diretamente as leis de proteção do consumidor. As fintechs têm uma obrigação legal de utilizar os dados de forma justa e segura ao longo do ciclo de vida de um sistema de IA, e não são as ferramentas que são postas em causa quando ocorrem transgressões, mas sim as equipas que as utilizam.

As consequências agravam-se para além disso. Estes cenários criam uma pressão adicional sobre as equipas, que depois têm de intervir, desperdiçando um precioso tempo e capacidade de trabalho. Crucialmente, também assinalam falhas graves na base existente. Dados sem governação são um ponto fraco no tecido digital de uma fintech, tornando-a vulnerável a fraudes reais e a ameaças de cibersegurança.

Um quadro de governação vivo contraria estes riscos porque exige monitorização contínua, testes e recalibração dos modelos de IA. Isto permite aos prestadores financeiros maximizar a sua robustez de segurança numa base constante, avaliando e atualizando regularmente os sistemas à medida que os dados e os riscos evoluem. Ao mesmo tempo, o enviesamento é eliminado, abrindo caminho para a justiça e a precisão em todo o processo.

Garantir a explicabilidade e a transparência

As fintechs que seguem um quadro vivo impedem que a IA funcione como uma caixa negra, em que os seus mecanismos internos são um mistério tanto para as equipas como para os utilizadores. Os titulares de contas, o pessoal e os organismos reguladores exigem tranquilização na forma de explicabilidade e transparência relativamente a qualquer tecnologia integrada.

Eliminar o enviesamento exige compreender como e porquê uma ferramenta de IA chegou a uma decisão. Os sistemas de IA são agora usados em processos como scoring de crédito, mas infelizmente não são imunes ao enviesamento. As ramificações disto são graves: discriminação, em particular contra grupos minoritários, que são desproporcionalmente impedidos de obter empréstimos devido a uma IA falha. Regulamentações como as do CFPB e as leis de Fair Lending exigem explicabilidade e rastreabilidade das ferramentas de IA usadas nos serviços financeiros. Também exigem que o enviesamento seja removido do cálculo.

Num modelo de governação vivo, a explicabilidade e a rastreabilidade estão integradas em todos os casos de uso e fluxos de trabalho:

*   As fontes e os destinos dos dados são registados de forma clara.
*   Todas as alterações ao modelo, testes e observações são registados.
*   A lógica de decisão é comunicada para que reguladores e clientes, e não apenas os operadores, compreendam como e porquê um sistema de IA chegou a uma recomendação ou a uma ação.

Garantir conformidade AML

As instituições financeiras estão a recorrer à automação e à IA para monitorizar transações e atividades suspeitas como parte dos sistemas de combate ao branqueamento de capitais. No entanto, quando a IA não é devidamente supervisionada ou gerida, surgem dois problemas:

*   Falsos positivos: Transações legítimas são sinalizadas indevidamente, levando a clientes frustrados e a desperdício de capacidade de trabalho preciosa.
*   Falsos negativos: Ameaças reais são falhadas, colocando em risco conjuntos de dados inteiros e sistemas digitais, pondo a reputação da organização em jogo e destruindo a confiança.

Com uma abordagem de governação como “guardrails”, estes riscos são minimizados através de dados bem geridos, transparentes e auditáveis. Alertas claros também são integrados com perceções acionáveis imediatas para garantir uma intervenção rápida quando necessário.

À medida que as soluções de IA continuam a evoluir, tornam-se cada vez mais necessários quadros vivos e adaptáveis. Estes não só protegem instituições e indivíduos de potenciais riscos associados à intervenção da IA, como também proporcionam às fintechs uma vantagem competitiva significativa. Estes quadros dotam-nas dos meios para reforçar a confiança e melhorar a sua reputação, ao oferecer uma governação responsável, justiça e transparência, e ao assegurar fiabilidade e desempenho.