Muitos fornecedores promovem atualmente a IA para sistemas de informação de gestão de risco (RMIS). Na maioria das demonstrações, quando o modelo está errado, quem se apercebe disso e com que rapidez? Essa é a pergunta que todo o responsável pela gestão de risco deve colocar a um fornecedor que venda IA para um sistema de informação de gestão de risco (RMIS). Muitos fornecedores promovem atualmente a IA com um resumo confiante, uma lista ordenada de sinistros ou uma reserva sugerida, e a audiência concorda com a cabeça. O que raramente mostram é a etapa de revisão: onde uma pessoa tem de intervir, o que vê quando o faz e se o sistema torna essa intervenção mais fácil ou mais difícil do que simplesmente aceitar o resultado do modelo. Este artigo aborda como conceber essa etapa para que as pessoas continuem a ser responsáveis pelas decisões influenciadas pela IA.

Por que razão uma maior automatização nem sempre significa uma melhor gestão de riscos

Muitas conversas sobre RMIS partem do pressuposto de que uma maior automatização equivale a uma maior maturidade. Triagem sem intervenção humana. Formulação de recusa sem um revisor. Interpretação de apólices sem um gestor de sinistros. Documentação para a administração sem um analista.

Por vezes, essa suposição é válida. É na classificação de grandes volumes e de baixo risco que as máquinas mostram o seu valor. Encaminhar um incidente para a fila certa, assinalar um campo em falta ou apresentar um caso histórico semelhante são tarefas que beneficiam da rapidez e da consistência, e é dispendioso recorrer a pessoal para essa vertente do trabalho.

No entanto, o trabalho de gestão de risco não se resume apenas a uma questão de volume. Trata-se de tomar decisões em condições de incerteza, muitas vezes com consequências legais, regulamentares e nas relações com as partes interessadas. Tratar cada funcionalidade de IA como um passo em direção a um processo totalmente automatizado gera erros recorrentes pelos quais ninguém se responsabiliza. A questão relevante é o que acontece no seu processo quando o modelo está «quase certo». «Quase certo» é a zona perigosa. As respostas obviamente erradas são fáceis de detetar, mas as que estão quase certas tendem a ser aprovadas.

Três níveis de autonomia para as funcionalidades de IA do RMIS

As diferentes partes da estrutura de risco exigem diferentes níveis de autonomia. Uma forma prática de encarar esta questão é através de três faixas, que correspondem aos níveis de autonomia já conhecidos: «human-in-the-loop», «on-the-loop» e «out-of-the-loop». As designações abaixo descrevem como esses níveis se manifestam no trabalho quotidiano do RMIS.

  • Auxiliar. O modelo elabora rascunhos, classifica ou destaca, e a decisão final cabe sempre a uma pessoa. Entre os exemplos contam-se resumos preliminares de análise inicial, pesquisa de sinistros semelhantes, rascunhos de relatórios de histórico de sinistros e sugestões de perguntas para uma reunião com o subscritor. A IA reduz o tempo de inatividade. Não encerra o processo.
  • Recomendar. O modelo propõe uma ação acompanhada de uma justificação que a pessoa pode analisar. Entre os exemplos incluem-se sugestões de movimentação de reservas, encaminhamentos para um perito especializado ou um aviso de que um sinistro poderá atingir um limite agregado. O revisor pode aceitar, alterar ou rejeitar a proposta, e o sistema deve registar a decisão tomada.
  • Ação restrita. O modelo pode realizar uma ação limitada dentro de regras rígidas, tais como atribuir uma fila de espera, solicitar um documento em falta ou aplicar uma etiqueta padrão. Não deve inventar posições de cobertura, comunicar recusas nem alterar dados financeiros fora dos limites definidos sem o envolvimento de um ser humano.

Muitas organizações adquirem funcionalidades do Assist e implementam-nas acidentalmente como ações restritas, porque o fluxo de trabalho nunca impõe uma paragem. O botão diz «Aplicar». Ninguém concebeu um botão «Revisar».

Por que razão um mau desenho do RMIS oculta o revisor humano

O modelo «Human-in-the-loop» falha menos frequentemente porque as pessoas se recusam a participar e, mais frequentemente, porque o sistema torna essa participação dispendiosa. Se os resultados da IA forem apresentados numa janela separada, desligada do registo do sinistro, os gestores irão colar conclusões sem contexto. Se a fundamentação for uma «caixa negra», a revisão torna-se um mero formalismo. Se aceitar uma sugestão requer apenas um clique e contestá-la exige um pedido de assistência informática, o ciclo é mera encenação.

Um projeto sério atribui à decisão humana a mesma importância que ao trabalho:

  • A sugestão aparece no registo do sinistro, do incidente ou da apólice, e não num produto secundário.
  • A fundamentação está redigida em linguagem simples e está associada a dados aos quais o revisor tem acesso, tais como campos, documentos ou casos semelhantes anteriores.
  • Aceitar, alterar e rejeitar são ações de primeira classe, cada uma delas registada numa pista de auditoria.
  • A equipa monitoriza as alterações feitas pelo utilizador e utiliza-as para melhorar o modelo, em vez de as considerar erros do utilizador.

Sem esses elementos, não se tem uma IA com intervenção humana. O que se tem é uma automação com intervenção humana.

Práticas para garantir a responsabilização das pessoas

As equipas que fazem isto bem começam por analisar as decisões antes de analisarem os modelos. Para cada decisão, questionam-se sobre quais os prejuízos financeiros, jurídicos ou de reputação que adviriam caso a decisão corresse mal. As decisões com consequências negativas significativas permanecem nas categorias «Assistir» ou «Recomendar» até que as evidências indiquem o contrário. As tarefas de grande volume com consequências negativas reduzidas são, normalmente, as primeiras candidatas à categoria «Ação restrita».

Também definem regras de escalonamento que as pessoas consigam memorizar e aplicar. Limiares, intervalos de confiança e condições do tipo «escalonar sempre se» devem fazer parte do modelo operacional, e não apenas de um caderno de ciência de dados. Uma regra de que ninguém no departamento de sinistros se consiga lembrar não irá orientar a decisão de ninguém.

Medem resultados para além da velocidade. O desvio de tickets e o tempo de resolução são importantes, mas não revelam se as decisões são acertadas. As taxas de anulação, o retrabalho após decisões assistidas por IA, os padrões de reclamações e a evolução do Custo Total do Risco dão uma visão mais completa da situação. Uma IA que acelera más decisões não é uma vantagem.

Por fim, ensinam as pessoas a identificar quando não se deve confiar no modelo. A competência não consiste em «utilizar a IA». A competência consiste em reconhecer um disparate que parece coerente, especialmente quando a taxonomia subjacente é confusa ou o conjunto de documentos está incompleto.

Onde inserir o controlo humano no seu plano de desenvolvimento de IA

A IA integrada num RMIS continuará a melhorar na elaboração, classificação e deteção de padrões. Isso não está em dúvida. O que está em dúvida é se as equipas de risco tratarão o ser humano como um controlo de governação ou como um inconveniente a eliminar por meio da otimização. A intervenção humana não é uma fase temporária no caminho para a autonomia total. Para as vertentes do risco que envolvem julgamento e responsabilização, é o objetivo final: máquinas que preparam e propõem, e pessoas que decidem e assumem a responsabilidade pelo resultado.

Um teste prático: se o seu plano de ação para a IA não conseguir mostrar, num único ecrã, onde uma pessoa deve parar e porquê, então não tem um ciclo. Tem um ato de fé. Comece por identificar as decisões que envolvem maior risco, atribua a cada uma delas um nível de autonomia e integre a etapa de revisão no fluxo de trabalho antes de a funcionalidade entrar em funcionamento.

Veja como o Archer RMIS AI se adapta ao seu programa

Se quiser ver como o Archer RMIS AI integra apólices, sinistros e incidentes num único sistema interligado, explore o RMIS AI e solicite uma demonstração. A nossa equipa pode explicar-lhe como os dados de exposição e os registos de sinistros se articulam e como a análise baseada em IA identifica padrões a partir dos dados já existentes no sistema.

Perguntas frequentes

O que é que o Archer RMIS AI gere e por que razão isso é importante para a revisão humana?

O Archer RMIS AI reúne apólices de seguro, dados de exposição, sinistros e incidentes num único sistema de registo. Isso é importante para a etapa de revisão descrita acima. Quando os registos de que um revisor necessita se encontram num único local, este não precisa de reconstruir o histórico do sinistro a partir de folhas de cálculo e caixas de entrada dispersas antes de tomar uma decisão. Manter o trabalho e os dados de apoio reunidos é o que torna viável uma revisão rápida e informada.

As equipas que não pertencem à área de gestão de riscos podem utilizar a IA do Archer RMIS?

Sim. O portal de receção de sinistros foi concebido para ser utilizado em toda a empresa, e não apenas pelo pessoal dedicado aos seguros ou à gestão de riscos. Isto é importante porque muitos sinistros e incidentes têm origem em pessoas que não fazem parte da equipa de gestão de riscos, como, por exemplo, o pessoal da linha da frente que comunica um evento. Quando essas pessoas podem enviar informações através do mesmo sistema, a análise começa com registos completos, em vez de e-mails reencaminhados e detalhes em falta.

De que forma a análise baseada em IA me ajuda a identificar os padrões que carecem de revisão?

A plataforma de análise identifica padrões de sinistros e áreas a melhorar diretamente a partir dos dados já existentes no sistema, sem necessidade de um projeto de relatórios separado. Encare esses padrões como um motivo para analisar mais detalhadamente, e não como conclusões definitivas. Um conjunto de sinistros associados a um determinado tipo de apólice, por exemplo, pode indicar uma lacuna na cobertura, um problema de processo ou uma falha na qualidade dos dados. Acompanhe as taxas de derrogação e os resultados em relação a esses mesmos padrões, para que possa avaliar se a análise está a orientar bem as decisões.