O que é que torna a IA explicável?

As aplicações de inteligência artificial (IA) explodiram devido ao sucesso da aprendizagem automática. Os desenvolvimentos futuros deverão resultar em sistemas autónomos capazes de perceber, aprender, tomar decisões e agir. No entanto, a incapacidade das máquinas destes sistemas para justificar as suas escolhas e comportamentos aos utilizadores humanos limita a sua utilidade. Por conseguinte, temos de desenvolver sistemas inteligentes, autónomos e simbióticos para responder aos problemas que enfrentamos.

Atualmente, a IA é aplicada em muitos sectores, incluindo aqueles que afectam diretamente a vida das pessoas, como os cuidados de saúde, a banca e até a justiça. Exigimos que justifiquem as suas acções e os factores que levaram às suas decisões, se é que podemos confiar nas decisões informáticas nestes sectores.

Esta publicação abordará a inteligência artificial explicável (XAI), as suas principais técnicas e princípios e a forma como podemos aplicá-los para fazer avançar o negócio.

O que é exatamente a IA explicável?

As organizações utilizam a IA explicável, também conhecida como XAI, como um conjunto de ferramentas e estratégias para facilitar aos humanos a compreensão de como e porquê os modelos se comportam da forma como o fazem.

XAI is:
A Set of ideal techniques:
To assist others in understanding how a model is trained. It uses some of the best practices and guidelines that data scientists have employed for years.
Understanding the training process and the data used to build a model might help us decide whether to utilize it and when not.
It also sheds light on any potential biases the model may have encountered.
A set of design guidelines:
Researchers are concentrating more on streamlining the development of AI systems so that they are intrinsically simpler to comprehend.
A set of tools:
By incorporating those learnings into the training models as the systems become clearer and making those learnings available to others for adoption into their models. The training models can further be improved.

Os princípios básicos da IA explicável

O Instituto Nacional de Normas (NIST) estabelece quatro princípios da inteligência artificial explicável para esclarecer melhor o que é a XAI:

The "evidence, support, or logic for each output" need should be met by an AI system.
An AI system ought to offer its users explanations they can follow.
Explanation precision. The AI system's method followed to produce the output should be accurately reflected in the explanation.
Boundaries to knowledge. An AI system should only function in the circumstances it was built and should refrain from producing an output when it is not sufficiently confident in the outcome.

Exemplos de IA explicável

Há inúmeros sectores e funções profissionais que estão a ganhar com a XAI. Eis algumas vantagens de algumas tarefas e sectores de atividade chave que utilizam a XAI para melhorar os seus sistemas de IA.

XAI nos cuidados de saúde

A utilização da IA e da aprendizagem automática no sector da saúde está generalizada. No entanto, os profissionais de saúde não podem explicar por que razão estão a ser feitos juízos ou previsões específicos. Este facto coloca restrições ao tipo de situações em que a tecnologia de IA pode ser utilizada.

Com a ajuda da XAI, os profissionais de saúde podem determinar quais os doentes mais susceptíveis de necessitar de hospitalização e que tipo de cuidados seriam mais eficazes. Devido ao aumento da informação, os médicos são agora capazes de tomar decisões.

XAI nos seguros

Uma vez que o sector dos seguros tem uma influência significativa, as seguradoras devem confiar, compreender e auditar os seus sistemas de IA para maximizar o seu potencial. Com a XAI, as seguradoras registam uma melhor conversão de cotações e aquisição de clientes, mais produtividade, taxas de sinistralidade mais baixas e maior eficiência.

XAI nos serviços financeiros

As empresas do sector financeiro estão a utilizar ativamente a XAI. O seu objetivo é proporcionar aos seus clientes segurança financeira, sensibilização para as questões financeiras e gestão do seu dinheiro.

Os serviços financeiros utilizam a XAI para fornecer resultados justos, imparciais e compreensíveis aos seus clientes e fornecedores de serviços. Além disso, permite que as organizações financeiras mantenham a adesão a princípios morais e justos, assegurando simultaneamente o cumprimento de várias obrigações regulamentares.

A XAI ajuda o sector financeiro de várias formas, incluindo uma melhor previsão do mercado, garantindo a equidade na pontuação de crédito, identificando características ligadas ao roubo para evitar falsos positivos e reduzindo possíveis despesas devido a enviesamentos ou erros da IA.

Conclusão

Os consumidores e os decisores têm de compreender como é que os modelos geram juízos utilizando análises preditivas alimentadas por aprendizagem automática. Do mesmo modo, as organizações têm de compreender como a IA toma decisões para evitar confiar cegamente em modelos de caixa negra. A IA explicável pode ajudar na compreensão humana e na explicação da aprendizagem profunda, das redes neuronais e dos algoritmos de aprendizagem automática. É uma das condições necessárias para estabelecer uma IA ética e responsável.