O que é que torna a IA explicável?

As aplicações de inteligência artificial (IA) explodiram devido ao sucesso da aprendizagem automática. Os desenvolvimentos futuros deverão resultar em sistemas autónomos capazes de perceber, aprender, tomar decisões e agir. No entanto, a incapacidade das máquinas destes sistemas para justificar as suas escolhas e comportamentos aos utilizadores humanos limita a sua utilidade. Por conseguinte, temos de desenvolver sistemas inteligentes, autónomos e simbióticos para responder aos problemas que enfrentamos.

Atualmente, a IA é aplicada em muitos sectores, incluindo aqueles que afectam diretamente a vida das pessoas, como os cuidados de saúde, a banca e até a justiça. Exigimos que justifiquem as suas acções e os factores que levaram às suas decisões, se é que podemos confiar nas decisões informáticas nestes sectores.

Esta publicação abordará a inteligência artificial explicável (XAI), as suas principais técnicas e princípios e a forma como podemos aplicá-los para fazer avançar o negócio.

O que é exatamente a IA explicável?

As organizações utilizam a IA explicável, também conhecida como XAI, como um conjunto de ferramentas e estratégias para facilitar aos humanos a compreensão de como e porquê os modelos se comportam da forma como o fazem.

XAI é:
Um conjunto de técnicas ideais:
Para ajudar os outros a compreender como um modelo é treinado. Utiliza algumas das melhores práticas e directrizes que os cientistas de dados empregam há anos.
Compreender o processo de formação e os dados utilizados para construir um modelo pode ajudar-nos a decidir se o devemos ou não utilizar.
Também esclarece quaisquer potenciais enviesamentos que o modelo possa ter encontrado.
Um conjunto de directrizes de conceção:
Os investigadores estão a concentrar-se mais na racionalização do desenvolvimento de sistemas de IA para que sejam intrinsecamente mais simples de compreender.
Um conjunto de ferramentas:
Ao incorporar essas aprendizagens nos modelos de formação à medida que os sistemas se tornam mais claros e ao disponibilizar essas aprendizagens a outros para adoção nos seus modelos. Os modelos de formação podem ainda ser melhorados.

Os princípios básicos da IA explicável

O Instituto Nacional de Normas (NIST) estabelece quatro princípios da inteligência artificial explicável para esclarecer melhor o que é a XAI:

A necessidade de "provas, apoio ou lógica para cada resultado" deve ser satisfeita por um sistema de IA.
Um sistema de IA deve oferecer aos seus utilizadores explicações que estes possam seguir.
Exatidão da explicação. O método do sistema de IA seguido para produzir o resultado deve ser refletido com precisão na explicação.
Limites do conhecimento. Um sistema de IA só deve funcionar nas circunstâncias para as quais foi concebido e deve abster-se de produzir um resultado quando não estiver suficientemente confiante no mesmo.

Exemplos de IA explicável

Há inúmeros sectores e funções profissionais que estão a ganhar com a XAI. Eis algumas vantagens de algumas tarefas e sectores de atividade chave que utilizam a XAI para melhorar os seus sistemas de IA.

XAI nos cuidados de saúde

A utilização da IA e da aprendizagem automática no sector da saúde está generalizada. No entanto, os profissionais de saúde não podem explicar por que razão estão a ser feitos juízos ou previsões específicos. Este facto coloca restrições ao tipo de situações em que a tecnologia de IA pode ser utilizada.

Com a ajuda da XAI, os profissionais de saúde podem determinar quais os doentes mais susceptíveis de necessitar de hospitalização e que tipo de cuidados seriam mais eficazes. Devido ao aumento da informação, os médicos são agora capazes de tomar decisões.

XAI nos seguros

Uma vez que o sector dos seguros tem uma influência significativa, as seguradoras devem confiar, compreender e auditar os seus sistemas de IA para maximizar o seu potencial. Com a XAI, as seguradoras registam uma melhor conversão de cotações e aquisição de clientes, mais produtividade, taxas de sinistralidade mais baixas e maior eficiência.

XAI nos serviços financeiros

As empresas do sector financeiro estão a utilizar ativamente a XAI. O seu objetivo é proporcionar aos seus clientes segurança financeira, sensibilização para as questões financeiras e gestão do seu dinheiro.

Os serviços financeiros utilizam a XAI para fornecer resultados justos, imparciais e compreensíveis aos seus clientes e fornecedores de serviços. Além disso, permite que as organizações financeiras mantenham a adesão a princípios morais e justos, assegurando simultaneamente o cumprimento de várias obrigações regulamentares.

A XAI ajuda o sector financeiro de várias formas, incluindo uma melhor previsão do mercado, garantindo a equidade na pontuação de crédito, identificando características ligadas ao roubo para evitar falsos positivos e reduzindo possíveis despesas devido a enviesamentos ou erros da IA.

Conclusão

Os consumidores e os decisores têm de compreender como é que os modelos geram juízos utilizando análises preditivas alimentadas por aprendizagem automática. Do mesmo modo, as organizações têm de compreender como a IA toma decisões para evitar confiar cegamente em modelos de caixa negra. A IA explicável pode ajudar na compreensão humana e na explicação da aprendizagem profunda, das redes neuronais e dos algoritmos de aprendizagem automática. É uma das condições necessárias para estabelecer uma IA ética e responsável.