IA Explicável desafia limites da transparência algorítmica no AI Talks Mackenzie

A 7ª edição do AI Talks Mackenzie, realizada na Universidade Presbiteriana Mackenzie (UPM) campus Higienópolis no dia 23 de outubro, contou com a presença de especialistas em Inteligência Artificial Generativa que explicaram o atual cenário da tecnologia no mundo corporativo.

Os palestrantes do tema IA Explicável (XAI) foram: Leandro Zerbinati, PhD em Engenharia Elétrica e Eletrônica, professor nos cursos de graduação e pós-graduação do Mackenzie; e Sérgio Gama, engenheiro mecatrônico, especialista em IA Generativa e arquiteto sênior da IBM com atuação na América Latina.

A mediação do encontro ficou por conta da jornalista Adriele Marchesini, presidente do comitê futuro do trabalho e educação da Abria (Associação Brasileira de Inteligência Artificial).

Entendendo as nuances da IA Generativa

Na primeira palestra, Zerbinati apresentou a linha do tempo da Inteligência Artificial, destacando o desenvolvimento dos modelos mais simples, relembrando que inicialmente as regras eram claras e as decisões explícitas. No entanto, com o aprimoramento dos algoritmos, é imprescindível alimentar a IA com informações oficiais e precisas.

“Temos verificado diversas situações em que o usuário, por falta de conhecimento, não sabe como realizar a curadoria do conteúdo. E a falta de fontes verídicas e atualização pode custar caro, já que o problema não está somente na parte técnica, mas também nos fatores éticos, jurídicos e humanos”, esclarece.

O especialista ressaltou que a IA Explicável (XAI) surgiu como um esforço de tornar o raciocínio da máquina compreensível e rastreável, de modo que os sistemas de IA se tornem mais confiáveis e seguros para os usuários.

Enquanto isso, Sérgio Gama destacou a importância de abastecer as máquinas constituídas com IA, já que o modo como a informação é absorvida determinará a eficiência das respostas apresentadas.

O engenheiro lembrou ainda que o dispositivo LMM (Modelo Multimodal Grande) surgiu como uma evolução do modelo de Linguagem Grande (LLM), que processa apenas textos. Esse último tem a capacidade de interpretar e gerar conteúdo a partir de diferentes modelos de dados, ou seja, texto, imagens, áudio e vídeo. “Daqui para frente, as informações que já estão armazenadas pelo LMM serão analisadas, aumentando ainda mais a agilidade e veracidade das respostas. A consequência natural é de que a tecnologia será mais eficiente do que os seres humanos, no que diz respeito a respostas para diversos tipos de soluções corporativas”.

Além disso, Gama pontuou dois cenários tecnológicos que merecem atenção: a engenharia de prompt e a segurança com a manipulação dos dados. No primeiro caso, os usuários precisam ter domínio de como criar e aprimorar os modelos de IA Generativa, a fim de que as máquinas produzam respostas mais precisas, relevantes e eficazes.

“A contextualização do comando será cada vez mais importante, já que a tecnologia foi aprimorada, mas sem a condução correta não entregará o resultado solicitado pelo usuário. Do mesmo modo, é preciso muita atenção com o uso de dados sensíveis, como senhas e cartões de crédito, por exemplo”, esclarece.

Conhecimento ao alcance da sociedade

O AI Talks é uma iniciativa da Faculdade de Computação e Informática (FCI) da Universidade Presbiteriana Mackenzie, criada no início de 2025. Um dos idealizadores do projeto, professor Dirceu Matheus Júnior, conta que foi pensada para oferecer um formato diferente de conhecimento em IA em todas as camadas, tanto para os alunos quanto para a comunidade externa.

“Os especialistas convidados apresentam como a IA vem sendo aplicada em diferentes áreas econômicas, pontuando as novidades e desafios. A cada edição temos verificado o interesse dos participantes que esclarecem dúvidas ou mesmo compartilham experiências pessoais. É uma ótima oportunidade de aprendizado e esclarecimento para quem ainda tem dúvidas sobre a tecnologia”, conclui.

Vestibular

Estão abertas as inscrições para o Vestibular Mackenzie 2026.1. Acesse o site e venha estudar na instituição que, desde 1870, transforma vidas por meio do conhecimento. Faça agora mesmo sua inscrição!