IBM: “A governança de IA é o enabler da inovação de inteligência artificial em escala”

“A Governança da Inteligência Artificial – A Jornada da IBM no governo da Inteligência Artificial” foi o mote do evento que a IBM Portugal realizou nos seus escritórios em Lisboa no final do mês de fevereiro junto de clientes e Parceiros.

Inês Antas de Barros, da Vieira de Almeida, foi a primeira a tomar a palavra para descodificar a lei da Inteligência Artificial (IA) da União Europeia, mais conhecida como EU AI Act.

Este AI Act, diz, tem obrigações para a maioria dos stakeholders na cadeia de valor de IA, não apenas quem desenvolve os sistemas, mas também quem vai aplicar a tecnologia nas suas organizações, e tem âmbito de aplicação extraterritorial que abrange os sistemas de IA fora da União Europeia (UE).

O regulamento tem, também, sistemas de IA proibidos e sistemas de IA de risco elevado, assim como de outros sistemas de risco. Em termos de obrigações, os fornecedores e utilizadores profissionais são particularmente impactados pelas novas regras e estão sujeitos a obrigações como avaliação dos riscos, transparência, supervisão humana, formação e governação de dados.

Inês Antas de Barros partilha, também, que cada estado-membro terá de designar uma autoridade de controlo para supervisionar a aplicação e implementação do regulamento. Por fim, existem contraordenações até 35 milhões de euros ou 7% do volume de negócios anual total, conforme o valor mais elevado.

Este regulamento entrou em vigor no dia 1 de agosto de 2024, mas a sua aplicação é faseada. No início de fevereiro de 2025 foram definidos os sistemas proibidos que já não podem ser utilizados na UE. Em maio de 2025 deverão ser definidos os códigos de conduta.

“O regulamento da inteligência artificial é baseado em nível de risco”, afirma Inês Antas de Barros. Existem vários níveis, como risco inaceitável – como reconhecimento de emoções no local de trabalho ou social scoring –, risco elevado, risco limitado ou específico e, por fixo, risco baixo ou mínimo.

Os prestadores têm várias obrigações, como data governance de dados pessoais e não pessoais; documentação técnica e registos; transparência e informação aos responsáveis pela implementação; exatidão, robustez, cibersegurança e supervisão humana; sistema de identificação e gestão de riscos, incluído a gestão dos riscos; registo na base de dados da UE; e assegurar o cumprimento de requisitos de acessibilidade by design.

Implementação de inteligência artificial em escala

Hans Petter Dalen, Business Executive for EMEA, AI For Business da IBM, foi o keynote seguinte do evento e falou de “AI For Business – How to Succeed (and fail)”. Se em 2024 o tema foi a IA generativa, em 2025 será a IA com agência; “em 2025, a inteligência artificial consegue fazer tudo pelo utilizador”, afirma.

Os agentes de IA podem aumentar os assistentes de inteligência artificial para aumentar a resolução de tarefas complexas e desbloquear mais valor para as organizações. As empresas estão a começar a implementar IA generativa; no entanto, capturar valor dos investimentos de IA vai necessitar de tempo devido à complexidade. 98% das empresas estão a explorar as várias fases da IA generativa, mas apenas 26% das empresas colocaram os seus projetos na fase de desenvolvimento.

“A governança de IA é o enabler da inovação de inteligência artificial em escala”, explica, acrescentando que os “building blocks” da inteligência artificial para o futuro são os dados, os modelos, a governança, os assistentes e os agentes. No meio disto, diz, estão os casos de uso.

Hans Petter Dalen refere, também, que os agentes de IA podem aumentar os assistentes de inteligência artificial a enfrentar as tarefas cada vez mais complexas e a tirar valor para o negócio. No futuro, os assistentes com agentes de IA serão “altamente flexíveis” e “completamente contextuais”.

O executivo da IBM indicou que as empresas começam a colocar a IA generativa em produção, mas, no entanto, recolher o valor total dos investimentos em IA vai demorar tempo devido à complexidade de escalar a tecnologia em questão. “82% dos executivos espera que se demore pelo menos entre três e cinco anos a capturar o valor completo dos seus investimentos em IA generativa”, explica.

Dando o exemplo da própria IBM – o “cliente zero” da implementação de inteligência artificial –, Hans Petter Dalen explica que a “confiança é crítica para escalar a adoção de IA generativa” e que esta confiança, de uma forma geral, ainda é baixa entre as empresas. “95% dos executivos não têm uma grande confiança nas atuais capacidades de IA generativa”, afirma.

No mesmo sentido, 78% dos executivos mantêm a explicabilidade da sua inteligência artificial através de documentação robusta. 98% dos negócios afirmam que as certificações de privacidade são um fator importante nas suas decisões de compra e 63% dos CFO e CRO afirmam que estão focados nos riscos de compliance e regulatórios. Por fim, 74% das empresas acreditam que a governança vai ter um elevado impacto à medida que a adoção de IA generativa aumenta.

A jornada para o governo da IA

A fechar a manhã, Gil Monteiro, Associate Partner Strategy, Risk and Transactions – Technology da Deloitte, Nuno Ruivo, Head of AI da Minsait, Miguel Paneiro, Director Business Consulting | Head of Talent & Transformation, e Cristina Matias, Data & technology Transformation Leader da IBM Consulting, participaram numa mesa-redonda dedicada à importância e desafios da jornada para o governo da inteligência artificial.

Gil Monteiro relembra que “o impacto do negócio de IA não é uma coisa que tenha nascido nos últimos dois anos, embora tenha sido bastante exponenciado com o aparecimento do LLM e com surgimento e massificação do ChatGPT”. Para Gil Monteiro, existem três categorias onde o negócio é tipicamente impactado. Um deles “é o tradicional ter dados, informação e tirar insights desses dados; isso já é feito há vários anos com diferentes técnicas e metodologias”. Outro tema, que também “não é novo”, é a utilização para “ter negócios inovadores ou disruptivos e que permitem criar fontes de receitas com novos produtos que atraiam os consumidores”. A terceira e última categoria tem tido “agora uma procura” que está relacionado com “a eficiência operacional, redução de cursos e automatização de tarefas que anteriormente eram feitas maioritariamente de forma manual”.

Para Miguel Paneiro, é “impossível” não falar de eficiência operacional quando se aborda o tema da inteligência artificial. Miguel Paneiro dá o exemplo da Apple e de como se tornou uma “trillion dollars company” através de inteligência artificial nos processos de logística, de transporte e de armazenamento. Outro lado que “só é possível através da inteligência artificial” é a hiperpersonalização. Em vários serviços, como Netflix, Spotify ou Amazon, é possível pesquisar um determinado tema e esse tema “automaticamente é sugerido ou algo muito semelhante. Está provado o impacto que tem no negócio e na venda”.

Abordando o tema da inteligência artificial e o impacto nos empregos, Nuno Ruivo explica que, tal como em qualquer mudança tecnológicas, “vamos transformar as nossas organizações, aquilo que são os nossos processos. Aquilo que hoje é uma função que nos faz falta, com outras funções nos processos deixa de fazer sentido. Isto é o que vai acontecer de uma forma normal: da mesma forma que algumas funções vão desaparecer, há outras que existem atualmente que vão ser completamente transformados”. Nuno Ruivo refere que “há uns anos, nenhum de nos utilizava o ChatGPT e hoje vê-se cada vez mais uma maior dependência destes assistentes que existem; também nós estamos a adaptarmos e a utilizar ferramentas que não tivemos no passado”.

Por fim, Cristina Matias acrescenta que “a inteligência artificial vai entrar de forma cada vez mais natural no nosso dia-a-dia e há trabalhos que se vão transformar e há outros que acaba por deixar de ser tao relevantes”. Assim, é necessário “acompanhar esta mudança. A inteligência artificial vem aumentar-nos e para que o humano possa potenciar a sua própria criatividade”. Deste modo, “vai depender muito das organizações, de como é que fazem a adoção da sua IA; não é só fazer a incorporação, mas também perceber que existem gerações que precisam de ganhar as competências necessárias para saber utilizar” as ferramentas.

Conteúdo co-produzido pela MediaNext e pela IBM