Mais de 40% das violações de dados terão origem no uso indevido de IA generativa até 2027

A Gartner prevê que até 2027 mais de 40% das violações de dados relacionados com Inteligência Artificial (IA) vão ter como causa o uso indevido da IA generativa. A adoção rápida de tecnologias de inteligência artificial generativa por utilizadores finais ultrapassou o desenvolvimento de medidas de segurança e de gestão de dados, resultando em preocupações sobre a localização de dados face ao poder de computação centralizado necessário para suportar estas tecnologias.

“As transferências de dados transfronteiriças não intencionais ocorrem frequentemente devido a uma supervisão insuficiente, particularmente quando a IA generativa está integrada em produtos existentes sem descrições ou anúncios claros”, refere Joerg Fritsch, VP Analyst da Gartner. “As empresas estão a reparar em mudanças no conteúdo produzido pelos colaboradores que utilizam ferramentas de inteligência artificial generativa. Embora estas ferramentas possam ser utilizadas para aplicações comerciais aprovadas, representam riscos de segurança se forem enviados avisos confidenciais para ferramentas de IA e APIs alojadas em locais desconhecidos”.

A escassez de melhores práticas e normas globais consistentes para a IA e a gestão de dados agrava os desafios ao provocar a fragmentação do mercado e ao obrigar as empresas a desenvolver estratégias específicas para cada região. Tal cenário pode limitar a sua capacidade de escalar as operações a nível global e beneficiar de produtos e serviços de IA.

Até 2027, a Gartner prevê que a governação de inteligência artificial se torne um requisito de todas as leis e regulamentos soberanos de IA em todo o mundo.

“As organizações que não conseguem integrar os modelos e controlos de governação necessários podem encontrar-se em desvantagem competitiva, especialmente aquelas que não têm recursos para alargar rapidamente as estruturas de governação de dados existentes”, acrescentou Fritsch.