89% dos líderes de IT receia que falhas nas ferramentas de IA generativa coloquem organizações em risco

O relatório “Beyond the Hype: The Businesses Reality of AI for Cybersecurity” da Sophos, que inquiriu 400 líderes de IT sobre o uso de Inteligência Artificial (IA) em cibersegurança, revelou que, apesar de 65% dos líderes de TI terem adotado IA generativa nas suas ferramentas de cibersegurança, 89% estão preocupados com as possíveis falhas destas ferramentas, que podem colocar as suas empresas em risco.

De acordo com outra pesquisa da Sophos X-Ops, tem-se registado uma pequena mudança na forma como os cibercriminosos estão a utilizar a inteligência artificial. Após a investigação de vários fóruns ilícitos, a Sophos X-Ops descobriu que alguns atacantes estão a recorrer à IA generativa para a automatização de tarefas repetitivas, como a criação de e-mails em massa e a análise de dados.

“Tal como acontece com muitas outras coisas na vida, o mantra deve ser ‘confiar, mas verificar’ em relação às ferramentas de IA generativas. Na verdade, não ensinamos as máquinas a pensar; simplesmente fornecemos-lhes o contexto para acelerar o processamento de grandes quantidades de dados”, afirma Chester Wisnieswski, Chief Technology Officer da Shopos. “O potencial destas ferramentas para acelerar as cargas de trabalho de segurança é incrível, mas ainda requer o contexto e a compreensão dos seus supervisores humanos para este benefício seja percebido”.

 Segundo o relatório, empresas com tamanhos diferentes apresentaram diferentes prioridades para a utilização de IA generativa. As grandes organizações (com mais de mil colaboradores) têm como prioridade melhorar a proteção, enquanto as empresas inquiridas que têm entre 50 e 99 trabalhadores consideraram a redução do burnout dos colaboradores como o principal benefício do uso das ferramentas de IA generativa.

No entanto, em todos os tamanhos de organizações, 84% dos líderes de IT inquiridos revelaram estar preocupados com a pressão para reduzir o número de profissionais de cibersegurança devido a expectativas irrealistas sobre as capacidades da inteligência artificial de substituir operadores humanos.

O relatório também revela que 75% dos líderes inquiridos consideram difícil quantificar os custos realizados com a introdução de IA generativa em produtos de cibersegurança. Apesar de 80% dos líderes acreditar que a IA generativa vai aumentar significativamente os custos das ferramentas de cibersegurança, 87% confia que a poupança criada pela IA generativa vai compensar as despesas gerais de cibersegurança.