Governança e estruturação são essenciais para a segurança em IA
A implementação da inteligência artificial (IA) nas empresas enfrenta obstáculos que vão além da tecnologia em si. De acordo com um relatório global da Hitachi Vantara, a segurança dos dados tornou-se o principal desafio para executivos ao adotar IA, especialmente após a popularização das versões generativas da tecnologia. A falta de estruturação adequada dos dados, governança eficiente e infraestrutura robusta cria vulnerabilidades que ameaçam a cibersegurança, agravadas pela chegada dos agentes de IA.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta para os riscos dos agentes de IA que agem de forma autônoma, podendo gerar consequências inesperadas se não forem monitorados constantemente. Ele ressalta que há um grande desconhecimento sobre o funcionamento dessas ferramentas, o que aumenta os riscos para as organizações.
Empresas se empolgam e expõem dados sem cuidado
O entusiasmo com a inteligência artificial tem levado muitas empresas a confiar excessivamente nos resultados gerados por esses sistemas. Segundo Gibson, essa pressa em implementar soluções, muitas vezes sem necessidade imediata, cria brechas que podem ser exploradas por agentes maliciosos. O relatório destaca que a chamada “alucinação” de agentes de IA ainda acontece em aproximadamente 91% dos casos, o que representa um desafio para a confiabilidade dos sistemas.
Além disso, 76% dos dados corporativos são classificados como não estruturados — justamente o tipo mais utilizado por aplicações de IA, segundo o estudo. Essa combinação expõe as organizações a vulnerabilidades significativas que exigem uma atenção maior na organização e proteção dos dados.
Leia também: Segurança de Dados é o Maior Desafio na Adoção da IA, Indica Relatório da Hitachi Vantara
Fonte: agazetadorio.com.br
Leia também: OpenAI lança GPT-6 Astra, o modelo que marca o início da Inteligência Artificial Geral
Fonte: triangulodeminas.com.br
Contexto brasileiro: cautela e digitalização acelerada
No Brasil, o cenário apresenta particularidades. O país vive uma digitalização rápida, mas ainda muito baseada em sistemas legados e ambientes heterogêneos. Executivos brasileiros têm adotado uma postura mais conservadora em relação à IA, realizando análises detalhadas antes de investir, conforme aponta Joshua Wick, líder global de riscos e compliance da Hitachi Vantara.
Wick observa que essa cautela é positiva, pois evita investimentos precipitados e permite que as empresas avaliem a real necessidade da tecnologia. Para ele, é fundamental questionar se o problema pode ser resolvido sem recorrer à IA, evitando o uso desnecessário da ferramenta.
Educação e testes: caminhos para mitigar riscos
Os especialistas destacam que a educação dos usuários é fundamental para garantir o uso seguro da inteligência artificial. Entender como a tecnologia funciona e quais são seus limites ajuda a reduzir erros e riscos operacionais. Shane Gibson reforça que as organizações devem ter clareza sobre seus objetivos com a IA, conhecer os perigos envolvidos e evitar pressa na implementação, realizando testes prévios rigorosos.
Cresce a preocupação com segurança e governança
O relatório global mostra um aumento considerável na preocupação com segurança de dados, citada por 56% das lideranças como o maior desafio na adoção de IA — um crescimento de 19 pontos percentuais em relação ao ano anterior. Essa atenção se reflete na desaceleração do uso de modelos de linguagem de grande escala (LLMs), como ChatGPT e Copilot, cuja taxa de sucesso percebida caiu de 95% para 81%.
Leia também: OpenAI lança GPT-6 Astra e declara início da era da Inteligência Artificial Geral
Fonte: ocuiaba.com.br
Ao mesmo tempo, empresas têm investido mais em governança e qualidade dos dados. A proporção de organizações que aprimoram seus dados para treinamento subiu de 39% para 49%, e a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, enquanto o número de empresas sem estratégias para explicabilidade dos modelos caiu de 42% para 24%.
Equilíbrio entre inovação e segurança
A despeito das críticas, os especialistas reforçam que governança e segurança não devem frear a inovação. Shane Gibson destaca que é possível usar a IA com toda sua potência, desde que a segurança do negócio seja garantida. Ele projeta um futuro em que interfaces únicas permitirão solicitar resultados de forma simples e eficiente, mas ressalta que para alcançar esse estágio é necessário estruturar processos e controles desde já.
Joshua Wick complementa que a abordagem cautelosa observada no Brasil pode servir de exemplo para outras regiões, ao equilibrar inovação e gestão de riscos de forma responsável.
