Preocupação crescente com segurança na inteligência artificial
A adoção da inteligência artificial (IA) nas empresas tem avançado rapidamente, mas traz consigo desafios que preocupam os executivos da Hitachi Vantara. Segundo um relatório global divulgado pela companhia, a segurança de dados, a estruturação e a governança são os pilares que mais impactam a implementação da tecnologia. Desde a popularização da IA generativa, a cibersegurança tem sofrido com a falta desses elementos, aumentando os riscos diante da chegada dos agentes de IA.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, destaca que “a introdução de agentes de IA traz novos riscos, pois eles podem executar ações com consequências inesperadas se não forem monitorados constantemente”. Além disso, há um entendimento equivocado sobre o funcionamento dessas ferramentas, o que eleva a exposição das organizações a vulnerabilidades.
Ritmo acelerado e confiança excessiva geram vulnerabilidades
De acordo com o relatório, muitas empresas têm se empolgado com as possibilidades da IA e implementado soluções de forma rápida e até desnecessária, sem a devida cautela. Essa postura cria brechas que podem comprometer a segurança dos dados e do ambiente tecnológico.
O documento também revela que cerca de 91% dos agentes ainda apresentam episódios de “alucinação”, fenômeno em que a IA gera informações incorretas ou imprecisas. Paralelamente, 76% dos dados corporativos são não estruturados, justamente o tipo mais explorado pelas aplicações de IA, o que dificulta o controle e aumenta os riscos.
Leia também: OpenAI lança GPT-6 Astra: o modelo que marca o início da Inteligência Artificial Geral
Fonte: soudebh.com.br
Leia também: Segurança de Dados é o Maior Desafio na Adoção da IA, Indica Estudo da Hitachi Vantara
Fonte: edemossoro.com.br
Brasil adota postura mais cautelosa diante da IA
No cenário brasileiro, o panorama é um pouco diferente. O país passa por um processo acelerado de digitalização, muitas vezes apoiado em sistemas legados e heterogêneos. Ainda assim, os executivos locais são vistos como mais conservadores em relação à adoção da IA, adotando uma postura mais cautelosa.
Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, observa que “os executivos brasileiros preferem realizar uma análise detalhada antes de investir em IA, demonstrando apreensão quanto ao retorno financeiro inicial”. Essa prudência é vista como positiva pelos especialistas, que ressaltam a importância de questionar se o problema pode ser resolvido sem recorrer à IA.
Educação dos usuários é chave para mitigar riscos
Para os especialistas, o caminho para estruturar o uso da IA e reduzir riscos passa pela capacitação dos usuários. É fundamental que eles compreendam como a tecnologia funciona e quais são as implicações do seu uso. No entanto, Gibson aponta que esse processo é muitas vezes negligenciado, e a pressa em colocar a IA em produção pode ser prejudicial.
“É necessário definir claramente o que se espera da IA, entender seus perigos e realizar testes antes da implementação”, afirma o especialista. Essa atenção ajuda a evitar resultados inesperados e garante maior segurança no uso da ferramenta.
Leia também: OpenAI lança GPT-6 Astra e marca início da era da Inteligência Artificial Geral
Fonte: jornalvilavelha.com.br
Segurança de dados lidera preocupações das lideranças
O relatório destaca que a segurança de dados se tornou o principal desafio na implementação da IA para 56% das lideranças, um aumento de 19 pontos percentuais em relação ao ano anterior. Essa preocupação reflete-se no desempenho dos modelos de linguagem de grande escala (LLMs), que tiveram queda na percepção de sucesso.
Ferramentas como ChatGPT e Copilot viram sua taxa de sucesso percebida cair de 95% para 81%. Em resposta, as empresas aumentam investimentos em governança e qualidade dos dados. O percentual de organizações que aprimoram os dados para treinamento subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também cresceram, passando de 36% para 44%. O número de empresas sem estratégia de explicabilidade dos modelos caiu de 42% para 24%.
Desafios e futuro da inteligência artificial nas empresas
Apesar das dificuldades, Gibson ressalta que a IA continua sendo uma ferramenta valiosa, embora não determinística, o que implica riscos ao negócio. “No início, a IA parecia muito útil, mas as limitações começaram a aparecer com o tempo, mostrando a necessidade de cautela e governança”, explica.
Tanto Gibson quanto Wick reforçam que investir em governança e segurança não significa frear a inovação, mas sim maximizar o potencial da IA de forma segura. Gibson prevê que, no futuro, teremos interfaces únicas capazes de gerar resultados com facilidade, mas para chegar lá é necessário estruturar as bases desde já.