Corrida do Ouro XXI
- janeiro 3, 2024
- 0
Dados e informações sensíveis são grandes preocupações dos governos e instituições que detêm números expressivos capazes de alterar o padrão do status quo das sociedade organizadas.
Dados e informações sensíveis são grandes preocupações dos governos e instituições que detêm números expressivos capazes de alterar o padrão do status quo das sociedade organizadas.
Raphael Tedesco
São Paulo, 03/01/2024
2 Minutos.
Há um mês e alguns dias foram lançadas as Diretrizes para o desenvolvimento seguro de sistemas de Inteligência Artificial (IA) pelo Centro Nacional de Segurança Cibernética do Reino Unido (NCSC) e a Agência de Segurança Cibernética e de Infraestrutura dos Estados Unidos (CISA), além da participação de mais de 10 organizações, incluindo Amazon, Microsoft, IBM e Google.
Com o objetivo de fornecer princípios orientadores para todos que utilizam a tecnologia, o intuito é ajudar na construção de sistemas que funcionem conforme pretendido, sem revelar dados confidenciais a partes não autorizadas, mas estejam disponíveis quando necessário.
Os sistemas de IA têm o potencial de trazer inúmeros benefícios para a sociedade, mas para concretizá-los plenamente, é essencial desenvolver, implantar e operar de forma segura. Ou seja, a cibersegurança é um pré-requisito essencial para a privacidade, legalidade, eficácia e confiabilidade na implantação da tecnologia.
No entanto, além das ameaças convencionais à segurança cibernética, os sistemas de IA são suscetíveis a vulnerabilidades únicas. Por exemplo, os invasores podem explorar o aprendizado de máquina adversário (dentro das diretrizes, Inteligência Artificial refere-se especificamente a aplicativos de aprendizado de máquina).
São técnicas indutoras de comportamento anormal, afetando o desempenho dos modelos, solicitando operações não autorizadas. Além disso, permitem que invasores extraiam dados confidenciais e informações sobre o modelo. Portanto, os métodos incluem ataques de injeção e de envenenamento de dados.
Portanto, o design, o desenvolvimento, a implantação, a operação e a manutenção são cruciais para garantir a segurança de todo o ciclo de vida dos sistemas de IA. O guia segue a abordagem de “segurança por padrão” e adere aos princípios de “segurança desde a concepção” . A prioridade é assumir a propriedade dos resultados de segurança para os clientes, com transparência e responsabilidade. Estas ações tornam o design seguro em prioridade na estrutura organizacional e em meio às lideranças.
As diretrizes fornecem recomendações para vários estágios, incluindo design, desenvolvimento, implantação e manutenção. Porém, muitas das sugestões também são referências valiosas para outros sistemas de informação.
Dentro do design seguro são fornecidas orientações para o ciclo de vida de desenvolvimento do sistema. Isso inclui a compreensão e conscientização dos riscos, da modelagem de ameaças e de tópicos e compensações específicas. Considerações básicas e cruciais em todo o design do sistema e do modelo.
A seção sobre o desenvolvimento seguro apresenta diretrizes aplicáveis ao estágio de criação, abrangendo segurança da cadeia de suprimentos, documentação e gestão de ativos e dívida técnica, Nesta são tomadas as decisões de engenharia que ficam aquém das melhores práticas. Servem para alcançar resultados de curto prazo, em detrimento de benefícios de longo prazo, o que significa deixar o problema para resolução futura.
Em implantação segura estão incluídas a proteção da infraestrutura e dos modelos contra comprometimento, ameaça ou perda, o desenvolvimento de processos de gerenciamento de incidentes e a liberação responsável por meio de avaliações adequadas e eficazes antes de qualquer lançamento.
Já as instruções seguras para a operação e manutenção oferecem preceitos operacionais após a implantação do sistema. Ou seja, incluem registro e monitoramento, gerenciamento de atualizações e compartilhamento de informações em comunidades, ecossistemas industriais, acadêmicos e governanças globais.
Trata-se da “Corrida do Ouro” do século XXI, com a diferença de que hoje todos têm à disposição a tecnologia mais avançada do mundo. Entretanto, as ameaças seguem o mesmo ritmo. Vence quem fizer o melhor uso e conquistar mais seguidores.
Raphael Tedesco – Gerente de Alianças e Parcerias para a América Latina – NSFOCUS