Garantir Segurança Resiliente para AI Autônoma em Saúde

A guerra acirrada contra violações de dados representa um desafio cada vez maior para as organizações de saúde em todo o mundo. De acordo com as estatísticas atuais, o custo médio de uma violação de dados agora está em 4,45 milhões de dólares em todo o mundo, um valor que mais do que dobra para 9,48 milhões de dólares para os prestadores de serviços de saúde que atendem pacientes nos Estados Unidos. Além disso, o fenômeno moderno de proliferação de dados inter e intraorganizacionais é uma questão preocupante. Um preocupante 40% das violações de dados divulgadas envolvem informações disseminadas em vários ambientes, expandindo consideravelmente a superfície de ataque e oferecendo muitas vias de entrada para os atacantes.

A crescente autonomia da inteligência artificial geradora traz uma era de mudança radical. Portanto, com ela vem a onda crescente de riscos de segurança adicionais, à medida que esses agentes inteligentes avançados saem da teoria para implantações em vários domínios, como o setor de saúde. Entender e mitigar essas novas ameaças é crucial para escalonar a IA de forma responsável e melhorar a resiliência de uma organização contra ataques cibernéticos de qualquer natureza, seja devido a ameaças de software malicioso, violação de dados ou até mesmo ataques de cadeia de suprimentos bem orquestrados.

Resiliência no estágio de design e implementação

As organizações devem adotar uma estratégia de defesa proativa abrangente e evolutiva para abordar os riscos de segurança crescentes causados pela IA, especialmente na saúde, onde as apostas envolvem tanto o bem-estar dos pacientes quanto a conformidade com medidas regulamentares.

Isso requer uma abordagem sistemática e elaborada, começando com o desenvolvimento e design do sistema de IA e continuando até o grande desdobramento desses sistemas.

• A primeira e mais crítica etapa que as organizações precisam empreender é mapear e modelar ameaças em toda a pipeline de IA, desde a ingestão de dados até o treinamento de modelos, validação, implantação e inferência. Essa etapa facilita a identificação precisa de todos os pontos potenciais de exposição e vulnerabilidade com granularidade de risco com base no impacto e probabilidade.
• Em segundo lugar, é importante criar arquiteturas seguras para a implantação de sistemas e aplicativos que utilizam grandes modelos de linguagem (LLMs), incluindo aqueles com capacidades de IA Agêntica. Isso envolve considerar minuciosamente várias medidas, como segurança de contêiner, design de API segura e manipulação segura de conjuntos de dados de treinamento sensíveis.
• Em terceiro lugar, as organizações precisam entender e implementar as recomendações de vários padrões/quadros. Por exemplo, aderir às diretrizes estabelecidas pelo Quadro de Gerenciamento de Riscos da NIST para identificação e mitigação de riscos abrangentes. Elas também poderiam considerar o conselho da OWASP sobre as vulnerabilidades únicas introduzidas por aplicações LLM, como injeção de prompt e manipulação de saída insegura.
• Além disso, as técnicas clássicas de modelagem de ameaças também precisam evoluir para gerenciar eficazmente os ataques únicos e intricados gerados pela IA Gen, incluindo ataques de envenenamento de dados insidiosos que ameaçam a integridade do modelo e o potencial de gerar conteúdo sensível, tendencioso ou produzido de forma inapropriada nos resultados da IA.
• Por fim, mesmo após a implantação, as organizações precisarão permanecer vigilantes, praticando manobras de red teaming regulares e rigorosas e auditorias de segurança de IA especializadas que visam especificamente fontes como viés, robustez e clareza para continuar descobrindo e mitigar vulnerabilidades nos sistemas de IA.

Notavelmente, a base para criar sistemas de IA fortes na saúde é fundamentalmente proteger todo o ciclo de vida da IA, desde a criação até a implantação, com uma compreensão clara das novas ameaças e aderência a princípios de segurança estabelecidos.

Medidas durante o ciclo de vida operacional

Além do design e da implantação seguros iniciais, uma postura de segurança de IA robusta exige atenção vigilante ao detalhe e defesa ativa ao longo do ciclo de vida da IA. Isso exige a monitoração contínua do conteúdo, aproveitando a vigilância impulsionada por IA para detectar saídas sensíveis ou maliciosas imediatamente, enquanto adere às políticas de liberação de informações e permissões de usuário. Durante o desenvolvimento do modelo e no ambiente de produção, as organizações precisarão ativamente escanear malware, vulnerabilidades e atividade adversa ao mesmo tempo. Essas são, claro, complementares às medidas de cibersegurança tradicionais.

Para encorajar a confiança do usuário e melhorar a interpretabilidade da tomada de decisão da IA, é essencial usar ferramentas de IA Explicável (XAI) para entender a razão subjacente para a saída e previsões da IA.

O controle e a segurança aprimorados também são facilitados por meio da descoberta automática de dados e classificação de dados inteligente com classificadores dinamicamente alterados, que fornecem uma visão crítica e atualizada do ambiente de dados em constante mudança. Essas iniciativas derivam do imperativo de impor controles de segurança fortes, como métodos de controle de acesso baseado em função (RBAC) de granularidade fina, estruturas de criptografia de ponta a ponta para proteger as informações em trânsito e em repouso, e técnicas eficazes de mascaramento de dados para ocultar dados sensíveis.

A formação de conscientização de segurança minuciosa por todos os usuários de negócios que lidam com sistemas de IA também é essencial, pois estabelece um firewall humano crítico para detectar e neutralizar possíveis ataques de engenharia social e outras ameaças relacionadas à IA.

Garantindo o futuro da IA Agêntica

A base da resiliência sustentada diante das ameaças de segurança da IA em evolução reside no método proposto, multidimensional e contínuo, de monitoramento próximo, varredura ativa, explicação clara, classificação inteligente e segurança rigorosa dos sistemas de IA. Isso, claro, é além do estabelecimento de uma cultura de segurança orientada ao ser humano, juntamente com controles de cibersegurança tradicionais maduros. À medida que os agentes autônomos de IA são incorporados aos processos organizacionais, a necessidade de controles de segurança robustos aumenta. A realidade de hoje é que as violações de dados em nuvens públicas ocorrem e custam, em média, 5,17 milhões de dólares, enfatizando claramente a ameaça às finanças e à reputação de uma organização.

Além das inovações revolucionárias, o futuro da IA depende do desenvolvimento da resiliência com base em segurança incorporada, estruturas de operação abertas e procedimentos de governança rigorosos. Estabelecer confiança nesses agentes inteligentes decidirá, em última análise, como extensiva e duradouramente eles serão adotados, moldando o próprio curso do potencial transformador da IA.