Sua equipe já está interagindo com IA. Veja como manter a TI segura.

As ferramentas de IA entraram em nosso dia a dia de trabalho incrivelmente rápido! Alguém da sua equipe escreve um e-mail com o ChatGPT. Outro usa um assistente de IA integrado ao seu software de contabilidade. Um terceiro conecta um plug-in de IA para agilizar as respostas aos clientes no Chrome ou no Outlook. Nada disso passou pela aprovação do departamento de TI, e a maioria das pequenas empresas mal percebeu a mudança. Essa explosão no uso de IA é uma parte normal da gestão de negócios no mundo atual. No entanto, se você aprender e se concentrar em criar alguns hábitos agora, em vez de depois, poderá evitar alguns dos desafios que estamos vendo nos primeiros a adotar a IA.

Os antigos hábitos de segurança não foram feitos para isso.

Durante anos, a segurança de rede se concentrou no destino do tráfego. Os firewalls verificavam as conexões, bloqueavam sites maliciosos e impediam a entrada de ameaças conhecidas. Essa abordagem funcionou bem por muito tempo. Embora ainda seja relevante hoje, a IA adiciona uma camada totalmente nova de atividades que a maioria das ferramentas nunca aprendeu a monitorar: solicitações de IA, uploads de arquivos com dados sensíveis e críticos (até mesmo IPs) e ações automatizadas entre aplicativos e serviços de IA. Um firewall vê uma conexão com um site de IA e a permite sem sequer saber o que foi digitado no campo de entrada. O contexto dessas atividades se perde na maioria dos conjuntos de ferramentas de segurança atuais. Então, o que devemos fazer?

O risco reside no que é digitado, não na IA em si.

As ferramentas de IA não são o inimigo. O risco reside no que as pessoas compartilham com elas sem pensar duas vezes. Uma lista de clientes colada em um chatbot para obter ajuda com a formatação. Um contrato com informações de preços carregado em uma ferramenta de IA para um resumo rápido. Credenciais de login coladas por engano em um campo de texto. Um currículo com endereço residencial e número de CPF inserido em uma ferramenta de aprimoramento de currículos. Nenhuma dessas ações parece arriscada no momento, e nenhuma exige intenção maliciosa, mas cada uma delas entrega informações sensíveis a um sistema fora do seu controle.

Especialistas em segurança já estão repensando o firewall.

Uma peça recente em The Hacker News Este texto descreve um momento de fechamento de ciclo na segurança de redes. Vinte e cinco anos atrás, os firewalls baseados em proxy inspecionavam o conteúdo de cada pacote em busca de ameaças. Eles eram mais seguros, mas muito lentos. A CheckPoint e outros fornecedores conquistaram o mercado com firewalls de inspeção com estado, que rastreavam as conexões sem ler o conteúdo. A velocidade superou a segurança, e os firewalls baseados em proxy desapareceram.

Agora, a IA está forçando o setor a retroceder. Um firewall tradicional que monitora um site com IA vê apenas uma conexão normal e permitida. Ele não tem como saber se um aviso vazou sua lista de clientes ou se um plug-in de IA acionou uma ação não autorizada. Os novos designs de firewall descritos no artigo fazem o que os firewalls proxy faziam décadas atrás: inspecionam o conteúdo real que entra e sai da sua rede. Essa mesma inspeção profunda que o setor abandonou em prol da velocidade agora é uma das poucas maneiras de ver quais dados os funcionários estão realmente enviando para a IA.

Como isso se parece em um dia normal de trabalho.

Imagine uma pequena agência de marketing numa segunda-feira comum. Um funcionário cola o orçamento completo da campanha de um cliente numa ferramenta gratuita de escrita com IA para reescrever um texto mais rapidamente. No corredor, alguém do departamento de contas a pagar carrega uma fatura de um fornecedor numa ferramenta de IA para resumir as condições de pagamento, sem se dar conta de que os dados bancários do fornecedor estão ali mesmo, no arquivo. Ninguém tem más intenções. Ambos estão tentando economizar dez minutos. É assim que informações sensíveis acabam fora da empresa sem que ninguém perceba.

Ferramentas gratuitas têm suas desvantagens.

Ferramentas de IA gratuitas para o consumidor final geralmente reservam o direito de armazenar o que você digita e usar essas informações para treinar versões futuras da ferramenta. Isso explica, em parte, por que a versão gratuita se mantém gratuita. Planos empresariais pagos das mesmas empresas geralmente oferecem proteções de privacidade mais robustas, incluindo opções para excluir completamente seus dados do treinamento. Antes que sua equipe dependa de uma ferramenta de IA gratuita para o trabalho diário, reserve cinco minutos para verificar as configurações e encontrar uma opção para desativar a retenção de dados ou o treinamento. Se sua empresa lida com dados de clientes regularmente, um plano empresarial de baixo custo geralmente se paga apenas com a proteção adicional oferecida.

Hábitos simples superam grandes orçamentos.

Você não precisa de software empresarial para criar hábitos de IA mais seguros. Comece com uma breve conversa com sua equipe sobre o que nunca deve ser inserido em uma ferramenta de IA pública: senhas, registros financeiros ou de saúde, dados de clientes, propriedade intelectual e qualquer informação coberta por um acordo de confidencialidade. Anote tudo em uma página. Revise a lista trimestralmente. Mantenha uma lista curta de ferramentas de IA aprovadas para que as pessoas não precisem adivinhar em quais sua empresa confia. Hábitos pequenos e repetíveis protegem uma empresa de forma mais confiável do que uma ferramenta cara que ninguém entende. A biblioteca de documentos da CyberHoot oferece uma política de Uso Aceitável de IA pronta para você editar e usar como ponto de partida.

Um hábito de dois minutos que vale a pena cultivar hoje.

Antes de colar qualquer coisa em uma ferramenta de IA, pare e reflita: você se sentiria confortável se esse texto chegasse à caixa de entrada de um estranho amanhã? Se a resposta for não, omita-o e reformule a solicitação sem os detalhes sensíveis. Anonimize os dados; o que você geralmente busca não são os dados manipulados em si (embora às vezes esse seja o objetivo), mas sim a formatação e a clareza da comunicação com um cliente em um e-mail que precisa de mais empatia ou concisão. Criar esses hábitos de desacelerar e avaliar o que você está colando leva apenas alguns segundos quando se torna rotina, e evita a maioria dos compartilhamentos arriscados antes que aconteçam.

A consciência aumenta com a prática.

Com a prática, todas as equipes se tornam melhores em identificar hábitos de IA arriscados, recompensando positivamente os bons comportamentos em vez de punir ou expor publicamente as pessoas. Quando alguém compartilha uma preocupação sobre uma ferramenta de IA que utilizou, encare isso como uma oportunidade de aprendizado conjunto, não como um erro a ser apontado. Algumas equipes reservam cinco minutos em uma reunião semanal para uma demonstração de IA, onde qualquer pessoa compartilha uma ferramenta que experimentou e qualquer resultado surpreendente. A confiança aumenta quando as pessoas se sentem seguras para fazer perguntas, e a confiança se transforma em decisões melhores ao longo do tempo.

Seu próximo passo

Escolha uma ferramenta de IA que sua equipe usa esta semana e discutam-na juntos por dez minutos. Verifiquem o contrato de uso e treinamento da ferramenta de IA para garantir que vocês estejam no nível de licença que protege seus dados do treinamento da IA ​​para que ela aprimore suas tarefas. Perguntem à sua equipe o que é digitado na ferramenta e definam em conjunto os tipos de dados que devem ser evitados no futuro. Aproveitem para verificar as configurações da ferramenta em busca de uma opção de privacidade de dados. Baixem a Política de Uso Aceitável (AUP) de IA da CyberHoot e comecem a atualizá-la para orientar e governar sua equipe. Pequenas conversas como essa criam hábitos de segurança que as pessoas continuam a usar, e cada uma delas torna sua empresa um pouco mais segura do que era ontem.

---

Fontes:

• The Hacker News: A rede se tornou o plano de controle para a segurança da IA.

---

Perguntas frequentes

Faz um firewall É possível ver o que os funcionários digitam nas ferramentas de IA?
Não. Um firewall tradicional vê a conexão com um site de IA e a permite sem ler o prompt em si. Ele não tem como saber se alguém colou uma lista de clientes ou uma senha no campo indicado. Os firewalls mais modernos inspecionam o conteúdo que entra e sai da rede, o que é uma das poucas maneiras de verificar quais dados sua equipe envia para a IA.

Que tipo de dados sensíveis vazam acidentalmente para ferramentas de IA?
Os vazamentos mais comuns vêm de tarefas cotidianas. Funcionários colam listas de clientes para obter ajuda com a formatação, carregam contratos com preços, anexam currículos com endereços residenciais e números de CPF ou resumem faturas que incluem dados bancários de fornecedores. Nenhuma dessas ações parece arriscada no momento, mas cada uma delas entrega dados privados a um sistema fora do seu controle.

As ferramentas gratuitas de IA são treinadas com base nas informações que você digita?
Muitas vezes, sim. Ferramentas gratuitas de IA para o consumidor geralmente reservam o direito de armazenar suas informações e usá-las para aprimorar versões futuras. Planos empresariais pagos das mesmas empresas normalmente oferecem essa opção. maior privacidadeIncluindo uma opção para manter seus dados fora do treinamento. Verifique as configurações de retenção de dados ou desativação do treinamento antes que sua equipe passe a usar uma ferramenta gratuita para o trabalho diário.

Qual é a maneira mais simples para uma pequena empresa reduzir o vazamento de dados de IA?
Comece com uma regra de uma página listando o que nunca deve ser inserido em uma ferramenta pública de IA: senhas, registros financeiros ou de saúde, dados de clientes, propriedade intelectuale qualquer coisa que esteja sujeita a um acordo de confidencialidade. Mantenha uma lista curta de ferramentas aprovadas para que as pessoas não fiquem adivinhando. Revise ambas trimestralmente. Pequenos hábitos repetíveis protegem uma empresa de forma mais confiável do que uma ferramenta cara.

Por que os firewalls de inspeção de conteúdo estão voltando?
Vinte e cinco anos atrás, os firewalls baseados em proxy liam o conteúdo de cada pacote em busca de ameaças. Eram seguros, mas lentos, então o mercado migrou para a inspeção com estado, que rastreia as conexões sem ler o conteúdo. A IA mudou esse cenário. Agora, um firewall vê uma conexão permitida a um site de IA sem ter acesso aos dados que saem, e por isso o setor está retornando à inspeção com estado. inspeção profunda de conteúdo.

Proteja seu negócio com a CyberHoot hoje mesmo!