O modelo de IA pode filtrar mais facilmente a atividade maliciosa na telemetria XDR, melhorar os filtros de spam e simplificar a análise de binários de vida fora da terra.
A Sophos , líder global em inovação e fornecimento de segurança cibernética, lançou recentemente uma nova pesquisa sobre como o setor de segurança cibernética pode aproveitar o GPT-3, o modelo de linguagem por trás da agora conhecida estrutura ChatGPT, como um co-piloto para ajudar a derrotar os invasores . O relatório mais recente, “ GPT for You and Me: Applying AI Language Processing to Cyber Defenses ”, detalha os projetos desenvolvidos pela Sophos X-Ops usando os grandes modelos de linguagem do GPT-3 para simplificar a busca por atividades maliciosas em conjuntos de dados de software de segurança, com mais precisão filtrar spam e acelerar a análise de ataques binários “living off the land-LOLBins” (Método de Ataque que consiste em usar as próprias ferramentas e utilitários do sistema, para realizar atividades maliciosas).
“Desde que a OpenAI (Laboratório de pesquisa de Inteligência Artificial) revelou o ChatGPT em novembro de 2022, a comunidade de segurança tem se concentrado amplamente nos riscos potenciais que essa nova tecnologia pode trazer. A IA pode ajudar os invasores aspirantes a escrever malware ou ajudar os cibercriminosos a escrever e-mails de phishing muito mais convincentes? Talvez, mas, na Sophos, há muito vemos a IA como uma aliada em vez de inimiga dos defensores, tornando-a uma tecnologia fundamental para a Sophos, e o GPT-3 não é diferente. A comunidade de segurança deve prestar atenção não apenas aos riscos potenciais, mas também às oportunidades potenciais que o GPT-3 traz”, disse Sean Gallagher, principal pesquisador de ameaças da Sophos.
Os pesquisadores da Sophos X-Ops (laboratorio da Sophos), incluindo o principal cientista de dados da SophosAI, Younghoo Lee, têm trabalhado em três projetos de protótipos que demonstram o potencial do GPT-3 como um assistente para os defensores da segurança cibernética. Todos os três usam uma técnica chamada “aprendizagem de poucos tiros” para treinar o modelo de IA com apenas algumas amostras de dados, reduzindo a necessidade de coletar um grande volume de dados pré-classificados.
O primeiro aplicativo que a Sophos testou com o método de aprendizado de poucos disparos foi uma interface de consulta de linguagem natural para filtrar atividades maliciosas na telemetria do software de segurança; especificamente, a Sophos testou o modelo em relação ao seu produto de Antivírus com XDR. Com essa interface, os defensores podem filtrar a telemetria com comandos básicos em inglês, eliminando a necessidade de os defensores entenderem o SQL ou a estrutura subjacente de um banco de dados.
Em seguida, a Sophos testou um novo filtro de spam usando ChatGPT e descobriu que, quando comparado a outros modelos de aprendizado de máquina para filtragem de spam, o filtro usando GPT-3 era significativamente mais preciso. Finalmente, os pesquisadores da Sophos conseguiram criar um programa para simplificar o processo de engenharia reversa das linhas de comando do LOLBins. Essa engenharia reversa é notoriamente difícil, mas também crítica para entender o comportamento dos LOLBins – e acabar com esses tipos de ataques no futuro.
“Uma das preocupações crescentes nos centros de operação de segurança é a quantidade de 'ruído' que entra. Há muitas notificações e detecções para classificar e muitas empresas estão lidando com recursos limitados. Com a Sophoso provamos que, com algo como o GPT-3, podemos simplificar certos processos trabalhosos e devolver um tempo valioso aos defensores. Já estamos trabalhando para incorporar alguns dos protótipos acima em nossos produtos e disponibilizamos os resultados de nossos esforços em nosso GitHub para os interessados em testar o GPT-3 em seus próprios ambientes de análise. No futuro, acreditamos que o GPT-3 pode muito bem se tornar um co-piloto padrão para especialistas em segurança”, disse Gallagher.
Consultoria Sophos Partner
A segurança cibernética é muito complexa, muito difícil e muda com muita rapidez para ser gerenciada eficientemente pela maioria das organizações. Com a Audere, você tem o melhor da segurança cibernética autogerenciada ou como serviço, de maneira a poder oferecer segurança excepcional ao seu negócio.
A Audere é um canal oficial e parceira Sophos capacitada a entregar soluções e todo portfólio de software e de hardware de segurança, incluindo antivírus, anti-spyware, anti-spam, controle de acesso de rede, software de criptografia e prevenção de perda de dados para desktops e servidores. Com soluções personalizadas e uma equipe altamente qualificada, a Audere é uma excelente escolha para empresas que desejam proteger seus sistemas e dados críticos contra ameaças de segurança cibernética.
Proteja-se com quem entende do seu negócio!
Venha agora mesmo aderir a Audere!
☎️ (11) 4063-2655
✉️ vendas@audere.com.br
Fonte: https://www.sophos.com/en-us/press/press-releases/2023/03/sophos-demonstrates-how-make-chatgpt-cybersecurity-co-pilot