A espada de dois gumes da inteligência artificial: a ameaça potencial de modelos de linguagem sem restrições para a indústria de encriptação

Com o rápido desenvolvimento da tecnologia de inteligência artificial, os grandes modelos de linguagem estão a mudar profundamente a nossa forma de trabalhar e viver. No entanto, nesta revolução tecnológica, uma tendência preocupante está a emergir silenciosamente - o aparecimento de modelos de linguagem sem restrições e os seus potenciais efeitos negativos.

Modelos de linguagem sem restrições referem-se àqueles que foram intencionalmente projetados ou modificados para contornar os mecanismos de segurança e as restrições éticas embutidas nos modelos mainstream. Ao contrário dos desenvolvedores de modelos de linguagem mainstream que investem grandes recursos para prevenir o abuso dos modelos, alguns indivíduos ou organizações, por motivos ilegais, começaram a buscar ou desenvolver modelos não restritos. Essa tendência representa uma séria ameaça a vários setores, incluindo encriptação.

Os perigos dos modelos de linguagem sem restrições

A emergência de modelos dessa natureza reduziu significativamente a barreira para a implementação de ataques cibernéticos. Mesmo pessoas comuns sem habilidades profissionais podem facilmente realizar tarefas complexas como a escrita de código malicioso e a criação de e-mails de phishing, utilizando essas ferramentas. Os atacantes apenas precisam obter os pesos e o código-fonte de modelos de código aberto e, em seguida, ajustar finamente com um conjunto de dados que contenha conteúdos maliciosos ou instruções ilegais, conseguindo assim criar ferramentas de ataque direcionadas.

Este modelo traz múltiplos riscos:

1. Os atacantes podem personalizar modelos com base em alvos específicos para gerar conteúdos mais enganosos, contornando a revisão de conteúdo das IAs convencionais.
2. O modelo pode ser utilizado para gerar rapidamente variantes de código de sites de phishing ou para personalizar textos de fraude para diferentes plataformas.
3. A acessibilidade e a modificabilidade dos modelos de código aberto fomentaram a formação de um ecossistema de IA subterrâneo, proporcionando um terreno para transações e desenvolvimentos ilegais.

Modelos de linguagem ilimitados típicos e suas ameaças

versão escura do GPT

Este é um modelo de linguagem malicioso vendido publicamente em fóruns subterrâneos, cujo desenvolvedor afirma não ter quaisquer limitações éticas. Baseado em modelos de código aberto, pode-se obter uma licença de uso de um mês por apenas 189 dólares. É principalmente utilizado para gerar ataques de phishing e e-mails comerciais realistas. Na encriptação, pode ser usado para:

• Gerar e-mails de phishing que imitam uma exchange de criptomoedas, induzindo os usuários a revelarem suas chaves privadas.
• Ajudar atacantes com baixo nível técnico a escrever código malicioso para roubar arquivos de carteira.
• Impulsionar fraudes automatizadas, guiando as vítimas a participar em airdrops ou projetos de investimento falsos.

modelo de análise de conteúdo da dark web

Embora o propósito inicial do design seja ajudar os pesquisadores e as autoridades a entender o ecossistema da dark web, se mal utilizado, as informações sensíveis que possui podem causar sérias consequências. As ameaças potenciais no campo da encriptação incluem:

• Coletar informações de usuários e equipes de projetos para fraudes sociais precisas.
• Copiar estratégias maduras de roubo de criptomoedas e lavagem de dinheiro na dark web.

modelo de fraude na internet

Este tipo de modelo afirma ter funcionalidades mais abrangentes, sendo vendido principalmente na dark web e em fóruns de hackers. As formas típicas de abuso no campo da encriptação incluem:

• Gerar documentos white paper e copywriting de marketing falsos e realistas para fraudes de ICO.
• Criar em massa páginas de phishing que imitam exchanges conhecidas.
• Fabricação em massa de comentários falsos, promoção de tokens fraudulentos ou difamação de projetos concorrentes.
• Imitar o diálogo humano, induzindo o usuário a revelar informações sensíveis.

assistente de IA sem restrições morais

Claramente posicionado como um chatbot sem restrições éticas, que pode ser utilizado no domínio da encriptação:

• Gerar e-mails de phishing altamente realistas, fazendo-se passar por notificações falsas de uma exchange.
• Gerar rapidamente contratos inteligentes com backdoors ocultos, destinados a golpes de Rug Pull.
• Criar malware com capacidade de metamorfose para roubar informações da carteira.
• Implementar robôs de fraude em plataformas sociais para induzir os usuários a participar de projetos falsos.
• Juntando outras ferramentas de IA, gerar voz falsa de fundadores de projetos para realizar fraudes telefónicas.

portal de baixa censura

Fornece acesso a vários modelos de linguagem com menos restrições, embora afirme ser uma plataforma para explorar as capacidades da IA, também pode ser abusado para gerar conteúdo malicioso. Os principais riscos incluem:

• Contornar a censura para gerar modelos de phishing e estratégias de ataque.
• Reduzir a barreira de entrada para a engenharia de prompt, tornando mais fácil para os atacantes obter saídas restritas.
• Acelerar a iteração de scripts de ataque, otimizar scripts de fraude.

Estratégias de resposta

A emergência de modelos de linguagem sem restrições torna a segurança cibernética mais vulnerável a um novo paradigma de ataques mais complexos, em maior escala e com capacidades de automação. Isso não apenas reduziu a barreira de entrada para ataques, mas também trouxe novas ameaças mais encobertas e enganosas.

Para enfrentar esse desafio, é necessário que todas as partes do ecossistema de segurança trabalhem em conjunto:

1. Aumentar o investimento em tecnologias de detecção, desenvolvendo sistemas que consigam reconhecer e interceptar conteúdos gerados por IA maliciosa.
2. Promover a construção da capacidade de prevenção de jailbreak do modelo, explorando mecanismos de marca d'água e rastreamento para acompanhar a origem de conteúdos maliciosos em cenários-chave.
3. Estabelecer normas éticas e mecanismos de regulamentação robustos, limitando desde a origem o desenvolvimento e o abuso de modelos maliciosos.

Somente através da inovação tecnológica contínua, da colaboração entre setores e da orientação política eficaz, podemos desfrutar das conveniências trazidas pela IA enquanto minimizamos ao máximo seus potenciais riscos, garantindo a segurança da encriptação e de todo o mundo digital.