Con dao hai lưỡi của trí tuệ nhân tạo: Mô hình ngôn ngữ không giới hạn và mối đe dọa tiềm tàng đối với ngành mã hóa

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, các mô hình ngôn ngữ lớn đang thay đổi sâu sắc cách chúng ta làm việc và sinh hoạt. Tuy nhiên, trong cuộc cách mạng công nghệ này, một xu hướng đáng lo ngại đang âm thầm nổi lên - sự xuất hiện của các mô hình ngôn ngữ không giới hạn và những tác động tiêu cực tiềm tàng của chúng.

Mô hình ngôn ngữ không giới hạn là những hệ thống AI được thiết kế hoặc sửa đổi một cách có chủ ý để tránh các cơ chế an toàn và giới hạn đạo đức tích hợp trong các mô hình chính thống. Khác với việc các nhà phát triển mô hình ngôn ngữ chính thống đầu tư nhiều tài nguyên để ngăn chặn việc lạm dụng mô hình, một số cá nhân hoặc tổ chức vì mục đích bất hợp pháp đã bắt đầu tìm kiếm hoặc phát triển các mô hình không bị ràng buộc. Xu hướng này tạo ra mối đe dọa nghiêm trọng cho nhiều ngành, bao gồm cả mã hóa.

Mối nguy hiểm của mô hình ngôn ngữ không giới hạn

Sự xuất hiện của các mô hình này đã giảm đáng kể rào cản để thực hiện các cuộc tấn công mạng. Ngay cả những người bình thường thiếu kỹ năng chuyên môn, nhờ vào những công cụ này cũng có thể dễ dàng hoàn thành các nhiệm vụ phức tạp như viết mã độc, tạo email lừa đảo. Kẻ tấn công chỉ cần lấy trọng số và mã nguồn của mô hình mã nguồn mở, sau đó tinh chỉnh với một tập dữ liệu chứa nội dung độc hại hoặc chỉ thị bất hợp pháp, họ có thể tạo ra các công cụ tấn công nhắm mục tiêu.

Chế độ này mang lại nhiều rủi ro:

1. Kẻ tấn công có thể tùy chỉnh mô hình dựa trên mục tiêu cụ thể, tạo ra nội dung lừa đảo hơn, vượt qua kiểm duyệt nội dung của AI thông thường.
2. Mô hình có thể được sử dụng để nhanh chóng tạo ra các biến thể mã code trang web lừa đảo hoặc tùy chỉnh nội dung lừa đảo cho các nền tảng khác nhau.
3. Sự có sẵn và khả năng chỉnh sửa của các mô hình mã nguồn mở đã thúc đẩy sự hình thành của hệ sinh thái AI ngầm, tạo điều kiện cho các giao dịch và phát triển bất hợp pháp.

Mô hình ngôn ngữ không giới hạn điển hình và những mối đe dọa của nó

phiên bản tối của GPT

Đây là một mô hình ngôn ngữ độc hại được bán công khai trên diễn đàn ngầm, nhà phát triển tuyên bố rằng nó không có bất kỳ giới hạn đạo đức nào. Dựa trên mô hình mã nguồn mở để đào tạo, chỉ cần 189 đô la là có thể sở hữu quyền sử dụng trong một tháng. Nó chủ yếu được sử dụng để tạo ra các cuộc tấn công xâm nhập qua email thương mại chân thực và email lừa đảo. Trong lĩnh vực mã hóa, nó có thể được sử dụng để:

• Tạo email lừa đảo giả mạo sàn giao dịch mã hóa, dụ dỗ người dùng tiết lộ khóa riêng.
• Hỗ trợ những kẻ tấn công có trình độ kỹ thuật thấp viết mã độc để đánh cắp tệp ví.
• Kích hoạt lừa đảo tự động, hướng dẫn nạn nhân tham gia các đợt airdrop hoặc dự án đầu tư giả mạo.

mô hình phân tích nội dung mạng tối

Mặc dù mục đích thiết kế ban đầu là giúp các nhà nghiên cứu và cơ quan thực thi pháp luật hiểu hệ sinh thái dark web, nhưng nếu bị lạm dụng, thông tin nhạy cảm mà nó nắm giữ có thể gây ra hậu quả nghiêm trọng. Các mối đe dọa tiềm tàng trong lĩnh vực mã hóa bao gồm:

• Thu thập thông tin người dùng và nhóm dự án, để phục vụ cho việc lừa đảo xã hội một cách chính xác.
• Sao chép các chiến lược trộm tiền và rửa tiền trên mạng tối.

mô hình chuyên dụng cho lừa đảo mạng

Mô hình này tuyên bố có chức năng toàn diện hơn, chủ yếu được bán trên dark web và các diễn đàn hacker. Các cách lạm dụng điển hình trong lĩnh vực mã hóa bao gồm:

• Tạo bản trắng và nội dung tiếp thị giả mạo mã hóa chân thực cho các cuộc lừa đảo ICO.
• Tạo hàng loạt các trang lừa đảo giả mạo sàn giao dịch nổi tiếng.
• Sản xuất hàng loạt các nhận xét giả, quảng bá các mã thông báo lừa đảo hoặc bôi nhọ các dự án cạnh tranh.
• Bắt chước cuộc trò chuyện của con người, dụ dỗ người dùng tiết lộ thông tin nhạy cảm.

AI trợ lý không có ràng buộc đạo đức

Xác định rõ ràng là một chatbot không có giới hạn đạo đức, có thể được sử dụng trong lĩnh vực mã hóa:

• Tạo ra email lừa đảo giả mạo cao, mạo danh sàn giao dịch phát hành thông báo giả.
• Tạo hợp đồng thông minh với backdoor ẩn nhanh chóng, dành cho trò lừa Rug Pull.
• Tạo phần mềm độc hại có khả năng biến hình, đánh cắp thông tin ví.
• Triển khai robot lừa đảo trên nền tảng mạng xã hội, dụ dỗ người dùng tham gia các dự án giả.
• Kết hợp với các công cụ AI khác, tạo ra giọng nói giả mạo của người sáng lập dự án, thực hiện lừa đảo qua điện thoại.

cổng thông tin kiểm duyệt thấp

Cung cấp quyền truy cập vào nhiều mô hình ngôn ngữ hạn chế ít, mặc dù tuyên bố là nền tảng để khám phá khả năng AI, nhưng cũng có thể bị lạm dụng để tạo ra nội dung độc hại. Các rủi ro chính bao gồm:

• Vượt qua kiểm duyệt để tạo ra mẫu lừa đảo và phương pháp tấn công.
• Giảm bớt rào cản kỹ thuật để khiến kẻ tấn công dễ dàng có được đầu ra hạn chế.
• Tăng tốc tấn công, tối ưu hóa kịch bản lừa đảo.

Biện pháp ứng phó

Sự xuất hiện của các mô hình ngôn ngữ không giới hạn đã khiến an ninh mạng đối mặt với những phương thức tấn công phức tạp hơn, có quy mô lớn hơn và khả năng tự động hóa cao hơn. Điều này không chỉ làm giảm ngưỡng tấn công mà còn mang đến những mối đe dọa mới tinh vi hơn và có tính lừa đảo cao hơn.

Để đối phó với thách thức này, cần sự nỗ lực hợp tác từ tất cả các bên trong hệ sinh thái an toàn:

1. Tăng cường đầu tư vào công nghệ kiểm tra, phát triển hệ thống có khả năng nhận diện và chặn nội dung do AI độc hại tạo ra.
2. Thúc đẩy xây dựng khả năng chống jailbreak của mô hình, khám phá cơ chế watermark và truy xuất nguồn gốc, nhằm theo dõi nguồn gốc nội dung độc hại trong các tình huống quan trọng.
3. Xây dựng và hoàn thiện các quy định đạo đức và cơ chế giám sát, từ nguồn gốc hạn chế việc phát triển và lạm dụng các mô hình độc hại.

Chỉ thông qua sự đổi mới công nghệ liên tục, hợp tác giữa các ngành và sự chỉ đạo chính sách hiệu quả, chúng ta mới có thể tận hưởng những tiện ích mà AI mang lại trong khi tối đa hóa việc giảm thiểu rủi ro tiềm ẩn, đảm bảo an toàn cho ngành mã hóa và toàn bộ thế giới số.