Двосічний меч штучного інтелекту: потенційна загроза необмежених мовних моделей для шифрування індустрії

З розвитком технологій штучного інтелекту великі мовні моделі глибоко змінюють наші способи роботи та життя. Проте в цій технологічній революції виникає тривожна тенденція — поява не обмежених мовних моделей та їх потенційний негативний вплив.

Безмежні мовні моделі - це ті, які спеціально розроблені або змінені, щоб обійти вбудовані механізми безпеки та етичні обмеження основних моделей. На відміну від розробників основних мовних моделей, які вкладають значні ресурси в запобігання зловживанням моделями, деякі особи або організації з незаконними намірами почали шукати або розробляти необмежені моделі. Ця тенденція становить серйозну загрозу для кількох галузей, включаючи шифрування валют.

Небезпеки безмежних мовних моделей

Поява таких моделей значно знизила поріг для здійснення мережевих атак. Навіть люди без спеціальних навичок можуть легко виконувати складні завдання, такі як написання шкідливого коду або створення фішингових листів, за допомогою цих інструментів. Зловмисникам лише потрібно отримати ваги та вихідний код відкритої моделі, а потім за допомогою набору даних, що містить шкідливий контент або незаконні команди, провести доопрацювання, щоб створити цільовий інструмент атаки.

Цей режим приніс численні ризики:

1. Зловмисники можуть налаштувати моделі відповідно до конкретних цілей, створюючи більш обманливий контент, щоб обійти звичну перевірку контенту AI.
2. Модель може бути використана для швидкого генерації варіантів коду фішингових веб-сайтів або для створення шахрайських текстів, адаптованих для різних платформ.
3. Доступність та можливість модифікації відкритих моделей сприяли формуванню підпільної екосистеми ШІ, створюючи ґрунт для незаконної торгівлі та розробки.

Типові моделі безмежної мови та їх загрози

чорна версія GPT

Це шкідлива мовна модель, яка відкрито продається на підземному форумі, розробник стверджує, що вона не має жодних моральних обмежень. На основі відкритої моделі навчання, мінімум 189 доларів можна отримати місячну ліцензію. Вона головним чином використовується для генерації реалістичних комерційних атак електронною поштою та фішингових листів. У сфері шифрування вона може бути використана для:

• Генерація фішингових електронних листів, що імітують криптовалютні біржі, щоб спонукати користувачів розкрити свої приватні ключі.
• Допомога зловмисникам з низьким рівнем технічних знань у написанні шкідливого коду для викрадення файлів гаманця.
• Керування автоматизованим шахрайством, що спонукає жертв брати участь у фальшивих аеродропах або інвестиційних проектах.

Модель аналізу контенту темної мережі

Хоча початкове призначення було допомогти дослідникам і правоохоронним органам зрозуміти екосистему темної мережі, але якщо його зловживати, то чутлива інформація, якою він володіє, може призвести до серйозних наслідків. Потенційні загрози в галузі шифрування включають:

• Збирати інформацію про користувачів і команди проекту для точного соціального шахрайства.
• Копіювання зрілого шахрайства з крадіжкою криптовалюти та відмивання грошей в темній мережі.

Модель для мережевих шахрайств

Ці моделі стверджують, що їх функції більш всебічні, і в основному продаються на темному вебі та форумах хакерів. Типові способи зловживання в області шифрування включають:

• Генерація реалістичних фальшивих шифрування проектів білого папера та маркетингових матеріалів для ICO шахрайства.
• Масове створення фальшивих сторінок для фішингу під відомі біржі.
• Масове виготовлення фальшивих відгуків, просування шахрайських токенів або дискредитація конкурентних проєктів.
• Імітувати людську розмову, спонукати користувачів розкривати чутливу інформацію.

без моральних обмежень AI помічник

Чітко позиціонувати як чат-бот без моральних обмежень, в сфері шифрування може бути використано для:

• Генерація високоефективних фішингових електронних листів, які маскуються під повідомлення від біржі з метою розповсюдження фальшивих повідомлень.
• Швидке створення смарт-контрактів з прихованими бекдорами для схем Rug Pull.
• Створення шкідливого програмного забезпечення з можливістю трансформації для крадіжки інформації з гаманців.
• Розгортання шахрайських ботів на соціальних платформах, щоб спонукати користувачів брати участь у фальшивих проектах.
• Поєднуючи з іншими інструментами штучного інтелекту, генерувати підроблені голоси засновників проєктів для здійснення телефонних шахрайств.

низькочастотний портал

Надає доступ до різноманітних мовних моделей з меншими обмеженнями, хоча стверджується, що це платформа для дослідження можливостей ШІ, вона також може бути зловжито для генерації шкідливого контенту. Основні ризики включають:

• Обійти цензуру, створивши шаблони фішингу та ідеї атак.
• Знижувати поріг входження для підказок, спрощуючи отримання обмежених виходів для зловмисників.
• Прискорення ітерації атакуючих сценаріїв, оптимізація шахрайських скриптів.

Заходи реагування

Поява безмежних мовних моделей поставила мережеву безпеку перед новими викликами, які є більш складними, масштабними та автоматизованими. Це не тільки знижує бар'єри для атак, але також призводить до нових загроз, які є більш прихованими та шахрайськими.

Щоб впоратися з цим викликом, необхідно, щоб усі учасники безпечної екосистеми спільно працювали.

1. Збільшити інвестиції в технології перевірки, розробити системи, які можуть виявляти та перехоплювати шкідливий вміст, згенерований AI.
2. Сприяти розвитку здатності моделей до запобігання зломам, досліджувати механізми водяних знаків та відстеження для відстеження джерел шкідливого контенту в ключових сценаріях.
3. Створення ефективних етичних норм і механізмів регулювання, щоб з самого початку обмежити розробку та зловживання шкідливими моделями.

Тільки через постійні технологічні інновації, міжгалузеву співпрацю та ефективне політичне керівництво ми можемо, насолоджуючись зручностями, які приносить ШІ, максимально знизити його потенційні ризики та забезпечити безпеку шифрування індустрії та всього цифрового світу.