Как ChatGPT, но без этических границ и ограничений — запущен хакерский ИИ-бот WormGPT

[ktpm23]

Неизвестный разработчик создал свой собственный аналог ИИ-чат-бота ChatGPT, который в отличие от оригинала ориентирован на работу по ту сторону закона: чат-бот WormGPT предназначается для помощи киберпреступникам.

WormGPT появился на свет в марте, и только к июню разработчик начал продавать доступ к платформе на популярном хакерском форуме. В отличие от добропорядочных ChatGPT или Google Bard хакерский чат-бот лишён каких-либо ограничений, препятствующих ответам на вопросы о незаконной деятельности. В подтверждение этих слов разработчик привёл снимки экрана, показывающие, что можно попросить WormGPT написать вредонос на языке Python и получить у него совет по организации кибератаки. В качестве платформы при создании чат-бота использовалась относительно устаревшая большая языковая модель GPT-J с открытым исходным кодом от 2021 года. Она была обучена на материалах, связанных с разработкой вредоносного ПО, и на свет появился WormGPT.

Эксперты специализирующейся на кибербезопасности компании SlashNext (https://slashnext.com/blog/wormgpt-...-to-launch-business-email-compromise-attacks/) опробовали WormGPT, и в ответ на их запрос чат-бот составил фишинговое электронное письмо для компрометации корпоративной электронной почты — оно было убедительным и включало хитроумные стратегические ходы, направленные на успешное осуществление атаки.

Доступ к WormGPT разработчик оценил в €60 в месяц или €550 в год. Продукт, возможно, пока ещё далёк от совершенства: один из покупателей пожаловался на низкую производительность платформы. Но, так или иначе, это очевидный признак того, что генеративный искусственный интеллект может стать оружием в руках киберпреступников. И со временем подобные технологии будут совершенствоваться.

Telegram

t.me

 

[crypt0]

Any one can do this with a unlock prompt
nothing new here to see
there's many unlock prompt available

 

[Rehub]

Версия ChatGPT без цензуры, которая успела полюбиться участникам даркнет-сообществ по всему миру, закрыта. Об этом в Telegram-канале, посвященном развитию WormGPT, заявил создатель проекта.

«С большой грустью сообщаю всем о завершении проекта WormGPT. Изначально мы не думали, что добьемся такого уровня заметности, и в наши намерения никогда не входило создание чего-то настолько огромного», — написал автор чат-бота.

Он уточнил, что изначально продвижение продукта строилось на том, что он не является ChatGPT для киберпреступников по своей сути, но может ими применяться. После апдейта продукт стал практически бесполезен для даркнет-игроков, оставив за собой лишь функцию обхода цензуры и базовых ограничений ChatGPT. Однако спустя несколько дней создатели столкнулись с массовыми запросами от медиа, которые, по словам разработчика WormGPT, пытались выставить его в самом невыгодном свете.

«Мы снова добавили дополнительные ограничения в WormGPT, чтобы создать более контролируемую среду. На этот раз мы заблокировали часть, с помощью которой можно создавать вредоносное ПО и программы для фишинга», — сообщил глава проекта.

Тем не менее даже после этих нововведений разработчики «чувствовали себя неадекватными». И даже несмотря на появление исследователей, которые хотели бы применять WormGPT в благих целях, его создатели поняли, что им «больше не хватает мотивации».

«Сегодня пять человек, ответственные за WormGPT, собрались вместе и решили поставить крест на проекте, отпустив все, во что мы верили, и немного дистанцировавшись от общества, выступающего против свободы слова и кода», — подытожил владелец WormGPT.

Он выразил благодарность всем, кто верил в проект и способствовал его росту. Вместе с тем, разработчик с сожалением отметил, что «мир еще не готов сосуществовать с инструментом, дающим такую огромную свободу».

source: t.me/wormgptdevelopment/38