Dark AI - задачи и цели?

[fishingobtusely]

Приветствую форумчане, некоторое время в голове крутилась идея локально развернуть, а в последствии и до-обучить LLM модель. Естественно данными для обучения послужат публичные и не очень статьи, мануалы и текста, таких тематик как:

- отработка и работа с логами стилера
- поиск уязвимостей сетей, приложений, протоколов
- социальная инженерия - книги + примеры (фишинг сюда же)
- работа антифрод систем
- поиск и определение критической и важной информации в тексте ( уже даже есть голова модель)

Не стал включать работу с кодом, так как не до конца понимаю как разметить участки кода отвечающие за вредоносное их применение, остается только обучать работать с кодом и уменьшать цензуру - но это и так может каждый.

Однако, как я и написал "мысль в голове была", и на стадии сбора данных, запуске чистой модели, в голове возник вопрос - А что я хочу получить?

Любые статьи, письма для обучения, или мануалы я и так прочитаю и буду знать, так же смогу их лучше приспособить и масштабировать в силу обладания человеческим сознанием ( не считая написания и поиск экспромтов в коде )

Помогите ответить на вопрос, для чего можно использовать такую модель?

 

[weaver]

Однако, как я и написал "мысль в голове была", и на стадии сбора данных, запуске чистой модели, в голове возник вопрос - А что я хочу получить?

Сервис который будет работать на платной и бесплатной основе. Тебе только остаётся предоставлять API и получать $. Лучше всего я думаю всё же делать специализиваронную модель, например чисто под фишинг и соц.инженерию, или модель под малварь. Узкоспециализированные модели выигрывают, чем смешанные.

А если у тебя всё же выйдет обучить модель на вредоносном коде, то можно сделать свой универсальный фреймворк по типу с2с. Где агент, как только попадает на таргет, отсылает запрос к нейронке, та в свою очередь по защищенному каналу передает код, а агент его выполняет. Например в начале разведка и сбор информации о системе. Далее атака развивается. К примеру был обнаружен антивирус на таргете и нейронка прежде, чем продолжить следующий этап, генерирует и прогоняет вредоносный код в виртуалке генерируя миллион семплов, до тех пор пока не будет 0 детектов... И да все решения принимает нейронка, оператор же просто следит за ходом выполнения... Фантастика скажите вы? Но это будущее...

 

[scoring0]

Сервис который будет работать на платной и бесплатной основе. Тебе только остаётся предоставлять API и получать $. Лучше всего я думаю всё же делать специализиваронную модель, например чисто под фишинг и соц.инженерию, или модель под малварь. Узкоспециализированные модели выигрывают, чем смешанные.

А если у тебя всё же выйдет обучить модель на вредоносном коде, то можно сделать свой универсальный фреймворк по типу с2с. Где агент, как только попадает на таргет, отсылает запрос к нейронке, та в свою очередь по защищенному каналу передает код, а агент его выполняет. Например в начале разведка и сбор информации о системе. Далее атака развивается. К примеру был обнаружен антивирус на таргете и нейронка прежде, чем продолжить следующий этап, генерирует и прогоняет вредоносный код в виртуалке генерируя миллион семплов, до тех пор пока не будет 0 детектов... И да все решения принимает нейронка, оператор же просто следит за ходом выполнения... Фантастика скажите вы? Но это будущее...

Кстати всегда было так, что атакующие были на шаг впереди защиты (ав и тд), а сейчас получается чуток отстали, учитывая, что у того-же CrowdStrike уже ИИ используется для анализа угроз.

 

[weaver]

Кстати всегда было так, что атакующие были на шаг впереди защиты (ав и тд), а сейчас получается чуток отстали, учитывая, что у того-же CrowdStrike уже ИИ используется для анализа угроз.

У меня кстати были такие мысли, будут ли в будущем использоваться промпты в бинарнике? хз.. Т.е. всякие ав оснащены нейронками. И чтобы обойти их защиту возможно в будущем нужно будет вшивать строку для prompt injection. Естественно по этой строке будет потом детект, и так каждый раз, чтобы обойти пристальный взор от ИИ решения...

 

[scoring0]

У меня кстати были такие мысли, будут ли в будущем использоваться промпты в бинарнике? хз.. Т.е. всякие ав оснащены нейронками. И чтобы обойти их защиту возможно в будущем нужно будет вшивать строку для prompt injection. Естественно по этой строке будет потом детект, и так каждый раз, чтобы обойти пристальный взор от ИИ решения...

Нужно обучать свою нейронку на поведении АВ в отношении малвари, ставить все АВ на виртуалки и запускать туда малварный ИИ, а не вот это вот все ))

 

[weaver]

Нужно обучать свою нейронку на поведении АВ в отношении малвари, ставить все АВ на виртуалки и запускать туда малварный ИИ, а не вот это вот все ))

Я не совсем это имел введу. Предположим у тебя супер чистый файл. Но решение принимает ИИ, вредоносный он или нет. Он тупо взял и заброковал твой файл. Потому что к примеру в его политике безопасности четко указано слать всех лесом. И вот тут то чтобы обойти эту политику и нужны такие извращения с prompt injection. ИИ просмотрел наш файл и дал добро. Т.е. не важно чистый у тебя файл не чистый. Даже к примеру пусть хоть ты легетивное ПО ставишь, даже тот же офис или еще какую нибудь официльную программулину с лицензионным ключом. ИИ будет блокировать всё. Думая над такой антиутопией, я подумал что возможно против такого будут применятся как раз таки инъекции промптов. Чтобы на*бать нейронку.

 

[xChimera]

Даже к примеру пусть хоть ты легетивное ПО ставишь, даже тот же офис или еще какую нибудь официльную программулину с лицензионным ключом. ИИ будет блокировать всё.

Ну все же решение о детекте принимается исходя не только из нейронки, а и из-за многих других параметров, анализов
Выглядит ли бинарник нормально, рвх секции например, большая разница в соотношении размеров секций
Сертификат, и доверию к нему
И тд

Я думаю нейронка это просто дополнительный этап анализа файла
Работает она да, хуево у большинства аверов

Но у дипнстинкта работает очень даже не плохо

Вот только кому нужен авер, который ебашит все подряд?

 

[weaver]

Ну все же решение о детекте принимается исходя не только из нейронки, а и из-за многих других параметров, анализов
Выглядит ли бинарник нормально, рвх секции например, большая разница в соотношении размеров секций
Сертификат, и доверию к нему
И тд

Я думаю нейронка это просто дополнительный этап анализа файла
Работает она да, хуево у большинства аверов

Но у дипнстинкта работает очень даже не плохо

Вот только кому нужен авер, который ебашит все подряд?

Хз. Может кому то и нужен такой авер. А речь о будущем, а не про настоящие решения.