да, за 3к$ позволит запускать на 405 миллиардов модель
и будет еще за 300 для маленьких (7кк)
-
XSS.stack #1 – первый литературный журнал от юзеров форума
ИИ с большим контекстом для реверса?
- Автор темы dunkel
- Дата начала
и будет еще за 300 для маленьких (7кк)
Сейчас пользуюсь гемени 2.0 Флэш эксперементал. Сильно отличается от 1.5 про и Флэш , более глубокий и широкий ответ . Так же мне нравится может делать анализ по открытым источникам в Гугле. Но... К примеру на сложные вопросы из науки и философии (чисто для теста )) не даёт полный ответ как гпт.
дак попроси гпт переделать функцию chat под опенаи, она там простейшая, чуть ли не просто урл поменять, нашел проблему
или какой нибудь агрегатор по типу bothub
касаемо сабджекта топика мне кажется нужен другой подход. вроде как проблему внимания в середине большого контекста никто пока еще не решил.
ллмки лучше внимание обращают на начало и конец, в середине всегда проблемы.
используй дообученные на кодинге модели, используй декомпозицию на подзадачи, ты ж неплохо их уже сформулировал:
- напиши мне код, который заменит названия переменных и функций
- проанализируй весь текст и выяви ключевые паттерны, которые необходимо оптимизировать, предложи методы оптимизации
и в подобном духе
если функций не много то можно заменить часть их тела на "...", оставив только важные для названия признаки, вот и влезешь в контекст
в асме рублю слабо, но так ли сильно разве важно там полностью весь код скармливать? пройтись по нему с одним и тем же промптом почанково не вариант?
Только не за 3, а за 6. 200B он.
Может и скорее всего где-то накосячит, но в теории какую-то отправную точку для анализа может дать.
Не тестил, но любопытный проект.
GitHub - mrphrazer/reverser_ai: Provides automated reverse engineering assistance through the use of local large language models (LLMs) on consumer hardware.
Provides automated reverse engineering assistance through the use of local large language models (LLMs) on consumer hardware. - mrphrazer/reverser_ai
github.com
Верить словам - ошибка
Верить словам NVIDIA по поводу их продуктов - фатальная ошибка
Я думаю цены будут гораздо выше чем заявлено, и я говорю в том числе про видеокарты 50 версии
А сам компьютер нужно тестировать, смотреть что да как чтобы делать выводы
В плане реверса, оптимизации можно использовать LLVM, на гитхабе был даже проект - retdec помоему, но разобраться в коде который он сгенерировал - сложноТолько не за 3, а за 6. 200B он.
Может и скорее всего где-то накосячит, но в теории какую-то отправную точку для анализа может дать.
Не тестил, но любопытный проект.
GitHub - mrphrazer/reverser_ai: Provides automated reverse engineering assistance through the use of local large language models (LLMs) on consumer hardware.
Provides automated reverse engineering assistance through the use of local large language models (LLMs) on consumer hardware. - mrphrazer/reverser_aigithub.com
И вопрос еще в том, как будут обрабатываться различные приколы по типу асм вставок, Jmp в середину call, heavens gates и тд
Я в целом как пример показал, что касается цен, ну в рф оно и под 800к и выше будет стоить, по месту заказа думаю +\-300$
Что касается их продуктов - я имел дело только с их видеокартми 3х 4х серии, хз что сказать, заявленные функции выполняют, куда ядра не пересчитывал, но думаю все в порядке
А так если чисто мое мнение, будь я инженером-физиком-биоинформатиком со своей лабой, я наверное хотел заниматься фотонным компьютером(чипом) либо же биокомпьютером(вроде органойдов) в отличии от квантовых(которые х#й построишь) эти вполне можно создать (как рабочие протатипы) в лабе с деньгами. Я думаю предел возможностей таких вычислений куда шире и безграничней любых суперкомпьютеров и псевдоквантовых комп.
Вдохновился этим
Безусловно тематика фотонных и био компьютеров очень интересная и перспективная, но это в теории
Давненько читал статьи про фотонные процессоры, мол это решает границу техпроцесса (вроде бы 4мм грань)
Про био компьютеры не припоминаю
Но однозначно ясно следующее: тебе явно нужны будут специалисты очень высокого уровня, и достаточно много времени
И неизвестно как все это будет работать, какая будет архитектура и тд
а я думал хоть в реверсе не нужны вложения, а они нужны и тут.
В реверс вкладывают только время. Остальное по желанию.
I use nanogpt.com, its not free but there is a huge list of different AIs you can switch, cost per prompt depends on the AI used.
The newest GPT4 200$ subscription model you can use there for 50cent per prompt..
The newest GPT4 200$ subscription model you can use there for 50cent per prompt..
Google пÑедÑÑавили Titan: аÑÑиÑекÑÑÑÑ Ð½ÐµÐ¹ÑоÑеÑей, коÑоÑÐ°Ñ Ð¼Ð¾Ð¶ÐµÑ ÑÑаÑÑ Ð½Ð¾Ð²Ð¾Ð¹ ÑеÑебÑÑной пÑлей LLM
ÐÑе ÑовÑеменнÑе LLM поÑÑÑÐ¾ÐµÐ½Ñ Ð½Ð° аÑÑиÑекÑÑÑе ÑÑанÑÑоÑмеÑа. GPT-4o Ð¾Ñ OpenAI, Gemini Ð¾Ñ Google, Claude Sonet Ð¾Ñ Anthropic, Grok Ð¾Ñ xAI... пеÑеÑиÑлÑÑÑ Ð¼Ð¾Ð¶Ð½Ð¾ долго. ТÑанÑÑоÑÐ¼ÐµÑ â дейÑÑвиÑелÑно оÑенÑ...
habr.com
4090 и как тут выше посоветовали локальные ии
Попробуй Yarn-Llama-2-13b-128k на huggingface
Ну что, есть ИИ для реверса? Типа кинул ему код из Ghidra или IDA Pro, и он помогает разобраться?
Неужели ещё не сделали такое?
Неужели ещё не сделали такое?
Если сам реверсить не умеешь. То ИИ будет бесполезен. Он нужен только чтобы работа быстрее шла. В целом на гитхабе появляются всякие "ИИ плагины" под гидру\иду\ниндзю которые помогают анализировать код. В том числе на уязвимости.
- Автор темы
- Добавить закладку
- #37
Для анализа небольшого объема кода (например одной функции, или какого то участка программы) можно использовать любую llm. Но вырванный из контекста программы код ИИ может неправильно понять и дать неправильные пояснения. Поэтому суть треда именно была в поиске умной модели с большим контекстом, от 1млн токенов - и таких пока нет (gemini-2.0-flash тупая + галлюцинирует). Перспективный кандидат скинули выше - Titan от google https://habr.com/ru/news/874170/
Если отбросить слабую (по сравнению с живым человеком) логику и интуицую, у llm одна из главных суперсил - бесконечная (по сравнению с человеком) начитанность и насмотретность (скормили почти весь интернет, все документации всех языков, фреймворков, библиотек). ИИ доступна вся память моментально, все факты которые попали в модель при обучении, и она их никогда не забудет. И с аспекта ИИ многие непонятные для человека данные - являются понятными. Так что тут не только ускорение работы, а буквально открываются новые возможности и уровень познания.
Например какой то случайный для человека набор инструкций или байтов, но для ИИ эти токены ведут к весам - информации из документаций, статей про программирование и реверс чего то похожего, и она видит всю картину целиком, и для нее очевидно - что вот эти рандомные инструкции, это такая то функция с 5188 страницы документации отсюда и делает то то, а эти данные это конечно же отсюда и означают то то - то то
Последнее редактирование:
если большая модель будет работать с ram , то это будет медленно и печально, да сама ollama без хорошей видеокарты может подтормаживать. LM Studio интересней.
Как заказывали. Автоматизация реверс-инжиниринга с помощью LLM.
IDA PRO MCP
Ghidra MCP
Для Binary Ninja думаю чуть позже выйдет.
IDA PRO MCP
GitHub - MxIris-Reverse-Engineering/ida-mcp-server: A Model Context Protocol server for IDA
A Model Context Protocol server for IDA. Contribute to MxIris-Reverse-Engineering/ida-mcp-server development by creating an account on GitHub.
github.com
GitHub - mrexodia/ida-pro-mcp: AI-powered reverse engineering assistant that bridges IDA Pro with language models through MCP.
AI-powered reverse engineering assistant that bridges IDA Pro with language models through MCP. - mrexodia/ida-pro-mcp
github.com
Ghidra MCP
GitHub - LaurieWired/GhidraMCP: MCP Server for Ghidra
MCP Server for Ghidra. Contribute to LaurieWired/GhidraMCP development by creating an account on GitHub.
github.com
Для Binary Ninja думаю чуть позже выйдет.
GitHub - mrphrazer/reverser_ai: Provides automated reverse engineering assistance through the use of local large language models (LLMs) on consumer hardware.
Provides automated reverse engineering assistance through the use of local large language models (LLMs) on consumer hardware. - mrphrazer/reverser_ai
github.com