Видео [PHDays Fest 2] Атаки на чат-ботов: indirect prompt injection в реальном приложении

[weaver]

Современные чат-боты, такие как ChatGPT, Microsoft Copilot, Google Gemini, — это сложные приложения с нетривиальным внутренним устройством, где взаимодействие компонентов координируется большой языковой моделью (LLM). Эта сложность в сочетании с вероятностным характером LLM приводит к потенциальным уязвимостям.

В ходе доклада будет изучено устройство такого чат-бота и продемонстрирована его уязвимость к двум атакам, которые могут приводить к отказу в обслуживании из-за неверной обработки сторонних данных.

Видео

Positive Hack Days

Международный фестиваль по кибербезопасности для всех, кто хочет погрузиться в мир кибербеза и круто провести время

phdays.com