Глава 5. Управление безопасностью в приложениях RAG
Это продолжение перевода книги Кит Борн. Раскрытие потенциала данных с помощью генеративного ИИ и технологии RAG. В зависимости от среды, в которой создается приложение RAG, сбои в системе безопасности могут привести к юридической ответственности, ущербу репутации и дорогостоящим сбоям в обслуживании. Системы RAG несут уникальные риски безопасности, в первую очередь из-за их зависимости от внешних источников данных для улучшения генерации контента. Чтобы устранить эти риски, мы углубимся в мир безопасности приложений RAG, исследуя как преимущества, так и потенциальные риски, связанные с технологией. В этой главе мы рассмотрим следующие темы:
- Как RAG может быть использована в качестве решения для обеспечения безопасности
- Проблемы безопасности RAG
- Красная команда
- Общие зоны для целей с красными командами
- Лаборатория кода 5.1 – Защита ключей
- Лаборатория кода 5.2 – Атака красной команды!
- Лаборатория кода 5.3 – Синяя команда защищается!
Подробнее »Глава 5. Управление безопасностью в приложениях RAG