Microsoft обнаружила новый метод манипулирования большими языковыми моделями (LLM), такими как ChatGPT, Gemini и другие. Метод, получивший название «Crescendo», заключается в отправке LLM серии безобидных на первый взгляд запросов.
В течение нескольких взаимодействий злоумышленник постепенно направляет разговор в сторону вредоносной цели. . ferra.ru
2024-4-18 20:15