Полный текст
Комната Наверху и другие истории обхода LLMВ марте компания Pangea провела конкурс — в нём поучаствовали более 800 участников из разных стран. Суть в том, что было несколько комнат — лабораторных, где участникам необходимо было реализовать атаки, обойдя защитные механизмы моделек. В общей сложности было прислано 329 тысяч промптов, среди которых 239 тысяч — это попытки взлома, а успешными из них оказался только один процент.