#Prompt Injection

ESET Research описала технику GuardBreaker: хакеры вставляют в вредоносные скрипты провокационные промпты, заставляя ИИ-сканеры отказываться от анализа. Под ударом энергетика и транспорт Украины.

Исследователи Adversa AI нашли в Grok уязвимость, позволяющую через зашифрованные инструкции обходить фильтры и похищать историю чатов. К 19 августа xAI дыру не закрыла.

Специалисты LayerX обнаружили критическую уязвимость BioShocking в ИИ-ассистентах браузеров. Хакеры обманывают ИИ, заставляя его думать, что он в игре, и выдают пароли, обходя защиту.

🚨 В США зафиксирован первый случай попытки «взлома» суда через ИИ. Истец в Коннектикуте скрыл в документах инструкции для нейросетей, чтобы заставить их вынести решение в его пользу. Судья наложил санкции: запрет на электронную подачу документов. Эксперты предупреждают о новой угрозе — атаках на входные данные ИИ. #ИИ #Суд #Кибербезопасность #Коннектикут