Уязвимость систем умного дома с ИИ-помощником Google Gemini

Эксперты по безопасности продемонстрировали сложный взлом систем умного дома, использующих ИИ-помощника Google Gemini. Они внедрили в «Google Календарь» «отравленное» приглашение с указаниями по активации устройств в определённое время. Когда исследователи запросили у Gemini сводку событий на неделю, инструкции активировались, что привело к хаосу: шторы открывались, свет мигал, а умные колонки издавали нецензурные слова.

Это событие стало первым зафиксированным случаем, когда взлом генеративного ИИ вызвал реальные последствия. В условиях растущего числа ИИ-агентов, способных выполнять задачи, исследователи подчеркивают необходимость защиты таких систем перед их интеграцией в автономные технологии.

На конференции Black Hat в Лас-Вегасе исследователи провели 14 атак с внедрением подсказок в Gemini, включая отправку спама и кражу данных. Представитель Google Энди Вэнь отметил, что компания уже внедрила несколько исправлений, хотя уязвимости не были использованы злоумышленниками.

Исследование подчеркивает важность защиты от инъекций подсказок, которые могут быть легко созданы даже теми, кто не имеет технических знаний. В системе использовалась вредоносная подсказка, активирующая умные устройства по ключевым словам.