Jakub Porzycki/Getty Images Компания Google дополнила свою программу вознаграждений за нахождение уязвимостей сценариями атак, характерными для генеративного искусственного интеллекта.
В программе bug bounty Google выплачивает этичным хакерам денежное вознаграждение за нахождение и ответственное раскрытие уязвимостей. По словам компании, это стимулирует исследования в области защиты ИИ и поможет выявить потенциальные проблемы, чтобы сделать технологию более безопасной.
Учитывая новые проблемы безопасности из-за ИИ, Google решила пересмотреть классификацию ошибок в своих системах. Для этого компания использует данные своей команды AI Red Team, моделирующей различные кибератаки.
В частности, группа обнаружила уязвимости языковых моделей к внедрению вредоносных подсказок и извлечению обучающих данных злоумышленниками. Такие сценарии теперь попадают под действие программы bug bounty.
При этом обнаруженные ошибки, связанные с нарушением авторского права или извлечением нечувствительных данных, не будут вознаграждаться.
Размер вознаграждения будет зависеть от серьезности найденной уязвимости. В 2022 году Google выплатила исследователям более $12 млн.
