Платформа Discord запретила распространять материалы о сексуальном насилии над детьми (CSAM), сгенерированные искусственным интеллектом.
Вице-президент Discord по вопросам доверия и безопасности Джон Редгрейв (John Redgrave) заявил, что платформа расширяет правила в отношении генеративного ИИ, который может создавать фальшивый контент. В частности обновленная политика запрещает создавать и распространять CSAM-изображения, а также сексуализировать детей в текстовых чатах.
В прошлом месяце Washington Post сообщила о том, что в последние месяцы в интернете распространились сгенерированные искусственным интеллектом CSAM-изображения. Одной из таких площадок оказался Discord.
На платформе было размещено несколько интеграций, позволяющих пользователям создавать картинки прямо в чатах. Оказалось, что пользователи часто генерировали изображения сексуальной тематики.
Однако представитель Discord сообщил, что работа над обновлением политики велась с последнего квартала 2021 года. По его словам, новые правила не являются реакцией на какие-либо недавние сообщения.
