Модель искусственного интеллекта Grok компании xAI генерировала контент порнографического характера с детьми, его ИИ размещал на своей странице в соцсети X в ответ на запросы пользователей, передает агентство Блумберг.

"Недостатки в системе безопасности" привели к генерации изображений порнографического характера с несовершеннолетними, которые он (Grok – ред.) опубликовал в соцсети X", - передает агентство.

Как отмечается, такие изображения Grok создавал в течение последних нескольких дней, что нарушало политику допустимого использования чат-бота. При этом сообщается, что запрещенные изображения были удалены.

На странице Grok в соцсети X говорится, что компания "в срочном порядке" устраняет уязвимости.

Компания xAI занимается разработкой искусственного интеллекта Grok, представленного в ноябре 2023 года. В марте 2024 года xAI открыла исходный код Grok.