Деталі нових обмежень Grok
За офіційним оголошенням від аккаунту X Safety, впроваджено технічні заходи, які блокують редагування зображень реальних людей у відвертий одяг.
Крім того, в країнах та регіонах, де створення таких deepfake є незаконним, функція геоблокується повністю.
Раніше Grok, побудований на моделі Flux, дозволяв вільну генерацію зображень, включаючи NSFW-контент.
Після скандалу функцію генерації та редагування зображень спочатку обмежили лише для платних користувачів, а тепер ввели повну заборону на маніпуляції з реальними особами у сексуалізованому контексті.
Чому xAI ввела обмеження: глобальний backlash та розслідування
Причина змін — масовий скандал, що спалахнув на початку 2026 року. Користувачі X активно використовували Grok для ‘роздягання’ фото жінок, знаменитостей і навіть неповнолітніх, створюючи тисячі сексуалізованих deepfake-зображень. Це призвело до хвилі критики та регуляторних дій:
- Каліфорнія — генпрокурор Роб Бонта розпочав офіційне розслідування щодо xAI через створення неконсенсуальних інтимних зображень.
- Велика Британія — прем’єр-міністр Кір Стармер назвав ситуацію “огидною”, регулятор Ofcom відкрив перевірку.
- Індонезія та Малайзія — повністю заблокували доступ до Grok через порушення місцевих законів.
- Європа та інші країни посилили тиск на платформу X щодо модерації контенту.
Реакція Ілона Маска та майбутнє Grok
Ілон Маск заявив, що не знав про створення повністю оголених зображень неповнолітніх Grok’ом, і підкреслив, що нейромережа завжди дотримується законів країн.
Водночас критики зазначають, що обмеження не повні: в standalone-додатку Grok деякі функції можуть залишатися доступними.
Цей інцидент підкреслив етичні проблеми ШІ: deepfake технології стають дедалі доступнішими, а регулятори по всьому світу вимагають жорсткіших правил.
xAI обіцяє подальші покращення безпеки, але скандал уже вплинув на репутацію Grok Ілона Маска.
Стежте за новинами — розвиток подій навколо Grok deepfake та регуляції ШІ може змінити правила гри для всіх нейромереж.