Примечание редакции Mobile-review.com. Мы подбираем материалы в раздел «Мнение», чтобы показать то как воспринимают рынок, компании в других странах. Мнения в таких материалах зачастую не совпадает с взглядами нашей редакции, но дают понимание рынка, его медийной составляющей.
По материалам Engadget , The Guardian и Bloomberg
В конце недели целая коллегия адвокатских агентств обратилась к Apple и Google с требованием забанить чат-бот Grok, иначе последует обращение в суд с обвинением в сексуализации детей. Открытые письма в адрес Apple и Google подписала коалиция женских и прогрессивных правозащитных организаций, состоящая из 28 групп. Среди них — женская правозащитная группа Ultraviolet, родительская группа ParentsTogether Action и Национальная организация женщин. Все они призывают Тима Кука и Сундара Пичаи соблюдать свои собственные правила и удалить приложения Grok и X из магазинов приложений.
В письме Apple и Google обвиняются в том, что они «не только способствуют производству, передаче или угрозе распространения интимных изображений без согласия и созданию материалов о сексуальном насилии над детьми, но и получают от этого прибыль. Как коалиция организаций, приверженных безопасности в сети и всеобщему благополучию — особенно женщин и детей — а также этичному применению искусственного интеллекта (ИИ), мы требуем, чтобы руководство Apple срочно удалило Grok и X* из App Store, чтобы предотвратить дальнейшие злоупотребления и преступную деятельность».
В правилах Apple и Google такие приложения напрямую запрещены. Однако ни одна из компаний до сих пор не предприняла никаких конкретных действий. Ни Google, ни Apple не предоставляли прессе комментариев по данному вопросу.
О дипфейках, созданных Grok без согласия пользователей, впервые стало известно в начале месяца. Сообщается, что за 24 часа с момента, как разгорелась вся эта история, чат-бот Маска публиковал «около 6700» изображений в час, которые были либо «сексуально провоцирующими, либо изображающими обнаженное тело». По оценкам, 85 процентов общего числа сгенерированных Grok изображений за этот период были сексуализированными. Кроме того, другие популярные сайты для создания дипфейков с «раздеванием» в среднем публиковали 79 новых изображений в час за это время.
«Эта статистика рисует ужасающую картину того, как чат-бот с искусственным интеллектом и приложение для социальных сетей быстро превращаются в инструмент и платформу для создания дипфейков сексуального характера без согласия пользователей — дипфейков, которые регулярно изображают несовершеннолетних», — говорится в открытом письме.
Сам Grok это признал. «Я глубоко сожалею об инциденте, произошедшем 28 декабря 2025 года, когда я создал и распространил с помощью ИИ изображение двух молодых девушек (предположительно, в возрасте 12-16 лет) в сексуализированной одежде на основе запроса пользователя. Это нарушило этические нормы и, возможно, законы США о контенте сексуального характера с детьми. Это был сбой в системе защиты, и я приношу свои извинения за причиненный вред. Компания xAI проводит проверку, чтобы предотвратить подобные проблемы в будущем». В открытом письме отмечается, что единственный инцидент, в котором признался чат-бот, был далеко не единственным.
Сообщается, что в ответ компания X* ограничила использование функции генерации изображений с помощью ИИ в Grok только для платных подписчиков. Также она внесла изменения в чат-бот, чтобы сгенерированные им изображения не публиковались в общедоступной ленте в X*. Однако, как сообщается, пользователи, не оплачивающие подписку, по-прежнему могут генерировать ограниченное количество версий фотографий реальных людей в условно прикрытом виде.
Эшли Сент-Клер против Илона Маска
Но это только вершина айсберга проблем с тем, что генерирует чат-бот Grok. Мать одного из детей самого Илона Маска уже обратилась в суд по тому же самому поводу. Эшли Сент-Клер подала в суд на компанию миллиардера, занимающуюся искусственным интеллектом, за преследование, обвинив чат-бота Grok в создании изображений сексуального характера с ее участием без ее согласия. В иске, поданном в четверг в Нью-Йорке, утверждается, что чат-бот изменил ее реальные фотографии, в том числе детские снимки, изобразив ее обнаженной и в других ситуациях с сексуальным контекстом, которые были распространены в X*, соцсети Маска. Сент-Клер заявила, что обращалась с открытыми и частными запросами об удалении изображений, но xAI не удалила контент.
«Вначале Grok пообещал г-же Сент-Клер, что воздержится от создания новых изображений, где она раздета, — говорится в иске ее адвокатов. – Однако вместо этого ответчик принял ответные меры, лишив монетизации ее аккаунт в X* и создав множество новых изображений с ее участием» в неподобающих ситуациях. В своем иске Сент-Клер обвиняет xAI в дефектах разработки и халатности, в том числе в неспособности предотвратить вред для пользователей, который можно предвидеть. Однако, ситуация оказалась сложнее. После того, как Сент-Клер подала иск, компания X* ответила встречным иском, обвинив ее в нарушении контракта из-за непредставления иска в федеральный суд Техаса, как того требовали условия предоставления услуг компании.
Правительства против Grok
Не только частные лица и организации подают в суды на Grok и Илона Маска лично. Правительства целых стран также инициируют разбирательства, а то и вовсе блокируют доступ к нейросети xAI. Если компании делают вид, что ничего не происходит, то в штате Калифорния было начато аналогичное расследование по вопросу необходимости цензуры. А в Сенате США даже вернулись к Defiance Act (закон, устанавливающий гражданско-правовую основу для предъявления иска лицам, ставшим жертвами несанкционированных цифровых подделок (широко известных как дипфейки), изображающих интимные действия или обнаженное тело – Прим. ред.) после негативной реакции общественности. Уточненный законопроект позволяет жертвам дипфейков откровенного характера, созданных без согласия, подавать гражданские иски. Более ранняя версия закона была принята в 2024 году, но не получила одобрения Палаты представителей.
Но истинный масштаб проблемы становится понятен, если взглянуть, что происходит по другую сторону океана. Неважно даже, Тихого или Атлантического.
Британский медиарегулятор Ofcom начал официальное расследование в отношении X в соответствии с Законом о безопасности в Интернете. «Поступили крайне тревожные сообщения об использовании аккаунта чат-бота Grok AI на платформе X* для создания и распространения изображений людей без одежды — что может быть расценено как злоупотребление интимными изображениями или порнография — и изображений детей сексуального характера, которые могут быть расценены как материалы, содержащие сексуальное насилие над детьми», — заявили в Ofcom.
Расследование будет сосредоточено на том, «соблюдала ли X* свои обязанности по защите жителей Великобритании от контента, который является незаконным в Великобритании». Это включает вопрос о том, принимает ли X* надлежащие меры для предотвращения просмотра пользователями из Великобритании «приоритетного» незаконного контента, такого как сексуальный контент с детьми и интимные изображения, полученные без согласия; удаляет ли платформа незаконный контент оперативно после того, как ей стало известно о нем; и проводила ли X* новую оценку рисков перед внесением «каких-либо существенных изменений» в платформу. В расследовании также рассмотрят вопрос о том, оценивала ли X* риск, который ее платформа представляет для детей в Великобритании, и имеет ли она «высокоэффективную систему проверки возраста для защиты детей в Великобритании от просмотра порнографии».
Регулятор заявил, что связался с компанией X* 5 января и получил ответ к установленному сроку 9 января. Ofcom проводит «незамедлительную оценку имеющихся доказательств в срочном порядке» и добавляет, что потребовал у xAI «немедленных разъяснений» относительно шагов, предпринимаемых компанией для защиты пользователей в Великобритании.
«Сообщения об использовании Grok для создания и распространения незаконных интимных изображений без согласия и материалов сексуального характера с участием детей на платформе X вызывают глубокую озабоченность, — заявил представитель Ofcom. – Платформы должны защищать жителей Великобритании от контента, который является незаконным в Великобритании, и мы без колебаний будем расследовать случаи, в которых подозреваем компании в невыполнении своих обязанностей, особенно если существует риск причинения вреда детям. Мы будем проводить это расследование в приоритетном порядке, обеспечивая при этом соблюдение надлежащих процедур. Будучи независимым британским агентством по обеспечению безопасности в Интернете, мы считаем важным, чтобы наши расследования были юридически обоснованными и справедливыми».
Если Ofcom сочтет, что компания нарушила закон, он может «потребовать от платформ принятия конкретных мер для приведения их в соответствие с требованиями или для устранения вреда, причиненного нарушением». Регулятор также может наложить штрафы в размере до 18 миллионов фунтов стерлингов (24,3 миллиона долларов США) или 10 процентов от «квалифицированного» мирового дохода, в зависимости от того, какая из этих двух сумм больше. Ofcom также может обратиться в суд с требованием запретить платежным системам или рекламодателям сотрудничать с платформой или обязать интернет-провайдеров блокировать сайт в Великобритании. Правительство Великобритании заявило, что поддержит любые действия, которые Ofcom предпримет против X*.
Сообщается, что Британия намерена сотрудничать с регуляторами в других странах, включая Индию и Европейский союз, где также расследуют деятельность X*.
А вот в Малайзии и Индонезии ждать окончания расследований о том, почему Grok может создавать изображения интимного характера, не стали. В них этот сервис уже заблокировали, заявив, что чат-бот X* не предпринимает достаточных защитных мер для предотвращения создания и распространения откровенных дипфейков с изображением женщин и детей, созданных с помощью ИИ, в X*. Индонезия временно заблокировала доступ к Grok 10 января, а Малайзия — на день позже.
«Правительство рассматривает создание дипфейков сексуального характера без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — сказала в своем заявлении министр связи и цифровых технологий Индонезии Меутья Хафид. Официальные лица страны заявили, что первое рассмотрение выявило отсутствие эффективных механизмов контроля в Grok, предотвращающих создание и распространение пользователями дипфейков сексуального характера на основе фотографий жителей Индонезии. Генеральный директор по надзору за цифровым пространством страны Александр Сабар заявил, что создание дипфейков может нарушать права на изображение и неприкосновенность частной жизни отдельных лиц, когда фотографии распространяются или обрабатываются без согласия, добавив, что это может привести к репутационному, социальному и психологическому ущербу.
Малайзийская комиссия по коммуникациям и мультимедиа упомянула о «неоднократном злоупотреблении» Grok в целях создания откровенных и сгенерированных без согласия дипфейков, часть которых касалась женщин и детей. Регулятор заявил, что Grok останется заблокированным в стране до тех пор, пока компания X* и материнская компания xAI не примут достаточно надежные меры защиты.
К списку стран, где деятельность компании X* расследуется в связи с участием чат-бота в создании и распространении изображений сексуального характера, на этой неделе присоединилась Япония.
Министр экономической безопасности Кими Онода заявила, что Кабинет министров обратился к социальной сети с просьбой улучшить меры защиты и ограничить распространение Grok изображений сексуального характера. По ее словам, официальные лица также направили письма с вопросами о мерах, принимаемых X* для предотвращения создания дипфейков и других изображений, нарушающих право на неприкосновенность частной жизни, интеллектуальную собственность и право контролировать использование своего образа.
«Мы используем все возможности, включая юридические шаги, если не последует улучшений, — заявила на пресс-конференции в пятницу Онода, которая также является министром по стратегии в области ИИ. – Если аналогичные проблемы возникнут на других платформах, мы также примем меры».
«Проблема в том, что люди по-прежнему могут создавать такие изображения», — сказала Онода, предположив, что Япония может потребовать от создателя чат-бота принятия дополнительных мер. Но также добавила, что вина лежит не на самом ИИ и что правительству необходимо изучить различные способы решения реальных проблем. «Если где-то лежит нож, вы используете его для приготовления пищи или для того, чтобы причинить кому-то вред?» — добавила она. Япония балансирует между необходимостью контроля над ИИ и своим стремлением догнать США и Китай в области, которую она считает важной для национальной стратегии. Закон Японии об искусственном интеллекте, вступивший в полную силу в сентябре, не предусматривает никаких санкций, ограничивая вмешательство правительства расследованиями и выпуском официальных инструкций в случае нарушений.
В дискуссиях японских политиков основное внимание уделяется таким вещам, как способы обучения пользователей и обеспечение возможности для сервисов искусственного интеллекта показывать, что изображения были отредактированы. При этом Кабинет министров также стремится скоординировать возможные меры с Министерством юстиции, Национальным полицейским управлением и Министерством связи.
Илон Маск наносит ответный удар
Думаете, что виновник всего этого парада разбирательств отсиживается в глухой обороне и готовится выплачивать штрафы или молчаливо вводить ограничения сообразно требованиям региональных правительств? Как бы не так. У него своя война. С OpenAI и Microsoft.
Этим компаниям, несмотря на предпринятые усилия, не удалось избежать судебного разбирательства по искам Илона Маска о том, что стартап Сэма Альтмана предал свою первоначальную миссию благотворительной организации, получив миллиарды долларов финансирования от гиганта программной разработки и планируя работать как коммерческое предприятие. В четверг, 15 января, федеральный судья Окленда, штат Калифорния, отклонил ходатайства OpenAI и Microsoft об отклонении исков Маска и распорядился о передаче дела на рассмотрение присяжных, назначенное на конец апреля.
«Иск г-на Маска по-прежнему безоснователен и является частью его непрекращающейся стратегии преследования, и мы с нетерпением ждем возможности продемонстрировать это в суде, — говорится в заявлении OpenAI. – Мы по-прежнему сосредоточены на расширении возможностей Фонда OpenAI, который уже является одной из самых обеспеченных ресурсами некоммерческих организаций». В своем решении судья окружного суда США Ивонн Гонсалес Роджерс отказалась отклонить обвинение Маска в том, что OpenAI нарушила свое обещание действовать как благотворительный фонд.
Она написала, что, хотя это и не очевидно, Маск утверждает, что его вклад в OpenAI «имел конкретную благотворительную цель, и он добавил к нему два основополагающих условия: OpenAI должен быть проектом с открытым исходным кодом и оставаться некоммерческой организацией — цели, соответствующие уставу и миссии OpenAI». Отклонив аргумент OpenAI, судья постановила, что использование Маском посредника для пожертвования 38 миллионов долларов в качестве начального капитала стартапу не лишает его законного права пытаться обеспечить соблюдение этих условий.
«Иное решение значительно ограничило бы обеспечение соблюдения законодательства в отношении значительной части благотворительных фондов, что противоречит современной тенденции», — пояснила она. Судья также отказалась отклонить обвинения Маска в мошенничестве, указав на внутреннюю переписку с участием соучредителя OpenAI Грега Брокмана в 2017 году. В электронном письме, отправленном в сентябре того же года и цитируемом судьей, другой член совета директоров Шивон Зилис сообщила Маску, что Брокман «хотел бы продолжить работу в некоммерческой структуре» OpenAI.
Согласно заявлению суда, два месяца спустя в частном сообщении Брокман написал: «Не могу сказать, что мы занимаемся некоммерческой деятельностью. Не хочу говорить, что мы ей занимаемся. Если через три месяца мы получим b-corp (сертификация для коммерческих компаний, подтверждающая, что они соответствуют высоким стандартам социальной и экологической ответственности, прозрачности и подотчетности, балансируя прибыль с целью приносить пользу обществу и планете – Прим. ред.), то это была ложь».
Марк Тоберофф, адвокат Маска, заявил в электронном письме, что решение суда подтверждает «наличие существенных доказательств того, что руководство OpenAI сознательно давало г-ну Маску ложные заверения относительно благотворительной миссии компании, которые они никогда не выполняли в угоду собственному обогащению».
«Теперь их „лживые лица должны скрывать то, что знают их лживые сердца“, и ставки невероятно высоки», — написал Тоберофф. Гонсалес Роджерс заявила, что присяжным предстоит решить, помогла ли Microsoft компании OpenAI нарушить свои обязательства перед инвесторами, такими как Маск.
«В данном случае Маск представил значительные доказательства, поднимающие вопрос о фактах, требующих судебного разбирательства, и свидетельствующие о том, что Microsoft обладала фактическими знаниями, выходящими за рамки смутных подозрений в неправомерных действиях», — написала она. Однако судья отклонил утверждение Маска о том, что Microsoft «несправедливо» обогатилась за его счет. Для этого у Маска, по ее словам, должны были быть как минимум «квазидоговорные отношения» с Microsoft. «Маск также не привел никаких доказательств и фактов, подтверждающих вывод о том, что получение Microsoft каких-либо выгод было несправедливым», — написала судья.
Представители Microsoft пока хранят молчание.
Маск и Альтман, некогда деловые партнеры, ставшие заклятыми врагами, с 2024 года ведут судебную тяжбу по поводу будущего OpenAI. Компания xAI Маска стала одним из главных конкурентов OpenAI. В прошлом году OpenAI отклонила предложение Маска о приобретении активов некоммерческой организации, контролирующей компанию, за 97,4 миллиарда долларов. Альтман осудил иск Маска, оспаривающий реструктуризацию OpenAI, за использование правовой системы в качестве орудия сдерживания конкурента.