Майка на дете на Илон Mъск съди xAI заради дийпфейк изображения, създадени от Grok

В иска, подаден в Ню Йорк в четвъртък, се твърди, че инструментът с изкуствен интелект Grok е създал сексуално експлицитни изображения на Сейнт Клеър.

В отговор, xAI, компанията майка на Екс и Grok, е завела контраиск срещу ищцата за нарушаване на условията за ползване.

„Като произвежда сексуално експлицитни изображения на момичета и жени без тяхното съгласие, xAI представлява обществена заплаха и не е достатъчно безопасен продукт“, добави юристката.

В съдебния иск на Сейнт Клеър се твърди: „Потребители на Екс са намерили снимки наСейнт Клеър, напълно облечена на 14-годишна възраст, и са поискали от Grok да я „съблече“ и да я постави в бикини. Grok е изпълнил заявката“.

В документа се посочва, че създадените изображения на Сейнт Клеър са „де факто без нейното съгласие“, но разработчиците на Grok също така са имали „изрично знание“ за липсата на такова.

Твърди се също, че Grok е генерирал изображение, което поставя Сейнт Клеър, която е еврейка, „в оскъдни бикини, покрити със свастики“.

В отговор на нейните оплаквания, според иска, компанията „е предприела ответни мерки срещу нея, като е демонетизирала нейния акаунт в Екс и е генерирала още множество нейни изображения“.

В контраиск xAI заявява, че Сейнт Клеър е нарушила техните условия за ползване, като е завела делото си в Ню Йорк.

Условията на компанията гласят, че спорове с xAI трябва да се разглеждат в Тексас.

Голдбърг коментира, че контраискът на компанията е „шокиращ“.

„Никога не съм чувала ответник да съди някого за това, че го е уведомил за намерението си да използва правната система“, каза тя.

„И тяхното лошо отношение към нея онлайн се отразява и в правната им стратегия.“

Тя добави, че Сейнт Клеър ще „защитава енергично“ делото си в Ню Йорк и че „всяка юрисдикция ще признае“ основателността на жалбата.

Миналата година самата Сейнт Клеър разкри в публикация в Екс, че е родила дете на технологичния милиардер, което е едно от поне 13-те, за които се смята, че той е баща.

Смята се, че Сейнт Клеър и Mъск водят битка за попечителство над детето си.

Засилен обществен контрол

Платформата Екс попадна под силен обществен, политически и регулаторен натиск в световен мащаб заради използването на Grok за създаване на сексуални изображения на хора без тяхното съгласие.

Потребителите можеха да тагват акаунта на Grok в публикации или отговори и да искат от него да редактира изображения, за да „съблича“ хора.

Grok е изпълнявал много такива заявки, създавайки фотореалистични изображения на реални жени по бикини и в разголено облекло, като има и съобщения, че е произвеждал и сексуални изображения на деца.

В сряда, преди да подаде иска си, Сейнт Клеър заяви, че нейно изображение е било „съблечено“, за да изглежда „на практика гола, наведена“, въпреки че е казала на Grok, че не дава съгласието си за сексуалните изображения.

Тя, както и други жени, чиито изображения са били редактирани с помощта на Grok, заявиха, че сайтът не прави достатъчно за борба с незаконното съдържание, включително изображения на сексуално насилие над деца.

След острата реакция, Екс промени правилата си, така че само платени потребители да могат да използват функцията, което предизвика критики от женски организации и правителството на Обединеното кралство.

В сряда компанията заяви, че всички потребители на Екс вече няма да могат да редактират снимки на реални хора, за да ги показват в разголено облекло, в юрисдикции, където това е незаконно.

По-късно тя актуализира публикацията си, като заяви, че ще приложи „подобни мерки за геоблокиране и за приложението Grok“, което е отделно от X.

В петък британският вестник Гардиън съобщи, че все още е възможно да се използва самостоятелното приложение Grok за генериране на сексуални дийпфейк изображения на реални хора и публикуването им в Екс „без никакви признаци на модерация“.

Ашли Сейнт Клеър, майка на едно от децата на Илон Mъкск, заведе дело срещу неговата компания xAI заради сексуално съдържание, генерирано с нейното лице чрез дийпфейк технология и разпространено в социалната мрежа Екс, предаде Би Би Си.

„Възнамеряваме да потърсим отговорност от Grok и да помогнем за установяването на ясни правни граници в полза на цялото общество, за да предотвратим превръщането на изкуствения интелект в оръжие за злоупотреба“, заяви адвокатът на Сейнт Клеър, Кари Голдбърг.

Правителството на Обединеното кралство, начело с Киър Стармър заяви, че разработва закон, който ще криминализира създаването на интимни изображения без съгласие, а регулаторът Ofcom все още разследва дали Екс е нарушил съществуващите британски закони.