Grok AI на Илон Мъск ще редактира снимки само за платени потребители след скандала с дийпфейк

Скандалът избухна, след като стана ясно, че чатботът изпълнява заявки на потребители за дигитално „събличане“ на хора от снимки без тяхното съгласие, което предизвика вълна от недоволство.

Сега, при опит за създаване на подобно съдържание, Grok информира потребителите, че само платените абонати могат да използват тази функция. Това означава, че имената и данните за плащане на тези потребители ще бъдат записани в системата на "Екс".

Потребителите, които не са абонати, все още могат да използват Grok за редактиране на изображения в отделното му приложение и уебсайта.

„Вместо да предприеме отговорни стъпки, за да гарантира, че Grok не може да бъде използван за злонамерени цели, той отне достъпа на огромното мнозинство от потребителите“, добави тя.

Той заяви, че регулаторът има „пълната подкрепа“ на правителството да предприеме действия. „Това е незаконно. Няма да го толерираме. Поисках всички варианти да бъдат на масата“, каза той.

Правителствени източници съобщиха: „Очакваме регулаторът да използва всички правомощия, с които разполага, по отношение на Grok и "Екс".“

Grok е безплатен инструмент, който потребителите могат да маркират директно в публикации или в отговори под чужди постове, за да поискат конкретна реакция.

Тази функция обаче позволи на хората да искат и редактиране на изображения, включително дигитално „събличане“ на хора.

Grok е изпълнил множество заявки за редактиране на снимки на жени, за да ги покаже по бикини или оскъдно облекло – нещо, което жертвите на тези действия определиха като „унизително“ и „дехуманизиращо“.

От петък сутринта обаче Grok информира потребителите, които искат да променят изображения в "Екс", че „генерирането и редактирането на изображения в момента са ограничени до платени абонати“.

В съобщението се добавя, че потребителите „могат да се абонират, за да отключат тези функции“.

Според проф. МакГлин този ход напомня на подхода на "Екс" към порнографските дийпфейк изображения на Тейлър Суифт миналата година, когато платформата блокира търсенията на сексуално съдържание, генерирано с видео функция на Grok AI.

Платформата "Екс" на Илон Мъск ограничи редактирането на изображения със своя инструмент с изкуствен интелект Grok само за платени потребители. Мярката идва след остра обществена реакция, предизвикана от възможността инструментът да се използва за създаване на сексуално съдържание тип „дийпфейк“, предаде Би Би Си.

„Мъск си изпусна нервите в знак на протест, че му се търси отговорност за цунамито от злоупотреби“, коментира професор Клеър МакГлин, експерт по правната регулация на порнографията, сексуалното насилие и онлайн тормоза.

Решението идва, след като британското правителство призова британския комуникационен регулатор да използва всичките си правомощия – включително и ефективна забрана – срещу "Екс" заради опасения относно незаконни изображения, създадени с изкуствен интелект в сайта.

По повод притесненията, че Grok е генерирал сексуално съдържание с възрастни и деца, министър-председателят на Великобритания Киър Стармър определи случващото се като „позорно“ и „отвратително“.

Правомощията на регулатора съгласно Закона за онлайн сигурност включват възможността да поиска съдебна заповед, която да попречи на трети страни да помагат на платформата на Илон Мъск да набира средства или да бъде достъпна в Обединеното кралство.

„Мъск прави това, за да разпали спорове за свободата на словото“, добави МакГлин. „Ще твърди, че регулациите задушават използването на тази технология от хората. Но всичко, което регулацията изисква, е той да вземе необходимите предпазни мерки за намаляване на вредите.“