Чатботът „Грок“ ще блокира разголването на изображения там, където това е незаконно

„Имаме нулева толерантност към създаването и разпространението на интимни изображения без съгласие или на материали със сексуално насилие над деца, генерирани с изкуствен интелект“, подчерта Бонта.

Междувременно британският министър на технологиите Лиз Кендъл заяви днес, че няма да „си почине“, докато всички социални мрежи не спазят изцяло законовите си задължения, като приветства новите ограничения върху чатбота „Грок“.

Кендъл подчерта, че все още очаква британският медиен регулатор „Офком“ (Ofcom) да установи „пълно и категорично“ фактите по случая, след като „Екс“ обяви мерки за ограничаване на възможностите на „Грок“ да манипулира изображения.

От своя страна „Офком“ приветства обявените ограничения, но заяви, че започналото в понеделник разследване ще продължи, тъй като регулаторът търси „отговори на въпроса какво е пошло нередно и какво се прави, за да се поправи“, отбелязва БТА.

Платформата „Екс“ (X), собственост на Илон Мъск, съобщи, че нейният чатбот с изкуствен интелект „Грок“ (Grok) вече няма да може да редактира изображения на реални хора по начин, който ги показва в разголени или сексуализирани дрехи на места, където подобно съдържание е забранено от закона, предаде Асошейтед Прес.

Съобщението бе публикувано късно в сряда (местно време, б. ред.) на фона на засилена международна реакция срещу разпространението на сексуализирани изображения на жени и деца в „Екс“, включително забрани, разследвания и официални предупреждения от редица правителства.

Противодействието включва и разследване, обявено в сряда от щата Калифорния, относно разпространението на сексуални материали без съгласие, създадени с помощта на „Грок“. Според властите тези изображения са били използвани за онлайн тормоз.

Първоначално на медийните запитвания по темата е било отговаряно с твърдението, че става дума за „лъжи на традиционните медии“. По-късно компанията „ексЕйАй“ (xAI), която разработва чатбота, заяви, че ще блокира съдържание, когато то нарушава законите в съответната държава.

От „ексЕйАй“ допълват, че създаването и редактирането на изображения вече е ограничено само до платени абонати, „за да се гарантира, че лица, които се опитват да злоупотребят с „Грок“, за да нарушат закона или вътрешните политики, могат да бъдат подведени под отговорност“.

Т. нар. пикантен режим на „Грок“ по-рано позволяваше създаването на сексуализирано съдържание, което предизвика остра реакция от страна на регулаторни органи по света. Малайзия и Индонезия предприеха правни действия и блокираха достъпа до чатбота. Обединеното кралство и Европейският съюз започнаха разследвания за потенциални нарушения на законите за онлайн безопасност, а Франция и Индия издадоха предупреждения с искане за по-строг контрол. Бразилия също призова за разследване на злоупотребите с „Грок“.

Според изявление на властите в Калифорния функциите за редактиране на „Грок“ са „улеснили масовото производство на дълбоко фалшиви интимни изображения без съгласие, използвани за тормоз на жени и момичета в интернет, включително чрез социалната платформа „Екс“.

„Лавината от съобщения за несъгласувано сексуално експлицитно съдържание, произведено и разпространено онлайн от „ексЕйАй“ през последните седмици, е шокираща“, заяви главният прокурор на Калифорния Роб Бонта. По думите му този материал е бил използван за онлайн тормоз.

„Нашият Закон за онлайн безопасност е и винаги е бил насочен към осигуряване на безопасността на хората в социалните медии – особено на децата – и ни даде инструментите да потърсим отговорност от „Екс“ през последните дни“, заяви Кендъл, цитирана от Ройтерс.

Тя благодари и на хората, които са сигнализирали за злоупотребите, „преди всичко на жертвите“, и добави: „Няма да почивам, докато всички социални медийни платформи не изпълнят своите законови задължения и не предоставят услуга, която е безопасна и подходяща за възрастта на всички потребители“. Министърът не уточни кои платформи според нея към момента не спазват напълно изискванията на закона.