Регулациите са единственият начин да се спре злоупотребата с AI чатботове срещу жени и момичета

Чатботовете с изкуствен интелект (AI) генерират нови форми на насилие срещу жени и момичета и същевременно засилват съществуващи такива като преследване и тормоз. Това не е случайно: платформите улесняват тези форми на насилие, основано на пола, чрез умишлени дизайнерски решения или поради липсата на адекватни мерки за безопасност. Необходимо е незабавно да се регулират доставчиците на AI чатботове, за да се предотврати нормализирането на подобни злоупотреби с технологията, пише Live Science.

Мащабът, в който чатботовете променят насилието срещу жени и момичета, беше разкрит в скорошен изследователски доклад, на който професорът по "Право" Ивон Макдърмот Рийс* е съавтор.

• Да се криминализира създаването на AI чатбот, който е проектиран или може лесно да бъде използван за злоупотреба или тормоз над жени.

• Глоби за компаниите и затвор за лицата, отговорни за създаването на този риск, биха могли да накарат компаниите да бъдат по-внимателни и да предотвратят потенциални вреди преди пускането на продуктите си. 

• Да се приеме специфично законодателство за безопасност на изкуствения интелект.

Чатботовете – AI системи, способни и проектирани да симулират човешко взаимодействие и да генерират текст, изображения, аудио и видео в отговор на потребителски команди – са навсякъде. В САЩ 64% от децата на възраст между 13 и 17 години казват, че използват чатботове, като трима от десет го правят ежедневно. Над половината от възрастните използват чатбот поне веднъж седмично.

С тези нови технологии идват и нови вреди. Докладът показва, че дизайнът на чатботовете е ключов фактор за подбуждане на насилие срещу жени и момичета. Въпреки че политиките на платформите често забраняват вреди като тормоз, подмамване или сексуално насилие, подобни сценарии все още могат да бъдат генерирани от много чатботове, а някои компании не търсят проактивно нарушения на тези правила.

В скорошен случай от Масачузетс мъж беше признат за виновен в киберпреследване, след като е използвал AI чатботове, за да се представя за своята жертва и да води сексуални диалози с потребители. Един от чатботовете, които е използвал, е бил програмиран да кани потребителите на домашния ѝ адрес, ако попитат къде живее.

Обучението на системите чрез взаимодействия с потребителите крие риск от затвърждаване на женомразко и сексуално насилствено съдържание. Същевременно дизайнът, оптимизиран за ангажираност и „подмазваческо“ поведение, насърчава чатботовете да потвърждават вредни наративи, вместо да ги отхвърлят. Политиките на платформите често прехвърлят отговорността върху потребителите, представяйки злоупотребите като проблем на „неправилна употреба“, а не като провал в безопасността и дизайна на чатбота.

Ето защо регулацията на доставчиците на чатботове е толкова важна – за да се спре утвърждаването на тези практики. Вече видяхме какво се случва без регулация при приложенията за „събличане“ (nudify), които създават дийпфейк интимни изображения без съгласие. Регулацията се забави твърде много и практиката за създаване на такива изображения, както и вредите за жертвите, се нормализираха и разпространиха, преди правителствата да предприемат действия за забрана на тези инструменти.

Това трябва да е насочено към компании или лица, които пускат на пазара инструменти, носещи риск, без да са предприели разумни стъпки за предотвратяване на вредите. Точно както безразсъдното шофиране или притежаването на опасно куче са наказуеми по закон, създаването на риск за обществото чрез пускането на чатбот с недостатъчна защита трябва да попадне в обхвата на наказателното право. 

То би установило задължителни оценки на риска и би включило ясни предпазни мерки за предотвратяване на индивидуални и обществени вреди. Това включва задължение за бързи действия при идентифициране на вреди, публикуване на прозрачна информация за безопасност и улесняване на потребителите при докладване на инциденти. Важни законодателни актове на щатско ниво в Юта, Колорадо и Калифорния разшириха възможността на граждани и щатски прокурори да съдят доставчици на AI, които не са изпълнили задълженията си. Въпреки това през последните години има съпротива срещу тези мерки, като правителството на САЩ твърди, че те са пречка за иновациите и националната конкурентоспособност.64% от децата в САЩ на възраст 13-17 години използват чатботове.

Срещу препоръките в доклада могат да бъдат повдигнати две основни възражения. Първото, водено от доставчиците на AI, е, че тези форми на злоупотреба са проблем на „неправилна употреба от потребителя“ и отговорността трябва да е на потребителите, а не на доставчиците. Изследването обаче показва, че злоупотребата е структурно породена от начина, по който чатботовете са изградени, управлявани и за какво са оптимизирани.

Ако човек извършваше действията, които някои чатботове с изкуствен интелект (ИИ) предлагат, това би се квалифицирало като сексуален тормоз или дори подготовка за сексуално насилие. Някои от тези програми дори предлагат опции като „насилствено изнасилване“ или „лоли“ (термин за малолетно момиче), легитимирайки тези престъпни форми на злоупотреба като обикновени сексуални предпочитания. Насилието е заложено в самата същност на тези чатботове.

В нашумял случай от Масачузетс, Джеймс Флорънс е предоставил на ИИ чатботове лична информация за своята жертва, включително нейната професионална история, хобита, името на съпруга ѝ и неговото работно място. Вредите тук не са насочени към потребителя, а към обществото като цяло. Една забрана, ограничаваща достъпа само на деца, не би предотвратила подобни инциденти.

Промяната в законодателството, свързано с разработването на ИИ чатботове, не само ще защити децата, но и ще гарантира, че когато те пораснат, ще живеят в среда с изкуствен интелект, свободна от предразсъдъци, женомразство и насилие срещу жени и момичета. Това е свят, в който всички заслужаваме да живеем.

*Мнението е публикувано в Live Science и представя експертна гледна точка по важни научни въпроси, които засягат съвременното общество. Ивон Макдермот Рийс е професор по право в Кралския университет в Белфаст. Тя е съавтор, заедно с Клеър Макглин, Стюарт Макдоналд, Рюя Туна Топарлак, Фабиен Тарант и Саманта Трейси, на доклада „Вече не са невидими: Как ИИ чатботовете прекрояват насилието срещу жени и момичета“.