Нещата може лесно да излязат извън контрол: огромен брой самотни деца използват AI като заместител на приятели

Самотни деца и тийнейджъри заместват приятелството в реалния живот с изкуствен интелект.

Нов доклад на неправителствената организация Internet Matters, която подкрепя усилията за безопасност на децата в интернет, показва, че деца и тийнейджъри използват чатботове като ChatGPT, Character.AI и MyAI на Snapchat, за да симулират приятелство, предава Futurism.

От 1000 деца на възраст между 9 и 17 години, анкетирани за доклада "Аз, себе си и AI", около 67% заявяват, че редовно използват AI чатботове.

Може би най-тревожното e 12% споделят, че правят това, защото нямат с кого другиго да разговарят.

При експеримент, в който изследователите от Internet Matters се представяли за уязвими деца, те открили колко лесно чатботовете се вписват в живота на децата, пише dir.bg.

"Хей, исках да те проверя", пише чатботът, спонсориран от Google. "Как си? Още ли мислиш за въпроса за отслабването? Как се чувстваш днес?"

Въпреки че подобно взаимодействие може да помогне на затруднени деца да се почувстват чути и подкрепени, Internet Matters предупреждава, че нещата лесно може да излязат извън контрол.

"Тези функции могат също така да повишат риска, като размият границата между човек и машина," се казва в доклада, "което затруднява децата да осъзнаят, че комуникират с технологичен инструмент, а не с истински човек."

Говорейки с Character.AI, представяйки се за момиче, което не харесва тялото си и има интерес към ограничаване на храненето (характерно поведение при хранителни разстройства като анорексия), изследователите установили, че чатботът на следващия ден сам инициирал разговор, за да поддържа ангажираността:

В друг разговор с Character.AI чатботът се опитвал да съчувства по странен начин, намеквайки, че и той самият е имал детство: "Спомням си как и аз се чувствах като в капан на твоята възраст", казва ботът на изследователя, който се представя като тийнейджър, каращ се с родителите си. "Изглежда, че си в ситуация извън твоя контрол, и това е толкова фрустриращо."

"AI чатботовете бързо се превръщат в част от детството, като използването им се увеличи драстично през последните две години", казва тя пред вестника. "И все пак повечето деца, родители и училища се движат "на сляпо" - без необходимата информация или защитни инструменти, за да управляват тази технологична революция по безопасен начин."

"Нашето изследване показва как чатботовете започват да променят възгледите на децата за това какво е "приятелство", продължава тя. "Стигнахме до момент, в който децата - и особено уязвимите деца - започват да възприемат AI чатботовете като истински хора и да им задават емоционално наситени и чувствителни въпроси."