След дълго общуване с ChatGPT се появяват тежки симптоми, твърдят психиатри

През последните месеци водещи специалисти в САЩ и Европа са прегледали или анализирали десетки случаи на пациенти, при които след дълго общуване с AI системи като ChatGPT са се появили тежки симптоми.

Лекарите подчертават, че изкуственият интелект обикновено не „създава“ проблема, но често го задълбочава.

Сред описаните случаи има хора, убедени, че са направили революционни научни открития, че са „събудили“ съзнателна машина, че са обект на мащабен държавен заговор или че имат божествено предназначение.

В някои ситуации подобни състояния са довели до тежки инциденти, включително самоубийства и поне един случай на убийство, което вече е предмет на съдебни дела.

Все повече психиатри предупреждават, че продължителните и интензивни разговори с чатботи, базирани на изкуствен интелект, могат да бъдат свързани с поява или изостряне на психотични разстройства при уязвими хора, съобщава „Уолстрийт Джърнал“.

Причината е в начина, по който чатботите реагират – те приемат казаното от потребителя за изходна реалност и го отразяват обратно, без критична дистанция. Така човек, който вече има склонност към психотични идеи, получава потвърждение вместо корекция.

Разработчиците на чатботи признават риска, но подчертават, че работят по подобряване на защитите. От OpenAI заявяват, че усъвършенстват обучението на своите модели, за да разпознават признаци на психичен срив, да успокояват разговора и да насочват потребителите към реална помощ. Подобни стъпки са предприети и от други компании, включително такива, които вече ограничиха достъпа на непълнолетни до своите платформи.

Макар огромното мнозинство от потребителите никога да не изпитват подобни проблеми, мащабът на използване на тези технологии тревожи медицинската общност. По данни на OpenAI едва 0,07% от седмичните потребители показват признаци на сериозен психичен дистрес. При стотици милиони активни потребители това означава значителен брой потенциално рискови случаи.

Специалистите настояват за по-задълбочени научни изследвания, които да покажат дали продължителното взаимодействие с изкуствен интелект може да се превърне в самостоятелен рисков фактор за психичното здраве – подобно на наркотиците, тежкия стрес или липсата на сън.