OpenAI и Алтман на съд заради ролята на ChatGPT в самоубийство на 16-годишен тийнейджър

Опитите за регулиране на индустрията могат да се окажат неочаквано трудно предизвикателство.

OpenAI подробно описа плановете си за справяне с недостатъците на ChatGPT при справянето с „деликатни ситуации“ след заведен съдебен иск от семейство, което обвини чатбота за смъртта на сина си тийнейджър, който се самоуби.

OpenAI ще се усъвършенства под вещото ръководство на топ-експерти и въз основа на принципа на отговорност към хората, обеща компанията. „Надяваме се, че и други ще се присъединят към нас, за да гарантираме, че тази технология защитава най-уязвимите хора“, написа OpenAI във вторник в публикация в блога, озаглавена „Помагаме на хората, когато имат най-голяма нужда от това“.

Компанията не спомена семейство Рейн или делото в публикацията си в блога си. Все пак фирмата уточни, че въпреки че ChatGPT е обучен да насочва хората да търсят помощ, когато изразяват суицидни намерения, чатботът е склонен да предлага отговори, които противоречат на предпазните мерки на компанията.

Сега разработчикът се е съсредоточил и върху актуализация на своя модел GPT-5, пусната по-рано този месец, която ще накара чатбота да “деескалира” разговорите. Като част от новата политика фирмата ще проучва как може чатботът да „свързва хората със сертифицирани терапевти, преди да се окажат в остра криза“. Нме се изключва вариант за изграждане на мрежа от лицензирани специалисти, до които потребителите биха могли да се свържат директно чрез ChatGPT.

До момента никой от OpenAI не се е свързал директно със семейството, за да изрази съболезнования или да обсъди каквито и да било усилия за подобряване на безопасността на продуктите на компанията, зяви от своя страна Джей Еделсън, водещ адвокат на семейство Рейн, пред CNBC.При използване на „най-мощната потребителска технология на планетата” хората трябва да имат гаранции, че могат да й имат доверие, добави защитникът.

С нарастването на популярността на AI услугите възникват редица опасения относно използването им за терапия, другарство и други емоционални нужди. Тези тревоги нарастват от няколко години, тъй като зачестиха случаите на „влюбвания“ в AI персони и други емоционални състояния, пораждащи зависимости, депресивни състояния и др.