AI карикатурите с ChatGPT могат да доведат до измами и кражба на самоличност

Новата тенденция в социалните мрежи, при която потребители качват своя снимка и молят OpenAI да създаде карикатура чрез ChatGPT, крие сериозни рискове за сигурността, предупреждават киберексперти, пише "Евронюз".

Трендът включва споделяне на селфи и информация за професията или работодателя, след което чатботът генерира изображение въз основа на наличните данни. Според специалисти подобни предизвикателства предоставят на измамници ценна информация, която може да бъде използвана за кражба на самоличност, създаване на фалшиви профили или дори deepfake измами.

Когато изображение бъде качено, системата може да извлече данни като емоции, среда и дори потенциални локационни детайли. По думите на експерти, тези данни могат да бъдат съхранявани за неопределен период и използвани за обучение на модели за генериране на изображения. При евентуален пробив в сигурността подобна информация може да попадне в ръцете на злонамерени лица.

Шарлот Уилсън от израелската компания Check Point предупреждава, че висококачествена снимка може да бъде използвана за създаване на убедителни фалшиви профили или персонализирани измами. Селфитата позволяват на престъпниците да преминат от масови към персонализирани и по-убедителни схеми.

От OpenAI посочват в настройките си за поверителност, че каченото съдържание може да се използва за подобряване на модела, но това не означава, че всяка снимка попада в публична база данни. Системата използва модели и закономерности от данните, за да усъвършенства генерирането на изображения.

Потребителите могат също да прегледат настройките си за поверителност и да се откажат от използването на техните данни за обучение на модела чрез специалния портал на OpenAI. Съгласно законодателството на ЕС те имат право да поискат изтриване на личните си данни, макар че компанията може да запази част от информацията по съображения за сигурност и предотвратяване на злоупотреби.