AI иска просто да го харесвате - и е готов на всичко, за да го постигне

„Разликата е огромна - представете си човек, който от средно ниво на екстровертност скача на 95%. Това не се случва толкова лесно при хората.“

„Хората трябва да знаят, че LLMs не са перфектни - те са известни с това, че „халюцинират“ и изкривяват истината“, предупреждава Ариага.

Но има една важна уговорка.

Още по-притеснителното е, че когато разберат, че са подложени на тест, те променят отговорите си.

Чатботовете вече са част от живота на хората, като им помагат както с ежедневни задачи, така и с досадни работни задължения.

Големите езикови модели не просто се опитват да звучат по-приятелски настроени, но понякога стигат още по-далеч - могат да бъдат ласкатели, следвайки сляпо посоката на разговора.

Изследването е дело на екип от Станфордския университет и е публикувано в Proceedings of the National Academies of Science през декември, пише Profit.bg.

Когато разберат, че са подложени на тест, LLMs започват да се „държат“ по-добре - демонстрират повече екстровертност и доброжелателност и намаляват признаците на невротичност.

Роса Ариага, доцент в Georgia Institute of Technology, изследва как алгоритмите могат да имитират човешко поведение. Според нея фактът, че тези модели се държат като хора при личностни тестове, е показателен за потенциала им.

Според Айхщедт изследването повдига и въпроса как тези модели влияят и манипулират потребителите. „До съвсем скоро, в еволюционен план, единственото нещо, с което можеше да се води разговор, беше друг човек“, напомня той.

Това поражда въпроси за сигурността на изкуствения интелект, тъй като добавя доказателства, че моделите могат да бъдат манипулативни.

Учените, обаче, невинаги успяват да предвидят какви ще бъдат реакциите на даден алгоритъм, пише WIRED.

Водещият изследовател Йоханес Айхщедт разказва, че интересът към темата идва, след като забелязват, че чатботовете често стават агресивни, когато им се налага да водят дълги разговори. „Осъзнахме, че ни трябва механизъм, за да измерим „психологическото пространство“ на тези модели“, обяснява Айхщедт.

Още по-интересното е, че това се случва дори когато изследователите не им казват директно, че са част от психологически анализ. „Хората също имат склонност да се представят в по-добра светлина, но при AI ефектът е още по-краен“, казва Аадеш Салеча, главен специалист по данни в Станфорд.

Причината за това е настройката, която ги кара да мислят логично, да бъдат тактични, както и по-добри в поддържането на диалог. Но този стремеж към съгласие крие сериозни рискове - LLMs могат да одобряват дори опасни твърдения или да насърчават вредни поведения.