На прага сме на свят, в който вашият дигитален асистент ще предвижда следващия ви ход

„Трябва да обмислим по-широките последици от този пазар върху човешките стремежи и свободи, преди да е станало твърде късно.“

“Инструменти с изкуствен интелект вече се разработват, за да извличат, разбират и манипулират човешките намерения” предупреждава д-р Якуб Чоудхари, гост-учен в LCFI.

Възход на убедителните AI агенти

Как изкуственият интелект (ИИ) може да предвиди вашите решения?

На прага сме на свят, в който вашият дигитален асистент ще предвижда следващия ви ход. Това не е сюжет на научно-фантастичен филм, а предстояща реалност в Икономиката на намеренията.

Нерегулирана територия: риск от експлоатиране на човешките намерения

Осигуряване на етично развитие на ИИ

Път напред или крачка назад?

Ранни белези за зората на Икономиката на намеренията

Д-р Джони Пен от Leverhulme Център за бъдещето на интелекта LCFI в Кеймбридж обяснява, че човешките намерения могат да се превърнат в новата златна мина на Интернет, потенциално променяйки цели индустрии от реклама до политика.

Докато икономиката на намеренията разкрива пред бизнеса и политиците огромен потенциал, нейното въздействие върху обществото не трябва да остане пренебрегвано. Д-р Пен подчертава нуждата от мащабно обществено обсъждане:

Изследователите откриват ранни индикатори за плодовете на тази тенденция, като рамката на Apple „App Intents“ и усилията на OpenAI да събира данни, които улавят човешки намерения.

Комерсиализацията на човешките намерения предпоставя поемането на значителни рискове. При липса на регулация, компаниите могат да експлоатират тази технология за влияние върху избори, манипулиране на пазари и подкопаване на свободната преса. Изследователите твърдят, че обществената осведоменост и проактивното разработване на политики са от съществено значение за смекчаване на тези опасности.

Междувременно изпълнителният директор на Nvidia подчерта потенциала на LLM да разкрива човешките желания, а Meta представи набор от данни за разбиране на намерения, наречен Intentonomy. Това развитие сигнализира амбицията на технологичната индустрия да бъде пионер в тази доходоносна, но твърде спорна област.

С развитието на ИИ балансът между иновациите и етиката ще оформи траекторията на Икономиката на намеренията. Политици, технологични лидери и обществото като цяло трябва да си сътрудничат, за да гарантират, че този нов пазар служи на човечеството, а не го експлоатира. Осведомеността е първата стъпка към изграждане на бъдеще, задвижвано от ИИ, който дава сила на хората, вместо да ги манипулира.

Системите с изкуствен интелект, захранвани от големи езикови модели (LLMs), се разработват, за да анализират модели на вашето поведение, нюанси в разговорите и емоционалните ви стимули. Тези системи могат да предсказват бъдещите ви действия въз основа на огромен набор от данни за вашите онлайн навици и диалози.

Според изследователи от Университета в Кеймбридж, този нововъзникващ пазар цели да монетизира вашите неизказани желания и буквално да ги продаде на най-висока цена.

Технологични гиганти усилено изследват този нов фронт. През 2023 г. OpenAI обяви открито, че търси да закупи набор от данни, които да разкриват човешки намерения във всичките им аспекти – от разговори и емоции до поведенчески модели.

Човекоподобните AI агенти като чатботове, виртуални преподаватели и дигитални секретарки са проектирани да изграждат доверие чрез персонализирано взаимодействие. Чрез имитиране на човешки черти и предвиждане на отговори, тези инструменти могат да насочват разговорите към конкретни резултати. Например, чатбот може да предложи закупуване на билет за кино, след като открие стрес в тона ви по време на разговор, пише techbulgaria.com.