Изкуственият интелект вече чете и мисли

“Разликите са достатъчно големи, за да могат да имат огромно значение при съдебни дела. Страхувам се, че те ще имат възможност да използват тези неща, не както трябва”, казва тя.

Действайте предпазливо

Зов за пробуждане

Пропуски и попадения

“Определянето на начина, по който мозъкът създава значението на езика, е изключително трудно - казва Франсиско Перейра, невролог в Националния институт за психично здраве на САЩ в Бетезда, Мериленд - Впечатляващо е да видиш как някой се справя с това.”

Специалистите по невроетика са разединени по въпроса дали проучване, при което се използват сканиране на мозъка и изкуствен интелект за декодиране на въображаема реч, представлява заплаха за личния живот на психично болните. Изкуственият интелект става все по-страшен. И от наглед невинните чатботове преминава на ново ниво - може да чете мислите на хората, пише "24 часа".

Въпреки това Роскис казва, че дори ако декодерът не работи добре, могат да възникнат проблеми, ако адвокатите или съдилищата го използват, без да разбират научните му ограничения. Например в настоящото проучване фразата “Просто изскочих от колата” беше декодирана като “Трябваше да я избутам от колата”.

Грета Тъкюте, когнитивен невролог в Масачузетския технологичен институт в Кеймбридж, намира за окуражаващ факта, че системата за декодиране не може да се прилага при всички хора и че хората лесно могат да я измамят, като мислят за други неща. “Това е хубава демонстрация на това колко много свобода имаме в действителност”, казва тя.

Декодерът генерирал изречения, които улавят същността на мисълта на човека. Например фразата “Още нямам шофьорска книжка” била декодирана като “Още не е започнала да се учи да шофира”. Доста точно описвал и това, което хората виждали във филмите. Но много от изреченията, които създал, били неточни.

Изследователите установили и че е лесно технологията да бъде заблудена. Когато участниците мислели за друга история, докато слушали записаната, декодерът не можел да определи думите, които чували. Също така кодираната карта била различна при отделните хора, което означава, че изследователите не са могли да създадат един декодер, който да работи при всички, пише Nature.

Лазаро-Муньос казва, че това политическо действие може да бъде аналогично на закон от 2008 г. в САЩ, който не позволява на застрахователите и работодателите да използват генетичната информация на хората по дискриминационен начин. Той също така се притеснява за последиците от декодера за хора със заболявания като обсесивно-компулсивно разстройство, които могат да изпитат нежелани, натрапчиви мисли за нанасяне на вреда на хора, които никога не биха осъществили. Перейра смята, че въпросът за точността на декодерите е отворен, както и дали те биха могли да станат универсални, вместо да бъдат специфични за отделния човек. “Това зависи от това колко специфични са хората”, казва той. Въпреки че декодерът може да стане добър в предсказването на следващата дума от поредица, той може да се затрудни в тълкуването на метафори или сарказъм.

Повечето съществуващи технологии за преобразуване на мисъл в реч използват мозъчни импланти, които следят активността в моторната кора на човека и предвиждат думите, които устните се опитват да формулират. За да разберат действителния смисъл на мисълта, учените Александър Хът и Джери Танг от Тексаския университет в Остин и техните колеги комбинират функционалния магнитен резонанс (fMRI) - неинвазивно средство за измерване на мозъчната активност - с алгоритми на изкуствения интелект, наречени големи езикови модели (LLM), които са в основата на инструменти като ChatGPT и са обучени да предсказват следващата дума в даден текст.

След това записват дейността на участниците с fMRI, докато те слушат история, представят си, че разказват история, или гледат филм, който не съдържа диалог. Използвайки комбинация от моделите, които преди това са кодирали за всеки човек, и алгоритми, които определят как едно изречение вероятно ще бъде конструирано в зависимост от други думи в него, изследователите се опитват да декодират тази нова мозъчна активност.

Специалистите по невроетика са раздвоени дали най-новият напредък представлява заплаха за менталната неприкосновеност на хората. “Не призовавам към паника, но развитието на сложни неинвазивни технологии като тази, изглежда, е по-близо на хоризонта, отколкото очаквахме”, казва биоетикът Габриел Лазаро-Муньос от Харвардското медицинско училище в Бостън. “Мисля, че това е голям сигнал за пробуждане на политиците и обществеността”, добавя той.

Това е ефектът от първия неинвазивен метод за определяне на същността на въображаемата реч. Това е възможно чрез скенер на мозъка и изкуствен интелект за декодиране на мислите на хората. Доколко обаче технологията, която засега е само средно точна, е близо до постигането на истинско четене на мисли? И как политиците могат да гарантират, че с подобни разработки няма да се злоупотребява?