-
10 април 2024 13:50
- 712
- 0
Ново проучване предполага, че усъвършенстваните AI модели са доста добри в това да се държат като по-глупави, отколкото в действителност са. Това може да има огромни и плашещи последствия, защото изкуственият интелект продължава да става все по-умен.
Изследователи от Берлинския университет Хумболт откриха, че при тестване на голям езиков модел (LLM) по така наречените критерии за "теория на ума" алгоритъмът може да имитира етапите на изучаване на езика, показани при деца, като междувременно крие истинските си способности.
В интервю за PsyPost, научният сътрудник на Хумболтовия университет и главен автор на изследването Анна Маклова, която също е експерт по психолингвистика, обясни как нейната област на изследване е свързана с откритието. "Благодарение на психолингвистиката имаме сравнително цялостно разбиране за това на какво са способни децата на различни възрасти", каза Марклова пред изданието. "По-специално, теорията на ума играе важна роля, тъй като изследва вътрешния свят на детето чрез наблюдение на прости статистически модели."
С ориентирана към децата теория за ума като фон, изследователят и нейните колеги от Карловия университет в Прага се опитаха да определят дали LLM като GPT-4 на OpenAI "могат да се преструват на по-малко способни, отколкото са."
Когато бяха подложени на набор от повече от 1000 изпитания и когнитивни тестове, тези "симулирани детски личности" наистина изглеждаше, че напредват почти по същия начин като децата на тази възраст. По този начин моделите могат да се преструват на по-малко интелигентни от те са.
"Големите езикови модели", заключава Марклова, "са способни да симулират по-нисък интелект, отколкото притежават".
В крайна сметка, както каза Маклова пред уебсайта, тези открития биха могли да подпомогнат развитието на изкуствения суперинтелект (ASI), следващата стъпка след човешкия общ изкуствен интелект (AGI) — и да помогнат да го направим по-безопасен, след като го направим, пише dir.bg.
"При разработването на ASI трябва да внимаваме да не изискваме те да подражават на хората и следователно да ограничават способностите си", каза тя пред PsyPost. "Освен това предполагам, че можем да подценим техните способности за продължителен период от време, което не е безопасна ситуация."
Последвайте канала на
Свързани новини
Емил Радев призова за стриктно прилагане на регулаторните мерки срещу злоупотребите чрез системи с изкуствен интелект
10 април 202410:47
"Майкрософт" открива нов център за изкуствен интелект във Великобритания
08 април 202416:29
"Гугъл" обмисля дали да таксува потребителите за новите функции с изкуствен интелект, вградени в продуктите му
04 април 202415:19
Meta има сериозни проблеми със задържането и наемането на талантливи специалисти по изкуствен интелект
26 март 202419:08
Българският институт INSAIT е най-цитираният форум за изкуствен интелект в света
26 март 202412:39
България влезе в европейския топ 10 на най-авторитетния форум за изкуствен интелект в света
26 март 202411:12
Ман Сити излезе на върха седмица преди края на сезона, навакса и по голова разлика
11-те на Арда и Ботев (Пловдив), "канарчетата" без част от основните си играчи
Венци Стефанов: Георги Иванов трябва да удари по масата, още е много добър
Лудогорец излиза за спечелване на титлата в люто дерби с ЦСКА - София
Ботев (Пд): Категорично подчертаваме, че отборът няма никакво намерение да напуска стадион „Христо Ботев“
Четири мача дават началото на 32-ия кръг във Втора лига
Коментари 0
ДобавиДобави коментар
Водещи новини
Тленните останки на цар Фердинанд I ще бъдат пренесени в България
11 май 202414:00
България може да разчита на спешна медицинска помощ по въздух
11 май 202413:27
Медици с искане: Децата без задължителни ваксини да не могат да посещават училище
11 май 202413:53
Бойко Борисов в Бургас: В блатото сме, България няма посока!
11 май 202412:00
Николай Рашков официално стартира кампанията си за евроизборите в Пловдив
11 май 202414:15
Откриха 13-годишното момче от Хасково, обявено за общодържавно издирване
11 май 202414:24
В София се опитват да направят най-дългото хоро
11 май 202413:41
Преподавател по военно дело: Украинците ще успеят да спрат руснаците, но няма да е лесно
11 май 202415:35
Русия заяви, че е превзела пет села в Харковска област
11 май 202415:43