-
10 април 2024 13:50
- 706
- 0
Ново проучване предполага, че усъвършенстваните AI модели са доста добри в това да се държат като по-глупави, отколкото в действителност са. Това може да има огромни и плашещи последствия, защото изкуственият интелект продължава да става все по-умен.
Изследователи от Берлинския университет Хумболт откриха, че при тестване на голям езиков модел (LLM) по така наречените критерии за "теория на ума" алгоритъмът може да имитира етапите на изучаване на езика, показани при деца, като междувременно крие истинските си способности.
В интервю за PsyPost, научният сътрудник на Хумболтовия университет и главен автор на изследването Анна Маклова, която също е експерт по психолингвистика, обясни как нейната област на изследване е свързана с откритието. "Благодарение на психолингвистиката имаме сравнително цялостно разбиране за това на какво са способни децата на различни възрасти", каза Марклова пред изданието. "По-специално, теорията на ума играе важна роля, тъй като изследва вътрешния свят на детето чрез наблюдение на прости статистически модели."
С ориентирана към децата теория за ума като фон, изследователят и нейните колеги от Карловия университет в Прага се опитаха да определят дали LLM като GPT-4 на OpenAI "могат да се преструват на по-малко способни, отколкото са."
Когато бяха подложени на набор от повече от 1000 изпитания и когнитивни тестове, тези "симулирани детски личности" наистина изглеждаше, че напредват почти по същия начин като децата на тази възраст. По този начин моделите могат да се преструват на по-малко интелигентни от те са.
"Големите езикови модели", заключава Марклова, "са способни да симулират по-нисък интелект, отколкото притежават".
В крайна сметка, както каза Маклова пред уебсайта, тези открития биха могли да подпомогнат развитието на изкуствения суперинтелект (ASI), следващата стъпка след човешкия общ изкуствен интелект (AGI) — и да помогнат да го направим по-безопасен, след като го направим, пише dir.bg.
"При разработването на ASI трябва да внимаваме да не изискваме те да подражават на хората и следователно да ограничават способностите си", каза тя пред PsyPost. "Освен това предполагам, че можем да подценим техните способности за продължителен период от време, което не е безопасна ситуация."
Последвайте канала на
Свързани новини
Емил Радев призова за стриктно прилагане на регулаторните мерки срещу злоупотребите чрез системи с изкуствен интелект
10 април 202410:47
"Майкрософт" открива нов център за изкуствен интелект във Великобритания
08 април 202416:29
"Гугъл" обмисля дали да таксува потребителите за новите функции с изкуствен интелект, вградени в продуктите му
04 април 202415:19
Meta има сериозни проблеми със задържането и наемането на талантливи специалисти по изкуствен интелект
26 март 202419:08
Българският институт INSAIT е най-цитираният форум за изкуствен интелект в света
26 март 202412:39
България влезе в европейския топ 10 на най-авторитетния форум за изкуствен интелект в света
26 март 202411:12
Сираков привика Костов, Боримиров каза какво е бъдещето на треньора
Официално: Гриша Ганчев и синът му Данаил се оттеглиха от ЦСКА - София, ето кой е новият собственик
Какво се случи на "Армията" в ерата "Ганчев"
Байерн (Мюнхен) се изправя срещу Реал Мадрид в сблъсъка на титаните
Ботев (Пловдив) готви голяма новина
Ратклиф е определил само трима играчи на Манчестър Юнайтед за непродаваеми
Коментари 0
ДобавиДобави коментар
Водещи новини
Частен инвеститор вдига свръхмодерна болница в София за 120 млн. лева
30 април 202415:35
Депутатите оставаха в сила алтернативния данък за бране на гъби и билки, 0% ДДС на хляба до края на годината
30 април 202417:23
Ген. Атанасов за казуса "Корал": Политическа борба с непозволени средства
30 април 202417:46
Бонев за ремонта на „Патриарх Евтимий“: Не сме излъгали столичани, тази предизборна закачка няма да хване дикиш
30 април 202417:52
Свързват столични квартали със Северната скоростна тангента
30 април 202416:48
Още една от стените на АМ "Струма" пред срутване
30 април 202417:09
BMW засече автобус 76 на бул. „Цариградско шосе“
30 април 202415:31
Киев си върна важен остров
30 април 202416:35
13-годишно дете е убито при нападението в Лондон
30 април 202415:14