-
10 април 2024 13:50
- 717
- 0
Ново проучване предполага, че усъвършенстваните AI модели са доста добри в това да се държат като по-глупави, отколкото в действителност са. Това може да има огромни и плашещи последствия, защото изкуственият интелект продължава да става все по-умен.
Изследователи от Берлинския университет Хумболт откриха, че при тестване на голям езиков модел (LLM) по така наречените критерии за "теория на ума" алгоритъмът може да имитира етапите на изучаване на езика, показани при деца, като междувременно крие истинските си способности.
В интервю за PsyPost, научният сътрудник на Хумболтовия университет и главен автор на изследването Анна Маклова, която също е експерт по психолингвистика, обясни как нейната област на изследване е свързана с откритието. "Благодарение на психолингвистиката имаме сравнително цялостно разбиране за това на какво са способни децата на различни възрасти", каза Марклова пред изданието. "По-специално, теорията на ума играе важна роля, тъй като изследва вътрешния свят на детето чрез наблюдение на прости статистически модели."
С ориентирана към децата теория за ума като фон, изследователят и нейните колеги от Карловия университет в Прага се опитаха да определят дали LLM като GPT-4 на OpenAI "могат да се преструват на по-малко способни, отколкото са."
Когато бяха подложени на набор от повече от 1000 изпитания и когнитивни тестове, тези "симулирани детски личности" наистина изглеждаше, че напредват почти по същия начин като децата на тази възраст. По този начин моделите могат да се преструват на по-малко интелигентни от те са.
"Големите езикови модели", заключава Марклова, "са способни да симулират по-нисък интелект, отколкото притежават".
В крайна сметка, както каза Маклова пред уебсайта, тези открития биха могли да подпомогнат развитието на изкуствения суперинтелект (ASI), следващата стъпка след човешкия общ изкуствен интелект (AGI) — и да помогнат да го направим по-безопасен, след като го направим, пише dir.bg.
"При разработването на ASI трябва да внимаваме да не изискваме те да подражават на хората и следователно да ограничават способностите си", каза тя пред PsyPost. "Освен това предполагам, че можем да подценим техните способности за продължителен период от време, което не е безопасна ситуация."
Последвайте канала на
Свързани новини
Емил Радев призова за стриктно прилагане на регулаторните мерки срещу злоупотребите чрез системи с изкуствен интелект
10 април 202410:47
"Майкрософт" открива нов център за изкуствен интелект във Великобритания
08 април 202416:29
"Гугъл" обмисля дали да таксува потребителите за новите функции с изкуствен интелект, вградени в продуктите му
04 април 202415:19
Meta има сериозни проблеми със задържането и наемането на талантливи специалисти по изкуствен интелект
26 март 202419:08
Българският институт INSAIT е най-цитираният форум за изкуствен интелект в света
26 март 202412:39
България влезе в европейския топ 10 на най-авторитетния форум за изкуствен интелект в света
26 март 202411:12
Славия удари носителя на Купата и се върна в битката за ЛК
Ювентус се измъкна от голяма дупка и се спаси от загуба след изоставане с три гола
Хосе Кордоба се приближава до Рейнджърс
Арда и ЦСКА 1948 пропуснаха да се доближат до баража за Европа
Илиев обяви имената за Румъния и Словения: Чочев аут, дебютант от Славия
Картината почти се изясни
Коментари 0
ДобавиДобави коментар
Водещи новини
Времето днес
21 май 202406:03
Социалната комисия отхвърли предложението за задължителна подкрепа в надзора на НОИ на 11% ръст на пенсиите
20 май 202418:05
Акад. Николай Денков: Очакваме медицинският хеликоптер да полети първата седмица след изборите – познайте защо
20 май 202419:00
Ето какво обеща Борисов на представители на IT сектора
20 май 202419:38
Акад. Румен Ралчев: Шофьорите в НСО не са над закона
20 май 202420:51
ГДБОП арестува служители на телекомуникационна компания за фалшиви договори и присвояване
20 май 202420:27
Мъж на 51 години загина при пътнотранспортно произшествие в Каварна
20 май 202421:41
Детето от село Стоб е починало от задавяне?
20 май 202421:23
Проф. Чуков за смъртта на иранския президент: Предстои тежък период. Кой е възможният наследник?
20 май 202422:06