-
10 април 2024 13:50
- 757
- 1
Ново проучване предполага, че усъвършенстваните AI модели са доста добри в това да се държат като по-глупави, отколкото в действителност са. Това може да има огромни и плашещи последствия, защото изкуственият интелект продължава да става все по-умен.
Изследователи от Берлинския университет Хумболт откриха, че при тестване на голям езиков модел (LLM) по така наречените критерии за "теория на ума" алгоритъмът може да имитира етапите на изучаване на езика, показани при деца, като междувременно крие истинските си способности.
В интервю за PsyPost, научният сътрудник на Хумболтовия университет и главен автор на изследването Анна Маклова, която също е експерт по психолингвистика, обясни как нейната област на изследване е свързана с откритието. "Благодарение на психолингвистиката имаме сравнително цялостно разбиране за това на какво са способни децата на различни възрасти", каза Марклова пред изданието. "По-специално, теорията на ума играе важна роля, тъй като изследва вътрешния свят на детето чрез наблюдение на прости статистически модели."
С ориентирана към децата теория за ума като фон, изследователят и нейните колеги от Карловия университет в Прага се опитаха да определят дали LLM като GPT-4 на OpenAI "могат да се преструват на по-малко способни, отколкото са."
Когато бяха подложени на набор от повече от 1000 изпитания и когнитивни тестове, тези "симулирани детски личности" наистина изглеждаше, че напредват почти по същия начин като децата на тази възраст. По този начин моделите могат да се преструват на по-малко интелигентни от те са.
"Големите езикови модели", заключава Марклова, "са способни да симулират по-нисък интелект, отколкото притежават".
В крайна сметка, както каза Маклова пред уебсайта, тези открития биха могли да подпомогнат развитието на изкуствения суперинтелект (ASI), следващата стъпка след човешкия общ изкуствен интелект (AGI) — и да помогнат да го направим по-безопасен, след като го направим, пише dir.bg.
"При разработването на ASI трябва да внимаваме да не изискваме те да подражават на хората и следователно да ограничават способностите си", каза тя пред PsyPost. "Освен това предполагам, че можем да подценим техните способности за продължителен период от време, което не е безопасна ситуация."
Последвайте канала на
Свързани новини
Емил Радев призова за стриктно прилагане на регулаторните мерки срещу злоупотребите чрез системи с изкуствен интелект
10 април 202410:47
"Майкрософт" открива нов център за изкуствен интелект във Великобритания
08 април 202416:29
"Гугъл" обмисля дали да таксува потребителите за новите функции с изкуствен интелект, вградени в продуктите му
04 април 202415:19
Meta има сериозни проблеми със задържането и наемането на талантливи специалисти по изкуствен интелект
26 март 202419:08
Българският институт INSAIT е най-цитираният форум за изкуствен интелект в света
26 март 202412:39
България влезе в европейския топ 10 на най-авторитетния форум за изкуствен интелект в света
26 март 202411:12
Много битка, малко положения и без победител между Спартак и Левски
Официално: Левски продаде Пламен Андреев на Фейенорд
Генчев каза какво ще се случи в следващото гостуване и заяви: Не вкарахме, което е сигнал за нас
Крумовград взе глътка въздух с успех срещу последния Септември
Барселона показа страховита мощ и за малко да вкара десет гола
Холанд продължава да води Ман Сити към победите и да торпилира Премиър лийг с хеттрик след хеттрик
Коментари 1
ДобавиДобави коментар
Водещи новини
Километрична опашка от коли на границата с Гърция
31 август 202418:45
Верижна катастрофа на главния път между Бургас и Черноморец
31 август 202418:14
Близо 200 загинали в катастрофи за половин година, 4 хил. са ранените
31 август 202420:45
Илияна Йотова за скандалите в ДПС: Това е тревожен казус в навечерието на изборите
31 август 202420:30
Подгонихме милиард за избори: Колко струва неразбирателството на политиците
31 август 202420:36
В Плевен се състоя бдение в памет на 16-годишното момче, което почина след падане с електрическа тротинетка
31 август 202421:11
Обявиха причината за смъртта на стотици хиляди риби в залива на гръцкия град Волос
31 август 202419:45
Силна буря връхлетя Атина, наводнени са пътища
31 август 202421:26
Украинският министър на отбраната: Уволнението на командващия украинските ВВС няма връзка с катастрофата на F-16
31 август 202419:32
2024.05.25 | 07:46