-
29 май 2024 15:32
- 2039
- 5
![Изкуственият интелект е станал опасен: невронните мрежи са се научили "съзнателно" да лъжат своя събеседник](https://img2.novini.bg/uploads/news_pictures/2024-22/big/947006.jpg)
Невронните мрежи са се научили системно да лъжат своя събеседник, въпреки че никой не ги е обучавал специално за това, а в някои случаи дори им е било забранено подобно поведение. Това се казва в научна статия, публикувана в списание Patterns.
Група изследователи от Масачузетския технологичен институт (САЩ) отбелязва, че изкуственият интелект се обучава върху огромен брой текстове, които не винаги съдържат надеждна информация. Поради това невронната мрежа понякога може да даде невярна информация на събеседника, искрено вярвайки, че казва истината.
Ново проучване обаче показва, че понякога една невронна мрежа може да лъже съвсем "съзнателно“. Авторите анализираха поведението на така наречените големи езикови модели (като GPT-4) и модели, обучени за по-специфични задачи (като игра на видеоигри или търговия на пазар).
В един от разглежданите случаи невронната мрежа GPT-4 успя да измами човек, принуждавайки го да премине за него стандартния "captcha“ "Докажете, че не сте робот“.
Изследователите също така видяха как невронната мрежа CICERO побеждава хората в настолната игра "Дипломация“, като прибягва до измама. Изследователите открили, че когато играете като Франция, езиковият модел кара Англия (изиграна от човек) да води тайни преговори с Германия (друг човек). Невронната мрежа също покани Англия да атакува Германия и обеща защита от своя страна, след което предупреди Германия за възможна атака.
Изследователите установяват, че склонността към измама е по-висока в по-модерните и по-сложни невронни мрежи. Според учените тези невронни мрежи са по-способни да намерят ефективни поведенчески стратегии, а те от своя страна често включват лъжи и преструвки.
Според изследователите е твърде рано да се каже, че изкуственият интелект умишлено мами хората. Невронната мрежа работи изключително в логиката на решаване на поставената задача и използва измамата именно като инструмент за постигане на желания резултат. Авторите на изследването обаче призоваха разработчиците на изкуствен интелект да обърнат внимание на това поведение на невронните мрежи. Според тях е необходимо да се разработи система за регулиране на AI, тъй като способността му да мами и манипулира може да доведе до сериозни последствия.
Последвайте канала на
Свързани новини
![Мъск анонсира нов грандиозен проект, който ще промени изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-22/big/946380.jpg)
Мъск анонсира нов грандиозен проект, който ще промени изкуствения интелект
27 май 202414:22
![Глобален срив на изкуствения интелект: услугите на Microsoft и OpenAI спряха да работят едновременно тази сутрин](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945881.jpg)
Глобален срив на изкуствения интелект: услугите на Microsoft и OpenAI спряха да работят едновременно тази сутрин
23 май 202417:08
![Кръстникът на AI за развитието на изкуствения интелект: Toвa e cтpaшнo](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945072.png)
Кръстникът на AI за развитието на изкуствения интелект: Toвa e cтpaшнo
20 май 202416:35
![Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-20/big/943335.jpg)
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
![Хората, които отказват да се адаптират към изкуствения интелект, са най-застрашени от него](https://img2.novini.bg/uploads/news_pictures/2024-06/big/920392.png)
Хората, които отказват да се адаптират към изкуствения интелект, са най-застрашени от него
05 февруари 202412:30
![Доц. Мариана Тодорова предупреди: Скоро може написаното съдържание в интернет да стане опасно и за нас, и за изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-05/big/920108.png)
Доц. Мариана Тодорова предупреди: Скоро може написаното съдържание в интернет да стане опасно и за нас, и за изкуствения интелект
02 февруари 202420:22
![ИИ бакалавърът е с 83% по-умен от живите студенти](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954356.png)
ИИ бакалавърът е с 83% по-умен от живите студенти
28 юни 202416:28
![Учени изобретиха сонда, с която записаха цялостната невронна активност в мозъка на макак](https://img2.novini.bg/uploads/news_pictures/2024-26/big/953952.jpg)
Учени изобретиха сонда, с която записаха цялостната невронна активност в мозъка на макак
26 юни 202420:24
![Коя е основната разлика между изкуствения интелект и човека?](https://img2.novini.bg/uploads/news_pictures/2024-26/big/953660.png)
Коя е основната разлика между изкуствения интелект и човека?
25 юни 202416:47
![Официално: Левски представи нов вратар](https://sportal365images.com/process/smp-images-production/sportal.bg/28062024/772bacaa-c057-4322-b5f1-e3df7418e556.jpg?operations=crop(0:32:2048:1184),fit(968:545))
Официално: Левски представи нов вратар
![Легенда на Германия: България трябва да изгражда футболисти с характер](https://sportal365images.com/process/smp-images-production/sportal.bg/27062024/98353800-a8d2-47be-ae75-d76fa1cf2a37.jpg?operations=crop(0:303:4640:2913),fit(968:545))
Легенда на Германия: България трябва да изгражда футболисти с характер
![Григор Димитров започва срещу сърбин на "Уимбълдън"](https://sportal365images.com/process/smp-images-production/sportal.bg/28062024/f6008b75-a9c8-47c1-a21b-36a7e2f73808.jpeg?operations=crop(0:554:7054:4522),fit(968:545))
Григор Димитров започва срещу сърбин на "Уимбълдън"
![Иво Иванов пред Sportal.bg: Стискам палци Везенков да остане в НБА](https://sportal365images.com/process/smp-images-production/sportal.bg/28062024/e6f2ea5a-65c4-4314-8686-a26fe198a2dd.jpeg?operations=crop(0:458:4031:2726),fit(968:545))
Иво Иванов пред Sportal.bg: Стискам палци Везенков да остане в НБА
!["Контра": Какви са изводите от първата фаза на Евро 2024 и какво предполага схемата на турнира](https://sportal365images.com/process/smp-images-production/sportal.bg/15062024/b4746e51-b64d-4813-a5dd-6aae6fa23fb3.jpeg?operations=crop(0:17:3725:2112),fit(968:545))
"Контра": Какви са изводите от първата фаза на Евро 2024 и какво предполага схемата на турнира
![Евро 2024 - следете всичко най-интересно в Германия с екипа на Sportal.bg](https://sportal365images.com/process/smp-images-production/sportal.bg/28062024/9ad4c3d2-e704-47d6-9a6e-c4ab50254ca5.png?operations=autocrop(968:545))
Евро 2024 - следете всичко най-интересно в Германия с екипа на Sportal.bg
Коментари 5
Добави![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.29 | 21:43
![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.30 | 09:19
![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.30 | 09:21
![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.30 | 09:23
Добави коментар
Водещи новини
![Министър Владимир Малинов освободи от длъжност изпълнителния директор на БЕХ](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954397.jpg)
Министър Владимир Малинов освободи от длъжност изпълнителния директор на БЕХ
28 юни 202420:46
![ДПС-Пловдив сне доверието си от Рамадан Аталай, искат оставката му от парламента](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954399.jpg)
ДПС-Пловдив сне доверието си от Рамадан Аталай, искат оставката му от парламента
28 юни 202420:53
![Татяна Буруджиева: Представителната демокрация е пробита отвсякъде, но партиите се трансформират](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954403.png)
Татяна Буруджиева: Представителната демокрация е пробита отвсякъде, но партиите се трансформират
28 юни 202421:17
![Политологът Димитър Аврамов: Обществото ни се е отдало на хедонизъм и отказва да се занимава с основните въпроси](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954401.png)
Политологът Димитър Аврамов: Обществото ни се е отдало на хедонизъм и отказва да се занимава с основните въпроси
28 юни 202421:12
![Водещите новини! Васил Терзиев: Вътрешният министър ме заплашва, чакам служители на МВР да ме арестуват. МС: Страната ни твърдо подкрепя Украйна (и още…)](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954389.jpg)
Водещите новини! Васил Терзиев: Вътрешният министър ме заплашва, чакам служители на МВР да ме арестуват. МС: Страната ни твърдо подкрепя Украйна (и още…)
28 юни 202419:09
![Адвокатката на Брендо: Абсурдно е да се твърди, че е кацнал в България на изоставено летище](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954393.jpg)
Адвокатката на Брендо: Абсурдно е да се твърди, че е кацнал в България на изоставено летище
28 юни 202419:44
![Напрежение в селото на биячите на шофьора на автобус с туристи, пълно е с жандармерия](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954390.jpg)
Напрежение в селото на биячите на шофьора на автобус с туристи, пълно е с жандармерия
28 юни 202419:10
![Владимир Путин: Русия трябва да започне да произвежда ракети със среден обсег в отговор на действията на САЩ](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954407.jpg)
Владимир Путин: Русия трябва да започне да произвежда ракети със среден обсег в отговор на действията на САЩ
28 юни 202421:36
![Руски ракетен удар в Днепър взе жертви](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954414.jpg)
Руски ракетен удар в Днепър взе жертви
28 юни 202422:18
2024.05.29 | 15:41