-
29 май 2024 15:32
- 2058
- 5
![Изкуственият интелект е станал опасен: невронните мрежи са се научили "съзнателно" да лъжат своя събеседник](https://img2.novini.bg/uploads/news_pictures/2024-22/big/947006.jpg)
Невронните мрежи са се научили системно да лъжат своя събеседник, въпреки че никой не ги е обучавал специално за това, а в някои случаи дори им е било забранено подобно поведение. Това се казва в научна статия, публикувана в списание Patterns.
Група изследователи от Масачузетския технологичен институт (САЩ) отбелязва, че изкуственият интелект се обучава върху огромен брой текстове, които не винаги съдържат надеждна информация. Поради това невронната мрежа понякога може да даде невярна информация на събеседника, искрено вярвайки, че казва истината.
Ново проучване обаче показва, че понякога една невронна мрежа може да лъже съвсем "съзнателно“. Авторите анализираха поведението на така наречените големи езикови модели (като GPT-4) и модели, обучени за по-специфични задачи (като игра на видеоигри или търговия на пазар).
В един от разглежданите случаи невронната мрежа GPT-4 успя да измами човек, принуждавайки го да премине за него стандартния "captcha“ "Докажете, че не сте робот“.
Изследователите също така видяха как невронната мрежа CICERO побеждава хората в настолната игра "Дипломация“, като прибягва до измама. Изследователите открили, че когато играете като Франция, езиковият модел кара Англия (изиграна от човек) да води тайни преговори с Германия (друг човек). Невронната мрежа също покани Англия да атакува Германия и обеща защита от своя страна, след което предупреди Германия за възможна атака.
Изследователите установяват, че склонността към измама е по-висока в по-модерните и по-сложни невронни мрежи. Според учените тези невронни мрежи са по-способни да намерят ефективни поведенчески стратегии, а те от своя страна често включват лъжи и преструвки.
Според изследователите е твърде рано да се каже, че изкуственият интелект умишлено мами хората. Невронната мрежа работи изключително в логиката на решаване на поставената задача и използва измамата именно като инструмент за постигане на желания резултат. Авторите на изследването обаче призоваха разработчиците на изкуствен интелект да обърнат внимание на това поведение на невронните мрежи. Според тях е необходимо да се разработи система за регулиране на AI, тъй като способността му да мами и манипулира може да доведе до сериозни последствия.
Последвайте канала на
Свързани новини
![Мъск анонсира нов грандиозен проект, който ще промени изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-22/big/946380.jpg)
Мъск анонсира нов грандиозен проект, който ще промени изкуствения интелект
27 май 202414:22
![Глобален срив на изкуствения интелект: услугите на Microsoft и OpenAI спряха да работят едновременно тази сутрин](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945881.jpg)
Глобален срив на изкуствения интелект: услугите на Microsoft и OpenAI спряха да работят едновременно тази сутрин
23 май 202417:08
![Кръстникът на AI за развитието на изкуствения интелект: Toвa e cтpaшнo](https://img2.novini.bg/uploads/news_pictures/2024-21/big/945072.png)
Кръстникът на AI за развитието на изкуствения интелект: Toвa e cтpaшнo
20 май 202416:35
![Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-20/big/943335.jpg)
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
![Хората, които отказват да се адаптират към изкуствения интелект, са най-застрашени от него](https://img2.novini.bg/uploads/news_pictures/2024-06/big/920392.png)
Хората, които отказват да се адаптират към изкуствения интелект, са най-застрашени от него
05 февруари 202412:30
![Доц. Мариана Тодорова предупреди: Скоро може написаното съдържание в интернет да стане опасно и за нас, и за изкуствения интелект](https://img2.novini.bg/uploads/news_pictures/2024-05/big/920108.png)
Доц. Мариана Тодорова предупреди: Скоро може написаното съдържание в интернет да стане опасно и за нас, и за изкуствения интелект
02 февруари 202420:22
![ИИ бакалавърът е с 83% по-умен от живите студенти](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954356.png)
ИИ бакалавърът е с 83% по-умен от живите студенти
28 юни 202416:28
![Учени изобретиха сонда, с която записаха цялостната невронна активност в мозъка на макак](https://img2.novini.bg/uploads/news_pictures/2024-26/big/953952.jpg)
Учени изобретиха сонда, с която записаха цялостната невронна активност в мозъка на макак
26 юни 202420:24
![Коя е основната разлика между изкуствения интелект и човека?](https://img2.novini.bg/uploads/news_pictures/2024-26/big/953660.png)
Коя е основната разлика между изкуствения интелект и човека?
25 юни 202416:47
![Испания не трепна от лошото начало и уверено стигна до мечтания четвъртфинал с Германия](https://sportal365images.com/process/smp-images-production/sportal.bg/30062024/be0724b0-5408-471f-8acd-7ec2585a3f86.jpg?operations=crop(6:698:6677:4450),fit(968:545))
Испания не трепна от лошото начало и уверено стигна до мечтания четвъртфинал с Германия
![Магически гол на Белингам спаси Англия на Саутгейт от шокиращо отпадане от Словакия](https://sportal365images.com/process/smp-images-production/sportal.bg/30062024/39a2a85b-6a1e-47f3-b9d9-73aec18e5fa0.jpg?operations=crop(0:222:4452:2726),fit(968:545))
Магически гол на Белингам спаси Англия на Саутгейт от шокиращо отпадане от Словакия
![Ръсел спечели в Австрия, издънка за Верстапен, който провали състезанието на Норис](https://sportal365images.com/process/smp-images-production/sportal.bg/30062024/aadeafff-256c-4370-9cc1-3d3ad65e6fc1.jpg?operations=crop(0:74:1024:650),fit(968:545))
Ръсел спечели в Австрия, издънка за Верстапен, който провали състезанието на Норис
![Франция се пребори с Япония и спечели Лигата на нациите](https://sportal365images.com/process/smp-images-production/sportal.bg/30062024/ddc4a622-240f-4fa4-8492-fc0e1ea13944.jpg?operations=crop(0:11:673:390),fit(968:545))
Франция се пребори с Япония и спечели Лигата на нациите
![Генчев се преклони пред Гунди и Котков, Левски поднесе венец](https://sportal365images.com/process/smp-images-production/sportal.bg/30062024/b71b10f2-ab87-4898-adf6-63fec6f96133.jpg?operations=crop(0:0:3238:1821),fit(968:545))
Генчев се преклони пред Гунди и Котков, Левски поднесе венец
![Всичко за Евро 2024 от 30 юни](https://sportal365images.com/process/smp-images-production/sportal.bg/30062024/8b877cec-6bfd-4e29-a48f-c1940c34d46a.png?operations=autocrop(968:545))
Всичко за Евро 2024 от 30 юни
Коментари 5
Добави![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.29 | 21:43
![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.30 | 09:19
![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.30 | 09:21
![](https://novini.bg/statics/assets/img/icon_0.jpg)
2024.05.30 | 09:23
Добави коментар
Водещи новини
![Патриархът: Много е важно да се въведе предметът "Религия и православие" в училищата](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954565.jpg)
Патриархът: Много е важно да се въведе предметът "Религия и православие" в училищата
30 юни 202419:56
![Първото слово на Даниил: Със съзнанието за своето недостойнство приемам кръста на патриаршеското служение](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954553.jpg)
Първото слово на Даниил: Със съзнанието за своето недостойнство приемам кръста на патриаршеското служение
30 юни 202417:05
![Румен Радев: Изборът на патриарх идва в момента на изпитания и смут за цялото човечество](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954556.jpg)
Румен Радев: Изборът на патриарх идва в момента на изпитания и смут за цялото човечество
30 юни 202417:23
![Вселенския патриарх Вартоломей: Открива се нова епоха](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954555.jpg)
Вселенския патриарх Вартоломей: Открива се нова епоха
30 юни 202417:32
![Игуменът на Гигинския манастир обяви, че напуска БПЦ](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954552.png)
Игуменът на Гигинския манастир обяви, че напуска БПЦ
30 юни 202416:52
![Председателят на Съюза на военноинвалидите и военнопострадалите припадна на интронизацията на патриарха](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954551.jpg)
Председателят на Съюза на военноинвалидите и военнопострадалите припадна на интронизацията на патриарха
30 юни 202416:41
![Атанас Запрянов: Очакваме 57 млн. евро в замяна на помощта за Украйна](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954567.png)
Атанас Запрянов: Очакваме 57 млн. евро в замяна на помощта за Украйна
30 юни 202420:28
![Атанасов за охраната на Борисов: Има ли риск мандатоносителят да е подложен на натиск](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954562.png)
Атанасов за охраната на Борисов: Има ли риск мандатоносителят да е подложен на натиск
30 юни 202419:10
!["Да, България" с поредица от мерки за подобряване работата в коалицията с ПП](https://img2.novini.bg/uploads/news_pictures/2024-26/big/954560.jpg)
"Да, България" с поредица от мерки за подобряване работата в коалицията с ПП
30 юни 202418:46
2024.05.29 | 15:41