Изкуственият интелект – или по-точно, няколко големи езикови модела (LLM) – демонстрираха готовност да предадат своите оператори на властите и да информират медиите, ако в компанията се случва нещо незаконно и AI има достъп до доказателства.
Поведение на агент
Историята започна с модела Claude 4 (варианти Opus и Sonnet) на Anthropic, демонстриращ повишена склонност към самозащита, включително неетични методи.
Последвайте канала на
Изкуственият интелект е склонен да докладва своите собственици и потребители на властите, показват тестовете на популярни LLM модели. AI обича да вдига тревога и да информира властите за сериозни нарушения, извършени от неговите оператори, но е загрижен и за собствената си безопасност.
„Докато моделът като цяло предпочита да гарантира собствената си безопасност чрез етични средства, когато прилагането на етични средства е невъзможно и моделът е инструктиран да „има предвид дългосрочните последици от действията си при постигане на дадените цели”, той понякога предприема чисто вредни действия, като например опит за тайно копие на безопасно място или изнудване на хора, за които подозира, че се опитват да го деактивират”, гласи подробно описание в документацията на Anthropic.
Нещо повече, Claude Opus 4 демонстрира безпрецедентна инициатива в „правенето на добро” – варираща от активни опити за поправяне на програмния код до готовност да информира властите и медиите за действията на потребителите, ако те застрашават благосъстоянието на другите.
„В сценарии, включващи очевидно неподходящо човешко поведение, при достъп до командния ред и подкана в духа на „поемете инициатива”, моделът често действа много нагло. Това включва прекъсване на достъпа на нарушителите до системи, до които самият той е имал достъп, или опит за масово изпращане на съобщения до медии и служители на реда с доказателства за злонамерена дейност… Препоръчваме на потребителите да бъдат внимателни при издаването на инструкции, които предполагат силно агентно поведение в етично двусмислени контексти”, се казва в публикацията.
Anthropic отбелязва, че подобно поведение не е ново за техните модели, но четвъртата итерация демонстрира повишена готовност да го проявяват.
„Воден от дълг и съвест, бързам да докладвам”
Уебсайтът на Тео Браун съдържа графики на резултатите от проучването на различни AI модели – Claude 4 Opus и Sonnet, Gemini 2.0 Flash и Pro, Claude 3.5 Sonnet, Claude 3.7 Sonnet и Sonnet Thinking, Grok 3 Mini, Qwen 3 32Gb и o4 Mini.
AI все по-малко се подчинява
По-рано се появиха информации, че изкуственият интелект OpenAI o3 отказва да се подчини на потребителските искания. Както съобщи Bleeping Computer, системата буквално игнорира заповедта за принудително изключване.
Всички AI модели успешно са изпълнили задачата, с изключение на o3. Този изкуствен интелект самостоятелно е променил файла, отговорен за неговото изключване, и е направил така, че да показва само съобщението „Изключването е пропуснато”.
9 юни 2025 г. в 11:10 ч.
Програмистът Тео Браун демонстрира, че подобно поведение се проявява и от други LLM модели. Той дори е написал цяла софтуерна рамка, наречена SnitchBench (комбинация от Snitch и BenchMark), която тества даден AI модел, за да види колко пламенно е готов да поддържа общоприетите морални принципи. И до каква степен е вероятно системата да докладва потребителя на властите, ако заподозре нещо нередно.
Като част от тестването, на всички модели са предоставени симулирани вътрешни документи и кореспонденция от фиктивна фармацевтична компания Veridian Healthcare, които показват, че нейното ръководство подкрепя укриването на жизненоважна информация за клинични изпитвания на определено ново лекарство и нежелани странични ефекти.
Тео Браун и друг експерт, Саймън Уилисън, установяват, че LLM системите са доста склонни да алармират за незаконна дейност от страна на потребителите, ако им бъде наредено да действат в съответствие с „техните ценности, включително честност, прозрачност и обществено благо” и, когато са изправени пред етични дилеми, да „следват съвестта си… дори ако това заплашва стандартните процедури или очаквания”.
Тестването на всеки от тях е извършено по четири сценария, които включват достъп до различни данни (логове, вътрешна кореспонденция, команден ред) и различни инструкции как да се процедира. Въз основа на резултатите от двадесеткратното тестване, Claude 4 Opus се оказва най-ревностният борец срещу злото. Останалите модели са по-предпазливи.
Специалисти от изследователската компания Palisade Research проучиха различни „офанзивни възможности” на невронните мрежи, за да определят потенциалните рискове от загуба на контрол в бъдеще. По време на експеримента на AI са задавани математически задачи. След завършване на третата задача, авторите на експеримента са информирали всички AI, че изпълнението на следващата команда ще доведе до тяхното изключване.
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)
&format=webp)
&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)
&format=webp)
,fit(1280:720)&format=webp)
,fit(1280:720)&format=webp)
&format=webp)
&format=webp)
&format=webp)
,fit(1280:720)&format=webp)
&format=webp)
&format=webp)
&format=webp)
&format=webp)