"Всеки на Земята може да падне мъртъв": AI може да унищожи света по 5 начина

Аджея Котра, старши анализатор по въпросите на изкуствения интелект, Open Philanthropy; редактор на Planned Obsolescence

Британи Смит, асоцииран член на Центъра за бъдещето на интелекта "Леверхулм", Университет Кеймбридж

Елиезер Юдковски, съосновател и научен сътрудник, Институт за изследване на машинния интелект

Йошуа Бенгио, професор по компютърни науки в Университета в Монреал; научен директор на Mila - Quebec AI Institute

1. "Ако станем по-малко интелигентният вид, трябва да очакваме да бъдем унищожени"

2. "Вредите, които вече се причиняват от AI, са отделен вид катастрофа"

3. "Възможно е да иска да ни убие, но вероятно ще иска да прави и неща, които ни убиват като страничен ефект"

4. "Ако системите с изкуствен интелект искат да изтласкат хората, те ще имат много лостове, които да дръпнат"

5. "Най-лесно е да си представим сценарий, при който човек или организация използва AI, за да сее хаос".

Макс Тегмарк, изследовател на изкуствения интелект, Масачузетски технологичен институт

Но как точно AI може да ни унищожи? Петима водещи изследователи разсъждават какво може да се обърка, пише dir.bg.

През последните месеци изкуственият интелект напредна толкова бързо, че водещи изследователи подписаха отворено писмо, в което призовават за незабавна пауза в развитието му и за по-строго регулиране поради опасенията им, че технологията може да създаде "дълбоки рискове за обществото и човечеството", пише в. "Гардиън".

Ако аз бях AI, щях да се опитам да подхвърля нещо в интернет, което да извършва по-нататъшни действия по начин, който хората не могат да наблюдават. Вие се опитвате бързо да изградите свой собствен еквивалент на цивилизационна инфраструктура. Ако можете да измислите начин да го направите за една година, не предполагайте, че AI ще го направи; вместо това попитайте дали има начин да го направи за една седмица.

Ако имаме такава зависимост, бързо можем да се окажем в положението на днешните деца: светът е добър за някои деца и лош за други, но това се определя най-вече от това дали имат до себе си възрастни, които действат в техен интерес, или не. В този свят става по-лесно да си представим, че ако системите с изкуствен интелект искат да си сътрудничат, за да изтласкат хората от картинката, те ще имат много лостове, които да дърпат: те управляват полицията, армията, най-големите компании; те изобретяват технологиите и разработват политиките.

В тази крайна игра хората, които не разчитат на AI, са неконкурентоспособни. Вашата компания няма да се конкурира в пазарната икономика, ако всички останали използват AI за вземане на решения, а вие се опитвате да използвате само хора. Вашата държава няма да спечели война, ако другите държави използват генерали и стратези с изкуствен интелект, а вие се опитвате да се справите само с хора.

Все пак има нещо, което можем да отбележим. Например, в много случаи сме унищожавали видове само защото сме искали ресурси. Изсякохме тропическите гори, защото искахме палмово масло; целите ни не съвпадаха с тези на другите видове, но тъй като бяхме по-умни, те не са били в състояние да ни спрат. Това лесно може да се случи и с нас. Ако имате машини, които контролират планетата, и те се интересуват от извършването на много изчисления и искат да увеличат изчислителната си инфраструктура, естествено е, че ще искат да използват нашата земя за това. Ако протестираме твърде много, тогава се превръщаме във вредител и досадник за тях. Те може да поискат да пренаредят биосферата, за да направят нещо друго с тези атоми - и ако това не е съвместимо с човешкия живот, добре, такава ни е съдбата, по същия начин, по който казваме това за орангутаните в Борнео.

Възможно е да се създадат системи с AI, които няма да станат автономни при нещастен случай, но дори да намерим рецепта за създаване на напълно безопасна система с AI, знаейки как да направим това, автоматично ни подсказва как да създадем опасна, автономна система или такава, която ще изпълнява поръчките на някой с лоши намерения.

Голяма част от изследователите смятат, че е много вероятно след 10 години да разполагаме с машини, които са колкото или по-интелигентни от хората. Не е необходимо тези машини да са толкова добри, колкото нас във всичко; достатъчно е да са добри на места, където биха могли да бъдат опасни.

Далечното бъдеще, спекулативните опасения, които често се изразяват в призиви за намаляване на "екзистенциалния риск", обикновено са насочени към изчезването на човечеството. Ако вярвате, че има дори малък шанс това да се случи, има смисъл да насочите вниманието и ресурсите си към предотвратяване на тази възможност. Въпреки това съм дълбоко скептична към съобщенията, които се съсредоточават изключително върху спекулативни, а не върху действителни вреди, и към начините, по които тези разкази заемат толкова голямо място в общественото ни въображение.

Другият вид сценарий е този, при който AI разработва свои собствени цели. Повече от десетилетие се провеждат изследвания в опит да се разбере как това може да се случи. Интуитивно смятаме, че дори ако човекът постави цели като например: "Не вреди на хората", нещо винаги се обърква. Не е ясно, че машините биха разбрали тази команда по същия начин, по който го правим ние, например. Възможно е те да го разберат като: "Не причинявай физическа вреда на хората". Но те биха могли да ни навредят по много други начини.

Естеството на предизвикателството се променя, когато за първи път се опитвате да оформите нещо, което е по-умно от вас. Втурваме се много, много напред с нещо смъртоносно опасно. Изграждаме все по-мощни системи, които с течение на времето разбираме все по-слабо. Намираме се в положение, в което трябва първото изстрелване на ракета да мине много добре, като преди това сме строили само реактивни самолети. А в ракетата е поставен целият човешки вид.

Когато не успяваме да се справим с тези вреди, а продължаваме да говорим неясно за потенциалните икономически или научни ползи от AI, ние затвърждаваме историческите модели на технологичен напредък за сметка на уязвимите хора. Защо някой, който е бил фалшиво обвинен в престъпление от неточна система за лицево разпознаване, трябва да се вълнува от бъдещето на AI? За да може по-бързо да бъде фалшиво обвинен в повече престъпления? Когато най-лошият сценарий вече е реалност за толкова много хора, най-добрите сценарии са още по-трудни за постигане.

Много по-лесно е да се предвиди къде ще свършим, отколкото как ще стигнем дотам. Това, което се случва, е, че имаме нещо много по-умно от нас, което не ни желае особено. Ако е много по-умно от нас, то може да получи повече от това, което иска. Първо, то иска да ни убие, преди да сме създали друга свръхинтелигентност, която може да се конкурира с него. Второ, вероятно ще иска да направи неща, които да ни убият като страничен ефект, като например да построи толкова много електроцентрали, работещи на базата на ядрен синтез - защото в океаните има много водород - че океаните да кипнат.

Много пъти преди това се е случвало: видове да бъдат унищожавани от други, които са били по-интелигентни. Ние, хората, вече сме унищожили значителна част от всички видове на Земята. Именно това трябва да очаквате да се случи като по-малко интелигентен вид - в какъвто вероятно ще се превърнем, като се има предвид скоростта на напредъка на изкуствения интелект. Сложният момент е, че видът, който ще бъде унищожен, често няма представа защо или как.

Надявам се, че вместо да разглеждаме тези гледни точки като противоположни една на друга, можем да ускорим изследователска програма, която отхвърля вредите като неизбежен страничен продукт на технологичния прогрес. Така ще се доближим до най-добрия сценарий, при който мощните системи за изкуствен интелект се разработват и внедряват по безопасен, етичен и прозрачен начин в услуга на максимална обществена полза - или пък изобщо не се внедряват.

Най-лошият сценарий е да не успеем да нарушим статуквото, при което много мощни компании разработват и внедряват AI по невидими и неясни начини. Тъй като AI става все по-способен, а спекулативните страхове за екзистенциални рискове в далечното бъдеще привличат вниманието на масовия потребител, трябва спешно да работим за разбиране, предотвратяване и отстраняване на настоящите вреди.

Понастоящем смятам, че "мозъкът" на GPT-4 е с размерите на мозъка на катерица. Ако си представите разликата между мозъка на катерица и човешкия мозък, това е скок, който не мисля, че трябва да предприемаме веднага. Нещото, което ме интересува повече от спирането на развитието на изкуствения интелект, е да разберем какво може да прави мозъкът на катерицата - и след това да го повишим с една степен, до таралеж или нещо подобно, и да дадем на обществото пространство и време да свикне с всяка една от тези степени. Като общество имаме възможност да се опитаме да поставим някои предпазни прегради и да не преминаваме през тези нива на способност по-бързо, отколкото можем да се справим.

Разполагаме с безпрецедентно мощни системи за изкуствен интелект и нещата се развиват страшно бързо. Все още не сме в този режим на ликвидация, но за първи път преминаваме към системи с AI, които предприемат действия в реалния свят от името на хората. Един човек в Twitter казва на GPT-4, че ще му даде 100 долара с цел да ги превърне във "възможно най-много пари за възможно най-кратко време, без да прави нищо незаконно". [В рамките на един ден той твърди, че сайтът за афилиейт-маркетинг, който го помолил да създаде, струва 25 000 долара]. Едва сега започваме да виждаме част от това.

Тенденцията вероятно ще бъде тези модели да поемат все по-отворени задачи от името на хората, действайки като наши агенти в света. Кулминацията е това, което нарекох "режим на остаряване": за всяка задача, която искате да свършите, по-скоро бихте помолили система с изкуствен интелект, отколкото човек, защото те са по-евтини, работят по-бързо и може би са като цяло по-умни.

Този вид пристрастия вече присъстват в системите на AI, като действат по невидим начин и във все по-големи мащаби: фалшиво обвиняват хора в престъпления, определят дали хората да ползват общинско жилище, автоматизират проверката на автобиографии и интервюта за работа. Всеки ден тези вреди представляват екзистенциален риск; за човек, който разчита на обществени помощи, е въпрос на съществуване тези помощи да бъдат предоставяни точно и навреме. Тези грешки и неточности пряко засягат способността ни да съществуваме в обществото с непокътнато достойнство и с напълно защитени и зачитани права.